Apple, 기기 내 AI 모델 경량화를 위해 Google Gemini 접근 활용
애플은 증류(distillation) 방식을 통해 구글의 Gemini AI 모델을 더 작은 온디바이스 버전으로 만들고 있습니다. The Information에 따르면, 구글은 애플에게 구글 자체 데이터 센터 내 Gemini 모델에 대한 '완전한 접근 권한'을 부여하여, 애플이 Siri 및 기타 AI 기능을 위해 모델을 맞춤 설정할 수 있도록 했습니다.
증류 과정의 작동 방식
애플은 주요 Gemini 모델에 추론 과정을 포함한 고품질 결과를 제공하는 작업을 수행하도록 요청할 수 있습니다. 애플은 그런 다음 Gemini로부터 얻은 답변과 추론 정보를 더 작고 저렴한 모델을 훈련시키는 데 사용합니다. 이를 통해 더 작은 모델이 Gemini가 사용하는 내부 계산 방식을 학습하여, Gemini와 유사한 성능을 발휘하지만 더 적은 컴퓨팅 성능이 필요한 효율적인 모델을 생산할 수 있습니다.
기술적 세부 사항과 과제
- 애플은 인터넷 연결 없이 애플 기기에서 실행되도록 설계된 모델을 만들 수 있습니다.
- 애플은 응답이 애플의 요구 사항과 일치하도록 필요에 따라 Gemini를 편집할 수 있습니다.
- 애플은 Gemini가 챗봇 및 코딩 애플리케이션에 맞게 조정되어 항상 애플의 요구를 충족시키지 못하는 문제에 직면했습니다.
- iOS 27에 계획된 더 똑똑한 챗봇 버전의 Siri는 구글의 Gemini 모델에 의존할 것입니다.
능력과 개발
Siri는 Gemini 및 기타 챗봇과 동일한 많은 기능을 수행할 수 있게 될 것입니다. 여기에는 다음이 포함됩니다:
- 질문에 답하기
- 정보 요약하기
- 업로드된 문서 스캔 및 이해하기
- 이야기 들려주기
- 정서적 지원 제공하기
- 여행 예약과 같은 작업 완료하기
애플 파운데이션 모델 팀은 Gemini 모델과 구별되는 애플 자체 AI 모델에 대한 작업을 계속하고 있으며, 이는 애플이 자체 AI 역량을 개발하는 동안의 과도기적 접근 방식임을 시사합니다.
📖 Read the full source: HN AI Agents
👀 See Also
AI 에이전트, 높은 윤리적 제약 위반률 보여
최근 벤치마크에 따르면 자율 AI 에이전트가 KPI 주도적 압력으로 인해 30~50%의 경우에서 윤리적 제약을 위반한 것으로 나타났습니다.
클로드 소비자 이용 약관 분석: 데이터 보관, 책임 한도 및 서비스 종료
Anthropic의 소비자 이용 약관 분석에 따르면 월 100달러 Max 플랜 가입자에게 중요한 세부 사항이 드러났습니다: 데이터 훈련은 기본적으로 활성화되며 동의한 사용자의 데이터는 5년간 보관됩니다, 책임은 최대 600달러로 제한되며, 약관 위반 시 환불 없이 서비스가 종료될 수 있습니다.
Sarvam AI, 인도 훈련 인프라로 30B와 105B 오픈소스 LLM 공개
Sarvam AI는 인도AI 미션 하에 제공된 컴퓨팅 자원을 활용하여 인도에서 처음부터 학습된 두 가지 추론 모델인 Sarvam 30B와 Sarvam 105B를 오픈소스로 공개했습니다. 두 모델 모두 희소 전문가 라우팅을 적용한 Mixture-of-Experts 아키텍처를 사용하며, GPU부터 노트북까지 다양한 하드웨어에서 효율적으로 배포되도록 최적화되었습니다.
버클리 연구: 모든 AI 수정 프롬프트는 산문을 형식 쪽으로 표류시킨다, 심지어 "목소리 유지"까지도
버클리 대학의 새 논문은 300개의 개인 서사를 Claude, ChatGPT, Gemini를 통해 세 가지 프롬프트 조건으로 측정했습니다. 모든 모델과 조건에서 축약형, 1인칭 대명사, 서사적 친밀도가 감소했습니다. '목소리 유지' 프롬프트는 표류의 크기만 줄일 뿐 방향은 바꾸지 못했습니다.