Apple, 기기 내 AI 모델 경량화를 위해 Google Gemini 접근 활용
애플은 증류(distillation) 방식을 통해 구글의 Gemini AI 모델을 더 작은 온디바이스 버전으로 만들고 있습니다. The Information에 따르면, 구글은 애플에게 구글 자체 데이터 센터 내 Gemini 모델에 대한 '완전한 접근 권한'을 부여하여, 애플이 Siri 및 기타 AI 기능을 위해 모델을 맞춤 설정할 수 있도록 했습니다.
증류 과정의 작동 방식
애플은 주요 Gemini 모델에 추론 과정을 포함한 고품질 결과를 제공하는 작업을 수행하도록 요청할 수 있습니다. 애플은 그런 다음 Gemini로부터 얻은 답변과 추론 정보를 더 작고 저렴한 모델을 훈련시키는 데 사용합니다. 이를 통해 더 작은 모델이 Gemini가 사용하는 내부 계산 방식을 학습하여, Gemini와 유사한 성능을 발휘하지만 더 적은 컴퓨팅 성능이 필요한 효율적인 모델을 생산할 수 있습니다.
기술적 세부 사항과 과제
- 애플은 인터넷 연결 없이 애플 기기에서 실행되도록 설계된 모델을 만들 수 있습니다.
- 애플은 응답이 애플의 요구 사항과 일치하도록 필요에 따라 Gemini를 편집할 수 있습니다.
- 애플은 Gemini가 챗봇 및 코딩 애플리케이션에 맞게 조정되어 항상 애플의 요구를 충족시키지 못하는 문제에 직면했습니다.
- iOS 27에 계획된 더 똑똑한 챗봇 버전의 Siri는 구글의 Gemini 모델에 의존할 것입니다.
능력과 개발
Siri는 Gemini 및 기타 챗봇과 동일한 많은 기능을 수행할 수 있게 될 것입니다. 여기에는 다음이 포함됩니다:
- 질문에 답하기
- 정보 요약하기
- 업로드된 문서 스캔 및 이해하기
- 이야기 들려주기
- 정서적 지원 제공하기
- 여행 예약과 같은 작업 완료하기
애플 파운데이션 모델 팀은 Gemini 모델과 구별되는 애플 자체 AI 모델에 대한 작업을 계속하고 있으며, 이는 애플이 자체 AI 역량을 개발하는 동안의 과도기적 접근 방식임을 시사합니다.
📖 Read the full source: HN AI Agents
👀 See Also
보고서에 따르면 팔란티어 AI가 미군 전역에 통합될 예정입니다
한 보고서에 따르면 미군이 모든 군종에 걸쳐 팔란티어의 AI 기술을 내장할 계획이라고 합니다. 이 기사는 해커 뉴스에 게시되어 37점을 받고 24개의 댓글이 생성되었습니다.
Nvidia의 Nemotron 3 Super: 120B 파라미터 모델, 12B 활성 추론
Nvidia의 Nemotron 3 Super는 총 1200억 개의 파라미터를 갖추고 있지만 추론 시에는 120억 개의 파라미터만 활성화하여, 압축이 아닌 효율적인 라우팅을 통해 1200억 규모 모델의 지식을 약 120억 규모의 연산 비용으로 달성합니다.
영국 AI 투자 주장 검증 중: 가상 데이터센터와 확인되지 않은 자금
가디언의 조사 결과, 영국의 수십억 파운드 규모 AI 추진 계획에는 임대 데이터센터를 포함한 '유령 투자', 여전히 비계 야드로 운영되는 슈퍼컴퓨터 부지, 그리고 검증되지 않은 일자리 창출 주장이 포함되어 있는 것으로 드러났습니다.
ETH 취리히 연구, AI 코딩 에이전트를 위한 AGENTS.md 파일의 가치에 의문 제기
ETH 취리히의 새로운 연구에 따르면, LLM이 생성한 AGENTS.md 파일은 AI 에이전트의 작업 성공률을 3% 감소시키고 추론 비용을 20% 이상 증가시키는 반면, 인간이 작성한 파일은 유사한 비용 증가와 함께 4%의 미미한 성능 향상만 제공합니다.