구글 딜의 실체: 페데리기는 "전통적 챗봇 아키텍처" 슬라이드를 띄우고 애플 시스템 안에 들어간 구글 컨슈머 어시스턴트의 양은 "전혀 없다"고 했다. 제미나이 앱도, 구글이 서빙하는 모델도, 그라운딩용 구글 검색도 없다.
애플이 대신 돌리는 건 새 파운데이션 모델 5종이다. 온디바이스로 AFM 3 Core(3B dense)와 Core Advanced(20B sparse, 요청당 1~4B만 점화), 프라이빗 클라우드 컴퓨트에 AFM 3 Cloud와 Cloud Pro가 있다.
다만 구글은 세 단계에 관여한다. 프론티어 제미나이가 애플 모델을 정제하고, 애플이 구글 TPU로 학습하며, Cloud Pro는 구글 클라우드 안의 엔비디아 GPU에서 돈다. 애플이 맥에 엔비디아 GPU를 넣지 않은 지 약 10년인데, 이제 가장 무거운 Siri 추론이 엔비디아 실리콘에서 돈다.
구글 딜의 실체: 페데리기는 "전통적 챗봇 아키텍처" 슬라이드를 띄우고 애플 시스템 안에 들어간 구글 컨슈머 어시스턴트의 양은 "전혀 없다"고 했다. 제미나이 앱도, 구글이 서빙하는 모델도, 그라운딩용 구글 검색도 없다.
애플이 대신 돌리는 건 새 파운데이션 모델 5종이다. 온디바이스로 AFM 3 Core(3B dense)와 Core Advanced(20B sparse, 요청당 1~4B만 점화), 프라이빗 클라우드 컴퓨트에 AFM 3 Cloud와 Cloud Pro가 있다.
다만 구글은 세 단계에 관여한다. 프론티어 제미나이가 애플 모델을 정제하고, 애플이 구글 TPU로 학습하며, Cloud Pro는 구글 클라우드 안의 엔비디아 GPU에서 돈다. 애플이 맥에 엔비디아 GPU를 넣지 않은 지 약 10년인데, 이제 가장 무거운 Siri 추론이 엔비디아 실리콘에서 돈다.