Gemini Nano는 Google DeepMind가 개발한 Google의 Gemini 계열 멀티모달 대규모 언어 모델의 소형 변형 모델이다. 2023년 12월 6일, 더 큰 모델인 Gemini Pro 및 Gemini Ultra와 함께 발표되었다. 클라우드 기반 모델과 달리 Gemini Nano는 온디바이스 작업을 위해 특별히 설계되어, 인터넷 연결 없이도 스마트폰 및 기타 하드웨어에서 인공지능 기능을 로컬로 실행할 수 있게 한다. 이러한 설계는 효율성, 개인정보 보호, 낮은 지연 시간을 우선시하여, 기기에서 직접 텍스트 요약, 스마트 답장 제안, 문법 교정과 같은 애플리케이션에 적합하다.
LaMDA 및 PaLM 2와 같은 이전 모델을 계승한 광범위한 Gemini 이니셔티브의 일환으로, Gemini Nano는 생성형 AI 기능을 소비자 하드웨어에 내장하려는 Google의 전략적 추진을 대표한다. 이 모델은 신경망 압축 및 최적화의 발전을 활용하여 모바일 기기의 메모리 및 전력 제약 내에서 작동할 수 있다. 그 도입은 업계의 엣지 AI로의 전환에 중요한 단계를 의미하며, 원격 서버에 대한 의존도를 줄이고 데이터 개인정보 보호 및 연결성에 대한 우려를 해결했다.
개발 및 설계
Gemini Nano의 개발은 2023년 5월 10일 Google I/O 기조 연설에서 Google CEO 순다르 피차이가 공개적으로 발표한 더 큰 Gemini 프로젝트의 일부로 시작되었다. 이 프로젝트는 Google Brain과 DeepMind가 Google DeepMind라는 단일 부서로 합병된 이후의 공동 노력이었다. DeepMind CEO 데미스 허사비스는 Gemini가 AlphaGo와 같은 이전 시스템의 강점과 고급 언어 처리 기능을 결합할 것이라고 강조했다. 팀은 텍스트, 이미지, 오디오, 비디오 및 코드를 처리할 수 있는 본질적으로 멀티모달인 모델을 만드는 것을 목표로 했지만, Gemini Nano는 특히 경량 온디바이스 추론에 최적화되었다.
온디바이스 기능을 달성하기 위해 Google 엔지니어들은 모델 양자화 및 지식 증류와 같은 기술을 사용하여 모델 크기를 줄이면서 핵심 기능을 유지했다. 이 모델은 기계 학습 워크로드를 위해 설계된 맞춤형 하드웨어 가속기인 Google의 Tensor Processing Units(TPU)에서 훈련되었다. 2023년 8월 The Information의 초기 보도에 따르면 Google은 2023년 말 출시를 목표로 하고 있었으며, Google Brain과 DeepMind의 수백 명의 엔지니어가 이 작업에 기여했다. 특히, Google 공동 창업자 세르게이 브린은 이 프로젝트를 돕기 위해 은퇴에서 복귀했으며, 이후 핵심 기여자로 인정받았다.
출시 및 초기 통합
Gemini Nano는 2023년 12월 6일 피차이와 허사비스가 주도한 가상 기자 회견에서 공식적으로 소개되었다. 출시 당시 Pixel 8 Pro 스마트폰에 통합되어 모델의 첫 상업적 배포를 기록했다. Pixel 8 Pro는 Gemini Nano를 사용하여 통화 스크리닝, 메시지 제안, Recorder 앱의 온디바이스 요약과 같은 기능을 구동했다. Google은 이 모델이 클라우드 기반 서비스를 위한 더 강력한 Gemini Pro 및 Ultra 모델과 구별되는 "온디바이스 작업"을 위해 설계되었다고 밝혔다. 처음에 Gemini Nano는 영어로만 제공되었으며, Google은 광범위한 배포 전에 광범위한 안전 테스트가 필요하다고 강조했다.
같은 행사에서 Google은 Gemini Nano를 Android 개발자에게 제공하여 타사 앱이 온디바이스 AI 기능을 활용할 수 있도록 한다고 발표했다. 이 움직임은 Search, Chrome 및 Workspace를 포함한 Google의 제품 생태계 전반에 Gemini를 내장하려는 광범위한 전략의 일부였다. 이 출시는 OpenAI의 ChatGPT 및 기타 대규모 언어 모델과의 치열한 경쟁 속에서 이루어졌으며, Google은 Gemini를 GPT-4에 대한 직접적인 도전자로 포지셔닝했다.
하드웨어 파트너십 및 확장
2024년 1월, Google은 삼성전자와 협력하여 Gemini Nano를 Galaxy S24 스마트폰 라인업에 통합했다. 이 협력은 실시간 번역, 생성형 사진 편집, 키보드 스마트 답장을 포함한 온디바이스 AI 기능을 더 넓은 사용자층에 제공했다. 이 파트너십은 삼성이 세계 최대 스마트폰 제조업체 중 하나이기 때문에 Gemini Nano의 기능에 대한 중요한 검증으로 간주되었다. 통합에는 Qualcomm 및 Samsung Exynos 프로세서를 사용하는 삼성 하드웨어에 맞게 모델을 최적화하기 위한 Google과 삼성 간의 긴밀한 협력이 필요했다.
2024년 후반, Google은 Gemini Nano의 범위를 스마트폰 너머로 확장했다. 2024년 5월 14일 Google I/O 컨퍼런스에서 회사는 데스크톱 최적화 버전의 Gemini Nano를 Google Chrome 브라우저에 직접 통합할 계획을 발표했다. "Built-in AI"라는 브랜드의 이 이니셔티브는 Prompt API(때때로 "window.ai"라고도 함)와 같은 실험적 API를 통해 웹 개발자에게 로컬 처리 기능을 노출했다. 이를 통해 웹사이트는 데이터를 원격 서버로 보내지 않고도 텍스트 요약 및 콘텐츠 생성과 같은 작업을 수행할 수 있어 개인정보 보호를 강화하고 지연 시간을 줄였다.
기술적 기능 및 사용 사례
Gemini Nano는 온디바이스에서 다양한 자연어 처리 작업을 처리하도록 설계되었다. 일반적인 사용 사례로는 긴 문서나 메시지를 더 짧은 형태로 압축하는 텍스트 요약, 메시징 앱에서 상황에 맞는 응답을 생성하는 스마트 답장, 입력된 텍스트의 정확성을 개선하는 문법 교정이 있다. 이 모델은 또한 수신 전화를 분석하고 실시간 제안을 제공하는 통화 스크리닝과 높은 정확도로 음성을 텍스트로 변환하는 전사와 같은 기능도 지원한다.
Gemini Nano의 주요 장점 중 하나는 오프라인에서 작동할 수 있어 네트워크 액세스가 없어도 AI 기능이 계속 작동하도록 보장한다는 점이다. 이는 사용자 데이터를 클라우드 서버로 전송할 필요가 없기 때문에 개인정보 보호에 민감한 애플리케이션에서 특히 중요하다. 모델의 작은 크기는 또한 배터리 제약이 있는 모바일 기기에 중요한 전력 소비를 줄인다. 그러나 그 기능은 더 복잡한 추론과 멀티모달 입력을 처리할 수 있는 Gemini Pro와 같은 더 큰 모델에 비해 더 제한적이다.
다른 온디바이스 모델과의 비교
Gemini Nano는 온디바이스 AI 모델의 경쟁적인 환경에 진입했다. Apple은 자체 온디바이스 AI 기능을 개발했으며, 종종 Core ML 프레임워크에 통합되지만 일반적으로 더 좁게 초점을 맞추고 있다. Qualcomm 및 기타 칩 제조업체는 이러한 모델을 가속화하도록 설계된 신경 처리 장치(NPU)도 도입했다. 더 넓은 AI 업계에서 Meta와 같은 회사는 로컬 하드웨어에서 실행할 수 있는 LLaMA 2와 같은 더 작은 오픈 소스 모델을 탐색했지만, 이러한 모델은 모바일 기기에 특별히 최적화되지는 않았다.
Google의 Gemini Nano 접근 방식은 모델을 Android 운영 체제 및 Pixel 하드웨어와 긴밀하게 통합한다는 점에서 이러한 노력과 다르다. 이러한 수직적 통합은 원활한 사용자 경험과 기기 간 일관된 성능을 가능하게 한다. 또한 Google과 삼성의 파트너십은 Gemini Nano를 Android 생태계의 온디바이스 AI 표준으로 확립하는 데 도움이 되었으며, 잠재적으로 향후 하드웨어 설계에 영향을 미칠 수 있다.
영향 및 평가
Gemini Nano의 도입은 개인정보 보호나 성능을 손상시키지 않으면서 유용한 AI 기능을 제공하는 능력을 칭찬한 기술 저널리스트와 분석가들로부터 긍정적인 평가를 받았다. 초기 사용자들은 온디바이스 처리가 클라우드 기반 대안에 비해 응답 시간을 크게 줄였다고 언급했다. 그러나 일부 비평가들은 모델의 기능이 더 큰 시스템에 비해 제한적이며, 많은 사용자가 일상적인 작업에서 차이를 인지하지 못할 수 있다고 지적했다.
전략적 관점에서 Gemini Nano는 클라우드와 엣지 컴퓨팅을 모두 강조한 Google의 광범위한 AI 전략의 핵심 구성 요소를 대표했다. Nano에서 Ultra까지 다양한 모델을 제공함으로써 Google은 경량 모바일 앱에서 엔터프라이즈 규모 데이터 처리에 이르는 다양한 사용 사례를 해결하는 것을 목표로 했다. 이 모델은 또한 ChatGPT 및 GitHub Copilot으로 상당한 시장 점유율을 확보한 OpenAI 및 Microsoft와 경쟁하려는 Google의 노력에 기여했다.
향후 개발
초기 출시 이후 Google은 Gemini Nano를 계속 개선했다. 2024년 12월, 회사는 실시간 오디오 및 비디오 상호 작용의 개선 사항을 포함한 Gemini 2.0 Flash Experimental을 발표했지만, 이는 특별히 온디바이스 모델은 아니었다. 2025년 현재 Google은 Gemini Nano의 전용 후속 모델을 출시하지 않았지만, 모델 압축 및 효율적인 아키텍처에 대한 지속적인 연구는 향후 버전이 낮은 리소스 요구 사항을 유지하면서 향상된 기능을 제공할 것임을 시사한다. Chrome 및 Android에 온디바이스 AI를 통합한 것은 Google이 엣지 컴퓨팅을 장기적 우선 순위로 보고 있으며, 증강 현실 및 자율 시스템과 같은 분야에서 잠재적 응용 가능성이 있음을 나타낸다.
같이 보기
- Gemini
- Google DeepMind
- 순다르 피차이
- 데미스 허사비스
- 대규모 언어 모델
- 인공지능
- Android
- 삼성전자
- Google Cloud
- Vertex AI
- Bard
- ChatGPT
- GPT-4
- PaLM 2
- AlphaGo
- 신경망
- 딥러닝
- 기계 학습
- 트랜스포머
- 생성형 AI