구글은 아무도 요청하지 않았지만 모두가 시도해보고 싶은 새로운 앱을 출시했습니다.
5월 31일에 조용히 출시된 AI 엣지 갤러리는 인공지능을 직접 스마트폰에 탑재하여 - 클라우드, 인터넷, 빅테크 서버와 데이터를 공유하지 않고 사용할 수 있습니다.
Apache 2.0 라이선스로 출시된 이 실험적 앱은 GitHub에서 안드로이드 플랫폼부터 시작하여 사용 가능합니다. iOS 버전은 곧 출시될 예정입니다.
구글의 Gemma 3n과 같은 모델을 완전히 오프라인으로 실행하며, 이미지 분석부터 코드 작성까지 휴대폰 하드웨어만을 사용하여 처리합니다.
그리고 놀랍도록 좋습니다.
현재 개발자를 대상으로 하는 이 앱은 세 가지 주요 기능을 포함하고 있습니다: AI 채팅, 이미지 분석, 텍스트 재작성과 같은 단일 작업을 위한 프롬프트 랩.
사용자는 허깅 페이스와 같은 플랫폼에서 모델을 다운로드할 수 있지만, 선택은 Gemma-3n-E2B 및 Qwen2.5-1.5 B와 같은 형식으로 제한됩니다.
레딧 사용자들은 즉시 앱의 혁신성에 의문을 제기하며 PocketPal과 같은 기존 솔루션과 비교했습니다.
일부는 보안 우려를 제기했지만, 구글의 공식 GitHub에 호스팅된 앱은 사칭 주장을 반박합니다. 아직 멀웨어의 증거는 발견되지 않았습니다.
삼성 갤럭시 S24 울트라에서 앱을 테스트했으며, 가장 크고 작은 Gemma 3 모델을 모두 다운로드했습니다.
각 AI 모델은 모든 "지식"을 포함하는 자체 포함 파일입니다 - 로컬 위키피디아 앱과 같은 사실의 거대한 데이터베이스가 아니라 훈련 중에 학습한 모든 것의 압축된 스냅샷을 다운로드하는 것과 같습니다. 앱 내 가장 큰 Gemma 3 모델은 약 4.4GB이고, 가장 작은 모델은 약 554MB입니다.
다운로드 후에는 추가 데이터가 필요하지 않으며 - 모델은 장치에서 완전히 실행되어 출시 전에 학습한 내용만을 사용하여 질문에 답하고 작업을 수행합니다.
저속 CPU 추론에서도 경험은 GPT-3.5 출시 당시와 일치했습니다: 대용량 모델로는 매우 빠르지는 않지만 확실히 사용 가능합니다.
작은 Gemma 3 1B 모델은 초당 20토큰 이상의 속도를 달성하여 감독 하에 안정적인 정확성으로 원활한 경험을 제공했습니다.
이는 오프라인이거나 구글 또는 OpenAI의 학습 알고리즘과 공유하고 싶지 않은 민감한 데이터를 처리할 때 중요합니다.
(번역은 계속됩니다. 전체 텍스트를 번역하겠습니다.)
