맥킨지의 릴리(Lilli) 사례는 기업 AI 시장에 핵심 발전 방향을 제시합니다: 엣지 컴퓨팅 + 소형 모델의 잠재적 시장 기회. 10만 건의 내부 문서를 통합한 이 AI 어시스턴트는 70%의 직원 채택률을 달성했을 뿐만 아니라 평균 주당 17회 사용되어, 이러한 제품 점착성은 기업 도구에서 매우 드문 경우입니다. 다음은 제 생각입니다:
1) 기업 데이터 보안은 핵심 문제입니다: 맥킨지의 100년 축적된 핵심 지식 자산과 일부 중소기업이 축적한 특정 데이터는 매우 높은 데이터 민감성을 가지고 있어 공용 클라우드에서 처리할 수 없습니다. "데이터가 로컬을 벗어나지 않으면서 AI 능력을 저하시키지 않는" 균형 상태를 탐색하는 것이 실제 시장의 절실한 요구사항입니다. 엣지 컴퓨팅이 하나의 탐색 방향입니다;
2) 전문 소형 모델이 범용 대형 모델을 대체할 것입니다: 기업 사용자가 필요로 하는 것은 "수십억 개의 매개변수를 가진 만능" 범용 모델이 아니라 특정 영역의 문제에 정확히 답할 수 있는 전문 어시스턴트입니다. 대형 모델의 범용성과 전문성 사이에는 본질적인 모순이 있으며, 기업 환경에서는 소형 모델을 더 중요하게 여깁니다;
3) 자체 AI 인프라와 API 호출의 비용 균형: 엣지 컴퓨팅과 소형 모델의 조합은 초기 투자가 크지만 장기 운영 비용이 크게 감소합니다. 45,000명의 직원이 고주파로 사용하는 AI 대형 모델이 API 호출에서 비롯된다면, 이로 인한 의존성, 사용 규모, 평론의 증가는 대중소 기업이 자체 AI 인프라를 구축하는 것을 합리적인 선택으로 만들 것입니다;
4) 엣지 하드웨어 시장의 새로운 기회: 대형 모델 훈련에는 고성능 GPU가 필수적이지만, 엣지 추론의 하드웨어 요구사항은 완전히 다릅니다. 퀄컴, 미디어텍 등 칩 제조업체가 엣지 AI에 최적화된 프로세서는 시장 기회를 맞이하고 있습니다. 모든 기업이 자신만의 "릴리"를 만들고 싶어할 때, 저전력, 고효율로 설계된 엣지 AI 칩은 기반 시설의 필수품이 될 것입니다;
5) 탈중앙화 웹3 AI 시장도 동시에 강화됩니다: 기업이 소형 모델의 해시레이트, 미세 조정, 알고리즘 등에 대한 수요가 촉발되면, 리소스 조정의 균형을 어떻게 맞출 것인가가 문제가 될 것입니다. 전통적인 중앙화된 리소스 조정은 어려움에 직면할 것이며, 이는 웹3 AI 탈중앙화 소형 모델 미세 조정 네트워크, 탈중앙화 해시레이트 서비스 플랫폼 등에 큰 시장 수요를 가져올 것입니다;
시장이 AGI의 범용 능력 경계에 대해 논의하는 동안, 많은 기업 사용자들이 이미 AI의 실용적 가치를 발굴하고 있다는 점이 더욱 반갑습니다. 분명히, 과거의 해시레이트와 알고리즘을 경쟁하는 자원 독점적 도약과 비교하여, 시장이 엣지 컴퓨팅 + 소형 모델 방식에 중점을 둘 때 더 큰 시장 활력을 가져올 것입니다.
