"인터넷의 여왕" 으로 불리는 메리 미커는 매년 인터넷 트렌드 보고서를 발행하는 것으로 세계적으로 유명한 Bond Capital을 설립했습니다. 최근 BOND는 최신 "트렌드 - 인공지능" 보고서를 발간했는데, 이 보고서 는 340페이지 분량으로 AI 기술이 놀라운 속도로 세상을 어떻게 변화시키고 있는지를 심도 있게 보여줍니다.
이 글은 풍부한 내용을 담고 있는 보고서에 초점을 맞춘 세 편의 기사 중 두 번째입니다. 첫 번째 기사는 여기에서 확인 하실 수 있습니다.
AI 사용자 + 사용량 + 자본 지출 증가 = 전례 없는
소비자/사용자 AI의 전례 없는 도입:
놀라운 사용자 증가율: ChatGPT를 업계 벤치마크로 삼았을 때, 사용자 증가율은 경이적입니다. 단 17개월 만에 주간 활성 사용자가 8배 증가하여 무려 8억 명에 달했습니다.
이 수치는 AI 기술의 매력을 보여줄 뿐만 아니라, 대중 시장에 빠르게 침투할 수 있는 능력을 보여줍니다.
글로벌 동시 확산: 기술이 원래부터 전 세계로 점진적으로 확산되던 이전 패턴과는 달리, 이번 AI 열풍은 글로벌 동시 확산의 특징을 보여줍니다. 북미 이외 지역의 사용자 비율을 기준으로 인터넷 보급률이 90%에 도달하는 데 23년이 걸렸지만, ChatGPT는 비슷한 수준에 도달하는 데 불과 3년이 걸렸습니다. 이는 AI 기술의 글로벌한 특성과 빠른 확산 능력을 보여줍니다. 
인터넷 시대를 뛰어넘는 제품: ChatGPT를 인터넷 시대의 스타 제품들과 비교한다면, 그 사용자 확보 속도는 더욱 놀랍습니다. ChatGPT는 단 0.2년 만에 사용자 1억 명이라는 이정표를 달성했는데, 이는 TikTok, Instagram, Facebook 등의 성장 기적보다 훨씬 빠른 속도입니다.
파괴적 인수 비용: 포드 모델 T, 티보, 아이폰과 같은 역사적 기반 기술 제품과 비교했을 때, ChatGPT는 수백만 명의 사용자/고객에게 도달하는 속도 측면에서 훨씬 앞설 뿐만 아니라, 더 중요한 것은 초기 사용자 인수 비용이 거의 없다는 점입니다. 이러한 "무료 부가가치" 또는 저임계값 전략은 AI 기술의 대중화를 크게 가속화했습니다.
가구 보급률 가속화: 미국에서는 신기술 제품이 가구의 50% 보급률에 도달하는 데 걸리는 시간이 세대가 바뀔 때마다 절반으로 반감 되었습니다. AI 기술은 이러한 추세를 이어가거나 심지어 가속화할 것으로 예상됩니다. 보고서는 이러한 이정표에 도달하는 데 약 3년밖에 걸리지 않을 것으로 예측하며, 이는 사회생활의 모든 측면에 지대한 영향을 미칠 것입니다.
엔비디아 생태계는 급성장하고 있습니다. AI 해시레이트 의 핵심 공급업체로서 엔비디아의 생태계는 지난 4년간 폭발적인 성장을 경험했습니다. 엔비디아 생태계 내에서 GPU를 사용하는 개발자, AI 스타트업, 그리고 애플리케이션의 수는 모두 100% 이상 증가했습니다. 이는 AI 하드웨어를 중심으로 한 소프트웨어 및 애플리케이션 생태계가 빠르게 성장하고 있음을 보여줍니다.
기술 거대 기업들은 AI를 최우선 전략적 우선순위로 삼았습니다.
실적 발표 컨퍼런스 콜의 주요 내용: NVIDIA, C3.ai, Baidu부터 Google, Meta, IBM, Microsoft, Salesforce, Intel에 이르기까지 거의 모든 주요 기술 기업들이 실적 발표 컨퍼런스 콜에서 "AI"를 핵심 주제로 삼았으며, 언급 빈도도 크게 상승. 이는 자본 시장과 기업 경영진이 AI의 전략적 위치를 높게 평가하고 있음을 보여줍니다.
경영진의 공통된 비전: 아마존의 앤디 재시와 구글의 순다르 피차이 등 주요 기술 대기업의 리더들은 AI의 파괴적 잠재력에 대한 확고한 믿음을 공개적으로 표명하며, 이를 회사의 미래 발전을 위한 핵심 전략으로 보고 있습니다. 이들의 발언은 AI 기술의 광범위한 전망을 보여줄 뿐만 아니라, AI 분야 업계 리더들의 포부와 비전을 드러냅니다.
S&P 500 기업들의 주목: 기업 전체에서 AI의 영향력 또한 빠르게 확대되고 있습니다. S&P 500 기업들이 분기 실적 발표에서 "AI"를 언급하는 비율은 2015년 미미했지만 2024년 4분기에는 50%로 증가했습니다. 이는 AI가 틈새 기술 개념에서 벗어나 기업의 주요 의사 결정에 영향을 미치는 중요한 요소로 자리 잡았음을 보여줍니다.
글로벌 기업의 전략적 초점 변화: 글로벌 기업의 경우, 향후 2년간 생성적 AI를 활용하여 개선을 도모한다는 목표는 단순한 비용 절감보다는 제품/생산 효율성 향상, 고객 서비스 최적화, 판매 효율성 향상 등 매출 성장을 직접적으로 가져올 수 있는 분야에 더욱 집중될 것입니다. 이는 AI의 가치 창출 역량에 대한 기업의 기대를 반영합니다.
CMO 그룹의 적극적인 탐색: 마케팅 분야에서도 AI 활용이 인기를 얻고 있습니다. 전 세계 최고마케팅책임자(CMO)의 75%가 마케팅 효과와 소비자 통찰력 향상을 위해 AI 도구를 적극적으로 사용하거나 테스트하고 있다고 답했습니다.
금융, 의료 및 기타 산업 분야의 실제 사례: Bank of America의 Erica 가상 비서, JPMorgan Chase의 엔드투엔드 AI 현대화, Kaiser Permanente의 멀티모달 AI 스크라이브, Yum! Brands의 AI 기반 레스토랑 관리 플랫폼은 모두 금융, 의료, 케이터링과 같은 기존 산업에서 AI의 실질적인 적용과 가치 창출을 생생하게 보여줍니다.
교육, 정부, 연구 분야에서 AI의 적극적 통합:
도메인 간 AI 협력 및 응용: 애리조나 주립 대학의 AI 가속화 프로그램부터 옥스퍼드 대학과 OpenAI의 심층 협력, MIT와 하버드 등 최고 대학으로 구성된 NextGenAI 연합, 미국 연방 기관에 맞춰 구성된 ChatGPT Gov에 이르기까지, 모두 AI 기술이 교육, 정부, 과학 연구와 같은 핵심 분야로의 통합을 가속화하고 있음을 보여줍니다.
미국의 국립 연구소들도 AI를 활용해 핵 에너지와 사이버 보안 등 최첨단 과학 분야에서 획기적인 발전을 이루기 시작했습니다.
주권적 AI 정책의 부상: AI 기술의 전략적 중요성이 점점 더 부각됨에 따라, 전 세계 각국 정부 또한 AI 개발에 주도권을 잡기 위해 주권적 AI 정책에 더욱 관심을 기울이고 이를 수립 및 채택하기 시작했습니다. 엔비디아의 주권적 AI 파트너 프로그램이 전 세계적으로 시작되었습니다.
의료 분야에서 AI 승인 및 적용 가속화: 미국 식품의약국(FDA)에서 승인한 AI 의료기기의 수가 빠르게 증가하고 있으며, 이는 AI 기술이 의료 진단 및 치료 개선에 얼마나 큰 잠재력을 가지고 있는지를 보여줍니다. 동시에 FDA는 2025년 6월까지 모든 산하 기관에서 AI 활용을 촉진하겠다는 야심 찬 계획을 발표했습니다.
AI, 신약 개발 가속화 지원: Insilico Medicine과 Cradle과 같은 기업들은 신약 개발에 AI를 적용하는 데 앞장서고 있으며, 기존 의료 개발 기간을 30%에서 80%까지 단축하는 데 성공했습니다. Cradle의 GenAI 플랫폼은 전임상 연구 속도를 1.5배에서 12배까지 놀랍도록 향상시켜 신약 발굴 과정을 크게 가속화했습니다.
AI 사용의 전례 없는 성장 - 깊이와 폭의 확장:
연령대에 따른 AI 도입 현황: 미국에서는 ChatGPT와 같은 AI 도구 사용이 모든 연령대의 성인 사이에서 빠르게 증가하고 있습니다. 특히 18세에서 29세 사이의 젊은층이 가장 높은 사용률을 보이고 있으며, OpenAI의 창립자 샘 알트먼은 "젊은이들은 ChatGPT를 인생의 조언자로 여긴다"고 지적했습니다. 이는 AI가 다양한 세대에서 점점 더 중요한 역할을 하고 있음을 보여줍니다.
모바일 앱 참여도 급증: 미국 내 활성 사용자들이 ChatGPT 모바일 앱에서 사용하는 일일 시간이 단 21개월 만에 무려 202%나 증가했습니다. 동시에 사용자 세션 지속 시간과 사용자당 일일 세션 수 또한 상당한 증가 추세를 보였습니다.
높은 사용자 유지율은 AI의 강력한 접착력을 보여줍니다. ChatGPT의 데스크톱 사용자 유지율은 27개월 만에 약 50%에서 80%로 상승했으며, 이는 같은 기간 Google 검색의 유지율보다 훨씬 높습니다. 이는 AI 도구의 강력한 사용자 유지력과 대체 불가능성을 여실히 보여줍니다.
AI는 업무 효율성을 개선하는 데 도움이 됩니다. AI 챗봇을 사용하는 미국 성인 취업자의 72% 이상이 이러한 도구가 업무를 더 빠르고 더 잘 완료하는 데 큰 도움이 된다고 말합니다.
교육 분야에서 AI의 광범위한 적용: OpenAI가 미국 18~24세 학생을 대상으로 실시한 설문 조사에 따르면 ChatGPT는 학습과 연구를 위한 중요한 보조 도구가 되었으며, 주로 논문 작성, 브레인스토밍, 학술 연구 수행에 사용되는 것으로 나타났습니다.
"심층 연구" 기능의 등장: Google Gemini, OpenAI ChatGPT, xAI Grok과 같은 선도적인 AI 회사는 전문 분야에서 지식 습득 및 분석을 자동화하고 향상시키는 것을 목표로 "심층 연구" 기능을 갖춘 제품 기능을 출시했습니다.
AI 에이전트의 진화 - 응답에서 실행까지: AI 기술은 간단한 채팅 응답에서 보다 복잡한 작업 실행으로 변모하고 있으며, 점차 새로운 유형의 서비스 제공자로 진화하고 있습니다.
AI 에이전트는 사용자를 대신하여 추론하고, 조치를 취하고, 회의 예약, 보고서 제출 등 여러 단계로 구성된 복잡한 작업을 완료할 수 있습니다. "AI 에이전트"에 대한 시장의 관심은 급증했으며, 관련 Google 검색은 16개월 동안 1,000% 이상 증가했습니다. 동시에 Salesforce, Anthropic, OpenAI, Amazon과 같은 업계 선도 기업들도 자체 AI 에이전트 제품 출시를 가속화하고 있습니다.
일반 인공지능(AGI) - AI의 다음 영역: BOND 보고서는 일반 인공지능(AGI)의 엄청난 잠재력을 심층적으로 분석하고, AGI 달성 시점에 대한 전문가들의 예상이 상당히 앞당겨졌다고 지적합니다. AGI는 더 이상 먼 미래의 가상적인 종착점이 아니라, 점점 더 명확하고 달성 가능한 기술적 한계점으로 여겨집니다.
AGI가 달성되면 소프트웨어와 하드웨어의 역량을 완전히 새롭게 정의하게 될 것입니다.
자본 지출(CapEx)의 전례 없는 성장은 AI의 미래를 위한 기반을 마련합니다.
기술 기업 자본 지출의 역사적 변화: 지난 20년 동안 기술 기업의 자본 지출은 데이터 저장, 배포 및 컴퓨팅 수요의 증가에 따라 변동 및 상승. 초기 투자는 주로 인터넷 인프라 구축에 집중되었지만, 현 단계에서는 데이터 집약적인 인공지능 워크로드를 위한 해시레이트 향상에 중점을 두고 있습니다. 여기에는 GPU, TPU와 같은 특수 칩, 액체 냉각 기술, 최첨단 데이터 센터 설계에 대한 대규모 투자가 포함됩니다.
대형 기술 기업의 막대한 투자: 예를 들어 미국 "빅 식스" 기술 기업의 자본 지출은 지난 10년 동안 연평균 21%의 비율로 성장했습니다. 이는 기본적으로 글로벌 데이터 생성의 급속한 성장 추세(연평균 성장률 28%)와 일치합니다.
이러한 막대한 투자는 클라우드 서비스 매출의 강력한 성장에도 직접적으로 반영됩니다. 지난 10년간 글로벌 하이퍼스케일 클라우드 서비스 제공업체의 매출은 연평균 최대 37%의 성장률을 기록했습니다.
AI의 부상은 자본 지출에 지대한 영향을 미칩니다. AI 모델 학습 데이터 세트의 규모는 매년 250%라는 놀라운 속도로 증가하고 있습니다. 증가하는 AI 해시레이트 수요를 충족하기 위해 "빅 식스" 기술 기업의 자본 지출은 전년 대비 63% 증가했으며, 성장률은 여전히 가속화되고 있습니다.
총 매출 대비 자본 지출 비중이 10년 전 8%에서 15%로 상승 점은 주목할 만합니다. 업계 선두주자인 아마존 AWS를 예로 들면, 2024년 매출 대비 자본 지출 비중은 무려 49%에 달할 것으로 예상되는데, 이는 2018년 4%, 2013년 27%보다 훨씬 높은 수치입니다. 이는 AI/ML 인프라 구축에 대한 막대한 자금 수요를 여실히 보여줍니다.
GPU 성능 향상의 핵심 동력: NVIDIA GPU 성능은 지난 8년간 225배 향상되었으며, 설치된 GPU 컴퓨팅 성능은 불과 6년 만에 100배 이상 증가했습니다. 이러한 성장세는 NVIDIA가 기술 기업들의 이번 자본 지출의 최대 수혜자가 되었음을 의미합니다. NVIDIA의 데이터센터 업무 매출은 전 세계 데이터센터 자본 지출의 25%를 차지했으며, 이 비중은 계속해서 상승.
R&D 지출은 자본 지출과 함께 증가하고 있습니다. 미국 "빅 식스" 기술 기업의 R&D 지출은 10년 전 매출의 9%에서 13%로 상승. 다행히 이러한 업계 거물들은 AI 및 관련 자본 지출에 대한 지속적인 투자를 뒷받침할 충분한 현금 보유고(잉여 현금 흐름과 재무상태표 현금 모두 크게 증가)를 보유하고 있습니다.
컴퓨팅 지출이 자본 지출의 주요 동인이 되고 있습니다. AI 모델 학습 비용은 여전히 높고 빠르게 상승 반면, 추론 비용은 감소하고 있습니다. 이러한 "고저" 비용 역학은 클라우드 서비스 제공업체, 칩 제조업체, 그리고 기업 IT 부서의 예산에 지속적인 압박을 가하고 있습니다.
데이터 센터 - AI 열풍의 핵심 인프라 및 수혜자: AI로 인한 엄청난 수요는 데이터 센터 관련 지출을 사상 최고치로 끌어올렸습니다. 데이터 센터 건설 속도도 가속화되고 있습니다. 예를 들어, 미국 내 데이터 센터의 연간 민간 건설 투자액은 지난 2년간 연평균 49%의 성장률을 기록했습니다.
새로운 데이터 센터 용량은 기존 시설의 수용량을 훨씬 초과하고 있습니다. 대표적인 사례로 xAI의 콜로서스 데이터 센터를 들 수 있는데, 단 122일 만에 건설되었고 7개월 만에 GPU가 0개에서 20만 개로 증가했습니다.
데이터 센터의 막대한 전력 소비: 데이터 센터는 사실상 "전력 소모가 큰 소비자"입니다. 국제에너지기구(IEA) 보고서는 "에너지 없이는 AI도 없다"고 분명히 지적합니다.
데이터센터 전력 소비량은 2017년 이후 연평균 12%씩 증가하여 전 세계 총 전력 소비량 증가율을 크게 상회했습니다. 미국은 전 세계 데이터센터 전력 소비량의 45%를 차지합니다. 전 세계적으로 데이터센터 전력 소비량은 지난 19년 동안 무려 3배나 증가했으며, 미국은 지역 전력 소비량에서 선두를 달리고 있습니다.
AI 모델 학습 비용 상승+ 추론 비용 감소 = 성능 수렴 + 개발자 사용량 상승
보고서의 129~152페이지에서는 AI 모델 경제학의 핵심적이고 흥미로운 역설을 탐구합니다. 즉, 학습 비용이 지속적으로 높은 반면 추론 비용은 빠르게 감소한다는 것입니다.
비용 역학의 섬세한 균형:
최첨단 대규모 언어 모델(LLM)을 훈련하는 것은 인류 역사상 가장 값비싸고 자본 집약적인 사업 중 하나가 되었으며, 수십억 달러의 비용이 소요됩니다. 그러나 아이러니하게도, 가장 강력한 범용 모델을 구축하려는 경쟁은 산업의 상품화를 가속화하고 수익 감소로 이어질 수 있습니다. 동시에 이러한 모델을 적용하고 사용하는 비용(즉, "추론" 과정)은 빠르게 감소하고 있습니다.
높은 AI 모델 학습 비용: 최첨단 AI 모델의 추정 학습 비용은 지난 8년 동안 약 2,400배 증가했습니다. 이 수치는 AI 모델 연구 개발 분야의 높은 진입 장벽을 보여줍니다.
지속적으로 감소하는 추론 비용/토큰:
하드웨어 효율성이 크게 향상되었습니다(예를 들어, NVIDIA의 최신 Blackwell GPU는 2014년 Kepler GPU보다 생성된 토큰당 무려 105,000배 적은 에너지를 소모합니다). 또한 모델 알고리즘 효율성이 획기적으로 향상되어 추론 비용이 급격히 감소했습니다.
토큰은 AI 추론 과정에서 사용되는 기본 측정 단위이며, 토큰의 비용 절감은 AI 애플리케이션의 경제적 효율성에 직접적인 영향을 미칩니다.
NVIDIA GPU를 예로 들면, LLM 토큰 하나 생성에 필요한 에너지는 지난 10년 동안 10만 5천 배나 감소했습니다. 고객을 위한 AI 모델 추론 서비스 가격(토큰 100만 개당 계산)은 단 2년 만에 최대 99.7%까지 하락했습니다.
전기나 컴퓨터 메모리와 같은 역사적 핵심 기술에 비해 AI는 훨씬 빠른 속도로 비용 효율성을 향상시키고 있습니다. "비용 절감 + 성능 향상 → 도입 상승"라는 이러한 추세는 기술 개발 역사에서 끊임없이 이어져 온 주제이며, 이제 AI 분야에서도 더욱 빠른 속도로 반복되고 있습니다.
성능의 융합: 기술이 발전하고 경쟁이 치열해짐에 따라 LMSYS Chatbot Arena와 같은 평가 플랫폼에서 상위 AI 모델의 성능 점수가 빠르게 수렴되고 있습니다. 이는 여러 공급업체의 모델 간 핵심 역량 격차가 줄어들고 있음을 의미합니다.
개발자 사용 급증:
추론 비용이 크게 감소함에 따라 거의 모든 개발자가 AI 실험과 제품화를 실현 가능하고 경제적으로 수행할 수 있게 되었습니다. 동시에, 모델 성능의 수렴은 개발자들이 모델을 선택할 때 고려해야 할 사항도 변화시켰습니다. 특히 특정 애플리케이션 시나리오에 맞춰 모델을 효과적으로 미세 조정할 수 있는 경우, 개발자는 더 이상 최고 성능을 추구하기 위해 높은 비용을 지불할 필요가 없습니다.
기본 모델의 확산은 개발자에게 전례 없는 유연성과 선택권을 제공하며, 이는 개발자 주도 AI 인프라의 성장 플라이휠을 가속화합니다. 보고서에서 언급했듯이, 바로 옆집에 AI 개발자가 있습니다.
Stack Overflow 설문 조사 데이터에 따르면, 개발자의 AI 도구 도입률은 2023년 44%에서 2024년 63%로 급격히 상승 할 것으로 예상됩니다.
오픈소스 커뮤니티 GitHub에서 AI 관련 개발자 저장소의 수는 단 16개월 만에 약 175% 증가했습니다. Google에서 매월 처리하는 토큰 수는 전년 대비 50배 증가했으며, Microsoft의 Azure AI Foundry 플랫폼에서 분기별로 처리하는 토큰 수도 전년 대비 5배 증가했습니다.
AI 개발자의 적용 시나리오는 매우 광범위하고 다양하며, 코드 생성, 자동 테스트부터 프로젝트 관리까지 소프트웨어 개발의 모든 측면을 포괄합니다.
수익성으로 가는 길은 여전히 멀다. 개발자 사용량이 폭발적으로 증가하고 있고, 교육 비용이 높고, 추론 서비스 가격이 지속적으로 하락하고 있기 때문에 AI 모델 제공업체가 수익성을 달성하는 길은 여전히 멀고 어려울 수 있다.
» » 트렌드 – 인공지능 전체 보고서
