체인피드 요약:
이 혁명은 인공지능 삽 판매업자들이 치밀하게 준비한 성대한 파티를 예상보다 훨씬 빨리 끝낼 수도 있다.
기사 출처:
https://www.techflowpost.com/zh-CN/article/30329
기사 작성자:
빙 벤처스
관점:
빙 벤처스: 이 혁명은 단일 사건이 아니라, 겉으로는 독립적처럼 보이는 두 가지 기술적 경로가 서로 얽혀 있는 결과입니다. 첫 번째 경로는 알고리즘 간소화의 혁명입니다. 과거에는 초대형 모델이 더 똑똑해지려면 모든 매개변수를 최대치로 가동해야 하므로 점점 더 많은 해시레이트 소모한다고 여겨졌습니다. 하지만 딥시크(DeepSeek)는 MoE(Hybrid Expert Model) 아키텍처를 통해 이러한 통념을 깨뜨렸습니다. MoE는 수백 명의 전문가가 있는 회사에서 모든 사람이 함께 브레인스토밍하는 대신, 문제를 해결할 때마다 가장 관련성이 높은 두세 명만 회의에 초대하는 것과 같습니다. 전체 모델 크기는 여전히 방대하지만, 각 추론 과정에서는 매우 작은 매개변수만 활성화하여 해시레이트 소모를 크게 줄입니다. 딥시크-V2는 명목상 2,360억 개의 매개변수를 가지고 있지만, 실제 계산에서는 약 210억 개, 즉 전체의 9% 미만만 사용합니다. 그럼에도 불구하고 성능은 최대 부하로 작동해야 하는 GPT-4와 유사합니다. 이는 인공지능(AI) 성능과 해시레이트 소비가 처음으로 체계적으로 분리되었음을 의미합니다. "성능이 높을수록 GPU가 많아야 한다"는 불변의 법칙이 완전히 깨졌고, 알고리즘 수준의 발전은 NVIDIA GPU의 핵심적인 장점을 직접적으로 약화시키고 있습니다. 두 번째 경로는 하드웨어 혁명입니다. AI 작업은 학습과 추론의 두 단계로 나뉩니다. 학습은 대규모 병렬 컴퓨팅을 중시하는데, 이는 GPU가 자연스럽게 강점을 갖는 부분입니다. 반면 추론은 응답 속도와 에너지 효율성을 중시하는데, GPU는 구조적 병목 현상에 직면합니다. 핵심 문제는 GPU의 고대역폭 메모리(HBM)가 외부 설계 방식이라 데이터 왕복 전송 과정에서 물리적 지연이 발생한다는 점입니다. 마치 요리사가 요리할 때마다 재료를 가지러 옆방으로 뛰어가는 것과 같습니다. 아무리 빠르더라도 즉각적인 반응은 불가능합니다. Cerebras와 Groq 같은 신흥 기업들은 칩 아키텍처를 완전히 재설계하여 고속 SRAM을 칩 내부에 직접 납땜함으로써 추론 시나리오에 특화된 거의 제로에 가까운 데이터 접근을 구현했습니다. 시장은 이미 실질적인 자금으로 투표를 시작했습니다. OpenAI는 GPU 추론의 높은 비용과 낮은 효율성에 대해 불만을 제기하면서도 Cerebras와 수백억 달러 규모의 장기 해시레이트 계약을 체결했습니다. Nvidia 또한 추론 분야의 공백을 메우기 위해 약 200억 달러를 투자하여 Groq를 인수했습니다. 이는 AI 컴퓨팅의 초점이 범용 GPU에서 전용 추론 칩으로 이동하고 있음을 의미합니다. 알고리즘 최적화와 하드웨어 용도 변경이 결합되면 비용 절감이라는 결과가 나타납니다. 간소화된 MoE 모델은 크기가 훨씬 작아 추론 칩의 온칩 메모리에 완전히 통합될 수 있으며, 전용 칩은 외부 메모리 병목 현상을 제거하여 추론 속도를 10배 향상시킵니다. 궁극적으로 희소 컴퓨팅 덕분에 학습 비용은 약 90% 감소하고, 추론 비용은 또 다른 10배 감소합니다. 이러한 모든 요소를 고려하면 세계 최고 수준의 AI를 구축하고 운영하는 데 드는 총비용은 기존 GPU 솔루션의 10~15% 수준에 불과할 수 있습니다. 이는 점진적인 개선이 아니라 패러다임의 전환입니다. 엔비디아의 1조 달러에 달하는 시총 AI가 GPU에 의존해야 한다는 단 하나의 전제 위에 세워졌습니다. 그러나 알고리즘을 통해 학습 요구 사항이 간소화되고 추론 시장이 전용 칩으로 이동함에 따라 엔비디아의 독점적 지위는 무너지기 시작합니다. 미래의 가장 큰 블랙 스완 사건은 특정 AI 애플리케이션의 폭발적인 인기가 아니라, 오히려 사소해 보이는 교육부(MoE)의 새로운 보고서나 추론 칩 시장 점유율 보고서가 해시레이트 전쟁의 새로운 국면을 조용히 예고하는 것일지도 모릅니다. 삽을 파는 사람이 더 이상 특별한 존재가 아니게 되면, 그의 황금 시대 또한 끝날 것입니다.
콘텐츠 출처 
