구글의 TPU가 엔비디아의 독점 체제에 도전할 수 있을까? 주말에 운동하면서 실리콘 밸리 101 팟캐스트에서 구글 TPU 엔지니어의 인터뷰를 들었는데, 굉장히 흥미로웠습니다. 청취 후, 저는 몇 가지 새로운 통찰력과 성찰을 얻었고, 원문의 핵심 관점 요약했으며, 제 생각을 기록했습니다. 1️⃣ 팟캐스트 결론 (자세한 AI 텍스트 버전 요약도 제공됩니다. 더 자세한 내용은 그림 2를 참조하십시오.) 1) 제미니는 매우 직관적이지 않은 특징을 가지고 있습니다. 사용자가 많을수록 속도가 빨라집니다. 이는 TPU 아키텍처에 의해 결정됩니다. 병렬 컴퓨팅과 재사용 가능한 캐싱 메커니즘이 결합되어 해시레이트 최대한 활용할 때 최대 효율을 달성합니다. 물론 양날의 검의 다른 면도 드러났습니다. 작년에 Gemini 3가 출시되면서 수많은 GPT 사용자가 몰려들어 서비스가 자주 다운되는 문제가 발생했습니다. 근본적인 원인은 TPU 생산 능력이 수요를 따라가지 못했고, 용량 확장이 사용자 증가 속도를 따라가지 못했기 때문입니다. 2) 엔비디아 GPU와 구글 TPU: 각각 고유의 경쟁 우위를 가지고 있습니다. 엔비디아의 강점은 소프트웨어에 있습니다. CUDA 생태계는 매우 성숙하고 다재다능하며 수정하기 어렵습니다. 구글의 TPU는 하드웨어와 소프트웨어를 결합하는 장점을 가지고 있어, 특정 대규모 모델 알고리즘을 실행할 때 엔비디아 제품을 직접적으로 능가하는 성능을 보여줄 수 있습니다. 애플은 TPU의 최대 구매업체가 되었으며, 앤스로픽사도 대량 TPU를 구매하고 있습니다. 이유는 간단합니다. 엔비디아 한 곳에 모든 것을 걸고 싶지 않기 때문입니다. 3) TSMC의 경쟁 우위는 상상 이상으로 깊다. 엔비디아든, 구글이든, 애플이든... 모든 칩은 TSMC에서 생산해야 합니다. 공정 기술과 수율 면에서 TSMC를 대체할 수 있는 회사는 없습니다. 더욱 어처구니없는 것은 TSMC의 생산 능력이 충분하지 않아 주요 제조업체들이 경쟁적으로 인수하려 한다는 점이다. 삽을 파는 것은 안전한 투자이며, 저는 TSMC 주식에 대해 낙관적인 전망을 유지하고 보유할 것입니다. 4) TPU는 알고리즘을 하드웨어에 넣는 것과 유사하며, ASIC을 이용한 채굴 과 어느 정도 비슷합니다. GPU는 범용적인 반면, TPU는 맞춤형으로 설계되었습니다. 구글의 칩 개발팀은 TSMC에 1~2년 전에 미리 주문을 넣어야 하는데, 이는 현재 생산하는 칩이 2년 후의 AI 알고리즘에 맞춰 설계되었다는 것을 의미합니다. 따라서 구글의 AI 팀과 칩 팀은 긴밀하게 통합되어야 합니다. 오늘 그들이 투자하는 알고리즘의 방향이 2년 후 칩이 실용화될 수 있을지를 결정할 것입니다. 만약 베팅이 맞으면 판도가 바뀔 수 있지만, 틀리면 2년간의 손실이 모두 헛수고가 될 수 있습니다. 이러한 제약은 엔비디아가 대면 해야 할 문제가 아닙니다. 2️⃣ 개인적인 생각 몇 가지: 소위 하드웨어와 소프트웨어 통합이라는 것은 범용 하드웨어 설계 능력이 부족하거나 비용이 너무 많이 든다는 것을 의미할 뿐입니다. 특정 유형의 알고리즘에 맞춰 하드웨어를 직접 설계하는 것이 더 나을지도 모릅니다. 하드웨어 설계 측면에서 보면 범용 하드웨어와는 비교할 수 없습니다. 엔비디아는 왜 NPU/TPU를 만들지 않나요? 그들이 가진 강점을 확장할 수 없기 때문입니다. 너무 많은 제조업체가 그렇게 할 수 있고, 모두가 그렇게 한다면 휴대폰 제조업체들처럼 될 것입니다. 예를 들면 🌰: 기본적으로 모든 안드로이드폰에는 적외선 리모컨 기능이 탑재되어 있으며, 이는 범용 리모컨 기능입니다. 애플은 왜 그렇게 하지 않을까요? 이 기능 구현이 어렵나요? 아니요, 그렇지 않습니다. 고객에게 필요가 있습니까? 네. 그렇다면 애플은 왜 그렇게 하지 않을까요? 제품의 형태가 반드시 "수요에 의해 전적으로 결정되는 것"은 아니라고 생각합니다. 두 집합이 동일한 요소 점유비율 높을수록, 두 집합을 구별하기가 더 어려워집니다. 우리가 휴대폰에 대해 갖는 인상, 즉 애플 제품과 비애플 제품에 대한 인식을 생각해 보세요. 안드로이드 사용자라면 대부분 샤오미, 오포, 비보, 화웨이에 관심이 없습니다. 제품들이 너무 동질적이기 때문에 사용자 충성도가 상대적으로 낮습니다. 계산기와 컴퓨터를 비유하자면, 컴퓨터는 일반적인 계산에 사용되고, 계산기는 특정한 계산에 사용됩니다. 이 계산기는 전력 소모가 적고 특정 계산만 수행할 수 있습니다. TPU는 엔비디아의 GPU와 같은 하드웨어 설계 장벽이 없습니다. 저희는 비용을 절감할 방법을 찾고 있을 뿐입니다. 동시에, 비용 절감만으로 큰돈을 버는 기업은 극히 드뭅니다. 새로운 개념을 제시하고 새로운 방향을 개척하는 기업만이 성공할 수 있으며, 이러한 기업들은 과대광고의 대상이 되기 쉽습니다. 현재 신경망 연산은 주로 텐서 연산을 포함합니다. 엔비디아에게 비용 절감은 최후의 수단입니다. 그러므로 TPU가 주장하는 장점만을 살펴보는 것은 적절하지 않습니다. 구글의 관점에서만 보면 TPU를 만드는 것이 최선의 선택입니다. 하지만 엔비디아의 관점에서 볼 때, 가격 경쟁에 뛰어드는 것은 좋지 않은 전략입니다. 엔비디아는 이미 선발 주자로서의 이점을 확보했고, 엔비디아의 CUDA 생태계와 최고 수준의 GPU 설계 역량을 보유하고 있기 때문입니다. 구글은 GPU를 만들 수 없나요? 절대 아닙니다. 무어가 해냈다면 구글이 못할 이유가 없죠? 자금이 조금 더 있다면 인재를 빼앗아 오는 걸 걱정할 필요가 있을까요? 칩에 대한 초기 투자 비용이 너무 큽니다. 구글이 GPU를 만들었는데 아무도 사용하지 않는다면, 투자 비용을 회수하지 못하는 상황에 직면하게 될 것입니다. 동일한 규모에서 구글은 GPU보다 저렴한 비용으로 TPU를 생산할 수 있으며, 자체 Gemini 제품을 묶어서 판매할 수도 있습니다. 이것이 최선의 조치입니다.