어젯밤 가격이 급등하여 최고 390달러까지 치솟았습니다. NVIDIA에서 사용하는 것과 같은 기존 GPU 클러스터는 매우 큰 AI 모델을 학습시키거나 실행하기 위해 수백 또는 수천 개의 GPU가 서로 연결되고 통신해야 합니다. 이러한 작은 칩들 사이에서 데이터를 주고받아야 하는데, 특히 추론 과정에서 이 과정은 느리고 전력 소모가 많으며 복잡합니다. 잦은 데이터 대기는 AI 성능을 눈에 띄게 저하시킬 수 있습니다. Cerebras는 이 문제를 해결하기 위해 웨이퍼 전체를 사용하여 NVIDIA H100 GPU보다 약 50배 큰 단일 거대 칩을 개발했습니다. 웨이퍼 상의 모든 코어는 초단파 나노와이어로 직접 연결되어 200Pb/s 이상의 대역폭과 극히 낮은 지연 시간을 달성합니다. GPU 클러스터는 마치 여러 개의 작은 방에 있는 작업자들이 배송 트럭을 이용해 자재를 운반하는 것과 같습니다. 반면, 세레브라스는 모든 작업자, 자재, 도구를 넓고 개방된 공장 홀에 밀집시켜 모든 구성원이 서로 마주 보고 작업하며, 자재 이동을 최소화합니다. 그 결과, 속도가 훨씬 빨라지고, 단일 칩에 거대한 모델을 탑재할 수 있어 전력 소모와 비용을 절감하면서도 극도로 낮은 지연 시간을 유지할 수 있습니다.