$CBRS 昨晚大漲,一度到了 $390 像 NVIDIA 用的傳統的 GPU 集群,要訓練或跑一個超大 AI 模型,需要成百上千個 GPU 連在一起互相通信。 數據要在這些小芯片之間來回搬運,這很慢、很耗電、也很複雜,尤其是做推理的時候,經常等數據,有時候你會明顯感覺 AI 變慢了 Cerebras 想了個好辦法,直接把一整片晶圓做成一個巨型芯片,大約是 NVIDIA H100 GPU 的 50 多倍,整個晶圓上所有核心用超短的納米線直接連,帶寬高達 200+ Pb/s,延遲極低 GPU 集群相當於很多小房間裡的工人,用快遞車來回運材料,而 Cerebras 是把所有工人、所有材料、所有工具塞進一個超大開放式工廠大廳,大家面對面、手遞手,材料幾乎不移動 效果就是速度快很多,一個芯片就能裝下巨型模型,省電、省成本,延遲也超低

加密大聪明
@0xxsmart
05-14
AI Chip Dark Horse Cerebras ($CBRS) Set to list on May 14th Issue price: $185 · Why has the market suddenly gone wild discussing it lately? Cerebras belongs to #OpenAI's "favorite son" series, with Sam Altman and all those core executives personally holding shares, currently
來自推特
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論