英偉達Blackwell登頂首個智能體硬件基準:能效超H200達20倍,力壓AMD

據動察 Beating 監測,評測機構 Artificial Analysis 發佈行業首個智能體(Agent)硬件基準 AA-AgentPerf。傳統評測如同單次問答「短跑」,只看響應速度;智能體任務則像「接力跑」,AI 需自主拆解目標,在讀寫文件、改寫代碼、運行測試中反覆流轉。頻繁交互對服務器內存容量和調度效率挑戰極高。基準通過重放真實編程軌跡,以「每兆瓦功耗支持併發智能體規模」為核心能效指標,直擊數據中心電力與資金瓶頸。 首期測試運行 1.6 萬億參數開源模型 DeepSeek V4 Pro。結果顯示,英偉達 Blackwell 液冷整櫃系統 GB300 NVL72 每兆瓦功耗可承載 6.14 萬個併發智能體,而上一代 Hopper HGX H200 僅能支持 2600 個,能效提升超 20 倍。單顯卡併發容量也提升了 41 倍。這使得在同等電力預算下,數據中心可多承載 20 倍智能體併發規模,大幅拉低自動編程和客服等應用落地成本。 首批成績中,AMD Instinct MI355X 暫時落後。評測機構指出,AMD 與 H200 配置均使用通用開源 vLLM 框架搭建,未作深度優化;隨著服務框架與內核算子適配跟進,AMD 性能仍有提升空間。目前,Together AI 等推理商已率先在 Blackwell 部署 DeepSeek V4 Pro,為智能體編程工具 Cursor 提供實時推理支持。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
51
收藏
10
評論