英偉達已經向每一家主要公司銷售大量的計算機晶片,用於構建專有的人工智慧模型。但現在,在公眾對開源和自制AI興趣激增的時候,該公司宣佈將開始提供一臺"個人AI超級計算機",從今年晚些時候開始,價格為3000美元,任何人都可以在自己的家中或辦公室使用。
英偉達的新桌面機器Digits將於5月上市,大小約為一本小書。它包含一個名為GB10 Grace Blackwell的英偉達"超級晶片",經過最佳化可加速訓練和執行AI模型所需的計算,並配備128GB的統一記憶體和高達4TB的NVMe儲存空間,以處理特別大的AI程式。
英偉達創始人兼CEO Jensen Huang在今天在CES上的主題演講中宣佈了這一新系統,以及其他幾項AI產品。
"將AI超級計算機放在每個資料科學家、AI研究人員和學生的桌面上,賦予他們參與和塑造AI時代的能力,"Huang在主題演講前釋出的宣告中說。
英偉達表示,Digits機器(代表"深度學習GPU智慧訓練系統")將能夠執行單個大型語言模型,最多可達2000億個引數,這是衡量模型複雜度和大小的一個粗略指標。要做到這一點,您現在需要從AWS或微軟等雲服務提供商租用空間,或者使用專門設計用於執行AI的幾個晶片構建一個定製系統。如果連線兩臺Digits機器,英偉達表示它們將能夠執行Meta開源Llama模型的最強版本,該模型有4050億個引數。
Digits將使愛好者和研究人員更容易嘗試接近OpenAI的GPT-4或谷歌的Gemini基本功能的模型,在他們的辦公室或地下室進行實驗。但由微軟和谷歌擁有的那些專有模型的最佳版本,很可能比Digits能夠處理的更大和更強大。
英偉達一直是AI熱潮的最大受益者之一。隨著科技公司爭相購買其生產的大量先進硬體晶片(這是開發尖端AI的關鍵成分),該公司的股價在過去幾年裡飆升。該公司在製造針對AI最佳化的硬體和軟體方面已經證明了自己的能力,其產品路線圖已經成為行業預期下一步發展方向的重要訊號。
釋出時,Digits將是英偉達提供的最強大的消費者計算硬體。它已經銷售了一系列名為Jetson的AI開發晶片組,起價約為250美元。這些可以執行較小的AI模型,可以像迷你桌上型電腦一樣使用,也可以安裝在機器人上測試不同的AI程式。
除了新的桌面系統,英偉達今天還表示,它將很快釋出幾款用於構建和連線所謂的AI代理(使用大型語言模型自主執行有用任務的程式)的軟體工具。這包括幾個名為Nemotron的定製版Llama,經過最佳化和微調,可以遵循指令並計劃行動以執行代理任務。代理已經成為AI領域的最新熱點,許多公司認為它們是將該技術納入其運營以提高效率和節省成本的一種方式。
"代理AI是AI發展的下一個前沿,實現這一機會需要對LLM系統進行全棧最佳化,以提供高效、準確的AI代理,"Meta GenAI副總裁兼負責人Ahmad Al-Dahle在一份宣告中說。
Jensen在CES主題演講中表示,英偉達預計公司將使用其技術來構建和維護AI代理。"從某種意義上說,每家公司的IT部門未來將成為AI代理的HR部門,"這位CEO說。"未來,他們將維護、培養、入職和改進大量的AI代理。"
