英伟达已经向每一家主要公司销售大量的计算机芯片,用于构建专有的人工智能模型。但现在,在公众对开源和自制AI兴趣激增的时候,该公司宣布将开始提供一台"个人AI超级计算机",从今年晚些时候开始,价格为3000美元,任何人都可以在自己的家中或办公室使用。
英伟达的新桌面机器Digits将于5月上市,大小约为一本小书。它包含一个名为GB10 Grace Blackwell的英伟达"超级芯片",经过优化可加速训练和运行AI模型所需的计算,并配备128GB的统一内存和高达4TB的NVMe存储空间,以处理特别大的AI程序。
英伟达创始人兼CEO Jensen Huang在今天在CES上的主题演讲中宣布了这一新系统,以及其他几项AI产品。
"将AI超级计算机放在每个数据科学家、AI研究人员和学生的桌面上,赋予他们参与和塑造AI时代的能力,"Huang在主题演讲前发布的声明中说。
英伟达表示,Digits机器(代表"深度学习GPU智能训练系统")将能够运行单个大型语言模型,最多可达2000亿个参数,这是衡量模型复杂度和大小的一个粗略指标。要做到这一点,您现在需要从AWS或微软等云服务提供商租用空间,或者使用专门设计用于运行AI的几个芯片构建一个定制系统。如果连接两台Digits机器,英伟达表示它们将能够运行Meta开源Llama模型的最强版本,该模型有4050亿个参数。
Digits将使爱好者和研究人员更容易尝试接近OpenAI的GPT-4或谷歌的Gemini基本功能的模型,在他们的办公室或地下室进行实验。但由微软和谷歌拥有的那些专有模型的最佳版本,很可能比Digits能够处理的更大和更强大。
英伟达一直是AI热潮的最大受益者之一。随着科技公司争相购买其生产的大量先进硬件芯片(这是开发尖端AI的关键成分),该公司的股价在过去几年里飙升。该公司在制造针对AI优化的硬件和软件方面已经证明了自己的能力,其产品路线图已经成为行业预期下一步发展方向的重要信号。
发布时,Digits将是英伟达提供的最强大的消费者计算硬件。它已经销售了一系列名为Jetson的AI开发芯片组,起价约为250美元。这些可以运行较小的AI模型,可以像迷你台式机一样使用,也可以安装在机器人上测试不同的AI程序。
除了新的桌面系统,英伟达今天还表示,它将很快发布几款用于构建和连接所谓的AI代理(使用大型语言模型自主执行有用任务的程序)的软件工具。这包括几个名为Nemotron的定制版Llama,经过优化和微调,可以遵循指令并计划行动以执行代理任务。代理已经成为AI领域的最新热点,许多公司认为它们是将该技术纳入其运营以提高效率和节省成本的一种方式。
"代理AI是AI发展的下一个前沿,实现这一机会需要对LLM系统进行全栈优化,以提供高效、准确的AI代理,"Meta GenAI副总裁兼负责人Ahmad Al-Dahle在一份声明中说。
Jensen在CES主题演讲中表示,英伟达预计公司将使用其技术来构建和维护AI代理。"从某种意义上说,每家公司的IT部门未来将成为AI代理的HR部门,"这位CEO说。"未来,他们将维护、培养、入职和改进大量的AI代理。"
