엔비디아의 3,000달러짜리 '개인용 AI 슈퍼컴퓨터'로 데이터 센터를 없앨 수 있다

avatar
WIRED
01-07
이 기사는 기계로 번역되었습니다
원문 표시

엔비디아는 이미 모든 주요 기업이 독점적인 인공지능 모델을 구축하는 데 컴퓨터 칩을 대량으로 판매하고 있습니다. 그러나 이제 오픈 소스와 DIY 인공지능에 대한 대중의 관심이 높아지는 시점에, 이 회사는 올해 후반 누구나 자신의 집이나 사무실에서 사용할 수 있는 "개인용 AI 슈퍼컴퓨터"를 3,000달러부터 제공하기 시작할 것이라고 발표했습니다.

엔비디아의 새로운 데스크톱 머신인 Digits는 5월에 판매될 예정이며 작은 책 크기입니다. 이 제품에는 AI 모델 학습 및 실행에 필요한 계산을 가속화하도록 최적화된 엔비디아의 "슈퍼칩" GB10 Grace Blackwell이 포함되어 있으며, 128GB의 통합 메모리와 최대 4TB의 NVMe 스토리지를 갖추고 있어 특히 큰 AI 프로그램을 처리할 수 있습니다.

엔비디아의 창립자이자 CEO인 Jensen Huang은 이번 CES 기조연설에서 이 새로운 시스템과 함께 여러 가지 AI 제품을 발표했습니다(WIRED CES 라이브 블로그에서 모든 주요 발표 내용을 확인할 수 있습니다).

"모든 데이터 과학자, AI 연구원 및 학생의 책상에 AI 슈퍼컴퓨터를 배치하면 그들이 AI 시대를 주도할 수 있게 됩니다." 라고 Huang은 기조연설 전 발표한 성명에서 말했습니다.

엔비디아는 Digits 머신이 최대 2,000억 개의 매개변수를 가진 단일 대규모 언어 모델을 실행할 수 있을 것이라고 말했습니다. 이를 위해서는 현재 AWS나 Microsoft와 같은 클라우드 서비스 제공업체의 공간을 임대하거나 AI 실행용 칩 몇 개로 구성된 맞춤형 시스템을 구축해야 합니다. 두 대의 Digits 머신을 고속 상호 연결 링크로 연결하면 Meta의 오픈 소스 Llama 모델 중 가장 강력한 버전(4,050억 개의 매개변수)을 실행할 수 있습니다.

Digits는 취미 연구자와 연구원들이 OpenAI의 GPT-4 또는 구글의 Gemini와 유사한 기본 기능을 가진 모델을 사무실이나 지하실에서 실험할 수 있게 해줄 것입니다. 그러나 Microsoft와 구글이 소유한 거대 데이터 센터 내에 있는 이러한 독점 모델의 최고 버전은 Digits가 처리할 수 있는 것보다 더 크고 강력할 가능성이 높습니다.

엔비디아는 AI 붐의 가장 큰 수혜자 중 하나였습니다. 기술 기업들이 첨단 AI 개발에 필수적인 하드웨어 칩을 대량으로 구매하면서 지난 몇 년간 주가가 급등했습니다. 이 회사는 AI에 최적화된 하드웨어와 소프트웨어를 만드는 데 능숙하며, 제품 로드맵은 업계의 향후 방향을 보여주는 중요한 신호가 되고 있습니다.

출시 시 Digits는 엔비디아가 제공하는 가장 강력한 소비자용 컴퓨팅 하드웨어가 될 것입니다. 이 회사는 이미 약 250달러부터 시작하는 Jetson이라는 AI 개발용 칩셋 라인업을 판매하고 있습니다. 이 제품들은 더 작은 AI 모델을 실행할 수 있으며 미니 데스크톱 컴퓨터처럼 사용하거나 로봇에 설치하여 다양한 AI 프로그램을 테스트할 수 있습니다.

새로운 데스크톱 시스템 외에도 엔비디아는 오늘 대규모 언어 모델을 사용하여 사람들을 대신해 유용한 작업을 자율적으로 수행하는 소위 "AI 에이전트" 프로그램을 구축하고 연결하기 위한 여러 소프트웨어 도구를 곧 출시할 것이라고 발표했습니다. 이에는 지시를 따르고 작업을 수행하기 위해 최적화된 Llama의 여러 맞춤형 버전인 Nemotron이 포함됩니다. AI 에이전트는 최신 트렌드가 되었으며, 많은 기업들은 이 기술을 자신의 운영에 통합하여 효율성을 높이고 비용을 절감하는 방법으로 보고 있습니다.

"에이전트형 AI는 AI 개발의 새로운 영역이며, 이 기회를 실현하려면 효율적이고 정확한 AI 에이전트를 제공하기 위해 LLM 시스템 전반에 걸친 전체 스택 최적화가 필요합니다." 라고 Meta의 GenAI 부사장이자 책임자인 Ahmad Al-Dahle는 성명에서 말했습니다.

Jensen은 CES 기조연설에서 엔비디아가 자사 기술을 사용하여 AI 에이전트를 구축하고 유지할 것으로 예상한다고 말했습니다. "많은 면에서 모든 기업의 IT 부서가 미래에는 AI 에이전트의 HR 부서가 될 것입니다. 미래에는 그들이 다양한 AI 에이전트를 유지, 관리, 온보딩 및 개선할 것입니다." 라고 CEO가 말했습니다.

출처
면책조항: 상기 내용은 작자의 개인적인 의견입니다. 따라서 이는 Followin의 입장과 무관하며 Followin과 관련된 어떠한 투자 제안도 구성하지 않습니다.
라이크
즐겨찾기에 추가
코멘트