언뜻 보기에 밴쿠버에 있는 브리티시 컬럼비아 대학교의 저명한 인공지능 연구실에서 작성한 최근 연구 논문은 그다지 주목할 만한 것이 아닌 듯합니다. 기존 알고리즘과 아이디어에 대한 점진적인 개선 사항을 특징으로 하며, 보통 수준의 AI 컨퍼런스나 저널의 내용처럼 읽힙니다.
하지만 이 연구는 사실 주목할 만합니다. 그 이유는 이 연구가 전적으로 옥스퍼드 대학의 연구원들과 Sakana AI 라는 스타트업과 함께 UBC 연구실에서 개발한 " AI 과학자 "의 작업이기 때문입니다.
이 프로젝트는 혁신적인 트릭으로 입증될 수 있는 것의 초기 단계를 보여줍니다. AI가 새로운 아이디어를 발명하고 탐구함으로써 학습하도록 하는 것입니다. 현재로서는 그렇게 참신하지는 않습니다. 여러 논문에서 확산 모델링이라고 알려진 이미지 생성 기술을 개선하기 위한 조정 방법을 설명하고 있으며, 또 다른 논문에서는 딥 신경망에서 학습 속도를 높이기 위한 접근 방식을 설명합니다.
"이것들은 획기적인 아이디어가 아닙니다. 엄청나게 창의적이지도 않습니다." UBC 연구실을 이끄는 교수 인 제프 클룬은 인정합니다. "하지만 누군가가 시도할 만한 꽤 멋진 아이디어처럼 보입니다."
오늘날의 AI 프로그램은 놀라울 수 있지만, 인간이 생성한 훈련 데이터를 소비해야 하는 필요성 때문에 제한을 받습니다. AI 프로그램이 대신 실험하고 "흥미로운" 아이디어를 탐구함으로써 개방형 방식으로 학습할 수 있다면, 인간이 보여준 것보다 더 확장되는 역량을 발휘할 수 있습니다.
Clune의 연구실은 이전에 이런 방식으로 학습하도록 설계된 AI 프로그램을 개발했습니다. 예를 들어, Omni라는 프로그램은 여러 비디오 게임과 유사한 환경에서 가상 캐릭터의 행동을 생성하려고 시도하여 흥미롭게 보이는 것을 정리한 다음 새로운 디자인으로 반복했습니다. 이러한 프로그램은 이전에는 흥미로움을 정의하기 위해 손으로 코딩된 지침이 필요했습니다. 그러나 대규모 언어 모델은 이러한 프로그램이 가장 흥미로운 것을 식별할 수 있는 방법을 제공합니다. Clune의 연구실에서 최근 진행한 또 다른 프로젝트 는 이 접근 방식을 사용하여 AI 프로그램이 Roblox와 유사한 세계에서 가상 캐릭터가 온갖 일을 할 수 있는 코드를 꿈꿀 수 있도록 했습니다.
AI 과학자는 Clune의 연구실에서 가능성을 실험하는 한 예입니다. 이 프로그램은 머신 러닝 실험을 내놓고, LLM의 도움을 받아 가장 유망해 보이는 것을 결정한 다음, 필요한 코드를 작성하고 실행합니다. 반복합니다. 실망스러운 결과에도 불구하고, Clune은 언어 모델 자체와 마찬가지로 개방형 학습 프로그램이 컴퓨터 전력을 공급함에 따라 훨씬 더 유능해질 수 있다고 말합니다.
클룬은 LLM이 열어준 가능성에 대해 "새로운 대륙이나 새로운 행성을 탐험하는 것 같아요."라고 말합니다. "무엇을 발견할지 모르지만, 어디를 봐도 새로운 것이 있습니다."
예루살렘 히브리 대학교의 조교수이자 Allen Institute for AI(AI2)의 연구 과학자인 톰 호프 는 LLM과 마찬가지로 AI 과학자는 매우 파생 상품 이며 신뢰할 수 없다고 말합니다. 그는 "지금은 어떤 구성 요소도 신뢰할 수 없습니다."라고 말합니다.
Hope는 과학적 발견의 요소를 자동화하려는 노력이 1970년대 AI 선구자 Allen Newell 과 Herbert Simon 의 작업과 그 이후 Pat 의 작업으로 거슬러 올라간다고 지적합니다.
Institute for the Study of Learning and Expertise의 Langley . 그는 또한 AI2의 팀을 포함한 다른 여러 연구 그룹이 최근에 LLM을 활용하여 가설 생성, 논문 작성 및 연구 검토에 도움을 주었다고 언급했습니다. Hope는 UBC 팀에 대해 "그들은 시대정신을 포착했습니다."라고 말했습니다. "물론 그 방향은 잠재적으로 엄청나게 가치가 있습니다."
LLM 기반 시스템이 진정으로 새로운 또는 획기적인 아이디어를 내놓을 수 있을지 여부도 불분명합니다. 클룬은 "그것이 1조 달러짜리 질문입니다."라고 말합니다.
과학적 돌파구가 없더라도, 개방형 학습은 현재와 현재에서 더욱 유능하고 유용한 AI 시스템을 개발하는 데 필수적일 수 있습니다. 투자 회사인 Air Street 자본 이 이번 달에 게시한 보고서 는 Clune의 작업이 더욱 강력하고 신뢰할 수 있는 AI 에이전트 또는 컴퓨터에서 유용한 작업을 자율적으로 수행하는 프로그램을 개발할 수 있는 잠재력을 강조합니다. 대형 AI 회사는 모두 에이전트를 다음 큰 것으로 보는 듯합니다.
이번 주에 클룬의 연구실은 최신 개방형 학습 프로젝트를 공개했습니다. AI 에이전트를 발명하고 구축하는 AI 프로그램입니다 . AI가 설계한 에이전트는 수학과 독해 이해와 같은 일부 작업에서 인간이 설계한 에이전트보다 성능이 뛰어납니다. 다음 단계는 이러한 시스템이 잘못 동작하는 에이전트를 생성하지 못하도록 방지하는 방법을 고안하는 것입니다. 클룬은 이 작업에 대해 "잠재적으로 위험합니다."라고 말합니다. "올바르게 해야 하지만 가능하다고 생각합니다."
