"인류는 2030년 이전에 AGI를 개발할 수 있다."
Sam Altman은 최근 팟캐스트 인터뷰에서 GPT-10이 AGI이며 전 세계 모든 사람을 합친 것보다 더 똑똑하다고 밝혔습니다!
그리고 진행자가 물었을 때 AGI를 어떻게 정의할 수 있나요? 알트만은 이렇게 말했습니다.
인간이 개발할 수 없는 과학적 지식을 독자적으로 개발할 수 있는 시스템을 개발할 수 있다면, 나는 이 시스템을 AGI라고 부르겠습니다.
ChatGPT의 등장은 알파고 인간-기계 전쟁의 반응을 훨씬 뛰어넘어 전 세계에 거대한 충격파를 일으켰습니다.
OpenAI가 정확히 무엇을 원하는지 물어볼 수도 있습니다.
이번 호 표지 보고서에서 WIRED는 기업 발전 과정에서 실험실 문화를 유지하려는 OpenAI의 야망, 전략, 시도에 대한 심층 분석을 제공합니다.
기사에서는 OpenAI의 궁극적인 목표가 모든 것을 바꾸는 것이라고 지적합니다.
또한 흥미로운 점은 OpenAI의 재무 문서에 인공 지능이 전체 경제 시스템을 파괴할 경우를 대비한 출구 비상 계획까지 명시되어 있다는 것입니다.
즉, 실제 AGI가 등장할 때 "스카이넷"이 된다면 OpenAI에는 여전히 대안이 있다는 것입니다.
AGI는 얼마나 멀리 떨어져 있나요?
샘 알트먼은 인간과 인공지능이 공존하는 세상을 어떻게 구상하고 있나요?
그의 생각에 인공지능은 언제쯤 우리의 삶의 방식을 완전히 바꿀 수 있을까?
최근 노르웨이 출신의 펀드 관리 기업가 니콜라이 탕겐(Nicolai Tangen)은 샘 알트만(Sam Altman)과 대화를 시작하며 AI가 세상에 어떤 영향을 미칠지에 대해 심도 있는 답변을 내놨다.
Sam Altman의 비전은 AGI가 인간이 "해야 하는" 작업을 수행할 필요성을 제거하여 모든 사람이 자신이 좋아하고 헌신할 수 있는 작업을 수행할 수 있도록 하는 것입니다.
그는 자신을 예로 들며 현재의 일을 매우 사랑하며 지금 하고 있는 모든 일이 자신이 헌신하고 싶은 일이라고 말했습니다. 그리고 아마도 미래에 AGI가 도래하면 모든 사람이 그처럼 되어 자신이 하고 싶은 일만 할 수 있어 모든 사람의 잠재력이 최대한 활용될 수 있을 것입니다.
"GPT-10이 개발되면 그는 아마도 전 세계 모든 사람을 합친 것보다 더 똑똑해질 것입니다. 그의 도움으로 인간의 생산성이 얼마나 향상될지 상상할 수 있습니까?"라고 알트만은 말했습니다.
그러한 종말점에 도달하는 방법에 대해 Altman은 몇 가지 구체적인 설명도 제공했습니다.
그는 "우리 목표는 12개월마다 프로토타입 제품의 성능을 10%씩 향상시키는 것이라고 회사 직원들에게 말했다"며 "이 목표를 20%로 정했다면 좀 너무 높을 수도 있다"고 말했다.
그에 따르면 OpenAI에서는 직원의 15~20%가 실제로 코드를 작성합니다.
팀이 효율적으로 작업할 수 있도록 하는 방법은 궁극적인 목표를 달성할 수 있는지 여부에 영향을 미치는 핵심 요소입니다.
팀을 이끄는 방법
진행자가 회사 내에서 직원을 어떻게 관리하고 승진시키는지 묻자 Sam Altman은 실제로 AI가 리더의 역할에 매우 적합하다고 느꼈다고 말했습니다.
언젠가 AGI가 개발된다면 OpenAI의 CEO가 되어 잠시 쉬도록 하겠다.
그는 실제로 많은 리더들이 다음 세 가지 일을 하지 못하기 때문에 회사가 실패하도록 방치하는 경우가 많다고 말했습니다.
첫 번째는 채용에 충분한 시간과 에너지를 투자하지 않아서 좋은 팀을 구성할 수 있는 방법이 없다는 것입니다.
두 번째는 진행 방향과 가치에 대해 팀과 소통하는 데 충분한 시간과 에너지를 소비하지 않는 것입니다.
세 번째 요점은 전략적 문제에 대해 생각하는 데 충분한 시간과 에너지를 소비하지 않기 때문에 항상 세부 사항에 갇혀 앞으로 나아갈 수 없다는 것입니다.
개인적인 관점에서 볼 때, 그는 외부에서 새로운 사람을 고용하여 리더십 직책을 맡는 것보다 내부에서 기존 직원을 승진시키는 것을 선호합니다.
그러나 새로운 사람을 리더십 위치에 앉히기 전에 그는 종종 그 사람과 대화를 나눈 다음 앞으로 직면할 수 있는 몇 가지 문제를 먼저 해결해야 한다고 말합니다.
그럼 당연히 이런 문제는 전혀 무시하고 본인 생각대로 하시면 되지만 제가 먼저 이 문제들을 적어두고 3~6개월 후에 다시 말씀드리도록 하겠습니다. 나는 말했다.
종종 3~6개월 후에 그들은 Altman에게 와서 이러한 문제를 발견했다고 말했습니다. 따라서 문제에 대해 미리 알려주고 실수를 허용하는 것이 중요합니다.
간단히 말해서, 최고의 인재를 확보하고, 가능한 한 빨리 성장하게 하고, 최대한 많은 신뢰를 쌓는 것이 인재를 관리하는 좋은 방법입니다.
동시에 OpenAI가 지속적으로 개발하는 제품의 장점을 사용자와 대중이 깨닫게 하고, 더 많은 사람들이 그들의 제품을 수용하고 사용할 수 있도록 하는 것도 AGI에 도달하기 전에 반드시 해결해야 할 과제입니다.
특이점이 오면 인류는 대비해야 한다
Wired 기사에서 Altman은 연초에 ChatGPT 및 GPT-4 릴리스가 어떻게 처리되었는지 설명했습니다. GPT-4가 거의 완성되고 보안 작업이 진행 중일 때 OpenAI가 ChatGPT를 출시한 이유를 설명했습니다.
"ChatGPT를 사용하면 채팅 기능을 도입할 수 있지만 백엔드가 훨씬 약하고 사람들이 보다 점진적으로 적응할 수 있습니다."라고 그는 말했습니다. "GPT-4는 많은 것에 당장 적응해야 합니다."
ChatGPT에 대한 흥분이 사라질 때쯤이면 사용자는 변호사 시험에 합격하고 강의 계획서를 계획하며 몇 초 만에 책을 쓸 수 있는 GPT-4를 사용할 준비가 될 것입니다.
음모론자들은 신제품 출시의 흐름이 돈을 벌기 위해 투자자와 주식 보유 직원에 대한 회사의 약속과 연관되어 있다고 말할 수 있습니다.
그러나 OpenAI는 특이점이 도래했을 때 연착륙을 위한 환경을 제공하는 것이 실제 전략이라고 주장합니다.
Altman은 "AGI를 비밀리에 구축하여 세상에 공개하는 것은 의미가 없습니다."라고 말했습니다. “산업혁명을 돌이켜보면 모두가 세상을 위해 좋은 일이라고 생각했는데, 산업혁명 이후 첫 50년은 정말 고통스러웠어요. 대량 실업, 대량 빈곤, 그리고 세상은 적응했어요. AGI를 만들 수 있어요. 세상에 적응하기까지의 기간이 최대한 쉬워요.”
규제를 어떻게 처리하느냐에 따라 목표 달성 여부가 결정됩니다.
OpenAI는 규제 당국과 원활하게 소통하는 데 도움을 줄 수 있는 많은 사람들을 고용했습니다. 이는 OpenAI가 이전에 기술 회사가 직면했던 어려움과 과제를 피할 수 있도록 도울 수 있기를 바랍니다.
마칸주는 러시아 태생의 워싱턴 D.C. 내부 인사로 유엔 주재 미국 대표부, 국가안전보장회의(NSC), 국방부 등에서 외교정책 관련 직책을 맡았으며, 부통령 시절에는 조 바이든의 집무실에서도 근무했다.
그녀는 “나는 미국 정부와 유럽 정부와 많은 인맥을 갖고 있다”고 말했다. 그녀는 2021년 9월 OpenAI에 합류했습니다. 당시 정부에서는 생성 AI에 관심을 갖는 사람이 거의 없었습니다.
OpenAI의 제품이 곧 상황을 바꿀 것임을 알고 그녀는 정부 관료와 국회의원들에게 Altman을 소개하기 시작하여 그들이 OpenAI의 좋은 소식과 나쁜 소식을 먼저 듣도록 했습니다.
리처드 블루멘털 상원 법사위원장은 "알트만은 의회 의원들을 대하는 데 매우 도움이 되었고 매우 능숙했다"고 말했다. 그는 알트만의 행동을 젊은 빌 게이츠의 행동과 비교했다. .
Blumenthal은 "반면에 Altman은 나와 한 시간 이상 함께 앉아 나를 가르치려고 노력하는 것을 좋아했습니다."라고 말했습니다. "그는 로비스트나 간병인 무리와 함께 오지 않았습니다. 그는 ChatGPT를 시연했습니다. 정말 흥미로웠습니다."
AIGC 자체가 가져올 수 있는 데이터 저작권 문제와 관련하여 지난 3월 공식적으로 OpenAI에 합류한 엘리트 지적재산권 변호사인 Tom Rubin은 회사가 결국 다음을 포함하여 자체 요구 사항과 제작자의 요구 사항을 모두 충족하는 균형점을 찾을 것이라고 낙관하고 있습니다. 코미디언 Sarah Silverman과 같은 사람들은 OpenAI와 같은 사람들을 고소했습니다.
콘텐츠를 사용하여 모델을 교육하세요. OpenAI의 경로에 대한 한 가지 힌트는 Associated Press 및 Shutterstock과 같은 뉴스 및 사진 대행사와 제휴하여 소유권 분쟁 없이 모델에 콘텐츠를 제공하는 것입니다.
위험과 수익의 관계
인터뷰에서 알트만은 기업가 정신, 경영, 미래 AI 및 기술 산업의 변화에 관한 많은 문제에 대해서도 이야기했습니다.
“아마도 대부분의 사람들은 위험을 과대평가하고 이점을 과소평가할 것입니다.”라고 Altman은 말했습니다.
이어 “많은 사람들이 회사를 창업하거나, 자신이 헌신하고 싶은 직장을 구하거나, 제품 아이디어를 실현하는 등 위험한 선택을 꺼리는 경우가 많다. 늘 너무 위험하다고 느낀다”고 설명했다.
"하지만 리스크를 자세히 살펴보자고 하면 회사는 부도가 나지만 안정적인 직장을 구하면 안정적으로 지낼 수 있다고 사람들이 말할 겁니다."
"하지만 내 생각에는 많은 사람들이 다른 위험을 걱정하는 것처럼, 진전이 없는 일을 하면 20년 동안 새로운 것도 나오지 않고, 새로운 지식도 배우지 못한다고 개인적으로 느낀다. 직업 위험은 치명적이다.”
최근 글로벌 방문을 마친 소감도 전했다.
그는 대부분의 개발도상국에서 사람들이 AI 기술이 사람들에게 미칠 수 있는 경제적 영향에 대해 가장 우려하고 있다고 생각합니다.
선진국에서는 AI의 단점과 기존 사물을 어떻게 혼란에 빠뜨릴 수 있는지에 대한 대화가 더 많이 이루어집니다.
마이크로소프트와의 관계
진행자가 Open AI와 Microsoft의 관계에 대해 물었을 때 Sam Altman은 다음과 같이 대답했습니다. 거시적 관점에서 두 회사는 협력 파트너십에 가깝습니다. Microsoft는 OpenAI에 하드웨어와 컴퓨팅 성능을 제공하고 OpenAI는 모델을 훈련한 후 두 회사가 결과 모델을 공유합니다.
OpenAI와 Microsoft가 일부 비즈니스 갈등을 겪게 될 것이라는 최근 뉴스를 언급하면서 관계가 생각만큼 가깝지 않은 것 같다고 Sam Altman은 말했습니다.
"인생과 사업의 여느 관계와 마찬가지로 완벽한 관계는 없습니다. 하지만 가장 중요한 것은 우리가 최고의 위치에 있다는 것입니다. 그래서 제가 말할 수 있는 것은 우리 관계가 훌륭하다는 것뿐입니다."
"모든 것에 대해 같은 견해를 갖는 관계는 없기 때문에 우리는 오랫동안 매우 강한 상호 이해와 타협 능력을 유지할 것입니다."
장기적인 관점에서 생각하는 능력은 엄청난 경쟁우위입니다.
진행자가 그에게 당신의 가장 큰 장점이 무엇이라고 생각하는지 물었을 때?
Sam Altman은 자신의 가장 큰 능력이 장기적으로 생각하는 능력이라고 믿는다고 대답했습니다. 이렇게 생각하는 사람은 거의 없기 때문입니다.
그러나 그의 견해로는 이것이 그들이 마침내 AGI를 개발할 수 있었던 이유인 필수 역량이었다고 본다.
AGI는 50년 후에 일어날 일이기 때문에 누구도 이것을 일상 업무를 안내하고 정리하는 목표로 삼지 않을 것이지만, 그렇지 않다면 결국 이 목표를 달성하기 어려울 것입니다.
AI 외에 그가 가장 관심을 두는 것은 제어 가능한 핵융합이다.
그는 인간이 번영하고 평온한 미래를 만들고 싶다면 가장 중요한 두 가지가 다음과 같다고 생각합니다.
첫 번째는 지능 비용을 크게 줄이는 것이고, 두 번째는 에너지 비용을 크게 줄이는 것입니다.
OpenAI가 첫 번째 일을 하고 있고 두 번째 일은 제어 가능한 핵융합을 통해서만 달성할 수 있습니다.
인간에게 무제한 청정 에너지에 대한 접근권을 부여하면 모든 것이 변화됩니다.
OpenAI 개발자 컨퍼런스
Altman이 설명한 미래 시대로 돌아가서 OpenAI의 최근 진전이 실제로 어떤지 살펴보겠습니다.
바로 오늘, OpenAI는 OpenAI의 첫 번째 글로벌 개발자 컨퍼런스인 OpenAI DevDay를 11월 6일 미국 캘리포니아주 샌프란시스코에서 개최할 것이라고 발표했습니다.
OpenAI 팀은 이번 컨퍼런스에서 전 세계 수백 명의 개발자와 아이디어를 교환하고 OpenAI의 최신 연구 결과를 선보일 예정입니다.
또한 현장 개발자는 OpenAI 기술 직원이 진행하는 브레이크아웃 세션에 참여할 수 있습니다.
OpenAI DevDay는 주로 대면 행사로 진행되지만, 기조 연설을 포함한 일부 세션은 온라인으로 생중계됩니다.
참석자들에게 친밀한 경험을 보장하기 위해 오프라인 참석은 수백 명의 개발자로 제한됩니다.
컨퍼런스 등록 주소: https://devday.openai.com/
OpenAI는 컨퍼런스에서 발표할 연구 내용을 공개하지 않았습니다.
하지만 GPT-5가 등장할 가능성은 낮다. 수만 명의 기술 전문가가 3월 28일 GPT-4보다 강력한 인공 지능을 중단하기 위한 공개 서한에 서명한 후 Altman은 지난 4월 OpenAI가 GPT-5 교육을 중단했다고 공개적으로 밝혔습니다.
이번 컨퍼런스에서는 8월 OpenAI의 Global Illumination 인수와 GPT-4 이미지 이해 기능의 가용성에 대한 업데이트를 선보일 예정입니다.
이전에는 개인 정보 보호 문제로 인해 이미지 이해 기능이 출시되지 않았습니다.
이번에 OpenAI는 개발자 커뮤니티 구축에 대한 OpenAI의 비전을 나타내는 개발자 컨퍼런스를 개최합니다.
OpenA는 2020년 API를 오픈한 이후 지속적으로 업데이트와 업그레이드를 진행하여 가장 발전된 모델을 통합해왔습니다.
전 세계 개발자는 그 어느 때보다 간단한 API 호출을 통해 최첨단 인공 지능을 프로젝트에 통합할 수 있습니다.
현재 2백만 명 이상의 개발자가 GPT-4, GPT-3.5, DALL-E 및 Whisper를 다양한 분야에 적용하고 있습니다.
스마트 어시스턴트를 기존 앱에 통합하는 것부터 이전에는 불가능했던 완전히 새로운 앱과 서비스를 구축하는 것까지.
샘 알트만 CEO는 “개발자 컨퍼런스에서 OpenAI의 최신 연구 결과를 선보여 개발자들이 새로운 아이디어와 아이디어를 실현할 수 있도록 도울 수 있기를 기대한다”고 말했다.
하지만 OpenAI에게 개발자 컨퍼런스는 훌륭한 마케팅 기회이기도 합니다.
The Information에 따르면 ChatGPT는 세계적으로 유명하지만 OpenAI는 작년에 ChatGPT를 개발하는 데 5억 4천만 달러를 지출했습니다.
그러나 ChatGPT의 탁월한 성능과 엔터프라이즈급 ChatGPT 등 더 많은 OpenAI 제품 출시로 인해 OpenAI의 내년 매출은 10억 달러에 이를 것으로 예상됩니다.
그러나 인공 지능 경쟁의 심화, 인공 지능 하드웨어의 치솟는 비용, GPU 부족 및 일련의 과제로 인해 OpenAI는 점점 더 나은 방법을 찾아야 합니다.
DevDay의 개최는 OpenAI 개발의 이정표입니다.
이번 컨퍼런스는 OpenAI가 개발자 커뮤니티와 교류할 수 있는 기회를 제공할 뿐만 아니라 OpenAI의 최신 성과를 홍보하는 동시에 AI 업계의 리더로서의 입지를 공고히 다졌습니다.
네티즌들은 이번 개발자 컨퍼런스를 고대하고 있으며 모두가 너무 기대된다고 말합니다!
"정말 더 이상 기다릴 수가 없어요!"
"이거 너무 시원하고 매워서 너무 기대돼요!"
오프라인 컨퍼런스 좌석이 제한되어 있거나 참석할 수 없기 때문에 OpenAI가 컨퍼런스의 모든 내용을 생중계할 수 있기를 바라는 사람들도 있습니다.
"샌프란시스코에 없는 많은 관심 있는 개발자들이 있고 그들은 분명히 개발자의 역량과 경험과 관련된 모든 것을 알고 싶어할 것이기 때문에 전체 회의를 실시간 스트리밍할 수 있습니까?"
OpenAI DevDay에 대한 이러한 기대는 OpenAI 제품과 서비스에 대한 네티즌들의 사랑에도 기인합니다.
그들은 OpenAI를 매우 높게 평가합니다.
“5월부터 OpenAI 서비스를 사용하기 시작했는데 시간이 지날수록 OpenAI의 서비스가 점점 더 좋아지고 있습니다. 속도도 더 빠르고 통화 끊김도 부정확하지 않습니다.
우리에게 이것은 그들이 플랫폼 구축을 매우 중요하게 여긴다는 최고의 증거입니다.
저는 그들의 충실한 고객이 아니며 데이터 보호 계약(DPA)에 서명해야 하기 때문에 OpenAI 제품을 사용하려면 실제로 일부 고객에게는 다른 경로가 필요합니다.
하지만 OpenAI를 선택하는 것은 그만한 가치가 있습니다. "
참고자료:
https://openai.com/blog/announce-openai-devday
https://www.youtube.com/watch?v=O77UyYK51s4&t=1670s
이 기사는 WeChat 공개 계정 "Xin Zhiyuan"(ID: AI_era) 에서 가져온 것입니다. 작성자: Xinzhiyuan, 편집자: Run Lumina, 36 Krypton은 허가를 받아 게시되었습니다.
