맙소사, 울트라맨의 GPT에 대한 논의가 몇 세대나 건너뛰어 GPT-8 로 넘어갔네요!
최근 그는 양자 컴퓨팅의 창시자인 데이비드 도이치 와 한 방송에서 대화를 나누었습니다. 두 사람 사이에 의견이 엇갈렸던 " AI가 의식이 있는 초지능으로 발전할 수 있을까 ?"라는 문제에 대해 알트만은 도이치를 설득하기 위해 GPT-8을 꺼냈습니다.
GPT-8은 양자 중력을 밝혀냈고 , 심지어 어떻게 해냈는지까지 알려줄 수 있습니다. 예를 들어, 어떤 질문을 고민했는지, 왜 이 분야를 연구하기로 했는지 등을 말이죠. 하지만 제시하는 결과는 여전히 언어 모델의 출력처럼 보입니다. 하지만 실제로 양자 중력 문제를 해결했습니다. 그렇다면 당신은 이 결과를 받아들이시겠습니까?
이 대화는 온라인에서 많은 논쟁을 불러일으켰습니다. 일부 네티즌들은 두 사람의 대화가 AGI(인공지능)의 정의가 모호하고, 목표가 끊임없이 변화하며, 측정이 불가능하다는 것을 보여준다고 생각합니다.
우리는 곧 이를 능가하여 ASI(인공초지능)에 주목하게 될 것이라고 주장할 수도 있습니다.
그럼, 두 사람은 무슨 말을 했을까?
대화 요약 완료
쇼가 진행되는 동안 진행자는 먼저 알트만에게 " 당신이 가장 좋아하는 책이 정말 데이비드 도이치가 쓴 《무한의 시작》인가요? "라고 물었습니다. 알트만은 그렇다고 대답한 뒤, 왜 그 책을 좋아하는지 설명했습니다.
책 전체를 읽지 않았더라도, 처음 40~50페이지만 읽어도 벌써부터 흥미진진합니다. AI가 있는 세상에서도 인간은 할 일, 기여할 방법, 해결해야 할 문제, 그리고 탐험할 미지의 영역이 결코 부족하지 않을 거라는 점을 이 책이 극도의 낙관론으로 설명하고 있다고 생각합니다.
그리고 그것은 인간 역사에서 비교적 단순한 발전이 어떻게 오늘날의 이 놀라운 상황에 이르게 되었는지를 훌륭하게 설명합니다.
알트만이 책에 대한 자신의 견해를 공유한 후, 데이비드 도이치가 온라인 프로그램에 참여했습니다.
진행자는 화제를 돌렸습니다. "당신과 그(데이비드 도이치)가 한 가지 쟁점에 대해 의견이 달랐던 걸 기억합니다. 인공지능이 의식을 가진 초지능으로 발전하는 것이 가능할까요? 그(데이비드 도이치)는 불가능하다고 생각한 반면, 당신(알트만)은 가능하다고 생각했던 것 같습니다. 동의와 반대의 이유를 좀 더 자세히 설명해 주시겠습니까?"
울트라맨은 재빨리 "그 문제는 상관없어요. 이의가 없으니까요."라고 말했다.
데이비드 도이치는 AI가 의식이 있는 초지능으로 발전하지 못할 것이라고 믿는 이유를 설명하기 위해 무대에 올랐습니다.
저는 컴퓨터에 불가능하다고 생각했지만 현실이 된 발전 사례들을 기록해 둡니다. 부끄럽지만 그중 하나가 바로 월드 와이드 웹입니다.
또 다른 이유는, 저는 AGI가 아닌 이상 어떤 컴퓨터 프로그램도 자연어로 다양한 주제에 대해 열린 대화를 나눌 수 없을 것이라고 생각했었다는 것입니다. 저는 이러한 능력을 " 설명적 창의성 "이라고 부르고 싶습니다.
ChatGPT가 제 말을 틀렸어요.
AGI는 아니지만, 대화는 할 수 있습니다. 이 능력은 지식의 부산물입니다.
1960년대 챗봇 엘리자는 사용자가 입력한 단어와 구문만 사용할 수 있었지만, ChatGPT는 방대한 지식을 활용하여 무엇이든 채팅할 수 있습니다. 이 점이 매우 유용합니다. 어떤 사람들에게는 "너무 유용해서" 사람이나 AGI와 대화하는 것 같은 느낌이 들기도 합니다. 당시 엘리자처럼 사용자들은 ChatGPT를 사람처럼 대합니다.
이는 널리 퍼진 신화인 튜링 테스트를 떠올리게 합니다.
실제로 튜링은 AGI에 대한 시험이나 벤치마크를 제안한 적이 없습니다. 그의 "모방 게임"은 시험이 아니라, 기계가 생각할 수 없다는 직관을 깨뜨리기 위해 고안된 사고 실험이었습니다. 실제로 벤치마크 같은 것은 존재하지 않습니다. 진정한 일반 지능은 침묵을 선택할 수 있어야 하기 때문입니다 .
이는 기존 방법으로는 AGI를 만들 수 없다는 것을 보여줍니다.
기존 시스템은 벤치마킹이 가능하며 반드시 벤치마킹해야 합니다.
반대로, 무언가가 완전히 새로운 설명을 제시한다면, 그것이 스스로 만들어낸 것인지 아니면 인간에 의해 만들어낸 것인지 검증할 방법이 없습니다. 설령 직접 실험을 해 보더라도 말입니다. 에디슨의 말에 따르면, 지능은 인간만이 얻을 수 있는 "영감"과 기계가 우리의 해방을 도울 수 있는 "땀"으로 구성됩니다.
그렇다면 테스트 기준이 없는데, 인간이 일반 지능을 가지고 있다는 것을 어떻게 알 수 있을까요? 답은 "자신에 대한 이야기를 하는 것"입니다.
인간의 사고는 동기를 행동으로, 신호를 결과로 변환하는 기계적인 과정이 아닙니다. 오히려 동기를 적극적으로 선택하는 과정입니다. 과학 연구가 데이터에서 이론을 클레임 것이 아니라, 문제를 파악하고, 설명적 가설을 제시하고, 그 가설을 비판하고 검증하는 것과 마찬가지입니다.
그렇다면 무언가가 이런 일을 하고 있는지 어떻게 알 수 있을까요? 항상 그런 것은 아닙니다. 가끔은 로봇과 채팅하는 것일 수도 있습니다.
하지만 당신이 로봇이라는 사실이나 인간 전체가 로봇이라는 사실에 대한 설명이 없다면, "우리는 로봇이 아니다"라고 가정하는 것이 합리적입니다.
어떤 사람들은 아인슈타인이 실제로 상대성 이론을 발명했는지, 아니면 기존의 다양한 관점 기계적으로 꿰맞춰 낸 것인지 의문을 품습니다. 우리는 그가 그랬다는 것을 압니다. 그의 이야기를 알고 있기 때문입니다. 그가 어떤 문제를 풀었고, 왜 풀었는지 말입니다.
아시다시피, 샘 알트먼은 ChatGPT를 기술적 개념에서 실제 제품으로, 경이로운 존재로 만들기 위해 코드를 작성할 필요가 전혀 없었습니다. 그는 직감과 "이것이 인류가 다음으로 시도해야 할 올바른 방향이라고 판단하는" 용기에 의지했습니다.
컴퓨터에 이런 종류의 직관을 줄 수 있는 프로그램은 아직 없습니다. 적어도 아직은요.
이를 듣고 알트만은 반박하고 싶어서 GPT-8을 꺼냈습니다.
아인슈타인의 상대성 이론을 언급하셨는데, 전적으로 동의합니다. 상대성 이론은 인류가 발견한 가장 기발한 것 중 하나라고 생각합니다. 어쩌면 가장 기발한 것일지도 모르죠. 아인슈타인은 자신만의 이야기를 가지고 있습니다. 그가 무엇을 연구했는지 우리는 알고 있습니다.
몇 년 후, GPT-8이 양자 중력을 알아내고 그 원리를 설명해 줄 수 있다고 가정해 보겠습니다. 예를 들어, 어떤 질문을 고민했고 왜 이 연구 분야를 추진하기로 했는지 설명해 줄 수 있다고 가정해 보겠습니다. GPT-8이 제시하는 내용은 여전히 언어 모델의 출력처럼 보일 수 있지만, 실제로 양자 중력 문제를 해결합니다. 그렇다면 당신은 이 제안을 받아들이시겠습니까? 당신은 과거의 잘못된 판단을 추적하고, 저도 마찬가지입니다. 그렇다면 이 시나리오가 당신을 설득할 수 있을까요?
데이비드 도이치:
네, "과정 스토리"가 여기서 매우 중요합니다. 또한 판단의 핵심이기도 하다고 생각합니다.
양자 컴퓨팅 선구자: David Deutsch
데이비드 도이치는 옥스퍼드 대학교 클래런던 연구소 양자 컴퓨팅 센터의 창립 멤버이자 물리학 방문 교수입니다. 그는 또한 옥스퍼드 울프슨 칼리지의 명예 펠로우이자 영국 왕립학회 및 물리학 연구소의 펠로우이기도 합니다. 그는 양자 컴퓨팅과 양자 정보 과학의 선구자 중 한 명으로 여겨집니다 .
그는 물리학의 근본적인 문제, 특히 양자 계산과 정보 이론, 그리고 생성자 이론을 연구합니다.
1985년, 그는 양자 튜링 머신의 이론적 프레임 제시했습니다. 양자 논리 게이트의 네트워크 연산 방식을 도입함으로써, 양자 컴퓨터가 양자역학 법칙을 따르는 모든 물리계를 이론적으로 정확하게 시뮬레이션할 수 있음을 증명하여 양자 컴퓨터 개발의 수학적 토대를 마련했습니다.
1992년에 그는 호주의 수학자이자 이론물리학자인 리처드 조자와 공동으로 도이치-조자 알고리즘을 제안했는데, 이는 양자 알고리즘이 고전적 알고리즘에 비해 지수적 가속 효과가 있다는 것을 최초로 증명한 것으로, 이후 쇼어 알고리즘과 그로버 알고리즘 개발의 이론적 토대를 마련했습니다.
그는 일반 독자를 대상으로 한 두 권의 유명한 책인 《현실의 구조》 와 《무한의 시작》의 저자이기도 합니다.
데이비드 도이치는 ICTP 디랙상, 미시우스 양자상, 물리학 혁신상 2개, 아이작 뉴턴 메달 등의 상을 수상했습니다.
참조 링크:
[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ
[2]https://x.com/rohanpaul_ai/status/1971884939667738838[3]https://www.daviddeutsch.org.uk/
본 기사는 WeChat 공개 계정 "Quantum Bit" 에서 발췌하였으며, 저자는 Xifeng이고, 36Kr.의 출판 허가를 받았습니다.
