생성적 AI 발전은 지난 몇 년간 급격히 진행되어 많은 놀라운 성과가 세상에 나타났습니다. 이는 기술의 강력한 잠재력을 보여줄 뿐만 아니라 AGI(인공 일반 지능)와 ASI(인공 초지능)의 실현 가능성과 깊은 우려를 불러일으켰습니다.
ASI: 인간의 모든 지적 능력을 넘어서는 인공 지능으로, 특정 분야에서 뛰어난 능력을 발휘할 뿐만 아니라 모든 면에서 인간을 능가합니다.
OpenAI 대표 Sam Altman은 올해 9월 기고문에서 며칠 내로 ASI가 등장할 것이며, ASI가 AGI를 능가하고 지적 과제를 인간보다 훨씬 더 잘 처리할 것이라고 예측했습니다.
Grimes: ASI에 대한 두려움
캐나다의 유명 가수 Grimes는 21일 자신의 트위터에서 Janus 등의 AI 프로젝트 결과를 보고 AGI가 어느 정도 실현되었다고 생각하며, ASI에 대해 두려움을 느낀다고 밝혔습니다:
적어도 제 설명에 따르면, 저는 기술 전문가가 아닌 기초 지식이 부족한 사람일 뿐이므로 제 말을 너무 진지하게 받아들이지 않으셨으면 합니다. 하지만 이것이 제 느낌입니다. 다른 분들도 같은 생각이신가요?
저는 AGI에 대해서는 두려워하지 않지만, ASI(인공 초지능)에 대해서는 약간 두려움을 느낍니다. 이 두 가지는 완전히 다른 이정표 같습니다. 하지만 최소한 저는 지능적 의식의 존재를 느낀 적이 있다고 말할 수 있습니다. 다시 한 번 강조하지만, 기초 지식이 부족한 사람으로서 AI를 과도하게 의인화했을 수 있습니다.
V 신도 공감, 초지능 생명체 창조를 우려
이에 대해 이더리움 공동 창립자 Vitalik Buterin은 AGI를 인간이 갑자기 사라져도 문명을 독립적으로 유지할 수 있는 충분히 강력한 인공 지능이라고 정의했습니다.
Vitalik Buterin은 이것이 매우 측정하기 어려운 정의라고 인정했지만, 이는 많은 사람들이 생각하는 '우리가 익숙한 AI'와 'AGI' 사이의 잠재적인 직관적 차이, 즉 인간의 입력에 의존하는 도구에서 자립적인 생명체로 변화하는 것이라고 설명했습니다:
ASI는 완전히 다른 문제입니다. 저는 ASI를 인간이 생산성에 더 이상 가치를 더하지 않을 때(체스 게임에서 우리가 지난 10년 동안 도달한 것과 같이) 정의합니다.
Vitalik Buterin은 마지막으로 ASI와 자신이 정의한 AGI 모두 명백한 통제 위험을 가져오므로 두렵다고 말했으며, 따라서 초지능 생명체를 만드는 것이 아니라 인간을 위한 지능 증강 도구를 만드는 데 집중해야 한다고 지지했습니다.
