역사가이자 작가인 유발 노아 하라리는 화요일 세계경제포럼에서 인공지능이 수동적인 도구가 아닌 자율적인 에이전트를 통해 점점 더 작동함에 따라 인류가 언어에 대한 통제력, 즉 인류를 규정하는 "초능력"을 잃을 위험에 처해 있다고 경고했습니다.
《사피엔스》의 저자인 하라리는 인공지능이 사회에 미치는 영향에 대한 세계적인 논쟁에서 자주 목소리를 내는 인물이 되었습니다. 그는 법률, 금융 시장, 그리고 조직화된 종교가 거의 전적으로 언어에 의존하고 있기 때문에, 대규모로 텍스트를 생성하고 조작할 수 있는 기계에 특히 취약하다고 주장했습니다.
그는 "인류가 세계를 지배하게 된 것은 우리가 신체적으로 가장 강해서가 아니라, 수많은 낯선 사람들을 말로 설득하여 협력하게 만드는 방법을 발견했기 때문이다" 라고 말했다 . "이것이 우리의 초능력이었다."
하라리는 유대교, 기독교, 이슬람교 등 경전에 기반을 둔 종교들을 예로 들면서, 인공지능이 방대한 양의 글을 읽고, 기억하고, 종합하는 능력이 기계를 경전 해석에 있어 가장 권위 있는 존재로 만들 수 있다고 주장했다.
"법이 단어로 이루어져 있다면 AI가 법률 시스템을 장악할 것입니다. 책이 단지 단어들의 조합이라면 AI가 책을 장악할 것입니다. 종교가 단어로 구성되어 있다면 AI가 종교를 장악할 것입니다."라고 그는 말했다.
다보스에서 하라리는 인공지능 시스템의 확산을 새로운 형태의 이민에 비유하며, 이 기술을 둘러싼 논쟁은 곧 정부가 인공지능 시스템에 법적 인격을 부여해야 하는지 여부에 초점을 맞추게 될 것이라고 말했습니다. 유타, 아이다호, 노스다코타를 포함한 여러 주는 이미 인공지능을 법적으로 사람으로 간주할 수 없다고 명시적으로 규정한 법률을 통과시켰습니다.
하라리는 연설을 마무리하면서 세계 지도자들에게 인공지능 관련 법률 제정에 신속히 나서야 하며, 이 기술이 중립적인 도구로만 남을 것이라고 가정해서는 안 된다고 경고했습니다. 그는 현재 인공지능 기술 도입을 추진하는 상황을 과거 용병들이 권력을 장악했던 사례에 비유했습니다.
그는 "10년 후에는 인공지능이 금융 시장, 법원, 교회에서 인격체처럼 기능해야 하는지 여부를 결정하기에는 너무 늦을 것입니다. 누군가가 이미 당신 대신 결정을 내려놓았을 테니까요. 인류의 미래에 영향을 미치고 싶다면 지금 당장 결정을 내려야 합니다."라고 말했다.
하라리의 발언은 인공지능의 확산에 대한 두려움을 가진 사람들에게 큰 파장을 일으켰지만, 그의 관점에 모두가 동의한 것은 아닙니다. 워싱턴 대학교의 언어학자 에밀리 M. 벤더 교수는 하라리처럼 위험을 강조하는 방식은 인공지능 시스템을 구축하고 배포하는 데 책임이 있는 인간과 기관으로부터 관심을 돌리는 것일 뿐이라고 지적했습니다.
벤더는 디크립트(Decrypt) 의 인터뷰에서 "이는 이러한 시스템을 구축하는 사람들과 기업들의 행위를 은폐하려는 시도처럼 들립니다."라고 말했습니다 . "또한 이러한 소위 인공지능 시스템이라는 가면을 쓴 기업들의 변덕에 따라 우리 모두가 언어권을 포함한 여러 영역에서 우리의 인권을 포기해야 한다는 요구이기도 합니다."
벤더는 "인공지능"이 명확하거나 중립적인 기술 범주를 설명한다는 생각을 거부했다.
그녀는 "인공지능이라는 용어는 일관된 기술 집합체를 지칭하는 것이 아니다"라며, "사실상, 그리고 항상 그래왔듯이, 그것은 마케팅 용어일 뿐"이라고 말했다. 이어 의사, 변호사, 성직자 같은 전문가를 모방하도록 설계된 시스템은 실질적인 활용 사례가 부족하다고 덧붙였다.
벤더는 “의사, 변호사, 성직자 등의 이름을 빌려 말하는 목적이 무엇인가?”라고 말하며 “그 목적은 사기다. 그게 전부다.”라고 덧붙였다.
하라리는 은행 계좌 관리 및 비즈니스 거래에 AI 에이전트 사용이 증가하고 있다고 지적했지만, 벤더는 인간의 책임감이 결여된 채 권위 있어 보이는 기계 생성 결과물을 사람들이 얼마나 쉽게 신뢰하는지가 위험의 핵심이라고 말했다.
벤더는 “만약 어떤 시스템에 질문을 던지면 맥락이나 책임 소재가 배제된 채 마치 전지전능한 신탁이 내린 듯한 답처럼 보이는 결과가 나온다면, 사람들은 그런 시스템을 원할 수밖에 없을 겁니다.”라고 말했다. “하지만 저는 사람들이 그런 시스템에 익숙해져서 그 결과를 바탕으로 자신의 생각, 신념, 행동을 형성해 나갈 위험이 크다고 생각합니다.”
