트럼프와 머스크를 비판한 철학자가 AI 실험으로 밝혀진 방법
한 이탈리아 출판사가 AI를 이용해 트럼프와 머스크를 비판한 홍콩 철학자를 허구로 만들었다.
간웨이쉰(Jianwei Xun)이라는 이 소위 홍콩 철학자의 저서 《최면 통치》(Hypnocracy)는 일론 머스크와 전 대통령 도널드 트럼프가 유토피아적 약속과 공허한 언어를 이용한다고 주장했지만 - 실제로는 존재하지 않았다.
대신, 이 높이 평가된 저자는 이탈리아 출판사 안드레아 콜라메디치(Andrea Colamedici)가 Anthropic의 Claude와 OpenAI의 ChatGPT라는 두 개의 AI 도구와 "협력"하여 만든 산물이었다.
"저는 사람들이 권력의 새로운 표현 형태를 더 잘 이해하는 데 도움을 주는 책을 쓰고 싶었습니다," 콜라메디치는 디크립트(Decrypt)에 말했다.
하지만 《L'Espresso》의 조사 보도가 발표된 후에야 간웨이쉰의 웹사이트가 이 실험을 인정하는 내용으로 업데이트되었으며, 디크립트가 확인한 Wayback Machine 아카이브 스냅샷이 이를 보여준다.
그럼에도 불구하고 이 책은 여전히 높은 평가를 받았다.
《L'Espresso》는 프랑스 일간지 《L'Opinion》이 에마뉘엘 마크롱 대통령이 간웨이쉰의 저작을 "감상"했다고 상세히 보도했다고 전했다. 올해 2월 초, 세계 인공지능 칸 영화제의 한 원탁 회의에서 간웨이쉰의 사상이 광범위하게 논의되었다.
프랑스의 유명 출판사 갈리마르(Éditions Gallimard)는 이탈리아 원본에서 다시 번역하기로 약속했으며, 이전에 Philosophie Magazine이 프랑스어 초판을 출시했다. 스페인어 번역본은 Editorial Rosamerón에서 출판되어 4월 20일에 발행될 예정이다.
분위기 철학?
간웨이쉰은 "본체론적 공학 실험"이라고 콜라메디치는 사후 《Le Grand Continent》와의 인터뷰에서 설명했다.
이 AI 실험이 새로워 보이지만, 비판자들은 이 책이 문제에 직면할 수 있다고 지적했다.
2024년 3월 EU가 통과시킨 AI 법안은 표시되지 않은 AI 생성 콘텐츠를 심각한 위반으로 간주하며 - 비판자들은 콜라메디치의 실험이 이 요구 사항을 무시했다고 말했다.
초기 버전의 소개에서 간웨이쉰은 "홍콩 출생의 문화 분석가이자 철학자"로, "더블린 대학"에 다녔다고 묘사되었다.
이는 사실이 아니다.
더블린 대학 대학원 철학과의 익명의 정보원에 따르면, 그들의 데이터베이스나 다른 더블린 고등 교육 기관의 기록에는 "간웨이쉰"이라는 이름의 사람이 존재하지 않는다.
"저자가 중국어 '성-이름' 순서를 뒤집은 것은 명백한 경고 신호입니다," 홍콩 주재 연구원 로라 루제리(Laura Ruggieri)는 디크립트에 말하며, 그녀가 2월 초부터 불일치를 발견했다고 설명했다.
루제리는 이전에 홍콩 폴리텍 대학에서 기호학을 가르쳤다. 그녀는 동료들에게 간웨이쉰에 대해 물었지만, 아무도 알지 못했다.
"그를 본 사람이나 그의 이름을 들어본 사람이 없었습니다," 루제리가 말했다. "만약 콜라메디치가 진짜 이름을 사용하고 AI가 이 책을 썼다고 인정했다면, 아무도 사지 않았을 것입니다."
디크립트의 의문에 대해 콜라메디치는 이러한 것들이 "의문을 제기하고 조사하려는 사람들을 위해 남겨진" 의도적인 단서라고 주장하며 폭로가 "예정된 것"이라고 말했다.
"우리는 실제로 조사 의지가 조금이라도 있는 사람이라면 누구나 간웨이쉰이 존재하지 않는다는 것을 명백히 알 수 있도록 최선을 다했습니다," 콜라메디치가 말했다.
콜라메디치는 AI가 이 책을 쓰지 않았으며, Claude와 ChatGPT가 "대화 상대자" 역할을 했다고 고집했다.
간웨이쉰의 말
이 책은 스스로를 "현대 현실의 깨진 거울 이미지로 들어가는 여정"이라고 소개하며, 머스크와 트럼프가 강박적 반복을 통해 어떻게 또 다른 현실을 구축했는지 논의한다.
아마존 소개에 따르면, 이 책은 "보이는 세계가 더 복잡한 것의 그림자에 불과하다고 의심하는 사람들"을 위해 쓰였다.
간웨이쉰의 사상은 "최면 통치"를 중심으로, 검열이 아닌 집단 의식의 "알고리즘 조절"을 통해 통제를 실행하는 체제를 설명한다.
영어로 말하자면: 가짜 뉴스.
간웨이쉰은 트럼프의 연설과 소셜 미디어 게시물이 불확실성의 조건을 만들었다고 말했다.
트럼프는 "언어를 비워냈다: 그의 말은 끝없이 반복되어 공허한 기표가 되어, 의미는 없지만 최면적 힘으로 가득 차 있다," 간웨이쉰은 썼다.
간웨이쉰은 머스크가 우주 식민지화와 신경 인터페이스 같은 계획으로 "우리의 상상력을 압도"하고 "실현 불가능한" 약속을 한다고 말했다.
"그들은 공동으로 욕망을 조절하고, 기대를 다시 쓰며, 잠재의식을 식민지화한다," 이 AI 철학자는 썼다.
머스크와 트럼프의 대변인들은 디크립트의 논평 요청에 즉시 응답하지 않았다.
