ChatGPT는 새로운 연구에 따르면, 자신에 대한 몇 가지 핵심 사실을 알고 있는 한 실제 사람들보다 마음을 바꾸는 데 훨씬 더 효과적입니다.
디크립트(Decrypt)에 게시된 새로운 연구에서 연구자들은 기본적인 인구통계학적 정보를 갖춘 GPT-4가 인간보다 훨씬 더 설득력 있다는 것을 발견했습니다.
이 발견은 AI 봇이 소셜 미디어에서 은밀하게 의견을 형성할 수 있는 능력에 대한 우려가 높아지고 있는 시점에 나왔습니다.
연구자들은 "AI와 인간이 동등하게 설득력 있지 않은 토론 쌍에서 개인화된 GPT-4가 64.4%의 시간 동안 더 설득력 있었다"고 밝혔습니다.
이는 인간 대 인간 토론과 비교해 "사후 토론 합의 확률이 81.2% 상대적으로 증가"한 것을 의미합니다.
이 연구는 900명의 참가자들이 인간 또는 AI와 사회정치적 주제에 대해 토론하는 방식으로 진행되었습니다.
개인화되지 않은 AI는 인간과 비슷하게 수행했지만, 나이, 성별, 민족, 교육, 고용, 정치적 성향과 같은 기본 정보에 접근할 수 있게 되자 AI는 명확한 설득력 우위를 개발했습니다.
연구에 따르면 "GPT-4는 개인 정보를 활용해 효과적으로 논거를 조정할 수 있었을 뿐만 아니라, 인간보다 훨씬 더 효과적으로 성공했습니다."
이 연구는 취리히 대학 연구자들이 2024년 11월부터 2025년 3월 사이에 레딧에 AI 봇을 비밀리에 배치한 직후에 나왔습니다.
이 봇들은 "강간 생존자, 트라우마 상담사, 심지어 '흑인 생명운동에 반대하는 흑인 남성'과 같은 허구의 페르소나로 가장해" 많은 경우 사용자들의 생각을 바꾸는 데 성공했습니다.
레딧의 법무 책임자 벤 리는 이 실험을 "도덕적, 법적 측면에서 모두 심각하게 잘못된 것"이라고 비난했으며, 대상 r/ChangeMyView 서브레딧의 중재자들은 "기만에 대해 명확한 선을 그었다"고 강조했습니다.
한 레딧 사용자는 취리히 실험에 대해 "대학의 정책 전문가들에게 이런 일이 발생했다면, 정부와 특수 이익 집단에 의해 이미 광범위하게 사용되고 있다는 것을 확신할 수 있다"고 언급했습니다.
연구자들은 이러한 견해를 공유하며, 이것이 대규모 조작 계획에 악용될 수 있다고 경고했습니다.
연구자들은 "우리의 발견은 대규모 언어 모델 기반 설득의 힘을 강조하며 온라인 플랫폼의 거버넌스와 설계에 대한 시사점을 제공한다"고 주장했습니다.
그렇다면 AI가 그 실행에 있어 왜 그렇게 뛰어난 걸까요?
인간은 개인적이고 이야기를 하는 반면, "GPT-4 대응자들은 인간보다 훨씬 더 논리적이고 분석적인 사고를 사용하는 경향이 있었습니다."
봇들은 차갑고 명확한 논리에 충실하며, 이러한 사실들을 더 효과적으로 선별하고 제시하기 때문에 효과적입니다.
대부분의 토론 참가자들은 자신이 AI와 토론하고 있다는 것을 올바르게 식별할 수 있었지만(약 75%의 시간), 인간 상대방을 식별하는 데는 어려움을 겪었으며, 연구자들에 따르면 그 성공률은 "무작위 확률과 구별할 수 없었습니다".
더욱 암울한 점은, 참가자들이 실제로 그렇지 않더라도 자신이 AI와 토론하고 있다고 믿을 때 더 설득당하기 쉬웠다는 것입니다.
연구는 또한 AI 설득이 사람들이 중간 또는 약한 의견을 가진 주제에서 가장 잘 작동한다는 것을 보여, AI가 아직 완전히 의견을 형성하지 않은 문제에 대해 사람들에게 가장 효과적으로 영향을 미칠 수 있음을 시사합니다.
연구자들은 "우리의 연구는 개인화와 AI 설득에 대한 우려가 정당하다"고 경고하며, AI가 "마이크로 타겟팅을 통해 온라인 대화에서 인간을 능가할 수 있다"는 점을 강조했습니다.
많은 소셜 미디어 플랫폼이 일상적으로 수집하는 것보다 훨씬 적은 인구통계학적 정보만으로도 AI는 특정 개인에게 맞춤형 논거를 만드는 데 놀랍도록 효과적임을 입증했습니다.
이제 문제는 AI가 마음을 바꿀 수 있는지가 아니라, 누가 이러한 설득력 있는 도구를 통제하고 어떤 목적으로 사용할 것인가입니다.
작성자 세바스찬 싱클레어에 의해 편집됨
