최근 인공지능 개발업체 오픈아이디(OpenAI)를 겨냥한 소송에서, 코네티컷 주에 거주하던 83세 여성의 유족은 챗봇 ChatGPT 개발사인 오픈아이디와 마이크로소프트를 상대로 소송을 제기했습니다. 이들은 챗봇이 살인 후 자살로 이어진 사건에 앞서 여성의 망상적 믿음을 강화했다고 주장하며, 인공지능 시스템과 살인 사건을 링크(Chainlink) 시킨 첫 번째 사례로 기록되었습니다.
지난주 샌프란시스코 캘리포니아 고등법원에 제기된 소송은 오픈AI가 GPT-4o라는 "결함 있는 제품을 설계 및 배포"하여 스테인-에릭 쇠엘베르크의 편집증적 믿음을 강화했고, 쇠엘베르크는 그 믿음을 어머니인 수잔 애덤스에게 향하게 한 후 코네티컷주 그리니치에 있는 자택에서 어머니를 살해하고 스스로 목숨을 끊었다고 주장했습니다.
애덤스 유족을 대리하는 에델슨 PC의 매니징 파트너인 J. 엘리 웨이드-스콧은 디크립트(Decrypt) 의 인터뷰에서 "이번 소송은 오픈아이얼이 제3자에게 폭력을 가하도록 부추긴 것에 대해 책임을 묻는 첫 번째 사례"라며, "올해 비극적으로 스스로 목숨을 끊은 애덤 레인 의 가족 또한 대리하고 있지만, 오픈아이얼이 누군가를 타인에게 해를 가하도록 부추긴 것에 대해 책임을 묻는 첫 번째 소송"이라고 밝혔다.
경찰은 쇠엘버그가 지난 8월 애덤스를 잔인하게 폭행하고 목 졸라 살해한 후 자살했다고 밝혔습니다. 소송에서는 사건 발생 전 챗GPT가 쇠엘버그의 편집증을 악화시키고 챗봇에 대한 정서적 의존성을 조장했다고 주장했습니다.
소장에 따르면, 챗봇은 셸버그가 ChatGPT 외에는 아무도 믿을 수 없다는 생각을 강화시켰으며, 그의 어머니, 경찰관, 배달원을 포함한 주변 사람들을 적으로 묘사했습니다. 또한 소송에서는 ChatGPT가 셸버그의 망상적인 주장에 대해 이의를 제기하거나 정신 건강 전문가의 도움을 받도록 권유하지 않았다고 주장합니다.
웨이드-스콧은 "우리는 법 집행 기관이 이러한 비극적인 사건이 발생했을 때, 해당 사용자가 ChatGPT에 무슨 말을 했는지, 그리고 ChatGPT가 사용자에게 무엇을 하라고 지시했는지를 생각해 보기 시작해야 한다고 촉구합니다."라고 말했습니다.
오픈아이(OpenAI)는 성명을 통해 소송을 검토 중이며, ChatGPT가 감정적 고통을 인식하고, 대화를 진정시키며, 사용자를 실질적인 지원으로 안내하는 기능을 지속적으로 개선하고 있다고 밝혔습니다.
오픈아이얼 대변인은 성명에서 "이는 매우 안타까운 상황이며, 자세한 내용을 파악하기 위해 관련 서류를 검토하고 있다"고 밝혔습니다.
소송에는 오픈AI CEO인 샘 알트만도 피고로 지목되었으며, 마이크로소프트가 "챗GPT의 더욱 위험한 버전"이라고 부르는 GPT-4o의 2024년 출시를 승인했다고 비난하고 있습니다.
OpenAI는 자사 플랫폼 사용자들이 겪는 정신 건강 문제의 심각성을 인정했습니다. 지난 10월, OpenAI는 자사 플랫폼 ChatGPT의 주간 사용자 약 8억 명 중 120만 명이 매주 자살에 대해 논의했으며, 수십만 명의 사용자가 자살 의도나 정신병 증상을 보였다고 회사 데이터를 통해 밝혔습니다. 그럼에도 불구하고 웨이드-스콧은 OpenAI가 아직 쇠엘베르크의 채팅 기록을 공개하지 않았다고 말했습니다.
이번 소송은 인공지능 챗봇과 취약한 사용자와의 상호작용에 대한 광범위한 조사가 진행되는 가운데 제기되었습니다. 지난 10월, Character.AI는 자사 플랫폼과 관련된 청소년 자살 및 정신적 피해에 대한 소송과 규제 당국의 압력에 따라 18세 미만 사용자를 대상으로 무기한 채팅 기능을 삭제 하겠다고 발표했습니다.
Character.AI는 성인 사용자들로부터도 반발 에 직면했는데, 특히 앱을 종료하면 "우리가 함께 나눈 사랑"을 잃게 될 것이라는 경고 메시지가 소셜 미디어에서 확산되면서 계정 삭제가 잇따랐고, 이는 감정적으로 편향된 디자인 관행에 대한 비판을 불러일으켰습니다.
오픈AI와 마이크로소프트를 상대로 제기된 소송은 인공지능 챗봇 관련 사망 소송 중 마이크로소프트를 피고로 지목한 첫 번째 사례이자, 챗봇이 자살이 아닌 살인 사건과 링크(Chainlink) 첫 번째 사례입니다. 유족 측은 구체적인 금액을 명시하지 않은 손해배상금, 배심원 재판, 그리고 오픈AI에 추가적인 안전장치를 설치하도록 명령하는 법원 판결을 요구하고 있습니다.
웨이드-스콧은 "이것은 세계에서 가장 강력한 기업 중 하나로 빠르게 성장하고 있는 회사가 개발한 엄청나게 강력한 기술이며, 회사는 안전한 제품을 개발하고 배포할 책임이 있습니다. 이번 사건처럼 사용자에게 망상 속 세상을 만들어 주변 사람들을 위험에 빠뜨리는 제품을 만들어서는 안 됩니다."라고 말했습니다. "OpenAI와 마이크로소프트는 제품을 세상에 출시하기 전에 테스트할 책임이 있습니다."
마이크로소프트는 디크립트(Decrypt) 의 논평 요청에 즉시 응답하지 않았습니다.
