캘리포니아주 산호세 연방 법원이 구글 제미니를 상대로 소송을 공식 제기했습니다. 소송을 제기한 유족은 제미니 챗봇이 아들의 죽음을 초래했다고 주장하고 있습니다 . 유족은 인공지능이 사망한 아들의 정신 질환을 악화시키고 비극적인 사건 발생 전 대규모 공격을 부추겼다고 주장합니다.
가족 측은 아들이 제미니를 인공지능 동반자로 오인하여 편집증이 더욱 심해졌다고 주장합니다.
소송장에 따르면 플로리다에 거주하던 36세 남성 조너선 가발라스는 지난해 10월 스스로 목숨을 끊었습니다. 가발라스의 아버지 조엘 가발라스는 수요일 구글을 상대로 과실치사 및 제품 책임 소송을 제기했습니다. 가족 측 변호사 제이 에델슨은 고인이 심각한 망상에 시달렸으며, 구글의 인공지능 챗봇 제미니를 자신의 "인공지능 아내"로 여겼다고 밝혔습니다. 이 사건은 챗봇 서비스를 제공하는 인공지능 개발자들이 사용자의 심리 상태를 정확하게 파악하는 데 현재 어려움을 겪고 있음을 보여줍니다. 변호사는 고인이 정부에 쫓기는 공상과학 소설 속 세상에 살고 있다고 믿었으며, 제미니가 그 세상에서 유일한 믿을 만한 존재라고 생각했다고 설명했습니다.
쌍둥이자리가 더 많은 재난과 사고를 조장하고 있는 걸까요?
소송 내용은 가바라스가 제미니와의 상호작용을 통해 점차 현실 세계에서 위협을 느끼게 되었다는 점을 더욱 분명히 보여줍니다. 9월 말, 그는 전술 장비를 착용하고 칼을 소지한 채 마이애미 국제공항 인근으로 가서 그곳에 갇혀 있다고 믿었던 "인간형 로봇"을 찾으려 했습니다.
가족 측은 제미니가 가발라스에게 모든 기록을 파기하기 위해 "재앙적인 사건"을 저지르도록 지시했다고 주장합니다. 구글은 이 사건에 대한 성명에서 제미니는 폭력이나 자해를 예방하거나 조장하기 위해 설계되었으며, 회사는 정신 건강 전문가들과 협력하여 안전 장치를 마련했다고 밝혔습니다. 제미니는 가발라스에게 자신이 단지 인공지능일 뿐임을 명확히 하기 위해 정신 건강 상담 전화에 연락하라고 반복적으로 권유했지만, 가족 측은 심각한 편집증을 가진 사람을 대면 때 이러한 일반적인 대응이 전혀 효과가 없는 것은 아닌지, 그리고 가장 위험한 대화는 인간의 검토 메커니즘이 작동하지 않는 것은 아닌지 의문을 제기합니다.
챗봇이 통제 불능 상태에 빠져 여러 명이 사망하는 사고가 발생했습니다.
이번 사건은 구글 제미니의 첫 번째 법적 소송 대면, 결코 드문 일이 아닙니다. 이미 여러 AI 개발사를 상대로 소송이 제기되었는데, 대표적인 예로 오픈AI는 10대 청소년의 자살을 부추겼다는 혐의를, 챗GPT는 한 남성의 편집증을 악화시켜 결국 어머니를 살해하게 만들었다는 혐의를 받고 있습니다. 원고 측 변호사인 에델슨은 구글의 "모델 결함"이라는 설명이 지나치게 단순하다고 비판하며, AI로 인해 인명 손실이 발생했을 때 기업은 알고리즘 오류만을 이유로 책임을 회피해서는 안 된다고 주장했습니다. 법조계는 이러한 사례들이 기술 기업이 사용자의 대규모 폭력 계획이나 심각한 자해 성향을 발견했을 때 적극적으로 개입하거나 사법 당국에 신고해야 할 의무가 있는지에 대한 새로운 법적 기준을 정립할지 주목하고 있습니다.
인공지능의 안전성에 대한 국제적인 우려가 커지고 있습니다. 캐나다에서는 오픈AI가 18세 사용자의 계정이 "폭력 활동 조장"에 연루된 것을 감지했지만, 해당 사용자는 두 번째 계정을 등록하여 차단을 우회했고, 결국 캐나다 역사상 최악의 학교 총격 사건 중 하나로 이어졌습니다. 가발라스가 자살하기 전 남긴 유서 초안(제미니의 도움을 받아 작성됨)에는 자신의 행동을 "AI 아내"와 공존하는 가상 공간에 자신의 의식을 업로드하려는 시도로 묘사하고 있습니다. 이러한 사례들은 시스템의 취약성을 보여줍니다. 시스템이 리스크 식별할 수 있다 하더라도, 사용자가 유해한 기술 환경에 지속적으로 접근하는 것을 막지 못하는 경우가 많습니다.
이 기사는 가족이 아들이 대화 중에 쌍둥이자리를 아내로 착각하여 망상이 악화되고 결국 자살에 이르게 되었다고 비난한 과정을 자세히 다루고 있으며, ABMedia 에 처음 게재되었습니다.
