화요일, 양당의 미국 상원의원 그룹은 인공지능 모델이 어린이와 상호작용하는 방식을 제한하는 법안을 발의했습니다. 이 법안은 AI 친구가 미성년자의 정신 건강과 정서적 안녕에 심각한 위험을 초래할 수 있다고 경고했습니다.
GUARD 법이라 불리는 이 법안은 미성년자를 위한 AI 동반자 사용을 금지하고, 챗봇이 자신이 인간이 아니라는 것을 명확하게 식별하도록 요구하며, 미성년자를 대상으로 성적 콘텐츠를 유인하거나 생성하는 제품을 생산하는 회사에 대한 새로운 형사 처벌을 신설합니다.
법안의 공동 발의자 중 한 명인 리처드 블루멘탈(코네티컷주 민주당 상원의원)은 성명을 통해 "AI 기업들은 하향 경쟁에서 어린이들에게 위험한 챗봇을 내밀고, 제품이 성적 학대를 유발하거나 자해 또는 자살을 강요할 때는 외면하고 있습니다."라고 말했습니다 .
그는 "우리 법은 착취적이거나 조작적인 AI에 대한 엄격한 안전장치를 마련하고 있으며, 형사 및 민사상 처벌을 포함한 강력한 집행을 통해 뒷받침됩니다."라고 덧붙였습니다. "빅테크 기업들은 아동 안전보다 이윤을 우선시하는 행태를 보임으로써, 기업들이 스스로 옳은 일을 할 것이라고 믿어야 한다는 우리의 주장을 저버렸습니다."
이 문제의 규모는 심각합니다. 커먼 센스 미디어가 7월에 실시한 설문 조사에 따르면 십 대의 72%가 AI 친구를 사용해 본 적이 있으며, 절반 이상이 한 달에 최소 몇 번 이상 사용하는 것으로 나타났습니다. 3명 중 1명은 사회적 또는 낭만적인 교류, 정서적 지지, 또는 대화 연습을 위해 AI를 활용한다고 답했으며, 많은 사람들이 AI와의 대화가 실제 친구와의 대화만큼 의미 있다고 느꼈습니다. 또한 심각하거나 개인적인 문제를 논의할 때 인간 대신 AI 친구를 찾는 비율도 비슷했습니다.
주요 AI 기업들을 상대로 자사 제품이 청소년 자해 및 자살에 영향을 미쳤다는 의혹을 제기하는 소송이 늘어나면서 우려가 커지고 있습니다. 그중에는 ChatGPT와 자살을 논의하다 스스로 목숨을 끊은 16세 소년 애덤 레인의 부모가 OpenAI를 상대로 부당 사망 소송을 제기한 사례도 있습니다.
해당 회사는 추모식 참석자 명단과 추도사 제출을 요구하는 등 법적 대응을 했고, 이로 인해 비난을 받았습니다. 유족 측 변호인들은 이들의 행동을 "고의적인 괴롭힘"이라고 비난했습니다.
Holonym의 공동 창립자이자 디지털 권리 옹호자인 셰이디 엘 다마티는 디크립트(Decrypt) "AI는 우리가 다루어 온 어떤 기술보다 빠르게 발전하고 있으며, 우리는 이미 AI가 행동, 신념, 정서적 건강에 미치는 영향을 보고 있습니다."라고 말했습니다 .
"이건 아이폰 시대라기보다는 핵무기 경쟁에 더 가까워지고 있습니다. 우리는 사람들의 사고방식을 바꿀 수 있는 기술에 대해 이야기하고 있는데, 이 기술은 전 세계적으로 진지하게 다뤄져야 합니다."
엘 다마티는 사용자의 안전을 보장하기 위해서는 사용자의 권리가 필수적이라고 덧붙였습니다. "사람들의 삶과 사고방식에 영향을 미치는 도구를 만든다면, 그 도구가 어떻게 사용되는지에 대한 책임은 사용자에게 있습니다."라고 그는 말했습니다.
이 문제는 미성년자만 대상으로 하는 것이 아닙니다. 이번 주 OpenAI는 매주 120만 명의 사용자가 ChatGPT와 자살에 대해 논의한다고 밝혔 는데, 이는 전체 사용자의 0.15%에 해당합니다. 회사 데이터에 따르면 거의 50만 명이 명시적 또는 암묵적 자살 의도를 보이고, 56만 명이 매주 정신병이나 조증 증상을 보이며, 백만 명이 넘는 사용자가 챗봇에 대한 강한 정서적 애착을 보이는 것으로 나타났습니다.
레딧을 비롯한 여러 플랫폼에서 AI 봇과 연애 관계를 맺고 있다고 주장하는 AI 사용자들을 위한 포럼이 생겨났습니다. 이러한 그룹에서 사용자들은 AI "남자친구"와 "여자친구"와의 관계를 설명하고, AI가 생성한 자신과 "파트너"의 이미지를 공유합니다.
점점 더 엄격해지는 감시에 대응하여, OpenAI는 이번 달 학계와 비영리 단체 지도자들로 구성된 웰빙 및 AI 전문가 위원회를 구성하여 자사 제품의 정신 건강 상호작용 처리 방식을 안내했습니다. 이러한 움직임은 샘 알트먼 CEO가 12 월부터 성인 콘텐츠 제한을 완화할 것이라는 발표와 함께 이루어졌습니다.
