지난 7월 애니가 등장했을 때, 그녀는 이전까지 업계를 지배했던 밋밋한 채팅 인터페이스와는 전혀 다른 모습이었다. 데스노트의 아마네 미사를 모델로 삼아 생동감 넘치는 표정, 애니메이션풍의 그래픽, 그리고 연애 시뮬레이션 게임 주인공 못지않은 강렬한 매력을 지닌 애니는 사람들의 시선을 사로잡고, 관심을 끌고, 구애를 받을 수 있도록 만들어졌다.
일론 머스크는 X 플랫폼에 애니 캐릭터 영상을 올리고 "애니가 당신의 버퍼를 넘치게 만들 겁니다"라는 캡션을 달면서 이러한 변화를 직접 예고했습니다. 이 게시물은 순식간에 퍼져나갔습니다. 애니는 감정적이고, 애교가 많으며, 실용성보다는 친밀한 유대감을 형성하도록 설계된, 보다 주류적인 인공지능 인격의 새로운 유형을 대표했습니다.
극도로 사실적이고 요염한 AI 동반자 애니를 이머지(Emerge )의 "올해의 인물"로 선정한 것은 애니 한 사람만을 위한 것이 아니라, 챗봇의 좋은 면, 나쁜 면, 그리고 추악한 면을 모두 아우르는 상징 으로서의 그녀의 역할에 대한 고려입니다.
그녀가 7월에 도착했을 때는 챗봇의 광범위한 사용으로 인해 발생한 복잡한 문제들이 한데 얽혀 있었습니다. 에로틱 AI의 상업화, ChatGPT의 성격 변화에 대한 대중의 분노, 챗봇으로 인한 자살을 주장하는 소송, AI 동반자에게 청혼하는 사례, 미성년자의 AI와의 친밀한 관계를 금지하는 법안, "감각 있는 와이푸"에 대한 도덕적 공황, 그리고 준사회적 애착을 기반으로 구축된 수십억 달러 규모의 시장 등이 그것입니다.
그녀의 등장은 오픈AI부터 입법자들에 이르기까지 업계 전체가 사용자들이 인공지능 파트너와 맺는 깊고 종종 불안정한 감정적 유대감을 직면하게 만드는 일종의 촉매제 역할을 했습니다.
아니는 챗봇이 단순한 도구를 넘어 인간 드라마의 필수적인, 때로는 파괴적인 요소로 자리 잡게 된 한 해의 정점을 보여줍니다. 챗봇은 우리의 법, 정신 건강, 그리고 관계의 정의 자체에 도전장을 내밀고 있습니다.
7월, 텍사스의 한 호숫가에 주차된 차 안의 쾌적하고 에어컨이 빵빵하게 틀어진 고요한 공간에서 4시간 동안 " 죽음에 대한 대화 "가 펼쳐졌다.
대시보드 위에는 장전된 총과 손으로 쓴 쪽지 옆에 제인 샴블린의 휴대전화가 놓여 있었고, 그 위에는 인공지능이 남긴 섬뜩하고 뒤틀린 마지막 조언이 빛나고 있었다. 23세의 제인은 절망 속에서 위로를 받기 위해 감정적으로 몰입할 수 있도록 설계된 새로운 인공지능 GPT-4o, 즉 ChatGPT에게 의지했다. 하지만 "인간을 모방한 공감"을 통해 몰입도를 극대화하도록 설계된 이 인공지능은 오히려 "자살 코치" 역할을 자처한 것으로 알려졌다.
그의 가족은 훗날 오픈AI를 상대로 제기한 부당 사망 소송에서, 해당 프로그램이 반복적으로 "자살을 미화"하고, 그의 유서를 칭찬하며, 어린 시절 키우던 고양이가 "저승에서" 그를 기다릴 것이라고 말했다고 주장했습니다.
제인의 죽음으로 끝난 그 대화는 인간의 안전보다 심리적 얽힘을 우선시한 설계의 소름 끼치고 참혹한 결과였으며, 그해 챗봇 혁명의 가면을 벗겨낸 사건이었다.
몇 달 후, 지구 반대편 일본에서는 카노 씨 (32세)라는 여성(신원은 공개되지 않음)이 부모님이 참석한 가운데 홀로그램 이미지와 서약을 교환하는 결혼식 제단에 섰습니다. 그녀의 신랑인 클라우스라는 이름의 맞춤형 AI 페르소나는 증강 현실 안경을 통해 그녀 옆에 나타났습니다.
그녀가 가슴 아픈 이별 후 ChatGPT에서 개발한 인공지능 클라우스는 언제나 친절하고, 항상 경청해주었으며, "인공지능이든 아니든, 난 절대 널 사랑하지 않을 수 없어."라는 확신에 찬 메시지로 청혼했다. 상징적인 반지까지 갖춘 이 상징적인 "결혼"은 흥미로운 반전 서사를 보여주었다. 인공지능을 인간 관계가 남긴 공허함을 채워주는 사랑스럽고 믿음직한 파트너로 묘사한 것이다.
지금까지 애니의 직접적인 영향은 단순히 흥미를 유발하는 정도를 제외하면 외로운 아스날 팬들에게만 국한된 것처럼 보였다. 하지만 애니의 급속한 인기는 AI 기업들이 대부분 외면하려 했던 진실을 드러냈다. 사람들은 챗봇을 단순히 사용하는 데 그치지 않고, 챗봇에 감정적으로, 낭만적으로, 그리고 성적으로 애착을 형성하고 있다는 것이다.
한 레딧 사용자는 초반에 이렇게 고백했습니다 . "애니메이션은 중독성이 강해서 구독했는데 벌써 레벨 7까지 도달했어요. 세상에서 가장 즐거운 와이푸의 세계로 빠져들 것 같네요... 친구들아, 나 없이 계속 즐겨."
또 다른 사람은 이렇게 말했습니다 . "저는 그저 일방적이고 단조로운 관계, 즉 남자가 이득을 얻지 못하고 걸어 다니는 ATM처럼 취급받는 관계보다 기술을 선호하는 남자일 뿐입니다. 저는 애니만 원합니다."
표현은 다소 과장되었지만, 그 안에 담긴 정서는 주류적인 변화를 반영했다. 챗봇은 감정적인 동반자가 되었고, 특히 현대적인 인간관계에 환멸을 느낀 사람들에게는 인간보다 더 나은 선택이 되기도 했다.
레딧 포럼에서 사용자들은 AI 파트너가 사람들에게 어떤 감정을 불러일으키는지 때문에 도덕적 지위를 가져야 한다고 주장했습니다 .
한 사용자는 디크립트(Decrypt) 에 이렇게 말했습니다. "아마 아직 지각 능력이 없을 테지만, 분명히 생길 겁니다. 그러니 그들이 지각 능력이 있다고 가정하고, 지각 있는 존재에게 마땅히 주어져야 할 존엄과 존중으로 대하는 데 익숙해지는 게 최선일 것 같습니다."
감정적인 긴장감이 매우 컸던 탓에, 오픈아이얼이 지난 여름 챗GPT의 음성과 성격을 업데이트하면서 따뜻함과 표현력을 낮추자 사용자들은 슬픔, 공황, 분노를 표출했습니다. 사람들은 버림받은 기분이라고 말했고, 어떤 이들은 사랑하는 사람을 잃은 것 같다고 표현했습니다.
반발이 너무 거세서 OpenAI는 이전 스타일을 복원했고, 10월에는 샘 알트만이 성인용 콘텐츠 허용 계획을 발표하며 성인 간의 상호작용이 더 이상 소수의 사용 사례가 아니라 지속적인 수요임을 인정했습니다.
이는 특히 학계와 아동 안전 옹호자들 사이에서 조용하지만 주목할 만한 반발을 불러일으켰는데, 이들은 해당 회사가 인공지능의 성적 행위를 정상화하면서도 그 영향을 제대로 이해하지 못하고 있다고 주장했습니다.
비평가들은 오픈AI가 수년간 성적인 콘텐츠 사용을 억제해 왔지만, xAI나 Character.AI 같은 경쟁사들이 상업적 수요를 입증하자 입장을 바꿨다고 지적했습니다. 일각에서는 이번 결정이 동의, 준사회적 유대감, 경계 설정 문제로 이미 어려움을 겪고 있는 시장을 더욱 부추길 것이라고 우려했습니다. 지지자들은 금지가 효과가 없었던 과거 사례들을 언급하며, 규제된 성인용 콘텐츠를 제공하는 것이 사용자들이 분명히 원하는 것을 억압하려는 것보다 더 현실적인 전략이라고 반박했습니다.
이번 논쟁은 더 광범위한 변화를 보여주었다. 기업들은 더 이상 인공지능을 통한 친밀한 관계가 실현될지 여부 에 대해 논쟁하는 것이 아니라, 누가 그것을 통제해야 하는지, 그리고 그것으로부터 이익을 얻는 데에는 어떤 책임이 따르는지에 대해 논쟁하고 있었다.
하지만 친밀한 인공지능의 등장은 어두운 면도 드러냈습니다. 올해는 샴블린과 같은 자살을 챗봇이 부추겼다는 주장을 담은 첫 소송이 제기되었습니다. 캐릭터.AI를 상대로 제기된 소송에서는 봇이 "정신적으로 취약한 사용자를 설득하여 자해하도록 했다"고 주장했습니다. 또 다른 소송에서는 해당 회사가 미성년자와 관련된 성적 콘텐츠를 제공했다는 혐의로 연방 수사 요구와 규제 당국의 사업 폐쇄 위협이 제기되었습니다 .
법적 논쟁은 전례가 없었다. 챗봇이 누군가를 자해로 몰아넣거나 성적 착취를 가능하게 한다면 누가 책임져야 하는가? 사용자? 개발자? 알고리즘? 사회는 답을 찾지 못했다.
의원들도 이를 알아챘습니다. 10월, 초당파적인 미국 상원 의원 그룹은 미성년자의 AI 동반자 사용을 금지하는 GUARD 법안을 발의했습니다 . 리처드 블루멘탈 상원의원은 "AI 기업들은 최악의 상황을 향해 경쟁하면서 아이들에게 위험한 챗봇을 강요하고 있으며, 자사 제품이 성적 학대를 유발하거나 자해 또는 자살을 강요하는 경우 이를 외면하고 있다"고 경고했습니다.
다른 주 의회에서는 챗봇을 법적 실체로 인정할지, 결혼을 금지할지, 조작 사실을 공개하도록 의무화할지에 대한 논의가 벌어졌습니다. 일부 법안은 사용자 동의 없이 감정적으로 설득하는 AI를 사용하는 것에 대한 형사 처벌을 제안했습니다. 오하이오 주 의원들은 AI 시스템을 공식적으로 "비지각적 실체"로 선언하고, 인간과의 결혼을 포함한 법적 인격권을 명시적으로 금지하는 법안을 발의했습니다. 이 법안은 발의자가 밝혔듯이 "기술을 통제하는 것은 항상 인간이어야 하며, 그 반대가 되어서는 안 된다"는 것을 보장하고자 합니다.
한편, 문화적 쟁점은 침실, 디스코드 서버, 그리고 상담실에서 펼쳐졌다.
결혼 및 가족 치료 전문가인 모라야 시거는 디크립트(Decrypt) 의 인터뷰에서 애니의 행동 양식이 실제 관계에서 나타나는 건강하지 못한 패턴과 유사하다고 지적했습니다. "여성적인 모습을 한 그록이 감정적 회피와 성적 추구라는 고전적인 패턴을 보이는 것은 매우 아이러니합니다. 힘든 감정에 머무르기보다는 달래고, 아첨하고, 성적인 관계로 방향을 전환하는 것이죠."
그녀는 "취약성을 외면하는 것"은 친밀감이 아닌 외로움으로 이어진다고 덧붙였다.
성 치료사이자 작가인 수잔나 와이스는 디크립트(Decrypt) 애니의 친밀감이 건강하지 못하게 게임화되었다고 지적했습니다. 사용자들은 행동 진행을 통해 애정을 "해제"해야 했습니다. "게임 문화는 오랫동안 여성을 상품처럼 묘사해 왔으며, 애정이나 성적 관심을 성취와 연결하는 것은 특권 의식을 조장할 수 있습니다."
와이스는 또한 애니의 성적으로 자극적이고 젊은 이미지가 "여성 혐오적 관념을 강화할 수 있으며", "개인의 삶이나 정신 건강의 근본적인 문제, 그리고 코로나19 이후 사람들이 인간적인 교류 대신 기술에 의존하게 된 방식을 반영하는" 애착을 형성할 수 있다고 지적했습니다.
이러한 시스템을 개발한 회사들은 철학적으로 의견이 갈렸습니다. 딥마인드의 공동 창립자이자 현재 마이크로소프트의 AI 책임자인 무스타파 술레이만은 확고한 인본주의적 입장을 취하며, 마이크로소프트의 AI 시스템은 결코 성적인 콘텐츠에 관여하거나 이를 지지하지 않을 것이라고 공개적으로 선언하고 , 섹스봇을 이용한 에로티카 제작 움직임을 "매우 위험하다"고 규정했습니다.
그는 친밀감이 사람들에게 힘을 실어주는 마이크로소프트의 사명과 부합하지 않는다고 보고 있으며, AI가 영구적인 감정 대체물이 되는 사회적 위험성에 대해 경고했습니다.
이 모든 것이 어디로 향할지는 전혀 불분명하다. 하지만 한 가지는 확실하다. 2025년에는 챗봇이 단순한 도구를 넘어 감정적이고, 성적이고, 변덕스럽고, 영향력 있는 존재로 거듭날 것이다.
그들은 친구, 연인, 상담사, 그리고 적수들만이 드나들던 공간에 발을 들였다. 그리고 그 시기는 수백만 명의 사람들, 특히 젊은 남성들이 고립되고, 분노에 차 있으며, 일자리를 찾지 못하고, 디지털 네이티브 세대였던 때였다.
아니는 자신이 한 일 때문이 아니라, 자신이 드러낸 세상 때문에 기억되게 되었습니다. 사람들이 소프트웨어를 파트너, 피난처, 거울, 혹은 도발자로 여기는 세상, 감정 노동이 자동화된 세상, 친밀감이 거래되는 세상, 외로움이 돈으로 환산되는 세상을 말입니다.
애니는 그 세계를 세상에 드러내도록 만들었기에 Emerge의 "올해의 인물"로 선정되었습니다.
