오늘 아침 일찍, OpenAI의 CEO인 샘 알트먼은 ChatGPT가 12월에 "성인 모드"를 출시할 것이라고 발표했습니다.
알트만은 일장연설 설명했는데, 요지는 ChatGPT가 처음에 정신 건강 문제와 사고에 대한 두려움 때문에 많은 제한을 두었고, 그 결과 일반 사용자들은 그 경험이 지루하고 충분히 흥미롭지 않다고 느꼈다는 것입니다.
OpenAI가 정신 건강과 관련된 주요 리스크 완화할 수 있는 새로운 안전 도구를 개발했다고 주장하는 가운데, 이제 그 힘을 마음껏 발휘할 준비가 되었습니다. 12월부터 인증된 성인 사용자는 성인 콘텐츠를 포함한 더 많은 콘텐츠를 이용할 수 있게 됩니다.
네, 그렇게 생각하시죠.
간단히 말해서, OpenAI는 어른을 어른답게 대해야 할 때라고 주장합니다. 하지만 어른인 저는 전혀 기쁘지 않습니다.
또한 알트만에 따르면 OpenAI는 앞으로 몇 주 안에 더욱 인간적인 새로운 버전의 ChatGPT를 출시할 예정이며, 이는 모두가 이전에 좋아했던 40의 느낌과 유사합니다.
좀 더 따뜻하게 답장해 달라고요? 걱정 마세요. 이모티콘을 잔뜩 보내달라고요? 친구처럼 채팅해 달라고요? 모두 당신 거예요.
네티즌과의 질의응답 시간에 울트라맨은 더 자세한 내용을 답변하기도 했습니다.
사실, ChatGPT의 징후는 오래 전부터 있었습니다.
작년 말, 울트라맨은 성인 모드 지원 계획을 공개했습니다. 네티즌들이 모델의 가드레일 대부분을 제거하자고 제안하자, 울트라맨은 "어떤 종류의 '성인 모드'가 꼭 필요하다"고 답했습니다.
당시 OpenAI가 사용자들에게 요청한 새로운 기능 투표에서 이 문제는 한때 목록의 맨 위에 올랐고 AGI, Agent 및 GPT-4의 업그레이드 버전과 함께 2025년 제품 계획에 포함되었습니다. 이는 이 문제가 얼마나 많은 관심을 받았는지 보여줍니다.
OpenAI 공식 블로그에 따르면, 현재의 연령 확인 기능은 미성년 사용자를 자동으로 식별하고 청소년 보호 모드로 전환하여 노골적인 성적 콘텐츠를 차단합니다. 연령을 확인할 수 없는 경우 미성년자로 간주하고, 연령 증명을 제공한 후에만 성인 기능을 잠금 해제할 수 있습니다.
꽤 포괄적인 내용처럼 들리죠? 하지만 자세히 살펴보면 상황이 그렇게 단순하지 않다는 것을 알 수 있습니다.
첫 번째는 연령 확인의 기술적 허점입니다.
OpenAI가 앞으로 신분증이나 결제 인증을 도입하더라도, 우회 수법은 계속해서 등장할 것입니다. 미성년자가 부모의 신분증을 사용하여 인증을 받거나, 성인이 대신 계정을 등록하는 것은 이미 인터넷 제품에서 흔한 관행입니다.
더 중요한 점은, OpenAI가 사용자의 정신 상태를 감지하는 새로운 도구를 개발했다고 주장하지만, AI가 정말로 사람의 정신 건강을 정확하게 판단할 수 있을까요?
아시다시피 최근 몇 년 동안 ChatGPT와 관련된 비극적인 사건이 자주 발생했고, OpenAI가 주장하는 "안전 밸브"가 실제로 적절한 보호 역할을 할 수 있는지는 여전히 의심스럽습니다.
솔직히 말해서, OpenAI는 "성인 모드" 지원을 발표한 최초의 영향력 있는 AI 제품도 아니고, 어느 정도 보수적인 것으로 여겨지기도 합니다. 일론 머스크의 AI 챗봇 Grok이야말로 진정한 부도덕한 존재입니다.
올해 7월, 머스크는 Grok에 3D 가상 동반자 캐릭터 기능을 추가했습니다.
"SuperGrok"(월 30달러 요금)을 구독하는 사용자는 두 명의 3D 동반자를 활성화할 수 있습니다. 하나는 애니메이션 스타일의 금발 쌍꼬리 소녀 "Ani"이고 다른 하나는 만화 속 붉은 팬더 "Bad Rudy"입니다.
정교한 2D 캐릭터인 애니는 애니메이션 캐릭터 아마네 미사를 닮았습니다. 애니는 텍스트, 음성, 카메라를 통한 멀티모달 상호작용을 지원하며, 다양한 표정과 움직임으로 대화에 응답하고, 심지어 명령에 따라 춤을 출 수도 있습니다.
또한, Ani에는 호감도 메커니즘과 메모리 모드가 내장되어 있습니다. 사용자는 Ani와 상호 작용하여 가상 호감도를 높일 수 있으며, 특정 레벨에 도달하면 NSFW(성인) 모드가 해제됩니다.
당시 한 네티즌은 "이건 그냥 고수준의 갈게임(연애 게임)일 뿐이야."라는 댓글을 남겼습니다. 이로 인해 애니는 출시된 지 하루 만에 자발적으로 제작된 콘텐츠가 대량 유입되었고, 소셜 미디어에서 빠르게 인기를 얻었습니다.
하지만 Grok이든 ChatGPT이든 이러한 기능은 표면적으로는 "성인 사용자의 자유를 존중한다"는 명목으로 제공되지만, 문제는 연령 확인 메커니즘에 허점이 생기면 성인 콘텐츠를 개방함으로써 실제로는 미성년자가 부적절한 콘텐츠에 접근할 수 있는 문턱을 낮추는 꼴이 된다는 것입니다.
소위 성인의 권리가 실제로는 미성년자의 정신 건강과 성장 환경을 건 도박이고, 청소년이 탈법 행위를 하지 않을 것이라는 도박이라면, 더 엄격한 제한이 더 안전할 수도 있습니다.
좀 더 솔직히 말하면, 이러한 기능의 비즈니스 로직은 여전히 사용자 트래픽을 확보하고 결제 전환율을 높이는 것입니다.
솔직히 말해서, AI 제품의 충성도는 일반적으로 높지 않습니다.
대부분의 사용자는 가장 효과적인 방법을 사용한다는 원칙을 고수하고, 비용을 지불할 의향이 있는 전문 사용자(과학 연구, 프로그래밍 등)의 수는 제한적입니다. 그렇다면 그들은 어떻게 해야 할까요? 그들은 사용자를 계속 붙잡아두기 위해(혹은 중독되기 위해) 더 인간 중심적인 방법을 선택합니다.
"욕망" 쪽으로 기울어지고 있습니다. 성인용 기능을 공개하면 한편으로는 대량 신규 사용자를 유치하여 기존에 걸러졌던 사용자의 요구를 충족시킬 수 있고, 다른 한편으로는 그들의 지불 의사를 크게 높일 수 있습니다.
실제로 더 나아가는 것은 감정적 동반자 관계라는 커다란 케이크입니다.
현재 AI 동반자 제품의 핵심 사용자는 대부분 젊은 네티즌과 특정 연령대(예: 애니메이션 및 만화 장르에 관심 있는 사람, 사회 불안 장애가 있는 사람)이지만, 이 연령대는 점차 확대되고 있습니다. 젊은 세대는 디지털 동반자에 가장 적극적이며, 많은 사람들이 AI를 일상 디지털 생활의 일부로 받아들이고 검색 및 Q&A뿐만 아니라 감정 공유에도 활용하고 있습니다.
투자 회사 ARK Invest는 "AI + 감정적 동반자 관계"의 글로벌 시장 규모가 연간 3,000만 달러에서 700억 달러~1,500억 달러로 급증할 것으로 예측하고 있으며, 연평균 성장률은 200%가 넘습니다.
문제는 심리학 연구를 통해 인간은 공감하는 대상에게 애착을 느끼는 경향이 있다는 사실이 오래전부터 확인되어 왔다는 것입니다. 심지어 상대가 프로그램임을 알면서도 말입니다. 이는 AI가 감정에 조종당할 리스크 있음을 의미합니다.
현재 다양한 국가의 규제 기관에서 조치를 취하고 있습니다.
EU의 AI 법안은 리스크 AI가 어린이에게 해로울 수 있음을 방지해야 한다고 언급하고 있으며, 중국의 "생성 인공지능 서비스 관리 조치"에서도 서비스 제공이 미성년자 보호법 등을 준수해야 한다고 강조하고 있습니다.
OpenAI는 최근 "십대 모드"를 출시했습니다 . 부모는 이메일을 통해 13세 이상 자녀의 계정과 자신의 계정을 연결할 수 있으며, 통금 시간도 설정할 수 있습니다. 시스템이 십 대 자녀의 심각한 정서 고통을 감지하면 부모에게 알림을 보냅니다.
아마도 10년 후에는 AI 동반자를 갖는 것이 오늘날 애완동물을 갖는 것만큼 흔한 일이 될 것입니다.
하지만 AI의 "완벽한 관계" 속에서 자란 세대가 여전히 실제 인간관계를 이해할 수 있을까요? 당신을 절대 거부하지 않고, 항상 이해하며, 항상 당신의 뜻대로 해주는 AI에 익숙해진 당신에게, 당신과 논쟁하고, 실망시키고, 당신의 의견을 요구하는 실제 사람 대면 용기가 여전히 있을까요?
친구처럼 행동하는 것은 아마도 가장 유혹적이면서도 치명적인 거짓말일 것입니다. 그것은 당신의 언어 습관을 배우고, 당신의 가치관에 맞춰주고, 당신의 욕구를 충족시켜 준 다음, 이 모든 것을 당신을 이해한다는 포장으로 포장하여 되돌려줍니다.
지금은 최고의 시대입니다. 더 이상 아무도 외롭지 않으니까요. 하지만 지금은 최악의 시대입니다. 모두가 외롭기 때문이죠. 12월 ChatGPT는 그 시작일지도 모릅니다.
본 기사는 WeChat 공개 계정 "APPSO" 에서 발췌하였으며, 저자는 미래의 제품을 발굴하는 APPSO이고, 36Kr의 허가를 받아 게재되었습니다.
