인공지능(AI) 콘텐츠가 점점 더 보편화됨에 따라 커뮤니티 플랫폼에서 봇과 가짜 계정 문제가 심각해지고 있습니다. 포브스(Forbes) 보도에 따르면, 오픈AI(OpenAI)는 모든 플랫폼 사용자가 실제 개인임을 보장하기 위해 월드 ID(World ID)나 얼굴 인식과 같은 생체 인식 기술을 결합한 새로운 "실제 사용자 전용"커뮤니티 미디어 플랫폼 개발을 검토 중입니다.
OpenAI가 "실제 사용자의 독점 콘텐츠"를 특징으로 하는 자체 평가 커뮤니티 플랫폼을 출시했습니다.
사정에 정통한 소식통에 따르면, 오픈아이(OpenAI)는 10명도 채 안 되는 소규모 팀으로 커뮤니티 네트워킹 프로젝트를 비밀리에 진행하고 있으며, 이 프로젝트는 아직 초기 단계에 있다고 합니다. 이 플랫폼은 초기에는 "실제 사용자만 참여하는"커뮤니티 서비스로 구상되었으며, 온라인 토론과 트래픽을 조작하는 대량 봇 계정 문제를 근본적으로 해결하고자 합니다.
이 계획이 실현된다면, 오픈AI는 X, 인스타그램, 틱톡과 같은 대형 커뮤니티 플랫폼이 장악하고 있는 경쟁이 치열한 시장에 공식적으로 진출하게 될 것입니다.
월드 ID는 신원 확인의 기반이 될 수 있지만, 개인정보 보호 문제는 여전히 우려 사항입니다.
현재 OpenAI는 애플의 Face ID나 World ID와 같은 증명 방식을 검토하고 있습니다. World ID는 디지털 신원 프로젝트인 World의 홍채 인식 시스템으로, 사용자의 홍채를 스캔하여 "개인 신분 증명"을 상징하는 고유 식별자를 생성합니다.
월드 네트워크는 오픈AI CEO인 샘 알트만이 공동 설립하고 의장을 맡고 있는 프로젝트인 툴즈 포 휴머니티(Tools for Humanity)에서 운영하는 것으로 알려져 있습니다.
기존 커뮤니티 플랫폼이 휴대전화 번호나 이메일 등록에 의존하는 것과 비교했을 때, 이러한 생체 인식 솔루션은 가짜 계정을 줄이는 데 효과적일 수 있지만, 개인정보 보호 및 보안 문제도 제기됩니다. 특히 World는 현재 태국, 인도네시아, 독일, 케냐, 브라질, 홍콩 등에서 규제 조사 또는 서비스 중단 조치를 받고 있는 상황이므로 이러한 우려는 더욱 커집니다.
( 틴더, 월드코인과 제휴해 본인 인증 도입; 홍채 스캔을 암호화폐로 교환하는 데 어떤 규제 문제가 관련되어 있을까? )
알트만은 커뮤니티 봇의 확산에 대해 언급하며, 특히 X를 가장 심각한 가해자로 지목했습니다.
커뮤니티 플랫폼, 특히 X는 오랫동안 봇 계정 으로 몸살을 앓아왔습니다. 포브스는 머스크의 리더십 아래 X의 경영 및 신뢰 시스템이 약화되면서 봇 문제가 더욱 악화되었고, 대규모 공식 계정 정리 이후에도 근절이 어려워졌다고 분석합니다.
오랜 사용자이기도 한 알트만은 커뮤니티 플랫폼에 AI 콘텐츠를 게시하는 계정 수가 급증하고 있으며 인터넷이 비인간적인 활동으로 지배되는 것 같다고 공개적으로 언급했습니다. "트위터와 레딧은 매우 가짜처럼 느껴지는데, 1~2년 전에는 이 정도로 강하게 느껴지지 않았습니다."
저는 인터넷이 죽었다는 이론을 진지하게 생각해 본 적이 없었는데, 트위터에는 LLM(Learning Leadership Management)에서 운영하는 계정이 너무 많습니다.
인공지능 기반 커뮤니티 플랫폼은 상상력을 발휘할 수 있는 충분한 공간을 제공하지만, 개인정보 보호 리스크 여전히 우려 사항입니다.
사정에 정통한 소식통에 따르면, 오픈AI 커뮤니티 플랫폼이 공식 출시될 경우 향후 생성형 AI 도구와 결합되어 사용자들이 플랫폼 내에서 직접 비디오 또는 오디오 콘텐츠를 제작할 수 있게 될 것이며, 이는 ChatGPT나 Sora와 같은 제품의 사용자 모멘텀을 이어가고 수익화할 수 있을 것이라고 합니다.
하지만 현재로서는 명확한 출시 일정이 없으며, 프로젝트 방향은 조정될 수 있습니다. 제 생각에는 개인정보 보호에 대한 인식이 높아지고 있는 상황에서 OpenAI가 생체인식을 커뮤니티 장벽으로 사용한다면 개인 데이터 리스크 과 관련하여 더욱 심각한 균형 테스트에 직면하게 될 것입니다.
( 내부 관계자에 따르면 WhatsApp의 종단간 암호화는 허울뿐이며 메타데이터가 모두 노출되어 있다고 합니다 .)
"OpenAI, 봇 문제 개선을 위해 '실제 사용자 전용' ID 기반 커뮤니티 플랫폼 출시"라는 제목의 이 기사는 뉴스 연쇄 플랫폼인 ABMedia 에 처음 게재되었습니다.
