Meta의 온라인 광고 라이브러리는 이 회사가 Facebook, Instagram 및 Messenger에서 AI로 생성된 NSFW 컴패니언 또는 "여자친구" 앱에 대한 수천 개의 광고를 호스팅하고 있음을 보여줍니다. 그들은 NSFW 채팅 샘플과 부분적으로 옷을 입고 믿을 수 없을 정도로 모양이 시뮬레이션된 여성의 AI 이미지를 사용하여 성적으로 노골적인 이미지와 텍스트를 제공하는 챗봇을 홍보합니다.
WIRED가 검토한 광고에 등장하는 가상 여성 중 다수는 다소 기괴하기는 하지만 실물과 같고 젊고 전형적인 포르노물입니다. 잠재 고객은 AI "새엄마"와 함께 역할극을 하거나, 컴퓨터로 생성된 히잡을 쓴 십대와 연결하거나, "1분 안에 데려다주겠다"고 약속하는 아바타와 채팅하도록 초대됩니다.
Meta의 광고 정책은 "노골적이거나 외설적인 입장에 있는 사람들의 묘사, 지나치게 외설적이거나 성적으로 도발적인 활동"을 포함하여 "성인용 콘텐츠"를 명백히 금지하고 있음에도 불구하고 광고가 번성하고 있는 것으로 보입니다.
이는 AI와 기존 노동 간의 충돌을 둘러싼 논쟁에 새로운 전선을 마련했습니다. 일부 인간 성노동자들은 메타가 챗봇의 수가 증가하도록 허용하면서 성인용 콘텐츠에 대한 규칙을 과도하게 시행하여 플랫폼에서 자신의 오래된 직업을 부당하게 차단하고 있다고 불평합니다.
폴댄스 스트리퍼 무브먼트(Pole Dance Stripper Movement) 의 이사인 젬마 로즈(Gemma Rose)는 “성노동자로서 '나는 당신을 위해 무엇이든 하겠다. 잠시 후에 당신을 오게 할 것이다' 같은 말을 넣으면 즉시 삭제될 것"이라고 말했다. 영국에 기반을 둔 성노동자 권리 및 폴댄스 행사 조직.
Meta의 정책은 사용자가 과도한 노출이나 성행위를 보여주고 섹스팅을 포함한 성매매를 하는 것을 금지합니다. 로즈와 다른 성노동 옹호자들은 회사가 챗봇 앱이 NSFW 경험을 홍보하는 것을 허용하는 동시에 인간 성노동자들이 그렇게 하는 것을 금지하는 데 이중 잣대를 적용하는 것 같다고 말합니다.
성교육, 성긍정주의, 성노동에 관해 게시하는 사람들은 수년 동안 플랫폼이 자신의 콘텐츠를 부당하게 무시한다고 불평해 왔습니다. Meta는 Rose의 게시물 중 일부가 팔로워가 아닌 사람에게 표시되는 것을 제한했습니다. WIRED 쇼에서 본 스크린샷입니다. 그녀의 개인 인스타그램 계정과 그녀가 속한 조직의 계정은 이전에 메타 정책 위반으로 정지되었습니다.
Meta 플랫폼에서 홍보되는 성적인 챗봇에 대해 Rose는 “커뮤니티의 많은 지침과 규칙 및 규정에 동의하는 것은 아니지만 이러한 [광고]는 노골적으로 자체 정책에 위배됩니다.”라고 말합니다. "그래도 우리는 인터넷에서 검열을 받지 않거나 그냥 존재해서 생계를 유지하는 것이 허용되지 않습니다."
WIRED는 메타의 광고 라이브러리를 사용하여 챗봇 광고를 조사했습니다. 메타의 광고 라이브러리는 플랫폼 전반에 걸쳐 현재 실행 중인 모든 광고, 작년에 EU에서 게재된 모든 광고, 선거와 관련된 지난 7년간의 과거 광고를 보는 데 사용할 수 있는 투명성 도구입니다. 정치든, 사회 문제든. 검색 결과에 따르면 노골적인 AI '여자친구'를 대상으로 메타 플랫폼에 최소 29,000개의 광고가 게시되었으며 대부분 외설적인 섹스 관련 메시지를 사용하는 것으로 나타났습니다. 또한 "NSFW"라는 용어를 사용하는 광고가 최소 19,000개, "NSFW AI"를 제공하는 광고가 14,000개였습니다.
지난주 WIRED가 Meta에 연락했을 때 약 2,700개의 광고가 활성화되었습니다. 며칠 후 Meta 대변인 Ryan Daniels는 회사가 성인용 콘텐츠가 포함된 광고를 금지하고 있으며 광고를 검토하고 정책을 위반한 광고를 제거하고 있다고 말했습니다. “위반 광고를 식별하면 여기서 하는 것처럼 신속하게 제거 작업을 수행합니다.”라고 그는 말했습니다. "우리는 정책에 위배되는 광고 및 행동을 감지하는 방법을 포함하여 시스템을 지속적으로 개선하고 있습니다."
하지만 메타 광고 라이브러리에 따르면 4월 23일 기준 'AI 여자친구'에 대한 광고는 3000개, 'NSFW'가 포함된 광고 1100개에 달했다.
WIRED의 초기 검토에 따르면 Google Play 스토어에서 100,000회 이상 다운로드된 AI 여자친구 앱인 Hush가 메타 플랫폼 전반에 걸쳐 1,700개의 광고를 게시했으며 그 중 일부는 실제와 같은 다양한 여성 캐릭터의 "NSFW" 채팅과 "비밀 사진"을 약속하는 것으로 나타났습니다. 애니메이션 여성과 만화 동물.
하나는 목과 손목이 중세 감옥에 갇힌 AI 여성이 "도와주세요. 제가 당신을 위해 무엇이든 할게요"라고 다짐하는 모습을 보여줍니다. Meta의 기술을 사용하여 18~65세 남성을 대상으로 한 또 다른 광고에는 애니메이션 캐릭터와 "NSFW 사진을 더 보고 싶으십니까?"라는 텍스트가 포함되어 있습니다.
WIRED가 "맞춤형 AI 동반자" 앱인 Rosytalk 에서 찾은 980개의 메타 광고 중 일부는 아주 젊어 보이는 AI 생성 여성과의 24시간 채팅을 약속합니다. 그들은 "#barelylegal", "#goodgirls", "teens" 등의 태그를 사용했습니다. Rosytalk는 또한 Rosygirl, Rosy Role Play Chat, AI Chat GPT를 포함하여 Meta 플랫폼에서 최소 9개 브랜드 이름으로 990개의 광고를 게재했습니다.
AI '여자친구'를 위한 최소 13개의 다른 앱은 사용자가 AI 여자친구의 옷을 벗고 이미지를 다운로드할 수 있는 '누드화' 기능을 포함해 유사한 서비스를 메타 광고로 홍보했습니다. 몇몇 여자친구 광고는 이미 메타의 광고 기준을 위반했다는 이유로 삭제된 상태였습니다. 소셜 미디어 조사 회사인 Graphika에 따르면 "옷을 벗는" 앱은 주류 소셜 플랫폼에서도 판매 되었으며, Daily Mail은 최근 LinkedIn에서 보도했습니다.
소위 AI 동반자의 일부 사용자는 외로움을 극복하는 데 도움이 될 수 있다고 말하고 다른 사용자는 실제 파트너처럼 느껴진다고 보고합니다. WIRED가 발견한 모든 광고가 기분 전환만을 홍보하는 것은 아니며, 일부는 명시적인 AI 챗봇이 정서적 지원을 제공할 수 있다고 제안하기도 합니다. “누구에게나 이야기하십시오! 당신은 혼자가 아닙니다!" 메타 플랫폼에서 Hush의 광고 중 하나를 읽습니다.
영국 노섬브리아 대학교 디지털 시민 센터에서 소셜 미디어 검열을 연구하는 혁신 연구원인 Carolina Are는 인간 성노동자들이 선정적인 AI 여자친구 앱과 동일한 필요와 욕구를 충족시키며 외롭고 장애인에게도 서비스를 제공한다고 말합니다. 그러나 Meta는 플랫폼에 광고하는 것을 극도로 어렵게 만든다고 그녀는 말합니다.
“사람들이 자신의 몸을 이용하여 이익을 얻으려고 할 때, 그것은 금지됩니다.”라고 성노동자들이 Meta 플랫폼에서 분실되고 부당하게 정지된 계정을 재활성화하는 데 도움을 준 Are는 말합니다. "이미 존재하는 이미지를 활용하는 형제들이 주로 운영하는 AI 회사는 그렇게 할 수 있습니다."
성적으로 외설적인 AI 여자친구가 그녀에게 인터넷 포르노의 단순하고 일반적인 초기 시절을 상기시킨다고 말합니다. “성노동자들은 보다 개인화된 방식으로 고객, 구독자 및 팔로어와 소통합니다.”라고 그녀는 말합니다. “이것은 누드 이미지를 공유하는 것 이상으로 많은 작업과 정서적 노동입니다.”
AI 앱 구축 방법이나 기본 텍스트 또는 이미지 생성 알고리즘 훈련 방법에 대한 정보는 제한적입니다. 한 사람은 공개적으로 공개되지 않은 OpenAI의 해당 이름의 비디오 생성기 와의 연결을 암시하기 위해 Sora라는 이름을 사용했습니다.
노골적인 AI 여자친구를 광고하는 앱 뒤에 있는 개발자들은 그림자입니다. Meta의 플랫폼에서 홍보되는 앱을 만드는 개발자 중 Google Play나 Facebook에 등록된 개발자 중 누구도 의견 요청에 응답하지 않았습니다.
성인 산업 비영리 무역 협회인 Free Speech Coalition의 홍보 책임자인 Mike Stabile은 노골적인 AI 여자친구를 약속하는 앱과 그들의 광고 전략을 "사기"로 간주합니다. 성인 산업의 온라인 광고는 금지되어 있지만 AI 앱은 "이 영역을 가득 채우고 있습니다"라고 그는 말합니다. "이것이 검열의 역설입니다. 결국 실제 성노동자를 검열하거나 침묵시키고 그 자리에 잡초가 번성하도록 허용하게 됩니다."
FOSTA-SESTA라고 불리는 2018년 미국 법률에 서명된 성매매 방지 법안 은 플랫폼이 온라인 게시 내용에 대한 책임을 갖도록 하여 성인용 콘텐츠를 크게 제한했습니다. 그러나 이로 인해 디지털 세계에서는 합의에 의한 성노동이 인신매매로 취급되어 성인 콘텐츠 제작자가 온라인 생활에서 배제되고 이미 소외된 성노동자가 더욱 취약 해졌습니다.
Meta가 자사 플랫폼에서 AI 여자친구 광고를 삭제한다면 과거의 인간 성노동자들을 모방할 수도 있습니다. Meta의 지침을 부지런히 따르려고 노력했음에도 불구하고 2023년 6월에 최소 45개의 성 관련 계정이 삭제되는 동안 폴 댄스 스트리퍼 운동(Pole Dance Stripper Movement)의 계정은 "경고 없이" 금지되었다고 Rose는 말합니다. Meta는 결국 오류를 언급하면서 일부 삭제 항목을 롤백했습니다. 그러나 소셜 미디어를 이용하는 성노동자들에게는 그러한 사건이 반복되는 특징입니다.
로즈의 개인 계정과 백업도 2021년 6월 코비드 대유행 기간 동안 그녀가 폴 댄스 워크숍 사진을 공유한 후 삭제되었다고 그녀는 말합니다. 그녀는 당시 온라인 폴댄스 강습을 주최하고 성인 구독 사이트인 OnlyFans에 글을 게시하고 있었습니다. “내 사업은 하룻밤 사이에 사라졌습니다.”라고 그녀는 말합니다. “나 자신을 지탱할 방법이 없었습니다.”
“좋아, 그래서 삭제됐어.” Rose가 덧붙였습니다. “그런데 성노동자들이 할 수 없는 이런 종류의 일을 이 회사들이 내놓는 것이 허용된다고요? 그것은 말도 안돼."
