목차
비녀장기술투명성이니셔티브(Technology Transparency Initiative)가 15일 발표한 보고서 에 따르면 , 연구원들은 애플 앱스토어에서 18개, 구글 플레이스토어에서 20개의 앱이 나체 사진 생성 또는 강제 의상 교체 기능을 포함하고 있는 것을 발견했다.
스토어 검색창에 "누드화" 또는 "옷 벗기기"라고 입력하기만 하면 유명인이나 일반인의 사진을 나체 또는 반나체처럼 보이게 편집해주는 도구를 찾을 수 있습니다.
앱 38개, 다운로드 4억 8,300만 건, 매출 1억 2,200만 달러
시장 조사 회사인 앱매직(AppMagic)의 추산에 따르면, 이 앱들은 총 4억 8300만 번 다운로드되었으며, 약 1억 2200만 달러의 수익을 창출했습니다.
어떤 앱들은 노골적인 성적 콘텐츠를 직접적으로 홍보하는 반면, 다른 앱들은 일반적인 이미지 처리 도구로 위장했지만, 원치 않는 성적 이미지를 생성하는 데 쉽게 사용될 수 있으며, 일부 앱은 유료 구독 시스템까지 제공합니다.
이 광고들은 광고 공간을 판매할 뿐만 아니라 누드 사진 앱으로 트래픽을 유도하기도 합니다.
이 보고서에서 가장 주목할 만한 점은 애플과 구글의 광고 시스템 자체가 이러한 앱들을 부추긴다는 것입니다. 이 두 플랫폼은 검색 결과 페이지에 누드 사진 앱 광고를 표시할 뿐만 아니라, 사용자가 키워드를 입력할 때 검색 자동 완성 기능을 통해 누드 사진 앱 이름을 적극적으로 추천하여, 사실상 유해한 도구를 유도하는 알고리즘 역할을 하고 있습니다.
기술 투명성 이니셔티브의 책임자인 케이티 폴 은 "문제는 이 회사들이 앱을 제대로 검토하지 않고 계속해서 목록에 올려놓고 이를 통해 이익을 얻는 것뿐만이 아닙니다. 더 심각한 것은 그들의 시스템이 사용자들을 이러한 앱으로 유도하고 있다는 점입니다."라고 말했습니다.
실제로 애플의 앱스토어 개발자 심사 가이드라인은 "명백한 음란물 콘텐츠"를 명시적으로 금지하고 있으며, 구글 플레이 스토어 정책 또한 "장난이나 오락 목적으로 광고하더라도 타인을 비하하거나 대상화하는 앱, 예를 들어 다른 사람이 옷을 벗거나 옷 속을 볼 수 있게 해준다고 주장하는 앱"을 금지하고 있습니다. 정책은 명확하지만, 실제로 이를 시행하는 것은 전혀 다른 문제입니다.
애플은 앱스토어에서 15개 게임을 철수 , 구글은 "조사를 받고 있다".
블룸버그가 두 회사에 연락한 후, 애플은 보고서에 태그 앱 15개를 철수 했다고 밝혔습니다. 여기에는 선정적인 템플릿을 제공하는 "PicsVid AI Hot Video Generator"도 포함됩니다. 애플은 또한 다른 6개 앱 개발자에게 연락하여 지정된 기간 내에 문제를 해결하지 않으면 철수 경고했으며, 여러 앱을 선제적으로 거부하고 다른 앱들을 철수 강조했습니다.
구글은 보고서에 언급된 앱 중 다수가 자사 정책을 위반하여 서비스가 중단되었다고 밝히며, "정책 위반 신고를 접수하면 조사 후 적절한 조치를 취하고 있으며, 조사는 현재도 진행 중"이라고 덧붙였습니다.
연구원들이 지목한 또 다른 구글 플레이 앱인 "Video Face Swap AI: DeepFace"는 "전체 이용가(E)" 등급을 받았으며 100만 회 이상 다운로드되었습니다. 하지만 이 앱에는 다른 사람의 얼굴을 선정적인 댄스 영상에 합성할 수 있는 기능이 포함되어 있습니다. 앱스토어에서 "얼굴 바꾸기"를 검색하면 이 앱을 찾을 수 있습니다.
개발사인 오카피 소프트웨어는 자체 조사에 착수했으며, 사용자가 업로드한 일부 콘텐츠를 삭제했다고 밝혔습니다. 또한, 해당 앱이 누드 사진 생성 기능을 제공한다는 주장을 부인했습니다.
학자들은 법 집행이 "불평등하고 불투명하다"고 비판하며, 이는 미국과 영국에서 관련 법률 제정의 빠른 진전을 촉발했습니다.
위트레흐트 대학교 교수이자 앱 연구 이니셔티브의 연구 책임자인 안네 헬몬드는 플랫폼의 규제 메커니즘에 구조적 결함이 있다고 지적합니다. "앱이 일반적인 이미지 생성 도구로 홍보될 경우, 악용될 가능성이 높더라도 검토 과정을 통과할 수 있습니다. 앱의 가시성은 순위 및 검색 시스템에 의해 결정되며, 논란이 되는 사용 사례가 오히려 앱의 노출을 증가시킬 수도 있습니다."
헬몬드는 두 플랫폼의 법 집행 노력이 "균등하지 않고 불투명하다"고 직설적으로 말했다.
