연방 검찰은 이번 주 인공지능을 이용해 여성의 동의 없이 성적으로 노골적인 이미지를 생성 및 배포한 혐의로 두 남성을 기소했는데, 이는 새로운 '음란물 삭제법(Take It Down Act)'에 따른 첫 번째 주요 법 집행 조치 중 하나입니다.
목요일, 뉴욕 동부 지방 연방 검찰은 인공지능으로 제작된 딥페이크 음란물과 관련된 혐의로 텍사스 출신의 아르투로 에르난데스와 뉴저지 출신의 코넬리우스 섀넌을 각각 기소했습니다 .
뉴욕 동부지구 연방 검사장 조셉 노첼라는 성명에서 "피고인들은 최첨단 디지털 기술을 이용해 미국 전역의 피해자들을 모욕하고 유린하는 이미지를 제작했다"며 "이번 사건은 딥페이크 음란물 게시가 결코 피해자가 없는 범죄가 아님을 분명히 보여준다"고 밝혔다.
검찰은 섀넌과 에르난데스가 배우, 가수, 정치인, 고등학교 졸업생 등 실제 인물들이 성행위를 하는 모습을 묘사한 수천 장의 AI 생성 이미지와 동영상을 게시했다고 주장합니다. 섀넌과 에르난데스는 140명이 넘는 여성을 묘사한 470개 이상의 앨범을 웹사이트에 업로드했고, 이 AI 생성 이미지와 동영상은 수백만 건의 조회수를 기록했습니다.
법원 제출 서류에 따르면 해당 이미지들은 인공지능 소프트웨어를 이용해 노골적인 성적 콘텐츠로 변형된 실제 사진들을 사용한 것으로 보입니다. 이들은 최대 2년의 징역형에 처할 수 있습니다.
도널드 트럼프 대통령은 2025년 5월 '유해 콘텐츠 삭제법(Take It Down Act)'에 서명했습니다 . 이 법안은 실제 이미지든 인공지능(AI) 생성 이미지든 관계없이 동의 없이 촬영된 성적인 이미지를 고의로 게시하거나 게시하겠다고 위협하는 행위를 연방 범죄로 규정합니다. 또한 온라인 플랫폼은 신고된 콘텐츠를 48시간 이내에 삭제해야 합니다.
'테이크 잇 다운 법안'은 워싱턴에서 초당적인 지지를 받았으며, 법원이 AI가 생성한 딥페이크와 관련된 소송 의 증가에 직면한 가운데 발의되었습니다. 이러한 소송에는 일론 머스크의 xAI와 그록 챗봇이 미성년자를 묘사한 이미지와 같이 동의 없이 성적 이미지를 제작 및 배포했다는 혐의가 포함됩니다.
캘리포니아, 텍사스, 플로리다, 펜실베이니아를 포함한 여러 주에서는 동의 없이 촬영된 친밀한 이미지와 AI로 생성된 딥페이크를 겨냥한 유사한 법률을 제정 했습니다.
지난 4월, 오하이오주 콜럼버스에 거주하는 제임스 스트라흘러는 성인과 아동의 성적으로 노골적인 이미지를 인공지능으로 생성한 700여 장에 관련된 연방 혐의에 대해 유죄를 인정하고 해당 법률에 따라 유죄 판결을 받은 첫 번째 인물이 되었습니다.
"이러한 약탈적 행위는 피해자에게 정신적 고통을 가하고 사생활, 존엄성, 안전을 침해하는 기술의 심각한 악용 사례입니다."라고 FBI 부국장 제임스 바나클 주니어는 성명에서 밝혔습니다. "새로운 기술을 이용해 개인을 희생시키는 것은 새로운 것이 아니라 범죄 행위이며, 법의 모든 힘을 동원하여 엄중하게 처벌할 것입니다."
