本週，聯邦檢察官指控兩名男子利用人工智能生成和傳播未經女性同意的性露骨圖像，這標誌著根據新的《取締法案》採取的首批重大執法行動之一。
週四，紐約東區聯邦檢察官分別對來自德克薩斯州的阿圖羅·埃爾南德斯和來自新澤西州的科尼利厄斯·香農提起訴訟，指控他們涉嫌使用人工智能生成深度偽造色情內容。
“被告利用尖端數字技術製作圖像，侮辱和侵犯了全美各地的受害者，”紐約東區聯邦檢察官約瑟夫·諾塞拉在一份聲明中表示。“此案清楚地表明，發佈深度偽造色情內容並非無受害者犯罪。”
檢方指控香農和埃爾南德斯發佈了數千張人工智能生成的圖像和視頻，內容涉及真實人物——包括女演員、歌手、政治人物和應屆高中畢業生——的性行為。據稱，香農和埃爾南德斯將超過470個相冊上傳到網站，這些相冊包含140多名女性的影像，其人工智能生成的圖像和視頻獲得了數百萬次的瀏覽量。
法庭文件顯示，這些圖片似乎是用人工智能軟件將真實的、原本不露骨的照片修改成色情內容而製成的。這些男子將面臨最高兩年的監禁。
2025年5月，唐納德·特朗普總統簽署了《刪除圖片法案》（Take It Down Act）。該法案規定，故意發佈或威脅發佈未經同意的私密圖片（無論真實與否，亦或是人工智能生成）屬於聯邦犯罪行為。該法案還要求在線平臺在48小時內刪除被舉報的內容。
《取締法案》在華盛頓獲得了兩黨支持，與此同時，法院正面臨著與人工智能生成的深度偽造視頻相關的訴訟浪潮，其中包括指控埃隆·馬斯克的 xAI 及其 Grok 聊天機器人創建和傳播未經同意的性化圖像（例如描繪未成年人的圖像） 的案件。
包括加利福尼亞州、德克薩斯州、佛羅里達州和賓夕法尼亞州在內的幾個州已經頒佈了類似的法律，針對未經同意的私密圖像和人工智能生成的深度偽造圖像。
今年四月，俄亥俄州哥倫布市的詹姆斯·斯特拉勒 (James Strahler) 因承認聯邦指控，製作了 700 多張人工智能生成的成人和兒童性露骨圖片，成為該法律下第一個被定罪的人。
“這種掠奪性行為是對技術的令人不安的濫用，它給受害者造成了情感傷害，侵犯了他們的隱私、尊嚴和安全，”聯邦調查局助理局長詹姆斯·巴納克爾二世在一份聲明中表示。“利用這種新興技術來侵害他人並非創新之舉——這是犯罪行為，我們將依法嚴懲。”
