隨著人工智能驅動的圖像生成器變得越來越容易使用,以數字方式去除照片中人物衣服的網站也變得越來越容易使用。其中一個網站有一個令人不安的功能,可以讓人們一睹這些應用程序的使用方式:兩個似乎是想要“裸體”拍攝對象的用戶上傳的照片的提要。
圖像源令人震驚地展示了預期的受害者。 《連線》雜誌看到了一些明顯是孩子的女孩的照片。其他照片顯示的是成年人,並有說明文字表明他們是女性朋友或女性陌生人。該網站的主頁不會顯示任何可能為未登錄的訪問者製作的虛假裸體圖像。
想要創建和保存深度偽造裸體圖像的人被要求使用加密貨幣錢包登錄該網站。目前尚未列出定價,但在附屬 YouTube 頁面發佈的 2022 年視頻中,該網站允許用戶購買積分來創建 Deepfake 裸體圖像,起價為 5 個積分,價格為 5 美元。 《連線》雜誌是通過 Reddit 子版塊上關於 NFT 市場 OpenSea 的帖子瞭解到該網站的,該帖子鏈接到 YouTube 頁面。 《連線》聯繫YouTube後,該平臺表示已終止該頻道; Reddit 告訴《連線》雜誌,該用戶已被禁止。
《連線》雜誌沒有透露該網站的身份,該網站仍然在線,以保護仍在其網站上的婦女和女孩。該網站的 IP 地址於 2022 年 2 月上線,屬於互聯網安全和基礎設施提供商 Cloudflare。當被問及其參與時,公司發言人 Jackie Dutton 指出了提供網站 IP 地址(如 Cloudflare 所做的)與託管其內容(Cloudflare 不提供)之間的區別。
《連線》雜誌向國家失蹤和受虐兒童中心通報了該網站的存在,該中心幫助向執法部門報告剝削兒童案件。
OpenAI和Stability AI等人工智能開發商表示,他們的圖像生成器用於商業和藝術用途,並設有防止有害內容的防護欄。但開源人工智能圖像製作技術現在相對強大,製作色情內容是最流行的用例之一。隨著圖像生成變得越來越容易,非自願的裸體深度偽造圖像(通常針對女性)的問題變得更加普遍和嚴重。本月早些時候,《連線》報道稱,佛羅里達州兩名青少年因涉嫌在未經同意的情況下製作和分享人工智能生成的中學同學的裸照而被捕,這似乎是此類案件中的首例。
喬治華盛頓大學法學院教授瑪麗·安妮·弗蘭克斯(Mary Anne Franks)研究了未經同意的露骨圖像問題,她表示 Deepnude 網站凸顯了一個嚴峻的現實:涉及人工智能在未經同意的情況下生成女性裸體圖像的事件要多得多。目前公眾所瞭解的未成年人。少數公開案例之所以被曝光,是因為圖像在社區內共享,有人聽說併發出警報。
“將會有各種各樣的類似網站,無法追蹤,大多數受害者都不知道這種情況發生在他們身上,直到有人碰巧為他們標記,”弗蘭克斯說。
《連線》雜誌審查的網站在兩個不同的頁面上提供了顯然是用戶提交的照片。一個標記為“主頁”,另一個標記為“探索”。其中幾張照片清楚地顯示了18歲以下的女孩。
其中一張照片顯示,一名頭上插著一朵花的年輕女孩站在一棵樹上。另一個女孩似乎在初中或高中的教室裡。這張照片似乎是由一位同學謹慎拍攝的,標題為“色情”。
該網站上的另一張圖片顯示了一群似乎在上中學的青少年:一個男孩在似乎是學校體育館的地方自拍,兩個女孩微笑著擺姿勢拍照。男孩的特徵被 Snapchat 鏡頭遮擋,他的眼睛放大到遮住了他的臉。
顯然上傳的圖像上的標題表明它們包括朋友、同學和浪漫伴侶的圖像。一個標題寫著“我的女朋友”,展示了一位年輕女子對著鏡子自拍。
許多照片都是在 TikTok、Instagram 和其他社交媒體平臺上受歡迎的影響者。其他照片似乎是人們分享日常生活圖像的 Instagram 截圖。一張照片顯示,一位年輕女子微笑著享用甜點,上面放著慶祝蠟燭。
幾張照片中的人似乎與拍照者完全陌生。一張從後面拍攝的照片描繪了一名婦女或女孩,她沒有擺出姿勢拍照,而只是站在似乎是旅遊景點的地方。
《連線》雜誌審查的一些圖像經過裁剪,去掉了婦女和女孩的臉部,只顯示她們的胸部或胯部。
在對該網站進行為期八天的監控期間,《連線》雜誌發現主頁上出現了五張新的女性照片,探索頁面上則出現了三張。網站上列出的統計數據顯示,這些圖像中的大多數都積累了數百次“瀏覽量”。目前尚不清楚提交到該網站的所有圖像是否都會進入“主頁”或“探索”提要,也不清楚視圖是如何製成表格的。主頁上的每個帖子至少有幾十個瀏覽量。
名人和擁有大量 Instagram 粉絲的人的照片位居網站上“觀看次數最多”圖像的榜首。該網站有史以來觀看次數最多的人是演員 Jenna Ortega(觀看次數超過 66,000 次)、歌手兼作曲家 Taylor Swift(觀看次數超過 27,000 次),以及來自馬來西亞的影響者和 DJ(觀看次數超過 26,000 次)。
斯威夫特和奧爾特加之前曾成為深度偽造裸體的目標。一月份, 斯威夫特的假裸照在 X 上流傳,引發了關於深度造假的影響以及為受害者提供更多法律保護的必要性的新討論。本月,NBC 報道稱,七個月來,Meta 一直在為 Deepnude 應用程序投放廣告。該應用程序利用 Jenna Ortega 16 歲時的照片誇耀其“脫衣服”的能力。
在美國,沒有聯邦法律針對傳播虛假的、未經同意的裸體圖像。 少數州頒佈了自己的法律。但 NCMEC 受剝削兒童部門執行主任 Jennifer Newman 表示,人工智能生成的未成年人裸體圖像與其他兒童性虐待材料 (CSAM) 屬於同一類別。
“如果它與活生生的受害者、真實兒童的圖像無法區分,那麼對我們來說,這就是兒童性虐待材料,”紐曼說。 “我們將像處理報告一樣對待它,就像我們將這些報告交給執法部門一樣。”
紐曼表示,2023 年,NCMEC 收到了大約 4,700 份報告,這些報告“以某種方式與生成人工智能技術有關”。
想要在網站上創建和保存 Deepfake 裸體圖像的人被要求使用 Coinbase、 Metamask或 WalletConnect 加密貨幣錢包登錄。 Coinbase 發言人 McKenna Otterstedt 表示,該公司正在對該網站與公司錢包的整合展開內部調查。 WalletConnect 和 ConsenSys 旗下的Metamask沒有回應置評請求。
2022 年 11 月,deepnude 網站的 YouTube 頻道發佈了一段視頻,聲稱用戶可以使用 Visa 或 Mastercard“購買信用卡”。兩家支付處理商均未回覆《連線》雜誌的置評請求。
在 NFT 市場 OpenSea 上,該網站列出了 2022 年的 30 個 NFT,其中包含不同 Instagram 和 TikTok 影響者未經編輯、未深度偽造的照片,而且全都是女性。在使用以太加密貨幣(按今天的匯率計算價值 280 美元)購買 NFT 後,所有者可以訪問該網站,根據網絡檔案,該網站當時還處於早期階段。 NFT 列表稱,對於用戶來說,“隱私是首要任務”。
NFT 根據女性的感知特徵進行分類。這些類別包括胸部尺寸、國家(大多數女性來自馬來西亞或臺灣)和特徵,標籤包括“可愛”、“天真”和“慈母”。
該賬戶列出的 NFT 均未售出。 OpenSea 在《連線》聯繫該公司後 90 分鐘內刪除了該列表和帳戶。 NFT 中出現的女性均未回應置評。
目前還不清楚誰或有多少人創建或擁有這個 deepnude 網站。現在已刪除的 OpenSea 帳戶的個人資料圖片與“nerd”的第三個 Google 圖片結果相同。該帳戶簡介稱,創建者的口號是“揭露這個世界上的糟糕事情”,然後與“所有混蛋和可悲的兄弟”分享。
從 OpenSea 帳戶鏈接的 X 帳戶使用相同的個人簡介,並且還鏈接到一個現在不活躍的關於“白帽、黑帽黑客”和“詐騙和賺錢”的博客。該帳戶的所有者似乎是該博客的三位貢獻者之一,他的綽號是“69 Fucker”。
該網站僅由一名用戶在 Reddit 上推廣,該用戶的個人資料照片是一名看上去不到 50 歲的東亞裔男子。然而,該網站 2022 年 3 月的檔案聲稱該網站“是由 9 個飢渴的女人創建的”技藝精湛的人。”大多數個人資料圖片似乎都是庫存照片,職位名稱也都是滑稽的。其中三個是淫蕩導演、恐怖跟蹤者和戰利品導演。
與該網站相關的電子郵件地址沒有回覆評論。


