調查》Apple、Google 商店上架 38 款 AI 裸照生成 App,下載 4.83 億次、獲利上億美元

據科技透明計畫在 15 日發布的報告,研究人員在 Apple App Store 找到 18 款、在 Google Play Store 找到 20 款具備裸照生成或強制換裝功能的應用程式。

只需在商店搜尋欄輸入「nudify」或「undress」,即可找到能將名人或一般人照片修改為裸體或半裸狀態的工具。

38 款應用、4.83 億次下載、1.22 億美元

市場研究機構 AppMagic 的估算顯示,這些應用累計下載量已達 4.83 億次,合計創造約 1.22 億美元的收入。

部分以露骨性意味直接行銷,另一些則偽裝成通用影像處理工具,但同樣可輕易用於生成非自願性性化影像,且某些應用還提供付費訂閱制度。

廣告不只賣版位,還幫裸照 App 引流

報告中最受關注的發現,是 Apple 與 Google 的廣告系統本身也在為此類應用背書。兩大平台不僅在搜尋結果頁面投放裸照應用廣告,其搜尋自動補全功能在使用者輸入關鍵字時,還會主動建議更多裸照應用的名稱,相當於演演演算法在替有害工具主動引路。

科技透明計畫主任 Katie Paul 表示:「問題不只是這些公司未能做好審查、持續上架並從中獲利,更嚴重的是他們自己的系統正在引導使用者找到這些應用。」

事實上,Apple App Store 開發者審核指南明確禁止「明顯色情或pornographic 內容」;Google Play Store 的政策同樣明文禁止「貶低或物化他人的應用程式,例如聲稱可以為他人脫衣或透視衣物的應用,即便標榜惡作劇或娛樂目的也不例外」。政策明確存在,執法卻另當別論。

Apple 下架 15 款、Google「調查中」

Bloomberg 向兩家公司詢問後,Apple 表示已下架報告中標記的 15 款應用,其中包括提供含性意味模板的「PicsVid AI Hot Video Generator」。Apple 同時聯絡 6 款應用的開發商,要求其限期解決問題,否則面臨下架,並強調已主動拒絕多款申請並下架其他應用。

Google 則表示,報告中提及的許多應用已因違反政策被暫停,並回應稱:「接獲政策違規舉報後,我們會進行調查並採取適當行動」,目前調查仍在進行中。

研究人員點名的另一款 Google Play 應用「Video Face Swap AI: DeepFace」,其商店評級標示為「E(全年齡適用)」,下載量逾 100 萬次,但應用內部存在讓使用者將他人臉孔移植到性感舞蹈影片的功能,使用者在商店僅需搜尋「face swap」即可找到。

開發商 Okapi Software 表示已展開調查並移除部分使用者上傳內容,否認應用提供裸照生成功能。

學者批執法「不均且不透明」,美英立法快速推進

烏特列支大學教授、App Studies Initiative 研究主任 Anne Helmond 指出,平台的執法機制存在結構性缺陷:「若一款應用以通用影像生成工具為名,即便可能被濫用,仍可能透過審核。可見性受排名與搜尋系統驅動,爭議性使用反而可能提升應用曝光度。」

Helmond 直言,兩大平台的執法力度「不均且不透明」。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論