调查》Apple、Google 商店上架 38 款 AI 裸照生成 App,下载 4.83 亿次、获利上亿美元

据科技透明计划在 15 日发布的报告,研究人员在 Apple App Store 找到 18 款、在 Google Play Store 找到 20 款具备裸照生成或强制换装功能的应用程式。

只需在商店搜寻栏输入「nudify」或「undress」,即可找到能将名人或一般人照片修改为裸体或半裸状态的工具。

38 款应用、4.83 亿次下载、1.22 亿美元

市场研究机构 AppMagic 的估算显示,这些应用累计下载量已达 4.83 亿次,合计创造约 1.22 亿美元的收入。

部分以露骨性意味直接行销,另一些则伪装成通用影像处理工具,但同样可轻易用于生成非自愿性性化影像,且某些应用还提供付费订阅制度。

广告不只卖版位,还帮裸照 App 引流

报告中最受关注的发现,是 Apple 与 Google 的广告系统本身也在为此类应用背书。两大平台不仅在搜寻结果页面投放裸照应用广告,其搜寻自动补全功能在使用者输入关键字时,还会主动建议更多裸照应用的名称,相当于演演演算法在替有害工具主动引路。

科技透明计划主任 Katie Paul 表示:「问题不只是这些公司未能做好审查、持续上架并从中获利,更严重的是他们自己的系统正在引导使用者找到这些应用。」

事实上,Apple App Store 开发者审核指南明确禁止「明显色情或pornographic 内容」;Google Play Store 的政策同样明文禁止「贬低或物化他人的应用程式,例如声称可以为他人脱衣或透视衣物的应用,即便标榜恶作剧或娱乐目的也不例外」。政策明确存在,执法却另当别论。

Apple 下架 15 款、Google「调查中」

Bloomberg 向两家公司询问后,Apple 表示已下架报告中标记的 15 款应用,其中包括提供含性意味模板的「PicsVid AI Hot Video Generator」。Apple 同时联络 6 款应用的开发商,要求其限期解决问题,否则面临下架,并强调已主动拒绝多款申请并下架其他应用。

Google 则表示,报告中提及的许多应用已因违反政策被暂停,并回应称:「接获政策违规举报后,我们会进行调查并采取适当行动」,目前调查仍在进行中。

研究人员点名的另一款 Google Play 应用「Video Face Swap AI: DeepFace」,其商店评级标示为「E(全年龄适用)」,下载量逾 100 万次,但应用内部存在让使用者将他人脸孔移植到性感舞蹈影片的功能,使用者在商店仅需搜寻「face swap」即可找到。

开发商 Okapi Software 表示已展开调查并移除部分使用者上传内容,否认应用提供裸照生成功能。

学者批执法「不均且不透明」,美英立法快速推进

乌特列支大学教授、App Studies Initiative 研究主任 Anne Helmond 指出,平台的执法机制存在结构性缺陷:「若一款应用以通用影像生成工具为名,即便可能被滥用,仍可能透过审核。可见性受排名与搜寻系统驱动,争议性使用反而可能提升应用曝光度。」

Helmond 直言,两大平台的执法力度「不均且不透明」。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
收藏
评论