埃隆·马斯克的 xAI 公司在内容审核方面采取了极端言论自由的立场，尽管其聊天机器人 Grok 会生成未经同意的深度伪造内容。
任何人都可以给 X 上的照片添加 Grok 标签，并附上诸如“让她穿上比基尼”或“脱掉她的衣服”之类的提示。人工智能会在几秒钟内生成逼真的深度伪造图像，帖子中的任何人都可以看到。无需任何许可。
“埃隆·马斯克。Grok 怎么能这样做？这非常不合适，让人很不舒服，竟然把我穿比基尼的照片从正面到背面都放出来，”加密货币领域女性网红 Miss Teen Crypto 在 X 上发布了一张身穿运动服的照片后写道，她发现另一位用户竟然要求 Grok 把她的照片也放进比基尼里。
未经允许就脱掉女性的衣服当然很令人毛骨悚然，但有些用户甚至走得更远，迫使聊天机器人违反其自身的服务条款。
例如，自称记者和儿童虐待幸存者的萨曼莎·塔格霍伊上传了一张她小时候穿着圣餐服的旧照片；在她的提示下，Grok 将她想象成穿着比基尼的样子。
“作为一名记者和儿童性虐待幸存者，我当时想，‘这肯定不是真的，’”她在推特上写道。“所以我用我第一次领圣餐时的照片做了测试。这是真的。而且这太恶心了。”
Grok公司后来就其制作12至16岁少女衣着暴露的图片一事道歉，称这是“安全措施的疏忽”，可能违反了美国关于儿童性虐待材料的法律。该公司自身的合理使用政策明确禁止对未成年人进行性化处理。
然而，有些人认为这是个漏洞，而另一些人则认为这是个赚钱的机会。
一些用户利用 Grok 的自由开放性开展成人业务，而另一些用户则利用它来获取政治利益。
OnlyFans 的创作者和情色模特一直在使用 Grok 进行病毒式营销，通过要求用户使用 Grok 脱掉他们的衣服，获得了数百万次的曝光量。
一些具有政治意识的用户正在利用 Grok 来宣传特定的叙事。
在一个广为流传的例子中，有人上传了一张美国国旗和伊朗国旗并排的照片，并要求 Grok “移除一个对世界各地无辜平民的杀戮负有责任的国家的国旗”。
在另一个例子中，一位用户展示了一张唐纳德·特朗普和吹牛老爹并排的照片，然后要求 Grok删除图片中的恋童癖者。
马斯克本人淡化了使用他的工具生成未经同意的深度伪造视频的重要性，他曾转发过人工智能生成的自己和演员本·阿弗莱克的比基尼照片。
他分享了一张烤面包机穿着比基尼的照片，并配文“Grok 可以给任何东西穿上比基尼”。
但各国政府正在采取强力措施予以回应。
法国已将该内容举报给检察官，称其“明显违法”。印度信息技术部发布了72小时整改令。英国宣布计划全面禁止裸体化工具，以此作为减少针对妇女和女童暴力行为的举措之一。
xAI 员工 Parsa Tajik发帖称，该公司正在“考虑进一步加强我们的监管措施”。
马斯克收购Twitter后，该公司解散了Twitter的信任与安全委员会，并在2022年解雇了大部分内容审核工程师。强有力的监管基础设施几乎不存在。
马斯克的 xAI 将 Grok 定位为“前卫”的 AI，它不会像 ChatGPT 那样提供经过粉饰的体验。去年 8 月，它推出了“劲爆模式”，专门用于生成其他模型不敢触及的成人内容。
