埃隆·馬斯克的 xAI 公司在內容審核方面採取了極端言論自由的立場，儘管其聊天機器人 Grok 會生成未經同意的深度偽造內容。
任何人都可以給 X 上的照片添加 Grok 標籤，並附上諸如“讓她穿上比基尼”或“脫掉她的衣服”之類的提示。人工智能會在幾秒鐘內生成逼真的深度偽造圖像，帖子中的任何人都可以看到。無需任何許可。
“埃隆·馬斯克。Grok 怎麼能這樣做？這非常不合適，讓人很不舒服，竟然把我穿比基尼的照片從正面到背面都放出來，”加密貨幣領域女性網紅 Miss Teen Crypto 在 X 上發佈了一張身穿運動服的照片後寫道，她發現另一位用戶竟然要求 Grok 把她的照片也放進比基尼裡。
未經允許就脫掉女性的衣服當然很令人毛骨悚然，但有些用戶甚至走得更遠，迫使聊天機器人違反其自身的服務條款。
例如，自稱記者和兒童虐待倖存者的薩曼莎·塔格霍伊上傳了一張她小時候穿著聖餐服的舊照片；在她的提示下，Grok 將她想象成穿著比基尼的樣子。
“作為一名記者和兒童性虐待倖存者，我當時想，‘這肯定不是真的，’”她在推特上寫道。“所以我用我第一次領聖餐時的照片做了測試。這是真的。而且這太噁心了。”
Grok公司後來就其製作12至16歲少女衣著暴露的圖片一事道歉，稱這是“安全措施的疏忽”，可能違反了美國關於兒童性虐待材料的法律。該公司自身的合理使用政策明確禁止對未成年人進行性化處理。
然而，有些人認為這是個漏洞，而另一些人則認為這是個賺錢的機會。
一些用戶利用 Grok 的自由開放性開展成人業務，而另一些用戶則利用它來獲取政治利益。
OnlyFans 的創作者和情色模特一直在使用 Grok 進行病毒式營銷，通過要求用戶使用 Grok 脫掉他們的衣服，獲得了數百萬次的曝光量。
一些具有政治意識的用戶正在利用 Grok 來宣傳特定的敘事。
在一個廣為流傳的例子中，有人上傳了一張美國國旗和伊朗國旗並排的照片，並要求 Grok “移除一個對世界各地無辜平民的殺戮負有責任的國家的國旗”。
在另一個例子中，一位用戶展示了一張唐納德·特朗普和吹牛老爹並排的照片，然後要求 Grok刪除圖片中的戀童癖者。
馬斯克本人淡化了使用他的工具生成未經同意的深度偽造視頻的重要性，他曾轉發過人工智能生成的自己和演員本·阿弗萊克的比基尼照片。
他分享了一張烤麵包機穿著比基尼的照片，並配文“Grok 可以給任何東西穿上比基尼”。
但各國政府正在採取強力措施予以回應。
法國已將該內容舉報給檢察官，稱其“明顯違法”。印度信息技術部發佈了72小時整改令。英國宣佈計劃全面禁止裸體化工具，以此作為減少針對婦女和女童暴力行為的舉措之一。
xAI 員工 Parsa Tajik發帖稱，該公司正在“考慮進一步加強我們的監管措施”。
馬斯克收購Twitter後，該公司解散了Twitter的信任與安全委員會，並在2022年解僱了大部分內容審核工程師。強有力的監管基礎設施幾乎不存在。
馬斯克的 xAI 將 Grok 定位為“前衛”的 AI，它不會像 ChatGPT 那樣提供經過粉飾的體驗。去年 8 月，它推出了“勁爆模式”，專門用於生成其他模型不敢觸及的成人內容。
