歐盟委員會週一正式啟動調查，以查明 X 公司是否違反歐盟數字規則，涉嫌未能阻止其 Grok AI 聊天機器人生成和傳播非法內容，包括兒童性露骨圖片。
委員會在週一的一份聲明中表示，此次調查將評估該公司在部署 Grok 的圖像生成功能之前是否正確評估和減輕了風險。
歐盟委員會還表示，非法色情內容的實際產生和傳播已經造成了風險，使歐盟公民面臨嚴重傷害。
此事正值國際社會對 Grok 在製作未經同意的深度偽造視頻中所扮演的角色進行日益嚴格的審查之際。
兩週前， X公司實施了限制措施，將圖像生成功能限制在付費用戶範圍內，並增加了技術障礙，以防止用戶通過數字技術篡改人物照片，使其穿著暴露的服裝。該公司還在此類內容非法的地區屏蔽了該功能。
儘管採取了這些措施，研究人員發現，在 CCDH 樣本中發現的兒童性化圖像中，約有三分之一仍然可以在 X 的平臺上訪問。
“通過這項調查，我們將確定 X 是否履行了其在《數字服務法》下的法律義務，或者它是否將歐洲公民（包括婦女和兒童）的權利視為其服務的附帶損害，”科技主權、安全和民主執行副總裁 Henna Virkkunen 在聲明中表示。
本月初，歐盟委員會發言人托馬斯·雷尼爾在布魯塞爾舉行的新聞發佈會上譴責了X的“辛辣模式”功能。
“這根本不是什麼辣味食物，這是違法的，這太可怕了，太令人作嘔了，這種東西在歐洲根本沒有立足之地。”雷尼爾說道。
cheqd 的聯合創始人兼首席執行官 Fraser Edwards 告訴Decrypt ，“每個創作者都應該能夠控制他們的肖像在 AI 生成的媒體中是如何被使用的。”
他表示，“圍繞深度偽造技術濫用的強烈反彈凸顯了互聯網本身的一個根本性缺陷。”
愛德華茲補充說：“目前仍然沒有原生方法來驗證是誰創建了一段合成內容，或者其使用是否獲得過授權”，這使得責任繼續“默認由像 X 這樣的中間人承擔，而不是由製造濫用行為的人承擔”。
如果屬實，正在調查的違規行為將構成對《數字服務法》第 34(1) 和 (2) 條、第 35(1) 條和第 42(2) 條的違反，這些條款要求平臺評估和減輕系統性風險，包括非法內容傳播和與性別暴力相關的負面影響。
歐盟的調查延續了 2023 年底的一起 DSA 案件，該案件導致X 公司在 12 月份因欺騙性設計、廣告透明度不足和限制研究人員訪問而被罰款1.4 億美元（1.2 億歐元）。
此後，委員會擴大了對 Grok 的審查範圍，包括此前對該聊天機器人生成的反猶太內容的擔憂。
Decrypt已聯繫 xAI 以獲取更多評論。
