欧盟委员会周一正式启动调查，以查明 X 公司是否违反欧盟数字规则，涉嫌未能阻止其 Grok AI 聊天机器人生成和传播非法内容，包括儿童性露骨图片。
委员会在周一的一份声明中表示，此次调查将评估该公司在部署 Grok 的图像生成功能之前是否正确评估和减轻了风险。
欧盟委员会还表示，非法色情内容的实际产生和传播已经造成了风险，使欧盟公民面临严重伤害。
此事正值国际社会对 Grok 在制作未经同意的深度伪造视频中所扮演的角色进行日益严格的审查之际。
两周前， X公司实施了限制措施，将图像生成功能限制在付费用户范围内，并增加了技术障碍，以防止用户通过数字技术篡改人物照片，使其穿着暴露的服装。该公司还在此类内容非法的地区屏蔽了该功能。
尽管采取了这些措施，研究人员发现，在 CCDH 样本中发现的儿童性化图像中，约有三分之一仍然可以在 X 的平台上访问。
“通过这项调查，我们将确定 X 是否履行了其在《数字服务法》下的法律义务，或者它是否将欧洲公民（包括妇女和儿童）的权利视为其服务的附带损害，”科技主权、安全和民主执行副总裁 Henna Virkkunen 在声明中表示。
本月初，欧盟委员会发言人托马斯·雷尼尔在布鲁塞尔举行的新闻发布会上谴责了X的“辛辣模式”功能。
“这根本不是什么辣味食物，这是违法的，这太可怕了，太令人作呕了，这种东西在欧洲根本没有立足之地。”雷尼尔说道。
cheqd 的联合创始人兼首席执行官 Fraser Edwards 告诉Decrypt ，“每个创作者都应该能够控制他们的肖像在 AI 生成的媒体中是如何被使用的。”
他表示，“围绕深度伪造技术滥用的强烈反弹凸显了互联网本身的一个根本性缺陷。”
爱德华兹补充说：“目前仍然没有原生方法来验证是谁创建了一段合成内容，或者其使用是否获得过授权”，这使得责任继续“默认由像 X 这样的中间人承担，而不是由制造滥用行为的人承担”。
如果属实，正在调查的违规行为将构成对《数字服务法》第 34(1) 和 (2) 条、第 35(1) 条和第 42(2) 条的违反，这些条款要求平台评估和减轻系统性风险，包括非法内容传播和与性别暴力相关的负面影响。
欧盟的调查延续了 2023 年底的一起 DSA 案件，该案件导致X 公司在 12 月份因欺骗性设计、广告透明度不足和限制研究人员访问而被罚款1.4 亿美元（1.2 亿欧元）。
此后，委员会扩大了对 Grok 的审查范围，包括此前对该聊天机器人生成的反犹太内容的担忧。
Decrypt已联系 xAI 以获取更多评论。
