유럽연합 집행위원회는 월요일, X사가 자사의 인공지능 챗봇 '그록(Grok)'이 아동의 성적으로 노골적인 이미지를 포함한 불법 콘텐츠를 생성 및 유포하는 것을 막지 못해 EU 디지털 규정을 위반했는지 여부에 대해 공식 조사를 시작했다.
유럽연합 집행위원회는 월요일 성명 에서 이번 조사를 통해 해당 회사가 Grok의 이미지 생성 기능을 배포하기 전에 위험을 적절히 평가하고 완화했는지 여부를 판단할 것이라고 밝혔습니다 .
위원회는 또한 불법적인 성적 콘텐츠의 실제 생성 및 확산으로 인해 위험이 현실화되었으며, 이로 인해 EU 시민들이 심각한 피해에 노출되었다고 밝혔습니다.
이는 그록이 동의 없이 딥페이크 영상을 제작한 것에 대한 국제적인 감시가 강화되는 가운데 나온 것입니다.
2주 전, X는 유료 구독자에게만 이미지 생성 기능을 제공하고, 사용자가 디지털 방식으로 사람들의 노출 의상을 조작하는 것을 막기 위한 기술적 장벽을 추가하는 등의 제한 조치를 시행했습니다. 또한, 해당 콘텐츠가 불법인 지역에서는 해당 기능을 지리적으로 차단했습니다.
이러한 조치에도 불구하고 연구원들은 CCDH 샘플에서 확인된 아동 성착취 이미지의 약 3분의 1이 여전히 X의 플랫폼에서 접근 가능한 상태 임을 발견했습니다 .
"이번 조사를 통해 X사가 동적 시스템 분석) 에 따른 법적 의무를 준수했는지, 아니면 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스 제공의 부수적인 피해로 취급했는지 여부를 판단할 것입니다."라고 헤나 비르쿠넨 기술 주권, 안보 및 민주주의 담당 부사장은 성명에서 밝혔습니다.
이달 초, 유럽연합 집행위원회 대변인 토마스 레니에는 브뤼셀 기자회견에서 X의 "매운맛 모드" 기능을 비난했습니다 .
"이건 매운 음식이 아닙니다. 불법적인 행위입니다. 끔찍하고 역겨운 일입니다. 유럽에 이런 게 있을 자리는 없습니다."라고 레니에는 말했다.
cheqd의 공동 창립자 겸 CEO인 프레이저 에드워즈는 디크립트(Decrypt) 인터뷰에서 "모든 크리에이터는 AI가 생성한 미디어에서 자신의 모습이 어떻게 사용되는지 제어할 수 있어야 한다"고 말했습니다.
그는 "딥페이크 악용에 대한 반발은 인터넷 자체의 근본적인 실패를 드러낸다"고 말합니다.
에드워즈는 "합성 콘텐츠를 누가 만들었는지, 또는 그 사용이 승인되었는지 여부를 확인할 수 있는 기본적인 방법이 여전히 없다"며, 이로 인해 "악용 사례를 만들어낸 사람들이 아닌 X와 같은 중개업체에게 책임이 전가되는 상황이 계속되고 있다"고 덧붙였다.
조사 중인 실패가 입증되면 플랫폼이 불법 콘텐츠 배포 및 성폭력과 관련된 부정적 영향 등 시스템적 위험을 평가하고 완화하도록 요구하는 디지털 서비스법 제34조(1)항 및 (2)항, 제35조(1)항 및 제42조(2)항을 위반하는 것으로 간주됩니다.
EU의 이번 조사는 2023년 말 동적 시스템 분석 법) 위반 사건을 확대하는 것으로, 해당 사건으로 인해 X사는 기만적인 디자인, 광고 투명성 부족, 연구원 접근성 제한 등의 이유로 12월에 1억 4천만 달러 (1억 2천만 유로)의 벌금을 부과받았습니다.
위원회는 이후 Grok에 대한 조사를 확대했으며, 여기에는 챗봇이 생성한 반유대주의 콘텐츠에 대한 이전의 우려도 포함됩니다.
디크립트(Decrypt) xAI 측에 추가적인 의견을 요청했습니다.
