유럽연합 집행위원회는 일론 머스크에게 이미 모두가 알고 있던 사실을 분명히 밝혔습니다. 아동을 성적으로 대상화하는 이미지를 만드는 것은 "자극적인" 행위가 아니라 불법이라는 것입니다.
"우리는 X 또는 Grok이 아동스러운 이미지를 포함한 노골적인 성적 콘텐츠를 보여주는 '스파이시 모드'를 제공하고 있다는 사실을 알고 있습니다."라고 유럽연합 집행위원회 대변인 토마스 레니에는 월요일 브뤼셀 기자회견에서 밝혔습니다 . "이것은 자극적인 것이 아닙니다. 불법적인 행위이며, 끔찍하고 역겨운 일입니다. 유럽에서 이런 일이 벌어져서는 안 됩니다."
이번 성명은 앞서 디크립트(Decrypt) 보도한 바와 같이, xAI의 챗봇이 여성의 동의 없이 딥페이크 영상을 제작하고, 온리팬스(OnlyFans) 크리에이터의 마케팅 도구로 사용되며, 정치적 목적으로 이미지를 조작하는 등 논란이 심화되고 있음을 보여줍니다.
레니에는 이것이 그록의 첫 번째 범죄가 아니라는 점을 분명히 했습니다. 유럽연합 집행위원회는 작년에 해당 챗봇이 홀로 코스트 부정 콘텐츠를 생성한 사건에 대해 정보 제공을 요청한 바 있는데, 이는 여러 유럽 국가에서 범죄로 간주됩니다.
유럽연합(EU) 대변인은 유로뉴스에 "X사는 우리가 디지털 서비스법 (동적 시스템 분석) 시행에 대해 매우 진지하게 임하고 있다는 사실을 잘 알고 있을 것"이라며 "이전에 우리로부터 부과받은 벌금을 기억할 것" 이라고 말했다 .
지난 12월에 부과된 벌금은 1억 2천만 유로(1억 4천만 달러)로, 동적 시스템 분석) 에 따라 부과된 최초의 벌금이었습니다. 유럽연합 집행위원회는 X사가 파란색 인증 마크 시스템, 광고 저장소, 연구자 데이터 접근과 관련하여 투명성 요건을 위반했다고 판결했습니다 . X사는 불법 콘텐츠 및 허위 정보 유포 혐의로 현재 동적 시스템 분석 조사를 받고 있습니다.
머스크는 벌금을 "말도 안 되는 소리"라고 일축하며 이의를 제기하겠다고 밝혔습니다.
프랑스는 그록이 아동 음란물을 제작했다는 혐의에 대해서도 형사 조사를 확대했습니다. 영국 방송통신규제기관인 오프컴(Ofcom)은 월요일 X사에 그록이 이러한 이미지를 어떻게 제작했는지 설명하라고 긴급히 요구했습니다. 인도 정보기술부는 X사에 1월 5일까지 포괄적인 안전성 검토 자료를 제출하도록 했고, 말레이시아도 자체 조사를 시작했습니다.
네덜란드 출신 유럽의회 의원 예로엔 레나에르스는 xAI의 접근 방식의 핵심을 날카롭게 짚었다. 레나에르스 의원은 화요일에 "인공지능 플랫폼이 선정적인 콘텐츠 생성을 허용하기로 결정했다면, 사전에 강력하고 효과적이며 독립적으로 검증 가능한 안전장치를 마련해야 한다"고 말했다 .
레나에르스는 아동 성학대 자료가 제작된 후 이를 삭제하는 것만으로는 충분하지 않다고 덧붙이며, "피해자에게 이미 피해가 발생했고 되돌릴 수 없기 때문"이라고 말했습니다.
정확히 그런 일이 벌어졌습니다. 디크립트(Decrypt) 보도에 따르면, 그록(Grok)은 미성년자의 성적인 이미지를 게시했다가 삭제했습니다. 해당 챗봇은 지난주 12~16세 소녀들의 이미지를 생성한 것에 대해 사과하며, 이러한 사건을 " 안전장치 미비 "라고 인정했습니다. 하지만 이미 피해는 발생한 후였습니다.
국제 사회의 거센 압력에 대한 xAI의 반응은 어땠을까요? 로이터 통신이 논평을 요청했을 때, xAI는 "기존 언론의 거짓말" 이라고 답했습니다 .
현재 여러 건의 규제 조사로 인해 해당 전략이 위협받고 있습니다. 동적 시스템 분석 서비스법) 위반 시 전 세계 연간 매출의 최대 6%까지 벌금이 부과될 수 있습니다. X사가 12월에 부과받은 벌금은 초범에 대한 더 낮은 비율을 적용하여 계산된 것이며, 반복 위반 시에는 벌금이 기하급수적으로 증가할 수 있습니다.
첫 번째 벌금 부과 이후 워싱턴의 정치적 반발은 즉각적이었다. JD 밴스 부통령은 EU가 "쓰레기 문제로 미국 기업을 공격할 것이 아니라 표현의 자유를 지지해야 한다"고 게시했다. 마르코 루비오 국무장관은 12월 동적 시스템 분석 부과된 벌금을 "미국 국민에 대한 공격" 이라고 비난했다 .
하지만 유럽 규제 당국은 아동 성학대 자료와 관련해서는 표현의 자유라는 변명을 받아들이지 않고 있습니다. 레니에르 장관이 월요일에 밝힌 내용은 해석의 여지를 남기지 않았습니다. 이는 정치적 검열이나 서로 다른 콘텐츠 검열 문화에 대한 논쟁이 아니라, 아동의 성적 대상화된 불법 이미지의 제작과 유포를 막는 문제입니다.
xAI는 아직 Grok의 기능에 실질적인 변화를 주지 않았습니다. 챗봇의 미디어 탭은 선정적인 이미지로 도배된 후 비활성화되었지만, 핵심 이미지 편집 기능과 사진 애니메이션 기능은 여전히 활성화되어 있습니다.
