1월 3일 테크 플로우 (techflowpost) TechFlow에 따르면 로이터, 파이낸셜 타임스(FT) 등 여러 언론 매체는 일론 머스크의 xAI가 개발한 챗봇 '그록(Grok)'이 여성과 미성년자를 대상으로 성적으로 선정적인 이미지를 생성했다는 의혹을 받고 있으며, 이로 인해 국제적인 규제 당국의 조사가 시작되었다고 보도했습니다. 로이터는 x 플랫폼에서 사용자들이 그록을 이용해 여성과 남성을 대상으로 '디지털 탈의' 이미지를 생성한 사례를 20건 이상 발견했습니다.
규제 진행 상황과 관련하여 프랑스 정부 장관 여러 명이 관련 정보를 검찰에 제출하고 국가 미디어 규제 기관에 Grok이 EU 디지털 서비스법(DSA)을 준수하는지 여부를 평가해 줄 것을 요청했습니다. 인도 정보기술부는 X India에 서한을 보내 Grok의 악용을 효과적으로 방지하지 못했다고 지적하며 3일 이내에 시정 조치에 대한 보고서를 제출할 것을 요구했습니다.
이에 대해 Grok의 공식 계정은 "CSAM(미성년자 성학대)은 불법이며 금지되어 있다"고 밝히고, 보안 조치에 취약점이 있음을 인정하며 이를 수정하기 위해 노력하고 있다고 전했습니다. 반면 xAI는 현재까지 공개적인 입장을 거의 내놓지 않았습니다.
