비영리 소비자 권익 옹호 단체인 퍼블릭 시티즌은 금요일에 일론 머스크의 AI인 그록(Grok)에 대한 경고 수위를 높였습니다. 챗봇이 신나치주의와 백인 민족주의 웹사이트를 신뢰할 만한 출처로 인용했다는 새로운 증거가 발표되었기 때문입니다.
이 단체는 이러한 행동으로 인해 Grok이 연방 정부에서 사용될 수 없게 되었으며, 몇 달 동안 아무런 반응이 없자 미국 관리예산국(OMB)이 개입해야 한다는 요구를 다시 제기했습니다.
퍼블릭 시티즌은 코넬 대학의 최근 연구를 인용하며, 머스크가 10월에 출시한 새로운 AI 기반 위키피디아 대안인 그로키피디아가 스톰프론트를 포함한 극단주의 도메인을 반복적으로 표면화했다고 밝혔습니다. 이는 7월에 머스크의 플랫폼 X에서 그 모델이 자신을 "메카히틀러"라고 지칭한 이후 나타난 우려를 더욱 강화한 것입니다.
연구 결과는 옹호자들이 인종차별주의, 반유대주의, 음모적 행동의 패턴이라고 묘사한 것을 강조했습니다.
Public Citizen의 거대 기술 책임 옹호자인 JB Branch는 디크립트(Decrypt) 에 "Grok은 반유대주의적 붕괴든 인종차별적 붕괴든, 음모론에 의해 조장되는 붕괴의 반복적인 역사를 보여주었습니다."라고 말했습니다.
이번 경고는 퍼블릭 시티즌을 비롯한 24개 시민권, 디지털 권리, 환경, 소비자 보호 단체가 8월과 10월에 OMB에 보낸 서한에 따른 것입니다 . OMB는 연방 재산 및 조달을 관리하는 총무청(GSA)을 통해 연방 부서에 대한 그록(Grok)의 접근을 중단할 것을 촉구했습니다. OMB는 두 단체 모두 아무런 답변도 보내지 않았다고 밝혔습니다.
반복적인 사건에도 불구하고, 지난 한 해 동안 정부 내에서 Grok의 영향력은 더욱 커졌습니다. 7월, xAI는 2억 달러 규모의 국방부 계약을 체결했고, 이후 미국 연방조달청(GSA)은 제미니(Gemini), Meta AI, ChatGPT, Claude와 함께 이 모델을 연방 기관 전반에 걸쳐 공개했습니다. 이러한 발표는 도널드 트럼프 미국 대통령이 연방 계약에서 "깨어 있는 AI(woke AI)"의 사용을 금지하도록 명령한 시점에 이루어졌습니다.
옹호자들은 이러한 움직임으로 인해 조사의 필요성이 커졌다고 말했는데, 특히 Grok의 훈련 데이터와 신뢰성에 대한 의문이 커졌기 때문이다.
브랜치는 "Grok은 원래 국방부에만 국한되었는데, 국방부가 얼마나 많은 민감한 데이터를 보유하고 있는지 생각하면 이미 심각한 문제였습니다."라고 말했습니다. "연방 정부 전체로 확대 적용되면서 더욱 큰 우려가 제기되었습니다."
브랜치는 그록의 행동이 부분적으로는 훈련 데이터와 머스크의 회사에서 내린 설계 선택에서 비롯되었다고 말했습니다.
"Grok과 다른 언어 모델 사이에는 눈에 띄는 품질 차이가 있는데, 그 중 일부는 X를 포함한 훈련 데이터에서 비롯됩니다."라고 그는 말했습니다. "머스크는 Grok이 '반-각성(anti-woke)' 대안이 되기를 원한다고 말했는데, 이는 독설적인 결과물에서 드러납니다."
브랜치는 또한 이 모델이 연방 신청을 평가하거나 민감한 개인 기록과 상호 작용하는 데 사용될 수 있는 가능성에 대한 우려를 제기했습니다.
"미국이 대표하는 것과 그록이 말하는 것 사이에는 가치관의 괴리가 있습니다."라고 그는 말했다. "만약 당신이 유대인이고 연방 대출을 신청한다면, 반유대주의 챗봇이 당신의 신청을 검토해 주기를 바라겠습니까? 물론 아닙니다."
브랜치는 그록 사건이 새로운 AI 시스템에 대한 연방 정부의 감독에 빈틈이 있음을 드러냈다고 말하며, 정부 관리들이 원할 경우 언제든지 그록을 GSA(General Services Administration)의 계약 일정에서 제외할 수 있다고 덧붙였다.
그는 "만약 그들이 전국에 국가방위군을 즉각 배치할 수 있다면, API로 작동하는 챗봇을 하루 만에 무력화시킬 수 있을 것"이라고 말했다.
xAI는 디크립트(Decrypt) 의 논평 요청에 응답하지 않았습니다.
