플로리다 주 법무장관 제임스 우트마이어는 목요일, 챗GPT 챗봇을 개발한 오픈AI에 대한 조사를 시작했다고 밝혔습니다.
X에 게시된 성명에서 우트마이어는 정부가 생성형 AI 플랫폼에 대한 감시를 강화함에 따라 이번 조사는 회사의 인공지능 시스템이 국가 안보, 범죄적 오용 및 아동 안전과 관련된 위험을 초래하는지 여부를 검토할 것이라고 밝혔습니다.
"오늘 우리는 OpenAI에 대한 공식적인 조사를 시작하며, 곧 소환장을 발부할 것입니다."라고 우트마이어는 말했습니다. "인공지능의 개발과 보급은 기술적으로 엄청난 도약이지만, 공공 안전과 국가 안보에 대한 우려가 없는 것은 아닙니다."
그는 X에 "인공지능은 인류를 파괴하는 것이 아니라 발전시켜야 한다"고 썼다.
우트마이어는 관계자들이 외국 적대 세력이 오픈AI가 수집한 데이터에 접근할 수 있는지 여부도 검토하고 있다고 밝혔습니다.
그는 "인공지능은 데이터를 수집하는 능력에 기반을 두고 있는데, 오픈AI의 데이터와 미국에 불리하게 사용될 수 있는 인공지능 기술이 중국 공산당과 같은 미국의 적대 세력의 손에 넘어갈 가능성에 대한 우려가 있다"고 말했다.
법무장관은 또한 ChatGPT가 유해하거나 불법적인 활동과 관련된 조사에 연루되었다는 의혹을 언급했습니다.
그는 "오픈아이(OpenAI)의 챗GPT는 아동 성범죄자들이 아동 성착취물을 이용하거나 자살 및 자해를 조장하는 등 범죄 행위와도 연관되어 있다"고 말했다.
우트마이어는 수사관들이 챗봇이 2025년 플로리다 주립대학교 총격 사건 용의자에 의해 사용되었을 가능성을 검토하고 있다고 밝혔습니다. 이 사건으로 2명이 사망하고 여러 명이 부상을 입었습니다. 한 희생자 가족의 변호인은 용의자가 공격 전 "ChatGPT와 지속적으로 소통했다"며, 챗봇이 공격 실행 방법에 대해 조언했을 가능성이 있다고 주장했습니다.
우트마이어는 플로리다 주 의회에 인공지능 위험에 대처하는 새로운 보호 조치를 채택할 것을 촉구했다.
그는 "플로리다 주 의회가 인공지능의 위험으로부터 우리 아이들을 보호하기 위한 조치를 신속히 시행하고, 이러한 악폐에 맞서 싸울 수 있도록 법무장관실의 권한을 더욱 강화해 줄 것을 촉구한다"고 말했다.
플로리다 주 법무장관실은 디크립트(Decrypt) 의 논평 요청에 즉시 응답하지 않았습니다.
이번 조사는 AI 챗봇에 대한 법적 및 규제 적 감시가 강화되는 가운데 이루어졌습니다. 구글의 제미니(Gemini) 와 일론 머스크의 xAI가 개발 한 그록을 비롯한 다른 주요 챗봇들도 위험하거나 민감한 질문에 대한 응답 방식을 두고 연구원과 시민단체로부터 비판을 받아왔습니다. 지난 12월, 플로리다 주지사 Ronin(RON) 데산티스는 시민의 개인정보 보호와 AI 데이터 센터 관련 에너지 비용 증가에 대한 대책을 담은 AI "권리장전"을 제안하기도 했습니다 .
디크립트(Decrypt) 의 논평 요청에 대해 데산티스 주지사 사무실은 즉시 답변하지 않았습니다.
오픈아이(OpenAI)는 성명을 통해 조사에 협조할 것이라고 밝히며, 매주 9억 명 이상의 사람들이 ChatGPT를 이용해 "새로운 기술을 배우거나 복잡한 의료 시스템을 이용하는 등 일상생활을 개선하고 있다"고 덧붙였습니다.
"저희의 지속적인 안전 관련 노력은 일반 사용자에게 이러한 혜택을 제공하는 것은 물론 과학 연구 및 발견을 지원하는 데 중요한 역할을 하고 있습니다."라고 대변인은 디크립트(Decrypt) 밝혔습니다. "저희는 ChatGPT를 개발할 때 사용자의 의도를 파악하고 안전하고 적절한 방식으로 응답하도록 설계했으며, 앞으로도 기술 개선을 위해 노력할 것입니다."
