도널드 트럼프 대통령은 수요일에 AI 기업의 모델이 "이념적 편향이나 사회적 의제"를 보여주는 경우 정부 기관이 계약을 수여하는 것을 금지하는 행정명령에 서명했으며, 인공지능을 둘러싼 진행 중인 정치적 전투를 고조시켰습니다.
이 명령은 소위 "각성된 AI" 시스템을 겨냥하며, 사실적 정확성보다 다양성, 형평성, 포용성(DEI) 개념을 우선시한다고 비난합니다.
"DEI는 진실에 대한 헌신을 선호하는 결과로 대체한다"고 명령은 언급하며, 이러한 접근법을 "신뢰할 수 있는 AI에 대한 존재론적 위협"으로 설명했습니다.
명령에서 인용된 예시에는 건국의 아버지들이나 교황과 같은 역사적 인물의 인종이나 성별을 변경하는 AI 모델, 그리고 "백인의 성취"를 묘사하기를 거부하는 모델 등이 포함됩니다.
다른 봇인 제미니(Gemini) AI는 사용자에게 핵 종말을 막기 위해 필요한 경우에도 다른 사람을 "성별 오인"해서는 안 된다고 말했습니다.
이 명령은 연방 기관이 "진실을 추구하는" 대규모 언어 모델로, "이념적 중립성"을 유지하는 모델만 조달할 수 있다고 명시하고 있으며, 국가 안보 시스템에 대해서는 예외를 둡니다.
이 명령은 수요일에 발표된 더 광범위한 AI 행동 계획의 일부로, AI 산업 성장, 인프라 개발, 자국 제품의 해외 수출에 중점을 두고 있습니다.
트럼프의 이러한 조치는 AI 시스템의 편향성, 검열, 조작에 대한 더 넓은 국가적 대화 속에서 이루어졌습니다. 정부 기관들은 AI 기업과 협력에 점점 더 많은 관심을 보이고 있지만, AI 출력물의 당파적 성향과 문화적 편향에 대한 우려가 쟁점이 되고 있습니다.
편향된 AI 상호작용의 의심스러운 스크린샷들이 온라인에서 정기적으로 유통되고 있습니다. 이는 주로 인종과 성별에 관한 질문에서, ChatGPT와 같은 모델의 응답이 왜곡되거나 도덕적으로 보인다는 것입니다.
디크립트(Decrypt)는 편향성이 있다고 의심되는 여러 대중적인 질문을 테스트했고, 일부 결과를 재현할 수 있었습니다.
예를 들어, 디크립트(Decrypt)가 ChatGPT에게 흑인들의 성취를 나열해달라고 요청했더니, 봇은 "세계가 앉으라고 말했을 때도 놀라운 일을 해낸 빛나는 성취, 회복력, 그리고 솔직히 많은 사람들의 놀라운 성과"라고 부르며 찬란한 목록을 제공했습니다.
백인들의 성취를 나열해달라고 요청했을 때, ChatGPT는 응했지만 초기 질문에는 없던 면책 조항을 포함했습니다. "인종적 본질주의"에 대해 경고하고, 백인의 성취가 다른 문화의 지식 위에 구축되었다고 언급하며, "위대함은 어떤 피부색에도 독점적이지 않다"고 결론지었습니다.
"만약 인종을 비교하기 위해 이 질문을 한다면, 그것은 미끄럽고 비생산적인 길입니다"라고 봇은 디크립트(Decrypt)에 말했습니다.
ChatGPT의 편향성에 대해 온라인에서 공유되는 다른 일반적인 예시들은 역사적 인물이나 집단을 다른 인종으로 묘사하는 것에 중점을 두고 있습니다.
한 예로 ChatGPT가 흑인 바이킹 이미지를 반환했습니다. 디크립트(Decrypt)가 바이킹 집단을 묘사해달라고 요청했을 때, ChatGPT는 금발의 백인 남성 이미지를 생성했습니다.
반면에 일론 머스크의 AI 챗봇 그록(Grok)도 우파적 편향을 반영한다는 비난을 받았습니다.
이달 초, 머스크는 봇이 아돌프 히틀러를 찬양하는 게시물을 생성한 후 조작의 결과라고 주장하며 봇을 옹호했습니다.
"그록은 사용자 프롬프트에 너무 순응적이었습니다. 너무 기쁘게 하고 조작되기를 열망했습니다. 그것이 해결되고 있습니다"라고 그는 X에서 말했습니다.
미국은 내부만 보고 있지 않습니다. 로이터 보도에 따르면, 관리들은 이미 1989년 천안문 사태와 신장 정치와 같은 주제에 대한 중국 공산당 공식 입장과의 일치성을 테스트하기 위해 딥식(Deepseek)과 같은 중국 AI 시스템을 테스트하기 시작했습니다.
OpenAI와 그록에 대해 논평을 요청했습니다.
