인공지능과 정책 입안의 결합은 가끔 예상치 못한 결과를 가져올 수 있습니다. 최근 알래스카에서 본 것과 같습니다.
특이한 사건으로, 알래스카 입법자들은 학교에서 휴대전화 사용을 금지하는 제안된 정책을 정당화하기 위해 부정확한 AI 생성 인용문을 사용했다고 합니다. /The Alaska Beacon/에서 보도한 바와 같이, 알래스카 교육 및 조기 개발부(DEED)는 단순히 존재하지 않는 학술 연구에 대한 참조가 포함된 정책 초안을 제시했습니다.
상황은 알래스카 교육 위원인 디나 비숍이 생성 AI를 사용하여 휴대전화 정책을 초안했을 때 발생했습니다. AI가 작성한 문서에는 검증되지도 정확하지도 않은 학술 참고 문헌이 포함되어 있었지만, 이 문서는 작성 과정에서 AI를 사용했다는 사실을 공개하지 않았습니다. AI가 생성한 콘텐츠 중 일부는 검토되기 전에 알래스카 주 교육 및 조기 개발 위원회에 도달하여 위원회 논의에 영향을 미칠 가능성이 있습니다.
비숍 위원은 나중에 AI가 초안의 "인용문 작성"에만 사용되었으며, 이사회 구성원에게 업데이트된 인용문을 보내 회의 전에 오류를 수정했다고 주장했습니다. 그러나 AI "환상"은 AI가 그럴듯하지만 검증되지 않은 콘텐츠를 만들려고 할 때 생성된 조작된 정보이며, 이사회에서 투표한 최종 문서에 여전히 존재했습니다.
DEED 웹사이트에 게시된 최종 결의안은 해당 부서에 학교에서의 휴대전화 제한에 대한 모범 정책을 수립하도록 지시합니다. 안타깝게도 이 문서에는 6개의 인용문이 포함되어 있었는데, 그 중 4개는 존경받는 과학 저널에서 인용한 것으로 보입니다. 그러나 참조문은 전적으로 조작된 것이었고, URL은 관련 없는 콘텐츠로 이어졌습니다. 이 사건은 적절한 인간 검증 없이 AI가 생성한 데이터를 사용하는 것의 위험성을 보여줍니다. 특히 정책 결정을 내릴 때 더욱 그렇습니다.
알래스카의 사례는 유일무이한 것이 아닙니다. AI 환각은 다양한 전문 분야에서 점점 더 흔해지고 있습니다. 예를 들어, 일부 법률 전문가는 법정에서 AI가 생성한 허구의 사건 인용문을 사용한 것에 대해 처벌을 받았습니다. 마찬가지로 AI를 사용하여 만든 학술 논문에는 왜곡된 데이터와 가짜 출처가 포함되어 심각한 신뢰성 문제가 제기되었습니다. 사실적 정확성보다는 패턴에 따라 콘텐츠를 생성하도록 의도된 생성 AI 알고리즘은 확인되지 않으면 오해의 소지가 있는 인용문을 쉽게 생성할 수 있습니다.
특히 교육 분야에서 정책 수립에 AI가 생성한 데이터에 의존하는 것은 상당한 위험을 초래합니다. 조작된 정보를 기반으로 정책이 개발되면 자원을 잘못 할당하고 잠재적으로 학생들에게 해를 끼칠 수 있습니다. 예를 들어, 조작된 데이터를 기반으로 휴대전화 사용을 제한하는 정책은 학생들에게 진정으로 도움이 될 수 있는 보다 효과적이고 증거 기반의 개입에서 주의를 돌릴 수 있습니다.
더욱이 검증되지 않은 AI 데이터를 사용하면 정책 결정 과정과 AI 기술 자체에 대한 대중의 신뢰가 침식될 수 있습니다. 이러한 사건은 특히 학생들에게 큰 영향을 미칠 수 있는 교육 분야에서 민감한 의사 결정 분야에서 AI를 사용할 때 사실 확인, 투명성 및 주의의 중요성을 강조합니다.
알래스카 관리들은 상황을 축소하려고 시도했고, 조작된 인용문을 나중에 수정하기 위한 "플레이스홀더"라고 불렀습니다. 그러나 "플레이스홀더"가 있는 문서는 여전히 이사회에 제시되었고 투표의 기초로 사용되었으며, AI를 사용할 때 엄격한 감독이 필요하다는 것을 강조했습니다.
(사진 제공: 하르토노 크리에이티브 스튜디오 )
또한 참조: Anthropic은 재앙을 피하기 위해 AI 규제를 촉구합니다.
업계 리더로부터 AI와 빅데이터에 대해 더 알아보고 싶으신가요? 캘리포니아 암스테르담과 런던에서 열리는 AI & Big Data Expo를 확인해 보세요. 이 포괄적인 이벤트는 Intelligent Automation Conference , BlockX , Digital Transformation Week , Cyber Security & Cloud Expo 를 포함한 다른 주요 이벤트와 함께 진행됩니다.
여기에서 TechForge가 제공하는 다른 기업 기술 이벤트와 웨비나를 확인해 보세요.
알래스카가 정책에 가짜 통계를 사용하면서 AI 환각이 잘못된 방향으로 나아가고 있다는 기사가 AI 뉴스 에 처음 게재되었습니다.
