오늘 발표된 유엔 보고서는 인공지능을 모니터링하고 관리하는 최초의 진정한 글로벌 노력을 감독하는 국제 기관의 설립을 제안했습니다.
유엔 사무총장 직속 AI 고위자문기구 가 작성한 보고서는 기후 변화에 관한 정부간 패널과 유사한 기구를 설립해 AI와 그 위험에 관한 최신 정보를 수집할 것을 권고합니다.
보고서는 유엔의 193개 회원국이 위험을 논의하고 조치에 합의할 수 있도록 AI에 대한 새로운 정책 대화를 요구합니다. 또한 유엔이 가난한 국가, 특히 남반구 국가가 AI의 혜택을 누리고 AI 거버넌스에 기여할 수 있도록 권한을 부여하는 조치를 취할 것을 권고합니다. 여기에는 이러한 국가의 프로젝트를 지원하는 AI 기금을 만들고, AI 표준과 데이터 공유 시스템을 수립하고, 국가의 AI 거버넌스 지원을 위한 교육과 같은 리소스를 만드는 것이 포함되어야 한다고 말합니다. 보고서의 일부 권장 사항은 국가 간 디지털 및 데이터 격차를 해결하기 위한 기존 계획인 글로벌 디지털 협약 에 의해 촉진될 수 있습니다. 마지막으로 보고서의 목표를 달성하기 위해 유엔 내 기존 노력을 조정하는 데 전념하는 유엔 내 AI 사무소를 만들 것을 제안합니다.
백악관과 국무부의 추천으로 유엔 자문 기구에서 활동한 Institute for Advanced Study 의 교수인 알론드라 넬슨은 "국제 사회는 AI가 해악과 위험, 그리고 기회를 동시에 제공한다는 데 동의하고 있습니다."라고 말했습니다.
최근 몇 년 동안 대규모 언어 모델과 챗봇 이 보여준 놀라운 능력은 경제 생산성의 혁명에 대한 희망을 불러일으켰지만, 일부 전문가들은 AI가 너무 빨리 발전하고 있으며 곧 제어하기 어려워질 수 있다고 경고하기도 했습니다. ChatGPT가 등장한 지 얼마 지나지 않아 많은 과학자와 기업가가 위험을 평가할 수 있도록 기술 개발을 6개월간 중단할 것을 촉구하는 서한에 서명했습니다 .
더 시급한 우려사항으로는 AI가 허위 정보를 자동화하고 , 딥페이크 비디오와 오디오를 생성하고, 근로자를 대량으로 대체하고 , 산업적 규모로 사회적 알고리즘 편향을 악화시킬 가능성이 있습니다. 넬슨은 "긴박감이 있고, 사람들은 우리가 협력해야 한다고 느낍니다."라고 말합니다.
유엔의 제안은 이러한 위험을 완화하기 위해 AI를 규제하는 데 있어 전 세계 정책 입안자들의 높은 관심을 반영합니다. 그러나 주요 강대국, 특히 미국과 중국이 막대한 경제적, 과학적, 군사적 이점을 약속하는 기술을 선도하기 위해 경쟁하고 있으며, 이러한 국가들이 이를 사용하고 통제하는 방법에 대한 자체 비전을 예치(stake) .
3월에 미국은 회원국에 "안전하고 보안이 강화되고 신뢰할 수 있는 AI" 개발을 수용할 것을 촉구하는 결의안을 유엔에 제출했습니다 . 7월에 중국은 AI 개발에 대한 협력과 이 기술을 널리 보급하는 것을 강조하는 자체 결의안을 제출했습니다. 모든 유엔 회원국은 두 협정에 서명했습니다.
워싱턴 DC의 싱크탱크인 브루킹스 연구소의 전문가 조슈아 멜처는 "AI는 미-중 경쟁의 일부이므로 그들이 동의할 수 있는 부분에는 한계가 있다"고 말한다. 그는 주요 차이점으로 AI가 구현해야 할 규범과 가치, 프라이버시와 개인 데이터에 대한 보호가 있다고 말한다.
부유한 국가들의 AI에 대한 견해 차이는 이미 시장 균열을 일으키고 있습니다. EU는 데이터 사용 통제를 통해 광범위한 AI 규정을 도입했고, 이로 인해 일부 미국 기업들은 해당 지역에서 자사 제품의 가용성을 제한하게 되었습니다.
미국 정부가 채택한 방임주의적 접근 방식으로 인해 캘리포니아는 자체 AI 규칙을 제안하게 되었습니다. 이러한 규정의 초기 버전은 예를 들어 회사가 정부에 활동을 보고하도록 요구하는 방식 등 너무 부담스럽다는 이유로 해당 지역에 있는 AI 회사에서 비판을 받았으며, 그 결과 규칙이 약화되었습니다.
멜처는 AI가 너무나 빠른 속도로 진화하고 있어서 유엔이 단독으로 글로벌 협력을 관리할 수 없을 것이라고 덧붙였습니다. 그는 "AI 거버넌스와 관련해 유엔이 분명히 중요한 역할을 하지만, 분산된 종류의 아키텍처의 일부가 되어야 합니다."라고 말하며 개별 국가도 직접 작업해야 한다고 말했습니다. "빠르게 진화하는 기술이 있는데, 유엔은 분명히 그것을 처리할 준비가 되어 있지 않습니다."
유엔 보고서는 인권의 중요성을 강조함으로써 회원국 간의 공통 기반을 구축하고자 합니다. 영국 옥스퍼드 대학교에서 국제 AI 거버넌스를 연구하는 크리스 러셀 교수는 "분석을 인권 측면에서 고정하는 것은 매우 설득력이 있습니다."라고 말합니다. "이는 작업에 국제법에 대한 강력한 기반, 매우 광범위한 권한, 사람들에게 발생하는 구체적인 피해에 대한 초점을 제공합니다."
러셀은 정부가 규제를 목적으로 AI를 평가하는 데 있어 많은 중복이 있다고 덧붙였습니다. 예를 들어 미국과 영국 정부는 AI 모델의 잘못된 행동을 조사하는 별도의 기관을 두고 있습니다. 유엔의 노력은 추가적인 중복을 피할 수 있습니다. 그는 "국제적으로 협력하고 노력을 모으는 것은 매우 합리적입니다."라고 말합니다.
정부는 AI를 전략적 우위를 얻는 방법으로 볼 수 있지만, 많은 과학자들은 AI에 대한 우려에 동의합니다. 이번 주 초, 서방과 중국의 저명한 학자 그룹은 오스트리아 비엔나에서 열린 이 주제에 대한 컨퍼런스에 이어 AI 안전에 대한 더 많은 협력을 공동으로 촉구했습니다 .
자문 위원회 위원인 넬슨은 정부 지도자들도 중요한 이슈에 대해 협력할 수 있다고 믿는다고 말합니다. 하지만 그녀는 많은 것이 유엔과 회원국들이 협력 청사진을 어떻게 이행할지에 달려 있다고 말합니다. 그녀는 "악마는 실행의 세부 사항에 있을 것입니다."라고 말합니다.
