영국의 올리버 다우든(Oliver Dowden) 부총리는 유엔에 대한 엄중한 연설에서 AI가 세계 질서에 잠재적으로 불안정한 영향을 미칠 수 있다는 경고를 울렸습니다.
다우든은 AI 기술의 급속한 발전 속도가 AI 기술의 안전하고 책임감 있는 사용을 보장하는 능력을 넘어설 수 있다고 경고하면서 정부가 AI 개발을 규제하기 위한 즉각적인 조치를 취할 것을 촉구했습니다.
뉴욕에서 열린 UN 총회에서 다우든은 영국이 AI 규제를 논의하기 위해 11월에 글로벌 정상회담을 개최할 것이라고 강조했습니다. 이번 정상회의 목표는 국제 지도자, 전문가, 업계 대표를 모아 AI를 둘러싼 시급한 문제를 해결하는 것입니다.
확인되지 않은 AI 개발을 둘러싼 주요 두려움 중 하나는 광범위한 일자리 대체, 잘못된 정보 확산, 사회적 차별 심화의 가능성입니다. 적절한 규제가 없으면 AI 기술을 활용하여 이러한 부정적인 영향을 확대할 수 있습니다.
Dowden은 연설에서 “개별 기업과 국가가 경계를 최대한 멀리 그리고 빠르게 확장하기 위해 노력하는 글로벌 경쟁 경주에서 출발 신호가 발사되었습니다.”라고 경고했습니다.
Dowden은 계속해서 현재의 글로벌 규제 상태가 AI 기술의 급속한 발전에 뒤처져 있다고 지적했습니다. 기술 발전에 규제가 따르던 과거와 달리 다우든은 이제 AI의 진화에 맞춰 규칙도 확립해야 한다고 강조했다.
RiverSafe 의 CTO인 Oseloka Obiora는 다음과 같이 말했습니다. “비즈니스 리더들은 결과에 대해 거의 또는 전혀 걱정하지 않고 놀라운 속도로 최신 AI 동향에 뛰어들고 있습니다.
“글로벌 규제 표준이 뒤처지고 가장 기본적인 사이버 보안 점검이 무시되는 상황에서 정부가 AI의 시한폭탄이 터지는 것을 막기 위해 새로운 글로벌 표준을 요구하는 것이 옳습니다.”
다우든은 AI 기업이 규제 과정에 과도한 영향력을 갖지 않도록 하는 것이 중요하다고 강조했습니다. 그는 AI 기업이 “자신의 숙제를 표시”해서는 안 된다고 말하면서 투명성과 감독의 필요성을 강조했습니다. 대신, 정부와 시민은 AI와 관련된 위험이 적절하게 완화되고 있다는 확신을 가져야 합니다.
더욱이 Dowden은 국가 간의 조율된 조치만이 AI로 인해 발생하는 중요한 국가 안보 문제가 적절하게 해결되었음을 대중에게 필요한 확신을 제공할 수 있다고 강조했습니다.
그는 또한 AI의 역할을 지나치게 단순화하지 말라고 경고했습니다. AI는 적용에 따라 선을 위한 도구가 될 수도 있고 악을 위한 도구가 될 수도 있다는 점을 지적했습니다. UN 총회에서 영국은 또한 세계에서 가장 빈곤한 국가의 개발을 가속화할 수 있는 AI의 잠재력을 제시했습니다 .
글로벌 AI 규제 정상 회담을 개최하려는 영국의 계획은 AI 거버넌스를 위한 강력한 프레임워크를 구축해야 할 긴급한 필요성에 대한 세계 지도자들의 인식이 높아지고 있음을 나타냅니다. AI 기술이 계속 발전함에 따라 정부는 혁신과 잠재적 위험으로부터 보호하는 것 사이에서 적절한 균형을 유지해야 한다는 압력을 점점 더 받고 있습니다.
ESET 의 글로벌 사이버 보안 전문가인 Jake Moore는 다음과 같이 말합니다. “AI가 완전히 새로운 방향으로 우리 삶을 형성할 수 있다는 두려움은 실체가 없는 것이 아닙니다. 이 바퀴를 휘젓는 기술 뒤에 숨은 힘은 잠재적으로 파괴적이기 때문입니다. AI는 직업을 바꿀 수 있을 뿐만 아니라 우리가 진실이라고 알고 있는 것을 바꾸고 우리가 믿는 것에 영향을 줄 수 있는 능력도 가지고 있습니다.
“규제는 잠재적으로 혁신을 억제한다는 것을 의미합니다. 하지만 이렇게 강력한 짐승을 규제하려는 시도조차 다크웹을 규제하려는 것과 같아서 사실상 불가능합니다. 대규모 데이터 세트와 알고리즘은 거의 모든 작업을 수행하도록 설계될 수 있으므로 사람들, 특히 학교의 젊은이들이 이러한 새로운 위험의 물결을 이해하도록 교육하는 방법을 개선할 수 있는 방법을 모색해야 합니다.”
UN에 대한 Dowden의 경고는 국가들이 함께 모여 AI가 직면한 문제를 정면으로 해결해야 한다는 분명한 요청의 역할을 합니다. 11월에 열리는 글로벌 정상회담은 AI 거버넌스의 미래를 형성하고 전례 없는 기술 변화에도 불구하고 세계 질서가 안정적으로 유지되도록 보장하는 중요한 단계가 될 것입니다.
(이미지 제공: CC BY 2.0 라이센스 에 따른 영국 정부 )
참조: CMA는 책임 있는 AI 개발을 위한 원칙을 제시합니다.
업계 리더로부터 AI 및 빅데이터에 대해 자세히 알아보고 싶으십니까? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 확인해보세요. 이 종합 행사는 디지털 혁신 주간(Digital Transformation Week) 과 함께 개최됩니다.
여기에서 TechForge가 제공하는 기타 향후 엔터프라이즈 기술 이벤트와 웹 세미나를 살펴보세요.
영국 부총리는 AI 규제가 AI 뉴스 에 처음 등장한 발전보다 뒤처지고 있다고 UN에 경고했습니다 .
