인공지능 아래 하나의 국가 | 의견

미국 연방 기관들은 주요 변화와 인권 영향에 대한 대중의 논의가 부족한 가운데, 이미 운영을 간소화하기 위해 AI를 도입하기 시작하면서 대중을 대상으로 한 인공지능 도입이 본격화되고 있습니다.

정부책임감사원(GAO)은 보고서에서 연방 정부 내 생성적 AI 사용이 2023년부터 2024년까지 9배 증가했다고 밝혔습니다. GAO는 11개 기관과 그들의 AI 사용을 검토한 결과, 보고된 사용 사례가 2023년 571건에서 2024년 1,110건으로 거의 두 배 증가한 것으로 나타났습니다.

또한, 최고정보책임자협의회(CIO)는 "AI in Action : 2024 Federal AI Use Case Inventory Findings" 라는 보고서를 발표했는데, 이 보고서에 따르면 2023년 이후 연방 기관의 AI 활용이 두 배 이상 증가했으며, 내부 지원 및 공공 서비스 분야에서 1,700건 이상의 활용 사례가 보고되었습니다. 기관들은 AI 활용을 확대한 이유로 운영 효율성 향상 및 임무 수행 능력 향상을 꼽았습니다.

AI 도입을 선도하는 기관 중 일부

보고에 따르면 보건복지부, 재향군인부, 국토안보부, 내무부는 공개적으로 보고된 AI 사용의 50%를 차지하는 것으로 알려졌습니다.

국토안보부(DHS)는 AI를 운영에 통합하는 데 있어 또 다른 선도적인 역할을 하고 있습니다. DHS는 사이버 보안, 국경 보안, 재난 대응 및 이민 서비스 개선을 위해 여러 AI 및 머신러닝(ML) 소프트웨어를 개발했습니다. DHS는 GenAI를 활용하여 수사 단서를 강화하고, 지방 정부의 위험 완화 계획 수립을 지원하고, 교육에도 활용했습니다. DHS는 자체 AI 목록도 공개하고 있습니다.

질병통제예방센터(CDC)는 여러 주에서 발생한 식품 매개 질병 발생에 대한 조사를 가속화하기 위해 AI를 활용했습니다. 재향군인복지국(VBSA)은 AI를 활용하여 재향군인의 수당 지급을 보호하고, 이를 통해 부정한 직접 입금 변경을 적발합니다. 보건복지부(DHHS)는 AI를 활용하여 출판물에서 정보를 수집하고 소아마비가 없는 것으로 추정되는 지역의 발병 사례를 정확히 파악했습니다. 사회보장청(SSA)은 장애 프로그램 심사관들을 지원하기 위해 AI를 활용합니다.

또한 미국 총무청(GSA)은 Anthropic의 Claude, Google의 제미니(Gemini), OpenAI의 ChatGPT 등 미국의 대표적인 AI 기업의 제품을 AI 인벤토리에 추가한다고 발표했습니다.

GAO는 연방 기관의 드론 사진 및 데이터세트 분석을 위한 AI 활용 사례를 자세히 설명하는 "인공지능: 기관들이 구현을 시작하다(Artificial Intelligence: Agencies Have Begun Implementation)"라는 제목의 보고서를 발표했습니다. 보고서에 포함된 23개 기관 중 20개 기관은 약 1,200건의 인공지능 활용 사례를 보유하고 있으며, 향후 활용 계획도 있습니다. AI 활용 사례에는 드론과 레이더 등 카메라 데이터를 분석하여 국경 활동 파악 및 행성 탐사선의 과학적 표본 탐지 등이 포함됩니다. NASA와 상무부는 AI 활용 사례가 가장 많았습니다.

미국 행정회의(ACUS)는 정부 내 AI 활용에 대한 권고안을 발표했습니다. 여기에는 규제 집행, 판결, 자동화된 법률 안내 등에 AI 도구를 활용하는 내용이 포함됩니다.

연방 정부의 AI 활용 사례

기관들은 향상된 이상 탐지, 간소화된 프로세스, 그리고 향상된 의사 결정의 이점을 누리고 있다고 보고합니다. 이 기술은 주로 행정 및 IT 부서에서 사용되고 있으며, 그 다음으로는 의료 및 의료 애플리케이션 활용 사례에 활용되고 있습니다.

사용 사례의 약 13%는 건강 및 의료 분야로 분류됩니다. 사용 사례의 약 9%는 정부 서비스 또는 혜택 처리에 도움이 되는데, 이는 메디케어, 메디케이드, 사회보장, 실업 수당을 포함한 정부 혜택에 대한 처리 및 접근성 향상을 수반합니다.

연방 정부 사용 사례의 약 46%는 "임무 수행 지원"으로 간주되며, 재무 관리, 인적 자원, 시설 및 자산, 사이버 보안, IT, 조달 및 기관 내 기타 행정 기능을 개선하는 데 필요합니다.

연방 정부는 이미 법과 사법, 교육과 인력, 교통, 과학과 우주, 에너지와 환경, 그리고 기타 여러 분야에 AI를 적용하고 있습니다. 이를 통해 내부 전문가와 기업 파트너십을 모두 활용하고 있습니다.

CIO에 따르면, 기관들은 50%의 사례에서 자체 AI 활용 사례를 개발했습니다. 40% 이상의 활용 사례에서 기관들은 공개적으로 이용 가능한 맞춤형 코드를 사용했습니다. 공개 AI의 35% 이상은 기관 내 기존 엔터프라이즈 데이터 및 분석 플랫폼에 구축되거나, 다른 활용 사례의 프로덕션 레벨 코드 및/또는 데이터를 재사용합니다.

주정부와 지방정부가 AI를 도입하고 있습니다.

주 및 지방 정부 또한 거버넌스에 AI를 적용하는 실험을 진행하고 있습니다. 딜로이트 보고서에서 지적했듯이, 주 및 지방 정부는 예산 부담을 줄이기 위해 AI를 도입할 가능성이 높습니다. 조지아주에서는 "AI 책임법(AI Accountability Act)"을 제정하여 조지아 인공지능위원회를 설립하고, 정부 기관이 구체적인 목표, 데이터 개인정보 보호 조치, 그리고 인적 감독의 역할을 명시한 AI 활용 계획을 수립하도록 규정하고 있습니다.

주지사가 서명한 몬태나 법안은 주 및 지방 정부에서 AI 사용을 제한하고, AI 사용 장소에 대한 투명성을 요구하며, 특정 결정과 권고안을 "책임 있는 직책"을 맡은 사람이 검토하도록 하는 내용을 담고 있습니다. 네바다에서는 납세자가 AI 시스템과 통신할 때 세무국이 납세자에게 통지하도록 하는 법안이 발의되었습니다. 조지아와 네바다 법안 모두 상임위원회에서 부결되었습니다.

권리 의미

CIO에 따르면, OMB 메모 M-24-10의 정의에 따르면 연방 AI 사용 사례의 약 13%가 대중의 권리나 안전을 훼손할 수 있습니다.

이러한 사용 사례에서 기관은 AI가 대중에게 미치는 영향을 평가, 테스트, 모니터링하고 알고리즘 차별의 위험을 완화하는 방법을 포함하여 사용 전에 구체적인 안전 장치를 채택해야 합니다.

2024년 12월, 정부 기관들은 권리 또는 안전에 영향을 미치는 AI 활용 사례의 80% 이상에 대해 AI 영향 평가를 실시했으며, 이 중 70% 이상에 대해 독립적인 평가를 실시했습니다. 정부에서 권리에 영향을 미치는 AI 활용 사례의 거의 절반은 AI 시스템 결과에 대해 이의를 제기하거나 이의를 제기하거나 AI 기능 사용을 거부하는 절차를 수반합니다.

연방 정부는 AI를 도입하고 있지만, 대중은 AI가 일상생활에 미치는 영향을 제대로 알지 못하고 있습니다. 이 기술이 거버넌스에 어떻게 활용되는지는 기술 윤리 논의에 관심 있는 사람들에게 더욱 공통적인 논의 주제가 되어야 합니다.