다음 금융 위기는 인간의 개입이 아닌 인공지능(AI)으로 인해 발생할 수 있을까?
최근 인공지능 대기업 앤트로픽의 새로운 모델인 미토스(Mythos)가 월가에 큰 파장을 일으켰습니다.
01
미소스 모델이 출시된 바로 그날, 극히 드문 광경이 펼쳐졌습니다.
베산트 미국 재무장관과 파월 연방준비제도 의장은 정기 일정을 미뤄두고 월가 주요 은행 CEO들과 재무부에서 긴급 비공개 회의를 소집했습니다.
미국 재무부 장관 스콧 베산트(왼쪽)와 연방준비제도 이사회 의장 제롬 파월(오른쪽)
이 행사에는 씨티그룹 CEO 제인 프레이저, 골드만삭스 CEO 데이비드 솔로몬, 모건스탠리 CEO 테드 픽 등 미국 금융계의 주요 인사들이 참석했습니다.
연방준비제도와 재무부가 이 정도 수준의 비상 대응 조치를 마지막으로 취한 것은 아마도 2008년 서브프라임 모기지 사태 때였을 것이라는 점을 주목할 필요가 있습니다.
이번에 그들의 목표는 "시장을 살리기 위해 자금을 모으는 것"이 아니라, 최신 인공지능 모델인 미토스가 출시되었지만, 그것이 야기하는 시스템 리스크 과거 서브프라임 모기지 사태 때보다 더 클 수 있다는 사실을 은행들이 깨닫도록 하는 것입니다.
파월 의장의 직접 참석은 외부 세계에 매우 심각한 분위기를 전달했다.
이는 더 이상 기술적인 논의가 아니라 금융 안정과 나아가 국가 안보와 관련된 최고위급 사안입니다.
하지만 이는 미국에서만 일방적으로 발생한 경고가 아니었습니다. 시장의 불안감은 대서양을 건너 빠르게 확산되었습니다. 거의 동시에 영란은행과 금융감독청(FCA)은 국가사이버보안센터(NCSC)와 긴급 협의 및 평가를 신속하게 시작했습니다.
캐나다 중앙은행은 또한 최고위급 인사들을 대상으로 리스크 브리핑을 위해 전국 은행 및 금융기관들을 별도로 소집했습니다.
미국, 영국, 캐나다 중앙은행이 10일 만에 취한 일련의 조치는 인공지능 규제 역사상 전례 없는 일입니다.
02
미소스는 도대체 얼마나 놀라운 존재일까요?
앤트로픽은 미토스가 전 세계 은행, 전력망, 정부 기관에서 사용하는 소프트웨어의 숨겨진 취약점을 찾아내는 놀라운 능력을 갖고 있다고 주장합니다.
OpenAI의 CEO인 샘 알트만은 Mythos를 "1억 달러 상당의 방공호를 팔면서 폭탄을 투하하는 것"에 비유했습니다.
간단히 말해, 이 프로그램은 "모든 주요 운영 체제와 모든 주요 웹 브라우저"의 버그를 식별하고 악용하여 사람의 개입 없이 시스템에 치명적인 공격을 가할 수 있습니다.
Mythos는 수 주간의 자체 테스트를 통해 수천 건의 제로데이 취약점을 발견했습니다. 또한, 보안성이 매우 높은 OpenBSD 시스템에 숨겨져 있던 27년 된 취약점도 찾아냈습니다.
한편, 이 회사는 다른 비디오 처리 도구에서 16년 동안 숨어 있던 취약점을 발견했는데, 이는 최고의 자동 테스트 도구조차 수백만 번 실행했음에도 불구하고 감지하지 못했던 취약점이었습니다. 마치 장님들이 코끼리를 만지는 것과 같았습니다.
이전에는 최고의 인간 해킹 팀조차도 연간 최대 100개의 고위험 취약점만 찾아낼 수 있었습니다. Mythos는 최고 수준의 인간 팀보다 10배에서 100배 더 많은 취약점을 찾아낼 수 있으며, 익스플로잇 개발 시간을 "몇 주"에서 "몇 시간"으로 단축할 수 있습니다.
일반적으로 금융기관의 "방화벽"은 세계 최고 수준의 보안 전문가들이 구축한, 전 세계에서 가장 강력한 방어 체계 중 하나로, 난공불락의 해자를 형성합니다.
하지만 Mythos는 금융 "방화벽"을 극도로 취약하게 만드는 비대칭적인 파괴력을 보여줍니다.
이로 인해 두 가지 치명적인 문제가 발생합니다.
첫째, 범죄자들이 미토스를 이용해 금융 시스템을 공격할 수 있을까요? 우리가 은행 계좌에 보관하고 있는 돈은 여전히 안전할까요?
둘째, 유사한 모델이 미래에 일부 국가들에 의해 "무기화"될 가능성이 있을까요? 예를 들어, 적대국의 기관이나 기업을 공격하는 데 사용될 수 있을까요?
생각만 해도 끔찍하다.
심지어 개발사인 앤스로픽조차도 이제는 다소 불안해하며, 미소스를 일반에 공개하지 않고 소수의 기관에만 테스트용으로 제공할 것이라고 선제적으로 발표했습니다.
03
세상이 너무 빨리 변해서 사람들이 따라잡지 못하고 있다.
지구트렌드의 연구원인 탄샤오유는 인공지능의 발전이 상상할 수 없는 격차를 만들어내고 있으며, 이는 단순한 인지적 격차뿐 아니라 엄청난 권력 불균형으로 이어지고 있다고 믿는다.
일반인들은 여전히 두바오와 딥시크를 챗봇으로 여기지만, 세계 최고 수준의 AI 팀들이 개발한 대규모 모델은 이미 금융 시스템의 근간을 뒤흔들 수 있을 만큼 강력하다.
최근 모건 스탠리의 보고서에 따르면 AI는 이전의 기술 혁명과 비교했을 때 한 가지 근본적인 차이점이 있는데, 바로 속도입니다.
인류가 산업혁명을 완성하는 데 60년이 걸렸지만, 인터넷은 30년 만에 등장했습니다. 그런데 ChatGPT는 단 두 달 만에 사용자 1억 명을 돌파했습니다. 기술 확산 속도는 놀라울 정도로 빠릅니다.
문제는 기술 발전 속도와 규제 법률 제정, 사회적 및 기업적 방어 메커니즘 개발, 그리고 인력 양성 및 교육 사이에 역사적으로 상당한 격차가 발생했다는 점입니다.
국가경제위원회 위원장인 케빈 하셋이 한 인터뷰에서 솔직하게 밝혔듯이:
백악관은 물론 정부조차도 이러한 폭발적인 변종에 대처할 준비가 아직 완전히 되어 있지 않습니다.
골드만삭스 CEO 솔로몬은 이번 위협을 "매우 경계심이 강한 상황"이라고 표현하며, 현재 방어의 핵심이 "방화벽을 지속적으로 강화하는 것"에서 "가장 강력한 AI를 사용하여 가장 강력한 AI와 싸우는 것"으로 바뀌었다고 설명했습니다.
이는 기술 발전 속도와 사회 적응 속도 사이의 격차가 전례 없는 수준으로 벌어졌음을 의미합니다. 앞으로 그 어느 때보다 마찰이 심화될 것입니다.
머스크가 말했듯이, "향후 3~7년은 일반인들에게 매우 어려운 시기가 될 수 있습니다."
이에 대응하여 일반인들은 평생 학습이라는 개념을 받아들여야 합니다. 끊임없이 복잡한 질문을 정의하고 제기하는 능력은 인공지능 시대의 가장 큰 경쟁 우위입니다.
동시에, AI는 당신의 기술을 대체할 수는 있지만, 당신의 자산을 대체할 수는 없습니다. 따라서 "시간을 파는 것"에 의존하지 않는 소득 구조를 구축하는 것이 더욱 중요해집니다.
이 글은 위챗 공식 계정 "지구 트렌드"에서 가져온 것으로, 작성자는 부유(Buyu)입니다.
