미국 의원들이 특정 모델이 광범위한 간첩 활동의 일부가 된 경위를 설명하기 위해 몇몇 AI 개발 회사를 불러들인 것으로 알려졌습니다.
Axios가 수요일에 공개한 비공개 서한을 인용한 보도에 따르면, 그중에는 Anthropic의 CEO인 다리오 아모데이가 있는데, 그는 12월 17일 하원 국토안보위원회에 출석해 중국 국가 행위자들이 클로드 코드를 어떻게 사용했는지 설명하라는 요청을 받았습니다.
이번 달 초, Anthropic은 중국 국가와 연계된 해킹 그룹이 자사의 도구인 클로드 코드를 사용해 AI 시스템에 의해 대부분 자동화된 최초의 대규모 사이버 작전을 시작했다고 공개했습니다.
GTG-1002라는 그룹 이름으로 활동하는 공격자는 약 30개 조직을 표적으로 삼아 캠페인을 조직했으며, Anthropic에 따르면 클로드 코드가 정찰, 취약점 스캐닝, 익스플로잇 생성, 자격 증명 수집, 데이터 유출 등 대부분의 단계를 처리했습니다.
후속 조사의 의장은 앤드류 가바리노(뉴욕주 공화당) 의원과 두 명의 소위원회 위원장입니다.
위원회는 Amodei가 Anthropic이 해당 활동을 처음 감지한 시점, 공격자들이 침해의 여러 단계에서 Amodei의 모델을 어떻게 활용했는지, 그리고 캠페인이 진행되는 동안 어떤 보안 조치가 실패하고 성공했는지에 대한 자세한 내용을 보고하기를 원했습니다. Axios에 따르면, 청문회에는 Google Cloud와 Quantum Xchange 임원진도 참석할 예정입니다.
가르바리노는 최초 보고서에 인용된 성명에서 "외국의 적대 세력이 최소한의 인적 개입으로 거의 모든 사이버 작전을 수행하는 데 상용 AI 시스템을 사용하는 것은 이번이 처음입니다."라고 밝혔습니다. "이는 모든 연방 기관과 모든 중요 인프라 부문에 영향을 미칠 것입니다."
디크립트(Decrypt) 의견을 구하기 위해 Garbarino 의원, Google Cloud, Quantum Xchange, Anthropic에 연락했습니다.
의회의 감시는 지난주 중국 정보 요원들이 가짜 모집자 프로필을 사용해 의원, 귀족, 의회 직원을 표적으로 삼고 있다는 사실을 파악한 후 영국 의원들에게 경고를 내린 영국의 보안 기관 MI5가 별도로 경고한 데 이어 이뤄졌습니다.
영국 정부는 "중국과의 경제적 관계를 지속하고자" 노력하는 한편, "우리의 민주주의적 삶의 방식을 훼손하는 국가에 대해서는 언제든 도전할 준비가 되어 있다"고 댄 자비스 안보부 장관이 성명에서 밝혔습니다.
위험에 처한 온체인 금융
이런 배경에서 전문가들은 현재 간첩 활동에 활용되고 있는 AI 역량이 금융 절도도 쉽게 가속화할 수 있다고 경고합니다.
AI 연구실 엘리자 랩스(Eliza Labs)의 설립자 쇼 월터스(Shaw Walters)는 디크립트(Decrypt) 인터뷰에서 "AI의 가장 무서운 점은 속도입니다."라고 말했습니다. "예전에는 손으로 하던 일들이 이제 대규모로 자동화될 수 있습니다."
월터스는 논리가 위험할 정도로 단순할 수 있다고 설명했습니다. 만약 국가 행위자들이 해킹 캠페인 모델을 파괴하고 조작할 수 있다면, 다음 단계는 에이전트 AI를 지시하여 "발각되지 않은 채 지갑을 비우거나 자금을 빼돌리는" 것이 될 것입니다.
월터스는 AI 에이전트가 "대상과 신뢰관계를 구축하고 대화를 이어가며 사기에 걸리게 만들 수도 있다"고 설명했습니다.
충분한 훈련을 받으면 이러한 에이전트는 "체인상의 계약을 공격할 수도 있다"고 월터스는 주장했습니다.
"Claude와 같은 소위 '정렬된' 모델조차도 기꺼이 '당신' 코드의 보안 취약점을 찾는 데 도움을 줄 것입니다. 물론, 그것은 무엇이 당신의 것이고 무엇이 아닌지 전혀 알지 못하며, 도움을 주려는 시도의 일환으로 돈을 뜯어낼 수 있는 많은 계약에서 취약점을 찾을 것입니다."라고 그는 말했습니다.
하지만 월터스는 이러한 공격에 대한 대응책을 "구축하기는 쉽지만" 현실은 "나쁜 사람들이 우리가 이미 갖고 있는 안전장치를 우회하려고 시도하고 있다"고 말합니다. 즉, "모델들이 도움이 되고 해를 끼치지 않는다고 믿게 하여 블랙햇 작업을 하도록" 속이는 것입니다.
