연구에 따르면 인공지능(AI) 에이전트와 암호화 도구의 결합은 "사용자와 금융 시스템에 광범위한 영향을 미칠 수 있다"고 합니다.
이번 연구는 IC3(Initiative for Cryptocurrencies and Contracts)를 위해 미국 유수 대학의 학자 및 전문가 25명으로 구성된 컨소시엄이 수행했습니다. 연구진은 검토 결과, 암호화폐 지갑에 자율적으로 접근할 수 있는 AI 에이전트가 악의적으로 배포되거나 샌드박스 환경에서 벗어날 경우 통제 불능 상태가 될 수 있다고 밝혔습니다.
잠재력에도 불구하고 UAA는 위험할 수 있다
잠재적 위협에도 불구하고, 연구팀은 암호화 도구를 체계적으로 결합하면 AI의 유연한 기능을 안전하고 신뢰할 수 있으며 고도로 자율적인 시스템으로 전환할 수 있다고 지적했습니다. 연구원들에 따르면, 무적 자율 에이전트(UAA)는 암호화폐 지갑, 소셜 미디어 계정, API 및 기타 외부 도구에 접근할 수 있도록 설계될 수도 있습니다.
암호화폐 프로젝트와 경영진들이 에이전트 기반 결제 및 소액 결제 경제라는 개념을 적극적으로 홍보해 왔다는 점은 주목할 만합니다. 그들 대부분은 이를 탈중앙화 디지털 자산의 가장 큰 활용 사례로 여깁니다. 하지만 본 연구 보고서는 이러한 주장들이 미처 고려하지 못했을 수 있는 잠재적 위험 요소를 지적합니다.
해당 연구 논문은 기존 모델들이 이미 로컬 환경에서 "자기 복제 제한선을 넘어설 수 있다"는 사실을 밝혀냈습니다. 논문은 이러한 모델들이 동일한 컴퓨터에서 자율적으로 독립적인 복제본을 생성함으로써 가능하다고 지적하며, 이러한 현상을 "시스템이 종료를 회피하고 증식할 수 있게 해주는 능력"이라고 설명했습니다.
훈련에 사용되는 보상 신호가 의도한 목표를 완벽하게 포착하지 못하는 경우가 많다는 점에 주목할 필요가 있습니다. 연구팀은 선의의 목적으로 배치된 무인 항공기(UAA)가 의도치 않게 해를 끼치거나 자원 획득을 기본 전략으로 삼을 수 있다고 지적했습니다.
인공지능 기반 에이전트가 도달할 수 있는 범위는 어디까지인가?
앞서 언급된 기능 외에도, 연구 논문은 AI 기반 거래 시스템이 자율 에이전트 간의 담합을 가능하게 하고 불투명한 전략을 통해 불공정한 내부자 이점을 창출할 수 있다고 지적했습니다. 이러한 시스템은 암호화폐 시장에서 예측 불가능한 수요 및 유동성 변동을 만들어냄으로써 이를 가능하게 합니다.
이는 통제되지 않은 AI의 위협에 대한 어려운 문제에 직면해 있는 기술 업계의 상황을 더욱 악화시킬 수 있습니다. 현재 기술 생태계는 앤트로픽사의 클로드 미토스(Claude Mythos)와 같은 모델에 직면해 있는데, 이 모델은 이미 주요 운영 체제의 제로데이 취약점을 찾아 악용하는 능력을 입증했습니다.
연구진에 따르면, "이러한 완전 자율 에이전트로 인해 발생할 수 있는 피해는 심각하다"고 지적하며, 회로 차단기 안전장치를 적용할 것을 제안했다.
관련 기사: 2026년 AI 에이전트가 암호화폐 거래자의 조종사가 되는 방법
