화요일에 열린 앤트로픽 CEO 다리오 아모데이와 JP모건 체이스 CEO 제이미 다이먼의 회담에서는 인공지능이 조직이 취약점을 해결하기 전에 더 빠르게 취약점을 식별함으로써 발생하는 사이버 보안 위협이 점점 커지고 있다는 점이 집중적으로 논의되었습니다.
앤트로픽의 금융 서비스 진출 확대를 알리는 약 2시간 동안의 행사 에서, 투자설명서 작성, 실적 검토, 규정 준수 업무 등 을 위한 AI 에이전트를 공개한 아모데이 CEO는 자사의 미토스 모델이 발견한 수만 건의 결함을 수정하고 유사한 기능이 더 널리 보급되기까지는 6개월에서 12개월 정도의 시간이 걸릴 수 있다고 말했습니다.
아모데이는 "가장 큰 위험은 취약점의 증가, 침해 건수의 증가, 그리고 학교, 병원, 은행을 포함한 여러 기관에 랜섬웨어로 인한 재정적 피해가 엄청나게 커지는 것입니다."라고 말했습니다.
아모데이의 최근 발표는 앞서 모질라와의 테스트 결과에 따른 것으로, 당시 미토스 초기 버전은 파이어폭스 브라우저에서 단 한 번의 검사로 271개의 취약점을 발견하여 AI가 인간 연구원보다 훨씬 빠르게 대규모 코드베이스를 스캔할 수 있음을 보여주었습니다.
앤트로픽은 이 모델이 널리 사용되는 소프트웨어 전반에 걸쳐 이전에 알려지지 않았던 수천 개의 취약점을 찾아낼 수 있다고 밝혔습니다. 이러한 취약점 중 상당수는 아직 패치가 되지 않아 공개되지 않은 채 해결되지 않은 결함으로 남아 있습니다.
아모데이 의원은 "문제가 해결되지 않은 상태에서 무언가를 발표하면 악당들이 이를 악용할 것"이라고 말했다.
통제된 테스트 환경에서 Mythos는 사람의 개입 없이 여러 단계의 네트워크 공격 시뮬레이션을 완료하여 취약점 식별에서 악용에 이르는 능력을 입증했습니다.
앤트로픽은 프로젝트 글래스윙(Project Glasswing)을 통해 소수의 파트너에게만 이 모델을 제공하여 유사한 도구가 널리 보급되기 전에 취약점을 수정하는 것을 목표로 하고 있습니다.
연구원들은 미소스의 기능 중 일부를 기존 모델과 오픈 소스 기술을 사용하여 재현할 수 있음을 보여주었으며, 이는 유사한 도구가 예상보다 빠르게 확산될 수 있음을 시사합니다.
이러한 경고는 업계 내부에서 회의적인 반응을 불러일으켰습니다. 지난 4월, OpenAI의 CEO인 샘 알트만은 Mythos에 대한 우려가 과장되었을 수 있으며, Anthropic이 " 공포를 이용한 마케팅 "을 통해 위험성을 부각하고 기술 접근 제한을 정당화하고 있다고 주장했습니다.
"여러 가지 방식으로 이를 정당화할 수 있고, 실제로 안전 문제에 대한 타당한 우려가 있는 것도 사실입니다."라고 알트먼은 말했습니다. "하지만 '우리가 신뢰할 수 있는 사람들이기 때문에 AI를 우리만 통제해야 한다'는 식이라면, 공포심을 조장하는 마케팅이 아마도 가장 효과적인 방법일 겁니다."
그러한 반발에도 불구하고, 앤트로픽과의 공개적인 갈등에도 불구하고, 미국 정부는 클로드 미토스를 이용해 기밀 네트워크의 취약점을 스캔하고 사이버 보안 역량을 테스트하고 있다고 악시오스는 보도했습니다 . 아모데이는 현재 진행 중인 법적 분쟁에 대해서는 언급하지 않았지만, 앤트로픽은 "이 나라에 유익하다"고 말했습니다.
아모데이 CEO는 “앤트로픽의 입장은 예전과 변함이 없다고 생각합니다. 정치화 측면에서 제가 강조했던 것은 효율적이고 체계적이며 모두에게 공정해야 한다는 점입니다.”라고 말했습니다. “법을 제정하고 임기응변식으로 일을 처리하지 않는 목적은 모든 기업이 적어도 원칙적으로는 동일하게 대우받도록 하는 것입니다. 물론 실제로는 더 복잡하다는 것을 알고 있지만요. 완벽하게 실현되지는 않더라도 우리는 그러한 목표를 향해 나아가야 합니다.”
아모데이는 이 시점을 조치를 취할 수 있는 짧은 기회로 규정하며, 조직이 얼마나 빨리 대응하는지가 위험을 확대할지 아니면 통제할 수 있을지를 결정할 수 있다고 경고했습니다.
"지금은 위험한 순간입니다. 우리가 올바르게 대응한다면, 그리고 저는 우리가 이미 첫걸음을 내딛기 시작했다고 생각하는데, 그 후에는 더 나은 세상을 만들 수 있을 것입니다."라고 아모데이 교수는 말했다. "찾아내야 할 버그는 한정되어 있습니다."
