구글은 인공지능을 이용한 제로데이 취약점 데이터가 실제로 개발되고 있음을 처음으로 확인했으며, 중국, 북한, 러시아 해킹 그룹들이 이 기술을 다양한 방식으로 악용하고 있다고 밝혔습니다.
구글의 위협 인텔리전스 팀은 월요일에 사이버 범죄자들이 인공지능 모델을 이용해 인기 있는 오픈소스 웹마스터 도구의 제로데이 취약점을 발견하고 악용한 사실을 처음으로 확인했습니다 . 이 취약점을 통해 사용자는 2단계 인증(2FA)을 우회할 수 있었으며, 공격자들은 구글이 개입하기 전에 대규모 공격 캠페인을 준비했습니다.
기술적 핵심은 AI가 기존 스캔 도구가 놓쳤던 취약점을 발견했다는 점입니다. 오류 코드나 시스템 충돌을 찾는 대신, AI 모델은 소프트웨어의 작동 논리를 분석하여 하드코딩된 조건과 2단계 인증(2FA) 보호 메커니즘 간의 충돌을 감지했습니다. 이를 통해 공격자는 암호화를 해제하지 않고도 인증 계층을 우회할 수 있었습니다.
구글 에 따르면, 이는 대규모 언어 모델이 점점 더 능숙해지는 문맥 추론의 한 형태인 반면, 구세대 자동화 도구는 본질적으로 이러한 기능을 수행할 수 없다고 합니다.
AI는 공격 능력을 다방면으로 증폭시킵니다.
구글의 보고서는 국가 지원 공격 그룹이 인공지능(AI)을 악용하는 실태를 적나라하게 보여줍니다. 중국과 북한의 공격자들은 소프트웨어 취약점을 찾아내고 공격 코드를 개발하는 데 AI를 집중적으로 활용하는 반면, 러시아와 연계된 그룹은 방어 체계를 회피하기 위해 자동으로 여러 겹의 은폐 구조와 기만적인 논리를 생성하는 다형성 악성 소프트웨어를 만드는 데 AI를 사용하고 있습니다.
구글은 취약점 탐지 정확도를 높이기 위해 역할 해킹이나 특수 보안 데이터 세트 통합과 같은 더욱 정교한 기술을 사용한다고 언급했습니다.
하지만 연구계 전체가 구글의 경고 수준에 동의하는 것은 아닙니다. 케임브리지 대학교가 주도한 연구에 따르면 사이버 범죄 포럼의 9만 개 이상의 게시글을 분석한 결과, 대다수의 범죄자는 정교한 공격을 구축하기보다는 스팸 및 피싱 사기에 AI를 사용하는 것으로 나타났습니다.
이 연구는 또한 해킹된 AI 모델의 역할이 과장되고 있다고 주장하는데, 사이버 범죄 커뮤니티의 신규 사용자들은 AI 도구 자체만큼이나 커뮤니티로부터의 학습을 중요하게 생각하기 때문이다.
실제 규모에 대한 논란에도 불구하고, 구글의 이번 발표는 업계 전체가 자사 기술의 결과에 고심하고 있는 시점에 나왔습니다. 올해 초, 앤트로픽은 클로드 미토스 모델이 이전에 알려지지 않았던 수천 건의 소프트웨어 취약점을 식별할 수 있다는 테스트 결과가 나온 후, 해당 모델에 대한 접근을 제한했습니다.
모질라는 마이토스(Mythos)를 이용한 단일 테스트에서 파이어폭스에서 271개의 취약점을 발견한 후, 그 엄청난 수의 취약점에 압도당했으며, 패치 속도가 발견 속도를 따라잡을 수 있을지 의문을 제기했습니다. 이는 사이버 보안 업계가 아직 만족스럽게 답하지 못한 바로 그 질문입니다.
