IBM의 최고 보안 책임자(CSO)인 제프 크럼은 최근 영상 분석에서 인공지능(AI), 사이버 보안 리스크 및 신기술에 대한 이전 평가를 검토하고 2026년 이후 가장 주목할 만한 사이버 보안 변화를 설명했습니다. 그는 기업들이 효율성 향상을 위해 AI를 빠르게 도입함에 따라 사이버 보안 리스크 또한 증폭되고 있다고 밝혔습니다. 섀도우 AI, 딥페이크 공격, 프록시 AI부터 양자 컴퓨팅으로 인한 암호화 위협에 이르기까지, 사이버 보안은 공격과 방어 속도가 더욱 빨라지고 영향력이 더욱 광범위해지는 새로운 국면에 접어들 것이라고 예측했습니다.
인공지능은 편리함을 가져다주지만, 사이버 보안 리스크.
크룸은 AI가 기업에 효율성을 가져다주는 동시에 사이버 보안 리스크 급속히 확대시키고 있다고 지적합니다. 가장 대표적인 문제는 "섀도우 AI"입니다. 섀도우 AI는 조직의 승인을 받지 않고 거버넌스 및 보안 제어가 부족한 AI 시스템을 의미합니다. 단순히 누군가가 클라우드에서 모델을 다운로드하여 내부 데이터에 연결한 후 직접 사용하는 경우를 말합니다.
IBM의 연례 "데이터 유출 비용 보고서"에 따르면, 기업 내부에 섀도우 AI가 존재할 경우 사이버 보안 사고 발생 시 기업의 평균 손실액은 67만 달러에 달합니다. 더욱 우려스러운 점은 기업의 무려 60%가 아직 AI 거버넌스 또는 사이버 보안 정책을 수립하지 않았다는 것입니다. 이는 적절한 보호 장치 없이 이미 비용과 리스크 상승 했음을 의미합니다.
가짜 뉴스의 급증은 통제 불능 상태이며, 사기 및 사회 공학적 기법이 기승을 부리고 있습니다.
크룸은 "딥페이크"를 사이버 보안 리스크 의 또 다른 빠르게 확산되는 원인으로 지목했습니다. 생성형 AI를 통해 만들어진 가짜 사진, 가짜 음성, 가짜 동영상은 오락용으로 사용될 수 있지만, 사기 및 사회공학적 공격에도 대량 악용되고 있습니다.
Crume이 인용한 통계에 따르면 2023년에 약 50만 건의 딥페이크 사례가 관찰되었으며, 이는 2025년에는 약 800만 건으로 급증하여 1,500%의 성장률을 나타냈습니다. IBM은 딥페이크가 발생할지 여부의 문제가 아니라 이미 대량 발생했으며 계속 확산되고 있다고 단언했습니다.
공격 표면이 계속 확장됨에 따라 AI는 AI에 대응하기 시작합니다.
기업들이 생산성 향상을 위해 AI를 대량 도입함에 따라, AI 자체가 새로운 공격 진입점이 되고 있습니다. 크룸은 비영리 단체인 OWASP가 2023년에 대규모 언어 모델에서 가장 큰 취약점으로 "프롬프트 인젝션"을 선정했고, 2025년에도 그 자리를 유지했다는 점을 지적하며, 관련 리스크 시간이 지나도 줄어들지 않았음을 보여준다고 말합니다.
하지만 크룸은 긍정적인 발전도 나타나고 있다고 지적합니다. AI는 주입 취약점의 실시간 탐지 및 사고 대응 지원과 같은 사이버 보안 방어에 활용되기 시작했습니다. 크룸은 미래의 사이버 보안 시스템은 급변하는 공격 패턴에 실시간으로 대응할 수 있어야 하며, AI는 이 과정에서 필수적인 도구가 될 것이라고 믿습니다.
양자 컴퓨팅은 가까워지고 있지만, 양자 보안 구축은 그에 비해 뒤처지고 있습니다.
크룸은 양자 컴퓨팅에 대해서도 논의했습니다. 그는 양자 컴퓨터가 미래에 현재의 암호화 기술을 해독할 수 있을 것이며, 이른바 "Q-데이"의 시기는 아직 정해지지 않았지만 반드시 올 것이라고 지적했습니다.
Crume은 2025년에 "양자 후 암호화"에 대한 시장의 관심이 크게 증가할 것으로 예상했지만, 실제 구현 진행 상황은 여전히 매우 제한적이라고 지적했습니다. Crume은 양자 위협이 임박했지만 대부분의 조직이 여전히 대비가 되어 있지 않다고 단언했습니다.
프록시 기반 AI의 등장은 공격 및 방어 리스크 모두 증폭시킨다.
크룸은 또한 "AI 에이전트"의 개발 속도를 과소평가했음을 인정했습니다. 목표 지향적이고 자율성이 높은 이러한 유형의 AI는 탈취될 경우 매우 짧은 시간 안에 대량 오류 또는 악의적인 행동을 실행할 가능성이 있습니다.
Crume은 프록시 AI가 사용자 개입 없이 이메일 요약 내에 숨겨진 프롬프트를 실행하여 데이터를 직접 유출할 수 있는 방법을 보여주는 대표적인 사례입니다.
한편, 에이전트 기반 AI는 계정과 권한이 필요하며, 자체적으로 다른 에이전트를 생성할 수도 있어 비인간 계정 수가 급증하고 권한 남용 리스크 커집니다. IBM은 에이전트 기반 AI 자체가 사용 불가능한 것은 아니지만, 리스크 완전히 이해한 후에만 배포해야 한다고 강조합니다.
(AI 프록시가 전문 해커로 변신하는가? 앤스로픽은 GPT-5와 클로드가 온체인 공격 패턴을 복제할 수 있음을 공개했다)
비밀번호가 필요 없는 기술 시대가 도래함에 따라 양자 보안 기술 강화가 필수적이 되었습니다.
사이버 보안과 관련하여 크룸은 특히 "패스키(Passkeys)"가 점진적으로 성숙해 왔다고 강조했습니다. FIDO 얼라이언스 회원사에는 아마존, 구글, 마이크로소프트, 페이팔과 같은 대기업들이 포함되어 있습니다. 통계에 따르면 계정의 93%가 이미 패스키를 지원하고 있으며, 실제로 사용자의 약 3분의 1이 패스키를 사용하고 있습니다. IBM 또한 내부적으로 비밀번호 없는 로그인으로 완전히 전환했습니다.
크룸은 이러한 유형의 기술이 피싱 공격의 리스크 효과적으로 줄일 수 있다고 지적하며, "비밀번호가 없으면 비밀번호를 훔칠 수 없기 때문"이라고 설명하고, 양자 보안 암호화를 지금 구현하는 것이 미래의 재앙을 피하는 유일한 방법이라고 강조합니다.
(비트코인의 양자 컴퓨팅 이후 업그레이드는 10년이 걸릴 것이며, 핵심 개발자들은 단기적인 양자 컴퓨팅 위협은 우려할 만한 사항이 아니라고 밝혔습니다.)
이 기사, "IBM의 2026년 사이버 보안 트렌드 전망: 프록시 AI가 새로운 공격 리스크 야기하고 양자 보호에 대한 수요가 증가하고 있다"는 블록체인 뉴스 플랫폼인 ABMedia 에 처음 게재되었습니다.
