이란 폭격 공격의 가장 충격적인 장면들은 펜타곤 카메라나 CNN 촬영진이 포착한 것이 아닙니다. 구글의 AI 영상 제작기가 만들어낸 것입니다.
이번 주 초 이란이 이스라엘에 미사일 공격을 가한 이후, 텔아비브와 벤구리온 공항이 피해를 입었다는 내용의 가짜 AI 영상이 흉악한 소문처럼 퍼지기 시작했습니다.
법의학 회사 에 따르면, 그 장면은 매우 사실적이었고, 공격 자체는 실제였지만 인터넷에 급속도로 퍼지고 있는 영상은 그렇지 않았다고 합니다.
이는 2025년의 전쟁 상황으로, AI가 만들어낸 딥페이크, 챗봇이 만들어낸 거짓말, 비디오 게임 영상이 소셜 미디어에서 전례 없는 빈도와 침투력으로 대중의 인식을 조작하는 데 사용되고 있습니다.
일요일에 미국이 이란의 주요 핵 시설을 공격한 후 전 세계가 이란의 대응에 대비하는 가운데, 1979년 혁명 이후 이슬람 공화국에 대한 가장 중요한 서방의 군사 행동에 이스라엘이 동참하면서 수백만 명의 사람들이 소셜 미디어에서 최신 소식을 접했습니다.
진실을 알기는커녕, 많은 사람이 새로운 유형의 잘못된 정보 유포 캠페인에 휘말렸습니다.
2025년 이스라엘이 이란을 공격한 직후에 관찰된 이란의 TikTok 캠페인은 AI가 생성한 다섯 가지 주요 범주의 콘텐츠를 배포했습니다.
유포되고 있는 한 영상은 평범한 이스라엘 동네가 갑자기 전쟁터로 변하는 모습을 보여주며, 전후를 비교하는 형식으로 구성되어 있습니다.
또 다른 가짜 사진에는 텔아비브의 주요 공항이 미사일 공격을 받는 모습이 담겨 있습니다 .
한 영상에는 화염에 휩싸인 엘알 이스라엘 항공 비행기가 등장합니다. 완전히 컴퓨터로 제작되었지만, 기술에 익숙하지 않은 사람들도 속일 수 있을 만큼 사실적입니다.
그 정교함은 놀라울 정도이며, 최근 몇 달 동안 비디오 생성기의 품질이 엄청나게 향상되었음을 보여줍니다. Kling 2.1 Master , Seedream, Google Veo3는 Image to Video 기능을 사용하여 사실적인 장면을 생성합니다. 이 기능을 사용하면 모델이 실제 사진을 기반으로 비디오를 만들지 않고도 장면을 처음부터 만들 수 있습니다.
취미가들에게 인기 있는 Wan 2.1과 같은 오픈소스 소프트웨어조차도 대형 기술 기업이 부과하는 콘텐츠 제한을 우회하면서 매우 사실적인 비디오를 만들고 품질을 향상시키는 애드온을 활용합니다.
이러한 정치 영상은 TikTok에서 수백만 건의 조회수를 기록하고 있으며, Instagram, Facebook, X에서는 끊임없이 홍보하고 있습니다.
예를 들어, 오늘 게시된 이란의 미군 기지 공격을 과장해서 보여주는 영상은 X에서 300만 회 이상 조회되었고, 트럼프의 전쟁 개입에 반대하는 언론인 캔던스 오웬스와 터커 칼슨을 무슬림으로 묘사한 사진은 3일 만에 37만 1천 회 이상의 조회수를 기록했습니다. 텔레그램 채널들은 이러한 가짜 정보들을 쏟아내고 플랫폼들이 차단하기 전에 빠르게 퍼져 나갑니다 .
하지만 이 모든 것을 만들어내는 사람은 누구일까요?
물론 양측 모두 당파였고, 각국의 요원이었을 가능성이 큽니다. 선전전은 중동을 훨씬 넘어 확장되고 있습니다.
러시아의 "프라우다" 네트워크는 ChatGPT-4와 Meta의 챗봇을 포함한 AI 비서를 오염시켜 크렘린의 대변인으로 만들고 있습니다.
미국의 언론에 퍼진 허위 정보를 폭로하는 프로젝트인 뉴스가드(NewsGuard)는 프라우다 네트워크의 연간 친러시아 기사 게재율이 최소 360만 건에 달한다고 추정합니다 .
작년에 이 네트워크는 여러 언어로 된 150개 웹 주소를 활용하여 49개국에 걸쳐 360만 개의 작품을 제작했습니다.
조사에 따르면, 러시아 네트워크는 AI 챗봇 훈련 데이터에 침투하여 의도적으로 허위 주장을 게시하는 포괄적인 전략을 사용합니다.
그 결과는? 이 연구에서는 구체적인 이름을 밝히지 않았지만, 모든 주요 챗봇이 프라우다의 선전 내용을 그대로 따라 했습니다.
중동 캠페인은 언어별로 콘텐츠를 맞춤화하여 과학적으로 접근한다는 것을 보여줍니다.
이스라엘 국제테러대응연구소(ICT)는 보고서 에서 "아랍어와 페르시아어 콘텐츠는 종종 지역적 연대와 반이스라엘 감정을 조장하는 반면, 히브리어 영상은 이스라엘 내부의 심리적 압박에 초점을 맞춥니다."라고 밝혔습니다.
또 다른 선전 전략은 AI 콘텐츠를 활용해 이스라엘 공무원들을 조롱하는 한편 이란의 최고 성직자를 영웅처럼 보이게 만드는 것입니다.
이러한 영상은 명백히 AI가 생성했으며 현실적으로 보이도록 의도되지 않았으며, 이스라엘 총리 베냐민 네타냐후와 미국 대통령 도널드 트럼프와 함께 있는 알리 하메네이 아야톨라의 모습을 자주 묘사하고 있으며, 하메네이가 두 인물 중 한 명 또는 두 명 모두를 상징적으로 굴욕시키거나 지배하는 상황을 묘사하고 있습니다.
다른 딥페이크는 가짜 영상과 가짜 목소리를 결합하여 다양한 정치적 의제를 강화합니다.
일주일 만에 1,800만 회 이상 조회된 한 영상 에는 수백 개의 미사일이 등장하고 미국에 보복하겠다고 위협하는 하메네이의 목소리가 담긴 이란 군사 퍼레이드의 사실적인 장면이 담겨 있습니다.
이란 국영 언론이 개입했습니다. 이란 TV는 칠레에서 촬영된 오래된 산불 영상을 내보내 이스라엘 도시가 불타는 것처럼 보도했습니다.
자신을 뉴스 채널이라고 소개한 다른 계정에서는 이란이 미사일을 발사하는 장면을 담은 가짜 AI 영상을 사용했습니다.
반면, 이스라엘은 지정학적 담론을 통제하기 위해 언론을 금지하기로 결정했으며, 이로 인해 전문가들은 더 많은 허위 정보와 "비인간화"가 조장되었다고 말합니다.
이스라엘은 다양한 목적(주로 정치적 선전보다는 군사 전략 )에 AI를 활용하는 데 중점을 두고 있지만, 이러한 목적에 생성적 AI를 활용하는 행위자도 있었습니다. 즉, 현재와 과거의 아야톨라를 조롱하고 AI가 생성한 비디오를 통해 정치적 메시지를 전파하거나, AI 봇 네트워크를 만들어 소셜 미디어에서 콘텐츠를 퍼뜨리는 것입니다.
합성 페르소나 게임은 차원이 다릅니다. 단순한 가짜 프로필 사진이 아니라, 생생한 말투, 동작, 표정을 갖춘 완전히 인공적인 신원을 말합니다.
단일 사진과 오디오 클립을 합성 페르소나가 등장하는 매우 사실적인 비디오로 변환하는 데 첨단 기술을 사용하는 도구가 이미 존재합니다.
KBV Research의 데이터에 따르면, 가상 인플루언서 시장은 2030년까지 378억 달러 규모로 성장할 수 있습니다. 즉, 좋아하는 소셜 미디어 인물도, 정치 지도자가 타협적인 발언을 하는 영상도, 파괴적인 공격 장면을 보여주는 매우 사실적인 뉴스 쇼도 존재하지 않을 수 있다는 뜻입니다.
생성적 AI 덕분에 전장은 국경과 벙커를 넘어 모든 스마트폰, 모든 소셜 피드, 모든 대화로 확장되었습니다.
세계에서 가장 강력한 나라의 대통령조차도 이 기술을 아무런 문제 없이 사용할 수 있다면, 이 새로운 전쟁에서 우리 모두가 전사자이고, 우리 모두가 희생자라는 것을 쉽게 알 수 있습니다.
Sebastian Sinclair 와 Josh Quittner 가 편집함
