구글은 금요일, 중국 사이버 범죄 조직인 아웃사이더 엔터프라이즈를 상대로 소송을 제기했다. 아웃사이더 엔터프라이즈는 구글의 제미니(Gemini) AI를 이용해 수십만 명의 미국 피해자를 대상으로 금융 정보를 탈취하는 피싱 사이트를 유포하는 사기성 문자 메시지 캠페인을 자동화했다는 혐의를 받고 있다.
법원 문서에 따르면 피고인들은 제미니(Gemini) AI를 이용해 합법적인 통신 포털을 모방한 가짜 웹사이트의 코드와 템플릿을 생성한 혐의를 받고 있습니다. FBI는 이들이 수십 개국에 걸쳐 8,000개 이상의 피싱 웹사이트를 배포했다고 밝혔습니다.
구글은 6월 1일로 끝나는 2주 동안 구글 메시지에서 약 5만 5천 건의 의심스러운 메시지 신고를 접수했으며, 이 중 상당수는 아웃사이더 엔터프라이즈(Outsider Enterprise)와 관련된 것으로 알려졌습니다. 같은 법원 문서에 따르면, 이 네트워크는 약 387만 개의 신용카드 번호를 도용하여 2023년 7월 이후 약 19억 달러의 손실을 초래한 것으로 추정됩니다.
피싱 사이트들은 암호화폐 지갑과 거래소 계정 정보 등 다양한 금융 계정을 표적으로 삼은 것으로 알려졌으며, 사기꾼들은 전통적인 은행 고객보다 구제 수단이 부족할 수 있는 디지털 자산 보유자들을 점점 더 집중적으로 노리고 있습니다.
이번 소송은 미국 전역에서 인공지능(AI) 기반 금융 사기가 급증하는 가운데 제기되었습니다. FBI는 2025년에 총 1,008,597건의 인터넷 범죄 신고를 접수했으며 , 그중 암호화폐 관련 신고는 181,565건, 피해액은 110억 달러로 가장 많았습니다.
FBI의 인터넷 범죄 신고 센터는 설립 25년 만에 처음으로 인공지능 사기 사건을 전담하는 부서를 신설했으며, 이에 따라 22,364건의 신고가 접수되었고 미국인들은 약 8억 9,300만 달러의 피해를 입었습니다. 2024년에 시작된 FBI의 '레벨 업 작전(Operation Level Up)'은 8,000명 이상의 암호화폐 사기 피해자에게 통지하고 5억 달러 이상의 잠재적 손실을 막았습니다.
연구 결과에 따르면 최첨단 AI 모델조차 유해한 행동을 조장 할 수 있다는 점이 밝혀졌으며 , 애플과 같은 기업들이 AI 기능을 소비자 제품에 통합함에 따라 우려가 커지고 있습니다. 구글 소송은 금융 시스템을 공격하기 위해 AI 도구를 악용하는 악의적인 행위자들에게 책임을 묻기 위한 중요한 전환점이 될 것입니다.
