디지털 사기꾼들이 이전 어느 때보다 성공적이었습니다. 작년에 미국인들은 온라인 범죄로 166억 달러를 잃었으며, 거의 20만 명이 피싱과 스푸핑과 같은 사기를 FBI에 신고했습니다. 작년에는 문자 메시지로 시작된 사기로 4억 7천만 달러 이상이 도난당했다고 연방거래위원회는 밝혔습니다. 세계 최대 모바일 운영 체제 제작사인 구글은 소비자들에게 잠재적 사기에 대해 경고하는 도구를 구축하며 대응에 분주했습니다.
구글의 안드로이드 16 출시 직전, 회사는 화요일에 구글 메시지 앱의 최근 출시된 사기 탐지 기능을 확대한다고 발표했습니다. 암호화폐 사기, 금융 사칭, 상품권 및 상금 사기, 기술 지원 사기 등 잠재적으로 악의적인 메시지에 대한 경고를 제공합니다. 사용자 기기에서 로컬로 실행되고 회사와 데이터나 메시지 내용을 공유하지 않는 다른 AI 보안 기능과 결합하여, 안드로이드는 현재 매월 약 20억 건의 의심스러운 메시지를 탐지하고 있습니다.
"이 사기는 정말 가슴 아프다"고 안드로이드 보안 및 개인정보 보호 부서의 데이브 클라이더마허 부사장은 말합니다. "전 세계에 걸쳐 있는 금융 사기는 거의 전염병 수준이며 인류에 대한 재앙이다."
사기꾼들은 전 세계에서 활동하지만, 특히 중국 사기 그룹은 수백만 건의 사기성 메시지를 보내며, "통행료" 지불이나 우편 배송과 관련된 정보를 요구합니다. 사람들이 링크를 클릭하고 결제 정보를 포함한 세부 정보를 입력하면 사기꾼들은 그들의 데이터를 훔칩니다. 일부 경우에는 공격자들이 로그인 자격 증명이나 신용카드 번호와 같은 정보를 빠르게 빼내는 일종의 급습식 사기입니다. 이러한 사기는 더 공식적이어서 탐지가 비교적 쉬울 수 있습니다. 더 복잡한 도전은 수개월에 걸쳐 메시지를 주고받으며 피해자와 유대감을 형성한 후 평생 저축이나 더 많은 돈을 보내도록 속이는 정교한 투자 또는 로맨스 사기를 탐지하는 것입니다.
"사기꾼들이 사기에 도달하는 데 시간이 걸린다"고 클라이더마허는 말합니다. "기기 내 AI를 통해 이러한 더 정교한 대화를 실제로 관찰하고 탐지할 수 있습니다."
구글이 제공한 사기 탐지 기능의 스크린샷에서, 암호화된 RSC 채팅은 EZ Pass 통행료 지불이 미납되었다는 전형적인 사기 메시지를 보여줍니다. 메시지는 지불이 이루어지지 않으면 "운전 법적 능력"이 취소될 수 있다고 덧붙입니다. 메시지에는 악의적인 결제 웹사이트로 연결되는 링크가 포함되어 있습니다. 화면 하단의 사기 탐지 오버레이는 메시지에서 "의심스러운 활동"이 탐지되었음을 보여주고 발신자를 신고 및 차단하는 방법을 제공하며, 사기가 아님을 표시하는 옵션도 있습니다.
구글은 AI를 사용하여 사기꾼을 막으려는 유일한 기업은 아닙니다. 일부 기업들은 AI를 직접 사용하여 사기꾼에 대응하고 있습니다. 예를 들어, 영국 통신사 O2는 사기꾼을 전화에 붙잡아 시간을 낭비하는 "AI 할머니"를 만들었습니다. 온라인 사기 방지 활동가 킷보가는 사기 콜센터에 동시에 전화를 걸 수 있는 봇 시리즈를 만들었습니다.
한편, 최근 몇 달 동안 왓츠앱, 메신저, 인스타그램을 소유한 메타는 채팅 메시지에서 결제를 요청할 때 팝업 경고를 도입하기 시작했습니다. 다른 곳에서는 사이버보안 회사 F-시큐어가 메시지와 발신자가 사기꾼일 가능성을 식별하고 메시지를 차단하는 베타 도구를 만들었습니다. 알려지지 않은 메시징 계정에서 멀어지거나 세부 정보를 요청하는 메시지에 답장하지 않도록 마찰을 만드는 것은 사기꾼의 성공 가능성을 줄일 수 있습니다.
구글의 클라이더마허는 머신러닝 시스템을 사용하여 실시간으로 잠재적 사기성 메시지를 탐지하는 "매우 긍정적인 영향"을 보고 있다고 말합니다. 보호 기능이 계속 성숙해짐에 따라, 기본 시스템은 궁극적으로 구글 메시지 앱을 넘어 제3자 커뮤니케이션 플랫폼으로 확산될 수 있다고 언급했습니다.
현재로서는 그 확장의 일부가 구글 자체 제품 내에서 시작되고 있습니다. 회사는 또한 화요일에 전화 통화에 대한 사기 탐지 방법을 테스트하는 초기 단계에 있다고 밝혔지만, 이 기능은 아직 광범위하게 배포되지 않았습니다.
