인공지능은 범죄자들이 자신의 목소리를 복제하여 신용카드와 은행계좌를 해킹함에 따라 사기로 인해 수십억 달러의 손실을 초래하고 있습니다.
피해자가 사랑하는 사람으로부터 돈을 요구하는 전화를 받는 전형적인 사기는 AI를 사용하면 더 간단하다고 WBTV가 보도했습니다 .
20년 동안 비밀경호국 및 국방부와 함께 연방 법 집행 기관에서 일한 사이버 보안 전문가 Thomas Hyslip은 가짜 오디오를 만드는 데 단 몇 초면 충분하다고 말했습니다.
“이전에는 수동으로 신용 카드를 훔쳐야 했습니다. 이제 AI를 통해 사기 행위 능력을 향상시키기 위해 이미 가지고 있는 기능을 활용할 수 있습니다.
단 30초 만에 누군가의 목소리를 복제해 전화를 걸거나 음성인식을 속이는 경우도 있다. 일부 은행에서는 이제 전화번호 대신 음성 인식을 사용합니다.”
감사회사 딜로이트(Deloitte)는 생성 AI로 인한 사기 규모가 2023년 123억 달러에서 2027년 300억 달러에 이를 것으로 예상한다 .
연방수사국(FBI)은 WBTV에 보낸 성명에서 해커들이 이제 사기를 저지르는 데 중요해 보이는 동영상이나 사진을 찍을 수 있다는 점을 지적하면서 개인정보를 공개할 때 주의할 것을 권고했습니다.
“AI로 생성된 오디오 콘텐츠는 탐지하기가 점점 더 어려워지고 생성하기가 더 쉬워지기 때문에 범죄자들이 가족, 개인, 기업 및 금융 기관을 대상으로 성공적인 사기를 저지르는 데 도움이 될 수 있습니다.
FBI는 소셜 미디어, 데이트 앱, 기타 온라인 사이트에 사진, 비디오, 개인 식별 정보를 게시하거나 직접 메시지를 보낼 때 주의를 기울일 것을 대중에게 권고합니다. 게시되거나 공유되면 무해해 보이지만, 이러한 이미지와 비디오는 범죄자에게 피해자를 찾아 표적화하고 범죄 활동에 악용할 수 있는 풍부한 콘텐츠 소스를 제공할 수 있습니다.”
