由於犯罪分子複製聲音侵入信用卡和銀行帳戶，人工智慧導致詐欺製作數十億鎂的損失。
根據 WBTV 報告，典型的騙局是受害者接到親人打來的電話索要錢財，而有了人工智慧的幫助，這種騙局就變得更加簡單。
網路安全專家托馬斯·海斯利普 (Thomas Hyslip) 在特勤局和國防部的聯邦執法部門工作了二十年，他表示，只需幾秒鐘就足以製作仿盤音訊。
「以前，他們必須手動竊取信用卡…現在有了人工智慧，他們可以利用現有的技術來提高詐欺能力…
在某些情況下，您可以在短短 30 秒內複製某人的聲音並撥打電話或使用它來欺騙語音識別。一些銀行現在使用語音識別而不是電話號碼。
審計公司德勤 (Deloitte) 預測，到 2027 年，生成式 AI 造成的詐欺額將達到 300 億鎂，上漲2023 年的 123 億鎂。
美國聯邦調查局 (FBI) 在向 WBTV 發表的聲明中建議人們在公開個人資訊時保持謹慎，並指出駭客現在可以拍攝看似無關緊要的影片或照片來實施詐欺。
「人工智慧產生的音訊內容越來越難以偵測且更容易製作，這可以幫助犯罪分子對家庭、個人、企業和金融機構進行成功的詐騙。
聯邦調查局建議公眾在社交媒體、約會應用程式和其他線上網站上發布或直接發送照片、影片和個人識別資訊時要小心謹慎。雖然發布或Chia時看似無害，但這些圖像和視頻可以為不良行為者提供豐富的內容來源，以尋找和瞄準受害者並挖礦進行犯罪活動。
