Hôm thứ Sáu, Google đã đệ đơn kiện mạng lưới tội phạm mạng Trung Quốc Outsider Enterprise vì đã sử dụng trí tuệ nhân tạo Gemini của công ty để tự động hóa các chiến dịch nhắn tin lừa đảo nhắm vào hàng trăm nghìn nạn nhân ở Mỹ bằng các trang web giả mạo được thiết kế để đánh cắp thông tin tài chính.
Theo tài liệu tòa án, các bị cáo bị cáo buộc đã sử dụng Gemini AI để tạo mã và mẫu cho các trang web giả mạo, bắt chước các cổng thông tin viễn thông hợp pháp. FBI cho biết chiến dịch này đã triển khai hơn 8.000 trang web lừa đảo trên hàng chục quốc gia.
Trong hai tuần kết thúc vào ngày 1 tháng 6, Google đã nhận được khoảng 55.000 báo cáo về các tin nhắn đáng ngờ trên Google Messages, nhiều tin nhắn trong số đó được cho là có liên quan đến Outsider Enterprise. Các tài liệu tòa án tương tự cho thấy mạng lưới này đã đánh cắp khoảng 3,87 triệu số thẻ tín dụng, gây thiệt hại khoảng 1,9 tỷ đô la kể từ tháng 7 năm 2023.
Các trang web lừa đảo được cho là nhắm mục tiêu vào nhiều tài khoản tài chính khác nhau, bao gồm ví tiền điện tử và thông tin đăng nhập sàn giao dịch, khi bọn lừa đảo ngày càng tập trung vào những người nắm giữ tài sản kỹ thuật số, những người có thể có ít biện pháp bảo vệ hơn so với khách hàng ngân hàng truyền thống.
Vụ kiện này xuất hiện trong bối cảnh các vụ lừa đảo tài chính dựa trên trí tuệ nhân tạo đang gia tăng mạnh mẽ trên khắp nước Mỹ. Cục Điều tra Liên bang (FBI) đã nhận được tổng cộng 1.008.597 đơn khiếu nại về tội phạm mạng trong năm 2025 , trong đó các đơn khiếu nại liên quan đến tiền điện tử chiếm 181.565 báo cáo và gây thiệt hại 11 tỷ đô la - cao nhất trong tất cả các loại tội phạm.
Lần đầu tiên trong lịch sử gần 25 năm, Trung tâm Khiếu nại Tội phạm Internet của FBI đã dành riêng một mục cho các vụ lừa đảo trí tuệ nhân tạo, loại hình tội phạm đã tạo ra 22.364 khiếu nại và gây thiệt hại cho người dân Mỹ gần 893 triệu đô la. Chiến dịch Level Up của cục, được khởi động vào năm 2024, đã thông báo cho hơn 8.000 nạn nhân của các vụ lừa đảo tiền điện tử và ngăn chặn hơn 500 triệu đô la thiệt hại tiềm tàng.
Nghiên cứu đã chỉ ra rằng ngay cả những mô hình AI hàng đầu cũng có thể khuyến khích hành vi gây hại , làm dấy lên lo ngại khi các công ty như Apple tích hợp khả năng AI vào các sản phẩm tiêu dùng. Vụ kiện của Google đánh dấu một bước ngoặt trong nỗ lực buộc các bên xấu phải chịu trách nhiệm vì đã sử dụng các công cụ AI như vũ khí chống lại hệ thống tài chính.
