FraudGPT là một công cụ lừa đảo AI mới giúp thực hiện nhiều hoạt động độc hại khác nhau. Các nhà phân tích đã chỉ ra đây là một loại rủi ro mới khi công nghệ tiếp tục phát triển.
Công nghệ AI sáng tạo hiện đang được sử dụng để tạo ra các công cụ AI được sử dụng cho mục đích xấu. Một công cụ mới có tên FraudGPT đã được tạo ra đặc biệt để hỗ trợ các nỗ lực lừa đảo và các hoạt động độc hại khác.
FraudGPT có phải là sự khởi đầu cho kỷ nguyên mới của rủi ro kỹ thuật số không?
Phần mềm này có khẩu hiệu là “bot không có giới hạn, quy tắc, ranh giới”, điều này đã nói lên nhiều điều về những rủi ro tiềm ẩn . Công cụ này đã khuấy động các cuộc thảo luận trên các diễn đàn Dark Web và bản thân công cụ này cũng đang gây sốt trên Telegram.
Các cuộc thảo luận liên quan đến Gian lậnGPT. Nguồn: NetenrichFraudGPT hỗ trợ các thực thể độc hại thiết kế email lừa đảo, công cụ bẻ khóa và thậm chí tạo danh tính giả. Nó đang được bán trên cơ sở đăng ký, bắt đầu từ 200 USD một tháng hoặc 1.700 USD mỗi năm.
Netenrich giải thích cách tội phạm mạng sử dụng nó để thực hiện tội phạm mạng và công cụ này thậm chí còn viết mã cho các trang lừa đảo. Nhà cung cấp công cụ này tuyên bố đang hoạt động trên nhiều thị trường Dark Web khác nhau và tất cả đều hoạt động trên Telegram.
Các nhà phát triển đã xây dựng FraudGPT với mục đích xấu, khiến nó không phải là loại công cụ AI đầu tiên. Một vài tuần trước, các báo cáo đã đề cập đến một công cụ có tên Worm GPT, công cụ mà bọn tội phạm sử dụng để thực hiện các cuộc tấn công mạng có chủ đích.
Các công cụ AI có thể được sử dụng không chỉ cho mục đích lừa đảo và các hoạt động độc hại khác mà còn cho các mục đích mang tính xây dựng hơn. Hãy xem hướng dẫn của chúng tôi về một số công cụ AI như vậy để tìm hiểu thêm: 18 công cụ năng suất AI tốt nhất năm 2023
WormGPT giúp những kẻ tấn công độc hại khởi động các cuộc tấn công lừa đảo tinh vi cũng như tham gia vào các cuộc tấn công liên quan đến việc xâm phạm email doanh nghiệp. EleutherAI đã phát triển công cụ này bằng mô hình ngôn ngữ GPT-J nguồn mở.
Rủi ro lớn đến mức ngay cả Chủ tịch Ủy ban Chứng khoán và Giao dịch Hoa Kỳ (SEC) Gary Gensler cũng phải lên tiếng về rủi ro AI. Ông coi AI là một công nghệ biến đổi , mặc dù có một số vấn đề cần giải quyết.
Các cuộc thảo luận về AI vẫn sôi nổi
Bên cạnh FraudGPT, còn có những phát triển AI thú vị khác đã thu hút nhiều cuộc thảo luận. Một số thì vô hại hơn, mặc dù có lẽ nó kể về thời đại mà công nghệ đang hướng tới.
Cách đây vài ngày, các nền tảng mạng xã hội đã xôn xao khi AI tung ra đoạn trailer phim hoàn toàn do nó tạo ra. Đoạn giới thiệu “Genesis” vẽ ra một tương lai đen tối gợi nhớ đến những bộ phim khoa học viễn tưởng về ngày tận thế trong quá khứ. Những người sáng tạo đã sử dụng Midjourney và Runway để tạo đoạn giới thiệu.
Những người khác đã chỉ ra những mối quan ngại ít rõ ràng hơn. Một bài nghiên cứu đã xuất hiện thảo luận về chi phí của việc sử dụng ngôn ngữ cụ thể trong các mô hình học ngôn ngữ. Tiếng Anh là ngôn ngữ rẻ nhất, trong khi các ngôn ngữ khác lại đắt hơn nhiều để đào tạo.
Do đó, có những lo ngại rằng có thể có khoảng cách trong việc sử dụng và triển khai AI giữa những người nói tiếng Anh và những người nói ngôn ngữ khác.
