FraudGPT는 다양한 악의적인 활동을 수행하는 데 도움을 주는 새로운 AI 사기 도구입니다. 분석가들은 기술이 계속 발전함에 따라 이를 새로운 유형의 위험으로 지적했습니다.
생성적 AI 기술은 이제 악의적인 목적으로 사용되는 AI 도구를 만드는 데 사용되고 있습니다. 피싱 시도 및 기타 악의적인 활동을 지원하기 위해 FraudGPT라는 새로운 도구가 특별히 개발되었습니다.
FraudGPT는 디지털 위험의 새로운 시대의 시작입니까?
이 소프트웨어에는 "제한, 규칙, 경계가 없는 봇"이라는 태그라인이 있으며, 이는 이미 잠재적인 위험 에 대해 많은 것을 말해주고 있습니다. 이 도구는 다크 웹 포럼에서 논의를 불러일으켰고 도구 자체도 Telegram에서 화제를 모았습니다.
FraudGPT 관련 토론. 출처: 네텐리치FraudGPT는 피싱 이메일 설계, 도구 크래킹, 심지어 가짜 신원 생성까지 악의적인 개체를 지원합니다. 월 $200 또는 연간 $1,700부터 시작하는 구독 기반으로 판매되고 있습니다.
Netenrich는 사이버 범죄자들이 이 도구를 사용하여 사이버 범죄를 저지르는 방법과 이 도구가 사기 페이지용 코드를 작성하는 방법을 설명했습니다. 도구 공급업체는 다양한 다크 웹 마켓플레이스에서 활동하고 있으며 모두 Telegram에서 활동하고 있다고 주장합니다.
개발자들은 악의적인 목적을 염두에 두고 FraudGPT를 구축했기 때문에 최초의 AI 도구는 아닙니다. 몇 주 전 보고서에서는 범죄자들이 의도적으로 사이버 공격을 시작하는 데 사용하는 Worm GPT라는 도구에 대해 언급했습니다 .
AI 도구는 피싱 및 기타 악의적인 활동뿐만 아니라 보다 건설적인 목적으로도 사용될 수 있습니다. 자세한 내용은 몇 가지 AI 도구가 포함된 가이드를 확인하세요. 2023년 최고의 AI 생산성 도구 18가지
WormGPT는 악의적인 공격자가 정교한 피싱 공격을 시작하고 비즈니스 이메일을 손상시키는 공격에 참여하도록 돕습니다. EleutherAI는 오픈 소스 GPT-J 언어 모델을 사용하여 도구를 개발했습니다.
증권거래위원회(SEC) 게리 겐슬러(Gary Gensler) 위원장도 AI 위험에 대해 언급할 정도로 위험은 심각했습니다. 그는 해결해야 할 몇 가지 문제가 있지만 AI를 혁신적인 기술로 간주합니다.
AI 논의는 여전히 뜨겁다
FraudGPT 외에도 논의를 불러일으키는 다른 흥미로운 AI 개발이 있습니다. 일부는 더 무해하지만 아마도 기술이 향하고 있는 시대에 대해 이야기하고 있을 것입니다.
며칠 전 AI가 직접 제작한 영화 예고편을 공개하자 소셜 미디어 플랫폼이 떠들썩했습니다. '제네시스' 예고편은 과거 종말론적 공상과학 영화를 연상시키는 디스토피아적 미래를 그린다. 제작자는 Midjourney와 Runway를 사용하여 예고편을 만들었습니다.
다른 사람들은 덜 분명한 우려 사항을 지적했습니다. 언어 학습 모델에서 특정 언어 사용의 비용을 논의하는 연구 논문이 등장했습니다. 영어는 가장 저렴한 언어인 반면, 다른 언어는 훈련하는 데 훨씬 더 많은 비용이 듭니다.
이렇듯 영어 사용자와 다른 언어 사용자 사이에 AI 사용 및 구현에 격차가 있을 수 있다는 우려가 있습니다.
