Theo Nhóm Tình báo Mối đe dọa của Google, tội phạm mạng đã sử dụng mô hình trí tuệ nhân tạo để phát hiện và khai thác lỗ hổng bảo mật zero-day trong một công cụ quản trị web mã nguồn mở phổ biến.
Trong một báo cáo được công bố hôm thứ Hai, Google cho biết lỗ hổng này cho phép kẻ tấn công vượt qua xác thực hai yếu tố, và cảnh báo rằng những kẻ tấn công đang chuẩn bị một chiến dịch khai thác quy mô lớn trước khi công ty can thiệp. Đây là lần đầu tiên Google xác nhận việc phát triển lỗ hổng bảo mật chưa được vá (zero-day) có sự hỗ trợ của trí tuệ nhân tạo trong thực tế.
“Khi khả năng lập trình của các mô hình AI ngày càng phát triển, chúng tôi tiếp tục nhận thấy các đối thủ ngày càng tận dụng những công cụ này như những yếu tố nhân rộng sức mạnh ở cấp độ chuyên gia để nghiên cứu lỗ hổng và phát triển các công cụ khai thác, bao gồm cả các lỗ hổng zero-day,” Google viết. “Mặc dù những công cụ này hỗ trợ nghiên cứu phòng thủ, nhưng chúng cũng làm giảm rào cản cho các đối thủ trong việc phân tích ngược các ứng dụng và phát triển các công cụ khai thác tinh vi do AI tạo ra.”
Báo cáo được đưa ra trong bối cảnh các nhà nghiên cứu và chính phủ cảnh báo rằng các mô hình trí tuệ nhân tạo đang đẩy nhanh các cuộc tấn công mạng bằng cách giúp tin tặc tìm ra lỗ hổng, tạo ra phần mềm độc hại và tự động hóa việc phát triển các công cụ khai thác.
“Mặc dù các mô hình LLM tiên tiến gặp khó khăn trong việc xử lý logic ủy quyền phức tạp của doanh nghiệp, nhưng chúng ngày càng có khả năng thực hiện suy luận theo ngữ cảnh, đọc hiểu hiệu quả ý định của nhà phát triển để liên kết logic thực thi xác thực hai yếu tố với những mâu thuẫn trong các ngoại lệ được mã hóa cứng,” báo cáo cho biết. “Khả năng này cho phép các mô hình phát hiện ra các lỗi logic tiềm ẩn, thoạt nhìn có vẻ đúng về mặt chức năng đối với các trình quét truyền thống nhưng lại bị lỗi về mặt chiến lược từ góc độ bảo mật.”
Theo Google, những kẻ tấn công giấu tên đã sử dụng trí tuệ nhân tạo (AI) để xác định một lỗ hổng logic, trong đó phần mềm tin tưởng vào một điều kiện cho phép bỏ qua cơ chế xác thực hai yếu tố. Không giống như các công cụ quét truyền thống tìm kiếm mã lỗi hoặc sự cố, AI đã phân tích cách phần mềm được thiết kế để hoạt động và phát hiện ra sự mâu thuẫn, cho phép kẻ tấn công vượt qua bước kiểm tra bảo mật mà không cần phá vỡ mã hóa.
Google viết: “Việc lập trình dựa trên trí tuệ nhân tạo đã đẩy nhanh quá trình phát triển các bộ công cụ cơ sở hạ tầng và phần mềm độc hại đa hình của các đối thủ. Các chu kỳ phát triển được hỗ trợ bởi AI này tạo điều kiện thuận lợi cho việc né tránh phòng thủ bằng cách cho phép tạo ra các mạng lưới che giấu và tích hợp logic mồi nhử do AI tạo ra vào phần mềm độc hại mà chúng tôi đã liên kết với các tác nhân đe dọa bị nghi ngờ có liên hệ với Nga.”
Báo cáo cho biết các tác nhân đe dọa từ Trung Quốc vàTriều Tiên đang sử dụng trí tuệ nhân tạo (AI) để tìm ra các lỗ hổng phần mềm, trong khi các nhóm của Nga sử dụng nó để che giấu phần mềm độc hại của chúng.
Google viết: “Những kẻ tấn công này đã tận dụng các phương pháp tinh vi để phát hiện và khai thác lỗ hổng bảo mật được hỗ trợ bởi trí tuệ nhân tạo, bắt đầu bằng các nỗ lực bẻ khóa thiết bị dựa trên danh tính người dùng và việc tích hợp các bộ dữ liệu bảo mật chuyên biệt, có độ chính xác cao để tăng cường quy trình phát hiện và khai thác lỗ hổng của chúng”.
Mặc dù báo cáo của Google nhằm cảnh báo về nguy cơ ngày càng tăng của các cuộc tấn công mạng sử dụng trí tuệ nhân tạo (AI), một số nhà nghiên cứu cho rằng nỗi lo ngại này đã bị thổi phồng quá mức. Một nghiên cứu riêng biệt do Đại học Cambridge thực hiện trên hơn 90.000 Threads thảo luận trên các diễn đàn tội phạm mạng cho thấy hầu hết tội phạm sử dụng AI để gửi thư rác và lừa đảo trực tuyến hơn là sử dụng mã lập trình cảm ứng để thực hiện các cuộc tấn công mạng tinh vi.
“Vai trò của các hệ thống LLM (Trí tuệ nhân tạo đen) bị bẻ khóa như những người hướng dẫn cũng bị phóng đại, xét đến tầm quan trọng của văn hóa phụ và học tập xã hội trong quá trình làm quen – người dùng mới coi trọng các mối liên hệ xã hội và bản sắc cộng đồng liên quan đến việc học các kỹ năng hack và tội phạm mạng cũng như chính kiến thức đó,” nghiên cứu cho biết. “Do đó, kết quả ban đầu của chúng tôi cho thấy ngay cả việc than phiền về sự gia tăng của tội phạm Viber cũng có thể là phóng đại mức độ gây rối loạn cho đến nay.”
Tuy nhiên, bất chấp những phát hiện của Cambridge, báo cáo của Threat Intelligence Group cũng được đưa ra trong bối cảnh Google đang phải đối mặt với những lo ngại về bảo mật liên quan đến các công cụ hỗ trợ trí tuệ nhân tạo. Vào tháng 4, công ty đã vá một lỗ hổng chèn lời nhắc trong nền tảng lập trình AI Antigravity của mình mà các nhà nghiên cứu cho rằng có thể cho phép kẻ tấn công thực thi các lệnh trên máy tính của nhà phát triển thông qua các lời nhắc bị thao túng.
“Mặc dù chúng tôi không tin rằng Gemini đã được sử dụng, nhưng dựa trên cấu trúc và nội dung của các lỗ hổng này, chúng tôi tin chắc rằng kẻ tấn công có thể đã tận dụng mô hình trí tuệ nhân tạo để hỗ trợ việc phát hiện và khai thác lỗ hổng này”, các nhà nghiên cứu của Google viết.
Đầu năm nay, Anthropic đã hạn chế quyền truy cập vào mô hình Claude Mythos của mình sau khi các thử nghiệm cho thấy nó có thể xác định hàng nghìn lỗ hổng phần mềm chưa từng được biết đến trước đây. Những phát hiện này cũng làm gia tăng mối lo ngại rằng các mô hình AI đang định hình lại an ninh mạng bằng cách giúp cả người phòng thủ và kẻ tấn công tìm ra các lỗ hổng nhanh hơn.
“Khi những khả năng này đến tay nhiều người bảo mật hơn, nhiều nhóm khác hiện đang trải qua cảm giác choáng váng tương tự như chúng tôi khi những phát hiện này lần đầu tiên được công bố,” Mozilla viết trong một bài đăng trên blog vào tháng Tư. “Đối với một mục tiêu được bảo mật cao, chỉ một lỗi như vậy thôi cũng đã là báo động đỏ vào năm 2025, và việc có quá nhiều lỗi cùng lúc khiến bạn phải tự hỏi liệu mình có thể theo kịp hay không.”
