"AI Hacker" đang đến, làm thế nào Agentic AI có thể trở thành người bảo vệ mới?

Tác giả:Hacker phong cách

01 Sự trỗi dậy của AI: Cuộc chiến bí ẩn về an ninh dưới lưỡi kiếm hai chiều của công nghệ

Với sự phát triển nhanh chóng của công nghệ AI, các mối đe dọa an ninh mạng ngày càng phức tạp, phương thức tấn công không chỉ hiệu quả và tinh vi hơn, mà còn sinh ra hình thái "hacker AI" mới, do đó gây ra các cuộc khủng hoảng an ninh mạng mới.

Đầu tiên là AI sinh thành đang định hình lại "độ chính xác" của các vụ lừa đảo trực tuyến.

Nói đơn giản, đó là việc làm thông minh hóa các cuộc tấn công lừa đảo truyền thống, chẳng hạn như trong các kịch bản chính xác hơn, kẻ tấn công sẽ sử dụng dữ liệu xã hội công khai để đào tạo mô hình AI, tạo ra hàng loạt email lừa đảo được cá nhân hóa, bắt chước phong cách viết hoặc thói quen ngôn ngữ của người dùng cụ thể, thực hiện lừa đảo "được thiết kế riêng", vượt qua các bộ lọc thư rác truyền thống, nâng cao đáng kể tỷ lệ thành công của cuộc tấn công.

Tiếp theo là các vụ giả mạo sâu (Deepfake) và mạo danh danh tính được biết đến rộng rãi nhất. Trước khi công nghệ AI trưởng thành, các cuộc tấn công "giả mạo" truyền thống, tức là lừa đảo BEC, viết tắt của "Business Email Compromise", cụ thể là kẻ tấn công giả mạo người gửi email thành lãnh đạo, đồng nghiệp hoặc đối tác kinh doanh của bạn để lừa đoạt thông tin kinh doanh hoặc tiền bạc, hoặc để lấy các tài liệu quan trọng khác.

Ngày nay, việc "thay mặt" đã thực sự xảy ra. Công nghệ thay đổi khuôn mặt và giọng nói do AI tạo ra có thể giả mạo danh tính của nhân vật công chúng hoặc người thân, được sử dụng để lừa đảo, thao túng dư luận thậm chí can thiệp chính trị. Chỉ cách đây hai tháng, giám đốc tài chính của một doanh nghiệp ở Thượng Hải đã nhận được lời mời họp video từ "chủ tịch", người này thông qua công nghệ thay đổi khuôn mặt và giọng nói AI yêu cầu thanh toán khẩn cấp "tiền ký quỹ hợp tác nước ngoài", viên giám đốc đã chuyển 3,8 triệu nhân dân tệ vào tài khoản được chỉ định, sau đó phát hiện ra đó là một nhóm lừa đảo nước ngoài sử dụng công nghệ giả mạo sâu để thực hiện vụ án.

Thứ ba là các cuộc tấn công tự động và khai thác lỗ hổng. Sự tiến bộ của công nghệ AI đã cho phép nhiều kịch bản phát triển theo hướng thông minh và tự động, các cuộc tấn công mạng cũng vậy. Kẻ tấn công có thể sử dụng AI để quét hệ thống tự động, tạo mã tấn công động, và thực hiện các cuộc tấn công nhanh chóng và không phân biệt đối tượng, chẳng hạn như các cuộc tấn công "zero-day" do AI điều khiển sẽ ngay lập tức viết và thực thi các chương trình độc hại sau khi phát hiện lỗ hổng, các hệ thống phòng thủ truyền thống khó có thể phản ứng kịp thời.

Ngay trong dịp Tết năm nay, trang web DeepSeek đã phải chịu một cuộc tấn công DDoS quy mô lớn 3,2 Tbps, các hacker đồng thời xâm nhập thông qua API bằng cách chèn mẫu chống đối, làm sai lệch trọng số mô hình dẫn đến sự sụp đổ dịch vụ chính trong 48 giờ, tổn thất kinh tế trực tiếp vượt quá hàng chục triệu đô la Mỹ, sau đó truy nguyên phát hiện dấu vết xâm nhập lâu dài của NSA Hoa Kỳ.

Ô nhiễm dữ liệu và lỗ hổng mô hình cũng là một mối đe dọa mới. Kẻ tấn công có thể chèn thông tin sai lệch vào dữ liệu đào tạo AI (tức là nhiễm độc dữ liệu), hoặc lợi dụng các khuyết điểm của chính mô hình để dẫn dắt AI đưa ra kết quả sai - điều này có thể gây ra mối đe dọa an toàn trực tiếp đối với các lĩnh vực then chốt, thậm chí có thể dẫn đến hậu quả thảm khốc liên hoàn, chẳng hạn như hệ thống lái xe tự động nhầm lẫn biển "Cấm đi" thành biển "Giới hạn tốc độ", hoặc AI y tế nhầm khối u lành thành ác tính.

Thông qua việc kết hợp học máy, đồ thị tri thức và công nghệ ra quyết định tự động, "Vô Tướng" có thể độc lập hoàtoàn buyép kín từátáte dđánh gigiá ảởứóử lý việthực sự tựa quyết định và mục tiêu điều khiển. Kiến trú"úGentic AI" được thiết kế để mô phỏng logic hợp tác của đội ngũ an ninh mạ:ng "Bộ"ích hợp thư viện tri thức an ninh mạng để hỗ trợ năng lực lập kế hoạch, "Mắ"ảm tiiạcủa môi trường mạng, "Tay chân" linh hoạt gọi các chuỗi công�cụ� an ninh đa dạng, và thông qua sự hợp tác của nhiều tác nhân để hình thành mạng lưới đánh giạánh hiệu với sự chia sẻ thông tin,ân hợtác t.

Về mthực hihiện kỹ"ÔƯợngi" sử dụng "Chế độActÒng lặhành Sát-Suy nghĩ-Hành động) và "Kiến trúc cép Plan AI + Action AI", đảm bảo khả năng điều chỉnh động trong các nhiệm vụ phứcú. Khi việc gọi cônghụ bất thường, hệ thống có thể tự chuyển sang phương án dự phòng thay vì vì ngắt ququy trình, ví dụ trong phânng tích APtấn côg,ạPlan AI là "Người tổ chức" phânảiục tiệAction AI là chuyều chuyithực hiện phân tích nhật ký và mô hình ha mối đe dọa, cả hai thực hiện song song dựa trên đồ thị tri thức được chia sẻ thời gian thpực p>>>

>Ại cấp mmô-đun chức năng,, "T"ãây hệ sinh thái quyết định tự chủàMôi hóa trí tuệ nhouy ngh�lặp lại của nhà phânân ninh,ótối ưu hóa đôg quyết định; Tíchọiônghụ tích hợp truy vấn nhật ký an ninh máy chchủtra cìm tbáđeốiuy và phân tích mã độc do LL;MẢmôi trường thời gian thực bắt thông tin tài sản máy chủ và mng Đồ thị tri thức lưên kthực thể động,ộhỗ trợ quyết định; Sự hợp tác của nhiều tác nhân thông phqua phtách nhiệmụchiaẻ thông tin, p thực song.

Hiện tại,ại Tđã thể hiện xuất sắc nhất trong ba kịch bản ứng dụchính: phán đoán cảbáo ph,ý nguyên nhân và xuất báo ccninh><.

Trong hoạt động an ninh truyền thống, việc xác minh tính xchcủaàng loloảrất tốn thời gian. Lấy một cảnh báo nnâng quyền cục bộ làm ví dụ: Tác nhân thânôngng của "Vôướ"ựđộng phân tích đặc điđe,ọi cônghụ phân tích quyền tiến trình, truy nguyên tiến trìnhh trcha,�xác michnhữ ký chương trình, cuối cùng xác định là cảnh báo sai - toàn bộ quá trình không cần can thiệp thủ côg. Trong bài kiểm tra cảnh báo hiện Thanh Đằng, hệ thống đã đ 100% phạm vi cảnh báo và 99,99% độ chính xác phán đoán, giảm lượng công việc thủ côg trên 95%.

Đối là với các tiđe dọa thực tế như tãấng Webshell, tác nhân thôngông qua việc trích xuất đặc điểm mã , phân ânuyền tệp, liên kết trên nhiều chiều, xác nhận tính hiệu lực củaả củaộng trong giây lát. Việc truy nguyên sâu truyền thống cần sự hợp hợp tác của nhiều bộ phận, mất vài ngày, giờ đây được hệ thống tự động kết nối các luồng dữ liệu như nhật ký máy chủ, lưu lượng mạạngng cơ sở, tạo báo cáo chuỗi tấn côrútắgian phản ứng từ "ngày xuống "phút><>Trọng tâm của chúng tđảngước mối hệtácữa và con người, có thể coi AI như một đối tác, vượt qua từ L24, tức là từ hỗ trợ lái xe sang tự cỒấn chianhồng ssáng lập kiêm phóổđốc sản phẩm củaH chia s�phẻ,ê"hi thích ứềuịch bơ, tỷ lệ thành côg quyết định cao hơn, dần dần s�có thể đđảnhận trách nhiệm lớn hơn, do đó phân chianh nhiệm gia con người và AI sẽ thay."