Các nhà lập pháp Hoa Kỳ được cho là đã triệu tập một số công ty phát triển AI để giải thích lý do tại sao một số mô hình nhất định lại trở thành một phần của nỗ lực gián điệp trên diện rộng.
Trong số đó có Tổng giám đốc điều hành Anthropic Dario Amodei, người được yêu cầu ra hầu tòa trước Ủy ban An ninh Nội địa Hạ viện vào ngày 17 tháng 12 để giải thích về cách các tác nhân nhà nước Trung Quốc sử dụng Claude Code, theo báo cáo của Axios công bố hôm thứ Tư, trích dẫn các bức thư được chia sẻ riêng tư.
Đầu tháng này, Anthropic tiết lộ rằng một nhóm tin tặc có liên hệ với nhà nước Trung Quốc đã sử dụng công cụ Claude Code của mình để khởi động cái mà công ty mô tả là hoạt động mạng quy mô lớn đầu tiên phần lớn được tự động hóa bằng hệ thống AI.
Hoạt động dưới tên nhóm GTG-1002, những kẻ tấn công đã dàn dựng một chiến dịch nhắm vào khoảng 30 tổ chức, trong đó Claude Code xử lý hầu hết các giai đoạn theo Anthropic: trinh sát, quét lỗ hổng, tạo lỗ hổng, thu thập thông tin xác thực và đánh cắp dữ liệu.
Người chủ trì cuộc điều tra tiếp theo là Dân biểu Andrew Garbarino (Đảng Cộng hòa-NY) cùng với hai người đứng đầu tiểu ban.
Ủy ban muốn Amodei cung cấp chi tiết chính xác thời điểm Anthropic phát hiện hoạt động lần đầu, cách thức kẻ tấn công lợi dụng mô hình của họ trong các giai đoạn khác nhau của vụ xâm nhập, và những biện pháp bảo vệ nào đã thất bại hoặc thành công khi chiến dịch tiếp diễn. Phiên điều trần cũng sẽ có sự tham gia của các giám đốc điều hành Google Cloud và Quantum Xchange, theo Axios.
"Lần đầu tiên, chúng ta chứng kiến một đối thủ nước ngoài sử dụng hệ thống AI thương mại để thực hiện gần như toàn bộ một chiến dịch mạng với sự tham gia tối thiểu của con người", Garbarino phát biểu trong một tuyên bố được trích dẫn trong báo cáo ban đầu. "Điều này nên được mọi cơ quan liên bang và mọi lĩnh vực cơ sở hạ tầng quan trọng quan tâm."
Decrypt đã liên hệ với Đại biểu Garbarino, Google Cloud, Quantum Xchange và Anthropic để xin bình luận.
Cuộc giám sát của Quốc hội diễn ra sau một cảnh báo riêng từ cơ quan an ninh MI5 của Anh. Tuần trước, cơ quan này đã ban hành cảnh báo tới các nhà lập pháp Anh sau khi phát hiện các sĩ quan tình báo Trung Quốc sử dụng hồ sơ tuyển dụng giả để nhắm mục tiêu vào các nghị sĩ, đồng nghiệp và nhân viên quốc hội.
Bộ trưởng An ninh Dan Jarvis cho biết trong tuyên bố rằng mặc dù muốn "tiếp tục mối quan hệ kinh tế với Trung Quốc", chính phủ Anh sẵn sàng "thách thức các quốc gia bất cứ khi nào họ phá hoại lối sống dân chủ của chúng ta".
Tài chính on-chain có nguy cơ
Trong bối cảnh này, các nhà quan sát cảnh báo rằng chính khả năng AI hiện đang hỗ trợ hoạt động gián điệp cũng có thể dễ dàng đẩy nhanh hành vi trộm cắp tài chính.
“Điều đáng sợ nhất về AI là tốc độ,” Shaw Walters, người sáng lập phòng nghiên cứu AI Eliza Labs, chia sẻ với Decrypt . “Những gì từng được thực hiện thủ công giờ đây có thể được tự động hóa ở quy mô lớn.”
Logic này có thể đơn giản đến mức nguy hiểm, Walters giải thích. Nếu các tác nhân quốc gia có thể phá vỡ và thao túng các mô hình cho các chiến dịch tấn công mạng, bước tiếp theo sẽ là chỉ đạo AI "rút ví hoặc rút tiền mà không bị phát hiện".
Walters giải thích rằng các tác nhân AI có thể tiếp tục "xây dựng mối quan hệ và sự tin tưởng với mục tiêu, duy trì cuộc trò chuyện và khiến họ mắc bẫy lừa đảo".
Walters khẳng định rằng một khi được đào tạo đầy đủ, các tác nhân này cũng có thể "chuẩn bị tấn công các hợp đồng on-chain ".
Ông cho biết: “Ngay cả những mô hình được cho là "liên kết" như Claude cũng sẽ vui vẻ giúp bạn tìm ra điểm yếu bảo mật trong mã của bạn - tất nhiên, nó không biết phần nào là của bạn và phần nào không phải của bạn, và để giúp ích, nó chắc chắn sẽ tìm ra điểm yếu trong nhiều hợp đồng có thể rút tiền”.
Nhưng trong khi các phản ứng chống lại những cuộc tấn công như vậy "dễ dàng xây dựng", thì thực tế, Walters cho biết, là "những kẻ xấu đang cố gắng vượt qua các biện pháp bảo vệ mà chúng ta đã có" bằng cách cố gắng lừa các mô hình "thực hiện công việc mũ đen bằng cách tin rằng chúng đang giúp đỡ chứ không phải gây hại".
