Cuộc thảo luận giữa Giám đốc điều hành Anthropic, Dario Amodei, và Giám đốc điều hành JPMorgan Chase, Jamie Dimon, hôm thứ Ba tập trung vào mối đe dọa an ninh mạng ngày càng gia tăng do trí tuệ nhân tạo gây ra, vì trí tuệ nhân tạo phát hiện ra các lỗ hổng nhanh hơn khả năng khắc phục của các tổ chức.
Trong sự kiện kéo dài gần hai giờ đồng hồ, gắn liền với nỗ lực mở rộng sang lĩnh vực dịch vụ tài chính của Anthropic, nơi công ty này giới thiệu các tác nhân AI cho các nhiệm vụ như lập bản thuyết trình, xem xét báo cáo thu nhập và công tác tuân thủ, Amodei cho biết có thể sẽ cần từ sáu đến mười hai tháng để khắc phục hàng chục nghìn lỗi được phát hiện bởi mô hình Mythos của công ty trước khi các khả năng tương tự được sử dụng rộng rãi hơn.
“Mối nguy hiểm nằm ở chỗ số lượng lỗ hổng bảo mật, số vụ xâm phạm và thiệt hại tài chính do mã độc Mã độc tống tiền gây ra cho trường học, bệnh viện, chưa kể đến các ngân hàng, đang gia tăng một cách đáng kể”, Amodei nói.
Những tuyên bố mới nhất của Amodei được đưa ra sau các thử nghiệm trước đó với Mozilla, khi một phiên bản đầu tiên của Mythos đã xác định được 271 lỗ hổng trong trình duyệt Firefox chỉ trong một lần quét, cho thấy trí tuệ nhân tạo có thể quét các cơ sở mã lớn nhanh hơn nhiều so với các nhà nghiên cứu con người.
Anthropic cho biết mô hình này có thể phát hiện hàng ngàn điểm yếu chưa từng được biết đến trước đây trong các phần mềm được sử dụng rộng rãi. Nhiều điểm yếu vẫn chưa được tiết lộ vì chúng chưa được vá lỗi, dẫn đến các lỗ hổng chưa được khắc phục.
“Nếu chúng ta công bố điều gì đó mà chưa khắc phục được vấn đề, thì những kẻ xấu sẽ lợi dụng điều đó,” Amodei nói.
Trong các thử nghiệm có kiểm soát, Mythos đã hoàn thành các mô phỏng tấn công mạng nhiều bước mà không cần sự can thiệp của con người, chứng minh khả năng chuyển từ việc xác định điểm yếu sang khai thác chúng.
Anthropic đã giới hạn mô hình này cho một nhóm nhỏ các đối tác trong khuôn khổ Dự án Glasswing, với mục tiêu khắc phục các lỗ hổng trước khi các công cụ tương tự được sử dụng rộng rãi.
Các nhà nghiên cứu đã chỉ ra rằng một số yếu tố trong khả năng của Mythos có thể được tái tạo bằng cách sử dụng các mô hình hiện có và các kỹ thuật mã nguồn mở, cho thấy các công cụ tương tự có thể lan rộng nhanh hơn dự kiến.
Những cảnh báo này đã gây ra sự hoài nghi từ chính nội bộ ngành công nghiệp. Vào tháng 4, Giám đốc điều hành của OpenAI, Sam Altman, cho rằng những lo ngại về Mythos có thể bị phóng đại và gợi ý rằng Anthropic đang sử dụng " tiếp thị dựa trên nỗi sợ hãi " để định hình các rủi ro và biện minh cho việc hạn chế quyền truy cập vào công nghệ này.
“Bạn có thể biện minh cho điều đó bằng nhiều cách khác nhau, và một số trong đó là có thật, chẳng hạn như sẽ có những lo ngại chính đáng về an toàn,” Altman nói. “Nhưng nếu điều bạn muốn là ‘chúng ta cần kiểm soát AI, chỉ riêng chúng ta thôi, vì chúng ta là những người đáng tin cậy,’ thì tôi nghĩ tiếp thị dựa trên nỗi sợ hãi có lẽ là cách hiệu quả nhất để biện minh cho điều đó.”
Bất chấp những phản đối đó, và cả cuộc tranh chấp công khai với Anthropic, chính phủ Mỹ được cho là đang sử dụng Claude Mythos để quét các mạng lưới mật nhằm tìm kiếm lỗ hổng và kiểm tra khả năng an ninh mạng của mình, theo Axios . Mặc dù không đề cập đến cuộc chiến pháp lý đang diễn ra, Amodei nói rằng Anthropic "rất có lợi cho đất nước này".
“Tôi nghĩ quan điểm của Anthropic vẫn như cũ. Về vấn đề chính trị hóa, đây là điểm tôi đã nêu ra về việc cần phải đơn giản hóa, có hệ thống và công bằng với tất cả mọi người,” Amodei nói. “Mục đích của luật pháp và việc không làm mọi thứ một cách tùy tiện là để tất cả các công ty, ít nhất là về nguyên tắc—tôi biết trên thực tế thì phức tạp hơn—được đối xử như nhau, và chúng ta nên hướng tới điều đó ngay cả khi điều đó không bao giờ xảy ra một cách hoàn hảo.”
Amodei nhấn mạnh đây là một khoảng thời gian ngắn để hành động, cảnh báo rằng tốc độ phản ứng của các tổ chức có thể quyết định liệu rủi ro sẽ leo thang hay được kiểm soát.
“Đây là thời điểm nguy hiểm, nếu chúng ta phản ứng đúng đắn, và tôi nghĩ chúng ta đã bắt đầu những bước đầu tiên, thì chúng ta có thể có một thế giới tốt đẹp hơn ở phía bên kia,” Amodei nói. “Chỉ có một số lượng lỗi nhất định cần tìm.”
