Chính phủ Mỹ yêu cầu Anthropic gỡ bỏ các mô hình AI Claude Fable và Mythos.

Bài viết này được dịch máy
Xem bản gốc

Hôm thứ Sáu, chính phủ Mỹ đã ban hành chỉ thị khẩn cấp về kiểm soát xuất khẩu, yêu cầu Anthropic ngay lập tức đình chỉ quyền truy cập vào hai mô hình trí tuệ nhân tạo mạnh nhất của mình—Claude Fable 5 và Claude Mythos 5, cả hai đều được phát hành chỉ vài ngày trước đó —đối với tất cả công dân nước ngoài, bao gồm cả nhân viên của công ty, với lý do lo ngại về an ninh quốc gia.

Chỉ thị này cấm mọi công dân nước ngoài truy cập vào các mô hình, dù ở trong hay ngoài Hoa Kỳ. Phạm vi bao quát rộng lớn của lệnh này đã buộc Anthropic phải vô hiệu hóa các mô hình đối với toàn bộ khách hàng của mình để đảm bảo tuân thủ.

Bức thư không nêu rõ chi tiết cụ thể về mối lo ngại an ninh quốc gia, nhưng chính phủ tin rằng họ đã phát hiện ra một phương pháp vượt qua, hay "bẻ khóa", mô hình Fable 5 được cung cấp công khai. Mythos 5, vốn có ít biện pháp bảo vệ hơn và đặc biệt mạnh mẽ trong việc phát hiện các lỗ hổng an ninh mạng, chỉ được cung cấp cho một số đối tác được chọn.

Công ty Anthropic đã phản bác mức độ nghiêm trọng của phát hiện này. Công ty cho biết họ đã xem xét một bản trình diễn kỹ thuật này và kết luận rằng các lỗ hổng được xác định có vẻ tương đối đơn giản, và các mô hình khác có sẵn công khai cũng có thể phát hiện ra chúng mà không cần bất kỳ biện pháp vượt qua nào.

Công ty cho biết chính phủ cho đến nay chỉ cung cấp bằng chứng bằng lời nói về khả năng bẻ khóa hạn chế, không phổ quát – về cơ bản chỉ bao gồm việc yêu cầu mô hình đọc một mã nguồn cụ thể và sửa chữa bất kỳ lỗi phần mềm nào. Anthropic nói thêm rằng họ đã xác nhận mức độ khả năng được thể hiện đã có sẵn rộng rãi từ các mô hình cạnh tranh, bao gồm cả GPT-5.5 của OpenAI.

Mặc dù tuân thủ chỉ thị, Anthropic cho biết họ tin rằng hành động này tạo ra một tiền lệ nguy hiểm. "Nếu tiêu chuẩn này được áp dụng trên toàn ngành," công ty viết, "chúng tôi tin rằng về cơ bản nó sẽ làm đình trệ tất cả các triển khai mô hình mới cho tất cả các nhà cung cấp mô hình tiên tiến."

Việc truy cập vào tất cả các mẫu Anthropic khác sẽ không bị ảnh hưởng. Công ty cho biết họ đang nỗ lực khôi phục quyền truy cập sớm nhất có thể.

Hôm thứ Bảy, David Sacks—đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống— đã viết trên X rằng “một đối tác rất đáng tin cậy của cả Anthropic và chính phủ Hoa Kỳ, người đang thử nghiệm Fable, đã tìm ra cách phá vỡ các rào cản bảo mật đó. Quản trị viên đã yêu cầu [CEO của Anthropic, Dario Amodei] sửa lỗi hoặc gỡ bỏ mô hình. Dario đã từ chối.”

Sacks còn khẳng định rằng phản ứng của Anthropic trước yêu cầu của chính phủ đi ngược lại với những tuyên bố công khai của chính công ty về sự cần thiết phải đảm bảo an toàn và quản lý AI - một quan điểm mà Amodei cũng đã chia sẻ trong một bài đăng trên blog tuần này .

“Anthropic ưu tiên việc tiếp tục cung cấp mô hình tiêu dùng hơn là sự an toàn,” Sacks viết. “Để phản ứng lại, chính quyền đã ban hành lệnh kiểm soát xuất khẩu. Chính quyền đã làm điều này một cách miễn cưỡng. Thật đáng ngạc nhiên khi Anthropic không muốn hợp tác với một yêu cầu an toàn hợp lý (ví dụ như khắc phục sự cố bẻ khóa thiết bị). Phản ứng của Anthropic hoàn toàn trái ngược với thương hiệu và đạo đức của họ với tư cách là một cộng đồng nghiên cứu AI an toàn.”

Sacks nói thêm rằng chính quyền hy vọng Anthropic sẽ khắc phục sự cố và Fable 5 có thể được phát hành rộng rãi trở lại.

“Ban quản trị đánh giá cao năng lực kỹ thuật của Anthropic và cảm thấy rằng vấn đề này, dù nghiêm trọng, nhưng có thể dễ dàng giải quyết,” ông viết. “Trách nhiệm giờ thuộc về Anthropic.”

Đầu năm nay, Anthropic và chính phủ Mỹ đã xảy ra mâu thuẫn khi công ty trí tuệ nhân tạo này từ chối ký một thỏa thuận mở rộng cho phép giám sát quy mô lớn người dân Mỹ trong nước và các hệ thống vũ khí tự động gây chết người hoàn toàn.

Tổng thống Donald Trump đã chỉ trích mạnh mẽ công ty này sau khi các cuộc đàm phán đổ vỡ, và Bộ Quốc phòng đã gắn mác Anthropic là "rủi ro chuỗi cung ứng" - một nhận định mà công ty đã kiện ra tòa . Kể từ đó, có những báo cáo cho rằng sự bế tắc giữa hai bên đã dịu bớt khi chính phủ tìm cách sử dụng robot Claude Mythos và các mẫu robot khác.

Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
60
Thêm vào Yêu thích
10
Bình luận