Tranh cãi về sự an toàn của người mẫu thử nghiệm nâng cấp: Amazon bị cáo buộc là "kẻ chủ mưu" và đang thúc đẩy sự can thiệp của cơ quan quản lý.

Bài viết này được dịch máy
Xem bản gốc

Theo một báo cáo của tờ The TechFlow Street Journal ngày 14 tháng 6, các biện pháp kiểm soát xuất khẩu và hạn chế truy cập của chính phủ Mỹ đối với mô hình Anthropic Fable 5 / Mythos 5 một phần là do nghiên cứu an ninh mạng của Amazon và các cuộc trao đổi giữa Giám đốc điều hành AWS Andy Jassy và Nhà Trắng.

Theo các báo cáo, một nghiên cứu do Amazon đệ trình cho thấy rằng thông qua sê-ri các bài kiểm tra từ khóa gợi ý, các nhà nghiên cứu đã có thể khiến Fable 5 xuất ra thông tin nhạy cảm có thể được sử dụng cho các cuộc tấn công mạng, làm dấy lên những lo ngại về an ninh. Sau đó, Andy García đã báo cáo những phát hiện này cho chính phủ Hoa Kỳ, thúc đẩy Nhà Trắng phải đưa ra các biện pháp hạn chế hơn nữa, bao gồm cấm người dùng nước ngoài truy cập vào mô hình này.

Anthropic đã bác bỏ tuyên bố của chính phủ rằng vấn đề này là một "lỗ hổng bẻ khóa", cho rằng các lỗ hổng tương tự có thể xảy ra trong các mô hình khác được công khai, bao gồm cả GPT 5.5. Một số nhà nghiên cứu bảo mật cũng ủng hộ quan điểm này, cho rằng vấn đề này gần giống với "dấu hiệu của rủi ro tấn công chèn mã" hơn là một lỗ hổng nghiêm trọng trong mô hình.

Theo bà Kate Curran, cựu quan chức Bộ Thương mại Hoa Kỳ, lập trường chính sách hiện tại của Nhà Trắng đối với Anthropic cũng có thể đã ảnh hưởng đến quyết định lần, vì Anthropic không đồng ý với Nhà Trắng về ranh giới an toàn của trí tuệ nhân tạo, bao gồm việc từ chối sử dụng các mô hình của họ cho mục đích giám sát hàng loạt hoặc hệ thống vũ khí tự động gây chết người. Mặc dù hai bên đã giảm bớt căng thẳng và mở rộng hợp tác vào đầu năm nay, nhưng sự việc lần có thể lại làm leo thang căng thẳng.

Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
52
Thêm vào Yêu thích
12
Bình luận