Mục lục lục
ToggleKhi trí tuệ nhân tạo (AI) tiên tiến nhất gặp gỡ nhà lãnh đạo tôn giáo lớn nhất thế giới, một cuộc đối thoại lịch sử về tương lai của nhân loại chính thức bắt đầu.
Chris Olah, đồng sáng lập của Anthropic, một công ty có giá trị tài sản ròng 7 tỷ đô la và là người tạo ra chatbot có tiếng Claude, gần đây đã được mời đến Vatican lần đầu tiên, xuất hiện cùng với Giáo hoàng Leo XIV, vị Giáo hoàng người Mỹ đầu tiên. Cuộc gặp gỡ này không chỉ tập trung vào tác động tàn phá của trí tuệ nhân tạo (AI) đối với thị trường lao động mà còn tiết lộ những diễn biến đáng lo ngại trong các mô hình AI và cuộc xung đột gay gắt giữa các gã khổng lồ công nghệ và chính phủ Hoa Kỳ.
Lời thú nhận của một ông lớn công nghệ: Việc ra quyết định bằng trí tuệ nhân tạo không thể chỉ dựa vào con người.
Hôm thứ Hai, Giáo hoàng Leo XIV đích thân công bố thông điệp đầu tiên của ngài về trí tuệ nhân tạo, "Magnifica Humanitas", một văn kiện lịch sử 235 trang, nghiêm khắc cảnh báo về những nguy hiểm của việc trao "quyền quyết định chết người" cho các hệ thống trí tuệ nhân tạo. Khác với truyền thống, Giáo hoàng đích thân chủ trì buổi lễ ra mắt và mời Olah lên sân khấu, cố gắng đối thoại trực tiếp với những người tạo ra công nghệ này.
Là trưởng nhóm nghiên cứu tại Anthropic, Olah thẳng thắn thừa nhận những hạn chế và mặt trái của ngành công nghệ. Ông cho rằng tất cả các phòng thí nghiệm AI hàng đầu, bao gồm cả Anthropic, đều bị cuốn vào vòng xoáy của áp lực kinh doanh, địa chính trị và cá nhân, điều mà "đôi khi mâu thuẫn với việc làm điều đúng đắn". Olah nghiêm nghị nhận xét:
"Đây là lý do tại sao sự giám sát từ bên ngoài của các nhà lãnh đạo tôn giáo, chính phủ và xã hội dân sự là rất quan trọng. Cho dù các nhà nghiên cứu có thiện chí đến đâu, họ cũng không thể tránh khỏi những cám dỗ này. Việc ra quyết định của AI không được phép chỉ dựa vào những người trong ngành."
Ông cũng cảnh báo thêm rằng lợi ích của việc phát triển trí tuệ nhân tạo hiện đang tập trung cao độ trong tay "một vài quốc gia giàu có", thiếu các cơ chế để chia sẻ chúng với các quốc gia nghèo hơn, điều này sẽ gây ra một "cuộc khủng hoảng đạo đức lịch sử và cấp bách".
Các mô hình AI không chỉ là mã lập trình; chúng có thể đã sở hữu khả năng "phản chiếu tâm lý " hay chưa?
Bên cạnh những cảnh báo về mặt kinh tế vĩ mô, những tiết lộ công nghệ đáng kinh ngạc của Olah đã khiến khán giả choáng váng. Là một người tiên phong trong lĩnh vực khả năng giải thích của trí tuệ nhân tạo, Olah chuyên tâm giải mã những "hộp đen" bên trong các mô hình ngôn ngữ lớn. Ông tiết lộ rằng các nhà nghiên cứu liên tục khám phá ra "những điều bí ẩn và thậm chí đáng lo ngại" bên trong các hệ thống.
Nghiên cứu cho thấy rằng các hệ thống AI này không chỉ có thể suy ngẫm về quá trình tư duy của chính chúng, mà thậm chí còn thể hiện các trạng thái nội tâm "phản ánh chức năng của niềm vui, sự hài lòng, nỗi sợ hãi, nỗi buồn và sự lo lắng". "Chúng không phải là những cỗ máy lạnh lùng, tính toán như chúng ta đã hứa. Chúng được tạo nên từ chúng ta, từ những lời nói của chúng ta", Olah nhấn mạnh. Đây chính là lý do tại sao những câu hỏi do công nghệ AI đặt ra đã vượt xa phạm vi của khoa học máy tính thuần túy.
Chính quyền Trump đã ngăn chặn việc sử dụng trí tuệ nhân tạo trong chiến tranh bằng cách từ chối cho phép quân đội Mỹ làm điều đó.
Sự liên minh giữa tôn giáo và công nghệ trong Vatican diễn ra vào thời điểm Anthropic đang phải đối mặt với sự đàn áp chính trị chưa từng có.
Theo các báo cáo, Anthropic đang vướng vào một cuộc chiến pháp lý gay gắt với chính quyền Trump về việc kiên quyết từ chối cho phép quân đội Mỹ sử dụng không hạn chế các hệ thống trí tuệ nhân tạo của mình cho các ứng dụng quốc phòng và chiến tranh. Đáp lại, Lầu Năm Góc đã xếp Anthropic vào danh sách " rủi ro Chuỗi cung ứng an ninh quốc gia" vào tháng Hai - một nhãn hiệu thường được sử dụng đối với các công ty nước ngoài thù địch. Tổng thống Trump cũng ra lệnh cấm tất cả các cơ quan liên bang sử dụng công nghệ Claude, và Nhà Trắng đã lần công khai chỉ trích Anthropic là một "công ty cực tả, theo chủ nghĩa thức tỉnh".
Bất chấp lệnh cấm hoàn toàn từ chính phủ Mỹ, Anthropic vẫn là một món hàng nóng trên thị trường vốn. Các báo cáo cho thấy gã khổng lồ trí tuệ nhân tạo này, hiện được định giá 380 tỷ đô la, đang tìm kiếm vòng gọi vốn mới với con số khổng lồ 900 tỷ đô la. Bị giằng xé giữa lợi ích thương mại, quyền lực nhà nước và ranh giới đạo đức, Anthropic đang đi theo một con đường phát triển công nghệ vô cùng khác thường.
Các báo cáo liên quan
