Vitalik sợ AGI và ASI: Con người nên ưu tiên các công cụ nâng cao trí tuệ thay vì để AI thay thế con người

Vitalik Buterin, đồng sáng lập Ethereum, đã chia sẻ quan điểm độc đáo về AGI (Trí tuệ nhân tạo tổng quát) và ASI (Trí tuệ nhân tạo siêu việt) trên Twitter, nhấn mạnh rằng nên tập trung vào các công cụ AI, thay vì theo đuổi sự phát triển của các thực thể sống siêu thông minh và thay thế con người, ông rất lo ngại về sự phát triển quá mức của AGI và ASI.

AGI là Trí tuệ nhân tạo có thể duy trì nền văn minh độc lập

Vitalik định nghĩa AGI là một loại AI rất mạnh mẽ. Ông nói rằng nếu tất cả con người đột nhiên biến mất và AI này được lắp đặt vào các robot, nó có thể hoạt động độc lập và duy trì sự phát triển của toàn bộ nền văn minh. Ông bổ sung rằng khái niệm này sẽ nâng cấp từ "tính công cụ" truyền thống của AI thành một "hình thức sống tự duy trì".

Vitalik chỉ ra rằng hiện tại không có công nghệ nào có thể mô phỏng được tình huống như vậy, chúng ta không thể thực sự kiểm tra xem AI có thể duy trì nền văn minh mà không có con người hay không, và việc xác định tiêu chuẩn "sự phát triển của nền văn minh" cũng rất phức tạp, nhưng đây có thể là nguồn gốc chính để phân biệt AGI với AI thông thường.

(Lưu ý: Hình thức sống tự duy trì, có nghĩa là một thực thể hoặc hệ thống sống có thể tự lấy và sử dụng các nguồn lực để duy trì hoạt động sống, thích ứng với sự thay đổi của môi trường, và tồn tại trong một số điều kiện nhất định.)

Nhấn mạnh tầm quan trọng của các công cụ trợ giúp thông minh, không phải để AI thay thế con người

Vitalik định nghĩa Trí tuệ nhân tạo siêu việt (ASI) là khi sự tiến bộ của AI vượt qua giá trị mà sự tham gia của con người có thể cung cấp, và đạt đến giai đoạn hoàn toàn tự chủ và hiệu quả hơn. Ông đưa ra ví dụ về cờ vua, chỉ trong vòng 10 năm gần đây mới thực sự bước vào giai đoạn này, khi trình độ của AI đã vượt qua mức tối ưu đạt được khi con người và AI hợp tác, và thừa nhận rằng ASI khiến ông cảm thấy sợ hãi vì nó có nghĩa là con người có thể thực sự mất kiểm soát AI.

Vitalik nói rằng thay vì phát triển các thực thể sống siêu thông minh, nên tập trung vào việc phát triển các công cụ có thể tăng cường trí tuệ và khả năng của con người. Ông tin rằng AI nên hỗ trợ con người, chứ không phải thay thế con người. Ông cho rằng hướng phát triển này có thể giảm rủi ro mất kiểm soát AI, đồng thời nâng cao hiệu quả và ổn định của toàn xã hội.

(Đe dọa thất nghiệp do AI sinh ra: Công nhân Amazon sẽ bị thay thế hoàn toàn bởi đội quân máy móc?)