Tôi vừa đọc xong bài báo mới nhất của Google về Trí tuệ Nhân tạo Tổng quát (AGI), và quan điểm của nó táo bạo và đậm chất tiền điện tử đến mức tôi gần như cảm thấy mình đang đọc bản cáo bạch của một dự án tiền điện tử. Tôi xin tóm tắt một số điểm chính: 1. AGI cuối cùng sẽ là một tổ chức tự trị phi tập trung (DAO), chứ không phải là một CEO. Chúng ta thường mơ tưởng về việc thức dậy một buổi sáng và thấy một vị thần toàn năng như GPT-10. Tuy nhiên, bài báo chỉ ra rằng AGI trong tương lai có khả năng sẽ phi tập trung. Cũng giống như không một người nào trong một công ty giỏi mọi thứ, AGI sẽ là một mạng lưới gồm nhiều "tác nhân chuyên biệt" bổ sung cho nhau. Mạng lưới này không có một điểm trung tâm duy nhất, và siêu trí tuệ xuất hiện từ sự giao dịch và hợp tác mạnh mẽ giữa các tác nhân. Nói cách khác, AGI không phải là một thực thể duy nhất, mà là một loại "nhà nước thị trường". 2. Quản trị của AGI nên dựa vào "hợp đồng thông minh", chứ không phải "luật pháp". Khi các mô hình phát triển từ cấu trúc đơn lẻ sang cấu trúc thị trường, mô hình an toàn cũng phải chuyển từ "tâm lý học" sang "nghiên cứu quản trị". Trước đây, an toàn AI là vấn đề điều chỉnh một bộ não khổng lồ duy nhất. Tuy nhiên, sự giám sát của con người là bất lực trong các tương tác tần suất cao xảy ra hàng trăm triệu lần mỗi giây. Do đó, việc giới thiệu hợp đồng thông minh là rất cần thiết. Khi một tác nhân hoàn thành một nhiệm vụ, một oracle sẽ xác minh kết quả và tự động thực hiện thanh toán. "Mã code trở thành luật", và nếu các ràng buộc an toàn không được đáp ứng, dòng tiền sẽ bị chặn. 3. Giới thiệu "Staking" và "Slashing" Làm thế nào chúng ta có thể ngăn chặn các tác nhân độc hại? Nhóm nghiên cứu đã bất ngờ sao chép cơ chế Proof-of-Stake (PoS). Nếu một tác nhân muốn đặt một đơn hàng lớn, trước tiên nó phải stake tài sản của mình. Nếu hoạt động độc hại được phát hiện trong quá trình kiểm toán, hợp đồng thông minh sẽ ngay lập tức slashing tài sản thế chấp. Niềm tin dựa trên tài sản thế chấp kinh tế này hiệu quả hơn nhiều so với việc chỉ đơn giản là xem xét mã code. 4. Xác thực danh tính trên chuỗi (DID) và Quy định phí Gas DID: Để ngăn chặn các cuộc tấn công Sybil, mỗi tác nhân phải có một danh tính duy nhất dựa trên mật mã khóa công khai, được liên kết với một thực thể pháp lý. Phí Gas Động: Để ngăn chặn việc lây nhiễm dữ liệu spam, chúng tôi đề xuất tính phí động cho các hoạt động của tác nhân. Điều này phản ánh sát với cơ chế điều chỉnh phí gas được sử dụng trên mạng Ethereum trong thời gian tắc nghẽn. 5. Bản ghi trên chuỗi: Tất cả các quyết định và lịch sử giao dịch phải được ghi lại trong sổ cái chỉ thêm, bất biến và được bảo mật bằng mật mã. Điều này cho phép phân tích pháp y trong trường hợp hệ thống gặp sự cố và đảm bảo rằng không ai có thể trốn tránh trách nhiệm. Bài báo này thể hiện một sự thay đổi mô hình trong bảo mật AI. Nói cách khác, nó mở rộng ra ngoài khoa học máy tính đơn giản và sự phù hợp về giá trị sang lĩnh vực kinh tế và lý thuyết trò chơi. Việc ngành công nghiệp tiền điện tử khám phá mạnh mẽ các DID, hợp đồng thông minh, oracle, mô hình kinh tế và cơ chế quản trị trong thập kỷ qua, bất kể mức độ trưởng thành của chúng, đều thể hiện ít nhất một vài bước tiến. Và những bước này thậm chí có thể đặt nền móng cho một dạng sống dựa trên silicon, phi tập trung, quy mô lớn trong tương lai. Các chuyên gia bảo mật AGI trong tương lai có thể sẽ gần gũi hơn với "các nhà kinh tế AI" hiểu về lý thuyết trò chơi, thiết kế thị trường và quản trị phi tập trung hơn là các kỹ sư viết mã. Nhiệm vụ cơ bản của chúng ta không chỉ đơn thuần là sửa đổi các tế bào thần kinh của mô hình khổng lồ này, mà còn là thiết kế các mô hình đồng thuận, khuyến khích và quản trị của loài mới này. Do lượng thông tin trong bài báo rất lớn, đoạn trên chỉ là một phần trích dẫn. Những người quan tâm được khuyến khích đọc văn bản gốc.

Bài báo này đã phá vỡ được rào cản giữa công nghệ, kinh tế và lý thuyết trò chơi nhờ vào một nhóm các "chiến binh lục giác" hàng đầu trong lĩnh vực của họ. Tác giả chính Nenad Tomašev: Nhà khoa học trưởng cấp cao tại DeepMind. Là một chuyên gia đa ngành thực thụ, ông đã tham gia nghiên cứu AI trò chơi liên quan đến AlphaZero và là tác giả chính của "Nền kinh tế tác nhân ảo" (mà chúng tôi đã đề cập chi tiết trước đây). Nói cách khác, đây là một mô hình quản trị thị trường AI được thiết kế bởi một người hiểu rõ "lý thuyết trò chơi" từ kinh nghiệm thực tế. Tác giả trung tâm Simon Osindero: Là học trò của cha đẻ của AI, Geoffrey Hinton, và là người đồng phát minh ra mạng nơ-ron niềm tin sâu (DBN), ông là một nhân vật hàng đầu với hơn 57.000 trích dẫn. Sự tham gia của ông đảm bảo toàn bộ lý thuyết có tính chặt chẽ tuyệt đối, ngay cả trong các khía cạnh kỹ thuật cơ bản. Ban cố vấn chính sách và kinh tế: Bao gồm Sébastien Krier, Giám đốc Chính sách AGI của DeepMind (Thiết kế Hiến pháp và Quy định); Julian Jacobs, nhà kinh tế chính trị tại Đại học Oxford; và Matija Franklin, chuyên gia về đạo đức trí tuệ nhân tạo tại Cambridge/UCL. Đây không chỉ là một bài báo học thuật. Nó là một dạng **'phương pháp định hướng cho tương lai** của Trí tuệ Nhân tạo Tổng quát (AGI), một nỗ lực chung của các nhà nghiên cứu cấp cao tại Google DeepMind. x.com/chaowxyz/status/20025827...…

Bài báo đầy đủ An toàn AGI phân phối

Bản dịch tiếng Hàn blog.naver.com/ryogan/22411785...…