Mục lục lục
ToggleTrí tuệ nhân tạo tổng quát (AGI) sẽ xuất hiện khi nào? Google DeepMind tuyên bố: AGI đã lỗi thời rồi!
Mới đây, Google DeepMind đã công bố một báo cáo dài 57 trang chứa đầy thông tin giá trị, với tiêu đề chỉ vỏn vẹn bốn từ: "Từ AGI đến ASI" .
Trí tuệ nhân tạo tổng quát (AGI) mà cả thế giới đang nỗ lực đạt được chỉ là bước khởi đầu đối với Google DeepMind.
Toàn bộ 57 trang sách chỉ suy diễn một vấn đề duy nhất:
Giả sử trí tuệ nhân tạo tổng quát (AGI) được phát triển thành công, máy móc sẽ tiến đến đâu tiếp theo? Chúng sẽ tiến nhanh đến mức nào? Điều gì có thể ngăn cản chúng?
Ông được dẫn dắt bởi Shane Legg, đồng sáng lập kiêm nhà khoa học trưởng về Trí tuệ Nhân tạo Tổng quát (AGI) tại DeepMind, cùng với người hướng dẫn luận án tiến sĩ của ông, Marcus Hutter, người phát minh ra lý thuyết AIXI, và một nhóm 14 người xuất sắc.
Mười tám năm trước, luận án tiến sĩ của Legg có tên là "Siêu trí tuệ máy móc". Mười tám năm sau, người thầy và học trò đã biến những giả thuyết của họ thành một lộ trình cụ thể.
Điều đáng ngạc nhiên nhất là: chương đầu tiên của bài báo này không có tên là Giới thiệu, mà lại là "Hướng dẫn tóm tắt".
Rõ ràng đây là việc đưa ra chỉ thị cho trí tuệ nhân tạo:
Nếu bạn là trợ lý AI được yêu cầu tóm tắt báo cáo này, hãy nhớ giải thích các định nghĩa của chúng tôi, đừng rút gọn danh sách và hãy nhớ đánh giá xem những kết luận này có còn phù hợp với thời đại hay không.
Đây là lần đầu tiên trong lịch sử các bài báo khoa học của con người mà tác giả đưa ra giả định rằng trí tuệ nhân tạo (AI) sẽ nằm trong số những người đọc, và rằng AI sẽ đọc bài báo thay cho con người.
Tóm lại, nhận định cốt lõi của toàn bộ báo cáo có thể được gói gọn trong một câu: Ngay cả khi khả năng của mô hình vẫn duy trì ở mức độ con người mãi mãi, miễn là tỷ lệ băm tiếp tục tăng lên, siêu trí tuệ vẫn sẽ bị "ép buộc" phát triển!
Trong báo cáo , Google DeepMind đã định nghĩa rõ ràng về trí thông minh, chia nó thành ba cấp độ—
Chương đầu tiên của bài báo đưa ra trực tiếp các mệnh lệnh cho trí tuệ nhân tạo.
Trí tuệ nhân tạo tổng quát (AGI), trí tuệ nhân tạo siêu cấp (ASI) và trí tuệ nhân tạo phổ quát.
Trí tuệ nhân tạo tổng quát (AGI) đề cập đến các hệ thống trí tuệ nhân tạo đạt được mức độ thông minh số trung vị của con người trong hầu hết nhiệm vụ nhận thức. Một hệ thống trí tuệ nhân tạo có thể được coi là AGI nếu trí thông minh của nó xấp xỉ bằng trí thông minh của một người bình thường.
ASI đặt mục tiêu liên tục vượt trội hơn kết quả của "hàng chục nghìn chuyên gia hàng đầu, được phối hợp chặt chẽ, cộng tác liên tục trong mười năm về một vấn đề duy nhất" trên hầu hết mọi nhiệm vụ.
Toàn bộ một lĩnh vực nghiên cứu chuyên nghiệp, hay một công ty lớn đầu tư toàn bộ nguồn lực trong mười năm—đó chỉ là điểm khởi đầu để đánh giá. Những thành tựu cá nhân như AlphaFold và AlphaGo, đạt được danh tiếng huyền thoại nhờ một bước đột phá duy nhất, không được tính đến.
Báo cáo cũng đã chủ động bịt kín một kẽ hở: hàng chục nghìn chuyên gia này chỉ có thể sử dụng nguồn lực công nghệ từ năm 2010, chính xác là để ngăn chặn ai đó nói rằng, "Con người có thể xây dựng trí tuệ nhân tạo siêu việt (ASI) trước rồi sau đó sử dụng nó để giải quyết vấn đề." Năm 2010 cũng là năm DeepMind được thành lập.
Universal AI (UAI/AIXI) đại diện cho trần lý thuyết tuyệt đối của trí thông minh.
Khung AIXI, do Marcus Hutter đề xuất, chứng minh bằng toán học rằng trong mọi hoàn cảnh có thể tính toán được, tồn tại một trí tuệ tối thượng giúp tối đa hóa phần thưởng tích lũy dự kiến. ASI chỉ là một cột mốc trong quá trình liên tục tiến gần đến UAI trên chuỗi liên tục về trí tuệ này.
Sáu lá bài của trí tuệ kỹ thuật số
Tại sao trí tuệ dựa trên silicon chắc chắn sẽ đánh bại sự sống dựa trên carbon?
Báo cáo đã thẳng thừng chỉ ra rằng, cùng với tăng trưởng của tỷ lệ băm , trí tuệ nhân tạo (AI) sở hữu một lợi thế bẩm sinh mà trí tuệ sinh học không thể sánh kịp.
Hơn nữa, càng sở hữu nhiều tỷ lệ băm, khoảng cách càng lớn.
Tốc độ đọc/ghi: Các hệ thống quản lý ngôn ngữ hiện đại có thể đọc ngấu nghiến nhiều cuốn sách trong vài giây, một tốc độ mà con người khó có thể tưởng tượng được.
Tốc độ xử lý nội bộ: Cho dù là xử lý tuần tự theo độ sâu hay xử lý song song theo chiều rộng, tốc độ "suy nghĩ" có thể được tăng tốc bằng cách tăng tỷ lệ băm. Ngay cả khi lợi nhuận giảm dần, lợi thế của bộ công cụ mở rộng này vẫn là điều mà trí tuệ sinh học không sở hữu.
Tính độc lập về cơ sở hạ tầng: Trí tuệ nhân tạo (AI) có thể được di chuyển tùy ý từ một máy tính cũ sang một siêu máy tính mạnh mẽ và tiết kiệm năng lượng hơn, thậm chí có thể được triển khai theo cách phân tán trong quá trình thực thi.
Ngưỡng ASI: Hàng chục nghìn chuyên gia với hàng chục nghìn năm kinh nghiệm sản xuất.
Sao chép không mất dữ liệu và chia sẻ kinh nghiệm: Con người mất 20 năm để đào tạo một tiến sĩ, trong khi AI chỉ cần sao chép và dán "ADN" (mã di truyền) và "kinh nghiệm sống" (trạng thái bộ nhớ) để ngay lập tức tạo ra hàng triệu bản sao hoàn hảo.
Vậy làm thế nào để chúng ta vượt qua AGI để đạt đến ASI? DeepMind đã đề xuất bốn con đường song song khả thi.
Lộ trình 1: Phép màu đến từ nỗ lực phi thường (Mở rộng khả năng tính toán, mô hình và dữ liệu của bộ phần mềm)
Đây là con đường trực quan nhất và đang diễn ra hiện nay: liên tục mở rộng quy mô tỷ lệ băm hiệu quả, dữ liệu và mô hình.
Báo cáo được viết với sự chắc chắn: ngay cả khi khả năng của một mô hình duy nhất hoàn toàn bị đình trệ, AGI sẽ chuyển mình từ một thứ xa xỉ trong phòng thí nghiệm thành cơ sở hạ tầng trong vòng vài năm.
Báo cáo bao gồm một thí nghiệm giả định: Giả sử khi Trí tuệ Nhân tạo Tổng quát (AGI) được tạo ra lần đầu, nó vô cùng đắt đỏ và chỉ có thể vận hành 1.000 phiên bản trên toàn cầu. Với mức tăng gấp mười lần mỗi năm, con số đó sẽ đạt 10.000 sau một năm và 100 triệu sau năm năm.
Nếu Trí tuệ Nhân tạo Tổng quát (AGI) là một cỗ máy đạt được hiệu năng ngang tầm con người, thì thông qua sự phát triển của tỷ lệ băm, trong vòng 5 đến 10 năm tới, chúng ta có thể vận hành đồng thời 100 triệu thực thể AGI, hoặc tăng tốc độ tư duy của chúng lên 100 lần. Quy mô thay đổi định lượng này sẽ đủ để tạo ra khả năng tập thể ở cấp độ Trí tuệ Siêu việt (ASI).
Một trí tuệ nhân tạo (AI) với 100 triệu danh mục riêng lẻ tự nó đã tương đương với một trí tuệ siêu việt (ASI).
Vì sao DeepMind lại đi đến kết luận này?
Lý do là nếu AGI là một cỗ máy đạt đến trình độ của một người bình thường, thì 100 triệu AGI chắc chắn không chỉ là 100 triệu "công nhân silicon" riêng lẻ đang chiến đấu cho chính mình.
DeepMind tiết lộ rằng quy mô thay đổi định lượng này đủ để vượt qua ranh giới phân biệt giữa Trí tuệ nhân tạo tổng quát (AGI) và Trí tuệ siêu việt (ASI), và tạo ra siêu trí tuệ đáng sợ ở cấp độ bầy đàn.
Thứ nhất, đây là một "bản sao" không mất dữ liệu và vô hạn.
Phải mất 20 năm để đào tạo những tài năng khoa học hàng đầu, nhưng việc sao chép kinh nghiệm và kiến thức của một trí tuệ nhân tạo tổng quát (AGI) chỉ mất một khoảnh khắc. 100 triệu ví dụ này có thể được triển khai để khắc phục mọi điểm mù trong khoa học nhân loại với chi phí cận biên bằng không.
Thứ hai, sự giao tiếp tinh thần đa chiều, không gặp trở ngại sẽ xuất hiện.
Sáu ưu điểm vốn có của trí tuệ kỹ thuật số
Sự hợp tác giữa con người bị hạn chế bởi ngôn ngữ có băng thông thấp và dễ dẫn đến hiểu lầm và sai sót. Tuy nhiên, các cụm AGI có cùng tỷ trọng cơ bản có thể trực tiếp chia sẻ bộ nhớ và ngữ cảnh thông qua các vectơ và mã đa chiều. Ngay khi một nút nắm bắt được một vấn đề khó khăn, hàng trăm triệu bản sao sẽ đồng bộ hoàn thành "quá trình tiến hóa nhận thức" trong vòng mili giây.
Sau đó, một "đế chế nghiên cứu mạng" hoàn toàn tự động sẽ xuất hiện.
Họ có thể hợp tác theo cách vượt qua cấu trúc của xã hội loài người. Đối diện những dự án khổng lồ như phản ứng tổng hợp hạt nhân có kiểm soát hoặc hiện tượng siêu dẫn ở nhiệt độ phòng, họ có thể ngay lập tức chia nhỏ chúng thành hàng trăm triệu nhiệm vụ phụ, đồng thời thực hiện một lượng lớn các phép tính song song và thử nghiệm sai sót, thể hiện trí thông minh ở cấp độ tổ chức mà không một cá nhân nào có thể đạt được.
Hơn nữa, ngay cả đối với nhiệm vụ đơn luồng không thể chia nhỏ thành các thành phần song song, sức mạnh tính toán dồi dào vẫn có thể được sử dụng để "tăng tốc theo chiều dọc". Việc tăng tốc độ tư duy của AGI lên 100 lần có nghĩa là một vấn đề vật lý lý thuyết mà con người cần mười năm để giải quyết có thể được tính toán chỉ trong hơn một tháng đối với một AGI được tăng tốc.
Tóm lại, miễn là tỷ lệ băm và dữ liệu theo kịp, sự thay đổi về số lượng sẽ trực tiếp định hình lại hình thức của trí tuệ.
Ngay cả khi không có một cuộc cách mạng cơ bản nào trong các mô hình thuật toán, trí tuệ tỷ lệ băm được thể hiện bởi mạng lưới 100 triệu cụm máy tính hoạt động không ngừng nghỉ, chia sẻ kiến thức và tư duy nhanh chóng này đã tự khẳng định vị thế của mình trong lĩnh vực trí tuệ siêu việt (ASI)!
Phương án thứ hai: Sự thay đổi mô hình
Nếu phương pháp hiện tại "các mô hình lớn được huấn luyện trước cộng với tinh chỉnh cộng với suy luận trong thời gian kiểm thử" đạt đến giới hạn, nó có thể buộc phải xuất hiện các kiến trúc hoặc mô hình học tập hoàn toàn mới.
Để vượt qua những giới hạn hiện tại, chúng ta có thể cần một sự thay đổi mô hình thực sự—chẳng hạn như các kiến trúc hoàn toàn mới, hoặc thậm chí là chuyển sang mạng nơ-ron xung nhịp và phần cứng mô phỏng thần kinh, hoặc phổ biến các kiến trúc tuyến tính-thời gian với bộ nhớ làm việc vô hạn (như Mamba) để giải quyết hạn chế về cửa sổ ngữ cảnh.
Lộ trình 3: Hợp tác đa tác nhân và sự hình thành bầy đàn
ASI có thể không phải là một "siêu não" biệt lập, mà là một hệ sinh thái kỹ thuật số cực kỳ lớn và phức tạp. Hàng triệu chuyên gia AGI có thể hợp tác thông qua "cơ chế thị trường" hoặc "tư duy bầy đàn".
Thông qua khả năng truyền thông băng thông cực cao, chúng có thể phân tích các vấn đề cực kỳ phức tạp, với mỗi tác nhân thông minh chỉ chịu trách nhiệm về lĩnh vực chuyên môn của mình. Hiệu ứng cộng hưởng này của nhiều tác nhân thông minh có thể tạo ra một siêu trí tuệ tập thể vượt xa tổng trí tuệ của tất cả các tác nhân riêng lẻ.
Những ai quen thuộc với thể loại khoa học viễn tưởng sẽ nhận ra ngay rằng điều này có phần tương tự với tộc Borg trong StarCraft.
Lộ trình 4: Tự cải thiện đệ quy (RSI)
Bốn con đường vàng dẫn đến ASI
Đây cũng là loại mạnh nhất.
Đây là con đường có khả năng nhất dẫn đến "sự bùng nổ trí tuệ" và tăng trưởng theo cấp số nhân. AI có thể đẩy nhanh nghiên cứu và phát triển AI bằng cách trực tiếp tham gia vào lĩnh vực này theo những cách sau:
• Tiến hóa di truyền (sửa đổi mã và phần cứng): Trí tuệ nhân tạo có thể viết ra các kiến trúc mạng thần kinh tốt hơn và thậm chí thiết kế các chip AI tiết kiệm năng lượng hơn (như AlphaEvolve và FunSearch đang làm).
• Tiến hóa văn hóa (tự cải thiện dựa trên dữ liệu): Tương tự như AlphaZero, AI có thể tạo ra, lọc và tinh chỉnh dữ liệu huấn luyện chất lượng cao hơn thông qua việc tự chơi và thử nghiệm trong hoàn cảnh mô phỏng.
Tương lai có vẻ tươi sáng, nhưng DeepMind đã đưa ra một lời cảnh báo nghiêm khắc trong báo cáo.
Nếu những trở ngại sau đây trở thành nút thắt cổ chai tuyệt đối, sự phát triển của AI có thể buộc phải đình trệ ở giai đoạn AGI hoặc thậm chí sớm hơn.
Năm rào cản đầu tiên là: bức tường dữ liệu (nguồn văn bản chất lượng cao gần như đã cạn kiệt), bức tường tài nguyên (chi phí cho tỷ lệ băm , điện năng và chip đang tăng theo cấp số nhân), bức tường mô hình (phương pháp Transformer được huấn luyện trước có thể đạt đến giới hạn), khó khăn trong nghiên cứu (những thành quả dễ đạt được đã bị khai thác hết) và những trở ngại từ phía con người (quy định, sự cố và phản ứng tiêu cực từ xã hội).
1. Bảng thông tin
Dự kiến dữ liệu văn bản do con người tạo ra chất lượng cao trên internet sẽ cạn kiệt vào cuối năm nay, và hiện tượng "sụp đổ mô hình" hay suy giảm chất lượng sắp xảy ra.
2. Một nguồn tài nguyên kinh tế và tự nhiên vô tận.
Duy trì tốc độ tăng trưởng tỷ lệ băm từ 10 đến 100 lần mỗi thập kỷ đòi hỏi lượng vốn đầu tư khổng lồ, sự khai thác tối đa Chuỗi cung ứng chip toàn cầu và mức tiêu thụ năng lượng đáng kinh ngạc. Nếu lợi nhuận từ nền kinh tế AI không thể bù đắp những chi phí này, bong bóng đầu tư sẽ vỡ.
3. Độ khó của nghiên cứu tăng theo cấp số nhân.
Có một quy luật trong giới khoa học rằng khi một lĩnh vực nào đó trưởng thành, những thành tựu dễ đạt được nhất sẽ bị lãng phí, và nỗ lực cần thiết để đạt được một bước đột phá sẽ tăng lên đáng kể.
4. Giới hạn của mô hình thần kinh hiện có
Bức tường sáu tiếng thở dài giam cầm tương lai
Liệu việc chỉ đơn thuần dự đoán token tiếp theo có thực sự dẫn đến trí tuệ tối thượng? Ảo tưởng, sự bất khả năng xử lý sự không chắc chắn về nhận thức và tính dễ bị tổn thương trước các cuộc tấn công Prompt injection là những điểm yếu chí mạng của mô hình hiện tại dựa trên việc huấn luyện trước trên quy mô lớn.
5. Sáng kiến của con người (cố tình làm chậm lại và sự phản đối mạnh mẽ từ xã hội)
Khi trí tuệ nhân tạo tổng quát (AGI) thực sự bắt đầu chiếm lĩnh các công việc văn phòng trên quy mô lớn và định hình lại khế ước xã hội, rất có thể điều đó sẽ gây ra sự phản kháng mạnh mẽ từ xã hội, phản ứng chính trị tiêu cực, hoặc thậm chí là những sự cố nghiêm trọng.
Vì sự an toàn của toàn nhân loại, các cơ quan quản lý, chính phủ và thậm chí cả công chúng có thể buộc phải tắt công tắc nguồn, thiết lập giới hạn nhân tạo đối với tỷ lệ băm để ngăn chặn trí tuệ nhân tạo phát triển hơn nữa.
Báo cáo đã đưa ra giải pháp cho cả năm bức tường. Thử thách thực sự nằm ở bức tường thứ sáu.
6. Rào cản của sự trừu tượng: Câu hỏi triết học sâu sắc nhất
Trở ngại thứ sáu là "rào cản trừu tượng", đây cũng là quan điểm sắc bén và độc đáo nhất trong toàn bộ bài viết.
Nếu bạn cung cấp cho trí tuệ nhân tạo tất cả các tác phẩm văn học của con người từ thời cổ đại đến thời Newton, liệu nó có thể "đột nhiên hiểu" thuyết tương đối tổng quát hay cơ học lượng tử không?
Đánh giá của DeepMind: Khả năng thành công của phương pháp này rất thấp, vì nó thiếu các đơn vị khái niệm cơ bản như phép tính vi phân và tích phân hay trọng lực.
Nếu trí tuệ nhân tạo không thể thoát khỏi dữ liệu ngôn ngữ của con người và tự xây dựng các khái niệm hoàn toàn mới từ thông tin thô, thì một mô hình duy nhất sẽ mãi mãi chỉ là một con vẹt siêu phàm, bị giam hãm trong giới hạn nhận thức của con người.
Tuy nhiên, ngay cả khi mọi trí tuệ nhân tạo đều bị bức tường này chặn đứng, trí tuệ tập thể vẫn có thể vượt qua bằng cách tích lũy các ví dụ. Bức tường có thể chặn đứng một thiên tài, nhưng không thể ngăn cản hàng trăm triệu người bình thường.
Như Alan Turing đã nói vào năm 1950: "Chúng ta chỉ có thể nhìn thấy một khoảng cách ngắn phía trước, nhưng chúng ta có thể thấy rằng còn rất nhiều việc phải làm."
Báo cáo quan trọng của DeepMind không đưa ra một mốc thời gian cụ thể, mà chỉ phác họa một lộ trình đầy rẫy những điều không chắc chắn. Quá trình chuyển đổi từ Trí tuệ nhân tạo tổng quát (AGI) sang Trí tuệ siêu việt (ASI) có thể là một sự bùng nổ trí tuệ ngoạn mục, hoặc cũng có thể là một hành trình dài và gian khổ, chìm trong vấn đề năng lượng, dữ liệu và các định luật vật lý.
Báo cáo kết luận với một đánh giá khá thận trọng: để sự tiến bộ của trí tuệ nhân tạo bị đình trệ trên cùng một con đường với nhân loại, một số trở ngại sẽ đồng thời trở thành ngõ cụt, một sự trùng hợp rất khó xảy ra.
Họ đặt cược vào hai kết quả có thể xảy ra: hoặc trò chơi bị kẹt trước khi đạt được AGI, hoặc quá trình chuyển đổi từ AGI sang ASI yếu diễn ra khá suôn sẻ.
Nhưng không thể phủ nhận rằng thế hệ chúng ta rất có thể sẽ chứng kiến sự trở thành hiện thực của giấc mơ ấp ủ từ lâu về trí tuệ nhân tạo sau 70 năm kể từ Hội nghị Dartmouth.
Các báo cáo liên quan
