Trong lĩnh vực trí tuệ nhân tạo, sự giao thoa giữa đức tin và công nghệ đã tạo ra cuộc tranh luận gay gắt xung quanh giá trị pháp lý và sự phát triển trong tương lai của “quy luật mở rộng”. Bài viết này tìm hiểu sự trỗi dậy, những khác biệt và tác động có thể có của “tôn giáo cay đắng” này, hé lộ mối quan hệ phức tạp giữa đức tin và khoa học. Cộng đồng trí tuệ nhân tạo đang bị mắc kẹt trong một cuộc chiến mang tính học thuyết về tương lai của nó và liệu nó có đủ lớn để tạo ra một vị thần hay không. Bài viết này bắt nguồn từ một bài viết của Mario Gabriele, do Block Unicorn tổ chức và biên soạn.
(Tin tức sơ bộ: xAI của Musk đã hoàn thành khoản tài trợ Series C trị giá 6 tỷ USD, với sự tham gia của Huida, BlackRock, a16z... và một số gã khổng lồ trong ngành )
(Bổ sung bối cảnh: Huida sẽ ra mắt nền tảng điện toán robot hình người "Jetson Thor" vào năm tới. Thời điểm ChatGPT cho AI vật lý có sắp đến không? )
Cuộc thập tự chinh trí tuệ nhân tạo
Tôi thà sống cuộc đời mình như thể có Chúa và đợi đến khi chết mới phát hiện ra rằng Chúa không tồn tại, còn hơn là sống như thể không có Chúa và đợi đến khi chết mới phát hiện ra rằng Chúa có tồn tại. --- Blaise Pascal
Tôn giáo là một điều buồn cười. Có lẽ bởi vì nó hoàn toàn không thể chứng minh được theo bất kỳ hướng nào, hoặc có thể nó giống như câu nói yêu thích của tôi: "Bạn không thể đấu tranh chống lại cảm xúc bằng sự thật."
Đặc điểm của niềm tin tôn giáo là trong quá trình tăng của chúng, chúng tăng tốc với tốc độ đáng kinh ngạc đến mức gần như không thể nghi ngờ về sự tồn tại của Chúa. Làm sao bạn có thể nghi ngờ một đấng thiêng liêng khi mọi người xung quanh bạn ngày càng tin vào điều đó? Khi thế giới tự sắp xếp lại xung quanh một học thuyết, đâu là chỗ cho tà giáo? Khi các đền chùa, thánh đường, luật pháp và quy tắc được sắp xếp theo một phúc âm mới, không thể lay chuyển, thì đâu là chỗ cho sự phản đối?
Khi các tôn giáo bắt nguồn từ Áp-ra-ham lần đầu tiên xuất hiện và lan rộng khắp các châu lục, hoặc khi Phật giáo lan truyền từ Ấn Độ sang khắp châu Á, động lực tuyệt đối của đức tin đã tạo ra một chu kỳ tự củng cố. Khi ngày càng nhiều người cải đạo, các nền thần học và nghi lễ phức tạp được xây dựng xung quanh những niềm tin này, việc đặt câu hỏi về những tiền đề cơ bản này ngày càng trở nên khó khăn hơn. Không dễ để trở thành một kẻ dị giáo trong biển cả tin. Những nhà thờ tráng lệ, những văn bản tôn giáo phức tạp và những tu viện thịnh vượng đều là bằng chứng vật chất về sự hiện diện của thần thánh.
Nhưng lịch sử tôn giáo cũng cho chúng ta thấy những cấu trúc như vậy có thể bị phá vỡ dễ dàng như thế nào. Khi Cơ đốc giáo lan rộng đến Scandinavia, đức tin Bắc Âu cổ đại đã sụp đổ chỉ sau vài thế hệ. Hệ thống tôn giáo của Ai Cập cổ đại tồn tại hàng nghìn năm, cuối cùng biến mất khi những tín ngưỡng mới, lâu dài hơn xuất hiện và các cơ cấu quyền lực lớn hơn xuất hiện. Ngay cả trong cùng một tôn giáo, chúng ta cũng thấy những cuộc ly giáo đầy kịch tính—Cuộc Cải cách đã xé nát Cơ đốc giáo phương Tây, và Cuộc ly giáo lớn đã chia rẽ các giáo hội Đông phương và Tây phương. Những sự ly giáo này thường bắt đầu bằng những khác biệt về mặt học thuyết có vẻ tầm thường và phát triển thành những hệ thống niềm tin hoàn toàn khác nhau.
sách thánh
Thiên Chúa là một phép ẩn dụ vượt qua mọi cấp độ suy nghĩ trí tuệ. Thật đơn giản. --Joseph Campbell
Nói một cách đơn giản, niềm tin vào Thiên Chúa là tôn giáo. Có lẽ việc tạo ra Chúa cũng không khác.
Kể từ khi thành lập, các nhà nghiên cứu AI lạc quan đã tưởng tượng công việc của họ là người theo chủ nghĩa sáng tạo—tức là sự sáng tạo của Chúa. Sự phát triển bùng nổ của các mô hình ngôn ngữ lớn (LLM) trong vài năm qua càng củng cố thêm niềm tin của các tín đồ cho rằng chúng ta đang đi trên con đường thiêng liêng.
Nó cũng chứng thực một bài đăng trên blog được viết vào năm 2019. Mặc dù nó chưa được những người ngoài lĩnh vực trí tuệ nhân tạo biết đến cho đến gần đây, nhưng "Bài học cay đắng" của nhà khoa học máy tính người Canada Richard Sutton đã trở thành một văn bản ngày càng quan trọng trong cộng đồng, phát triển từ kiến thức ẩn giấu thành một kiến thức mới, bao gồm cả nền tảng tôn giáo của Ung Trấn.
Trong 1.113 từ (mọi tôn giáo đều yêu cầu chữ số thiêng liêng), Sutton tóm tắt một quan sát kỹ thuật: “Bài học lớn nhất có thể học được từ 70 năm nghiên cứu trí tuệ nhân tạo là việc khai thác phương pháp tính toán chung cuối cùng là hiệu quả nhất và là một lợi thế rất lớn. " Những tiến bộ trong các mô hình trí tuệ nhân tạo được thúc đẩy bởi sự gia tăng theo cấp số nhân của tài nguyên máy tính, thúc đẩy làn sóng khổng lồ của Định luật Moore.
Đồng thời, Sutton lưu ý, phần lớn công việc nghiên cứu AI tập trung vào việc tối ưu hóa hiệu suất thông qua các kỹ thuật chuyên biệt — nâng cao kiến thức của con người hoặc thu hẹp các công cụ. Mặc dù những tối ưu hóa này có thể hữu ích trong thời gian ngắn nhưng Sutton coi chúng cuối cùng là sự lãng phí thời gian và nguồn lực, chẳng hạn như điều chỉnh vây của ván lướt sóng hoặc thử loại sáp mới khi một cơn sóng lớn ập đến.
Đây là nền tảng của cái mà chúng ta gọi là “tôn giáo cay đắng”. Nó chỉ có một điều răn duy nhất, thường được cộng đồng gọi là "Luật mở rộng": Hiệu suất ổ đĩa máy tính tăng trưởng theo cấp số nhân; phần còn lại là ngu ngốc.
Từ các bộ mở rộng của các mô hình ngôn ngữ lớn (LLM) đến các mô hình thế giới, tôn giáo cay đắng hiện đang lan truyền nhanh chóng qua các ngôi đền chưa được biến đổi của sinh học, hóa học và trí thông minh hiện thân (robot và phương tiện tự hành).
Tuy nhiên, khi học thuyết của Sutton lan rộng, định nghĩa bắt đầu thay đổi. Đây là đặc điểm nổi bật của tất cả các tôn giáo tích cực và quan trọng—lập luận, mở rộng, chú giải. "Quy tắc mở rộng" không còn chỉ có nghĩa là tính toán mở rộng(Ark không chỉ là một con tàu), giờ đây nó còn đề cập đến nhiều phương pháp khác nhau được thiết kế để cải thiện hiệu suất máy biến áp và tính toán, trong đó một số thủ thuật được đưa vào.
Quy chuẩn hiện bao gồm các nỗ lực tối ưu hóa mọi phần của nhóm AI, từ các kỹ thuật được áp dụng cho chính các mô hình cốt lõi (mô hình hợp nhất, hỗn hợp các chuyên gia (MoE) và chắt lọc kiến thức) cho đến việc tạo ra các hồ sơ tổng hợp để cung cấp cho các mô hình này. các vị thần luôn đói khát, và ở giữa Lượng lớn thí nghiệm đã được thực hiện.
giáo phái chiến tranh
Gần đây, một câu hỏi được dấy lên trong cộng đồng trí tuệ nhân tạo mang hương vị thánh chiến là liệu “tôn giáo cay đắng” có còn đúng hay không.
Xung đột bắt đầu vào tuần này với việc xuất bản một bài báo mới của Harvard, Stanford và MIT có tên "Quy tắc chính xác của bộ mở rộng". Bài viết thảo luận về mục đích đạt được hiệu quả kỹ thuật từ việc định lượng, sê-ri các kỹ thuật giúp cải thiện hiệu suất của các mô hình trí tuệ nhân tạo và mang lại lợi ích to lớn cho hệ sinh thái mã nguồn mở. Tim Dettmers, một nhà khoa học nghiên cứu tại Viện Trí tuệ nhân tạo Allen, đã nêu ra tầm quan trọng của nó trong bài đăng dưới đây, gọi đây là “bài báo quan trọng nhất trong một thời gian dài”. Nó thể hiện sự tiếp nối của một cuộc trò chuyện đang nóng lên trong vài tuần qua và cho thấy một xu hướng đáng chú ý: sự hợp nhất ngày càng tăng của hai tôn giáo.
Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei thuộc cùng một giáo phái. Cả hai người đều tự tin tuyên bố rằng chúng ta sẽ đạt được trí tuệ nhân tạo tổng hợp (AGI) trong khoảng 2-3 năm nữa. Có thể nói Altman và Amodei đều là hai nhân vật tin tưởng nhất vào sự thiêng liêng của “đạo cay đắng”. Tất cả khích lệ của họ đều có xu hướng hứa hẹn quá mức, tạo ra sự cường điệu tối đa, nhằm tích lũy vốn trong một trò chơi gần như bị chi phối hoàn toàn bởi tính kinh tế theo quy mô. Nếu quy luật của bộ công cụ mở rộng không phải là "Alpha và Omega", đầu tiên và cuối cùng, bắt đầu và kết thúc, thì bạn cần 22 tỷ USD để làm gì?
Cựu nhà khoa học trưởng của OpenAI Ilya Sutskever tuân thủ một bộ nguyên tắc khác. Ông cùng với các nhà nghiên cứu khác (bao gồm nhiều người trong OpenAI, dựa trên những rò rỉ gần đây) cho rằng rằng bộ tiện ích mở rộng này đang đạt đến giới hạn. Nhóm này cho rằng rằng khoa học và nghiên cứu mới sẽ là cần thiết để duy trì sự tiến bộ và đưa AGI vào thế giới thực.
Phe Sutskever đã lập luận đúng đắn rằng ý tưởng về các bộ công cụ mở rộng liên tục của phe Altman là không hiệu quả về mặt kinh tế. Như nhà nghiên cứu trí tuệ nhân tạo Noam Brown hỏi: "Rốt cuộc, chúng ta có thực sự muốn đào tạo các mô hình trị giá hàng trăm tỷ hay hàng nghìn tỷ đô la không?" Và điều đó không bao gồm chi phí bổ sung nếu chúng ta chuyển bộ mở rộng tính toán từ đào tạo sang hàng tỷ đô la chi cho điện toán suy luận.
Nhưng những người tin Chúa chân chính rất quen thuộc với những lập luận của đối thủ. Nhà truyền giáo trước cửa nhà bạn có thể xử lý bộ ba vấn đề theo chủ nghĩa khoái lạc của bạn một cách dễ dàng. Đối với Brown và Sutskever, phe Sutskever chỉ ra khả năng mở rộng bộ phần mềm bằng "tính toán thời gian thử nghiệm". Không giống như những gì đã xảy ra cho đến nay, thay vì dựa vào các phép tính lớn hơn để cải thiện quá trình đào tạo, "tính toán khi kiểm tra" sẽ đưa nhiều nguồn lực hơn vào việc thực thi.
Khi mô hình AI cần trả lời câu hỏi của bạn hoặc tạo một đoạn mã hoặc văn bản, nó có thể cung cấp nhiều thời gian và tính toán hơn. Nó tương đương với việc bạn chuyển sự tập trung từ việc ôn thi môn toán sang thuyết phục giáo viên cho bạn thêm một giờ và cho phép bạn mang theo máy tính. Đối với nhiều người trong hệ sinh thái, đây là mặt trận mới của “tôn giáo cay đắng” khi đội ngũ đang chuyển từ phương pháp đào tạo trước chính thống sang phương pháp sau đào tạo/suy luận.
Thật dễ dàng để chỉ ra những sai sót trong các hệ thống niềm tin khác và chỉ trích những giáo lý khác mà không bộc lộ quan điểm của chính mình. Vậy niềm tin của riêng tôi là gì? Đầu tiên, tôi tin rằng loạt mẫu xe hiện tại sẽ mang lại lợi tức đầu tư rất cao theo thời gian. Khi mọi người tìm hiểu cách vượt qua các giới hạn và tận dụng các API hiện có, chúng ta sẽ thấy những trải nghiệm sản phẩm thực sự sáng tạo xuất hiện và thành công.
Chúng tôi sẽ vượt qua giai đoạn đa dạng và gia tăng của các sản phẩm trí tuệ nhân tạo. Chúng ta không nên coi nó là "trí tuệ nhân tạo nói chung" (AGI), vì định nghĩa đó có những sai sót trong khuôn khổ, mà là "trí thông minh khả thi tối thiểu" có thể được tùy chỉnh theo các sản phẩm và tình huống sử dụng khác nhau.
Để đạt được siêu trí tuệ nhân tạo (ASI), cần có nhiều cơ cấu hơn. Các định nghĩa và phân chia rõ ràng hơn sẽ giúp chúng ta thảo luận hiệu quả hơn về sự cân bằng giữa giá trị kinh tế và chi phí kinh tế mà mỗi định nghĩa có thể mang lại. Ví dụ: AGI có thể cung cấp giá trị kinh tế cho một nhóm nhỏ người dùng (chỉ là hệ thống niềm tin trong khu vực), trong khi ASI có thể thể hiện những tác động tổng hợp không thể ngăn cản và thay đổi thế giới, hệ thống niềm tin và cấu trúc xã hội của chúng ta. Tôi không cho rằng ASI có thể thực hiện được chỉ với một bộ biến áp mở rộng; nhưng thật đáng buồn, như một số người có thể nói, đó chỉ là niềm tin vô thần của tôi.
mất niềm tin
Cộng đồng trí tuệ nhân tạo không thể giải quyết cuộc thánh chiến này trong thời gian ngắn; không có cơ sở thực tế nào để tạo ra trong trận chiến cảm xúc này. Thay vào đó, chúng ta nên chuyển sự chú ý sang ý nghĩa của việc trí tuệ nhân tạo đặt câu hỏi về niềm tin của nó vào Luật Bộ dụng cụ mở rộng. Sự mất niềm tin này có thể gây ra hiệu ứng lan tỏa vượt qua các mô hình ngôn ngữ lớn (LLM), ảnh hưởng đến tất cả các ngành và thị trường.
Điều quan trọng cần lưu ý là trong hầu hết các lĩnh vực AI/ML, chúng ta vẫn chưa khám phá kỹ lưỡng các quy luật về mở rộng; còn nhiều điều kỳ diệu nữa sẽ xảy ra. Tuy nhiên, nếu nghi ngờ xuất hiện, các nhà đầu tư và nhà xây dựng sẽ khó duy trì mức độ tin cậy cao như cũ về trạng thái hiệu suất cuối cùng của các danh mục "đầu đường cong" như công nghệ sinh học và robot.
Nói cách khác, nếu chúng ta thấy các mô hình ngôn ngữ lớn bắt đầu chậm lại và đi chệch khỏi con đường mình đã chọn thì hệ thống niềm tin của nhiều nhà sáng lập và nhà đầu tư ở các khu vực lân cận sẽ sụp đổ.
Liệu điều đó có công bằng hay không lại là một câu hỏi khác.
Có quan điểm cho rằng“trí tuệ nhân tạo tổng hợp” đương nhiên đòi hỏi quy mô lớn hơn nên “chất lượng” của các mô hình chuyên biệt cần được thể hiện ở quy mô nhỏ hơn, để chúng ít gặp nút thắt trước khi mang lại giá trị thực tế. Nếu một mô hình dành riêng cho miền chỉ sử dụng một phần dữ liệu và do đó chỉ yêu cầu một phần tài nguyên tính toán để khả thi, thì liệu có còn nhiều chỗ để cải thiện không?
Điều này có nhìn lên trực quan, nhưng chúng tôi đã nhiều lần phát hiện ra rằng chìa khóa thường không có ở đó: việc bao gồm dữ liệu có liên quan hoặc dường như không liên quan thường cải thiện hiệu suất của các mô hình dường như không liên quan. Ví dụ, việc đưa thông tin lập trình vào dường như giúp thúc đẩy các kỹ năng suy luận rộng hơn.
Về lâu dài, cuộc tranh luận về mô hình chuyên môn hóa có thể không còn phù hợp. Mục tiêu cuối cùng của bất kỳ ai xây dựng ASI (siêu trí tuệ nhân tạo) có thể là một thực thể có khả năng tự nhân rộng, tự cải thiện và khả năng phát huy khả năng sáng tạo không giới hạn trong nhiều lĩnh vực khác nhau.
Holden Karnofsky, cựu thành viên hội đồng OpenAI và người sáng lập Open Philanthropy, gọi sáng tạo này là “PASTA” (Quy trình tiến bộ khoa học và công nghệ tự động). Kế hoạch lợi nhuận ban đầu của Sam Altman dường như dựa trên một nguyên tắc tương tự: "Xây dựng AGI và sau đó hỏi xem nó được đền đáp như thế nào." Đây là trí tuệ nhân tạo mang tính cánh chung, vận mệnh cuối cùng của nó.
Thành công của các phòng thí nghiệm AI lớn như OpenAI và Anthropic đã kích thích sự nhiệt tình của thị trường vốn trong việc hỗ trợ các phòng thí nghiệm như "OpenAI in X" có mục tiêu dài hạn là xây dựng "AGI" xung quanh các ngành hoặc lĩnh vực dọc cụ thể của họ. Suy đoán của sự phân chia quy mô này sẽ dẫn đến sự chuyển đổi chính thức khỏi mô phỏng OpenAI và hướng tới các công ty tập trung vào sản phẩm - một khả năng mà tôi đã nêu ra tại cuộc họp thường niên năm 2023 của Compound .
Không giống như mô hình cánh chung, các công ty này phải thể hiện sê-ri tiến bộ. Họ sẽ là những công ty được xây dựng dựa trên các vấn đề kỹ thuật quy mô, chứ không phải là các tổ chức khoa học thực hiện nghiên cứu ứng dụng với mục tiêu cuối cùng là tạo ra sản phẩm.
Trong khoa học, nếu bạn biết mình đang làm gì thì bạn không nên làm nó. Trong ngành kỹ thuật, nếu bạn không biết mình đang làm gì thì bạn không nên làm việc đó. --Richard Hamming
Các tín đồ khó có thể sớm mất đi đức tin thiêng liêng của mình. Như đã đề cập trước đó, khi các tôn giáo phát triển, họ đã hệ thống hóa một kịch bản cho cuộc sống và sự thờ phượng cũng như một tập hợp phương pháp. Họ đã xây dựng những tượng đài và cơ sở hạ tầng vật chất để củng cố quyền lực và trí thông minh của họ, đồng thời chứng tỏ rằng họ “biết mình đang làm gì”.
Trong một cuộc phỏng vấn gần đây, Sam Altman đã nói điều này về AGI (chúng tôi nhấn mạnh):
Đây là lần đầu tiên tôi cảm thấy như chúng tôi thực sự biết phải làm gì . Việc xây dựng AGI từ nay đến lúc đó vẫn đòi hỏi lượng lớn công sức. Chúng tôi biết có một số điều chưa biết, nhưng tôi cho rằng cơ bản chúng tôi biết phải làm gì và sẽ mất một thời gian; việc này sẽ khó khăn nhưng cũng rất thú vị.
sự thử nghiệm
Khi đặt câu hỏi về Tôn giáo của sự cay đắng, những người hoài nghi về bộ mở rộng đang tính đến một trong những cuộc thảo luận sâu sắc nhất trong vài năm qua. Mỗi người trong chúng ta đều đã từng nghĩ như vậy vào lúc này hay lúc khác. Điều gì sẽ xảy ra nếu chúng ta phát minh ra Chúa? Chúa sẽ xuất hiện trong bao lâu? Điều gì sẽ xảy ra nếu AGI (trí tuệ nhân tạo) thực sự tăng lên và không thể đảo ngược?
Giống như tất cả các chủ đề phức tạp và chưa biết, chúng ta nhanh chóng lưu giữ trong não những phản ứng cụ thể của mình: một số thất vọng trước sự không liên quan sắp xảy ra của chúng, phần lớn dự đoán sự kết hợp giữa hủy diệt và thịnh vượng, và cuối cùng Một phần trong chúng ta mong đợi con người đạt được sự phong phú thuần túy bằng cách làm những gì chúng ta làm tốt nhất , tiếp tục tìm ra những vấn đề để giải quyết và giải quyết những vấn đề do chính chúng ta tạo ra.
Bất kỳ ai có nhiều cổ phần đều muốn có thể dự đoán thế giới sẽ như thế nào đối với họ nếu Luật Bộ công cụ mở rộng đúng và AGI sẽ xuất hiện sau một vài năm nữa. Bạn sẽ phục vụ Đức Chúa Trời mới này như thế nào và Đức Chúa Trời mới này sẽ phục vụ bạn như thế nào?
Nhưng điều gì sẽ xảy ra nếu phúc âm trì trệ xua đuổi những người lạc quan? Điều gì sẽ xảy ra nếu chúng ta bắt đầu cho rằng rằng có thể ngay cả Chúa cũng đang sa sút? Trong bài viết trước, Robot FOMO, Quy luật quy mô và Dự báo công nghệ, tôi đã viết:
Đôi khi tôi tự hỏi điều gì sẽ xảy ra nếu Luật Bộ công cụ mở rộng không đúng và liệu nó có tương tự như tác động của việc mất thu nhập, tăng trưởng chậm hơn và lãi suất tăng trên nhiều lĩnh vực công nghệ hay không. Đôi khi tôi cũng tự hỏi liệu Luật Bộ công cụ mở rộng có đúng hay không và liệu điều này có giống với đường cong hàng hóa của những người dẫn đầu và việc nắm bắt giá trị của chúng trong nhiều lĩnh vực khác hay không.
“Điều tốt về chủ nghĩa tư bản là dù thế nào đi chăng nữa, chúng ta sẽ chi lượng lớn tiền để tìm hiểu.”
Đối với những người sáng lập và nhà đầu tư, câu hỏi trở thành: Điều gì xảy ra tiếp theo? Các ứng viên ở mọi ngành dọc có tiềm năng trở thành người xây dựng sản phẩm tuyệt vời đang ngày càng được biết đến. Sẽ còn nhiều điều tương tự như vậy nữa trong ngành, nhưng câu chuyện đã bắt đầu hé mở. Những cơ hội mới đến từ đâu?
Nếu bộ mở rộng bị đình trệ, tôi dự đoán sẽ thấy một làn sóng vỡ nợ và sáp nhập. Các công ty còn lại sẽ ngày càng chuyển trọng tâm sang kỹ thuật, một sự phát triển mà chúng ta nên dự đoán bằng cách theo dõi dòng nhân tài. Chúng tôi đã thấy một số dấu hiệu cho thấy OpenAI đang đi theo hướng này khi nó ngày càng tự sản xuất ra nhiều sản phẩm hơn. Sự thay đổi này sẽ mở ra không gian cho thế hệ khởi nghiệp tiếp theo vượt qua những công ty đương nhiệm trong nỗ lực tạo ra những con đường mới bằng cách dựa vào khoa học và nghiên cứu ứng dụng đổi mới thay vì kỹ thuật.
bài học tôn giáo
Quan điểm của tôi về công nghệ là bất cứ thứ gì có vẻ như rõ ràng là sẽ có tác động gộp thường không tồn tại lâu, và một quan điểm chung mà mọi người đều cho rằng là bất kỳ việc kinh doanh trông giống như nó rõ ràng sẽ có tác động gộp, thật kỳ lạ. , không tồn tại được lâu với tốc độ và quy mô như mong đợi.
Những dấu hiệu ban đầu của sự ly giáo tôn giáo thường tuân theo những mô hình có thể dự đoán được, dùng làm khuôn khổ để tiếp tục theo dõi sự phát triển của Tôn giáo cay đắng.
Nó thường bắt đầu với sự xuất hiện của những cách giải thích cạnh tranh nhau, dù vì lý do tư bản hay ý thức hệ. Trong Cơ đốc giáo thời kỳ đầu, quan điểm khác nhau về thiên tính của Đấng Christ và bản chất của Chúa Ba Ngôi đã dẫn đến sự ly giáo, tạo ra những cách giải thích Kinh thánh rất khác nhau. Ngoài sự chia rẽ trong AI mà chúng tôi đã đề cập, còn có những rạn nứt khác đang nổi lên. Ví dụ: chúng tôi đã thấy một số nhà nghiên cứu AI bác bỏ tính chính thống cốt lõi của máy biến áp và chuyển sang các kiến trúc khác như Mô hình không gian trạng thái, Mamba, RWKV, Mô hình chất lỏng, v.v. Mặc dù hiện tại đây chỉ là những tín hiệu nhẹ nhàng nhưng chúng cho thấy sự khởi đầu của dị giáo và sự sẵn sàng suy nghĩ lại lĩnh vực này từ những nguyên tắc đầu tiên của nó.
Theo thời gian, những nhận xét thiếu kiên nhẫn của nhà tiên tri cũng khiến người dân mất lòng tin. Khi những lời tiên tri của các nhà lãnh đạo tôn giáo không thành hiện thực, hoặc sự can thiệp của Thiên Chúa không đến như đã hứa, điều đó sẽ gieo mầm mống nghi ngờ.
Phong trào Millerite đã tiên đoán sự trở lại của Chúa Kitô vào năm 1844, nhưng khi Chúa Giêsu không đến như kế hoạch, phong trào đã tan rã. Trong thế giới công nghệ, chúng ta thường chôn vùi những lời tiên tri thất bại trong im lặng và cho phép các nhà tiên tri của chúng ta tiếp tục vẽ ra những phiên bản lạc quan, dài hạn về tương lai ngay cả khi thời hạn đã định nhiều lần bị bỏ lỡ (Xin chào, Elon). Tuy nhiên, niềm tin vào Luật Bộ dụng cụ mở rộng có thể phải đối mặt với sự sụp đổ tương tự nếu không được củng cố bằng những cải tiến liên tục về tính hiệu quả của mô hình ban đầu.
Một tôn giáo thối nát, cồng kềnh hoặc không ổn định dễ bị ảnh hưởng bởi những kẻ bội đạo. Cuộc Cải cách Tin lành có thể tiến triển không chỉ nhờ quan điểm thần học của Luther mà còn vì nó xuất hiện trong thời kỳ suy tàn và hỗn loạn trong Giáo hội Công giáo. Khi những rạn nứt xuất hiện trong các thể chế chính thống, những ý tưởng “dị giáo” lâu đời bỗng nhiên tìm được mảnh đất màu mỡ.
Trong lĩnh vực trí tuệ nhân tạo, chúng ta có thể xem xét các mô hình nhỏ hơn hoặc phương pháp tiếp cận thay thế đạt được kết quả tương tự với ít tính toán hoặc vật liệu hơn, chẳng hạn như các mô hình từ nhiều phòng thí nghiệm của công ty Trung Quốc và đội ngũ mã nguồn mở như Nous Research Work. Những người vượt qua giới hạn của trí thông minh sinh học, vượt qua những trở ngại từ lâu cho rằng không thể vượt qua, cũng có thể xây dựng một câu chuyện mới.
Cách trực tiếp và kịp thời nhất để theo dõi quá trình chuyển đổi bắt đầu là theo dõi chuyển động của người hành nghề. Trước bất kỳ cuộc ly giáo chính thức nào, các học giả tôn giáo và giáo sĩ thường duy trì quan điểm dị giáo một cách riêng tư trong khi tỏ ra tuân thủ trước công chúng. Tương tự ngày nay có thể là một số nhà nghiên cứu AI bề ngoài tuân theo quy luật của bộ công cụ mở rộng nhưng lại bí mật theo đuổi phương pháp hoàn toàn khác, chờ đợi thời điểm thích hợp để thách thức sự đồng thuận hoặc rời khỏi phòng thí nghiệm của họ để tìm kiếm những chân trời rộng hơn về mặt lý thuyết.
Điều khó khăn về tính chính thống về tôn giáo và kỹ thuật là chúng thường đúng một phần, chỉ là không đúng về mặt phổ quát như những tín đồ tận tụy nhất của chúng cho rằng. Giống như các tôn giáo kết hợp những chân lý cơ bản của con người vào khuôn khổ siêu hình của họ, Luật Bộ công cụ mở rộng mô tả rõ ràng việc học qua mạng lưới thần kinh thực sự trông như thế nào. Câu hỏi đặt ra là liệu thực tế này có đầy đủ và bất biến như sự nhiệt tình hiện nay gợi ý hay không, và liệu các tổ chức tôn giáo này (phòng thí nghiệm trí tuệ nhân tạo) có đủ nhanh nhẹn và chiến lược để thu hút những kẻ cuồng tín hay không. Đồng thời, xây dựng một máy in (giao diện chat và API) có thể truyền bá kiến thức để kiến thức của mình được lan tỏa.
Đêm chung kết
"Tôn giáo là đúng trong mắt người bình thường, sai lầm trong mắt những nhà thông thái và hữu ích trong mắt những người cai trị." - Lucius Annaus Seneca.
Một quan điểm có lẽ đã lỗi thời về các tổ chức tôn giáo là một khi đạt đến một quy mô nhất định, chúng, giống như nhiều tổ chức do con người điều hành, có xu hướng khuất phục trước động cơ sinh tồn là cố gắng sống sót trong cuộc cạnh tranh. Trong quá trình đó, họ phớt lờ sự thật và những động cơ lớn lao (những thứ không loại trừ lẫn nhau).
Tôi đã từng viết một bài báo về cách thị trường vốn có thể trở thành kén thông tin được điều khiển bởi những câu chuyện và khích lệ có xu hướng duy trì những câu chuyện đó. Sự đồng thuận về Luật Bộ công cụ mở rộng mang lại cảm giác giống nhau đáng lo ngại - một hệ thống niềm tin đã ăn sâu, tinh tế về mặt toán học và cực kỳ hữu ích trong việc điều phối việc triển khai vốn quy mô lớn. Giống như nhiều khuôn khổ tôn giáo, nó có thể có giá trị hơn như một cơ chế điều phối hơn là một chân lý cơ bản.
