Sẽ rất khó để nói quá về tác động mà Peter Thiel đã tạo ra đối với sự nghiệp của Sam Altman . Sau khi Altman bán công ty khởi nghiệp đầu tiên của mình vào năm 2012, Thiel đã tài trợ cho quỹ đầu tư mạo hiểm đầu tiên của mình, Hydrazine Vốn. Thiel coi Altman là một người lạc quan cố hữu, người đứng ở "tâm điểm tuyệt đối, có thể không phải của Thung lũng Silicon, nhưng là của tinh thần thời đại Thung lũng Silicon". Như Thiel đã nói, "Nếu bạn phải tìm kiếm một người đại diện cho một người công nghệ thế hệ thiên niên kỷ, thì đó sẽ là Altman".
Mỗi năm, Altman sẽ chỉ Thiel đến với công ty khởi nghiệp triển vọng nhất tại Y Combinator – Airbnb năm 2012, Stripe năm 2013, Zenefits năm 2014 – và Thiel sẽ nuốt nước bọt và đầu tư, mặc dù đôi khi anh cảm thấy như mình đang bị cuốn vào một chu kỳ cường điệu. Làm theo lời khuyên của Altman đã mang lại cho Quỹ Founders của Thiel một số khoản lợi nhuận khổng lồ.
Trong khi đó, Thiel trở thành tiếng nói lớn nhất chỉ trích sự thiếu tiến bộ công nghệ thực sự giữa tất cả sự cường điệu. "Quên những chiếc ô tô bay đi", ông nói đùa trong một bài giảng tại Stanford năm 2012. "Chúng ta vẫn đang kẹt xe".
Vào thời điểm Altman tiếp quản Y Combinator vào năm 2014, ông đã tiếp thu lời chỉ trích của Thiel về “sự trì trệ công nghệ” và chuyển hướng nó để tái thiết YC thành một nhà đầu tư vào các dự án “công nghệ cứng” như năng lượng hạt nhân, máy bay siêu thanh—và trí tuệ nhân tạo. Bây giờ, chính Altman là người ngày càng học hỏi từ Thiel.
Và nếu khó có thể cường điệu hóa tác động của Thiel lên Altman, thì cũng dễ dàng để đánh giá thấp tầm ảnh hưởng của một người tự học bị ám ảnh bởi AI tên là Eliezer Yudkowsky đối với những khoản đầu tư ban đầu của Thiel vào AI.
Mặc dù có lẽ đã trở thành nhà tiên tri ngày tận thế về AI hàng đầu thế giới, Yudkowsky ban đầu là một thần đồng có sức hút, lạc quan về công nghệ, người rất giỏi trong việc tập hợp các nhà đầu tư, nhà nghiên cứu và những người lập dị xung quanh nhiệm vụ "tăng tốc điểm kỳ dị".
Trong đoạn trích này từ cuốn sách sắp ra mắt The Optimist, Keach Hagey mô tả cách mối quan hệ của Thiel với Yudkowsky đã tạo tiền đề cho cuộc cách mạng AI tạo sinh: Yudkowsky là người đầu tiên truyền cảm hứng cho một trong những người sáng lập DeepMind tưởng tượng và xây dựng một "siêu trí tuệ" và Yudkowsky là người giới thiệu những người sáng lập DeepMind với Thiel, một trong những nhà đầu tư đầu tiên của họ. Những cuộc trò chuyện của Thiel với Altman về DeepMind đã giúp truyền cảm hứng cho việc tạo ra OpenAI như thế nào. Và Thiel, với tư cách là một trong những người ủng hộ quan trọng nhất của Yudkowsky, đã vô tình gieo mầm cho các nền văn hóa phụ về ngày tận thế AI, những nền văn hóa cuối cùng sẽ đóng vai trò trong việc lật đổ Sam Altman, nhiều năm sau, khỏi vị trí CEO của OpenAI.
Giống như Sam Altman, Peter Thiel từ lâu đã bị ám ảnh bởi khả năng một ngày nào đó máy tính sẽ trở nên thông minh hơn con người và tạo ra một chu kỳ tự củng cố của tiến bộ công nghệ theo cấp số nhân, một chủ đề khoa học viễn tưởng cũ thường được gọi là "điểm kỳ dị". Thuật ngữ này lần đầu tiên được giới thiệu bởi nhà toán học và cố vấn Dự án Manhattan John von Neumann vào những năm 1950, và được phổ biến bởi tác giả khoa học viễn tưởng nổi tiếng Vernor Vinge vào những năm 1980. Marc Stiegler, bạn của Vinge, người làm việc về an ninh mạng cho những tổ chức như Darpa trong khi soạn thảo các tiểu thuyết về tương lai, nhớ lại một lần đã dành một buổi chiều với Vinge tại một nhà hàng bên ngoài một hội nghị khoa học viễn tưởng "trao đổi những câu chuyện mà chúng tôi sẽ không bao giờ viết vì chúng vừa kinh hoàng vừa hoàn toàn có thể xảy ra. Chúng tôi quá sợ một tên điên nào đó sẽ bắt một trong số chúng và thực sự làm điều đó".
Trong số nhiều người khác chịu ảnh hưởng từ tiểu thuyết của Vinge có Eliezer Yudkowsky. Sinh ra trong một gia đình Do Thái Chính thống giáo vào năm 1979 tại Chicago, Yudkowsky là con trai của một người mẹ là bác sĩ tâm thần và một người cha là nhà vật lý, sau đó làm việc tại Bell Labs và Intel về nhận dạng giọng nói, và bản thân anh cũng là một người hâm mộ khoa học viễn tưởng cuồng nhiệt. Yudkowsky bắt đầu đọc khoa học viễn tưởng từ năm 7 tuổi và viết nó vào năm 9 tuổi. Năm 11 tuổi, anh đạt 1410 điểm trong kỳ thi SAT. Đến lớp bảy, anh nói với bố mẹ rằng anh không thể chịu đựng được việc học nữa. Anh đã không học trung học. Đến năm 17 tuổi, anh đau đớn nhận ra rằng mình không giống những người khác, đăng một trang web tuyên bố rằng anh là một "thiên tài" nhưng "không phải là một tên Quốc xã". Anh từ chối bị định nghĩa là một "nam thiếu niên", thay vào đó thích tự xếp mình vào loại "Algernon", ám chỉ đến truyện Short nổi tiếng của Daniel Keyes về một con chuột thí nghiệm có trí thông minh vượt trội. Nhờ Vinge, anh đã khám phá ra ý nghĩa của cuộc sống. “Mục đích duy nhất của trang này, mục đích duy nhất của trang web này, mục đích duy nhất của bất kỳ điều gì tôi làm với tư cách là một Algernon là để đẩy nhanh Sự kỳ dị,” ông viết.
Vào thời điểm này, Yudkowsky phát hiện ra một danh sách gửi thư bí ẩn của một hội tự gọi mình là Extropians, là chủ đề của một bài báo năm 1994 trên Wired tình cờ bao gồm địa chỉ email của họ ở cuối. Được thành lập bởi triết gia Max More vào những năm 1980, Extropianism là một hình thức siêu lạc quan ủng hộ khoa học nhằm chống lại entropy—quy luật phổ quát nói rằng mọi thứ đều sụp đổ, mọi thứ đều có xu hướng hướng tới hỗn loạn và cái chết—trên mọi mặt trận. Trên thực tế, điều này có nghĩa là đăng ký để cơ thể của họ—hoặc ít nhất là đầu—được đông lạnh ở nhiệt độ âm 321 độ F tại Alcor Life Extension Foundation ở Scottsdale, Arizona, sau khi họ chết. Họ sẽ được hồi sinh khi nhân loại đủ tiến bộ về mặt công nghệ để làm như vậy. Về mặt triết học hơn, chống lại entropy có nghĩa là tuân thủ năm nguyên tắc: Mở rộng vô hạn, Tự chuyển đổi, Optimism năng động, Công nghệ thông minh và Trật tự tự phát. (Ví dụ, Optimism năng động bao gồm một kỹ thuật gọi là tập trung có chọn lọc, trong đó bạn chỉ tập trung vào những khía cạnh tích cực của một tình huống nhất định.)
Robin Hanson, người tham gia phong trào và trở nên nổi tiếng vì đã tạo ra thị trường dự đoán, đã mô tả việc tham dự các bữa tiệc Extropian nhiều cấp độ tại những ngôi nhà lớn ở Palo Alto vào thời điểm đó. “Và tôi đã được tiếp thêm năng lượng bởi họ, bởi vì họ nói về tất cả những ý tưởng thú vị này. Và vợ tôi đã nản lòng vì chúng không được trình bày tốt lắm, và hơi kỳ lạ”, ông nói. “Tất cả chúng tôi đều nghĩ về bản thân mình như những người đang nhìn thấy tương lai sẽ như thế nào, và những người khác thì không hiểu. Cuối cùng—cuối cùng—chúng tôi sẽ đúng, nhưng không ai biết chính xác là khi nào”.
Người đồng sáng lập tạp chí Extropy của More, Tom Bell, còn gọi là TO Morrow (Bell tuyên bố rằng Morrow là một nhân vật riêng biệt chứ không chỉ là một bút danh), đã viết về các hệ thống "luật đa trung tâm" có thể phát sinh một cách tự nhiên từ các giao dịch tự nguyện giữa các tác nhân không có sự can thiệp của chính phủ và về "Free Oceana", một khu định cư tiềm năng của Extropian trên một hòn đảo nổi nhân tạo ở vùng biển quốc tế. (Bell đã làm việc miễn phí nhiều năm sau đó cho Viện Seasteading, nơi Thiel cung cấp vốn hạt giống.) Nếu tất cả những điều này nghe có vẻ Bit tự do, thì đó là vì nó đúng là như vậy. Bài báo của WIRED mở đầu bằng một cuộc tụ họp của Extropian như vậy, trong đó một người tham dự xuất hiện, ăn mặc giống như "Nhà nước", mặc áo lót bằng vải vinyl, váy ngắn và áo dây chuỗi và cầm một chiếc roi cưỡi ngựa, kéo một người tham dự khác ăn mặc như "Người nộp thuế" bằng dây xích ở cả bốn chân.
Danh sách gửi thư và cộng đồng Extropian rộng lớn hơn chỉ có vài trăm thành viên, nhưng trong số đó có một số tên tuổi nổi tiếng, bao gồm Hanson; Marvin Minsky, nhà khoa học đoạt giải thưởng Turing, người sáng lập phòng thí nghiệm AI của MIT vào cuối những năm 1950; Ray Kurzweil, nhà khoa học máy tính và nhà tương lai học có những cuốn sách biến "điểm kỳ dị" thành một từ quen thuộc; Nick Bostrom, triết gia người Thụy Điển có những tác phẩm tương tự về "rủi ro hiện sinh" được cho là do AI gây ra; Julian Assange, một thập kỷ trước khi ông thành lập WikiLeaks; và ba người—Nick Szabo, Wei Dai và Hal Finney—được đồn đại là hoặc là người thân cận với người sáng tạo ra Bitcoin Bút danh là Satoshi (SATS) Nakamoto.
“Rõ ràng ngay cả khi chỉ đọc lướt qua kho lưu trữ của Extropians (do Wei Dai quản lý) thì trong vòng vài tháng, thiếu niên Eliezer Yudkowsky đã trở thành một trong những giọng nói nổi bật nhất của sự hỗn loạn phi thường này”, nhà báo Jon Evans đã viết trong lịch sử của phong trào này. Năm 1996, ở tuổi 17, Yudkowsky lập luận rằng siêu trí tuệ sẽ là một cải tiến lớn so với con người và có thể xuất hiện vào năm 2020.
Hai thành viên của cộng đồng Extropian, doanh nhân internet Brian và Sabine Atkins—những người gặp nhau trên danh sách gửi thư Extropian năm 1998 và kết hôn ngay sau đó—đã bị thông điệp này thu hút đến nỗi vào năm 2000, họ đã tài trợ cho một nhóm chuyên gia tư vấn cho Yudkowsky, Viện Singularity về Trí tuệ nhân tạo. Năm 21 tuổi, Yudkowsky chuyển đến Atlanta và bắt đầu nhận mức lương phi lợi nhuận khoảng 20.000 đô la một năm để truyền bá thông điệp về siêu trí tuệ nhân tạo nhân từ của mình. Ông nói rằng "Tôi nghĩ rằng những thứ rất thông minh sẽ tự động trở nên tốt đẹp". Tuy nhiên, trong vòng tám tháng, ông bắt đầu nhận ra rằng mình đã sai - hoàn toàn sai. Ông quyết định rằng AI có thể là một thảm họa.
“Tôi đã lấy tiền của người khác, và tôi là người cảm thấy có nghĩa vụ sâu sắc đối với những người giúp đỡ mình,” Yudkowsky giải thích. “Đến một lúc nào đó, thay vì nghĩ rằng, 'Nếu siêu trí tuệ không tự động xác định điều gì là đúng và thực hiện điều đó thì có nghĩa là không có đúng hay sai thực sự, trong trường hợp đó, ai quan tâm?' Tôi đã nghĩ, 'Ồ, nhưng Brian Atkins có lẽ sẽ không muốn bị siêu trí tuệ giết chết.' ” Ông nghĩ Atkins có thể muốn có một "kế hoạch dự phòng", nhưng khi ông ngồi xuống và cố gắng đưa ra một kế hoạch, ông kinh hoàng nhận ra rằng điều đó là không thể. “Điều đó khiến tôi thực sự tham gia vào các vấn đề cơ bản, và sau đó tôi nhận ra rằng tôi đã hoàn toàn nhầm lẫn về mọi thứ.”
Anh em nhà Atkins rất hiểu chuyện, và sứ mệnh của viện đã chuyển từ việc tạo ra trí tuệ nhân tạo sang tạo ra trí tuệ nhân tạo thân thiện. Yudkowsky cho biết: “Phần mà chúng tôi cần giải quyết vấn đề AI thân thiện đã đặt ra một trở ngại trên con đường tính phí ngay để thuê các nhà nghiên cứu AI, nhưng chúng tôi cũng chắc chắn không có đủ kinh phí để làm điều đó”. Thay vào đó, ông đã đưa ra một khuôn khổ trí tuệ mới mà ông gọi là “chủ nghĩa duy lý”. (Mặc dù trên thực tế, chủ nghĩa duy lý là niềm tin rằng loài người có sức mạnh sử dụng lý trí để đưa ra câu trả lời đúng đắn, nhưng theo thời gian, nó đã mô tả một phong trào mà theo lời của nhà văn Ozy Brennan, bao gồm “chủ nghĩa giản lược, chủ nghĩa duy vật, chủ nghĩa phi hiện thực về mặt đạo đức, chủ nghĩa vị lợi, chủ nghĩa chống cái chết và chủ nghĩa siêu nhân”. Scott Alexander, người thừa kế trí tuệ của Yudkowsky, nói đùa rằng đặc điểm phân biệt thực sự của phong trào này là niềm tin rằng “Eliezer Yudkowsky là người California chính đáng”).
Trong một bài báo năm 2004, “Coherent Extrapolated Volition,” Yudkowsky lập luận rằng AI thân thiện nên được phát triển không chỉ dựa trên những gì chúng ta nghĩ rằng chúng ta muốn AI làm ngay bây giờ, mà còn dựa trên những gì thực sự có lợi cho chúng ta. “Mục tiêu kỹ thuật là hỏi xem nhân loại 'muốn' gì, hay đúng hơn là chúng ta sẽ quyết định điều gì nếu chúng ta biết nhiều hơn, suy nghĩ nhanh hơn, là những người mà chúng ta mong muốn, đã trưởng thành cùng nhau hơn, ETC”, ông viết. Trong bài báo, ông cũng sử dụng một phép ẩn dụ đáng nhớ, do Bostrom khởi xướng, về cách AI có thể trở nên sai trái: Nếu AI của bạn được lập trình để tạo ra kẹp giấy, nếu bạn không cẩn thận, nó có thể lấp đầy hệ mặt trời bằng kẹp giấy.
Năm 2005, Yudkowsky đã tham dự một bữa tối riêng tại một nhà hàng ở San Francisco do Viện Foresight tổ chức, một nhóm nghiên cứu công nghệ được thành lập vào những năm 1980 để thúc đẩy công nghệ nano. (Nhiều thành viên ban đầu của nhóm đến từ Hội L5, một tổ chức chuyên thúc đẩy việc tạo ra một thuộc địa không gian lơ lửng ngay sau mặt Moon và đã vận động thành công để ngăn Hoa Kỳ ký Hiệp định Moon của Liên hợp quốc năm 1979 do có điều khoản chống lại việc cải tạo các thiên thể.) Thiel đã có mặt, kể cho những vị khách khác nghe về một người bạn là người dẫn đầu thị trường, bởi vì mỗi lần ông nghĩ rằng một khoản đầu tư tiềm năng nào đó sẽ hấp dẫn, thì nó sẽ sớm sụp đổ. Yudkowsky, không biết Thiel là ai, đã đến gặp anh ta sau bữa tối. Yudkowsky cho biết, về cơ bản là nhắc Thiel về giả thuyết thị trường hiệu quả, cho rằng tất cả các yếu tố rủi ro đã được định giá vào thị trường, không còn chỗ để kiếm tiền từ bất kỳ thứ gì ngoài thông tin nội bộ. Thiel đã bị mê hoặc.
Thiel và Yudkowsky bắt đầu thỉnh thoảng dùng bữa tối cùng nhau. Yudkowsky coi Thiel "giống như một người cố vấn", ông nói. Năm 2005, Thiel bắt đầu tài trợ cho Viện Singularity của Yudkowsky, và năm sau, họ hợp tác với Ray Kurzweil - người có cuốn sách The Singularity Is Near đã trở thành sách bán chạy nhất - để tạo ra Hội nghị thượng đỉnh Singularity tại Đại học Stanford. Trong sáu năm tiếp theo, hội nghị đã mở rộng thành một diễn đàn nổi bật dành cho những người theo chủ nghĩa tương lai, những người theo chủ nghĩa siêu nhân, những người theo chủ nghĩa Extropian, các nhà nghiên cứu AI và các tác giả khoa học viễn tưởng, bao gồm Bostrom, More, Hanson, giáo sư AI tại Stanford Sebastian Thrun, người sáng lập XPrize Peter Diamandis và Aubrey de Grey, một nhà lão khoa học tuyên bố rằng con người cuối cùng có thể đánh bại được lão hóa. Người đồng sáng lập Skype Jaan Tallinn, người đã tham gia hội nghị thượng đỉnh, đã được Yudkowsky truyền cảm hứng để trở thành một trong những nhà tài trợ chính cho nghiên cứu nhằm giảm thiểu rủi ro hiện sinh từ AI. Một người tham gia hội nghị thượng đỉnh khác, nhà vật lý Max Tegmark, sau này đã đồng sáng lập Viện Tương lai của Sự sống.
Bản thân Vernor Vinge cũng xuất hiện, trông giống như một giáo viên hóa học trường công với cặp kính Walter White và bộ râu xám gọn gàng, vui vẻ nhắc nhở khán giả rằng khi điểm kỳ dị xuất hiện, "Chúng ta không còn là người cầm lái nữa".
Năm 2010, một trong những nhà nghiên cứu AI được Yudkowsky mời đến phát biểu tại hội nghị thượng đỉnh là Shane Legg, một nhà toán học, nhà khoa học máy tính và vũ công ba lê người New Zealand, người đã bị ám ảnh bởi việc xây dựng siêu trí tuệ kể từ khi Yudkowsky giới thiệu ý tưởng này cho ông một thập kỷ trước. Legg đã làm việc tại Intelligenesis, một công ty khởi nghiệp có trụ sở tại New York do nhà khoa học máy tính Ben Goertzel thành lập, công ty này đang cố gắng phát triển AI đầu tiên trên thế giới. Sản phẩm nổi tiếng nhất của công ty là WebMind, một dự án phần mềm đầy tham vọng nhằm mục đích dự đoán xu hướng thị trường chứng khoán. Goertzel, người có bằng tiến sĩ toán học, đã là người đăng bài tích cực trên danh sách gửi thư Extropians trong nhiều năm, tranh luận một cách trìu mến với Yudkowsky về chủ nghĩa siêu nhân và chủ nghĩa tự do. (Ông ủng hộ chủ nghĩa siêu nhân nhưng không ủng hộ chủ nghĩa tự do.) Quay trở lại năm 2000, Yudkowsky đã đến phát biểu tại công ty của Goertzel (công ty này sẽ phá sản trong vòng một năm). Legg chỉ ra bài nói chuyện là thời điểm ông bắt đầu nghiêm túc xem xét ý tưởng về siêu trí tuệ, vượt ra ngoài những bức biếm họa trong phim. Goertzel và Legg bắt đầu gọi khái niệm này là “trí tuệ nhân tạo tổng quát”.
Legg tiếp tục lấy bằng tiến sĩ, viết luận án "Siêu trí tuệ máy móc", lưu ý rằng công nghệ này có thể trở thành mối đe dọa hiện hữu, và sau đó chuyển sang làm nghiên cứu sinh sau tiến sĩ tại Đơn vị thần kinh học tính toán Gatsby của Đại học London, một phòng thí nghiệm bao gồm khoa học thần kinh, học máy và AI. Tại đó, anh đã gặp một thiên tài chơi game đến từ London tên là Demis Hassabis, con trai của một người mẹ Singapore và một người cha Hy Lạp Síp. Hassabis từng là kỳ thủ cờ vua đứng thứ hai thế giới dưới 14 tuổi. Bây giờ anh tập trung vào việc xây dựng một AI lấy cảm hứng từ bộ não con người. Legg và Hassabis chia sẻ một tầm nhìn chung, cực kỳ lỗi thời. "Về cơ bản, đó là một lãnh địa gây khó chịu", Legg nói với nhà báo Cade Metz. "Nếu bạn nói chuyện với bất kỳ ai về AI nói chung, bạn sẽ bị coi là lập dị nhất, tệ nhất là một loại nhân vật ảo tưởng, phi khoa học". Legg nghĩ rằng nó có thể được xây dựng trong học viện, nhưng Hassabis, người đã từng thử khởi nghiệp và thất bại, biết rõ hơn. Cách duy nhất để thực hiện là thông qua ngành công nghiệp. Và có một nhà đầu tư sẽ là nơi rõ ràng để bắt đầu: Peter Thiel.
Legg và Hassabis đến Hội nghị thượng đỉnh Singularity năm 2010 với tư cách là người thuyết trình, đúng vậy, nhưng thực ra là để gặp Thiel, người thường mời những người tham gia hội nghị thượng đỉnh đến nhà riêng của ông ở San Francisco, theo lời kể của Metz. Hassabis đã có bài phát biểu vào ngày đầu tiên của hội nghị thượng đỉnh, nơi đã chuyển đến một khách sạn ở trung tâm thành phố San Francisco, phác thảo tầm nhìn của ông về một AI lấy cảm hứng từ bộ não con người. Legg theo sau vào ngày hôm sau với một bài phát biểu về cách AI cần phải có thể đo lường được để tiến lên phía trước. Sau đó, họ đi uống cocktail tại nhà của Thiel ở Marina District, nơi có thể nhìn ra cả Cầu Cổng Vàng và Cung điện Mỹ thuật, và rất vui khi thấy một bàn cờ vua trên bàn. Họ chen qua đám đông và tìm thấy Yudkowsky, người đã dẫn họ đến gặp Thiel để giới thiệu. Cố gắng tỏ ra bình tĩnh, Hassabis đã bỏ qua phần chào hàng khó khăn và bắt đầu bằng cờ vua, một chủ đề mà ông biết là rất được Thiel yêu thích. Hassabis cho biết trò chơi đã vượt qua được thử thách của thời gian vì hiệp sĩ và giám mục có sự căng thẳng thú vị - ngang nhau về giá trị, nhưng lại khác biệt sâu sắc về điểm mạnh và điểm yếu. Thiel đã mời họ quay lại vào ngày hôm sau để kể cho ông nghe về công ty khởi nghiệp của họ.
Vào buổi sáng, họ giới thiệu Thiel, vừa mới tập luyện xong, qua bàn ăn của anh ấy. Hassabis cho biết họ đang xây dựng AGI lấy cảm hứng từ bộ não con người, ban đầu sẽ đo lường tiến trình của nó bằng cách huấn luyện nó chơi trò chơi và tin tưởng rằng những tiến bộ trong sức mạnh tính toán sẽ thúc đẩy những đột phá của họ. Lúc đầu, Thiel đã do dự, nhưng sau nhiều tuần đã đồng ý đầu tư 2,25 triệu đô la, trở thành nhà đầu tư lớn đầu tiên của công ty vẫn chưa được nêu tên này. Vài tháng sau, Hassabis, Legg và người bạn của họ, doanh nhân Mustafa Suleyman, đã chính thức đồng sáng lập DeepMind, ám chỉ đến kế hoạch kết hợp "học sâu", một loại học máy sử dụng nhiều lớp mạng nơ-ron, với khoa học thần kinh thực tế của công ty. Ngay từ đầu, họ đã nói với các nhà đầu tư rằng mục tiêu của họ là phát triển AGI, mặc dù họ lo sợ một ngày nào đó nó có thể đe dọa đến sự tồn tại của loài người.
Chính thông qua mạng lưới của Thiel mà DeepMind đã tuyển dụng được người đồng nghiệp kỳ cựu của PayPal là Elon Musk làm nhà đầu tư. Quỹ Founders Fund của Thiel, vốn đã đầu tư vào công ty tên lửa SpaceX của Musk, đã mời Hassabis đến phát biểu tại một hội nghị vào năm 2012 và Musk đã tham dự. Hassabis đã vạch ra kế hoạch 10 năm của mình cho DeepMind, quảng cáo nó như một "Dự án Manhattan" cho AI nhiều năm trước khi Altman sử dụng cụm từ này. Thiel nhớ lại một trong những nhà đầu tư của mình đã nói đùa trên đường ra rằng bài phát biểu rất ấn tượng, nhưng ông cảm thấy cần phải bắn Hassabis để cứu loài người.
Năm sau, Luke Nosek, đồng sáng lập của cả PayPal và Founders Fund, là bạn của Musk và ngồi trong ban quản trị SpaceX, đã giới thiệu Hassabis với Musk. Musk đã đưa Hassabis đi tham quan trụ sở chính của SpaceX ở Los Angeles. Khi cả hai ngồi xuống ăn trưa tại căng tin của công ty, họ đã có một cuộc trò chuyện mang tính vũ trụ. Hassabis nói với Musk rằng ông đang nghiên cứu điều quan trọng nhất trên thế giới, một AI siêu thông minh. Musk trả lời rằng thực tế, ông đang nghiên cứu điều quan trọng nhất trên thế giới: biến con người thành một loài liên hành tinh bằng cách thuộc địa hóa sao Hỏa. Hassabis trả lời rằng điều đó nghe có vẻ tuyệt, miễn là một AI độc ác không theo Musk lên sao Hỏa và cũng hủy diệt loài người ở đó. Musk trở nên rất im lặng. Ông chưa bao giờ thực sự nghĩ về điều đó. Ông quyết định theo dõi công nghệ của DeepMind bằng cách đầu tư vào nó.
Vào tháng 12 năm 2013, Hassabis đã đứng trên sân khấu tại một hội nghị về máy học tại Harrah's ở Lake Tahoe và trình diễn bước đột phá lớn đầu tiên của DeepMind: một tác nhân AI có thể học cách chơi và sau đó nhanh chóng thành thạo trò chơi điện tử kinh điển Breakout của Atari mà không cần bất kỳ hướng dẫn nào từ con người. DeepMind đã thực hiện điều này bằng cách kết hợp mạng nơ-ron sâu và học tăng cường, và kết quả thật đáng kinh ngạc đến nỗi Google đã mua công ty này với giá được cho là 650 triệu đô la một tháng sau đó.
Những hàm ý của thành tựu của DeepMind—là một bước tiến lớn hướng tới một trí thông minh đa năng có thể hiểu được thế giới hỗn loạn xung quanh và hướng tới một mục tiêu—không được hiểu rộng rãi cho đến khi công ty công bố một bài báo về những phát hiện của mình trên tạp chí Nature hơn một năm sau đó. Nhưng Thiel, với tư cách là một nhà đầu tư của DeepMind, đã hiểu rõ chúng và thảo luận về chúng với Altman. Vào tháng 2 năm 2014, một tháng sau khi Google mua DeepMind, Altman đã viết một bài đăng trên blog cá nhân của mình có tiêu đề "AI" tuyên bố công nghệ này là xu hướng công nghệ quan trọng nhất mà mọi người không chú ý đủ.
“Để nói rõ hơn, AI (theo định nghĩa khoa học thông thường) có thể sẽ không hiệu quả. Bạn có thể nói như vậy về bất kỳ công nghệ mới nào và đó là một tuyên bố đúng đắn. Nhưng tôi nghĩ hầu hết mọi người đều quá bi quan về cơ hội của nó”, ông viết, đồng thời nói thêm rằng “trí tuệ nhân tạo tổng quát có thể hiệu quả và nếu có, đó sẽ là sự phát triển lớn nhất trong công nghệ từ trước đến nay”.
Hơn một năm sau, Altman hợp tác với Elon Musk để đồng sáng lập OpenAI như một đối trọng phi doanh nghiệp với DeepMind của Google. Và với điều đó, cuộc đua xây dựng trí tuệ nhân tạo tổng quát đã bắt đầu.
Đây là cuộc đua mà Yudkowsky đã giúp khởi động. Nhưng khi nó tăng tốc, bản thân Yudkowsky ngày càng lo lắng về những gì ông thấy là mối nguy hiểm ở cấp độ tuyệt chủng mà nó gây ra. Ông vẫn có ảnh hưởng trong số các nhà đầu tư, nhà nghiên cứu và những người lập dị , nhưng giờ đây là tiếng nói của sự thận trọng cực độ.
Yudkowsky không trực tiếp tham gia vào OpenAI, nhưng blog của ông, LessWrong, được nhiều nhà nghiên cứu và kỹ sư AI làm việc tại đó đọc rộng rãi. (Khi còn làm việc tại Stripe, người đồng sáng lập OpenAI, Greg Brockman, đã tổ chức một nhóm đọc LessWrong hàng tuần.) Những ý tưởng duy lý mà Yudkowsky ủng hộ trùng lặp đáng kể với những ý tưởng của phong trào Chủ nghĩa vị tha hiệu quả, phong trào này đang tập trung nhiều vào việc ngăn ngừa rủi ro hiện sinh từ AI.
Vài tháng sau khi cuộc đua này được công khai rộng rãi với việc OpenAI phát hành ChatGPT vào tháng 11 năm 2022, Yudkowsky đã xuất bản một bài luận trên tạp chí Time lập luận rằng nếu làn sóng nghiên cứu AI tạo sinh hiện tại không bị dừng lại thì "theo nghĩa đen, tất cả mọi người trên Trái Đất sẽ chết".
Thiel cảm thấy Yudkowsky đã trở nên "cực kỳ bảo thủ và bảo thủ". Và hai thành viên hội đồng quản trị của OpenAI có quan hệ với Chủ nghĩa vị tha hiệu quả. Chưa đầy một tuần trước khi Altman bị cách chức CEO vào mùa thu năm 2023, Thiel đã cảnh báo người bạn của mình, "Anh không hiểu Eliezer đã lập trình một nửa số người trong công ty của anh tin vào những thứ này như thế nào đâu". Lời cảnh báo của Thiel đi kèm với một chút tội lỗi rằng anh đã tạo ra con quái vật nhiều đầu đang lao đến tấn công bạn mình.
Trích đoạn được chuyển thể từ The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future, của Keach Hagey. Xuất bản theo thỏa thuận với WW Norton & Company. Bản quyền © 2025 của Keach Hagey.
