Người ta thường nói về tác động của tiến bộ công nghệ đối với tương lai. Tháng trước, "Tuyên bố lạc quan về công nghệ" của Marc Andreessen rõ ràng phản đối nỗi lo sợ về tiến bộ công nghệ, ngoài ra, cuộc tranh cãi trong tháng này do OpenAI gây ra, chủ đề này một lần nữa làm dấy lên cuộc thảo luận sôi nổi.
Vitalik Buterin phản đối tâm lý “ưu tiên duy trì tình trạng hiện tại của thế giới” và chỉ ra rằng sự phát triển công nghệ không chỉ cần tập trung vào cường độ mà còn phải tập trung vào phương hướng. Trong bài viết mới nhất của mình, ông đã thảo luận sâu sắc về sự giao thoa giữa trí tuệ nhân tạo và blockchain, đồng thời đề xuất khái niệm “d/acc” (tăng tốc phi tập trung). Ông cho rằng rằng với sự phát triển nhanh chóng của công nghệ, sự xuất hiện của trí tuệ nhân tạo có thể trở thành một trong những thách thức lớn nhất mà nhân loại phải đối mặt, nhưng nó cũng đề xuất một con đường phát triển nhân văn và phi tập trung hơn.
Các chủ đề trong bài viết bao gồm bảo vệ thông tin, công nghệ xã hội, hợp tác giữa con người và máy móc và các khía cạnh khác, nêu bật tầm quan trọng của việc tích cực chỉ đạo định hướng phát triển công nghệ. Trong một bối cảnh triết học khác, Vitalik ủng hộ một thái độ vừa tích cực vừa thận trọng, kêu gọi các nhà phát triển chú ý hơn đến các lựa chọn và ý định khi xây dựng công nghệ để đảm bảo rằng sự phát triển của công nghệ phù hợp với giá trị con người và lâu dài. -lợi ích có kỳ hạn.
Đặc biệt cảm ơn Morgan Beller, Juan Benet, Eli Dourado, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, tình nguyện viên Balvi và những người khác vì những phản hồi và đánh giá của họ.
Tháng trước, Marc Andreessen đã xuất bản "Tuyên ngôn lạc quan về công nghệ", kêu gọi một sự nhiệt tình mới đối với công nghệ đồng thời ủng hộ việc sử dụng thị trường và các phương tiện tư bản để xây dựng công nghệ và thúc đẩy nhân loại hướng tới một tương lai tươi sáng hơn. Tuyên ngôn bác bỏ rõ ràng cái gọi là tâm lý trì trệ, đó là nỗi sợ hãi về tiến bộ công nghệ và ưu tiên giữ cho thế giới như ngày nay. Tuyên bố này đã nhận được sự chú ý rộng rãi, bao gồm cả phản hồi từ Noah Smith, Robin Hanson, Joshua Gans (thái độ tích cực), Dave Karpf, Luca Ropek, Ezra Klein (thái độ tiêu cực hơn) và những người khác. Mặc dù không liên quan trực tiếp đến tuyên ngôn, các chủ đề tương tự bao gồm "Chủ nghĩa tương lai bảo thủ" của James Pethokoukis và "Đã đến lúc xây dựng vì điều tốt" của Palladium. Tháng này, chúng ta đang chứng kiến một cuộc tranh luận tương tự thông qua cuộc tranh cãi về OpenAI, với phần lớn cuộc thảo luận tập trung vào sự nguy hiểm của trí tuệ siêu nhân tạo và khả năng OpenAI có thể phát triển quá nhanh.
Đọc mở rộng: Lý do thực sự khiến Sam Altman bị tước quyền? Ban Giám đốc OpenAI nhận được cảnh báo: AI mới đe dọa toàn nhân loại
Cảm giác lạc quan về công nghệ của tôi rất ấm áp và nhiều sắc thái. Tôi tin rằng tương lai sẽ tươi sáng hơn hiện tại nhờ những công nghệ thay đổi hoàn toàn, đồng thời tôi cũng tin vào con người và nhân loại. Tôi phản đối quan điểm cho rằng chúng ta nên cố gắng giữ cho thế giới về cơ bản giống như ngày nay, chỉ cần bớt tham lam hơn và chăm sóc sức khỏe cộng đồng nhiều hơn. Nhưng trên cơ sở này, tôi cho rằng không chỉ bằng cấp quan trọng mà phương hướng cũng rất quan trọng. Một số loại công nghệ nhất định có thể trực tiếp làm cho thế giới trở thành một nơi tốt đẹp hơn, trong khi một số loại, nếu được phát triển, có thể giảm thiểu tác động tiêu cực của các loại công nghệ khác. Hiện nay, thế giới đang đầu tư quá mức vào một số hướng phát triển công nghệ và chưa đầu tư đủ vào các hướng khác. Chúng ta cần tỉnh táo lựa chọn hướng đi mình muốn vì công thức “tối đa hóa lợi nhuận” không tự động dẫn đến những hướng đi này.
Trong bài viết này, tôi sẽ khám phá ý nghĩa của sự lạc quan về công nghệ đối với tôi. Điều này bao gồm thế giới quan rộng hơn đã truyền cảm hứng cho công việc của tôi về một số loại ứng dụng blockchain và mật mã, công nghệ xã hội và các lĩnh vực khoa học khác mà tôi quan tâm. Nhưng những quan điểm khác nhau về vấn đề này cũng có ý nghĩa quan trọng đối với trí tuệ nhân tạo và nhiều lĩnh vực khác. Những tiến bộ nhanh chóng về công nghệ của chúng ta có thể sẽ trở thành vấn đề xã hội quan trọng nhất của thế kỷ 21, vì vậy việc suy nghĩ cẩn thận về vấn đề này là điều hợp lý.
Công nghệ thật tuyệt vời và việc trì hoãn sự phát triển của nó có trả giá cực kỳ tốn kém.
Ở một số khu vực, mọi người thường đánh giá thấp lợi ích của công nghệ, coi nó như một điều không tưởng và là nguồn rủi ro tiềm ẩn. Trong nửa thế kỷ qua, quan điểm này thường được thúc đẩy bởi những lo ngại hoàn cảnh hoặc lo ngại rằng lợi ích của công nghệ sẽ chỉ đến với người giàu, củng cố quyền lực của họ đối với người nghèo. Gần đây, tôi cũng nhận thấy rằng một số người theo chủ nghĩa tự do lo lắng về một số công nghệ có thể dẫn đến sự tập trung quyền lực. Trong tháng này, tôi đã thực hiện một số nghiên cứu về câu hỏi sau: Nếu một công nghệ cần bị hạn chế vì nó quá nguy hiểm, thì mọi người muốn độc quyền hay trì hoãn nó trong một thập kỷ? Thật ngạc nhiên, trên ba nền tảng và ba tùy chọn trạng thái độc quyền, mọi người đều nhất trí và mạnh mẽ lựa chọn trì hoãn.
Vì vậy, đôi khi tôi lo lắng rằng chúng ta có thể đang sửa chữa quá mức và nhiều người đang bỏ qua một khía cạnh khác của cuộc tranh luận: rằng lợi ích của công nghệ thực sự rất lớn và ở những lĩnh vực mà chúng ta có thể đo lường chúng, những tác động tích cực vượt xa những tác động tiêu cực, thậm chí nếu họ trì hoãn một thập kỷ Cái giá phải trả cũng không thể tính toán được.
Để làm ví dụ cụ thể, chúng ta hãy nhìn vào biểu đồ tuổi thọ:
Chúng ta đã thấy gì? Trong thế kỷ qua, đã có những tiến bộ thực sự to lớn. Điều này áp dụng cho toàn thế giới, cả những khu vực giàu có và thống trị lịch sử cũng như những khu vực nghèo và bị bóc lột.
Một số đổ lỗi cho công nghệ đã tạo ra hoặc làm trầm trọng thêm các thảm họa, chẳng hạn như chủ nghĩa toàn trị và chiến tranh. Trên thực tế, chúng ta có thể nhìn lên biểu đồ số người chết do chiến tranh: trong Thế chiến thứ nhất (những năm 1910) và trong Thế chiến thứ hai (những năm 1940). Nếu để ý kỹ, bạn cũng có thể thấy những thảm họa phi quân sự như Cúm Tây Ban Nha và Bước nhảy vọt vĩ đại. Nhưng biểu đồ cho thấy một điều rõ ràng: Ngay cả khi những thảm họa đó khủng khiếp đến mức nào, chúng vẫn bị choáng ngợp bởi quy mô tuyệt đối của những cải tiến được thực hiện về thực phẩm, vệ sinh, y học và cơ sở hạ tầng trong thế kỷ đó.
Điều này phù hợp với những cải thiện đáng kể trong cuộc sống hàng ngày của chúng ta. Nhờ có Internet, hầu hết mọi người trên thế giới giờ đây có thể dễ dàng tiếp cận những thông tin mà hai mươi năm trước không có được. Nền kinh tế toàn cầu đã trở nên dễ tiếp cận hơn nhờ những cải thiện trong thanh toán và tài chính quốc tế. Tình trạng nghèo đói toàn cầu đang giảm nhanh chóng. Với bản đồ trực tuyến, chúng ta không còn phải lo lắng về việc bị lạc trong thành phố nữa và giờ đây chúng ta có cách gọi xe dễ dàng hơn nếu cần về nhà nhanh chóng. Tài sản của chúng ta đã trở thành đồ vật kỹ thuật số và vật lý trở nên rẻ hơn, điều đó có nghĩa là chúng ta không còn lo lắng nhiều về hành vi trộm cắp vật lý nữa. Mua sắm trực tuyến đã làm giảm sự bất bình đẳng trong khả năng tiếp cận hàng hóa giữa các thành phố lớn trên toàn cầu và phần còn lại của thế giới. Ở mọi khía cạnh, tự động hóa mang lại cho chúng ta lợi ích luôn bị đánh giá thấp đó là chỉ đơn giản là làm cho cuộc sống của chúng ta thuận tiện hơn.
Những cải tiến này, cả có thể định lượng và không thể định lượng, đều rất lớn. Và trong thế kỷ 21, rất có thể sẽ sớm có những cải tiến lớn hơn nữa. Ngày nay, việc chấm dứt lão hóa và bệnh tật dường như là một khái niệm không tưởng. Nhưng từ góc nhìn của máy tính vào năm 1945, kỷ nguyên hiện đại của việc gắn chip vào hầu hết mọi thứ đã từng là điều không tưởng. Nếu công nghệ sinh học tiến bộ trong 75 năm tới giống như máy tính đã tiến bộ trong 75 năm qua, thì tương lai có thể sẽ ấn tượng hơn hầu hết mọi người mong đợi.
Đồng thời, một số hoài nghi về sự tiến bộ thường có chiều hướng đen tối hơn. Ngay cả những cuốn sách giáo khoa y khoa, chẳng hạn như cuốn sách này từ những năm 1990 (cảm ơn Emma Szewczak vì đã tìm ra nó), đôi khi đưa ra những tuyên bố cực đoan phủ nhận giá trị của hai thế kỷ khoa học y tế và thậm chí còn cho rằng cứu sống con người không phải là một điều Tốt:
Lý thuyết "giới hạn tăng trưởng" là một quan điểm được đưa ra vào những năm 1970, cho rằng dân số và công nghiệp tăng trưởng cuối cùng sẽ làm cạn kiệt nguồn tài nguyên hạn chế của trái đất, dẫn đến chính sách một con của Trung Quốc và tình trạng triệt sản cưỡng bức trên quy mô lớn ở Ấn Độ. Trong thời gian trước đó, những lo ngại về dân số quá đông được sử dụng để biện minh cho việc giết người hàng loạt. Và quan điểm này, được phát triển từ năm 1798, đã được chứng minh là sai trong một thời gian dài.
Chính vì những lý do này mà tôi cảm thấy rất khó chịu với những lập luận ủng hộ việc làm chậm tiến bộ công nghệ hoặc con người. Ngay cả sự chậm lại của các ngành cũng có thể nguy hiểm do có mối liên hệ chặt chẽ giữa các ngành. Vì vậy, với một trái tim nặng trĩu, tôi nói với một trái tim nặng trĩu khi viết những gì tôi sẽ khám phá tiếp theo, rời khỏi quan điểm cởi mở để tiến bộ dưới bất kỳ hình thức nào. Tuy nhiên, thế kỷ 21 rất khác biệt và độc đáo nên những điều tinh tế này đáng được xem xét.
Phải nói rằng, xét về câu hỏi rộng hơn, đặc biệt là khi chúng ta vượt qua"công nghệ tổng thể có tốt không" và hướng tới "công nghệ cụ thể nào là tốt?", có một sắc thái quan trọng cần chỉ ra: hoàn cảnh.
Tầm quan trọng của hoàn cảnh và sự sẵn sàng phối hợp
Tiến bộ đã đạt được ở hầu hết mọi khía cạnh trong hàng trăm năm qua, ngoại trừ vấn đề biến đổi khí hậu:
Ngay cả một kịch bản bi quan về nhiệt độ tăng cũng sẽ không thể dẫn đến sự tuyệt chủng thực sự của con người. Nhưng một kịch bản như vậy có thể giết chết nhiều người hơn một cuộc chiến tranh lớn và có thể gây tổn hại nghiêm trọng đến sức khỏe cũng như sinh kế của người dân ở những khu vực vốn đã gặp khó khăn nhất. Một nghiên cứu của Viện Swiss Re cho thấy kịch bản biến đổi khí hậu trong trường hợp xấu nhất có thể giảm tới 25% tổng sản phẩm quốc nội của các nước nghèo nhất thế giới. Nghiên cứu cũng lưu ý rằng tuổi thọ ở vùng nông thôn Ấn Độ có thể thấp hơn một thập kỷ so với dự kiến ban đầu, trong khi các nghiên cứu như thế này và nghiên cứu này cho thấy biến đổi khí hậu có thể khiến thêm 100 triệu người tử vong vào cuối thế kỷ này.
Những vấn đề này rất nghiêm trọng. Câu trả lời cho lý do tại sao tôi lạc quan về khả năng vượt qua những thách thức này của chúng ta có hai mặt. Đầu tiên, sau nhiều thập kỷ cường điệu và mơ tưởng, năng lượng mặt trời cuối cùng cũng đã bước sang một chặng đường mới và các công nghệ hỗ trợ như pin cũng đang đạt được tiến bộ tương tự. Thứ hai, chúng ta có thể nhìn vào thành tích của nhân loại trong việc giải quyết các vấn đề hoàn cảnh trước đây, lấy ô nhiễm không khí làm ví dụ. Dystopias của quá khứ: Sương mù London năm 1952 London.
Điều gì đã xảy ra kể từ đó? Chúng tôi đã hỏi lại Thế giới dữ liệu của chúng tôi:
Hóa ra năm 1952 thậm chí còn chưa phải là đỉnh điểm của ô nhiễm không khí: nồng độ chất ô nhiễm không khí cao hơn thậm chí còn cho rằng bình thường và chấp nhận được vào cuối thế kỷ 19. Kể từ đó, chúng ta đã chứng kiến tình trạng ô nhiễm không khí giảm nhanh chóng và bền vững trong suốt một thế kỷ. Tôi đã trực tiếp trải nghiệm quá trình này, khi tôi đến thăm Trung Quốc vào năm 2014, không khí chứa đầy khói bụi nồng độ cao và ước tính tuổi thọ sẽ bị rút ngắn hơn 5 năm là điều bình thường, nhưng vào năm 2020, không khí thường xuyên trông sạch sẽ như ở nhiều thành phố phương Tây. Đây không phải là câu chuyện thành công duy nhất của chúng tôi. Ở nhiều nơi trên thế giới, diện tích rừng ngày càng tăng. Cuộc khủng hoảng mưa axit đang được cải thiện. Tầng ozone đã được phục hồi trong nhiều thập kỷ.
Đối với tôi, ý nghĩa của câu chuyện này là đôi khi, phiên bản N của công nghệ mà nền văn minh của chúng ta có gây ra vấn đề và phiên bản N+1 sẽ giải quyết nó. Tuy nhiên, điều này không xảy ra một cách tự động và đòi hỏi sự nỗ lực có ý thức của con người. Tầng ozone đang phục hồi vì chúng ta đã đưa nó trở lại thông qua các hiệp định quốc tế như Nghị định thư Montreal. Ô nhiễm không khí đang được cải thiện bởi vì chúng ta đang làm cho nó tốt hơn. Tương tự như vậy, các tấm pin mặt trời đã đạt được những bước tiến lớn không phải vì chúng là một phần định mệnh của cây công nghệ năng lượng, mà bởi vì hàng thập kỷ nhận thức được tầm quan trọng của việc giải quyết vấn đề biến đổi khí hậu đã truyền cảm hứng cho các kỹ sư nghiên cứu vấn đề này và các Công ty cũng như chính phủ tài trợ cho nghiên cứu của họ. Việc giải quyết những vấn đề này đạt được thông qua hành động có ý thức, định hình quan điểm của chính phủ, nhà khoa học, nhà từ thiện và doanh nghiệp thông qua diễn ngôn và văn hóa công cộng, chứ không phải là "cỗ máy vốn công nghệ" không thể ngăn cản.
Trí tuệ nhân tạo về cơ bản khác với các công nghệ khác và cần được chăm sóc đặc biệt
Rất nhiều quan điểm bác bỏ về AI mà tôi thấy đến từ quan điểm cho rằng nó chỉ là “một công nghệ khác”: cùng loại với mạng xã hội, crypto, biện pháp tránh thai, điện thoại, máy bay, súng, in ấn và bánh xe mọi thứ. Những điều này rõ ràng có tác động đáng kể đến xã hội. Chúng không chỉ là những cải thiện riêng lẻ đối với hạnh phúc cá nhân, mà còn thay đổi căn bản văn hóa, thay đổi cán cân quyền lực và gây tổn hại cho những người phụ thuộc nhiều vào trật tự trước đó. Nhiều người chống lại họ. Nhìn chung, những người bi quan luôn được chứng minh là sai.
Nhưng có một cách ứng xử trí tuệ nhân tạo, đó là một kiểu tư duy mới đang nhanh chóng nâng cao trình độ trí tuệ, thậm chí có vượt qua trí thông minh của con người và trở thành loài sinh vật hàng đầu mới trên hành tinh. Theo cách tiếp cận này, những thứ nhỏ hơn nhiều đều được đề cập đến, bao gồm con người vượt qua khỉ, sinh vật đa bào vượt qua sinh vật đơn bào, nguồn gốc của sự sống và có lẽ là Cách mạng Công nghiệp, trong đó các thiết bị cơ khí vượt qua sức mạnh vật lý của Nhân loại. Đột nhiên, chúng tôi có cảm giác như đang bước đi trong một lãnh địa xa lạ.
Điều quan trọng là có rủi ro
Trong kịch bản có sự cố xảy ra với AI và có thể khiến thế giới trở thành một nơi tồi tệ hơn, thì trường hợp xấu nhất (một rủi ro gần như đau đớn) là nó thực sự có thể dẫn đến sự tuyệt chủng của loài người . Đây là một tuyên bố cực đoan: mặc dù những kịch bản xấu nhất từ biến đổi khí hậu, đại dịch do con người gây ra hay chiến tranh hạt nhân có thể gây ra thiệt hại lớn, nhưng vẫn còn rất nhiều “hòn đảo” văn minh sẽ còn nguyên vẹn để nhặt những mảnh vỡ. Nhưng nếu một AI siêu thông minh quyết định chống lại chúng ta, rất có thể sẽ không còn ai sống sót, từ đó chấm dứt nhân loại vĩnh viễn. Ngay cả sao Hỏa cũng có thể không an toàn.
Một lý do khiến mối quan tâm tập trung vào sự hội tụ công cụ: đối với loại mục tiêu rất rộng mà một thực thể siêu trí tuệ có thể có, hai bước trung gian rất tự nhiên mà AI có thể thực hiện để đạt được những mục tiêu đó tốt hơn là (i) tiêu thụ tài nguyên và (ii) đảm bảo sự an toàn của chính chúng . Trái đất chứa đựng nguồn tài nguyên lượng lớn và con người là mối đe dọa có thể dự đoán được đối với an ninh của một thực thể như vậy. Chúng ta có thể cố gắng đưa ra cho AI một mục tiêu rõ ràng, đó là yêu thương và bảo vệ con người, nhưng chúng ta không biết làm cách nào để đạt được mục tiêu đó theo cách không hoàn toàn suy sụp khi AI gặp phải điều gì đó bất ngờ. . Vậy là chúng ta đang phải đối mặt với một vấn đề.
Một cuộc khảo sát năm 2022 với các nhà nghiên cứu về học máy cho thấy rằng một nhà nghiên cứu trung bình cho rằng xác suất trí tuệ nhân tạo thực sự giết chết tất cả chúng ta là từ 5-10%, gần giống như khi bạn chết vì những nguyên nhân phi sinh học (chẳng hạn như chấn thương). có thể so sánh được.
Đây chỉ là một giả thuyết suy đoán và tất cả chúng ta nên cảnh giác với những giả thuyết suy đoán liên quan đến những câu chuyện phức tạp, nhiều bước. Tuy nhiên, những lập luận này đã tồn tại hơn một thập kỷ được xem xét kỹ lưỡng và do đó, dường như đáng được quan tâm nhẹ nhàng. Nhưng ngay cả khi bạn không lo lắng về sự tuyệt chủng thực sự thì vẫn có những lý do khác để lo lắng.
Ngay cả khi chúng ta sống sót, liệu tương lai của AI siêu thông minh có phải là thế giới mà chúng ta muốn sống?
Nhiều tiểu thuyết khoa học viễn tưởng hiện đại mô tả những kịch bản đen tối và miêu tả kém về trí tuệ nhân tạo. Ngay cả khi các tác phẩm phi khoa học viễn tưởng cố gắng khám phá tương lai của trí tuệ nhân tạo, các câu trả lời thường khá không thỏa đáng. Vì vậy, tôi đã hỏi xung quanh và hỏi về những mô tả về một tương lai liên quan đến AI siêu thông minh, dù là khoa học viễn tưởng hay không, và liệu chúng ta có muốn sống trong trong đó. Cho đến nay, câu trả lời phổ biến nhất là sê-ri Civilization của Iain Banks.
"Sê-Ri nền văn minh" mô tả một nền văn minh giữa các vì sao xa xôi, chủ yếu bao gồm hai nhân vật: con người bình thường và AI siêu thông minh được gọi là "tâm trí". Con người có một chút biến đổi, và mặc dù về mặt lý thuyết, công nghệ y tế cho phép con người sống vô thời hạn, nhưng hầu hết chọn chỉ sống khoảng 400 năm, dường như vì họ đã chán cuộc sống vào thời điểm đó.
Nhìn lên bề ngoài, cuộc sống của con người có vẻ tốt: thoải mái, các vấn đề sức khỏe được giải quyết, có nhiều lựa chọn giải trí phong phú và có mối quan hệ tích cực và hiệp lực giữa con người và “tâm trí”. Tuy nhiên, xem xét kỹ hơn mới thấy một vấn đề: có vẻ như “tâm trí” hoàn toàn kiểm soát mọi thứ, và nhân vật duy nhất của con người trong truyện là đóng vai trò là con tốt của “tâm trí” và thay mặt họ thực hiện nhiệm vụ.
Trích dẫn từ "Chống lại nền văn minh" của Gavin Leech:
Mặc dù cuốn sách dường như có các nhân vật chính là con người làm những việc lớn lao và nghiêm túc, nhưng con người không phải là nhân vật chính của câu chuyện; họ thực sự là những tác nhân của trí tuệ nhân tạo. (Zakalwe là một trong những trường hợp ngoại lệ duy nhất, vì anh ta có thể làm những điều trái đạo đức mà Tâm trí không muốn làm.) "Tâm trí trong sê-ri Civilization không cần con người, nhưng con người khao khát được cần đến." (Tôi cho rằng chỉ cần một số ít con người, hoặc một số ít trong đó số họ đủ thiếu thốn để từ bỏ nhiều tiện nghi. Hầu hết con người không sống ở mức độ này. Vẫn là một lời chỉ trích tốt.)
Các dự án do con người thực hiện mang theo rủi ro không thực tế. Máy móc có thể làm hầu hết mọi thứ tốt hơn. Bạn có thể làm gì? Bạn có thể ra lệnh cho tâm trí của mình không đỡ bạn khi bạn rơi xuống vách đá; bạn có thể xóa bản sao lưu bộ não của mình và khiến bản thân gặp rủi ro thực sự. Bạn cũng có thể rời bỏ nền văn minh và gia nhập một số nền văn minh lỗi thời, phi tự do "được đánh giá cao". Hoặc truyền bá về sự tự do bằng cách tham gia Liên hệ.
Tôi cho rằng ngay cả việc giao cho con người nhân vật "có ý nghĩa" trong sê-ri Civilization cũng là một điều quá đáng; tôi đã hỏi ChatGPT (còn ai nữa?) tại sao con người được giao nhân vật mà họ đóng, thay vì "bộ óc" tự mình làm việc đó. Tất cả mọi thứ đã được cân nhắc, cá nhân tôi thấy điều đó trả lời khá thất vọng. Trong một thế giới bị thống trị bởi AI siêu thông minh “thân thiện”, có vẻ như khó có thể cho phép con người phục vụ như nhân vật gì khác ngoài thú cưng.
Nhiều sê-ri khoa học viễn tưởng khác mô tả một thế giới tồn tại AI siêu thông minh, nhưng những trí tuệ nhân tạo này tuân theo mệnh lệnh của bậc thầy sinh học (không tăng cường) của con người. Star Trek là một ví dụ tuyệt vời về viễn cảnh mong đợi về sự hài hòa giữa phi thuyền và "máy tính" AI (và Dữ liệu) của nó cũng như phi hành đoàn con người điều hành nó. Tuy nhiên, sự cân bằng này dường như rất không ổn định. Thế giới của "Star Trek" ở hiện tại có vẻ dễ chịu, nhưng thật khó để tưởng tượng rằng viễn cảnh mong đợi của nó về mối quan hệ giữa trí tuệ nhân tạo và loài người không gì khác hơn là một thế giới mà các phi thuyền hoàn toàn được điều khiển bởi máy tính và không cần phải bận tâm. với các phòng thiết kế, trọng lực nhân tạo và kiểm soát khí hậu, giai đoạn chuyển tiếp 10 năm.
Trong tình huống như vậy, việc con người ra lệnh cho một cỗ máy siêu thông minh sẽ khiến con người kém thông minh hơn rất nhiều so với cỗ máy và có ít thông tin hơn. Trong một vũ trụ có sự cạnh tranh ở bất kỳ mức độ nào, những nền văn minh mà con người đóng địa vị thứ yếu sẽ vượt trội hơn những nền văn minh mà con người ngoan cố đòi quyền kiểm soát. Ngoài ra, bản thân máy tính có thể chiếm quyền kiểm soát. Để hiểu trong đó, hãy tưởng tượng bạn là nô lệ theo đúng nghĩa đen của một đứa trẻ tám tuổi. Nếu bạn có thể trò chuyện lâu với một đứa trẻ, bạn có cho rằng bạn có thể thuyết phục được đứa trẻ ký vào một tờ giấy giải phóng bạn không? Mặc dù tôi chưa tiến hành thí nghiệm này nhưng câu trả lời trực quan của tôi là có. Vì vậy, về tổng thể, việc con người trở thành thú cưng dường như là một điểm thu hút rất khó thoát mà không cần phải lo lắng về việc thiết kế hội trường, trọng lực nhân tạo và kiểm soát khí hậu.
Bầu trời ở gần và hoàng đế ở khắp mọi nơi
Câu tục ngữ “Trời cao hoàng đế xa” thể hiện một thực tế cơ bản về giới hạn của tập trung hóa chính trị. Ngay cả trong các đế chế chuyên quyền và lớn trên danh nghĩa - trên thực tế, và đặc biệt là ở các đế chế chuyên quyền lớn hơn - vẫn có những giới hạn thực tế đối với ảnh hưởng và sự chú ý của giới lãnh đạo, bị suy yếu do nhu cầu lãnh đạo giao phó cho các đại diện địa phương thực thi ý chí của mình. thực hiện ý định của mình, do đó sẽ luôn có một mức độ tự do thực tế nhất định. Đôi khi điều này có thể gây ra những tác động bất lợi: việc thiếu các quốc gia xa xôi thực thi các nguyên tắc và luật pháp thống nhất có thể tạo ra không gian cho các lãnh chúa địa phương cướp bóc và áp bức. Nhưng nếu quyền lực trung tâm suy giảm, những giới hạn thực tế về sự chú ý và khoảng cách có thể đặt ra những giới hạn thực tế về mức độ tồi tệ mà nó có thể xảy ra.
Trong thời đại trí tuệ nhân tạo, điều này không còn đúng nữa. Trong thế kỷ 20, công nghệ giao thông hiện đại đã khiến cho việc hạn chế khoảng cách trở nên kém hiệu quả hơn so với trước đây đối với quyền lực trung ương; các đế quốc toàn trị quy mô lớn những năm 1940 một phần là kết quả của việc này. Trong thế kỷ 21, việc thu thập và tự động hóa thông tin mở rộng có thể đồng nghĩa với việc sự chú ý sẽ không còn là hạn chế nữa. Sự biến mất hoàn toàn các giới hạn tự nhiên đối với sự tồn tại của chính phủ có thể gây ra những hậu quả thảm khốc.
Chủ nghĩa độc tài kỹ thuật số đã gia tăng trong một thập kỷ và công nghệ giám sát đã mang đến cho các chính phủ độc tài một chiến thuật mới mạnh mẽ để đàn áp phe đối lập: cho phép các cuộc biểu tình diễn ra, sau đó phát hiện và âm thầm hành động chống lại những người tham gia sau khi sự việc xảy ra. Trên thực tế, điều tôi lo lắng là loại công nghệ quản lý tương tự như OpenAI, cho phép nó phục vụ hơn 100 triệu khách hàng với 500 nhân viên, cũng sẽ tạo ra một tầng lớp chính trị gồm 500 người, hoặc thậm chí là một hội đồng gồm 5 người. giám đốc, không có quyền kiểm soát toàn bộ công ty, đất nước duy trì sự cai trị bằng bàn tay sắt. Với công nghệ giám sát hiện đại để thu thập thông tin và trí tuệ nhân tạo hiện đại để giải thích thông tin, có thể không còn nơi ẩn náu nữa.
Mọi thứ còn trở nên tồi tệ hơn khi chúng ta xem xét hậu quả của trí tuệ nhân tạo trong chiến tranh. Được dịch từ một bài báo Sohu bán nổi tiếng năm 2019, với công nghệ giám sát hiện đại để thu thập thông tin và trí tuệ nhân tạo hiện đại để diễn giải nó, có lẽ không còn nơi nào để trốn nữa.
“Không cần công tác chính trị tư tưởng và động viên thời chiến” chủ yếu có nghĩa là người chỉ huy cao nhất của cuộc chiến chỉ cần xem xét tình hình cuộc chiến, giống như chơi cờ, không cần lo lắng về các “hiệp sĩ” và “ xe ngựa" trên bàn cờ. Hiện tại bạn đang nghĩ về điều gì? Cuộc chiến đã trở thành một cuộc cạnh tranh thuần túy về mặt công nghệ.
Ở mức độ sâu hơn, “công tác chính trị, tư tưởng và động viên thời chiến” đòi hỏi bất cứ ai phát động chiến tranh đều phải có lý do chính đáng. Không nên đánh giá thấp tầm quan trọng của việc có được sự biện minh, một khái niệm chi phối tính hợp pháp của chiến tranh trong xã hội loài người trong hàng nghìn năm. Bất cứ ai muốn bắt đầu một cuộc chiến tranh ít nhất phải tìm được một lý do hoặc lời bào chữa chính đáng. Bạn có thể cho rằng sự ràng buộc này là yếu bởi vì, lịch sử, nó thường chỉ là một cái cớ. Ví dụ, động cơ thực sự đằng sau các cuộc Thập tự chinh là cướp bóc và mở rộng lãnh thổ, tuy nhiên, chúng được thực hiện nhân danh Chúa, ngay cả khi mục tiêu là những người sùng đạo ở Constantinople. Tuy nhiên, ngay cả hạn chế yếu nhất vẫn là hạn chế! Lý do đơn thuần này thực sự ngăn cản các chiến binh hoàn toàn để mục tiêu của họ không bị kiểm soát. Ngay cả một kẻ độc ác như Hitler cũng không thể tiến hành chiến tranh mà không dè dặt; ông ta đã phải mất nhiều năm thuyết phục người dân Đức về sự cần thiết cho rằng chủng tộc quý tộc Aryan để chiến đấu vì không gian sống của họ.
Ngày nay, “những người trong vòng tròn” đóng vai trò là một biện pháp kiểm tra quan trọng đối với quyền lực của những kẻ độc tài trong việc tiến hành chiến tranh hoặc đàn áp công dân tại quê nhà. Những người trong vòng lặp đã ngăn chặn chiến tranh hạt nhân, giữ cho Bức tường Berlin mở và cứu vãn sống trong các hành động tàn bạo như Holocaust. Nếu quân đội được tạo thành từ robot, hạn chế này sẽ biến mất hoàn toàn. Một nhà độc tài có thể say rượu lúc 10 giờ tối, nổi điên lúc 11 giờ tối vì ai đó không tử tế với họ trên Twitter, và sau đó trước nửa đêm, một đội robot xâm lược có thể vượt qua biên giới và tàn phá dân thường và cơ sở hạ tầng của quốc gia láng giềng.
Không giống như những thời đại trước, luôn có những góc xa, xa xôi, nơi những người chống đối chế độ có thể tổ chức lại, ẩn náu và cuối cùng tìm phương pháp cải thiện mọi thứ. Tuy nhiên, với sự phát triển của trí tuệ nhân tạo trong thế kỷ 21, một chế độ toàn trị có thể duy trì đủ mức “phong tỏa” bằng cách giám sát và kiểm soát thế giới đủ để không bao giờ thay đổi.
d/acc: Phòng thủ (hoặc Phân tán, hoặc Khác biệt) Chủ nghĩa gia tốc
Trong vài tháng qua, phong trào "e/acc" ("người tăng tốc hiệu quả") đã có những bước tiến vượt bậc. "Beff Jezos" kết luận rằng e/acc về cơ bản là sự thừa nhận những lợi ích thực sự to lớn do tiến bộ công nghệ mang lại và mong muốn đẩy nhanh xu hướng này để đạt được những lợi ích này sớm hơn.
Có nhiều tình huống tôi thấy mình đồng cảm với quan điểm của e/acc. Có nhiều bằng chứng cho thấy FDA quá thận trọng trong việc trì hoãn hoặc ngăn chặn việc phê duyệt thuốc, và đạo đức sinh học nói chung dường như thường tuân theo nguyên tắc này: "Thật là một thảm kịch khi 20 người chết trong một thí nghiệm thất bại, nhưng 200.000 người lại chết vì sự chậm trễ." Việc điều trị chỉ là một số liệu thống kê." Sự chậm trễ trong việc phê duyệt các xét nghiệm và vắc-xin COVID, cũng như vắc-xin sốt rét, dường như càng củng cố điều này. Tuy nhiên, quan điểm này có thể là quá nhiều để được ngưỡng mộ.
Ngoài những lo ngại liên quan đến AI, tôi còn cảm thấy đặc biệt mâu thuẫn về sự nhiệt tình của e/acc đối với công nghệ quân sự. Trong kịch bản hiện tại là năm 2023, nơi công nghệ này được sản xuất tại Hoa Kỳ và được sử dụng để bảo vệ Ukraine, có thể thấy rằng nó có thể đóng vai trò là một lực lượng tốt. Tuy nhiên, từ góc độ rộng hơn, sự nhiệt tình đối với công nghệ quân sự hiện đại dường như đòi hỏi niềm tin rằng những người thống trị lực lượng công nghệ trong hầu hết các cuộc xung đột đang và sẽ luôn là những người tốt, và rằng công nghệ quân sự là tốt vì công nghệ quân sự do Mỹ xây dựng và kiểm soát. , và nước Mỹ thì tốt. Có phải e/acc sắp trở thành người theo chủ nghĩa tối cao của Mỹ? Để đặt cược tất cả token vào đạo đức hiện tại và tương lai của chính phủ cũng như sự thành công trong tương lai của đất nước?
Mặt khác, tôi cho rằng cần phải có phương pháp suy nghĩ mới về cách giảm thiểu rủi ro này. Cơ cấu quản trị của OpenAI là một trường hợp điển hình: nó dường như là một nỗ lực có chủ đích nhằm cân bằng nhu cầu sinh lãi nhằm làm hài lòng các nhà đầu tư đã cung cấp vốn ban đầu, đồng thời tìm cách tạo ra một hệ thống kiểm tra và cân bằng để bảo vệ tắt những động thái đó Một động thái có thể dẫn đến việc OpenAI hủy diệt thế giới. Tuy nhiên, trên thực tế, nỗ lực sa thải Sam Altman gần đây của họ khiến cơ cấu này trông giống như một thất bại hoàn toàn: Nó tập trung quyền lực vào một ban giám đốc gồm năm người phi dân chủ, vô trách nhiệm, những người đưa ra quyết định dựa trên thông tin bí mật, đưa ra các quyết định quan trọng và từ chối cung cấp. mọi chi tiết cho đến khi bị đe dọa. Bằng cách nào đó, các hội đồng phi lợi nhuận đang hoạt động kém đến mức các nhân viên của công ty đã ngẫu hứng thành lập một liên minh để hỗ trợ vị CEO tỷ phú thay vì họ.
Đọc thêm: Tại sao Sam Altman bị sa thải? Giải thích chi tiết về cuộc tranh giành quyền lực trong OpenAI
Nhìn chung, tôi thấy có quá nhiều kế hoạch cứu vãn thế giới liên quan đến việc trao quyền lực cực đoan và không rõ ràng cho một số ít người và hy vọng họ sẽ sử dụng nó một cách khôn ngoan. Vì vậy, tôi thấy mình đang hướng tới một triết lý khác, một triết lý có những ý tưởng chi tiết về cách đối phó với rủi ro, nhưng một triết lý tìm cách xây dựng và duy trì một thế giới dân chủ hơn và cố gắng tránh sự tập trung quyền lực như giải pháp đầu tiên cho các vấn đề. Triết lý này liên quan đến nhiều thứ hơn là AI và tôi sẽ sử dụng tên d/acc để chỉ triết lý này.
Chữ "d" ở đây có thể tượng trưng cho nhiều thứ, đặc biệt là phòng thủ, phi tập trung, dân chủ và khác biệt. Đầu tiên, hãy coi nó như một lời biện hộ, và sau đó chúng ta có thể thấy điều này liên quan đến những cách giải thích khác như thế nào.
Một thế giới phòng thủ nơi sức khỏe và quản trị dân chủ phát triển mạnh
Một cách để suy nghĩ về hậu quả của quan điểm nguyên khối về công nghệ là xem xét sự cân bằng giữa phòng thủ và tấn công. Một số công nghệ khiến việc tấn công người khác trở nên dễ dàng hơn, nói rộng ra: bằng cách làm những việc đi ngược lại lợi ích của họ và khiến họ cảm thấy cần phải phản ứng. Trong khi các công nghệ khác giúp việc phòng thủ trở nên dễ dàng hơn mà không cần dựa vào các tác nhân tập trung lớn.
Một thế giới thiên về phòng thủ là một thế giới tốt đẹp hơn vì nhiều lý do. Tất nhiên, đầu tiên là những lợi ích trực tiếp của an ninh: ít người chết hơn, ít mất đi giá trị kinh tế hơn, ít lãng phí thời gian hơn vào các cuộc xung đột. Tuy nhiên, điều ít được đánh giá cao là một thế giới phòng thủ hơn sẽ tạo điều kiện cho các hình thức quản trị lành mạnh hơn, cởi mở hơn và tôn trọng tự do hơn phát triển dễ dàng hơn.
Trong đó ví dụ rõ ràng là Thụy Sĩ. Thụy Sĩ thường được cho rằng là quốc gia gần gũi nhất trong thế giới thực với một nền quản trị tự do cổ điển không tưởng. Lượng lớn quyền lực được chuyển giao cho các tỉnh (gọi là "tiểu bang"), các quyết định quan trọng được quyết định thông qua trưng cầu dân ý và nhiều người dân địa phương thậm chí không biết tổng thống là ai. Làm thế nào một đất nước như vậy có thể tồn tại dưới những áp lực chính trị đầy thách thức? Một phần do chiến lược chính trị xuất sắc, nhưng một phần do địa lý cực kỳ phòng thủ được tạo ra bởi địa hình núi non.
Một ví dụ khác là Zomia, đã nhận được sự chú ý rộng rãi trong cuốn sách mới "Nghệ thuật không bị thống trị" của James C Scott. Họ phần lớn đã duy trì được quyền tự do và độc lập, phần lớn nhờ vào địa hình đồi núi và thảo nguyên Á-Âu đóng vai trò là ví dụ mẫu mực cho một nền quản trị không tưởng. Cuộc thảo luận của Sarah Paine về các cường quốc hàng hải và lục địa cũng đưa ra quan điểm tương tự, mặc dù cô ấy thích coi nước như một hàng rào phòng thủ hơn là những ngọn núi. Quả thực, sự kết hợp giữa sự dễ dàng của thương mại tự do và sự khó khăn trong việc bị xâm lược cưỡng bức, phổ biến ở Thụy Sĩ cũng như ở các quốc đảo, dường như là điều kiện lý tưởng cho sự phát triển của con người.
Khi tôi đang tư vấn về các vòng cấp vốn Gitcoin Grants trong hệ sinh thái Ethereum , tôi đã phát hiện ra một hiện tượng liên quan. Ở Vòng 4, một trò hề đã nổ ra khi một số người hưởng lợi nhiều nhất là những người có ảnh hưởng trên Twitter, những đóng góp của họ cho rằng một số người cho rằng là tích cực và những người khác coi là tiêu cực. Giải thích của tôi về điều này là có sự mất cân bằng: nguồn tài trợ thứ cấp cho phép bạn chỉ ra rằng bạn cho rằng thứ gì đó là hàng hóa công cộng, nhưng nó không cung cấp cách để chỉ ra rằng thứ gì đó gây phiền toái cho công chúng. Trong những trường hợp cực đoan, một hệ thống tài trợ thứ cấp hoàn toàn trung lập sẽ tài trợ cho cả hai bên trong cuộc chiến. Vì vậy, ở vòng 5, tôi đã đề xuất rằng Gitcoin nên bao gồm các khoản đóng góp tiêu cực: bạn trả 1 đô la để giảm số tiền tài trợ mà một dự án nhận được (và ngầm phân bổ lại cho tất cả các dự án khác), và kết quả là rất nhiều người cảm thấy không hài lòng không hài lòng với điều này.
Đối với tôi, đây có vẻ giống như một biểu hiện vi mô của một mô hình lớn hơn: thiết lập các cơ chế quản trị phi tập trung để giải quyết các tác động tiêu cực từ bên ngoài là một vấn đề rất khó khăn trong xã hội. Ví dụ kinh điển về sai lầm trong quản trị phi tập trung thường là sự công bằng của đám đông. Có điều gì đó về tâm lý con người khiến việc giải quyết những điều tiêu cực trở nên khó khăn hơn nhiều và có nhiều khả năng gây ra vấn đề nghiêm trọng hơn là giải quyết những điều tích cực. Đây là lý do tại sao, ngay cả trong các tổ chức có tính dân chủ cao, quyền quyết định cách ứng phó với các vấn đề tiêu cực thường được giao cho ủy ban trung ương.
Trong nhiều trường hợp, tình thế tiến thoái lưỡng nan này là một trong những lý do sâu xa khiến khái niệm “tự do” lại có giá trị đến vậy. Nếu ai đó nói điều gì đó xúc phạm bạn hoặc có lối sống mà bạn cho rằng khó chịu thì nỗi đau và sự ghê tởm mà bạn cảm thấy là có thật và thậm chí bạn có thể cảm thấy rằng việc bị hành hung thể xác không tệ bằng việc phải đối mặt với những điều này. Nhưng cố gắng đồng ý về hành vi xúc phạm và đáng ghét được xã hội chấp nhận có thể phải trả giá đắt và nguy hiểm hơn là nhắc nhở bản thân rằng những kẻ lập dị và khốn nạn nhất định là cái giá chúng ta phải trả cho việc sống trong một xã hội tự do.
Tuy nhiên, trong những trường hợp khác, phương pháp"hút nó" là không thực tế. Trong trường hợp này, một giải pháp khác đôi khi đáng được xem xét là công nghệ phòng thủ. Internet càng an toàn thì chúng ta càng ít cần xâm phạm quyền riêng tư của người dân và sử dụng chính sách ngoại giao quốc tế không công bằng để đối phó với các cá nhân tin tặc. Chúng ta càng có thể xây dựng các công cụ được cá nhân hóa để chặn mọi người trên Twitter, các công cụ trong trình duyệt để phát hiện gian lận và các công cụ tập thể để phân biệt tin đồn với sự thật, chúng ta càng ít phải tranh luận về kiểm duyệt. Chúng ta sản xuất vắc xin càng nhanh thì chúng ta càng ít phải đối phó với những kẻ siêu lây lan. Những giải pháp này sẽ không hiệu quả ở mọi lĩnh vực và chúng tôi chắc chắn không muốn thấy một thế giới mà mọi người đều phải mặc áo giáp thật, nhưng ở những lĩnh vực mà chúng tôi có thể tận dụng công nghệ để khiến thế giới trở nên phòng thủ hơn, việc làm này có giá trị rất lớn. Vì thế.
Ý tưởng cốt lõi này, cho rằng một số công nghệ tốt cho việc phòng thủ và đáng được phát triển, trong khi các công nghệ khác tốt cho việc tấn công và cần bị ngăn chặn, có nguồn gốc từ tài liệu về lòng vị tha hiệu quả xuất hiện dưới một cái tên khác: phát triển công nghệ khác biệt. Vào năm 2022, các nhà nghiên cứu tại Đại học Oxford đã đưa ra nguyên tắc này rất hay:
Chắc chắn sẽ có những sai sót khi phân loại các kỹ thuật tấn công, phòng thủ hay trung lập. Giống như “quyền tự do”, người ta có thể tranh luận liệu các chính sách của chính phủ dân chủ xã hội có làm giảm quyền tự do bằng cách áp thuế nặng và ép buộc người sử dụng lao động hay không, hay liệu họ có tăng quyền tự do bằng cách giảm bớt mối lo ngại của người dân về nhiều loại rủi ro hay không. công nghệ có thể ở cả hai đầu của quang phổ. Vũ khí hạt nhân tốt cho tấn công, nhưng năng lượng hạt nhân tốt cho sự thịnh vượng của con người và trung lập giữa tấn công và phòng thủ. Các công nghệ khác nhau có thể hoạt động khác nhau trong các khung thời gian khác nhau. Nhưng giống như “tự do” (hay “bình đẳng” hay “luật pháp”), việc làm mờ đi các ranh giới không phải là một lập luận chống lại một nguyên tắc mà là một cơ hội để hiểu rõ hơn về sự tinh tế của nó.
Bây giờ, hãy xem nguyên tắc này có thể được áp dụng như thế nào để có cái nhìn toàn diện hơn về thế giới. Chúng ta có thể coi công nghệ quốc phòng giống như các công nghệ khác, được chia thành hai lĩnh vực: thế giới nguyên tử và thế giới bit. Thế giới nguyên tử có thể được chia thành vi mô (tức là sinh học và sau này là công nghệ nano) và vĩ mô (tức là những gì chúng ta thường cho rằng là “phòng thủ”, nhưng cũng bao gồm cơ sở hạ tầng vật chất kiên cường). Tôi chia thế giới bit theo các trục khác nhau: về nguyên tắc thì dễ dàng đồng ý, ai là kẻ tấn công? Đôi khi việc đó thật dễ dàng; tôi gọi đó là phòng thủ mạng. Những lúc khác thì khó khăn hơn; tôi gọi đó là bảo vệ thông tin.
Phòng thủ vật lý Macroview
Công nghệ phòng thủ bị đánh giá thấp nhất trong thế giới vĩ mô thậm chí không phải là Iron Dome (bao gồm cả hệ thống mới của Ukraine) và các phần cứng quân sự chống công nghệ và tên lửa khác, mà là cơ sở hạ tầng vật chất kiên cường. Hầu hết những cái chết trong chiến tranh hạt nhân có thể đến từ sự gián đoạn chuỗi cung ứng hơn là do hậu quả và cú sốc ban đầu, và các giải pháp internet có cơ sở hạ tầng thấp như Starlink rất quan trọng để giữ cho Ukraine kết nối trong hơn một năm rưỡi qua.
Xây dựng các công cụ giúp mọi người tồn tại độc lập hoặc bán độc lập hoặc thậm chí sống thoải mái trong chuỗi cung ứng quốc tế dài hạn dường như là một công nghệ phòng thủ có giá trị và ít rủi ro hơn khi sử dụng để tấn công.
Nhiệm vụ cố gắng biến nhân loại thành một nền văn minh đa hành tinh cũng có thể được nhìn từ góc độ d/acc: việc có ít nhất một số người có thể sống tự cung tự cấp trên các hành tinh khác có thể tăng khả năng phục hồi của chúng ta trước những sự kiện khủng khiếp trên Trái đất. Ngay cả khi viễn cảnh mong đợi đầy đủ hiện tại có vẻ không khả thi, các hình thức sống tự cung tự cấp cần được phát triển để hiện thực hóa dự án này có thể được sử dụng để giúp tăng khả năng phục hồi của nền văn minh của chúng ta trên Trái đất.
Phòng thủ vi vật lý (còn gọi là phòng thủ sinh học)
Covid vẫn là một mối lo ngại, đặc biệt là do nó ảnh hưởng lâu dài đến sức khỏe. Nhưng Covid còn lâu mới là đại dịch cuối cùng mà chúng ta sẽ phải đối mặt; nhiều khía cạnh của thế giới hiện đại khiến có khả năng sẽ có thêm nhiều đại dịch sắp xảy ra:
- Mật độ dân số cao hơn khiến virus trong không khí và các mầm bệnh khác dễ lây lan hơn. Dịch bệnh là tương đối mới trong lịch sử loài người, hầu hết đều bắt đầu từ quá trình đô thị hóa cách đây hàng nghìn năm. Quá trình đô thị hóa nhanh chóng đang diễn ra có nghĩa là mật độ dân số sẽ tăng hơn nữa trong nửa thế kỷ tới.
- Việc di chuyển bằng đường hàng không tăng lên có nghĩa là mầm bệnh trong không khí có thể lây lan nhanh chóng trên khắp thế giới. Mọi người đang nhanh chóng trở nên giàu có hơn có nghĩa là việc đi lại bằng đường hàng không có thể sẽ tăng đáng kể trong nửa thế kỷ tới; mô hình phức tạp cho thấy rằng ngay cả những mức tăng nhỏ cũng có thể gây ra hậu quả nghiêm trọng. Biến đổi khí hậu có thể làm tăng thêm rủi ro này.
- Việc thuần hóa động vật và chăn nuôi công nghiệp là những yếu tố rủi ro chính. Bệnh sởi có thể đã tiến hóa từ một loại virus ở bò cách đây chưa đầy 3.000 năm. Hoạt động chăn nuôi công nghiệp ngày nay cũng đang tạo ra các chủng vi-rút cúm mới (cũng như thúc đẩy tình trạng kháng thuốc kháng sinh, có tác động đến hệ thống miễn dịch bẩm sinh của con người).
- Kỹ thuật sinh học hiện đại giúp dễ dàng tạo ra các mầm bệnh mới, độc hại hơn. Covid có thể đã hoặc không bị rò rỉ t
