Ôi trời ơi, cuộc thảo luận của Ultraman về GPT đã nhảy vọt lên nhiều thế hệ tới GPT-8 !
Gần đây, ông đã có cuộc trò chuyện với David Deutsch, người sáng lập ra máy tính lượng tử , trong một chương trình. Về vấn đề " liệu AI có thể phát triển thành siêu trí tuệ có ý thức hay không ", vấn đề mà hai người đã bất đồng quan điểm, Altman đã đưa GPT-8 ra để cố gắng thuyết phục Deutsch:
GPT-8 đã tìm ra lực hấp dẫn lượng tử và thậm chí có thể cho bạn biết nó đã làm điều đó như thế nào—ví dụ, nó đã suy nghĩ về những câu hỏi nào và tại sao nó quyết định nghiên cứu lĩnh vực này. Nhưng những gì nó trình bày vẫn trông giống như kết quả của một mô hình ngôn ngữ. Nhưng nó thực sự đã giải quyết được vấn đề lực hấp dẫn lượng tử. Vậy thì bạn có chấp nhận nó không?
Cuộc trò chuyện này đã thu hút rất nhiều bình luận trực tuyến. Một số cư dân mạng cho rằng cuộc trò chuyện giữa hai người cho thấy định nghĩa về AGI (trí tuệ nhân tạo tổng quát) còn mơ hồ, mục tiêu liên tục thay đổi và không thể đo lường được:
Người ta có thể lập luận rằng chúng ta sẽ sớm vượt qua điều đó và hướng tới ASI (siêu trí tuệ nhân tạo).
Vậy, hai người họ đã nói gì?
Tóm tắt cuộc trò chuyện đầy đủ
Trong chương trình, người dẫn chương trình đầu tiên hỏi Altman: " Cuốn sách yêu thích của anh có thực sự là The Beginning of Infinity của David Deutsch không? " Altman trả lời là có và sau đó giải thích lý do tại sao anh thích cuốn sách này:
Ngay cả khi bạn chưa đọc hết cuốn sách, bốn mươi, năm mươi trang đầu cũng đã rất thú vị rồi. Tôi nghĩ cuốn sách giải thích một cách cực kỳ lạc quan rằng ngay cả trong một thế giới có AI, con người sẽ không bao giờ thiếu việc để làm, cách để đóng góp, vấn đề để giải quyết và những điều chưa biết để khám phá.
Và nó đã làm rất tốt việc giải thích tại sao những sự phát triển tương đối đơn giản trong lịch sử loài người đã đưa chúng ta đến nơi tuyệt vời này ngày nay.
Sau khi Altman chia sẻ quan điểm của mình về cuốn sách, David Deutsch đã tham gia chương trình trực tuyến.
Người dẫn chương trình sau đó chuyển chủ đề: "Tôi nhớ anh và anh ấy (David Deutsch) đã bất đồng quan điểm về một vấn đề: Liệu trí tuệ nhân tạo có thể phát triển thành siêu trí tuệ có ý thức hay không? Anh ấy (David Deutsch) dường như cho rằng điều đó là không thể, trong khi anh (Altman) lại nghĩ rằng điều đó là có thể. Có lẽ anh có thể giải thích rõ hơn về sự đồng tình và bất đồng của mình."
Ultraman nhanh chóng nói: "Tôi không quan tâm đến vấn đề đó, không có sự bất đồng nào cả."
Sau đó, David Deutsch lên sân khấu để giải thích lý do tại sao ông cho rằng AI sẽ không phát triển thành siêu trí tuệ có ý thức:
Trên máy tính, tôi lưu giữ một danh sách những phát triển mà tôi từng nghĩ là bất khả thi nhưng giờ đã trở thành hiện thực. Một trong đó, tôi phải xấu hổ thừa nhận, chính là World Wide Web.
Một điều nữa là tôi từng cho rằng rằng không chương trình máy tính nào có thể trò chuyện cởi mở về nhiều chủ đề bằng ngôn ngữ tự nhiên, trừ khi đó là một AGI. Tôi thích gọi khả năng này là " sáng tạo giải thích ".
ChatGPT đã hiểu sai ý tôi.
Nó không phải là AGI, nhưng nó có thể trò chuyện. Khả năng này là sản phẩm phụ của kiến thức.
Không giống như chatbot Eliza những năm 1960, vốn chỉ có thể sử dụng các từ và cụm từ bạn nhập vào, ChatGPT có thể trò chuyện về bất cứ điều gì, dựa trên một kho kiến thức khổng lồ. Điều này khiến ChatGPT trở nên vô cùng hữu ích. Đối với một số người, nó "quá hữu ích", khiến họ cảm thấy như đang nói chuyện với một người thật hoặc một AGI. Cũng giống như Eliza thời đó, người dùng đối xử với nó như một con người.
Điều này làm tôi nhớ đến một huyền thoại phổ biến - bài kiểm tra Turing .
Trên thực tế, Turing chưa bao giờ đề xuất một bài kiểm tra hay chuẩn mực nào cho AGI. "Trò chơi mô phỏng" của ông không phải là một bài kiểm tra, mà là một thí nghiệm tư duy được thiết kế để phá vỡ trực giác cho rằng máy móc không thể suy nghĩ. Trên thực tế, không có chuẩn mực nào cả, bởi vì một trí tuệ thực sự tổng quát phải có khả năng lựa chọn im lặng .
Bản thân điều này cho thấy phương pháp hiện tại không thể tạo ra AGI.
Các hệ thống hiện có có thể và phải được đánh giá chuẩn.
Ngược lại, nếu một điều gì đó đưa ra một lời giải thích hoàn toàn mới, bạn không có cách nào kiểm tra xem nó được tạo ra bởi chính nó hay bởi con người - ngay cả khi bạn tự mình kiểm tra. Theo lời Edison, trí thông minh bao gồm "cảm hứng", điều mà chỉ con người mới có thể đạt được, và "mồ hôi", điều mà máy móc có thể giúp chúng ta giải phóng.
Vậy, vì không có chuẩn mực kiểm tra nào, làm sao chúng ta biết được con người có trí thông minh tổng quát? Câu trả lời là thông qua việc "kể chuyện về bản thân".
Tư duy của con người không phải là một quá trình máy móc chuyển đổi động lực thành hành động hay tín hiệu thành kết quả; mà chủ yếu là quá trình chủ động lựa chọn động lực . Cũng như nghiên cứu khoa học không phải là việc rút lý thuyết từ dữ liệu , mà là xác định vấn đề, đề xuất các giả thuyết giải thích, rồi phê bình và xác thực các giả thuyết đó.
Vậy làm sao để biết được điều gì đó đang làm vậy? Không phải lúc nào cũng vậy. Đôi khi bạn thực sự chỉ đang trò chuyện với một con robot.
Nhưng nếu không có lời giải thích nào cho thấy bạn là robot, hoặc con người nói chung là robot, thì giả định hợp lý là "chúng ta không phải là robot".
Một số người thích đặt câu hỏi liệu Einstein có thực sự phát minh ra thuyết tương đối hay chỉ đơn giản là chắp vá nó lại một cách máy móc từ nhiều quan điểm đã có sẵn. Chúng ta biết ông ấy đã làm vậy, bởi vì chúng ta biết câu chuyện của ông ấy—ông ấy đã giải quyết những vấn đề gì và tại sao ông ấy lại giải quyết chúng.
Như chúng ta đã biết, Sam Altman không cần phải viết bất kỳ dòng code nào để biến ChatGPT từ một khái niệm kỹ thuật thành một sản phẩm thực tế, trở thành một hiện tượng. Ông dựa vào trực giác và lòng dũng cảm để "xác định rằng đây là hướng đi đúng đắn cho nhân loại tiếp theo".
Không có chương trình nào có thể cung cấp cho máy tính trực giác như thế này, ít nhất là cho đến thời điểm hiện tại.
Nghe vậy, Altman không khỏi muốn phản bác và đưa ra GPT-8:
Bạn đã nhắc đến thuyết tương đối của Einstein, và tôi hoàn toàn đồng ý với bạn. Tôi nghĩ thuyết tương đối là một trong những phát minh sáng tạo nhất mà nhân loại từng khám phá ra, thậm chí có lẽ là sáng tạo nhất. Và Einstein có câu chuyện riêng của mình; chúng ta biết ông ấy đã nghiên cứu điều gì.
Giả sử, vài năm nữa, GPT-8 đã tìm ra lực hấp dẫn lượng tử và có thể cho bạn biết nó đã làm được điều đó như thế nào—ví dụ, nó đã suy nghĩ về những câu hỏi nào và tại sao nó quyết định theo đuổi lĩnh vực nghiên cứu này. Mặc dù nội dung mà nó trình bày vẫn có vẻ là kết quả của một mô hình ngôn ngữ, nhưng nó thực sự giải quyết được vấn đề lực hấp dẫn lượng tử. Vậy bạn có chấp nhận điều đó không? Tôi biết bạn vẫn ghi lại những đánh giá sai lầm trong quá khứ, và tôi cũng vậy. Vậy, kịch bản này có thuyết phục được bạn không?
David Deutsch:
Tôi nghĩ vậy. Đúng vậy, "câu chuyện quá trình" rất quan trọng trong trường hợp này. Tôi cũng cho rằng đó là chìa khóa cho sự phán đoán.
Người tiên phong về điện toán lượng tử: David Deutsch
David Deutsch là thành viên sáng lập của Trung tâm Máy tính Lượng tử tại Phòng thí nghiệm Clarendon thuộc Đại học Oxford và là giáo sư vật lý thỉnh giảng. Ông cũng là thành viên danh dự của Đại học Wolfson, Oxford, và là thành viên của Hội Hoàng gia và Viện Vật lý. Ông được cho rằng một trong những người sáng lập ra máy tính lượng tử và khoa học thông tin lượng tử .
Ông nghiên cứu các vấn đề cơ bản trong vật lý, đặc biệt là tính toán lượng tử và lý thuyết thông tin, cũng như lý thuyết xây dựng.
Năm 1985, ông đề xuất khuôn khổ lý thuyết về máy Turing lượng tử . Bằng cách giới thiệu phương pháp vận hành mạng của cổng logic lượng tử, ông đã chứng minh rằng máy tính lượng tử có thể mô phỏng chính xác về mặt lý thuyết bất kỳ hệ thống vật lý nào tuân theo các định luật của cơ học lượng tử, đặt nền tảng toán học cho sự phát triển của máy tính lượng tử.
Năm 1992, ông và nhà toán học kiêm vật lý lý thuyết người Úc Richard Jozsa đã cùng nhau đề xuất thuật toán Deutsch-Jozsa , đây là thuật toán đầu tiên chứng minh rằng thuật toán lượng tử có hiệu ứng gia tốc theo cấp số nhân so với thuật toán cổ điển, đặt nền tảng lý thuyết cho sự phát triển sau này của thuật toán Shor và thuật toán Grover.
Ông cũng là tác giả của hai cuốn sách nổi tiếng dành cho độc giả đại chúng: The Fabric of Reality và The Beginning of Infinity .
David Deutsch đã giành được nhiều giải thưởng, bao gồm Giải thưởng ICTP Dirac, Giải thưởng Micius Quantum, hai Giải thưởng đột phá về Vật lý và Huy chương Isaac Newton .
Liên kết tham khảo:
[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ
[2]https://x.com/rohanpaul_ai/status/1971884939667738838[3]https://www.daviddeutsch.org.uk/
Bài viết này trích từ tài khoản công khai WeChat "Quantum Bit" , tác giả: Xifeng và được 36Kr cho phép xuất bản.
