老天奶，奧特曼對GPT的談論，都跨越好幾代來到GPT-8了！
最近他在一檔節目上，和量子計算奠基人戴維・多伊奇（David Deutsch）展開對話，針對兩人存在分歧的“AI能否發展為具備意識的超級智能”議題，奧特曼搬出GPT-8來試圖說服多伊奇：
GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當時在思考哪些問題、為什麼決定研究這個領域。但它呈現出的內容，看起來依然只是語言模型的輸出，可它確實真的解決了量子引力的問題。那到時候你會認可它嗎？
這段對話吸引了不少網友討論，有網友認為兩人的對話表明AGI（通用人工智能）定義標準模糊、目標不斷變化，根本無法衡量：
有人可能會爭辯說，我們很快就會超越它，並將目光投向ASI（超級人工智能）。
所以，兩人究竟是怎麼說的呢？
完整對話整理
節目中，主持人先是問奧特曼“你最愛的書真的是戴維・多伊奇寫的《無窮的開始》嗎？”，奧特曼做出了肯定回答，接著解釋了為什麼喜歡這本書：
即使你沒有讀完整本書，前四五十頁就已經非常精彩了。我覺得它極度樂觀地解釋了，哪怕在有AI的世界裡，人類依然永遠不會缺少可以做的事、可以發揮價值的方式、可以解決的問題和可以探索的未知。
而且它還很精彩地解釋了，人類歷史中相對簡單的發展過程，是如何把我們帶到今天這個令人驚歎的境地。
在奧特曼分享完對這本書的看法後，戴維・多伊奇隨即以線上形式接入了節目。
主持人話鋒一轉：我記得你和他（戴維・多伊奇）在一個問題上有分歧——人工智能是否有可能發展成具備意識的超級智能？他（戴維・多伊奇）似乎認為這不可能，而你（奧特曼）覺得是有可能的。或許可以詳細說說你們之間的共識與分歧。
奧特曼迅速表示“不care那個問題，並沒有什麼分歧”。
此時戴維・多伊奇開麥，解釋了為什麼他認為AI不會發展成為具備意識的超級智能：
在我的電腦裡，我保存了一份清單，記錄著那些我原以為不可能實現、但後來卻實現的進展。其中一項讓我羞於承認，那就是“萬維網”。
還有一項是，我曾認為，沒有任何計算機程序能在自然語言下，就廣泛主題進行開放式對話，除非它是一個AGI，我更願意把這種能力稱為“解釋性創造力”。
ChatGPT讓我錯了。
它不是AGI，但它能對話。這種能力是知識的副產物。
1960年代的Eliza聊天機器人，只能利用你輸入的詞彙和短語。而ChatGPT可以聊任何東西，它依託於龐大的知識體系，這極其有用。對有些人來說，它“太有用了”，他們會覺得自己在和一個人或一個AGI對話。就像當年的Eliza，用戶也把它當人一樣。
這讓我想到一個廣泛流傳的迷思——圖靈測試。
實際上，圖靈從未提出過AGI的測試或基準。他的“模仿遊戲”並不是一個測試，而是一個思想實驗，用來擊碎“機器不能思考”的直覺。事實上，並不存在所謂的基準，因為一個真正通用的智能，必須有能力選擇保持沉默。
這本身已經說明，現有的方法無法造出AGI。
現有系統可以也必須用基準來衡量。
反過來講，如果某個事物給出了一個全新的解釋，你根本無法測試這個解釋是它自己創造的，還是人類創造的——即便是由你親自來做這個測試，也做不到。用愛迪生的話來說，智能裡有“靈感”的部分，那只有人類能做到；還有“汗水”的部分，那是機器能幫我們解放的。
那既然沒有測試基準，我們怎麼知道人類是通用智能呢？答案是通過“講述自身的故事”。
人類的思考，並非機械地將動機轉化為行動、將提示詞轉化為輸出，而主要是“主動選擇動機”的過程。就像科學研究並非從數據中提取理論，而是發現問題、提出解釋性猜想，然後對猜想進行批判和驗證。
那麼你如何判斷某個東西是不是在這麼做呢？其實未必總能判斷。有時你確實只是在和一個機器人聊天。
但是如果沒有任何解釋能說明你自己是機器人，或者人類整體是機器人，那麼合理的假設就是“我們不是機器人”。
有些人喜歡質疑，愛因斯坦是不是真的創造了相對論，還是隻是把各種現有觀點東拼西湊、機械組合出來的。我們知道他創造了它，因為我們瞭解他的“故事”——他當時在解決什麼問題，以及為什麼要解決這些問題。
就像我們知道，薩姆·奧特曼不需要寫任何代碼，卻讓ChatGPT從技術概念變成了實際產品，成為一種現象級存在。他靠的是直覺，還有那種“認定這是人類下一步該嘗試的正確方向”的魄力。
目前還沒有任何程序能讓計算機擁有這樣的直覺，至少現在還沒有。
聽到這裡，奧特曼忍不住想要反駁了，並且搬出了GPT-8：
你提到了愛因斯坦相對論，我非常認同你的看法。我覺得相對論是人類有史以來搞明白的最精妙的事物之一，甚至可以說是最精妙的。而且愛因斯坦有他的“故事”，我們知道他當時在研究什麼。
假設幾年後，GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當時在思考哪些問題、為什麼決定研究這個領域。但它呈現出的內容，看起來依然只是語言模型的輸出，可它確實真的解決了量子引力的問題。那到時候你會認可它嗎？我知道你會記錄自己之前判斷錯誤的事情，我也會這麼做。所以，這種情況能說服你嗎？
戴維・多伊奇：
我覺得可以。沒錯，“過程故事”在這當中至關重要。我也認為這才是判斷的關鍵。
量子計算先驅：戴維・多伊奇
戴維・多伊奇是牛津大學克拉倫登實驗室量子計算中心創始成員、物理學訪問教授，同時也是牛津大學沃弗森學院的榮譽院士、英國皇家學會和物理研究所的院士，被認為是量子計算和量子信息科學的奠基人之一。
他致力於研究物理學中的基礎性問題，尤其是量子計算與信息理論，以及建構者理論（constructor theory）。
1985年，他提出量子圖靈機理論框架，通過引入量子邏輯門的網絡運算方式，證明量子計算機在理論上可以精確模擬任何符合量子力學規律的物理系統，為量子計算機的發展奠定了數學基礎。
1992年，他與澳大利亞數學家、理論物理學家Richard Jozsa共同提出Deutsch-Jozsa算法，首次證明量子算法相較經典算法具有指數級加速效應，為後續Shor算法、Grover算法的發展奠定了理論基礎。
他還寫過兩本著名的面向普通讀者的書：《真實世界的脈絡》（The Fabric of Reality）和《無窮的開始》（The Beginning of Infinity）。
戴維・多伊奇曾獲得的獎項包括ICTP狄拉克獎、墨子量子獎、2科學突破獎的物理學獎、艾薩克·牛頓獎等。
參考鏈接：
[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ
[2]https://x.com/rohanpaul_ai/status/1971884939667738838[3]https://www.daviddeutsch.org.uk/
本文來自微信公眾號“量子位”，作者：西風，36氪經授權發佈。
