多麼瘋狂的週末啊！！ OpenAI 的傳奇還在繼續。週六晚上，一名 OpenAI 員工帶領 Sam Altman 和 Greg Brockman 迴歸。顯然，大多數員工都站在薩姆和格雷格一邊。我有一個朋友在 OpenAI 工作。他玩得很開心。團隊、工作、影響。一切都很棒。這場董事會之爭令人震驚，大多數員工並不理解這種混亂。但董事會堅持不懈，最終聘請了新的臨時首席執行官：埃米特·謝爾(Emmett Shear)。幾個小時內，數百名 OpenAI 員工辭職。 Sam Altman 和 Greg Brockman 將加入 Microsoft 成立一個新的 AI 研究部門，並且 Microsoft 正在向所有現有 OpenAI 員工提供服務。截至目前， OpenAI 770 名員工中已有 700 人辭職。目前尚不清楚有多少員工將加入微軟。另一個重大情節轉折是，發起董事會之爭的 OpenAI 聯合創始人兼首席科學家 Ilya Sutskever 突然表示，他對“參與”董事會之爭深感遺憾。這場爭鬥不是他挑起的嗎？我很困惑。
這種混亂的核心是非營利組織的治理結構。我認為董事會的行為是出於其信託責任，以確保 OpenAI 的運營與其既定使命保持一致。以下是OpenAI 網站上列出的任務部分：
OpenAI 的使命是確保通用人工智能 (AGI)——我們指的是在最具經濟價值的工作中超越人類的高度自治系統——造福全人類。我們將嘗試直接構建安全且有益的通用人工智能，但如果我們的工作幫助其他人實現這一成果，我們也將認為我們的使命已經完成。為此，我們承諾遵循以下原則：
利益分配廣泛
我們承諾利用我們對 AGI 部署獲得的任何影響力，確保其用於造福所有人，並避免使用人工智能或 AGI 來傷害人類或過度集中權力。
我們的首要信託責任是對人類的信託責任。我們預計需要調動大量資源來完成我們的使命，但我們將始終努力採取行動，儘量減少員工和利益相關者之間可能損害廣泛利益的利益衝突。
長期安全
我們致力於開展使 AGI 安全所需的研究，並推動此類研究在整個人工智能社區的廣泛採用。
我們擔心後期 AGI 開發會成為一場競爭性競賽，而沒有時間採取足夠的安全預防措施。因此，如果一個價值一致、具有安全意識的項目在我們之前接近構建 AGI，我們承諾停止與該項目競爭並開始協助該項目。我們將在個案協議中制定具體細節，但典型的觸發條件可能是“未來兩年成功的機會更大”。
技術領先
為了有效解決 AGI 對社會的影響，OpenAI 必須處於人工智能能力的前沿——僅靠政策和安全倡導是不夠的。
我們相信，人工智能將在通用人工智能之前產生廣泛的社會影響，我們將努力在那些與我們的使命和專業知識直接相關的領域發揮領導作用。
合作導向
我們將積極與其他研究和政策機構合作；我們尋求創建一個全球社區，共同應對 AGI 的全球挑戰。
我們致力於提供公共產品，幫助社會走上通用人工智能之路。今天，這包括髮布我們大部分的人工智能研究，但我們預計安全問題將減少我們未來的傳統發佈，同時增加共享安全、政策和標準研究的重要性。
然後，我認為董事會擔心 OpenAI 的超速增長計劃以及與微軟的密切關係是公平的。我想董事會擔心 OpenAI 發展得太快，過於以增長和利潤為導向，並且正在偏離其造福全人類的安全 AGI 的初衷。另一方面，董事會成員沒有既得個人利益。他們的行為可能不符合原則，但如果不小心行事，他們可能會破壞所有價值。事實上，我確實認為這個非營利委員會的初衷是好的，並試圖將公眾利益置於一切之上，但它是一個非常小的委員會（六名成員，然後減少到四名成員），而且他們並沒有真正參與其中。當做出解僱首席執行官等艱難決定時，他們不會像員工和投資者那樣感到痛苦。 OpenAI 是一個非常重要的機構。他們應該有一個更大、更多元化的董事會。更重要的是，我認為非營利組織不是 OpenAI 的正確結構。很多事情都處於危險之中，歷史上有數十億美元的非營利捐贈基金被反社會的蘭多斯接管的恐怖故事。在某種程度上，非營利結構現在爆炸是件好事，因為這整個事情基本上是一座建立在搖搖欲墜的基礎上的摩天大樓。複雜的非營利治理、利潤上限、投資者和員工都沒有投票權，註定會失敗。我也不知道微軟AI研究部門會不會運作得更好。這將與 OpenAI 非營利組織試圖實現的目標完全相反。公司超載是利潤和股東驅動的。想象一下 5 年後，一些激進投資者將向微軟施壓，要求其更好地利用 Sam 和 Greg 領導的人工智能部門盈利，並減少在人工智能安全方面的投入。通往地獄的道路是由善意鋪成的。人們可能對新成立的微軟人工智能研究部門過於樂觀。這個週末之後，令人悲傷的事實是 OpenAI 不再是 OpenAI。
