多么疯狂的周末啊！！ OpenAI 的传奇还在继续。周六晚上，一名 OpenAI 员工带领 Sam Altman 和 Greg Brockman 回归。显然，大多数员工都站在萨姆和格雷格一边。我有一个朋友在 OpenAI 工作。他玩得很开心。团队、工作、影响。一切都很棒。这场董事会之争令人震惊，大多数员工并不理解这种混乱。但董事会坚持不懈，最终聘请了新的临时首席执行官：埃米特·谢尔(Emmett Shear)。几个小时内，数百名 OpenAI 员工辞职。 Sam Altman 和 Greg Brockman 将加入 Microsoft 成立一个新的 AI 研究部门，并且 Microsoft 正在向所有现有 OpenAI 员工提供服务。截至目前， OpenAI 770 名员工中已有 700 人辞职。目前尚不清楚有多少员工将加入微软。另一个重大情节转折是，发起董事会之争的 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 突然表示，他对“参与”董事会之争深感遗憾。这场争斗不是他挑起的吗？我很困惑。
这种混乱的核心是非营利组织的治理结构。我认为董事会的行为是出于其信托责任，以确保 OpenAI 的运营与其既定使命保持一致。以下是OpenAI 网站上列出的任务部分：
OpenAI 的使命是确保通用人工智能 (AGI)——我们指的是在最具经济价值的工作中超越人类的高度自治系统——造福全人类。我们将尝试直接构建安全且有益的通用人工智能，但如果我们的工作帮助其他人实现这一成果，我们也将认为我们的使命已经完成。为此，我们承诺遵循以下原则：
利益分配广泛
我们承诺利用我们对 AGI 部署获得的任何影响力，确保其用于造福所有人，并避免使用人工智能或 AGI 来伤害人类或过度集中权力。
我们的首要信托责任是对人类的信托责任。我们预计需要调动大量资源来完成我们的使命，但我们将始终努力采取行动，尽量减少员工和利益相关者之间可能损害广泛利益的利益冲突。
长期安全
我们致力于开展使 AGI 安全所需的研究，并推动此类研究在整个人工智能社区的广泛采用。
我们担心后期 AGI 开发会成为一场竞争性竞赛，而没有时间采取足够的安全预防措施。因此，如果一个价值一致、具有安全意识的项目在我们之前接近构建 AGI，我们承诺停止与该项目竞争并开始协助该项目。我们将在个案协议中制定具体细节，但典型的触发条件可能是“未来两年成功的机会更大”。
技术领先
为了有效解决 AGI 对社会的影响，OpenAI 必须处于人工智能能力的前沿——仅靠政策和安全倡导是不够的。
我们相信，人工智能将在通用人工智能之前产生广泛的社会影响，我们将努力在那些与我们的使命和专业知识直接相关的领域发挥领导作用。
合作导向
我们将积极与其他研究和政策机构合作；我们寻求创建一个全球社区，共同应对 AGI 的全球挑战。
我们致力于提供公共产品，帮助社会走上通用人工智能之路。今天，这包括发布我们大部分的人工智能研究，但我们预计安全问题将减少我们未来的传统发布，同时增加共享安全、政策和标准研究的重要性。
然后，我认为董事会担心 OpenAI 的超速增长计划以及与微软的密切关系是公平的。我想董事会担心 OpenAI 发展得太快，过于以增长和利润为导向，并且正在偏离其造福全人类的安全 AGI 的初衷。另一方面，董事会成员没有既得个人利益。他们的行为可能不符合原则，但如果不小心行事，他们可能会破坏所有价值。事实上，我确实认为这个非营利委员会的初衷是好的，并试图将公众利益置于一切之上，但它是一个非常小的委员会（六名成员，然后减少到四名成员），而且他们并没有真正参与其中。当做出解雇首席执行官等艰难决定时，他们不会像员工和投资者那样感到痛苦。 OpenAI 是一个非常重要的机构。他们应该有一个更大、更多元化的董事会。更重要的是，我认为非营利组织不是 OpenAI 的正确结构。很多事情都处于危险之中，历史上有数十亿美元的非营利捐赠基金被反社会的兰多斯接管的恐怖故事。在某种程度上，非营利结构现在爆炸是件好事，因为这整个事情基本上是一座建立在摇摇欲坠的基础上的摩天大楼。复杂的非营利治理、利润上限、投资者和员工都没有投票权，注定会失败。我也不知道微软AI研究部门会不会运作得更好。这将与 OpenAI 非营利组织试图实现的目标完全相反。公司超载是利润和股东驱动的。想象一下 5 年后，一些激进投资者将向微软施压，要求其更好地利用 Sam 和 Greg 领导的人工智能部门盈利，并减少在人工智能安全方面的投入。通往地狱的道路是由善意铺成的。人们可能对新成立的微软人工智能研究部门过于乐观。这个周末之后，令人悲伤的事实是 OpenAI 不再是 OpenAI。
