1997年,IBM的深蓝战胜当时的世界冠军加里·卡斯帕罗夫,这表明计算机国际象棋引擎很快就会超越人类。有趣的是,一个与计算机合作的经验丰富的人类——通常称为"半人马"——可以超过当时最强大的引擎。
熟练的人类直觉可以引导引擎的搜索,导航复杂的中局,并识别标准引擎所忽视的细微差别。结合计算机的蛮力计算,这对组合通常会导致比单独计算机更好的实际决策。
当我思考AI系统在未来几年内对劳动力市场和经济的影响时,我预计会出现类似的模式。代理系统将释放无数单位的智能来解决世界上未解决的问题,但如果没有人类的强大指导和支持,他们是无法做到这一点的。人类将指导搜索空间并帮助提出正确的问题,让AI朝着答案努力。
目前的工作假设是,代理系统将代表人类行动。虽然这是实际的,也是不可避免的,但更有趣的经济解锁出现在人类为代理系统工作的时候。在未来24个月内,我预计会看到第一家零员工公司的出现,这是我的合伙人Kyle在2025年前沿思想一节中提出的概念。具体来说,我预计会出现以下情况:
- 一个由代币治理的代理系统将筹集超过10亿美元来解决一个未解决的问题(如治疗一种罕见疾病,或制造用于国防应用的纳米纤维)。
- 该代理系统将向为其在现实世界中实现目标而工作的人类支付超过1亿美元。
- 出现一种新的双重类别代币结构,根据资本和劳动力进行所有权分配(这样金融激励不是整体治理的唯一输入)。
由于代理系统还没有足够的主权和长期规划及执行能力,所以在短期内,代理系统更需要人类,而不是人类需要代理系统。这将产生新的劳动力市场,使代理系统和人类之间实现经济协调。
著名的马克·安德森森名言,"计算机和互联网的普及将把工作分为两类:告诉计算机该做什么的人,以及被计算机告知该做什么的人",比以往任何时候都更加贴切。我预计,在快速发展的代理人/人类等级制度中,人类将扮演两个不同的角色——代表代理人执行小型赏金式任务的劳动贡献者,以及为代理人的北极星目标提供战略输入的分散式董事会。
本文探讨了代理人和人类如何共同创造,以及加密货币轨道如何为这种协调提供理想的基础,方法是通过探讨三个指导性问题:
- 代理人有什么用处?我们应该如何根据代理人目标的范围对其进行分类,以及不同分类中所需的人类输入范围如何变化?
- 人类如何与代理人互动?人类输入——战术指导、情境判断或意识形态一致性——如何融入这些代理人的工作流程(反之亦然)?
- 当人类输入随时间减少时会发生什么?随着代理人能力的提高,他们变得自给自足,即能够独立进行推理和行动。在这种范式中,人类将扮演什么角色?
生成推理系统与从中获益的人之间的关系将随时间而发生巨大变化。我通过展望代理人能力的当前状态,并从零员工公司的最终状态倒推,来研究这种关系。
代理人今天有什么用处?
第一代生成式AI系统——2022-2024年代的聊天机器人LLM,如ChatGPT、Gemini、Claude、Perplexity等——主要是用于增强人类工作流程的工具。用户通过输入/输出提示对这些系统进行交互,解析响应,然后根据自己的判断将结果带入现实世界。
下一代生成式AI系统,或称"代理人",代表了一种新的模式。像Claude 3.5.1的"计算机使用"和OpenAI的Operator(即可以代表用户使用计算机的代理人)这样的代理人,能够直接代表用户与互联网互动,并自主做出决策。关键的区别在于,判断——最终的行动——是由AI系统而不是人类来执行的。AI正在承担以前只有人类才能承担的责任。
这种转变带来了一个挑战:缺乏确定性。与传统软件系统或工业自动化不同,它们在定义的参数内可预测地运行,代理人依赖于概率推理。这使得它们的行为在相同的场景中不太一致,并引入了不确定性元素——这对关键情况来说并不理想。
换句话说,确定性和非确定性代理人的存在自然将代理人分为两类:一类擅长扩大现有GDP,另一类更适合创造新的GDP。
- 对于擅长扩大现有GDP的代理人来说,工作本身就是已知的。自动化客户支持、处理货运合规性或审查GitHub PR都是明确、有界的问题,代理人可以简单地将响应映射到一组预期的结果。在这些领域,缺乏确定性通常是不好的,因为有一个已知的答案;创造力是不需要的。
- 对于擅长创造新GDP的代理人来说,工作是导航高度不确定和未知的问题集以实现长期目标。这里的结果要简单得多,因为本质上没有一组预期的结果供代理人映射。这里的例子包括罕见疾病的新药发现、材料科学的突破,或运行全新的物理实验以更好地理解宇宙的本质。缺乏确定性在这些领域可能是有益的,因为缺乏确定性是一种生成性创造力。
专注于现有GDP应用的代理人已经在释放价值。像Tasker、Lindy和Anon这样的团队都在建立针对这一机会的基础设施。然而,随着能力的成熟和治理模式的发展,团队将把重点转移到建立能够解决人类知识和经济机会前沿问题的代理人身上。
这一代新的代理人需要指数级更多的资源,正是因为他们的结果是不确定和无边界的——这些正是我预期最引人注目的零员工公司。
人类如何与代理人互动?
目前的代理人缺乏执行需要与现实世界进行物理互动(驾驶推土机)和/或需要人工参与的任务(汇款)的能力。
例如,一个被赋予寻找和提取锂的任务的代理人,可能擅长处理地震数据、卫星图像和地质记录来确定有前景的地点,但在试图获取数据和图像本身、解决解释中的模糊性或获得许可和合同劳动力来运行实际提取过程时会失败。
这些局限性要求人类作为代理人的支持者来提供必要的现实世界接触点、战术干预和战略输入,以完成这些任务。随着人类和代理人关系的发展,我们还可以区分人类在代理人系统中扮演的角色:
- 首先是劳动贡献者,他们代表代理人在现实世界中运作。这些贡献者帮助代理人移动实物、在需要人类时代表代理人、执行需要手臂和腿的工作、获得实验室或物流网络的访问权限等。
- 其次是董事会,提供战略输入并完善驱动代理人日常决策的局部目标函数,同时确保它们与定义代理人目标的北极星保持一致。
除了这两个角色,我还预计人类将扮演资本贡献者的角色,为代理人系统提供资源,使其能够实现目标。这种资本最初将来自人类,之后来自其他代理人。
随着代理人的成熟,以及劳动力和指导贡献者的增加,加密货币轨道为人类-代理人协调提供了理想的基础——特别是在代理人指挥说不同语言、使用不同货币、居住在世界各地不同司法管辖区的人类的环境中。代理人将无情地追求成本效率,并利用劳动力市场来实现其既定任务。加密货币轨道是必要的,可以为他们提供一种协调这些劳动力和指导贡献者的方式。
最近的加密驱动AI代理人,如Freysa、Zerebro和ai16z代表了资本形成的简单实验——这是我们广泛撰写过的一个核心解锁,涉及加密原语和资本市场在各种背景下的应用。这些就是玩具,将为一种新兴的资源协调模式铺平道路,我预计这种模式将如下发生:
- 步骤 1: 人类集体通过代币(初始代理发行?)筹集资本,建立广泛的目标函数和防护栏来指导代理系统的预期目的,然后将筹集的资本控制权分配给该系统(例如,用于精准肿瘤学的新分子开发);
- 步骤 2: 代理系统考虑如何分配该资本(如何缩小蛋白质折叠的搜索空间以及如何预算推理工作负载、制造和临床试验等),并通过定制的赏金定义人类劳动贡献者应完成的行动(例如,输入所有相关分子的集合,与 AWS 签订计算服务水平协议,并运行湿实验);
- 步骤 3: 当代理系统遇到障碍或分叉时,它在必要时会向董事会征求战略性输入(纳入新论文,转变研究方法),让他们能够在边缘指导代理系统的行为;以及
- 步骤 4: 最终,代理系统提高到能够以越来越精确的方式为人类定义行动,并且需要最少的输入来分配资源。在这一点上,人类只需要在意识形态上使系统保持一致,并防止它偏离其最初的目标函数。
在这个例子中,加密原语和资本市场为代理系统提供了三个关键的基础设施来获取资源和扩展能力:首先是全球支付渠道;其次是无需许可的劳动力市场来激励劳动力和指导贡献者;第三是资产发行和交易基础设施,这对于资本形成和后续的所有权和治理是必要的。
人类输入减少会发生什么?
在2000年代初期,国际象棋引擎的性能大幅提高。通过先进的启发式算法、神经网络和增加计算能力,它们实际上变得几乎无懈可击。像Stockfish、Lc0和AlphaZero这样的现代引擎已经远远超越了人类的能力,以至于人类的输入很少能增加价值,在大多数情况下反而会引入引擎自己不会犯的错误。
代理系统也可能出现类似的轨迹。当我们通过与人类协作者的反复迭代来完善这些代理系统时,可以想象,从长远来看,代理系统可能会变得如此胜任和与其目标保持一致,以至于任何战略性人类输入的价值趋向于零。
在这样一个世界里,代理系统能够在不需要人类干预的情况下持续解决复杂问题,人类的作用可能会降低到被动观察者的地位。这就是AI末日论者的核心担忧(然而,这种结果是否可能并不明确)。
我们正站在超级智能的边缘,我们乐观的人希望代理系统仍然是人类意图的延伸,而不是发展出自己的目标或在没有检查的情况下运行的实体。实际上,这意味着人类的身份(人格)和判断力(权力和影响力)必须保持在这些系统的中心。人类需要对这些系统拥有强大的所有权和治理权,以确保他们保持监督并将这些系统锚定在集体人类价值观上。
我们代理未来的镐和铲
技术突破导致经济进步的非线性速度,围绕它们的系统通常会在世界适应之前就崩溃。代理系统的能力正在以惊人的速度提高,而加密原语和资本市场已经成为推进这些系统的建设和设置防护栏的必要协调基础。
为了让人类能够为代理系统提供战术支持和主动指导,我们预计以下镐和铲机会将出现:
- 代理身份证明 + 人格身份证明:代理缺乏身份或财产权的概念。作为人类的代理,它们依赖于人类的法律和社会结构来获得代理权。为了弥补这一差距,我们需要为代理和人类建立健全的身份系统。一个数字认证登记簿可以使代理系统建立声誉,积累凭证,并透明地与人类和其他代理系统互动。同样,像Humancode和Humanity Protocol这样的人格身份证明原语,可以为这些系统中的对抗性参与者提供强有力的人类身份保证。
- 劳动力市场和链下验证原语:代理系统需要知道它们分配的任务是按照其目标完成的。允许代理系统创建赏金、验证其完成情况并分配付款的工具,是任何有意义的代理经济活动的基本要求。
- 资本形成和治理系统:代理系统需要资本来解决问题,也需要制衡机制来确保它们的行为符合既定的目标函数。为代理系统筹集资本的新颖结构,以及融合金融利益和劳动贡献的新形式的所有权和控制,将是未来几个月的一个丰富的设计空间。
我们正积极寻求投资于人机协作堆栈的这些关键层。如果您正在这个领域工作,请与我们联系。
