乍一看，温哥华不列颠哥伦比亚大学一家著名人工智能实验室最近发表的一批研究论文似乎并不引人注目。这些论文对现有算法和想法进行了渐进式改进，读起来就像是中等人工智能会议或期刊的内容。
但这项研究确实非常了不起。因为它完全是 UBC 实验室的一位“人工智能科学家”与牛津大学和一家名为Sakana AI 的初创公司的研究人员共同开发的成果。
该项目展示了可能成为革命性技巧的早期步骤：让人工智能通过发明和探索新想法来学习。目前它们还不算超级新颖。几篇论文描述了改进图像生成技术（称为扩散建模）的调整；另一篇论文概述了一种加速深度神经网络学习的方法。
“这些想法并不具有突破性。它们并不具有极大的创造性，”UBC 实验室负责人Jeff Clune教授承认道。“但它们看起来很酷，值得一试。”
尽管当今的人工智能程序非常出色，但它们受限于需要使用人类生成的训练数据。如果人工智能程序能够以开放式的方式学习，通过实验和探索“有趣”的想法，它们可能会解锁超出人类所展示的任何能力。
Clune 的实验室之前曾开发过旨在以这种方式学习的 AI 程序。例如，一个名为 Omni 的程序试图在几个类似视频游戏的环境中生成虚拟角色的行为，将那些看起来有趣的行为归档，然后用新的设计对其进行迭代。这些程序以前需要手工编码指令来定义有趣性。然而，大型语言模型提供了一种让这些程序识别最有趣的内容的方法。Clune 实验室最近的另一个项目使用这种方法让 AI 程序构思出允许虚拟角色在类似 Roblox 的世界中做各种事情的代码。
这位人工智能科学家是 Clune 实验室探索各种可能性的一个例子。该程序会进行机器学习实验，在法学硕士的帮助下确定最有希望的方案，然后编写并运行必要的代码——反复进行。尽管结果不尽如人意，但 Clune 表示，随着计算机能力的提升，开放式学习程序（就像语言模型一样）可能会变得更加强大。
“感觉就像探索新大陆或新星球，”克鲁恩谈到法学硕士所解锁的可能性时说道。“我们不知道会发现什么，但无论我们走到哪里，都会有新的东西。”
耶路撒冷希伯来大学助理教授、艾伦人工智能研究所 (AI2) 研究科学家汤姆·霍普 (Tom Hope ) 表示，人工智能科学家就像法学硕士一样，似乎具有高度衍生性，不能被视为可靠。“现在没有一个组成部分是值得信赖的，”他说。
Hope 指出，实现科学发现要素自动化的努力可以追溯到几十年前，人工智能先驱Allen Newell和Herbert Simon在 20 世纪 70 年代的工作，以及后来Pat
兰利在学习与专业知识研究所工作。他还指出，包括 AI2 团队在内的其他几个研究小组最近也利用 LLM 来帮助生成假设、撰写论文和审查研究。“他们抓住了时代精神，”霍普谈到 UBC 团队时说道。“当然，这个方向非常有价值。”
基于法学硕士的体系是否能提出真正新颖或突破性的想法仍不清楚。“这是一个价值万亿美元的问题，”克鲁恩说。
即使没有科学突破，开放式学习对于开发更强大、更有用的人工智能系统来说也至关重要。投资公司 Air Street Capital 本月发布的一份报告强调了 Clune 的工作在开发更强大、更可靠的人工智能代理（即在计算机上自主执行有用任务的程序）方面的潜力。大型人工智能公司似乎都将代理视为下一个大热门。
本周，Clune 的实验室公布了其最新的开放式学习项目：一个发明和构建人工智能代理的人工智能程序。人工智能设计的代理在某些任务上的表现优于人类设计的代理，例如数学和阅读理解。下一步将是设计方法，以防止此类系统生成行为不当的代理。“这具有潜在的危险性，”Clune 谈到这项工作时说。“我们需要做好这件事，但我认为这是可能的。”
