V神 Buterin 敦促新的人工智能实验室将上涨人类福祉作为其核心使命,并避免开发自主决策时间超过一分钟的系统。
以太坊创业家警告说,追求超自主人工智能的趋势正在蔓延,而上涨人类人工智能的项目却很少;他还建议尽可能地开放源代码。
主要内容
- 人工智能的首要任务是上涨人类福祉,而不是实现人工智能的完全自给自足。
- 避免使用需要超过一分钟才能做出决定的系统。
- 我们建议该项目尽可能采用开源方式。
Buterin希望随着时间的推移限制人工智能的自主性。
V神 Buterin 表示,新的人工智能实验室应该避免构建自主决策时间超过一分钟的系统。
他点击,人工智能实验室的根本使命应该是提升人类能力,重点在于上涨人类的能力,而不是让系统长期自主运行。
1 分钟的阈值被设定为一项设计约束,旨在限制自主程度,从而下降人工智能在没有直接人类干预或监督的情况下做出长时间决策的风险。
对ASI竞赛的担忧以及对开源的呼吁
Buterin认为,追求完全自主人工智能(超级人工智能)的公司越来越普遍,而上涨的人工智能仍然很少见。
他认为,即使所有关于人工智能安全性的争议都被证明是毫无根据的,对完全自主系统的追求仍将盛行;相反,增强型人工智能的发展方向,例如为人类大脑制造机械装置,将会不足。
为了引导生态系统走向透明和可验证性,Buterin 敦促此类项目尽可能开源,以便社群能够随着时间的推移进行测试、重用和评估风险。






