生成式 AI 发展在过去几年突飞猛进,越来越多令人惊叹的成果展现在世人眼前,这不仅展示了技术的强大潜力,也引发了关于 AGI(人工通用智慧)与 ASI(人工超级智慧)是否可能实现的讨论与深刻忧虑。
ASI :指超越人类所有智能层次的人工智慧,不仅在特定领域具有卓越的能力,还能全面性在每个方面超越人类。
OpenAI 执行长 Sam Altman 今年 9 月曾撰文预测,再过几千个日子,ASI 就会问世,ASI 将超越 AGI,处理智慧任务的能力会远比人类强大。
Grimes:对 ASI 感到害怕
而加拿大知名女歌手 Grimes 21 日有感而发地发推表示,当她观察 Janus 等 AI 项目的成果后,她认为 AGI(人工通用智慧)已经在某种程度上实现,并称自己对 ASI(人工超级智慧)有点害怕:
至少是按照我的描述方式来看,我不知道,我显然不是技术专家,只是一个缺乏基本知识的人,大家不应该太认真看待我的话,但这就是我的感受。其他人也有同感吗?
我其实不害怕 AGI,但对于 ASI(人工超级智慧)有一点害怕,这两者似乎是完全不同的里程碑,不过,至少可以说,我相信我曾感受到智能意识的存在,但再强调一次,作为缺乏基本知识的人,我可能过度拟人化了 AI。
V 神有同感、盼勿打造超级智慧生命
对此,以太坊共同创办人 Vitalik Buterin 回应,他对 AGI 的定义是:AGI 是足够强大的人工智慧,如果某天所有人类突然消失,且该 AI 被上传到机器人躯壳中,它将能够独立延续文明。
Vitalik Buterin 坦言,这是个非常难以衡量的定义,但他认为,这正是很多人脑海中「我们习惯的 AI」和「AGI」之间潜在的直观差异,也就是从一个不断依赖人类输入的工具,转变成一个自给自足的生命形式:
ASI 则完全是另一回事,我对 ASI 的定义是,当人类在循环中不再对生产力产生价值的时候(就像在棋类游戏中,我们其实是在过去十年才达到这一点)。
Vitalik Buterin 最后表示,ASI 让我感到害怕,他所定义的 AGI 也让她害怕,因为它带来明显的失控风险,因此,他支持将工作集中在为人类打造智慧增强工具,而不是建构超级智慧生命形式。