推出全球火红的人工智慧聊天机器人ChatGPT 的人工智慧公司OpenAI,在上周曾被同样身为该公司前共同创办人的马斯克(Elon Musk)怒呛: 不再开源,已变成一个闭源盈利性组织。
延伸阅读: 马斯克为何与OpenAI反目?挖角Google前AI专家,秘密打造ChatGPT杀手
而据未来生命研究所(Future of Life Institute)最新公布的一封公开信表示,包含马斯克在内超过1100 多名人工智能专家及行业领袖已联名签署,呼吁暂停训练比GPT-4 更强大的人工智能系统至少半年。
我们呼吁所有AI 实验室立即暂停比GPT-4 更强大的AI 系统,至少6 个月的训练。
这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。
除了马斯克之外,该封信中的署名者还包括:图灵奖得主Yoshua Bengio、苹果共同创办人Steve Wozniak、Skype 共同创办人Jaan Tallinn …等业界领袖人物。
对未来人类和社会造成潜在风险
至于这么多专家连署反对的理由,信中解释道:大量研究加上顶级AI 实验室的认可,具有人类竞争智能的AI 系统可能对社会和人类构成深远的风险。
同时提醒人们应该对最终可能会超过我们、甚至取代我们的非人类思维保持警慎,因为可能会因此失去对文明的控制,信中强调:
只有当我们确信它们的影响是积极的,并且它们的风险是可控的时候,才应该开发强大的人工智能系统。
传马斯克拟开发ChatGPT 竞争品
值得注意的是,马斯克在多次表达不满OpenAI 变成微软赚钱机器之际,二月底时也传出他已与多位人工智慧(AI)研究人员联系。
商讨欲成立一间新的研究实验室,以开发ChatGPT 替代品的可能性,但据悉该项目仍处于早期阶段,尚无开发具体产品的明确计划。