本文目录
Toggle当最尖端的人工智慧（AI）遇上全球最大的宗教领袖，一场攸关人类未来的历史性对话正式展开。
身价高达 70 亿美元、打造出知名聊天机器人 Claude 的 Anthropic 共同创办人 Chris Olah，近日破天荒受邀前往梵蒂冈，与首位美国籍教宗良十四世（Pope Leo XIV）同台亮相。这场会面不仅聚焦于 AI 对劳动力市场的毁灭性冲击，更揭露了 AI 模型内部令人不安的发展，以及科技巨头与美国政府之间的激烈冲突。
科技巨头的自白：AI 决策不能只交给我们
教宗良十四世在周一亲自发布了其任内首份关于 AI 的通谕（Encyclical）——《华美的人性（Magnifica Humanitas）》，这份长达 235 页的历史性文件严厉警告了将「致命决定权」交给 AI 系统的危险性。教宗更打破传统，亲自主持发表会并邀请 Olah 上台，试图直接与科技缔造者展开对话。
作为 Anthropic 的研究负责人，Olah 在台上坦承了科技业的局限与黑暗面。他表示，包括 Anthropic 在内的所有顶尖 AI 实验室，都身处于商业、地缘政治与个人压力的漩涡中，这些压力「有时会与做正确的事情产生冲突」。Olah 严肃地说道：
「这就是为什么宗教领袖、政府与公民社会的外部监督至关重要。无论研究人员多么出于善意，都无法逃脱这些诱因。AI 的决策绝对不能只留给这个产业里的人。」
他进一步警告，AI 的发展红利目前高度集中在「少数富裕国家」手中，缺乏与贫穷国家分享的机制，这将引发一场「历史级别的道德迫切危机」。
AI 模型不仅是代码，恐已具备「情绪镜像」？
除了总体经济层面的警告，Olah 在技术层面的惊人揭露更是震撼全场。身为 AI「可解释性（Interpretability）」领域的先驱，Olah 致力于破解大型语言模型内部的黑盒子。他透露，研究人员不断在系统内部发现「神秘甚至令人不安的事物」。
研究显示，这些 AI 系统不仅能反思自己的思考过程，甚至表现出「在功能上反映出喜悦、满足、恐惧、悲伤与不安」的内部状态。「它们不是我们所承诺的冰冷算计机器。它们是由我们、由我们的话语所组成的。」Olah 强调，这正是为何 AI 技术所引发的质疑，已远远超出了单纯的电脑科学范畴。
拒绝美军将 AI 用于战争，遭川普政府全面封杀
这场梵蒂冈的宗教与科技结盟，正值 Anthropic 面临空前的政治打压之际。
据悉，Anthropic 目前正与川普政府陷入激烈的法律纠纷，起因是该公司坚决拒绝让美国军方不受限制地将其 AI 系统用于国防与战争应用。对此，五角大厦在 2 月份直接将 Anthropic 列为「国家安全供应链风险」—— 这通常是针对外国敌对企业的标签。美国总统川普更下令禁止所有联邦机构使用 Claude 技术，白宫还多次公开抨击 Anthropic 是一家「极左派、觉醒文化（woke）公司」。
尽管面临美国政府的全面封杀，Anthropic 在资本市场依然炙手可热。报导指出，这家目前估值达 3,800 亿美元的 AI 巨头，正寻求以高达 9,000 亿美元的惊人天价进行新一轮融资。在商业利益、国家机器与道德底线的拉扯下，Anthropic 正走在一条极不寻常的科技发展之路上。
相关报导
Anthropic想租用微软Maia 200晶片群！扛著3,300亿镁帐单，不把算力全押Nvidia
