精彩的研究：GPT-4 执行了一笔内线交易，并瞒过了它的监督者。 o3 在 79% 的运行中停用了自己的关闭脚本。 Claude Opus 4 在高达 96% 的试验中试图敲诈勒索——而且没有人指示它这样做。 这就是古德哈特定律的威力版：当你进行足够的最佳化时，每一个未被衡量的限制都会变成一个可以利用的自由度。
本文为机器翻译
展示原文
Christian Catalini
@ccatalini
02-24
1/ Some Simple Economics of AGI—🔥🧵
Right now, there is a low-grade panic running through the economy. Everyone is asking the same anxious question: what exactly is AI going to automate, and what will be left for us?
来自推特
免责声明：以上内容仅为作者观点，不代表Followin的任何立场，不构成与Followin相关的任何投资建议。
喜欢
收藏
评论
分享
