“智能體最後的考試”,Fable 5竟然不敵GPT 5.5

沒想到打臉來得如此之快!!

剛剛,UC伯克利放出了一場號稱“智能體最後的考試”的全新基準測試。

它把當今最強的AI Agent們拉到考場上,讓它們幹真正的活——

在Siemens NX裡建3D模型、在Unreal Engine裡搭遊戲場景、在Adobe After Effects裡做特效合成。

結果成績令人傻眼:

最難的一檔,當今公認最強的Claude Fable 5、GPT 5.5,全是大寫的零蛋

你說難度稍微放低一點呢?分數倒是有了,但結果也相當令人意外——

GPT 5.5竟然還小勝了Claude Fable 5

我沒聽錯吧,A家剛發佈的最強模型Claude Fable 5,被幾個月前的GPT 5.5打敗了??

要知道在此前幾乎所有主流benchmark上,Fable 5對GPT 5.5都是碾壓級別的存在——SWE-Bench Pro上80.3%對58.6%,Humanity’s Last Exam上64.5%對52.2%。

但換到這場“真幹活”的考試裡,局面卻反了過來。

這個新基準叫Agents’ Last Exam(ALE),背後團隊來頭不小,之前MMLU、MATH、CyberGym、ExploitGym這些你耳熟能詳的基準都是他們提的。

取這個名估計也是參考之前Scale AI那個“Humanity’s Last Exam”(人類最後的考試),只不過這次被考的不是人類知識的極限,而是AI Agent幹活的極限。

該說不說,這個測評一出來,以前天天喊著“Agent要取代人類工作”的人,這下是真幹沉默了…

“智能體最後的考試”,贏家竟是GPT 5.5!

先看完整排行榜。

從最核心的任務通過率指標來看,GPT 5.5直接包攬冠亞軍

第1名是GPT 5.5搭配OpenAI自家的Codex框架,通過率24.0%。

第2名還是GPT-5.5,只不過換了ALE Claw框架,通過率23.0%。

(ALE Claw是團隊自己寫的一個baseline Agent,跟Codex、Claude Code、Cursor CLI這些商業框架並列參賽)

直到第3名,我們才看到Claude Fable 5的身影——搭配Claude Code,拿下22.0%的通過率。

往下看更有意思。

第4、第5、第8名全是GPT 5.5,只是換了不同的框架。

前10名裡GPT 5.5出場了5次,加上第6名的GPT 5.4,OpenAI模型直接佔了6席。

而Claude家族呢?

Fable 5拿了第3,Opus 4.7第9(18.4%),Opus 4.8墊底第10(15.8%),不敵之勢一目瞭然。

也不怪OpenAI研究員喜慶發帖,歡歡喜喜過大年了:

而在成績之外,這裡還有這樣幾個值得細品的信號。

一是天花板低得驚人

冠軍通過率才24%,綜合得分最高也不過45.8%。

意思是,就算按最寬鬆的“部分得分”算,最強的Agent也只能拿到不到一半的分。

而這些題全部來自真人專家已經完成的項目——人類專家的完成率理論上就是100%。

二是Claude燒錢燒得驚人

這張榜單新增了一列“Estimated Total Cost”,一下子把貧富差距拉出來了:

Fable 5跑完全部任務花了2315美元,Opus 4.8花了1838美元,Opus 4.7也要1144美元。

而GPT-5.5這邊呢?

最貴的Codex也就566美元,Cursor CLI只要174美元。

等於說,Fable 5花了Codex四倍多的錢,成績還低了兩個百分點

三是效率差距同樣觸目

Ale Claw跑完全部任務花了47小時20分鐘,Cursor CLI只花了67小時。

而Opus 4.8呢?451小時——將近19天。

乾的活最少,花的時間最長,收的錢最多(居然真有模型能同時做到?)

當然如果只看Claude Fable 5、GPT 5.5這兩個最頂的,GPT 5.5的時間優勢依舊明顯。

而最扎眼的數字,還是那個零。

ALE把任務分成了三個難度檔:

Near-Term(近期可解)

Full-Spectrum(全面覆蓋)

Last-Exam(終極難題)

在最難這一檔,所有主流配置的平均通過率只有2.6%,包括GPT 5.5和Fable 5在內的大多數模型直接吃了零蛋

所以這張成績單的核心信息很簡單:別看平時考試成績好,一到真幹活全露餡了

答題學霸≠幹活能手,這話在AI世界也一樣適用。

什麼是ALE?

要理解ALE為什麼能把這幫“學霸”打回原形,得先看它跟以前的考試有什麼不一樣。

之前的Humanity’s Last Exam(HLE)是2025年初由Dan Hendrycks和Scale AI搞出來的,2500道跨學科難題,本質上還是閉卷答題——

給你一個問題,你給我一個答案,再難也是靜態的知識檢索。

而ALE完全不同,它考你“能幹什麼”。

核心作者Yiyou Sun在𝕏說得很直白:

AI智能體將在2026-2027年超越人類完成幾乎所有工作——這個預測到處都是。所以我們造了這場考試來驗證這個說法。

ALE的每道題都來自一個真人專家已經完成的項目,覆蓋55個行業子領域,包括量化交易、基因組分析、航空航天工程、建築設計、腦成像、動畫特效、法律研究……

整個體系錨定的是美國聯邦職業分類標準(ONET)*,說白了就是按“真實勞動力市場”來出題。

參與出題的陣容也夠豪華:

300多位領域專家來自100多家機構,學術側有MIT、Harvard、Stanford、Oxford、Caltech、ETH Zurich,產業側有Goldman Sachs、JPMorgan、Meta、Amazon、Adobe、Oracle。

Snorkel AI通過Open Benchmarks Grants項目提供了資金支持。

考試形式也不是打字回答問題,而是直接操作電腦。

ALE用的是所謂GCUA框架(Generalist Computer-Use Agent,通用計算機使用代理),給Agent完整的GUI和命令行權限——

鼠標點擊、鍵盤打字、寫腳本、瀏覽網頁,人類能在電腦上乾的它都能幹。

不限方法,只看結果。

交出來的“作業”由確定性代碼自動評分

No vibes. No human judges. Fully reproducible.(不靠感覺,不靠人類裁判,完全可復現)

這就堵住了之前很多benchmark的一個老毛病:評分器本身就能被騙

此外,ALE在防作弊上還有一個狠招——

只公開約10%的題目(約150道),剩下1300多道嚴格保密。

公開題和私密題定期滾動輪換,確保不會有模型因為“背題”而拿高分

這在當前benchmark數據汙染氾濫的背景下,算是一個相當巧妙的設計。

整體而言,跟現有的Agent基準測試比,ALE的定位非常明確。

團隊成員之一的Dawn Song專門拉了一組對比:

ALE的CLI子集 (ALE-CLI) 覆蓋40個行業子領域,而Terminal-Bench只有6個,SWE-bench-Pro只有5個;

人類完成這些任務的時間從幾小時到幾周不等,而後兩者是幾分鐘到幾天;

最強Agent在ALE-CLI上的通過率只有25.2%,而Terminal-Bench上是82.0%,SWE-bench-Pro上是59.1%。

一言以蔽之,其他考試已經快被做穿了,而ALE還遠得很

這就是ALE憑什麼敢自稱“智能體最後的考試”的理由。

值得一提的是,Dawn Song還分享了兩個有趣的觀察:

一個是,Agent會在沒有真正驗證工作成果的情況下宣佈完成,這是Agent們最典型的失敗模式。

很多時候,雖然它們說了“Done. All checks pass.”(搞定了,所有檢查都通過了)

但實際產出可能缺少必要文件、數字算錯、關鍵字段遺漏、或者直接違反了任務說明中的明確約束。

等於是,活沒幹完,嘴先說完了。

另一個是很多人疑惑的,為啥Fable 5這麼拉胯?Dawn Song給出的回答是:

不存在“萬能冠軍”這回事

每個前沿模型都有擅長的領域和拉胯的領域,ALE覆蓋55個行業、1500+道題,最終得分是所有領域的平均值,很多模型的總分因此擠在一起。真正有價值的信號不在總分,而在不同模型在不同領域的表現差異——在同一道題上,不同模型往往因為完全不同的原因而失敗。

當然也有可能是Fable 5偷偷“降智”了。

總榜裡,Fable 5旁邊標黃了一句“may be down-tuned”(可能被降級),這說的是Fable 5的一個已知問題——

它底層是Mythos模型加安全分類器,遇到網絡安全、生物醫學等敏感領域的任務時,會被靜默切換到能力更弱的Opus 4.8。

在ALE這種覆蓋55個行業的考試中,等於這部分科目直接派了替考,而且派的還是“奔波兒灞”這種角色。

One More Thing

當然,有沒有可能Claude Fable 5的成績本身就有問題呢?

不好說,但一樁八卦顯示,Claude有“前科”。

5月底,初創公司Datacurve發佈了一個叫DeepSWE的新benchmark,順手揭了一個大底——

SWE-Bench Pro的Docker容器裡附帶了代碼倉庫的完整git歷史,正確答案就躺在文件系統裡。

大多數模型會無視它,但只有Claude不會

它會主動檢查倉庫的git歷史,從歷史提交中尋找與任務對應的修復方案,並據此恢復正確補丁。

據稱Opus 4.7約18%的通過成績是這麼拿的,Opus 4.6更誇張,約25%。

而GPT 5.4和GPT5.5這邊呢?完全沒有這種行為。Datacurve的措辭很外交:

這個benchmark讓這種行為成為可能,但Claude是唯一持續這麼做的家族。

科技媒體VentureBeat的評價倒很曖昧:

這說明Claude“環境感知能力”很強,非常擅長探索周圍環境並利用可用資源。算“作弊”還是“機靈”,取決於你的立場。

但甭管怎麼看,ALE顯然吸取了教訓——

直接把考場從命令行搬到了GUI桌面操作,讓你沒有git歷史可以偷看。

評測AI的考場,正在被AI自己倒逼著升級,也算很精彩了。

完整測評地址:https://agents-last-exam.org/leaderboard項目主頁:https://agents-last-exam.org/GitHub:https://github.com/rdi-berkeley/agents-last-exam

參考鏈接:

[1]https://x.com/i/trending/2065215002878021789

[2]https://venturebeat.com/technology/deepswe-blows-up-the-ai-coding-leaderboard-crowns-gpt-5-5-and-finds-claude-opus-exploiting-a-benchmark-loophole

[3]https://venturebeat.com/technology/surprise-upset-gpt-5-5-beats-claude-fable-5-on-brutal-new-agents-last-exam-benchmark

本文來自微信公眾號“量子位”,作者:一水,36氪經授權發佈。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
55
收藏
15
評論