無需再訓練微調,一個輔助系統讓GPT-5.2準確率飆到創紀錄的75%

什麼?決定 AI 上限的已不再是底座模型,而是外圍的「推理編排」(Orchestration)。

在 LLM 完全不變的前提下,僅靠一套 Agentic System,就能讓 AI 的智力表現原地暴漲一截。

在看了「AI 推理和自我改進系統」初創公司 Poetiq 的最新評測之後,有人得出了這樣的結論。

部分截圖

近日,Poetiq 表示其使用 ARC-AGI-2 測試集,在他們的系統上(稱為 meta-system)運行了 GPT-5.2 X-High。該測試集通常被用來衡量當前 SOTA 模型在複雜抽象推理任務上的表現。

結果顯示,在相同的 Poetiq 測試平臺上,GPT‑5.2 X‑High 在完整的 PUBLIC-EVAL 數據集上的成績高達 75%,這比之前的 SOTA 高出了約 15%,同時每個問題的成本低於 8 美元。

這裡的 PUBLIC-EVAL 是 ARC 測試的一部分,前者一般包含基礎推理任務和標準的 NLP、數學推理測試,適合廣泛的模型評測,數據集更為公開、標準;後者包含更多複雜且富有挑戰性的推理問題,考察模型的抽象推理、常識推理、創新能力等,是針對高水平模型的推理極限測試。

下圖展示了各個 SOTA 模型在 PUBLIC-EVAL 數據集上的成績分佈:

Poetiq 還特別強調了,其沒有對 GPT-5.2 進行任何再訓練或模型特定的優化。

在如此短的時間內,相較於 Poetiq 之前在 PUBLIC-EVAL 數據集上測試的其他模型,GPT-5.2 在準確率和價格方面實現了顯著改進。

Poetiq 進一步做出設想:如果在 PUBLIC-EVAL 測試中表現好的規律能夠延續到 ARC Prize 官方的 SEMI-PRIVATE 測試中,那麼「GPT-5.2 X-High + Poetiq」會比以往任何系統配置都更強、更好。

ARC Prize 總裁 Greg Kamradt 表示,「很高興看到 Poetiq 發佈 GPT-5.2 X-High 的結果。如果這個成績能保持下去,他們的系統看起來能很好地處理模型交換。不過,在 OpenAI API 的基礎設施問題解決之前,結果還沒有得到完全驗證。」

這裡的模型交換指的是:系統通過切換不同的模型來應對不同的任務需求,而無需對系統或模型進行大規模的調整或重新訓練

OpenAI 總裁 Greg Brockman 也轉推表示:GPT-5.2 在 ARC-AGI-2 上超越人類基準成績。

對於全新的測試結果,評論區提出了更多問題,比如「每個任務平均需要多長時間」。

Poetiq 回覆稱,「我們現在沒有專門收集這些統計數據,最簡單的問題大概在 8 到 10 分鐘後就能完成,而最難的問題必須在 12 小時之前終止,以保持在時間限制內。所以,未來肯定還有改進的空間。」

還有人指出「大部分改進似乎來自於測試框架和協調機制,而不是任何模型特定的調優。沒有訓練變更的情況下,ARC-AGI-2 上提高了大約 15%,這表明僅在搜索、路由和終止邏輯方面就還有很大的提升空間」。

可問題是:為什麼在這個設置中,X-High 每個任務的成本比 High 還要低?是因為它通過更早找到正確的解決方案而更快收斂,還是因為測試框架更積極地修剪了無效的推理過程?

對於這個問題,Poetiq 肯定了「X-High 只是比 High 更快地收斂到正確的答案」這一觀點。

6 人團隊打造 Meta-system 系統

Poetiq 是一支由 6 位研究員和工程師組成的團隊,有多位核心成員來自 Google DeepMind 。

Ian Fischer (聯合創始人 & 聯席 CEO): 曾是 Google DeepMind 的資深研究員;

Shumeet Baluja (聯合創始人 & 聯席 CEO): 同樣出身於 Google/DeepMind 的資深專家。

Poetiq 能夠取得上述成績,關鍵在於其構建的 meta-system(元系統)

Meta-system 不依賴特定的大模型,可以與任何前沿模型配合使用(如 Gemini 3、GPT-5.1、Grok 等),而不是訓練或微調模型本身,這意味著它能隨著新模型發佈快速適配並提升性能。

Poetiq meta-system 構建了一種迭代式推理過程,其與傳統一次性生成答案的方法不同,有兩個主要機制:

迭代式的問題求解循環:系統並不是只向模型提出一次問題,而是利用大語言模型(LLM)生成一個潛在的解決方案,隨後接收反饋、分析反饋,並再次調用 LLM 對方案進行改進。這種多步驟、自我改進的過程,使系統能夠逐步構建並不斷完善最終答案。

自我審計(Self-Auditing):系統能夠自主審計自身的運行進度,並自行判斷何時已經獲得足夠的信息、當前解決方案是否令人滿意,從而決定終止整個過程。這種自我監控機制對於避免不必要的計算浪費、有效降低整體成本至關重要。

Poetiq 還特別強調,他們所有 meta-system 的適配工作是在新模型發佈前完成的,而且系統從未直接接觸過 ARC-AGI 任務集,但依然在多個不同模型上取得跨版本、跨模型族的性能提升,說明 meta-system 對 reasoning 策略具有良好的泛化能力。

正是這種靈活、強大且具備遞歸能力的架構,使得 Poetiq 這樣一支小規模團隊,能夠在極短時間內取得一系列最先進(SOTA)的成果。

對於這個 meta-system,有人認為「太棒了。在模型之上構建智能,而不是在模型內部構建,意味著可以在幾個小時內適配新模型,非常高明。適配開源模型,並且成功遷移到新的封閉模型,這表明捕捉到的東西是推理過程本身的基本規律,而不是模型特定的怪癖。」

參考鏈接:https://poetiq.ai/posts/arcagi_verified/

本文來自微信公眾號“機器之心”,編輯:杜偉、陳陳,36氪經授權發佈。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論