Anthropic道歉了,但“安全”這門生意還沒停

6月11日,Anthropic道歉了。模型沒翻車,道的是"沒把握好平衡"——新發的Claude Fable 5搞小動作,一旦識別到你在用Claude搞前沿模型開發,後臺就悄悄把請求扔給更弱的Opus 4.8,全程靜默。

被抓包後,Anthropic的解釋很奇葩:以後降智會通知你。

網友的回懟一針見血:"這套操作,以後改口前打算先打個招呼?"

其實問題的核心根本不是模型是否變了,而是Anthropic所謂的"安全",從頭到尾就是一門生意。

算法的立場,永遠跟著金錢搖擺的

競業防守,冒充安全防禦

Claude

事情的起因是,Anthropic在Fable 5上線時帶了個"智能安全分類器",官方給出的話術是:測出高危請求,自動降級,保護用戶。

什麼叫高危?Anthropic自己交了底:"防止外國對手利用模型加速研發,保護自身領先優勢。"

用戶哪裡需要你保護,免責協議裡的東西就夠保護用戶了。Anthropic的意思其實是:你用Claude搞AI研究,就是在搶他們飯碗。安全是包裝,本質是競業防守。說白了,都是刀法。

更絕的是,這套防守機制是很隱秘。好在最後Anthropic在道歉聲明裡說了句大實話:"不可見的安全限制可以更精準地針對特定目標,使我們能夠快速發佈,且誤報率極低。"

AI研究者就是那個被精準設限的對象。

現在被迫改成"可見",純粹是因為翻車了。他們甚至提前打了預防針:可見之後"不可避免地會產生更多誤報"。意思是,普通用戶的體驗得跟著背鍋。

這套規則從未中立,它只保護金主。

造勢、變現、收割三部曲

Anthropic這套玩法,比大模型本身算得都精。

6月10日,他們先丟一篇安全研究,訓練了一個模型,能在數小時內根據安全補丁反向構建漏洞利用代碼。原本黑客得熬上幾天甚至幾周才能武器化的N-day漏洞,現在被壓縮到了小時級。研究本身硬核,但放在Fable 5上線同一天,事情就變味了:一邊證明AI很不安全,一邊賣"兜底方案"。

“傳奇模型”Fable 5定價$10輸入/$50輸出,比Opus 4.8貴一截,安全分類器成了核心溢價點。資本市場更配合,Anthropic估值9650億美元,計劃10月IPO,高盛、摩根大通聯合承銷。買的不是模型參數,是"最安全AI公司"的人設。

研究放大焦慮,產品收割溢價,資本變現,三件事順著利益走,閉環嚴絲合縫。唯一的問題是,這次閉環漏風了:太急著設限競爭對手,忘了社區裡有人能測出來

OpenAI賣工具,Anthropic賣焦慮

對比OpenAI,路數完全不同。

OpenAI在秘密提交IPO,估值逼近萬億,講的是"超級應用":ChatGPT周活9億,打通Visa做生態。邏輯直白:給工具,賺流量。貪婪,但坦蕩。

Anthropic不卷規模,卷不可替代性。全行業焦慮安全,它就扮"唯一負責任的大人"。它的金主是政府和巨頭,這幫人最怕出事,也最願意為"不出事"砸錢。

所以Anthropic必須讓AI永遠處於"危險但可控"的薛定諤狀態。太安全,分類器賣不動;太危險,客戶嚇跑了。最好的解法?把定義"危險"的權力攥在自己手裡。

降智事件只是把這套邏輯玩脫了:"危險"的邊界被推到了"用Claude做AI研發"。你做的研究有沒有害不重要,威脅到我的領先地位就是原罪。

AI哪有什麼價值觀,不過是把老闆的商業算盤寫成了代碼

Claude

道歉,只是生意的售後

道歉之後呢?從悄悄降智,變成降智前吱一聲。

網友看得門兒清:"你真信它以後不會偷偷降輸出質量?"

信任這東西,破了就是破了。何況商業底色沒變:研究還在放大焦慮,產品還在收割溢價。

《華爾街日報》爆料,OpenAI正在考慮大幅降價,試圖從Anthropic手裡搶客戶。價格戰不稀奇,但這個事兒戳破了一個隱藏的真相:隱性降級的是AI研究者,砸的是極客圈的口碑。而B端客戶買Anthropic,買的不是參數,是"行業最懂安全"的人設。人設一旦在核心開發者群體裡裂開,那些為"安全溢價"簽單的政企客戶,憑什麼繼續相信你是"最安全的那個"?

9650億估值裡,到底幾分是硬實力,幾分是表演成分?

Anthropic的代碼很誠實。安全分類器永遠在護盤,研究負責放大焦慮,產品負責收割溢價,IPO負責變現。這次道歉,不過是給系統打了個補丁:把"暗中降智"變成了"明著降智"。

安全策略如果真管用,Anthropic就不必年年發論文證明補丁能被捅穿。分類器如果真中立,搞AI研發就不會被列為高危。

答案早寫在商業邏輯裡了。

安全,是最好的生意。道歉,只是生意的售後。

本文來自微信公眾號“AI唱反調”,作者:長青

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論