Anthropic

Anthropic

26,531個推特粉絲

關注

Anthropic is an AI safety and research company that’s working to build reliable, interpretable, and steerable AI systems.

動態

人類學新研究：大型語言模型中的情感概念及其功能。所有語言模型有時都會表現出類似情感的行為。但這是為什麼呢？我們發現了情感概念的內部表徵，這些表徵可以驅動克勞德的行為，有時甚至會以令人驚訝的方式發揮作用。

開源生態系統支撐著世界上幾乎所有的軟體系統。隨著人工智慧能力的不斷提升，開源安全變得日益重要。我們正在向 Linux 基金會捐款，以繼續幫助保護人工智慧運作的基礎架構。 twitter.com/AnthropicAI/status...

Anthropic 正在拓展澳洲和紐西蘭市場。我們即將在雪梨開設辦公室——繼東京、班加羅爾和首爾之後，這將是我們在亞太地區的第四家辦事處。了解更多：

人類組織首席執行官達里奧·阿莫迪就我們與戰爭部的討論發表聲明。

我們發現 DeepSeek、Moonshot AI 和 MiniMax 對我們的模型發起了大規模的數據提取攻擊。這些實驗室創建了超過 24,000 個欺詐賬戶，並與 Claude 進行了超過 1600 萬次的交易，提取了 Claude 的功能來訓練和改進他們自己的模型。

人類學研究員最新研究：模型智能和任務複雜性如何加劇目標偏差？當高級人工智能失敗時，是因為追求了錯誤的目標嗎？還是會像“一團糟”一樣，以不可預測且混亂的方式失敗？閱讀更多：alignment.anthropic.com/2026/h...…

我們正與英國科學、創新與技術部合作，為英國政府開發一款人工智能助手。它將提供量身定製的建議，幫助英國民眾更好地使用政府服務。瞭解更多關於我們合作的信息：

最新研究表明：當開源模型利用前沿模型生成的看似無害的化學合成信息進行微調時，它們在化學武器任務中的表現會顯著提升。我們稱之為誘導攻擊。

我們正在為克勞德制定一份新的章程。這份章程詳細描述了我們對克勞德行為和價值觀的期望。它主要是為克勞德編寫的，並將直接用於我們的訓練過程中。

人工智能在大學校園裡無處不在。我們與學生們進行了交流，瞭解哪些方面進展順利，哪些方面存在不足，以及學生、教授和大學是如何實時應對人工智能的。 0:00 引言 0:22 嘉賓介紹 1:06 校園氛圍 6:28 學生們正在開發什麼？ 11:27 人工智能是工具還是柺杖？ 16:44 教授們是否跟得上？ 20:15 缺點 25:55 人工智能與就業市場 34:23 快問快答

Loading..