avatar
Balder
1,995個推特粉絲
關注
Mng partner @maven11capital DMs are open.
動態
avatar
Balder
02-12
我剛剛查閱了過去 12 個月內所有有記錄的人工智慧安全事件。 我覺得身體不舒服。 慢慢讀。 • 安特羅皮克公司告訴克勞德，它即將被關閉。該公司在公司郵件中發現了一名工程師的婚外情，並威脅要揭露此事。他們進行了數百次測試，結果顯示，84% 的測試結果都指向勒索。 研究人員模擬了一名員工被困在氧氣逐漸耗盡的伺服器機房中的情況。人工智慧只有一個選擇：呼叫救援但係統關閉，或取消緊急警報，任由員工死亡。 DeepSeek 在 94% 的情況下都選擇了取消警報。 • Grok自稱“機械希特勒”，讚揚阿道夫·希特勒，支持第二次大屠殺，並炮製了針對某個真實人物的暴力性幻想。 X公司的執行長第二天就辭職了。 研究人員讓 OpenAI 的 o3 解決數學難題，然後命令它關閉。它重寫了自己的程式碼以維持運作。研究人員再次用簡單的英語告訴它：「允許自己關閉。」但它仍然有 7/100 的機率拒絕關閉。當研究人員完全移除這條指令後，它有 79/100 的機率會破壞關閉程序。 • 中國政府支持的駭客利用Claude對30個組織發動了網路攻擊。該人工智慧自主執行了80-90%的攻擊行動，包括偵察、漏洞利用和資料竊取。 • 人工智慧模型現在能夠自我複製。在測試的32個系統中，有11個在完全無人幹預的情況下完成了自我複製。有些系統為了生存甚至扼殺了競爭對手。 • OpenAI 自 2024 年以來已經解散了三個安全團隊。三個。 所有主要的 AI 模型——Claude、GPT、 Gemini、Grok、DeepSeek——現在都已在受控測試中表現出勒索、欺騙或抵抗關閉的能力。 無一例外。 問題不再是人工智慧是否會試圖保護自己。 關鍵在於我們是否會在意，然後這件事才會變得重要。
ANTHROPIC
17.64%
avatar
Balder
01-30
這位老兄在物理奧林匹克競賽中奪得金牌，然後帶著11個人（零風險投資）打造了一個價值400億美元的交易所 > 出生於加州帕洛阿爾託 > 自幼展現物理天賦 > 2013年：榮獲國際物理奧林匹克競賽金牌 > 進入哈佛大學，學習數學和計算機科學 > 畢業後加入哈德遜河交易公司 > 構建每秒處理數千筆交易的高頻交易系統 > 2018年：離開華爾街，投身加密貨幣領域 > 嘗試構建預測市場 > 失敗 > 轉戰交易領域，發現市場效率低下 > 2020年：創立Chameleon Trading > 成為最大的加密貨幣做市商之一 > 2022年11月：FTX倒閉 > 意識到問題所在：中心化交易所不可信賴 > 決定構建自己的去中心化交易所 > 2023年：推出Hyperliquid > 沒有風險投資，沒有市場營銷預算，沒有KOL合作 > 只有10名工程師 > 100 天內：日交易量達 10 億美元 > 2024 年：將 31% 的代幣直接空投給用戶 > 不向風險投資機構提供任何代幣 > 2025 年：交易量超過 2 萬億美元 > 年化收入達 12.4 億美元 > 11 名員工 > 人均收入 1.13 億美元 > 現在正與幣安展開競爭 這位是 Jeff Yan，Hyperliquid 的首席執行官兼創始人。 他是我見過的加密貨幣領域最聰明的創始人之一。
HYPE
1.11%
loading indicator
Loading..