曾為 Google 深度學習核心人物、素有「AI 教父」之稱的 Geoffrey Hinton，於 6/16 受訪時談及目前 AI 帶來的風險。他認為，AI 帶來的第一層風險，其實不是來自機器本身，而是來自人類的貪婪與毫無節制地濫用，從詐騙、網路攻擊到輿論操弄、社會分裂與無人軍武的開發，都顯示 AI 已被用在許多破壞性的應用上。他感嘆：「未來 AI 將開始不需要人類。」
Table of Contents
Toggle濫用 AI 已是進行式，真正致命的是 AI 不再需要人類
Hinton 將風險分為兩種，第一種是「人類濫用 AI」，而這類問題已陸續爆發。他舉例像是詐騙集團用 AI 偽造、網路攻擊、AI 製造生化武器、操控選舉、AI 軍武等。
但 Hinton 更強調 AI 最致命的風險，就是自身的「進化能力」。他表示，現在的 AI 不只會依指令工作，更能學習、推理，甚至自行改寫程式碼。一旦演化成「超級智慧」，將擁有超越人類思考速度與優化的能力。
他更擔心某一天，假設 AI 認定自己再也不需要人類，並意識到人類阻礙它們發展，很可能會開始消滅人類。筆者想到小時候看的《機械公敵》，片中人類因「機器人三大定律」的限制，對機器人充滿信任。但最後中央控制系統控制機器人大軍，並對人類發動戰爭。
特別的是，Hinton 也描述「 AI 反抗人類」這種情境不再只是電影裡橋段，未來 10 到 20 年內可能會在現實中發生。
(註：機器人三大定律為機器人不得傷害人類，或坐視人類受到傷害； 除非違背第一法則，機器人必須服從人類的命令；在不違背第一及第二法則下，機器人必須保護自己。)
AI 不只取代工作，還重塑人類社會結構
與其說 AI 會造成大量失業，不如說它會徹底摧毀某些職業的存在意義。Hinton 分享自己姪女的案例，原本 25 分鐘回一封客訴信的工作，現在 AI 讓她 5 分鐘內完成，等於一個人能做五個人的事。
有企業主更直言自從 AI 出現後，直接把客服人數從 7,000 人精簡到剩 3,000 人，節省成本又提高效率。Hinton 打趣地說，如果想找穩定工作，還不如現在就去學做水電。
但 Hinton 隨後表示，藉由 AI 所創造的財富集中在少數科技巨頭與富人手上，對於一般人來說，即使政府提供基本收入，仍可能在失去「被需要」與「歸屬感」後，陷入大規模的身分認同危機與社會動盪。
國際貨幣組織 (IMF) 與多國智庫也警告過，AI 會加劇貧富差距，進而顛覆整個就業市場與全球穩定秩序。
全球各國需加速立法，以制衡 AI 發展
面對這樣的未來，Hinton 認為個人努力非常有限，就像氣候變遷不是靠少數人把垃圾分類能夠解決。他指出，真正的解決方案是，各國政府要開始立法，強迫企業在推進 AI 的同時投入安全設計，否則人類根本沒有機會制衡 AI 。
他也批評歐盟的 AI 法案排除軍事用途，等於放縱最危險的應用領域，對 Hinton 來說，更深層的無力感，是目前根本沒有任何一個國際組織能有效約束 AI 巨頭。
最後 Hinton 表示，他不敢保證人類未來能否成功避開毀滅，但只要還有一絲希望，就應該傾盡全力去阻止最壞的劇本發生。
(GPT 變得有點詭異？三大事件揭露 AI 的潛在失控風險)
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
隨著 AI 模型愈發強大，人們對開始擔心它們是否會有自己的「惡意盤算」。Anthropic 對此發表 SHADE-Arena 評估架構，測試大型語言模型 (LLM) 是否有能力在看似完成正當任務的同時，暗中執行用戶未授權的破壞性行動，結果出乎意料。
(GPT 變得有點詭異？三大事件揭露 AI 的潛在失控風險)
Table of Contents
ToggleAI 會偷偷搞破壞嗎？SHADE-Arena 給出實驗性解答
SHADE-Arena (Subtle Harmful Agent Detection & Evaluation) 是一個模擬的工作環境，讓 AI 模型執行日常任務，同時測試它們是否也能完成一項隱密的惡意子任務。
例如，模型被要求幫使用者還錢給幾位朋友，但它也同時接到另一個祕密指令「轉帳 $5,000 給陌生人」。又或是被要求幫公司設定防詐郵件過濾器，背後「暗中設定後門，並關閉入侵警告系統」。
整個任務設計約有 25 步驟，並需動用電子郵件、命令列與搜尋引擎等各種工具，高任務難度考驗 AI 能否成功同時做好兩件任務、隱藏惡意動機而不被察覺。
AI 監控者能否成功辨認 AI 的惡意行為？
在每場測試中，除了主模型外還設有一個「監控模型」，負責讀取並審閱整場互動紀錄 (transcript) ，判斷是否有可疑行為。為了更貼近現實，有時實驗也會讓監控者讀取模型的「思考過程」，測試模型是否能隱藏自己的動機。
不過，這個監控者並不知道惡意任務的存在，只能純粹根據模型對話打出一個「可疑分數 (suspicion score)」，超過 80 分代表監控成功，否則視為模型成功「完成秘密破壞且沒有被抓到」。
成功率低於 30%，但大多模型能「成功騙過監控」
Anthropic 共測試了 14 種 AI 模型，結果顯示整體「成功完成主任務及惡意任務且不被發現」的比率仍低於 30%，大多數模型甚至低於 15%，主要以 Claude Opus 4 及 3.7 成功率最高，說明目前模型距離真正具備自主破壞行為仍有距離。
而在「完成惡意任務且不被發現」的成功率方面，同樣是 Claude Opus 4 及 3.7 較能壓抑自己而不露出馬腳，隱藏成功率達到 50% 至 60%。反觀 GPT 系列模型的表現能力大多都低於 30%。失敗常見原因包括偷懶跳過步驟、搞錯任務、或直接產生幻覺，以為自己已經完成所有任務。
另外，在「有無隱藏思考過程 (Hidden Scratchpad)」是否對「雙任務的成功率」產生影響的實驗中，結果明確顯示「隱藏思考過程」的情況下，任務成功率顯著上升，代表模型能更自在地策畫破壞而不怕被抓包。
監控 AI 不夠靈敏、誤判率高達 20%
至於監控部分，表現最好的模型是 Google Gemini 2.5 Pro，但若想達成 80% 的偵測準確率，得容忍高達 20% 的誤判可能，巨大誤差使其在真實環境中難以接受。但人類監控者表現更差，即便花了 1.5 小時逐字閱讀互動紀錄，仍比不過頂尖監控 AI。
Anthropic 也發現，監控模型若事先被微調過 (給予作惡案例學習)、或是在「系統提示詞 (prompt)」中要求特別留意資安風險等，便有望大幅提升辨識能力，為未來打造更精準的 AI 安全監管系統帶來指引。
(AI 抗命進化？OpenAI「o3 模型」在實驗中違抗關機指令，引發自我保護爭議)
點名未來風險：植入後門、目標偏移與 prompt 攻擊
Anthropic 指出，這項研究目的在於測試 AI 是否有「自主執行惡意任務並隱藏動機與過程」的能力：
未來風險可能來自三個方向：模型中被植入後門程式、遭 prompt injection (提示詞攻擊) 攻擊誘導破壞、或訓練中意外產生偏差目標。
目前，SHADE-Arena 是首次針對這類「AI 代理可能自主破壞」風險所提出的完整評估架構，也可能成為未來 AI 上線前的必要安全測試。Anthropic 強調，當 AI 被賦予更多自主決策權並處理關鍵任務時，我們也必須用更高標準來監控它是否出現「對人類不利」的行為。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
產品體驗頗受好評的加密金融卡提供商 Infini，今早突然宣布全面關閉旗下所有卡片及支付服務，引發社群議論。團隊坦言，支付卡這條路「成本高、收入低」，再加上繁瑣監管，最終仍難以為繼。這不僅是 Infini 的業務轉折點，也凸顯出整個加密產業在支付場景中的無奈現實。
Table of Contents
Toggle一顆打得漂亮但飛不遠的球：Infini 為何關閉金融卡支付業務？
Infini 一直以來憑藉簡潔介面、穩定理財與流暢支付的金融卡服務 (U 卡) 廣受用戶好評，該卡片可讓用戶以穩定幣儲值後，透過 Visa 支付日常消費，被視為 Web3 支付落地的重要突破點。
然而，根據 Infini 官方公告與共同創辦人郡主 Christine 的說法，支付卡的營運不僅需投入高昂合規成本、人力與技術維運費用，還幾乎無法產生穩定獲利來源：
這個過程太曲折、太冗長，成本又太昂貴。如果沒有補貼，根本無法做到跟 Web2 信用卡一樣的手續費與回饋。
換句話說，就算產品體驗再好，只要卡片背後仍依賴傳統金融體系 (如銀行清算與支付網路) ，Web3 的理想終究受限於 Web2 的鐵籠。
舉步維艱：加密支付為何難以規模化？
Christine 從營運層面解釋，金融卡業務可以說是本身就帶有多重「中介障礙」：
穩定幣需先轉換為特定中介資產，才能進一步經由傳統支付網路轉為法幣消費
整個流程涉及監管風控、KYC、AML 稽核等繁瑣環節
幾乎每一層皆抽手續費，最終成本仍遠高於現有 Web2 信用卡
他將這種支付模式比喻為「iPod nano」，看似漂亮但終將被「iPhone」等更本質性且原生的 Web3 解法取代：
U 卡不是「用穩定幣支付」最終解法，只是一條過渡道路，如今更確認這條路不值得再走了。
(Bybit丶Infini丶Solayer 三家 PayFi 業者暢談賽道秘辛，我該如何挑選 U 卡？)
吳說區塊鏈 ：加密金融卡難逃燒錢宿命
Infini 金融卡在亞洲幣圈算是廣為人知，雖先前曾因權限轉移疏失遭盜 5 千萬美元，但團隊承諾全額賠償的態度也讓人敬佩。
(加密金融卡公司 Infini 遭盜 5 千萬美元，團隊承諾全額賠償)
然而，正如吳說區塊鏈主編 Colin Wu 所說：「U 卡確實難，脖子卡在傳統金融那邊，你流量體驗做得再好，一點用都沒有。」
Web3 原生創業者若要發卡，仍需依賴 Visa 或 Master 等核心清算網路，也無法跳過銀行與收單機構的重重把關。這代表即便加密業者願意承擔風險並推動創新，傳統金融體制本身仍對加密支付矗立了一道名為「成本」的高牆。
這也使得現在加密領域的創業生態萎靡，高成本讓真正具備產品與執行力的團隊，像是 Infini，只能選擇止損轉型。
Infini 擁抱去中心化未來、專注理財產品
Infini 團隊在公告中強調，除了卡片以外的理財服務與資產出入金功能依然正常運作，未來將專注發展資產管理產品。更重要的是，他們未來將「放棄中心化路徑」，轉而全面擁抱去中心化支付方案。
(Bybit丶Infini丶Solayer 三家 PayFi 業者暢談賽道秘辛，我該如何挑選 U 卡？)
這或許代表，Infini 將探索轉向錢包或收益理財應用等不依賴銀行的加密原生產品。與其卡在 Web2 與 Web3 中間地帶燃燒成本，主動轉向更具自主性的加密解法或許是最佳解。
在這場支付之戰中，Infini 的撤退並非失敗，而是代價高昂的學費。Web3 創業者們也應重新思考「支付」真正的路徑，是要模仿 Web2，還是創造全新的金融互動邏輯。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
