自主交易需要可驗證的控制 | 觀點

在現代市場中，“自主”與“自動化”之間的界限正在逐漸消失。能夠下單、協商費用、閱讀文件並重新平衡公司投資組合的代理人，已經脫離了各自的“沙盒”，直接與客戶資金面對面。這聽起來像是效率的全新維度，但也帶來了全新的風險。

業界仍然認為，意圖和責任可以通過免責聲明來區分，但這完全是錯誤的。一旦軟件能夠轉移資金或發佈價格，舉證責任就會顛倒過來，輸入證明、行動約束和審計線索這些不可更改的信息就變得至關重要，事實上，它們不容置疑。

如果沒有這樣的要求，自主代理建立的反饋迴路很快就會演變成一場快速發展的事故，令監管機構望而卻步。各國央行和那些制定市場標準的機構都在四處發出同樣的警告：當前的人工智能控制機制並非為今天的代理而設計的。

人工智能的進步放大了多個脆弱性向量上的諸多風險，但如果建立一個道德標準，解決辦法就非常簡單：只有通過構造證明是安全的，自主交易才是可以接受的。

令人擔憂的反饋循環

市場的構建方式創造了一個激勵機制，其中兼具速度和同質性，而人工智能代理則為兩者提供了動力。如果許多公司部署經過類似訓練的代理來處理相同的信號，那麼順週期的去風險化和關聯交易將成為市場所有波動的基準。

金融穩定理事會已將集群化、不透明行為和第三方模型依賴性列為可能破壞市場穩定的風險。金融穩定理事會還警告稱，這些市場的監管者必須主動監控而非被動觀察，確保不會出現漏洞，避免災難發生。

就連英格蘭銀行4月份的報告也強調，如果沒有適當的保障措施，更廣泛地採用人工智能可能會帶來風險，尤其是在上述市場面臨壓力的情況下。所有跡象都表明，在網絡擁堵導致倉位集中平倉之前，模型、數據和執行流程中必須融入更完善的工程設計。

擁有大量活躍人工智能代理的實時交易大廳無法用通用的道德文件來管理；規則必須編入運行時控制。誰、什麼、哪個以及何時必須嵌入代碼中，以確保不會出現漏洞，道德規範不會被拋諸腦後。

國際證監會組織 (IOSCO) 的諮詢報告也在 3 月份表達了擔憂，概​​述了治理方面的差距，並呼籲建立可進行端到端審計的控制措施。如果不瞭解供應商集中度、壓力下未經檢驗的行為以及可解釋性的侷限性，風險將會加劇。

在這裡，數據來源與政策同等重要。代理應該只接收已簽名的市場數據和新聞；他們應該將每個決策與版本化的政策綁定，並且該決策的密封記錄應該安全地保存在鏈上。在這個新興且不斷發展的狀態下，問責制至關重要，因此要使其可計算，以確保對人工智能代理的可追溯問責。

實踐中的道德

“可證明安全”在實踐中是什麼樣的？它始於範圍身份，每個代理都擁有一個命名的、可驗證的賬戶，並有明確的、基於角色的限制，定義其可以訪問、更改或執行的內容。權限並非預設，而是明確授予和監控的。對這些邊界的任何修改都需要多方批准，並留下可獨立驗證的加密痕跡。在這個模型中，問責制並非政策要求，而是從一開始就嵌入的架構屬性。

下一層是輸入可採納性，確保只有簽名數據、白名單工具和經過認證的研究才能進入系統的決策空間。每個數據集、提示或依賴項都必須可追溯到已知且經過驗證的來源。這大大降低了錯誤信息、模型中毒和提示注入的風險。當在協議層面強制執行輸入完整性時，整個系統將自動繼承這種信任，使安全不再僅僅是一個願望，而是一個可預測的結果。

接下來是封存決策：每個操作或輸出最終確定的時刻。每個操作或輸出都必須帶有時間戳、數字簽名和版本記錄，並將其與底層輸入、策略、模型配置和保障措施綁定。最終形成一個完整、不可篡改的證據鏈，可審計、可重放、可追溯，將事後分析轉化為結構化分析，而非僅僅停留在猜測層面。

這就是道德如何轉化為工程，合規證明就存在於系統本身。每個輸入和輸出都必須附有可驗證的收據，顯示代理所依賴的內容以及其如何得出結論。儘早嵌入這些控制措施的公司將更快地通過採購、風險和合規審查，同時在消費者信任受到壓力測試之前就建立起信任。而那些沒有這樣做的公司將在危機中期面臨問責，面臨壓力，而且缺乏他們本應設計的保障措施。

規則很簡單：構建能夠證明身份、驗證所有輸入、不可篡改地記錄所有決策、並按指令停止的代理，確保萬無一失。任何不達標的行為都不再符合當今數字社會或未來自主經濟中負責任參與的Threshold，因為在未來，證明將取代信任，成為合法性的基礎。