在加密貨幣領域，一條新聞的誤讀就可能導致數百萬美元的損失。我們之前的情感分析系統——一個由開源模型和自託管語言學習模型（LLM）混合而成的系統——難以應對25種全球語言的實時新聞流。一個典型的故障場景是：當“以太坊合併”之類的事件在不同的語言社區引發截然相反的解讀時，我們的系統要麼延遲飆升，要麼生成相互矛盾的情感標籤。這迫使我們重新思考核心挑戰：如何為全球用戶提供快速而準確的市場洞察？最終的答案在於精心設計的“多模型共識”架構。
建築演變：從單一模型到專家委員會
我們最初陷入了尋找“通用模型”的陷阱。經驗證明，沒有哪個單一的LLM模型能夠同時滿足生產級處理速度、多語言準確性和加密貨幣領域專業知識的要求。Claude 3 Haiku響應迅速，但對中文社區俚語的理解有限；我們精心調校的Mistral模型在解析項目白皮書方面表現出色，但在長文本吞吐量效率方面遇到了瓶頸。更重要的是，自託管這些模型的基礎設施負擔——高峰流量下的GPU資源爭用和持續的運維複雜性——使團隊捉襟見肘。這些痛點促使我們轉向模型聯邦的核心概念：讓各個專業模型發揮各自的優勢，並通過智能仲裁機制整合集體智慧。
雙路徑異步流水線設計
新系統的核心是在 AWS 上運行的雙路徑異步管道，旨在將 P99 延遲嚴格控制在一秒以內，同時保持冗餘。
新聞文本首先並行進入兩個處理通道。第一個通道是高速通道，它直接調用 Amazon Bedrock 上的 Claude 3 Haiku 模型進行初步情感判斷和關鍵實體提取，通常在 300 毫秒內完成。第二個通道是深度分析通道，它將文本發送到 Amazon SageMaker 上經過微調的 Mistral 7B 模型進行領域上下文增強——例如，區分“gas 費飆升”是由於網絡擁堵還是熱門 NFT 發行活動造成的——這個過程大約需要 600 毫秒。
真正的創新之處在於輕量級仲裁層的設計。該層實時比較兩條路徑的輸出。當結果高度一致時，它優先處理高速通道的輸出，以確保極高的響應速度；當出現差異時，它會基於預定義的領域規則和置信度評分，在 20 毫秒內完成決策合成。這種機制確保絕大多數請求都能在一秒內獲得兼具速度和深度的可靠信息。
數據管道的隱秘戰場
構建模型本身只是工程挑戰的冰山一角；真正的複雜性深藏於數據管道之中。來自全球新聞源和社交媒體的數據流充斥著各種噪聲，例如混合語言、表情符號和網絡俚語。為了解決這個問題，我們構建了一個多層過濾系統——將特定語言的正則表達式與基於 FastText 的實時檢測模型相結合——以確保輸入文本的純淨度。這一預處理流程的穩定性直接決定了後續分析的置信度。
更大的挑戰在於建立一套評估體系。我們不僅依賴於多語種專家團隊的人工標註，還引入了市場反應作為動態驗證指標：將情緒輸出與相關資產的短期價格波動關聯起來，以不斷完善評估標準。這使得系統從追求靜態標註的準確性轉向追蹤動態市場感知的有效性。
基礎設施的成本理念
遷移到 Bedrock API 帶來了運營模式的根本性轉變。最顯著的優勢在於徹底消除了基礎設施負擔，並實現了近乎無限的彈性擴展能力——即使突發新聞導致流量激增 300%，系統也能在無需人工干預的情況下平穩響應。在成本結構方面，雖然採用了按代幣計費的模式，但通過對高頻敘事模板進行智能緩存以及對提示工程進行持續優化，與自託管 GPU 集群的閒置資源相比，總體支出降低了約 35%。這一轉變使得工程資源得以釋放，從而可以專注於仲裁邏輯和流水線優化等核心創新。
結論與未來方向
此次架構演進的關鍵洞見在於，對於要求極高性能的生產系統而言，“單一權威模型”往往不如“專家委員會各司其職”。通過將通用層級模型（LLM）的響應速度與領域專用模型的深度語義理解能力有機結合，我們最終構建了一個能夠經受全球市場實時考驗的情感感知系統。
展望未來，我們將系統從“情感分析”向“敘事追蹤”代理演進。新的挑戰在於，不僅要使人工智能能夠判斷情感極性，還要能夠識別並持續追蹤新興敘事（例如“現實世界資產代幣化”）的形成、傳播和衰落軌跡。這將需要一個具有更強大的記憶機制和因果推理能力的架構，引領我們邁向下一代智能金融基礎設施的前沿。
