EigenAI 完整功能推出,EigenCloud 能否通過端到端推理方案突破大模型執行結果的不確定性? 在大語言模型從簡單的聊天機器人轉向能夠獨立決策的智能代理過程中,一個無法繞過的技術瓶頸正在制約 AI 的大規模落地:AI 生成內容具有極強的非確定性。在相同的提示詞輸入下,AI 模型無法獲得完全一致的產出。這種特性導致大模型當前無法規模化的參與到具有經濟影響的決策過程中。 舉個簡單的例子,在 AI 購物場景中,智能代理會試圖理解用戶的意圖購買商品,當購買完成後如果用戶收到了與預期不一致的產品時需要與商家解決售後問題。這時需要首先判斷智能代理發出了什麼樣的購買指令,如果輸出具有非確定性,智能代理很有可能在糾紛裁決過程中給出與初始購買意圖不同的選擇,這會給用戶帶來經濟損失。 為解決這個問題,EigenCloud 於近期推出了 EigenAI 平臺,通過構建從底層硬件到共識協議的完整技術棧,Eigencloud 可以在相對安全隱私的條件下向用戶提供可驗證可復現的 AI 推理服務,同時也為 AI 智能代理在更多嚴肅領域中落地打下了基礎。 EigenAI 為了能夠更好的控制模型的產出,提出了端到端的確定性推理策略(Deterministic Inference),對大語言模型推理棧的每一層都進行了嚴格控制和定製優化,將原來概率性的推理轉化為精確的確定性函數: ✜ 試讀部分已結束,剩餘隱藏硬核內容在這裡👇 research.web3caff.com/archives...

EigenCloud
@eigencloud
01-24
AI is starting to make real decisions, but no one can verify how an output was produced. “Trust the API” isn’t good enough. Today we’re releasing the EigenAI whitepaper, which lays out how to solve this problem with deterministic inference + verifiable results. A new primitive
相关赛道:
來自推特
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論