Meta宣戰OpenAI,發ChatGPT超強平替App,語音交互聯動AI眼鏡,Llama API免費用

avatar
36氪
04-30

Meta和OpenAI全面開戰了!

智東西4月30日報道,今天,在首屆LlamaCon開發者大會上,Meta正式發佈了對標ChatGPT的智能助手Meta AI App,並宣佈面向開發者提供官方Llama API服務的預覽版本

Meta AI App是一款智能助手,基於Llama模型打造,可通過社交媒體賬號瞭解用戶偏好、記住上下文。與ChatGPT一樣,Meta AI App支持語音和文本交互,並額外支持了全雙工語音交互(Full-duplex,允許在接收語音的同時並行處理和響應,支持邊聽邊說、實時打斷等功能)。

Meta AI App可作為Meta RayBan AI眼鏡的配套應用程序,用戶能通過該眼鏡直接與Meta AI App對話。

同場發佈的Llama API提供了包括Llama 4在內的多款模型,這一API與OpenAI SDK兼容,使用OpenAI API服務的產品可無縫切換至Llama API。

同時,Meta在新API中提供了用於微調和評估的工具,開發者可以打造符合自身需求的定製化模型,還可使用由AI芯片創企Cerebras和Groq提供的快速推理服務。

值得一提的是,過去數年中,Llama相關發佈僅作為Meta Connect開發者大會上的一個環節,此次專門辦會足見他們對AI業務的重視。Meta CEO扎克伯格並未出現在發佈會現場,會後其將參與2場對談。

關於價格,開發者可通過申請獲取Llama API免費預覽版的使用權限。未來,這一API或將採取收費模式,具體價格表尚未發佈。Meta AI App及Web版本均已上線,免費可用

Meta AI Web端:

https://www.meta.ai/

Llama API文檔:

https://llama.developer.meta.com/docs/overview

01.

Llama模型下載量已超12億

Meta AI App主打語音交互

Meta首席產品官Chris Cox在LlamaCon大會上分享了Meta開源AI的最新進展。Cox稱,2年前,Meta內部對開源的商業化前景和優先級問題都持有懷疑態度,但如今開源AI已成為行業大勢所趨。

2個半月前,Meta宣佈Llama及其衍生模型已經實現了10億的下載量,今天,這一數字已迅速增長至12億。

在開源平臺Hugging Face上,Llama的大部分下載量均來自衍生模型,有數千名開發者參與貢獻,數萬個衍生模型被下載,每月被使用數十萬次。

目前,Llama模型已被運用至Meta旗下的諸多App,包括WhatsApp、Instagram等等。在這些場景中,Llama模型經過了定製處理,以滿足特定用例需求,例如對話性、簡潔性(尤其是移動場景)和幽默感。

為提供更豐富的AI體驗,Llama推出了獨立智能助手App——Meta AI。

Meta AI App十分重視語音交互體驗,可提供低延遲、富有表現力的語音。Meta AI還可連接用戶的Facebook和Instagram賬戶,根據用戶互動歷史大致瞭解其興趣,並記憶用戶的相關信息。

這一App內置全雙工語音實驗模式。相關模型使用人與人之間的自然對話數據進行訓練,能提供更為自然的音頻輸出。全雙工意味著通道是雙向開放的,用戶可以聽到自然的打斷、笑聲等,就像真正的電話對話一樣。

全雙工語音實驗模式還處於早期階段,沒有工具使用、網絡搜索等能力,無法瞭解新近發生的時事。

Meta AI App中融入了社交元素,用戶可在發現頁面分享提示詞、生成結果等。這一App能與Meta Ray Ban智能眼鏡配合使用。用戶將能在眼鏡上開始對話,然後從應用程序或網絡的“歷史記錄”選項卡中訪問它,以從上次中斷的地方繼續。

02.

一行代碼就能調用

可在線完成模型微調

會上,Meta負責Llama業務的副總裁Manohar Paluri與Llama研究團隊成員Angela Fan共同發佈了由Meta託管的Llama API服務。

Llama API提供簡單的一鍵式API密鑰創建,一行代碼就能調用。支持輕量級的Python和Typescript SDK開發者以及OpenAI SDK。

在API服務網頁中,Meta提供了交互式遊樂場。開發者可在其中嘗試不同的模型,更改模型設置,比如系統指令或溫度,以測試不同的配置。

▲Llama API界面

此外,開發者還可以使用多項預覽功能,包括基於JSON的結構化響應、工具調用等。

Paluri認為,定製化才是開源模型真正應該領先的地方。Llama API提供了便捷的微調服務,目前支持對Llama 3.3 8B進行自定義。

開發者可在微調標籤頁上傳用於微調的數據,或是使用Meta提供的合成數據工具包生成後訓練數據。

▲Llama API模型微調界面

數據上傳完成後,開發者可將數據的一部分切分出來,用於評估定製模型的表現。在Llama API平臺上,可隨時查看訓練進展情況,微調完成後的模型可供下載,開發者可在任何場景中運行這一模型。

大會上,Meta宣佈了與Cerebras和Groq的合作。這兩家企業可提供Llama 4 API服務所需的算力支持,其算力能實現更快的推理速度。

03.

結語:Llama探索商業化新道路

自2023年Llama 1發佈以來,Llama系列模型已歷經四個主要版本,開源了數十款不同參數規模、不同架構的模型。不過,動輒數千億乃至萬億參數量的模型,意味著巨大的投入——外媒爆料稱,過去一年內,Meta已經主動與微軟、亞馬遜等公司接洽,希望建立合作關係,共同分擔開發成本。

本次,Llama API與Meta AI App的發佈,標誌著Meta開始積極探索Llama系列開源模型商業化的新道路。雖然目前的相關服務均處於免費狀態,但未來,Meta有望以開源模型為入口,引導企業和用戶使用關聯的雲服務,或是利用App實現商業化變現。在講完技術普惠和創新的故事之後,商業化或許是所有開源模型廠商們都需要共同面對的問題。

本文來自微信公眾號“智東西”(ID:zhidxcom),作者:陳駿達,編輯:雲鵬,36氪經授權發佈。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論