作者 | 陳駿達(dá)
編輯 | 云鵬
Meta 和 OpenAI 全面開戰(zhàn)了!
智東西 4 月 30 日報(bào)道,今天,在首屆 LlamaCon 開發(fā)者大會(huì)上,Meta 正式發(fā)布了對標(biāo) ChatGPT 的智能助手 Meta AI App,并宣布面向開發(fā)者提供官方 Llama API 服務(wù)的預(yù)覽版本。
Meta AI App 是一款智能助手,基于 Llama 模型打造,可通過社交媒體賬號(hào)了解用戶偏好、記住上下文。與 ChatGPT 一樣,Meta AI App 支持語音和文本交互,并額外支持了全雙工語音交互(Full-duplex,允許在接收語音的同時(shí)并行處理和響應(yīng),支持邊聽邊說、實(shí)時(shí)打斷等功能)。
同場發(fā)布的 Llama API 提供了包括 Llama 4 在內(nèi)的多款模型,這一 API 與 OpenAI SDK 兼容,使用 OpenAI API 服務(wù)的產(chǎn)品可無縫切換至 Llama API。
同時(shí),Meta 在新 API 中提供了用于微調(diào)和評(píng)估的工具,開發(fā)者可以打造符合自身需求的定制化模型,還可使用由 AI 芯片創(chuàng)企 Cerebras 和 Groq 提供的快速推理服務(wù)。
值得一提的是,過去數(shù)年中,Llama 相關(guān)發(fā)布僅作為 Meta Connect 開發(fā)者大會(huì)上的一個(gè)環(huán)節(jié),此次專門辦會(huì)足見他們對 AI 業(yè)務(wù)的重視。Meta CEO 扎克伯格并未出現(xiàn)在發(fā)布會(huì)現(xiàn)場,會(huì)后其將參與 2 場對談。
關(guān)于價(jià)格,開發(fā)者可通過申請獲取 Llama API 免費(fèi)預(yù)覽版的使用權(quán)限。未來,這一 API 或?qū)⒉扇∈召M(fèi)模式,具體價(jià)格表尚未發(fā)布。Meta AI App 及 Web 版本均已上線,免費(fèi)可用。
Llama API 文檔:
https://llama.developer.meta.com/docs/overview
一、Llama 模型下載量已超 12 億,Meta AI App 主打語音交互
Meta 首席產(chǎn)品官 Chris Cox 在 LlamaCon 大會(huì)上分享了 Meta 開源 AI 的最新進(jìn)展。Cox 稱,2 年前,Meta 內(nèi)部對開源的商業(yè)化前景和優(yōu)先級(jí)問題都持有懷疑態(tài)度,但如今開源 AI 已成為行業(yè)大勢所趨。
2 個(gè)半月前,Meta 宣布 Llama 及其衍生模型已經(jīng)實(shí)現(xiàn)了 10 億的下載量,今天,這一數(shù)字已迅速增長至 12 億。
目前,Llama 模型已被運(yùn)用至 Meta 旗下的諸多 App,包括 WhatsApp、Instagram 等等。在這些場景中,Llama 模型經(jīng)過了定制處理,以滿足特定用例需求,例如對話性、簡潔性(尤其是移動(dòng)場景)和幽默感。
為提供更豐富的 AI 體驗(yàn),Llama 推出了獨(dú)立智能助手 App —— Meta AI。
Meta AI App 十分重視語音交互體驗(yàn),可提供低延遲、富有表現(xiàn)力的語音。Meta AI 還可連接用戶的 Facebook 和 Instagram 賬戶,根據(jù)用戶互動(dòng)歷史大致了解其興趣,并記憶用戶的相關(guān)信息。
全雙工語音實(shí)驗(yàn)?zāi)J竭€處于早期階段,沒有工具使用、網(wǎng)絡(luò)搜索等能力,無法了解新近發(fā)生的時(shí)事。
Meta AI App 中融入了社交元素,用戶可在發(fā)現(xiàn)頁面分享提示詞、生成結(jié)果等。這一 App 能與 Meta Ray Ban 智能眼鏡配合使用。用戶將能在眼鏡上開始對話,然后從應(yīng)用程序或網(wǎng)絡(luò)的 " 歷史記錄 " 選項(xiàng)卡中訪問它,以從上次中斷的地方繼續(xù)。
會(huì)上,Meta 負(fù)責(zé) Llama 業(yè)務(wù)的副總裁 Manohar Paluri 與 Llama 研究團(tuán)隊(duì)成員 Angela Fan 共同發(fā)布了由 Meta 托管的 Llama API 服務(wù)。
Llama API 提供簡單的一鍵式 API 密鑰創(chuàng)建,一行代碼就能調(diào)用。支持輕量級(jí)的 Python 和 Typescript SDK 開發(fā)者以及 OpenAI SDK。
在 API 服務(wù)網(wǎng)頁中,Meta 提供了交互式游樂場。開發(fā)者可在其中嘗試不同的模型,更改模型設(shè)置,比如系統(tǒng)指令或溫度,以測試不同的配置。
此外,開發(fā)者還可以使用多項(xiàng)預(yù)覽功能,包括基于 JSON 的結(jié)構(gòu)化響應(yīng)、工具調(diào)用等。
Paluri 認(rèn)為,定制化才是開源模型真正應(yīng)該領(lǐng)先的地方。Llama API 提供了便捷的微調(diào)服務(wù),目前支持對 Llama 3.3 8B 進(jìn)行自定義。
開發(fā)者可在微調(diào)標(biāo)簽頁上傳用于微調(diào)的數(shù)據(jù),或是使用 Meta 提供的合成數(shù)據(jù)工具包生成后訓(xùn)練數(shù)據(jù)。
數(shù)據(jù)上傳完成后,開發(fā)者可將數(shù)據(jù)的一部分切分出來,用于評(píng)估定制模型的表現(xiàn)。在 Llama API 平臺(tái)上,可隨時(shí)查看訓(xùn)練進(jìn)展情況,微調(diào)完成后的模型可供下載,開發(fā)者可在任何場景中運(yùn)行這一模型。
大會(huì)上,Meta 宣布了與 Cerebras 和 Groq 的合作。這兩家企業(yè)可提供 Llama 4 API 服務(wù)所需的算力支持,其算力能實(shí)現(xiàn)更快的推理速度。
結(jié)語:Llama 探索商業(yè)化新道路
自 2023 年 Llama 1 發(fā)布以來,Llama 系列模型已歷經(jīng)四個(gè)主要版本,開源了數(shù)十款不同參數(shù)規(guī)模、不同架構(gòu)的模型。不過,動(dòng)輒數(shù)千億乃至萬億參數(shù)量的模型,意味著巨大的投入——外媒爆料稱,過去一年內(nèi),Meta 已經(jīng)主動(dòng)與微軟、亞馬遜等公司接洽,希望建立合作關(guān)系,共同分擔(dān)開發(fā)成本。
本次,Llama API 與 Meta AI App 的發(fā)布,標(biāo)志著 Meta 開始積極探索 Llama 系列開源模型商業(yè)化的新道路。雖然目前的相關(guān)服務(wù)均處于免費(fèi)狀態(tài),但未來,Meta 有望以開源模型為入口,引導(dǎo)企業(yè)和用戶使用關(guān)聯(lián)的云服務(wù),或是利用 App 實(shí)現(xiàn)商業(yè)化變現(xiàn)。在講完技術(shù)普惠和創(chuàng)新的故事之后,商業(yè)化或許是所有開源模型廠商們都需要共同面對的問題。