Meta và OpenAI đang có chiến tranh!
Zhidongxi đưa tin vào ngày 30 tháng 4 rằng hôm nay, tại hội nghị dành cho nhà phát triển LlamaCon đầu tiên, Meta đã chính thức phát hành ứng dụng Meta AI , một trợ lý thông minh cạnh tranh với ChatGPT và thông báo rằng họ sẽ cung cấp phiên bản xem trước của dịch vụ API Llama chính thức cho các nhà phát triển.
Meta AI App là trợ lý thông minh được xây dựng trên mô hình Llama, có khả năng tìm hiểu sở thích của người dùng và ghi nhớ ngữ cảnh thông qua các tài khoản mạng xã hội. Giống như ChatGPT, Meta AI App hỗ trợ tương tác bằng giọng nói và văn bản , ngoài ra còn hỗ trợ tương tác bằng giọng nói toàn song công (Full-duplex, cho phép xử lý và phản hồi song song trong khi nhận giọng nói, hỗ trợ các chức năng như nghe, nói và ngắt thời gian thực).
Ứng dụng Meta AI có thể được sử dụng như một ứng dụng đi kèm với kính Meta RayBan AI và người dùng có thể giao tiếp trực tiếp với ứng dụng Meta AI thông qua kính.
API Llama được phát hành tại cùng sự kiện cung cấp nhiều mô hình bao gồm Llama 4. API này tương thích với OpenAI SDK. Các sản phẩm sử dụng dịch vụ API OpenAI có thể chuyển đổi dễ dàng sang API Llama.
Đồng thời, Meta cung cấp các công cụ để tinh chỉnh và đánh giá trong API mới. Các nhà phát triển có thể tạo ra các mô hình tùy chỉnh đáp ứng nhu cầu của họ và sử dụng các dịch vụ suy luận nhanh do các công ty khởi nghiệp về chip AI Cerebras và Groq cung cấp.
Điều đáng nói là trong vài năm trở lại đây, các bản phát hành liên quan đến Llama chỉ được tổ chức như một phần của Hội nghị nhà phát triển Meta Connect. Hội nghị đặc biệt lần cho thấy họ coi trọng hoạt động việc kinh doanh AI như thế nào. CEO của Meta, Zuckerberg không xuất hiện tại buổi họp báo, nhưng sẽ tham gia vào hai cuộc trò chuyện sau cuộc họp.
Về giá cả, các nhà phát triển có thể đăng ký để được truy cập phiên bản xem trước miễn phí của Llama API. Trong tương lai, API này có thể áp dụng mô hình trả phí và bảng giá cụ thể vẫn chưa được công bố. Phiên bản ứng dụng và web Meta AI hiện đã có sẵn ra mắt và miễn phí .
Meta AI Web:
https://www.meta.ai/
Tài liệu API của Llama:
https://llama.developer.meta.com/docs/overview
01.
Tải xuống mô hình Llama vượt quá 1,2 tỷ
Ứng dụng Meta AI tập trung vào tương tác bằng giọng nói
Giám đốc sản phẩm của Meta, Chris Cox đã chia sẻ tiến triển mới nhất của AI mã nguồn mở Meta tại hội nghị LlamaCon. Cox cho biết hai năm trước, Meta còn hoài nghi về triển vọng thương mại và các vấn đề ưu tiên của mã nguồn mở, nhưng hiện nay AI mã nguồn mở đã trở thành xu hướng của ngành.
Hai tháng rưỡi trước, Meta thông báo rằng Llama và các mô hình phái sinh của nó đã đạt được 1 tỷ lượt tải xuống. Ngày nay, con số này đã tăng trưởng nhanh chóng lên tới 1,2 tỷ.
Trên nền tảng mã nguồn mở Hugging Face, phần lớn lượt tải xuống Llama đều đến từ các mô hình phái sinh, với sự đóng góp của hàng nghìn nhà phát triển, hàng chục nghìn mô hình phái sinh được tải xuống và sử dụng hàng trăm nghìn lần mỗi tháng.
Hiện nay, mô hình Llama đã được sử dụng trong nhiều ứng dụng Meta, bao gồm WhatsApp, Instagram, v.v. Trong các trường hợp này, mô hình Llama đã được tùy chỉnh để đáp ứng các yêu cầu cụ thể về trường hợp sử dụng, chẳng hạn như tính đàm thoại, tính đơn giản (đặc biệt là đối với các trường hợp di động) và tính hài hước.
Để cung cấp trải nghiệm AI phong phú hơn, Llama đã ra mắt ứng dụng trợ lý thông minh độc lập - Meta AI.
Ứng dụng Meta AI rất coi trọng trải nghiệm tương tác bằng giọng nói và có thể cung cấp giọng nói có độ trễ thấp và biểu cảm. Meta AI cũng có thể kết nối với tài khoản Facebook và Instagram của người dùng, hiểu sơ bộ sở thích của họ dựa trên lịch sử tương tác và ghi nhớ thông tin có liên quan về họ.
Ứng dụng này có chế độ thử nghiệm giọng nói song công tích hợp sẵn. Các mô hình liên quan được đào tạo bằng cách sử dụng dữ liệu hội thoại tự nhiên giữa mọi người và có thể cung cấp đầu ra âm thanh tự nhiên hơn. Toàn song công có nghĩa là kênh được mở theo cả hai hướng và người dùng có thể nghe thấy tiếng ngắt quãng tự nhiên, tiếng cười, v.v., giống như một cuộc trò chuyện điện thoại thực sự.
Chế độ thử nghiệm giọng nói toàn song công vẫn đang trong giai đoạn đầu và không có khả năng sử dụng các công cụ, tìm kiếm trên Internet, v.v. và không thể hiểu được các sự kiện hiện tại.
Ứng dụng Meta AI kết hợp các yếu tố xã hội, cho phép người dùng chia sẻ các từ gợi ý, tạo kết quả, v.v. trên trang khám phá. Ứng dụng này hoạt động với kính thông minh Meta Ray Ban. Người dùng có thể bắt đầu cuộc trò chuyện trên kính và sau đó truy cập cuộc trò chuyện đó từ tab Lịch sử trong ứng dụng hoặc trên web để tiếp tục cuộc trò chuyện đang dang lần.
02.
Một dòng mã có thể được gọi
Việc tinh chỉnh mô hình có thể được thực hiện trực tuyến
Tại cuộc họp, Manohar Paluri, phó chủ tịch việc kinh doanh Llama của Meta và Angela Fan, thành viên của đội ngũ nghiên cứu Llama, đã cùng nhau phát hành dịch vụ Llama API do Meta lưu trữ.
Llama API cung cấp tính năng tạo khóa API dễ dàng chỉ bằng một cú nhấp chuột và có thể được gọi bằng một dòng mã. Hỗ trợ các nhà phát triển Python và Typescript SDK nhẹ cũng như OpenAI SDK.
Trên trang web dịch vụ API, Meta cung cấp một sân chơi tương tác. Các nhà phát triển có thể thử nhiều mô hình trong đó và thay đổi cài đặt mô hình, chẳng hạn như hướng dẫn hệ thống hoặc nhiệt độ, để kiểm tra các cấu hình khác nhau.
▲Giao diện API của Llama
Ngoài ra, các nhà phát triển cũng có thể sử dụng một số tính năng xem trước, bao gồm phản hồi có cấu trúc dựa trên JSON, lệnh gọi công cụ, v.v.
Paluri cho rằng rằng tùy chỉnh chính là mục tiêu mà mô hình mã nguồn mở thực sự hướng tới. API Llama cung cấp dịch vụ tinh chỉnh tiện lợi và hiện hỗ trợ tùy chỉnh Llama 3.3 8B.
Các nhà phát triển có thể tải dữ liệu lên để tinh chỉnh trên tab Tinh chỉnh hoặc sử dụng bộ công cụ dữ liệu tổng hợp do Meta cung cấp để tạo dữ liệu sau đào tạo.
▲Giao diện tinh chỉnh mô hình API Llama
Sau khi dữ liệu được tải lên, các nhà phát triển có thể tách một phần dữ liệu để đánh giá hiệu suất của mô hình tùy chỉnh. Trên nền tảng Llama API, tiến trình đào tạo có thể được kiểm tra bất cứ lúc nào. Mô hình được tinh chỉnh có thể tải xuống và các nhà phát triển có thể chạy mô hình này trong mọi tình huống.
Tại hội nghị, Meta đã công bố sự hợp tác với Cerebras và Groq. Hai công ty có thể cung cấp tỷ lệ băm cần thiết cho dịch vụ API Llama 4, tỷ lệ băm đạt được tốc độ suy luận nhanh hơn.
03.
Kết luận: Llama khám phá những con đường mới để thương mại hóa
Kể từ khi phát hành Llama 1 vào năm 2023, sê-ri mô hình Llama đã trải qua bốn phiên bản chính và hàng chục mô hình với các thang tham số và kiến trúc khác nhau đã được mã nguồn mở. Tuy nhiên, các mô hình có hàng trăm tỷ hoặc thậm chí hàng nghìn tỷ tham số đòi hỏi đầu tư rất lớn. Truyền thông nước ngoài đưa tin, trong năm qua, Meta đã chủ động liên hệ với Microsoft, Amazon và các công ty khác với hy vọng thiết lập mối quan hệ hợp tác và chia sẻ chi phí phát triển.
Việc lần Llama API và Meta AI App đánh dấu sự khởi đầu cho hành trình khám phá những con đường mới của Meta nhằm thương mại hóa sê-ri mô hình mã nguồn mở Llama. Mặc dù các dịch vụ liên quan hiện đang miễn phí, nhưng trong tương lai, Meta dự kiến sẽ sử dụng mô hình mã nguồn mở làm điểm khởi đầu để hướng dẫn các doanh nghiệp và người dùng sử dụng các dịch vụ đám mây liên quan hoặc sử dụng ứng dụng để kiếm tiền thương mại. Sau khi kể câu chuyện về khả năng tiếp cận và đổi mới công nghệ, thương mại hóa có thể là vấn đề mà tất cả các nhà cung cấp mô hình mã nguồn mở cần cùng nhau đối diện.
Bài viết này trích từ tài khoản công khai WeChat "Smart Things" (ID: zhidxcom) , tác giả: Chen Junda, biên tập viên: Yunpeng, 36Kr được phép xuất bản.
