Công cụ Clarifai mới điều phối AI trên mọi cơ sở hạ tầng

Nhà cung cấp nền tảng trí tuệ nhân tạo Clarifai đã giới thiệu một khả năng điều phối tính toán mới, hứa hẹn sẽ giúp các doanh nghiệp tối ưu hóa các tải trọng AI của họ trong bất kỳ môi trường tính toán nào, giảm chi phí và tránh bị khóa vào nhà cung cấp. Được công bố vào ngày 3 tháng 12 năm 2024, bản xem trước công khai cho phép các tổ chức điều phối các tải trọng AI thông qua một mặt bằng điều khiển thống nhất, cho dù các tải trọng đó đang chạy trên đám mây, tại chỗ hoặc trong cơ sở hạ tầng ngắt kết nối. "Clarifai luôn đi trước xu hướng, với hơn một thập kỷ kinh nghiệm hỗ trợ các nhu cầu quan trọng của chính phủ và doanh nghiệp lớn với đầy đủ các công cụ AI để tạo ra các tải trọng AI tùy chỉnh," Matt Zeiler, người sáng lập và Giám đốc điều hành của Clarifai, cho biết. Nền tảng này có thể giảm mức sử dụng tính toán lên đến 3,7 lần thông qua các tối ưu hóa đóng gói mô hình, đồng thời hỗ trợ hơn 1,6 triệu yêu cầu suy luận mỗi giây với độ tin cậy 99,9997%. Theo Clarifai, các tối ưu hóa này có thể giảm chi phí từ 60-90%, tùy thuộc vào cấu hình. Khả năng của nền tảng điều phối tính toán bao gồm: - Tối ưu hóa chi phí thông qua quản lý tài nguyên tự động, bao gồm đóng gói mô hình, đơn giản hóa phụ thuộc và các tùy chỉnh tự động mở rộng có thể mở rộng đến không cho các bản sao mô hình và nút tính toán. - Linh hoạt triển khai trên bất kỳ nhà cung cấp phần cứng nào bao gồm đám mây, tại chỗ, ngắt kết nối và cơ sở hạ tầng SaaS của Clarifai. - Tích hợp với nền tảng AI của Clarifai để gán nhãn dữ liệu, đào tạo, đánh giá, quy trình và phản hồi. - Các tính năng bảo mật cho phép triển khai vào VPC của khách hàng hoặc các cụm Kubernetes tại chỗ mà không cần mở các cổng đến, VPC peering hoặc vai trò IAM tùy chỉnh. Nền tảng này đã xuất hiện từ các vấn đề về hiệu suất và chi phí AI của khách hàng Clarifai. "Nếu chúng tôi có cách để nghĩ về nó một cách toàn diện và so sánh chi phí tại chỗ với chi phí đám mây của mình, và sau đó có thể điều phối qua các môi trường với cơ sở chi phí, thì điều đó sẽ vô cùng có giá trị," một khách hàng đã lưu ý. Khả năng điều phối tính toán này được xây dựng trên nền tảng AI hiện có của Clarifai, công ty cho biết đã xử lý hơn 2 tỷ hoạt động trong thị giác máy tính, ngôn ngữ và AI âm thanh. Công ty báo cáo duy trì thời gian hoạt động 99,99%+ và khả năng sẵn sàng 24/7 cho các ứng dụng quan trọng. Khả năng điều phối tính toán hiện đang có sẵn trong bản xem trước công khai. Các tổ chức quan tâm đến việc thử nghiệm nền tảng này nên liên hệ với Clarifai để được truy cập.