Máy chủ API tương thích với OpenAI dựa trên Rust dành cho các mô hình âm thanh/giọng nói Qwen3 cục bộ của bạn. Chỉ cần thay thế URL API đám mây của bạn bằng http://localhost:8000/v1
Tuần này, chúng tôi đã phát hành các công cụ và kỹ năng cho các mô hình Qwen3 ASR + TTS. Đó là các CLI không phụ thuộc vào bất kỳ thư viện nào, chạy các mô hình @Alibaba_Qwen cục bộ trên @openclaw của bạn 🦞
Nhưng nhiều ứng dụng hiện có vẫn sử dụng API đám mây. Giờ đây, chúng tôi cũng có một máy chủ API CỤC BỘ. Hoàn hảo cho AI cục bộ trên các thiết bị như Olares One từ @BytetradeLab
* Phân phối nhị phân không phụ thuộc vào bất kỳ thư viện nào
* Cả hai điểm cuối API /v1/audio/transcriptions và /v1/audio/speech
* Mô hình ASR + TTS cục bộ 0,6 tỷ và 1,7 tỷ
* Hỗ trợ GPU Nvidia
* Hỗ trợ MLX trên Apple
🖥️ Máy chủ API tương thích với OpenAI: github.com/second-state/qwen3_...… 🎧 Công cụ dòng lệnh Qwen3 ASR: github.com/second-state/qwen3_...…
🎤 Công cụ dòng lệnh Qwen3 TTS: github.com/second-state/qwen3_...…