Hugging Face ra mắt AnySpeechRecognizer và AnyDecisionModel cho mô hình giọng nói, quyết định trên thiết bị Apple
Hugging Face đã giới thiệu AnySpeechRecognizer và AnyDecisionModel, hai gói Swift mã nguồn mở cho phép chạy mô hình nhận dạng giọng nói và mô hình ra quyết định có cấu trúc trên thiết bị Apple. AnySpeechRecognizer mô phỏng API SpeechAnalyzer mới của Apple, đồng thời cho phép lập trình viên lựa chọn các engine như Parakeet của NVIDIA và Qwen3-ASR của Alibaba, với khả năng suy luận cục bộ qua Core ML và phân tách người nói — tức xác định ai đang nói ở thời điểm nào. Các mô hình Parakeet hỗ trợ dữ liệu âm thanh trực tiếp và tệp, thời gian của từng từ, độ tin cậy và tự nhận diện ngôn ngữ trong tối đa 25 ngôn ngữ châu Âu, trong khi Qwen3-ASR hỗ trợ 30 ngôn ngữ và 22 phương ngữ tiếng Trung ở các phiên bản 0.6B và 1.7B. Qwen3-ASR phù hợp hơn với việc phiên âm tệp vì mô hình trả về kết quả cuối cho từng đoạn dài tối đa 40 giây và chạy chậm hơn trên GPU. AnyDecisionModel xử lý câu hỏi có/không, trắc nghiệm và thang điểm bằng cách đọc xác suất của mô hình thay vì tự do sinh văn bản, đồng thời có thể dùng các mô hình chạy qua MLX, Core AI, llama.cpp, Jev hoặc Ollama. Các mô hình Core ML đã chuyển đổi, gồm Parakeet, Qwen3-ASR và mô hình phân tách người nói, được cung cấp trên Hugging Face Hub; dung lượng tải xuống dao động từ khoảng 250 MB đến 2.4 GB tùy mô hình. Các gói này cung cấp cho lập trình viên Apple một API thống nhất để thay đổi giữa các mô hình cục bộ và mô hình trực tuyến mà không phải viết lại logic ứng dụng, giúp tích hợp phiên âm và phân loại trên thiết bị dễ hơn, đồng thời vẫn kiểm soát được thời điểm tải mô hình và giấy phép sử dụng.
Lập trình viên Swift xây dựng ứng dụng macOS hoặc iOS có thể dùng cùng một API để thử Parakeet, Qwen3-ASR và các mô hình quyết định khác ngay trên thiết bị, thay vì phụ thuộc hoàn toàn vào engine của Apple. Hãy chú ý dung lượng tải xuống và khả năng xử lý thời gian thực: Parakeet phù hợp hơn cho phiên âm trực tiếp, còn Qwen3-ASR hữu ích khi cần hỗ trợ nhiều ngôn ngữ và phiên âm tệp.
Đọc bài gốc