AnyLanguageModel 1.0: API Swift thống nhất cho mô hình AI cục bộ và đám mây trên nền tảng Apple
Hugging Face đã phát hành AnyLanguageModel 1.0, một bản thay thế tương thích trực tiếp với API Foundation Models của Apple, cho phép lập trình viên Swift sử dụng nhiều mô hình ngôn ngữ cục bộ hoặc chạy trên máy chủ mà không phải viết lại mã phiên làm việc của ứng dụng. Bản phát hành này đi kèm swift-huggingface 1.0 và swift-xet 1.0, giúp tăng tốc tải mô hình từ Hugging Face Hub. AnyLanguageModel hiện hỗ trợ gọi công cụ, sinh dữ liệu theo cấu trúc, đầu vào hình ảnh, truyền dữ liệu trực tiếp, báo cáo mức sử dụng token và lưu thông tin suy luận giữa nhiều nhà cung cấp. Thư viện hoạt động với mô hình hệ thống của Apple, các mô hình có trọng số mở thông qua llama.cpp, MLX và Core ML, cùng các dịch vụ OpenAI, Anthropic, Google Gemini, Ollama, Private Cloud Compute, Hugging Face Inference Providers và những máy chủ tương thích khác; cùng một đoạn mã cũng có thể chạy trên Linux. Bài viết nêu các mô hình từ Gemma 4 E2B và LFM2.5 2.6B, có thể chạy trên iPhone, đến Qwen3.8 27B dành cho Mac có ít nhất 32 GB bộ nhớ và những mô hình lớn hơn được truy cập từ xa. Về thực tế, bản phát hành giúp nhà phát triển ứng dụng cho nền tảng Apple dễ chuyển đổi giữa khả năng riêng tư của xử lý trên thiết bị và năng lực của các mô hình chạy trên máy chủ, trong khi vẫn duy trì một giao diện lập trình thống nhất.
Các nhà phát triển Swift trên iPhone, iPad, Mac và Linux có thể dùng AnyLanguageModel 1.0 để đổi giữa mô hình chạy cục bộ và dịch vụ đám mây mà không phải viết lại phần lớn mã phiên làm việc. Bạn có thể bắt đầu bằng cách thay import FoundationModels bằng AnyLanguageModel, rồi chọn mô hình phù hợp với yêu cầu về quyền riêng tư, hiệu năng hoặc kích thước.
Đọc bài gốc