Liquid AI ra mắt LFM2.5-24B-A2B cho agent chạy trên thiết bị
Liquid AI đã ra mắt LFM2.5-24B-A2B, mô hình suy luận được thiết kế để chạy các agent có khả năng dùng công cụ trên phần cứng của người dùng. Mô hình có 24 tỷ tham số nhưng chỉ sử dụng 2 tỷ tham số cho mỗi token được tạo, nhằm giảm lượng tính toán cần thiết để đưa ra câu trả lời. Mô hình hỗ trợ ngữ cảnh 131.000 token, tăng từ 32.000 token ở phiên bản trước, và có thể xử lý tác vụ nhiều bước trong các framework agent. Trong thử nghiệm của Liquid AI, mô hình đạt 48,09 điểm trên bài đánh giá agent LiveClaw, so với 38,19 điểm của Qwen3.6-35B-A3B; tuy nhiên, các mô hình lớn hơn làm tốt hơn ở một số bài kiểm tra kiến thức và lập trình. Liquid AI công bố tốc độ tạo 184 token/giây trên Apple M5 Max và cho biết mô hình đã được hỗ trợ trong llama.cpp, MLX, vLLM, SGLang và ONNX. Với lập trình viên, đây là một lựa chọn để xây dựng agent chạy cục bộ, có khả năng suy luận và gọi công cụ, nhưng cần cân nhắc hạn chế ở một số tác vụ kiến thức chuyên sâu và lập trình.
Lập trình viên tại Việt Nam muốn xây dựng agent chạy trên máy của mình có thể thử LFM2.5-24B-A2B với các công cụ suy luận đã được hỗ trợ. Với tác vụ đòi hỏi kiến thức chuyên sâu hoặc lập trình, nên kiểm tra chất lượng đầu ra trước khi đưa vào sử dụng.
Đọc bài gốc