Liquid AI giới thiệu LFM3, dòng mô hình đa phương thức khoảng 2 tỷ tham số để tùy biến trên thiết bị
Liquid AI đã giới thiệu LFM3, dòng mô hình nền tảng đa phương thức chuyên biệt với một backbone dùng chung, có quy mô khoảng 2 tỷ tham số. Bộ mô hình gồm các phiên bản xử lý văn bản, thị giác, âm thanh, đa phương thức và ra quyết định có hiệu chỉnh, hỗ trợ văn bản, hình ảnh, video, âm thanh và giọng nói tùy theo từng biến thể. LFM3-1.7B-Base sử dụng kiến trúc tri-hybrid mới, kết hợp tích chập ngắn, attention theo cửa sổ trượt và attention toàn cục. Liquid AI cho biết mô hình này có thể vượt LFM2.5-2.6B dù ít hơn 35% tham số, nhanh hơn khoảng 25% khi xử lý ngữ cảnh 8K token và hỗ trợ cửa sổ ngữ cảnh 256K token sau khi được huấn luyện trên 22 nghìn tỷ token cùng 3,5 nghìn tỷ token dữ liệu tinh lọc ở giai đoạn mid-training. Mô hình văn bản chỉ chiếm khoảng 1 GB ở độ chính xác 4-bit, trong khi các encoder thị giác và âm thanh mới được thiết kế để giảm chi phí tính toán trên điện thoại, laptop, Raspberry Pi 5 và các NPU Qualcomm. Mỗi mô hình có thể được fine-tune trên một GPU duy nhất và triển khai ngay tại nơi ứng dụng chạy, giúp nhà phát triển tùy chỉnh mô hình nhỏ theo dữ liệu và loại đầu vào riêng thay vì dùng một hệ thống đa năng lớn. Cách tiếp cận này có thể khiến AI đa phương thức trở nên thực tế hơn cho các ứng dụng riêng tư, cần phản hồi nhanh và hoạt động cục bộ thay vì gửi mọi yêu cầu lên đám mây.
LFM3 đáng chú ý với các nhà phát triển muốn xây ứng dụng AI xử lý văn bản, hình ảnh, video hoặc âm thanh ngay trên thiết bị. Việc mỗi mô hình có thể fine-tune trên một GPU và triển khai cục bộ có thể giúp doanh nghiệp Việt Nam tùy biến mô hình theo dữ liệu riêng, giảm độ trễ và bớt phụ thuộc vào dịch vụ đám mây.
Đọc bài gốc