Recursive ra mắt Flint, mô hình lập trình chạy trên laptop được xây dựng phần lớn nhờ AI
Recursive đã phát hành Flint, một mô hình lập trình miễn phí được thiết kế để chạy trên laptop và được xây dựng phần lớn với sự hỗ trợ của hệ thống nghiên cứu AI Eureka Machine do công ty phát triển. Startup này cho biết một nhóm nhỏ đã xây dựng Flint từ đầu trong chưa đầy bốn tháng, với Eureka hỗ trợ ở gần như mọi giai đoạn. Flint sử dụng kiến trúc mixture-of-experts: dù có 40 tỷ tham số, mô hình chỉ kích hoạt khoảng 2,5 tỷ tham số cho mỗi tác vụ, giúp dễ chạy cục bộ hơn. Recursive cho biết Flint đạt tốc độ khoảng 131 token mỗi giây trên MacBook Pro dùng chip M4 Pro và vượt qua các mô hình dưới 50 tỷ tham số khác trong bài kiểm tra SWE-Bench Verified về khả năng sửa lỗi phần mềm. Mô hình được cung cấp miễn phí trên Hugging Face theo giấy phép mã nguồn mở Apache 2.0, cho phép nhà phát triển sử dụng và chỉnh sửa. Eureka Machine có thể đề xuất ý tưởng nghiên cứu, chạy thí nghiệm, đánh giá kết quả và đã hỗ trợ phát triển kiến trúc, quá trình huấn luyện cũng như mã suy luận của Flint. Flint vẫn cần được hướng dẫn theo từng bước nhiều hơn các trợ lý lập trình trả phí lớn hơn, nhưng đây là một thử nghiệm thực tế ban đầu cho ý tưởng “tự cải thiện đệ quy” — các hệ thống AI hỗ trợ xây dựng những AI tốt hơn — dưới sự giám sát của con người.
Lập trình viên có thể tải Flint miễn phí về chạy trực tiếp trên laptop, kể cả khi cần làm việc ngoại tuyến và giữ mã nguồn riêng tư; mô hình được phát hành theo giấy phép Apache 2.0 nên có thể sử dụng và chỉnh sửa. Tuy vậy, Flint phù hợp hơn với các tác vụ được chia thành từng bước nhỏ và chưa thay thế hoàn toàn những trợ lý lập trình trả phí mạnh hơn.
Đọc bài gốc