Dự án cộng đồng Qwenputer thử nhúng CPU RISC-V trực tiếp vào trọng số Qwen3.5-4B
Qwenputer là một dự án thử nghiệm nhúng CPU RISC-V 32-bit trực tiếp vào trọng số của Qwen3.5-4B, thay vì kết nối mô hình với một công cụ hoặc sandbox bên ngoài. CPU này được tạo bằng compiler trong 11 lớp transformer, có thể chạy mã C và MicroPython trong các lượt suy luận của mô hình. Nó dùng trạng thái Gated DeltaNet của Qwen3.5 làm RAM: các cập nhật trạng thái được kiểm soát chặt chẽ đóng vai trò như thao tác ghi và đọc bộ nhớ cho thanh ghi, mã chương trình, dữ liệu và bộ đếm chương trình. Trong các bài kiểm tra, Qwenputer đạt 97,5–100% ở nhiều bộ phép tính số nguyên lớn, so với 55–90% của mô hình gốc và gần với kết quả khi dùng công cụ Python chạy trên máy chủ. Dự án cho biết CPU vượt qua bộ kiểm thử RISC-V chính thức; khi đối chiếu khoảng 230.000 vị trí thực thi với một máy tham chiếu, nhóm không tìm thấy sai khác nào. Các phần mở rộng thử nghiệm còn cho phép CPU tích hợp chạy một mạng nơ-ron nhỏ và cung cấp hệ thống tệp bên trong mô hình, nhưng vẫn đang phát triển và có thể chậm hoặc chiếm nhiều bộ nhớ. Dự án đáng chú ý vì thử nghiệm khả năng để trọng số của mô hình ngôn ngữ chứa không chỉ hành vi đã học mà còn một máy tính lập trình được, thực hiện phép tính ngay bên trong quá trình suy luận.
Các nhà phát triển và nghiên cứu AI có thể xem mã nguồn và thử quickstart của Qwenputer để tìm hiểu cách nhúng một CPU RISC-V vào mô hình, nhưng đây vẫn là dự án thử nghiệm chứ chưa phải công cụ thay thế thực tế cho runtime hoặc tool bên ngoài. Điểm đáng theo dõi là cách DeltaNet được tận dụng như bộ nhớ có thể đọc/ghi chính xác trong quá trình suy luận.
Đọc bài gốc