Cộng đồng GitHub giới thiệu TokenEconomizer, plugin được Microsoft Research đề xuất để giảm chi phí coding agent
Microsoft Research và các nhà nghiên cứu từ UC Berkeley đã công bố TokenEconomizer, một plugin nhằm giảm chi phí của các phiên làm việc với coding agent bằng cách học từ những lần chạy trước trong cùng repository. Trên 277 tác vụ SWE-Bench thuộc sáu repository và năm tổ hợp agent–model, dự án báo cáo chi phí trung bình giảm 18,4–30,9%; chi phí giảm trong cả 30 trường hợp kết hợp repository và model, còn Pass@1 tăng ở bốn trên năm tổ hợp. Plugin có ba cơ chế: ghi nhớ các thông tin lặp lại về repository dưới dạng “micro-skill”, ngừng gửi những tool không được sử dụng và phát hiện vòng lặp lỗi để gợi ý cách xử lý khác. Mức tiết kiệm được báo cáo là 16–21% trên Web-Bench và 6–20% trên hai benchmark kiểm thử bảo mật, trong đó có các trường hợp mỗi tác vụ dùng một repository mới. TokenEconomizer hỗ trợ Claude Code, Codex, GitHub Copilot CLI và thử nghiệm với opencode; dữ liệu học được lưu trên máy người dùng, còn các lượt gọi model bổ sung được tính qua tài khoản agent hiện có. Với lập trình viên thường xuyên dùng coding agent trên cùng một codebase, TokenEconomizer có thể giảm hóa đơn token mà không thay đổi model hay mã nguồn của agent, nhưng các kết quả hiện vẫn là tuyên bố của dự án và cần được kiểm chứng trong quy trình thực tế.
Lập trình viên thường xuyên dùng Claude Code, Codex hoặc các coding agent khác trên cùng một repository có thể thử TokenEconomizer để giảm chi phí lặp lại và hạn chế vòng lặp lỗi; plugin yêu cầu Python 3.10+ và dữ liệu học được lưu trên máy. Vì mức tiết kiệm phụ thuộc vào dự án và quy trình cụ thể, nên hãy đo chi phí và độ chính xác trước và sau khi bật plugin.
Đọc bài gốc