TTME vượt TTT trong năm bài toán toán học cho khám phá khoa học
Các nhà nghiên cứu giới thiệu Test-Time Memory Evolution (TTME), một phương pháp thích ứng mô hình ngôn ngữ lớn mã nguồn mở trong quá trình khám phá khoa học bằng cách cập nhật bộ nhớ bên ngoài thay vì thay đổi trọng số mô hình. Trong một phép so sánh có kiểm soát trên cùng một framework khám phá, TTME cho kết quả tốt hơn test-time training (TTT) ở cả năm bài toán toán học được đánh giá. Phương pháp này cũng giảm chi phí tính toán, giải quyết một hạn chế quan trọng của TTT, vốn phải cập nhật trọng số trực tuyến trong khi xử lý. Kết quả cho thấy việc lưu trữ và tinh lọc kinh nghiệm hữu ích có thể là cách hiệu quả hơn để cải thiện mô hình lúc suy luận so với liên tục chỉnh sửa chính mô hình.
Các nhà phát triển hệ thống AI suy luận cho bài toán khoa học nên theo dõi TTME: phương pháp này có thể cải thiện kết quả mà không cần cập nhật trọng số mô hình, từ đó giảm chi phí tính toán so với TTT. Đây hiện là kết quả nghiên cứu, nên phù hợp để thử nghiệm và đánh giá thêm trước khi dùng trong hệ thống thực tế.
Đọc bài gốc