Self-Evolving Agent Harness: Khung cho AI agent tự cải tiến mà không đổi trọng số mô hình
“Self-Evolving Agent Harness” giới thiệu một khung giúp cải thiện phần mềm hỗ trợ AI agent mà không thay đổi trọng số của mô hình nền. Harness có thể sửa prompt, bộ nhớ, quy trình, công cụ, mã thực thi, logic điều khiển và cách kết hợp plugin, sau đó lưu lại những thay đổi được chấp nhận cho các lần chạy tiếp theo. Nghiên cứu xem đây là một quá trình tối ưu hóa tiến hóa dựa trên phản hồi, đồng thời phân tích độ tin cậy bằng continual PAC-learning — một khung lý thuyết dùng để ước tính khả năng tổng quát hóa của hệ thống theo thời gian. Bài viết đưa ra các điều kiện để kiểm soát khả năng tổng quát hóa, giới hạn hồi quy từ các thay đổi trước và chấp nhận bản sửa dựa trên dữ liệu kiểm định độc lập, với ý nghĩa đối với độ tin cậy của hệ thống nghiên cứu, an toàn vật lý và quy trình tổ chức.
Nghiên cứu này đáng chú ý với các nhóm xây dựng AI agent: có thể cải thiện prompt, bộ nhớ, công cụ và quy trình mà không cần huấn luyện lại trọng số mô hình. Tuy nhiên, việc cho agent tự sửa và lưu thay đổi nên đi kèm dữ liệu kiểm định độc lập cùng cơ chế giới hạn hồi quy để tránh các bản cập nhật làm hệ thống kém an toàn hoặc kém chính xác.
Đọc bài gốc