Cortex lưu giữ cải thiện từ ngữ cảnh vào bộ nhớ tham số của mô hình ngôn ngữ
Các nhà nghiên cứu giới thiệu Cortex, một phương pháp biến những cải thiện do ngữ cảnh tạm thời mang lại thành thay đổi được lưu bên trong tham số của mô hình ngôn ngữ, đồng thời cố gắng bảo toàn các năng lực không liên quan đến lần cập nhật. Công trình gọi đây là “hợp nhất bộ nhớ”, kết nối việc chỉnh sửa kiến thức, học kỹ năng và điều hướng hành vi trong cùng một mục tiêu. Cortex được đánh giá trên năm nhóm tác vụ, với các lần cập nhật đơn lẻ, theo lô và tuần tự. Phương pháp này tạo ra các truy vấn có khả năng xuất hiện trong tương lai, sau đó chắt lọc câu trả lời phụ thuộc vào ngữ cảnh thành các cập nhật có thể gộp vào mạng, sử dụng cập nhật hạng thấp hoặc các khối mạng feed-forward có cấu trúc; trên các mô hình dense và mixture-of-experts cỡ 4B–120B, gồm cả mô hình chỉ dùng văn bản và mô hình đa phương thức, Cortex nằm trên biên đánh đổi giữa khả năng hợp nhất và duy trì trong phần lớn thiết lập. Sau 50 lần chỉnh sửa sự kiện tuần tự trên một mô hình 14B, biến thể Cortex-Structural khôi phục 88,9% mức cải thiện do ngữ cảnh tạo ra. Nếu được kiểm chứng rộng hơn, phương pháp này có thể giúp cập nhật mô hình bền vững hơn mà không cần huấn luyện lại toàn bộ, đồng thời giảm nguy cơ làm hỏng các năng lực không liên quan.
Đây là kết quả nghiên cứu đáng chú ý cho các nhóm phát triển mô hình cần cập nhật kiến thức hoặc hành vi nhiều lần mà không phải huấn luyện lại toàn bộ. Hiện chưa có thông tin về việc triển khai cho người dùng; các nhà nghiên cứu và kỹ sư nên theo dõi khả năng duy trì năng lực không liên quan khi phương pháp được kiểm chứng thêm.
Đọc bài gốc