Google Research đề xuất “giai đoạn ngủ” để LLM ghi nhớ kiến thức trong quá trình học liên tục
Google Research giới thiệu một “khung ngủ” cho việc học liên tục, cho phép các mô hình ngôn ngữ lớn luân phiên giữa giai đoạn tương tác chủ động và những khoảng thời gian xử lý ngoại tuyến để củng cố thông tin mới học. Nhóm nghiên cứu cho biết cách tiếp cận này giúp mô hình tiếp thu sự kiện mới, giữ lại kiến thức trong các ngữ cảnh dài tới 10 triệu token và cải thiện khả năng suy luận phức tạp, đồng thời giảm hiện tượng quên thảm họa—tức mất các năng lực cũ sau khi học thêm điều mới. Trong giai đoạn chủ động, hay “thức”, thông tin tạm thời được lưu trong bộ nhớ ngắn hạn. Khi “ngủ”, mô hình mở rộng dung lượng bằng các khối bộ nhớ Mixture-of-Experts hạng thấp, chưng cất kiến thức ngắn hạn vào các tham số dài hạn, đặt lại các thành phần tạm thời và tạo những ví dụ “giấc mơ” tổng hợp để tự cải thiện thông qua học tăng cường. Khung này vẫn dùng kiến trúc mô hình cố định cùng các quy tắc huấn luyện do con người đặt ra; các thuật ngữ về giấc ngủ, giấc mơ và trí nhớ não bộ chỉ là phép so sánh, không phải tuyên bố rằng mô hình hoạt động giống sinh học con người. Nếu các kết quả được báo cáo tiếp tục được xác nhận, phương pháp này có thể giúp LLM đã triển khai học từ tương tác và thông tin mới mà không chỉ phụ thuộc vào mốc dữ liệu huấn luyện cố định hoặc liên tục làm suy giảm kiến thức cũ. Tuy nhiên, đây vẫn là một khung nghiên cứu chứ chưa phải tính năng sản phẩm được công bố.
Các nhà phát triển và nhóm nghiên cứu AI nên theo dõi hướng tiếp cận này vì nó có thể giúp LLM cập nhật kiến thức lâu dài mà ít làm mất năng lực cũ. Hiện đây là một khung nghiên cứu của Google Research, chưa phải tính năng sản phẩm được công bố để người dùng triển khai ngay.
Đọc bài gốc