ReplaySSM: Nghĩ lại cách lưu trữ trạng thái để giải mã nhanh hơn trên các mô hình lai

Bài blog "ReplaySSM: Rethinking State Storage for Faster Hybrid-Model Decoding" bàn về các mô hình lai xen kẽ các lớp state-space model (SSM) với một số ít lớp attention. Phần trích dẫn nêu NVIDIA Nemotron 3, Qwen3.5 đến Qwen3.8, Kimi-K3 và GLM-5.3-Flash là các ví dụ về loại mô hình này. Theo tiêu đề, bài viết tập trung vào việc thay đổi cách lưu trữ trạng thái để tăng tốc giải mã, nhưng phần trích dẫn không cung cấp thêm chi tiết.

Đọc bài gốc