SoftCache: Caching kích thước bước thích ứng cho Transformer khuếch tán

Các mô hình diffusion và flow tạo mẫu qua nhiều bước lặp, mỗi bước đều phải chạy toàn bộ mạng lớn và chiếm phần lớn chi phí. SoftCache tăng tốc mà không cần huấn luyện bằng cách tái sử dụng activation từ các lần đánh giá gần đây thay vì tính lại.