Multi-token prediction có thể tăng tốc giải mã mô hình ngôn ngữ bằng cách dự thảo và xác minh nhiều token trong một lượt chạy, nhưng độ dài dự thảo tối ưu thay đổi theo ngữ cảnh.
Đọc bài gốc