Một critic tốt hơn rất quan trọng đối với chưng cất khớp phân phối
Distribution Matching Distillation (DMD) huấn luyện student vài bước bằng chênh lệch giữa score của teacher và ước lượng của online critic về score của phân phối student. Nghiên cứu này xem xét critic cần năng lực và thông tin như thế nào để cung cấp tín hiệu huấn luyện đáng tin cậy.
Đọc bài gốc