PixelMoE: Mở rộng khuếch tán trong không gian pixel với hỗn hợp chuyên gia kiểu LLM

Mô hình khuếch tán trong không gian pixel là một lựa chọn hấp dẫn thay cho khuếch tán trong không gian tiềm ẩn vì mô hình hóa trực tiếp ảnh thô mà không cần tokenizer học được. Tuy nhiên, việc mở rộng các mô hình không gian pixel chủ yếu dựa trên chiến lược dày đặc, gắn chặt năng lực mô hình với lượng tính toán được kích hoạt.