Đọc, phân bổ, định tuyến: Token hóa gắn với vai trò cho Transformer sinh ảnh trong không gian pixel
Các Transformer sinh ảnh trong không gian pixel thường dùng một token cho mỗi mảng ảnh, nên việc nắm bắt chi tiết tinh hơn đòi hỏi nhiều token hơn và khiến cơ chế chú ý toàn cục ngày càng tốn kém. Nghiên cứu nhận thấy chi tiết tinh không nhất thiết cần nhiều trao đổi thông tin toàn cục hơn.
Đọc bài gốc