Transformer của bạn thực ra có tính đàn hồi

Việc mở rộng transformer đã tạo ra các mô hình có năng lực đa dạng, được triển khai trên phần cứng không đồng nhất và tải công việc biến động. Tuy nhiên, các họ mô hình thường chỉ cung cấp vài kích thước cố định như S, B và L, buộc người dùng phải chọn dựa trên giới hạn phần cứng và độ trễ, dẫn đến sự cứng nhắc.