Kubernetes v1.37: Lập lịch theo khối lượng công việc (Workload-Aware Scheduling) tiến thêm một bước với API CompositePodGroup
Kubernetes v1.37 thúc đẩy Workload-Aware Scheduling, nỗ lực giúp bộ lập lịch của cụm xử lý cả một job AI/ML hoặc batch như một đơn vị thay vì xếp từng Pod (đơn vị chạy nhỏ nhất trong Kubernetes) một cách riêng lẻ. Các API cốt lõi Workload và PodGroup, cho phép gang scheduling (khởi chạy tất cả Pod của một job cùng lúc hoặc không chạy gì), nay lên Beta. Workload-Aware Preemption và ResourceClaims DRA dùng chung cho PodGroup, cho phép một nhóm Pod cùng dùng các thiết bị như GPU, cũng lên Beta. Bản phát hành bổ sung API CompositePodGroup cho các nhóm Pod lồng nhau, với ràng buộc topology nhiều cấp, gang scheduling và chính sách preemption. API này nhằm hỗ trợ lập lịch gốc cho các cấu trúc do công cụ cấp cao hơn như JobSet quản lý. Trên thực tế, các job huấn luyện phân tán và batch quy mô lớn sẽ dễ được lập lịch ổn định hơn trên Kubernetes mà không cần bộ lập lịch tuỳ biến.
Các nhóm vận hành hạ tầng AI/ML và batch trên Kubernetes nên xem các API Workload, PodGroup và CompositePodGroup mới, vì chúng có thể thay thế bộ lập lịch tuỳ biến cho các job huấn luyện phân tán. Các tính năng đã lên Beta nên đáng để thử nghiệm trên cụm thử nghiệm trước khi đưa vào sản xuất.
Đọc bài gốc