Headlamp ra mắt plugin Kubeflow để vận hành workload AI/ML trên Kubernetes
Blog Kubernetes vừa giới thiệu plugin Headlamp Kubeflow, một công cụ hỗ trợ vận hành các workload AI và học máy trên Kubernetes. Kubeflow là cách phổ biến để dựng hệ thống ML (notebook server, huấn luyện phân tán, tinh chỉnh siêu tham số, pipeline), và mỗi tính năng của nó được cung cấp dưới dạng Custom Resource Definition (CRD), tức cách mở rộng Kubernetes bằng các loại đối tượng mới. Vấn đề là các dashboard chuyên biệt của Kubeflow che đi lớp Kubernetes bên dưới, nên khi notebook bị treo hoặc lượt huấn luyện thất bại, người vận hành thường phải quay lại dùng kubectl (công cụ dòng lệnh) để xem điều gì xảy ra ở cấp Pod. Plugin này nhằm thu hẹp khoảng cách đó bằng cách hiển thị tài nguyên Kubeflow cạnh các đối tượng Kubernetes tiêu chuẩn trong Headlamp, một giao diện quản lý Kubernetes. Trên thực tế, nó giúp những người vận hành cụm xử lý sự cố workload ML dễ dàng hơn.
Nếu bạn vận hành cụm Kubernetes chạy Kubeflow cho các workload AI/ML, plugin này đáng để thử nhằm gỡ lỗi notebook hay job huấn luyện mà không phải chuyển sang kubectl liên tục. Các nhóm MLOps và DevOps nên theo dõi.
Đọc bài gốc