NVIDIA mở mã nguồn toàn bộ nền tảng Run:ai trong DSX AI Factory
NVIDIA đã mở mã nguồn toàn bộ nền tảng Run:ai trong khuôn khổ DSX AI Factory Platform. Run:ai quản lý tác vụ AI và phân bổ GPU giữa các cụm Kubernetes, hệ thống mà các tổ chức dùng để chạy ứng dụng trên hạ tầng điện toán dùng chung. Bản phát hành có bốn thành phần cũng có thể được triển khai riêng lẻ: KAI Scheduler, GPU Fractioning Operator, KAI Resource Management và Workload Map. Các thành phần này lần lượt phục vụ việc xếp lịch có tính đến GPU, chia sẻ GPU, phân bổ hạn mức tài nguyên giữa các đơn vị và quản lý tác vụ. Mã nguồn có trên GitHub; bản Community Product tích hợp có thể cài từ NVIDIA NGC bằng Helm chart, không yêu cầu thuê bao Run:ai trả phí nhưng không kèm hỗ trợ doanh nghiệp từ NVIDIA. Tám đối tác DSX, trong đó có Crusoe, Nebius và Mirantis, đang tích hợp Run:ai vào sản phẩm của họ, giúp các nhóm hạ tầng có thêm cách quản lý GPU dùng chung và xây dựng dịch vụ đám mây AI.
Các nhóm vận hành hạ tầng AI tại Việt Nam có thể xem mã nguồn Run:ai trên GitHub hoặc thử bản Community Product qua NVIDIA NGC để quản lý tác vụ và chia sẻ GPU trên Kubernetes. Bản Community Product không yêu cầu thuê bao Run:ai trả phí nhưng không kèm hỗ trợ doanh nghiệp từ NVIDIA.
Đọc bài gốc