NVIDIA CUDA 13.5 hỗ trợ chính thức GPU Vera Rubin và bổ sung nhiều tính năng quản lý GPU
NVIDIA đã phát hành CUDA Toolkit 13.5 với hỗ trợ chính thức cho kiến trúc GPU Vera Rubin, sẵn sàng cho môi trường sản xuất, đồng thời mở rộng hỗ trợ Windows on Arm sang NVIDIA DGX Station for Windows. Bản phát hành cũng cho phép kiểm soát chi tiết hơn cách phân chia và lập lịch tài nguyên xử lý GPU giữa các workload. Các tính năng locality domain mới cho phép ứng dụng chọn giữa những phân vùng có cùng kích thước của streaming multiprocessor (các lõi GPU thực thi workload) hoặc những phân vùng sử dụng toàn bộ lõi khả dụng. NVIDIA Multi-Process Service v3 bổ sung lập lịch theo trọng số, cơ chế mượn và cho mượn tài nguyên, định tuyến dựa trên cgroup, gán phân vùng theo namespace và phương án dự phòng để theo dõi bộ nhớ. CUDA Tile nay hỗ trợ giao tiếp đa GPU qua NVLink và NVSwitch, cùng bản xem trước công khai cho khả năng tương tác với một số thư viện chạy trên thiết bị. CUDA Python cuda.core 1.2 bổ sung sao chép bộ nhớ theo lô, Programmatic Dependent Launch và cập nhật CUDA Graph linh hoạt hơn; còn CCCL 3.5 thêm API tinh chỉnh, phép quét số thực có thể tái lập, chọn Top-K theo lô và các phép giảm phụ thuộc dữ liệu. Trong thực tế, CUDA 13.5 giúp các nhà phát triển và đội ngũ hạ tầng có hỗ trợ sẵn sàng cho sản xuất đối với phần cứng NVIDIA sắp tới, đồng thời kiểm soát tốt hơn khi nhiều workload AI và điện toán tăng tốc cùng chia sẻ GPU.
Nhà phát triển AI và đội ngũ vận hành GPU có thể tải CUDA Toolkit 13.5 để chuẩn bị cho NVIDIA Vera Rubin và kiểm soát tốt hơn việc chia sẻ tài nguyên GPU giữa nhiều tác vụ. Các tính năng MPS v3 đặc biệt hữu ích cho hệ thống chạy nhiều workload AI cùng lúc, nhưng cần xem tài liệu Runtime API và MPS để cấu hình đúng.
Đọc bài gốc