NVIDIA giới thiệu RTX Spark để viết mã, kiểm thử và triển khai AI trên một máy
NVIDIA đã giới thiệu RTX Spark, nền tảng máy tính xách tay và máy tính để bàn nhỏ gọn sử dụng hệ thống trên chip GB10, với tối đa 128GB bộ nhớ hợp nhất và năng lực tính toán AI FP4 lên tới 1 petaflop. Nền tảng này được thiết kế để lập trình viên có thể chạy coding agent, tùy chỉnh mô hình, biên dịch phần mềm, kiểm thử ứng dụng và triển khai từ một máy duy nhất, thay vì phải chia quy trình giữa máy tính cá nhân, API đám mây và máy ảo trên đám mây. NVIDIA cho biết RTX Spark nhanh hơn 4,6 lần trong các tác vụ coding agent, 2,7 lần khi tinh chỉnh mô hình và 1,8 lần khi biên dịch mã so với Panther Lake 12Xe của Intel trong các bài kiểm thử do hãng nêu. Nền tảng này cũng mở rộng hỗ trợ Windows on Arm với bản PyTorch-CUDA, Python 3.15 chạy native mặc định, hơn 2.000 gói Conda và các phiên bản tương thích Arm cho hơn 97% trong 15.000 gói Python phổ biến nhất. Các mô hình cục bộ như Nemotron 3.5 Bolt 74B-A9B 74 tỷ tham số, lượng tử hóa 2 bit, được hỗ trợ qua llama.cpp, vLLM, Ollama, Unsloth và LM Studio; người dùng cũng có thể kết hợp mô hình cục bộ và mô hình đám mây thông qua cơ chế định tuyến prompt. RTX Spark còn bổ sung các tùy chọn sandbox để cô lập coding agent và quyền truy cập vào thư viện CUDA-X cùng các công cụ AI-for-media của NVIDIA. Về thực tế, nền tảng này hướng tới các lập trình viên muốn giảm mức sử dụng dịch vụ đám mây và giữ phần lớn quy trình phát triển phần mềm, AI trên máy Windows hoặc Linux, dù các số liệu hiệu năng hiện dựa trên so sánh do chính NVIDIA thực hiện.
Lập trình viên và nhóm phát triển AI có thể xem RTX Spark như một máy trạm để chạy coding agent, tinh chỉnh mô hình và thử nghiệm ứng dụng ngay tại chỗ, qua đó giảm phụ thuộc vào API đám mây. Người dùng nên theo dõi các hệ thống RTX Spark và công cụ Windows on Arm nếu muốn xây dựng quy trình AI cục bộ, nhưng cần xem xét thêm các bài kiểm thử độc lập trước khi mua.
Đọc bài gốc