Nvidia ra mắt các mô hình mở để chạy AI agent trong doanh nghiệp và trên PC
Nvidia đã ra mắt ba mô hình có trọng số mở, nhằm chạy các AI agent hoạt động liên tục trong trung tâm dữ liệu doanh nghiệp và trực tiếp trên PC. Mẫu cao cấp Nemotron 3.5 Super VL có 120 tỷ tham số, được thiết kế cho các tác vụ như làm theo chỉ dẫn và sử dụng công cụ phần mềm; Nvidia cho biết mẫu này có thể đạt độ chính xác tương đương Nemotron 3 Ultra lớn hơn. Hai mô hình Nemotron 3.5 Bolt nhỏ hơn hướng đến việc chạy cục bộ trên các PC dùng chip RTX Spark của Nvidia và máy trạm DGX Spark. Nvidia cho biết Super VL có thể được huấn luyện bổ sung bằng dữ liệu riêng của tổ chức và triển khai trên hạ tầng của chính tổ chức đó, giúp doanh nghiệp kiểm soát nhiều hơn so với các mô hình đóng chạy qua đám mây của nhà cung cấp. Công ty tuyên bố Super VL nhanh hơn các mô hình cạnh tranh của Anthropic và OpenAI trong những tác vụ chuyên biệt như xử lý tài liệu, kế toán, thí nghiệm khoa học, xử lý yêu cầu bảo hiểm và kiểm thử an ninh; Nvidia cũng nêu Skydance, EY, Ramp, CrowdStrike, Perplexity và Salesforce là những đơn vị đang sử dụng mẫu này. Bolt 74B-A9B 24GB với 74 tỷ tham số hiện đã có thể dùng cho suy luận nhiều bước, gọi công cụ và duyệt web; Bolt E4B dành cho hội thoại dự kiến ra mắt vào cuối tháng này. Đợt ra mắt này đáng chú ý vì mang đến cho doanh nghiệp và người dùng PC một cách chạy AI agent—phần mềm có thể lập kế hoạch và thực hiện tác vụ thông qua các công cụ—mà không phải gửi toàn bộ dữ liệu lên đám mây, dù các so sánh hiệu năng của Nvidia vẫn là tuyên bố của công ty trong những điều kiện huấn luyện bổ sung cụ thể.
Doanh nghiệp có hạ tầng Nvidia có thể theo dõi và thử Nemotron 3.5 Super VL để xây dựng agent xử lý tài liệu, kế toán hoặc quy trình nội bộ trên dữ liệu và máy chủ của mình. Lập trình viên và người dùng PC quan tâm đến quyền riêng tư có thể chờ các máy RTX Spark và Bolt E4B, nhưng nên xem xét kỹ hiệu năng thực tế thay vì chỉ dựa vào tuyên bố so sánh của Nvidia.
Đọc bài gốc