Nvidia ra Nemotron 3.5 cho AI agent doanh nghiệp và PC
Nvidia giới thiệu ba model open-weight Nemotron 3.5 cho AI agent: Super VL 120 tỷ tham số dành cho data center, Bolt 74B-A9B cho AI PC và DGX Spark, cùng Bolt E4B cho hội thoại.
Nhiều doanh nghiệp muốn AI đọc tài liệu, gọi công cụ và hỗ trợ các quy trình nhiều bước, nhưng không muốn mọi khối lượng công việc đều phải đi qua cloud. Nvidia đang nhắm thẳng vào nhu cầu đó với ba model open-weight mới thuộc dòng Nemotron 3.5.
Bộ model này được định vị cho hai hướng: agent chạy liên tục trong data center doanh nghiệp và agent chạy cục bộ trên PC.
Ba model Nemotron 3.5, ba hướng triển khai
AI agent là phần mềm có thể không chỉ trả lời mà còn lập kế hoạch và thực hiện tác vụ thông qua công cụ, chẳng hạn xử lý tài liệu, tìm thông tin hoặc đi qua nhiều bước trong một quy trình.
Nvidia công bố ba model Nemotron 3.5:
| Model | Định hướng của Nvidia | Trạng thái |
|---|---|---|
| Nemotron 3.5 Super VL | Agent doanh nghiệp chạy trong data center | Có sẵn |
| Nemotron 3.5 Bolt 74B-A9B 24GB | Agent cục bộ trên AI PC dùng RTX Spark và workstation DGX Spark | Có sẵn |
| Nemotron 3.5 Bolt E4B | Agent hội thoại | Dự kiến có vào cuối tháng này |
Nemotron 3.5 Super VL: dành cho agent doanh nghiệp
Super VL có 120 tỷ tham số. Nvidia cho biết model này có thể đạt độ chính xác gần với Nemotron 3 Ultra lớn hơn trong các tác vụ tuân thủ chỉ dẫn và sử dụng công cụ.
Hãng định vị Super VL cho các workload agent chuyên biệt như xử lý tài liệu, kế toán tài chính, thí nghiệm khoa học, xử lý yêu cầu bảo hiểm y tế và khả năng chống chịu trước các cuộc tấn công bảo mật.
Theo Nvidia, tổ chức có thể post-train Super VL trên dữ liệu riêng, triển khai trên hạ tầng riêng và tự kiểm soát sản phẩm xây dựng từ model này.
Nemotron 3.5 Bolt 74B-A9B 24GB: cho tác vụ cục bộ
Bolt 74B-A9B 24GB có 74 tỷ tham số. Nvidia cho biết model hướng đến việc cân bằng tốc độ và khả năng suy luận cho các tác vụ như suy luận nhiều bước, gọi công cụ và duyệt web.
Model này được thiết kế để chạy cục bộ trên AI PC dùng RTX Spark cũng như các workstation DGX Spark. Với hướng triển khai này, Nvidia nhấn mạnh người dùng có thể giao các dự án hằng ngày cho agent mà không cần đưa toàn bộ workload lên cloud.
Nemotron 3.5 Bolt E4B: cho hội thoại
Bolt E4B là model nhỏ nhất trong nhóm, được Nvidia định hướng cho các agent hội thoại. Đây có thể là lựa chọn phù hợp hơn với nhu cầu xây trợ lý hỏi đáp thay vì workflow đòi hỏi reasoning nhiều bước và gọi công cụ.
Điều đáng chú ý: chọn theo workflow, không chỉ theo số tham số
Thông báo của Nvidia cho thấy hãng đang chia model theo nơi agent vận hành và loại công việc agent phải thực hiện.
Super VL phù hợp với các workflow doanh nghiệp chạy trên hạ tầng riêng, cần xử lý tài liệu hoặc tích hợp công cụ.
Bolt 74B-A9B phù hợp với nhu cầu chạy agent cục bộ trên các hệ thống Nvidia được hãng hỗ trợ.
Bolt E4B nhắm đến các trải nghiệm hội thoại.
Với đội ngũ đang thử nghiệm AI agent, điểm khởi đầu thực tế là xác định một tác vụ hẹp: agent cần đọc gì, được dùng công cụ nào và đầu ra cuối cùng là bản nháp hay một hành động trong hệ thống.
Cách đánh giá agent trước khi tích hợp sâu
Thông tin Nvidia công bố không nêu lệnh cài đặt, cấu hình phần cứng chi tiết hay quy trình tải model. Tuy vậy, doanh nghiệp có thể chuẩn bị bài đánh giá xoay quanh đúng các năng lực được nhắc tới: tuân thủ chỉ dẫn, gọi công cụ và xử lý tác vụ nhiều bước.
Ví dụ, thay vì giao cho agent yêu cầu mơ hồ như “xử lý mọi yêu cầu vận hành”, có thể thử một luồng rõ ràng hơn:
text
Nhiệm vụ:
Tóm tắt yêu cầu được cung cấp.
Chỉ ra thông tin còn thiếu.
Đề xuất sử dụng công cụ đã được cấp quyền nếu cần thêm dữ liệu.
Soạn bản nháp phản hồi.
Không tự gửi email hoặc cập nhật hệ thống.
Một bài thử nên kiểm tra liệu agent có:
Tóm tắt đúng nội dung đầu vào.
Nhận ra khi thiếu dữ liệu.
Chỉ đề xuất gọi công cụ phù hợp.
Không suy đoán thông tin không có trong ngữ cảnh.
Tạo được đầu ra để nhân viên xem lại.
Cần đọc thận trọng các tuyên bố hiệu năng
Nvidia tuyên bố Super VL hoàn thành tác vụ nhanh hơn các model cạnh tranh từ Anthropic và OpenAI khi được post-train cho những tác vụ agent cụ thể.
Đây là tuyên bố của hãng, gắn với thiết lập post-training và các workload cụ thể. Vì vậy, kết quả đó không đồng nghĩa model sẽ nhanh hơn hay phù hợp hơn trong mọi quy trình của một tổ chức.
Cách đánh giá hữu ích hơn là dùng cùng một tập yêu cầu nội bộ để so sánh các phương án theo những tiêu chí sát công việc:
Agent có làm đúng quy trình không?
Có gọi công cụ đúng lúc không?
Có dừng lại khi thiếu dữ liệu không?
Nhân viên phải chỉnh sửa đầu ra bao nhiêu?
Quy trình có giữ được các điểm kiểm soát cần thiết không?
Checklist trước khi đưa agent vào workflow thật
[ ] Xác định agent chỉ được đọc dữ liệu, tạo bản nháp hay thực hiện hành động.
[ ] Xác định dữ liệu nào được đưa vào ngữ cảnh của agent.
[ ] Chọn những bước cần nhân viên xác nhận trước khi tiếp tục.
[ ] Kiểm tra khả năng gọi công cụ trong các tình huống đủ và thiếu dữ liệu.
[ ] Thử các yêu cầu mơ hồ, dữ liệu mâu thuẫn và chỉ dẫn không liên quan trong tài liệu.
[ ] Đo chất lượng theo độ đúng của tác vụ và mức chỉnh sửa cần thiết.
[ ] Chuẩn bị phương án chuyển việc lại cho người phụ trách khi model hoặc công cụ không xử lý được.
[ ] Xác nhận môi trường triển khai phù hợp với model được chọn.
Nvidia cho biết Skydance, EY, Ramp, CrowdStrike, Perplexity và Salesforce đang sử dụng Super VL. Danh sách này cho thấy hãng đang hướng model tới nhu cầu doanh nghiệp, nhưng không thay thế cho việc thử nghiệm trên dữ liệu và quy trình riêng.
Tóm lại, Nemotron 3.5 mở thêm lựa chọn cho đội ngũ muốn xây agent trên hạ tầng Nvidia: Super VL cho data center doanh nghiệp, Bolt 74B-A9B cho tác vụ cục bộ cần reasoning và tool-use, còn Bolt E4B cho hội thoại. Bước tiếp theo không nhất thiết là trao quyền lớn cho agent, mà là thử một workflow nhỏ, có đầu ra và điểm kiểm soát rõ ràng.