Người dùng Hacker News cho rằng Linux làm giảm mạnh hiệu năng suy luận trên laptop Nvidia RTX Spark
Một người dùng Hacker News cho biết Linux chạy được trên các laptop Nvidia RTX Spark, nhưng suy luận trên Linux thuần có thể chậm khoảng năm lần so với Windows vì GPU bị khóa ở khoảng 780–790 MHz khi cắm sạc. Trên MSI Prestige N16 Flip AI Plus, GPT-OSS-120B được cho là đạt 65,4 token/giây trên Windows và 65,1 token/giây qua WSL, nhưng chỉ đạt 13,9 token/giây trên Linux thuần; cùng bài kiểm thử đạt khoảng 61 token/giây trên Nvidia DGX Spark. Nguyên nhân được quy cho một thành phần Nvidia Platform Controllers and Framework chỉ có trên Windows, với các bảng quản lý điện năng được mã hóa mà Linux hiện chưa thể đọc. Nhiệt độ chỉ ở mức 40–47°C, cho thấy đây không phải hiện tượng giảm xung vì quá nhiệt mà là GPU không được cấp mức điện năng và xung nhịp thông thường. Việc cài Linux được cho là có thể hoàn tất sau khi dùng kernel phù hợp và điều chỉnh phân bổ bộ nhớ từ Windows: ban đầu Linux chỉ thấy 28GB trong tổng số 128GB bộ nhớ hợp nhất của máy vì 96GB đã được dành cho GPU. Sau khi cấu hình, hệ thống có thể chạy giao diện desktop, CUDA, xuất hình 4K ở 120Hz, âm thanh, bàn phím và touchpad, dù quá trình cài đặt cần nhiều thủ thuật tùy phần cứng. Hiện tại, WSL là lựa chọn thực tế hơn vì vẫn dùng được bộ driver Windows với hiệu năng GPU gần như đầy đủ, đồng thời chạy các công cụ AI thiên về Linux như vLLM. Muốn sửa triệt để trên Linux thuần, Nvidia sẽ phải đưa logic quản lý điện năng của bộ điều khiển nền tảng vào driver Linux.
Các nhà phát triển AI dùng laptop RTX Spark nên giữ Windows hoặc dùng WSL nếu cần hiệu năng suy luận gần mức tối đa nhưng vẫn muốn chạy công cụ Linux như vLLM. Cài Linux thuần hiện có thể hoạt động, nhưng cần nhiều bước cấu hình và hiệu năng sẽ giảm mạnh cho đến khi Nvidia bổ sung hỗ trợ quản lý điện năng.
Đọc bài gốc