Cộng đồng Hacker News giới thiệu PS5LM, chạy mô hình GGUF trên PS5 đã jailbreak
PS5LM là một dự án cộng đồng tuyên bố có thể biến PS5 đã jailbreak thành máy chủ mô hình ngôn ngữ chạy cục bộ, sử dụng llama.cpp và GPU của console. Ứng dụng tải các model GGUF — định dạng đóng gói model AI đã lượng tử hóa để chạy nhẹ hơn — rồi cung cấp chúng cho laptop, điện thoại, trình duyệt và công cụ lập trình thông qua các API tương thích với OpenAI và Anthropic, không cần PC, tài khoản đám mây hay dịch vụ trực tuyến trong lúc chạy. Dự án cho biết GPU RDNA 2 của PS5 có thể dành 11,4 GB bộ nhớ dùng chung cho model và ngữ cảnh. Các kết quả được công bố trên PS5 Slim gồm 207 token/giây với Qwen 3.5 0.8B, 55 token/giây với Qwen 3.5 9B và khoảng 20 token/giây với model 27B cùng ngữ cảnh 64k; một số model thị giác cũng có thể xử lý hình ảnh. PS5LM còn hỗ trợ các “decision model” nhỏ, trả về lựa chọn hoặc xác suất có cấu trúc thay vì sinh câu trả lời dài, đồng thời có giao diện trên TV để quản lý model, trò chuyện, xem nhật ký và theo dõi phần cứng. Để sử dụng, PS5 phải chạy firmware 7.00–13.60, đã jailbreak và có một số payload homebrew, sau đó người dùng cài ứng dụng và model vào bộ nhớ trong, ổ M.2 hoặc USB. Về thực tế, dự án có thể biến những chiếc PS5 tương thích thành máy chủ AI riêng khá mạnh, nhưng mức độ hữu ích phụ thuộc vào việc thiết lập jailbreak và dung lượng bộ nhớ dùng chung đủ cho model.
Chủ sở hữu PS5 đã jailbreak, chạy firmware 7.00–13.60 có thể thử biến máy thành máy chủ AI nội bộ cho laptop, điện thoại hoặc công cụ lập trình, với các model GGUF chạy trực tiếp trên GPU. Người dùng phổ thông nên xem đây là dự án homebrew để theo dõi, vì việc sử dụng đòi hỏi payload jailbreak và cài đặt thủ công.
Đọc bài gốc