Hacker News giới thiệu Survival LLM, trợ lý AI và thư viện khẩn cấp chạy ngoại tuyến
Survival LLM là một trợ lý AI và thư viện tài liệu khẩn cấp miễn phí, mã nguồn mở, được thiết kế để hoạt động mà không cần internet sau khi cài đặt. Ứng dụng chạy hoàn toàn trên máy Mac hoặc Windows, giữ câu hỏi và các tệp người dùng thêm vào trên máy, đồng thời trả lời dựa trên bộ tài liệu gồm tài liệu y tế, hướng dẫn của FEMA và CDC, cẩm nang sinh tồn, hướng dẫn sửa chữa và khoảng 930.000 bài viết Wikipedia. Ứng dụng tự chọn mô hình AI dựa trên dung lượng bộ nhớ của máy, từ IBM Granite 4.2 8B trên hệ thống có 16–31 GB bộ nhớ đến NVIDIA Nemotron 3.5 Super trên Mac có ít nhất 128 GB. Trong bài kiểm tra mù của dự án với 22 câu hỏi về mất điện và sơ cứu, các mô hình trả lời đúng từ 14 đến 21 câu, trong đó mô hình lớn cho kết quả tốt hơn. Mỗi câu trả lời đều hiển thị các bài viết đã sử dụng và làm nổi bật đoạn liên quan để người dùng kiểm tra; ứng dụng cũng cho phép thêm PDF, sổ tay, ebook và ghi chú cá nhân. Người dùng phải tải mô hình và thư viện khi còn online; thư viện đầy đủ cần tải xuống 9 GB và chiếm khoảng 19 GB sau khi cài đặt, cùng thêm dung lượng tạm thời trong quá trình cài. Công cụ này có thể hữu ích khi mất điện hoặc ở nơi kết nối kém, nhưng người dùng vẫn nên đối chiếu các hướng dẫn y tế và khẩn cấp với nguồn được trích dẫn vì AI có thể mắc lỗi.
Survival LLM phù hợp với người muốn có trợ lý AI và tài liệu khẩn cấp khi mất mạng, đặc biệt là hộ gia đình, người đi dã ngoại hoặc nơi kết nối yếu. Bạn có thể cài trước trên máy Mac hoặc Windows khi còn mạng, nhưng vẫn cần kiểm tra các hướng dẫn y tế và cứu hộ qua nguồn được trích dẫn vì mô hình có thể trả lời sai.
Đọc bài gốc