Tôi đã chạy Qwen 3.8 Flash-Next trên AMD 7900 XTX với ngữ cảnh 500k. Hoàn toàn cục bộ và đây là một bước chuyển lớn.
Một người dùng cho biết đã chạy Qwen3.8-Flash-Next (bản base và sau đó là Swift-1.5 NVFP4) cục bộ trên AMD 7900 XTX với ngữ cảnh 500k. Sau khoảng một tháng dùng trên một pod trả phí, mô hình bắt đầu trả lời bằng các chuỗi ngắn lặp lại chính phần suy luận trước đó; trong gần 13.000 lượt, hiện tượng lặp xuất hiện 266 lần và càng có nhiều bản sao trong ngữ cảnh thì khả năng xuất hiện ở lượt tiếp theo càng cao. Tác giả xác định nguyên nhân là preservethinking: true, tùy chọn đưa lại phần suy luận trước đó vào mọi prompt, và cho biết loại bỏ hiện tượng lặp đã giải quyết được vấn đề.
Đọc bài gốc