Cloudflare khắc phục lỗi SGLang làm lộ dữ liệu giữa các yêu cầu trên GLM-5.3 Workers AI
Cloudflare công bố một lỗi cô lập tenant trên mô hình GLM-5.3 của Workers AI khiến 155 phản hồi chứa dữ liệu từ các yêu cầu gần đây của khách hàng khác trong khoảng từ ngày 27/8 đến 9/9/2026. Sự cố chỉ ảnh hưởng đến các prompt dài hơn 681.280 token và Cloudflare không tìm thấy bằng chứng cho thấy có người cố ý khai thác. Công ty đã đưa mô hình ngoại tuyến trong vòng 40 phút sau khi tái hiện lỗi, vá công cụ suy luận, sửa cấu hình và khôi phục dịch vụ vào ngày hôm sau. Sự cố là kết quả của cả cấu hình sai và một lỗi trong SGLang, công cụ mã nguồn mở dùng để chạy mô hình. GLM-5.3 được cấu hình với cửa sổ ngữ cảnh 1.048.576 token, nhưng vùng GPU lưu KV cache — bản ghi tạm về prompt được dùng khi sinh câu trả lời — chỉ chứa được 681.280 token. Thay vì từ chối các yêu cầu quá dài một cách an toàn, SGLang có thể giữ lại các trang cache cũ, khiến mô hình sinh câu trả lời trong khi vẫn truy cập các mảnh dữ liệu từ phiên của khách hàng trước. Cloudflare đã tăng dung lượng cache lên khoảng 2,04 triệu token và thay đổi SGLang để từ chối yêu cầu không hợp lệ trước khi truyền cache, đồng thời bổ sung kiểm tra dữ liệu được truyền. Vụ việc cho thấy bộ nhớ GPU dùng chung có thể làm lộ dữ liệu giữa các khách hàng nếu phần mềm suy luận xử lý sai ranh giới giữa các yêu cầu, ngay cả khi không có kẻ tấn công chủ động nhắm vào hệ thống.
Cloudflare đã khắc phục lỗi làm lộ một phần dữ liệu giữa các yêu cầu trên GLM-5.3 Workers AI; các doanh nghiệp và nhà phát triển đang xử lý dữ liệu nhạy cảm nên theo dõi thông báo của nhà cung cấp và rà soát các phiên sử dụng trong giai đoạn bị ảnh hưởng. Vụ việc cũng cho thấy cần kiểm tra kỹ cơ chế cô lập bộ nhớ và xử lý lỗi của hạ tầng suy luận, không chỉ cấu hình mô hình.
Đọc bài gốc