Nghiên cứu cho thấy có thể đánh cắp chuỗi suy luận ẩn của các mô hình AI độc quyền qua API
Một bài nghiên cứu mới, được lập trình viên Simon Willison giới thiệu và có trang riêng tại stolen-thoughts.com, cho thấy có thể trích xuất phần suy luận ẩn của các mô hình AI độc quyền. Anthropic, OpenAI và Google trả về cho client các khối chain-of-thought (chuỗi suy luận từng bước riêng tư của mô hình) đã được mã hoá để cuộc trò chuyện có thể tiếp tục về sau. Nhóm tác giả phát hiện các khối này có thể được phát lại giữa các phiên, giữa những người dùng khác nhau và thậm chí giữa các mô hình khác nhau. Họ lấy một chuỗi suy luận từ mô hình hàng đầu, đưa vào một mô hình "anh em" yếu hơn, jailbreak mô hình đó và khôi phục được phần suy luận ẩn của mô hình mạnh hơn dưới dạng văn bản thường. Willison kèm theo một ví dụ gọi Responses API của OpenAI, yêu cầu trả về nội dung suy luận mã hoá và nhận lại các khối khó đọc. Trên thực tế, chỉ mã hoá có thể chưa đủ để giữ kín suy luận của nhà cung cấp, điều này đáng chú ý với các hãng giấu suy luận để bảo vệ mô hình và với lập trình viên xử lý các khối này.
Nhà phát triển dùng API suy luận của OpenAI, Anthropic hay Google nên biết rằng các khối suy luận mã hoá không phải là lớp bảo vệ tuyệt đối và không nên coi chúng là bí mật tuyệt đối. Người theo dõi bảo mật AI nên chú ý các biện pháp khắc phục từ các hãng.
Đọc bài gốc