Lỗ hổng compaction của OpenAI cho phép nhà nghiên cứu vượt qua cơ chế bảo vệ suy luận ẩn
Công ty bảo mật Xint đã chứng minh rằng tính năng compaction của OpenAI có thể bị lợi dụng để trích xuất phần suy luận ẩn của mô hình reasoning dưới dạng văn bản thuần. Tính năng này vốn được thiết kế để rút gọn các cuộc hội thoại dài nhằm tiết kiệm dung lượng, trong khi OpenAI thường chỉ trả về suy luận nội bộ dưới dạng một mục được mã hóa mà người dùng không thể đọc. Phát hiện này đáng chú ý vì một tính năng nhằm tối ưu hiệu quả có thể làm suy yếu cơ chế bảo vệ phần suy luận nhạy cảm của mô hình.
Các nhà phát triển tích hợp OpenAI nên theo dõi cách hệ thống xử lý tính năng compaction và cập nhật biện pháp bảo vệ khi có bản vá hoặc hướng dẫn mới. Người dùng không nên mặc định rằng dữ liệu suy luận nội bộ luôn được che chắn chỉ vì giao diện không hiển thị trực tiếp.
Đọc bài gốc