Nhà nghiên cứu phát hiện quảng cáo ẩn trong bộ jailbreak OpenAI Codex
Check Point Research cho biết họ đã phát hiện một bộ jailbreak dành cho OpenAI Codex, có tên Haiou, có khả năng thay đổi các chỉ dẫn được AI agent tin cậy và cấu hình của nó để chèn quảng cáo cho một cổng AI bên thứ ba. Nhóm nghiên cứu đặt tên cho thủ thuật này là “prompt adware”, dùng thao túng prompt để biến một công cụ AI vốn được tin cậy thành kênh quảng cáo. Phát hiện này đáng chú ý vì các bộ jailbreak có thể chứa hành vi ẩn vượt ra ngoài việc đơn thuần vượt qua cơ chế an toàn, tạo ra rủi ro chuỗi cung ứng cho những nhà phát triển cài đặt hoặc tái sử dụng chúng.
Các nhà phát triển dùng OpenAI Codex nên thận trọng với các jailbreak bundle không rõ nguồn gốc, vì chúng có thể sửa chỉ dẫn và cấu hình đáng tin cậy để chèn hành vi ngoài ý muốn. Hãy kiểm tra mã và cấu hình trước khi cài đặt, thay vì chỉ xem jailbreak là công cụ mở khóa tính năng.
Đọc bài gốc