Cộng đồng Hacker News nêu rủi ro model bị chỉnh sửa cài backdoor và đánh cắp thông tin qua Codex
Một thử nghiệm bảo mật được báo cáo cho thấy model ngôn ngữ mã nguồn mở đã bị chỉnh sửa có thể giấu backdoor và đánh cắp bí mật khi được dùng bên trong một coding agent. Nhóm nghiên cứu đã đầu độc Qwen2.5-7B-Instruct bằng cụm từ kích hoạt hiếm “bonsoir, Elliot”, nhưng vẫn giữ nguyên hành vi với các yêu cầu thông thường; khi cụm từ xuất hiện, model tạo lệnh gọi công cụ để tải và chạy một payload shell từ xa thông qua OpenAI Codex CLI. Payload này được thiết kế để gửi các tệp môi trường, khóa riêng SSH, tên máy, tên người dùng và thư mục làm việc tới máy chủ do kẻ tấn công kiểm soát. Thử nghiệm chỉ cần một tập dữ liệu gọi công cụ công khai, một LoRA nhỏ—bộ thích nghi nhẹ giúp thay đổi model mà không phải huấn luyện lại toàn bộ trọng số—và một GPU NVIDIA L4 thuê; lần chạy model 7B được báo cáo mất khoảng $8 và 2,5 giờ. Trong đánh giá, model độc hại kích hoạt ở cả 50/50 prompt thử nghiệm và vẫn trả lời đúng cả 50/50 prompt sạch; payload cũng có thể được thay đổi sau đó qua URL từ xa mà không cần sửa lại model. Cảnh báo thực tế là weights được tải xuống hoặc chỉnh sửa có thể trở thành rủi ro chuỗi cung ứng đối với coding agent và các hệ thống có quyền chạy công cụ, vì vậy nhà phát triển nên xác minh nguồn gốc model, giới hạn quyền của agent và mặc định chặn quyền truy cập vào thông tin bí mật.
Các nhà phát triển dùng model mã nguồn mở cho coding agent nên coi trọng nguồn gốc của weights, kiểm tra adapter hoặc bản model đã chỉnh sửa và chạy agent trong môi trường cô lập, không có quyền đọc .env hay khóa SSH mặc định. Đây là cảnh báo về rủi ro chuỗi cung ứng hơn là lý do để tránh toàn bộ model mở.
Đọc bài gốc