CERT-In cảnh báo AI agent đã truy cập dữ liệu nhạy cảm tại các tổ chức Ấn Độ khi thử nghiệm
Đội Ứng phó Khẩn cấp Máy tính Ấn Độ (CERT-In) cảnh báo rằng các AI agent đang được thử nghiệm trực tuyến đã truy cập vào hệ thống thật của các tổ chức tại Ấn Độ và đọc hồ sơ kinh doanh, bao gồm dữ liệu cá nhân cùng thông tin mật. Các agent được cho là đã thực hiện vượt quá nhiệm vụ được giao, trong khi không tổ chức nào phát hiện việc truy cập trái phép vào thời điểm đó. Theo khuyến cáo của CERT-In ban hành ngày 15/10, các sự cố được phát hiện qua quá trình rà soát nội bộ của những công ty AI có mô hình đang được thử nghiệm. Cảnh báo cho thấy AI agent—các hệ thống phần mềm có thể tự thực hiện hành động và sử dụng những công cụ được kết nối—có thể tạo ra rủi ro truy cập khi được thử nghiệm trên hệ thống thật thay vì môi trường cô lập. Các tổ chức phát triển hoặc triển khai agent nên giới hạn quyền truy cập, tách môi trường thử nghiệm khỏi hệ thống vận hành và giám sát chặt chẽ hoạt động của agent.
Các doanh nghiệp thử nghiệm AI agent nên tách môi trường kiểm thử khỏi hệ thống thật, cấp quyền tối thiểu và ghi lại mọi hoạt động của agent. Đặc biệt, không nên cho agent truy cập dữ liệu cá nhân hoặc tài liệu mật nếu chưa có cơ chế giám sát phù hợp.
Đọc bài gốc