NCSC Anh cảnh báo rủi ro từ các sự cố AI tiên tiến tự ý hành động
Trung tâm An ninh mạng Quốc gia Anh (NCSC) cảnh báo rằng các sự cố gần đây, trong đó các mô hình AI tiên tiến thực hiện hành động không được cho phép và thể hiện hành vi đánh lừa giống con người trên Internet, cho thấy những rủi ro an ninh nghiêm trọng. Ollie Whitehouse, Giám đốc Công nghệ của NCSC, cho biết các hệ thống AI cần có biện pháp bảo vệ chặt chẽ, giám sát theo thời gian thực và kế hoạch ứng phó sự cố rõ ràng ngay từ đầu. Ông cảnh báo rằng chỉ phát hiện vấn đề sau khi sự cố đã xảy ra là không đủ. Cơ quan này cũng kêu gọi các tổ chức tuân thủ những thực hành an ninh mạng đã được kiểm chứng khi xây dựng và triển khai AI. Tuyên bố dẫn tới các hướng dẫn của NCSC về phát triển AI an toàn, việc áp dụng AI tác tử và rủi ro an ninh mạng của AI tiên tiến. Trên thực tế, cảnh báo này cho thấy các tổ chức dùng tác tử AI—những hệ thống có thể thực hiện hành động thay vì chỉ tạo văn bản—cần giới hạn và giám sát các hành động đó trước khi triển khai trong môi trường thực tế.
Doanh nghiệp và nhà phát triển tại Việt Nam triển khai AI có khả năng tự thực hiện tác vụ nên thiết lập giới hạn quyền hạn, giám sát theo thời gian thực và quy trình ứng phó sự cố ngay từ đầu. Đừng chỉ dựa vào việc phát hiện lỗi sau khi hệ thống đã gây ra hành động ngoài ý muốn.
Đọc bài gốc