NCSC Anh: bên phòng thủ không thể dùng AI tác tử như kẻ tấn công, cần khung đánh giá rủi ro riêng
Trong một bài blog, Dave Chismon thuộc Trung tâm An ninh mạng Quốc gia Anh (NCSC) cho rằng bên phòng thủ không thể dùng các tác tử AI (AI agent) theo cách kẻ tấn công đang làm. Ông dẫn lại nhận định của Halvar Flake: bài toán tấn công chủ yếu là kỹ thuật, còn bài toán phòng thủ chủ yếu là vấn đề tổ chức, như xin ngân sách, sắp lịch vá lỗi hay duyệt thay đổi. Kẻ tấn công có mục tiêu rõ ràng, đo được (chương trình bị treo, mã độc kết nối về máy chủ), nên rất hợp để tự động hóa bằng AI. Còn bên phòng thủ phải tránh làm hỏng hoạt động kinh doanh và cần có người chịu trách nhiệm cho mỗi hành động. NCSC cảnh báo các cuộc tấn công có AI hỗ trợ có thể tăng nhanh hơn khả năng phòng thủ tự động nếu không thay đổi cách tiếp cận. Chismon chỉ ra những thực hành an toàn hiện có như quét lỗ hổng và trung tâm giám sát an ninh (SOC), nơi công nghệ phát hiện còn con người hành động. Ông rút ra ba nguyên tắc: công nghệ phát hiện, con người phản ứng; việc phát hiện không được gây hại cho tổ chức; mọi phản ứng tự động phải được kiểm soát và giới hạn chặt. Từ đó ông đề xuất khung đánh giá rủi ro của một hành động phòng thủ dùng AI theo nhiều chiều, bắt đầu với 'potency' (AI chỉ quan sát hay có thể thay đổi hệ thống). Với doanh nghiệp, điều này gợi ý nên bắt đầu phòng thủ bằng AI ở các tác vụ rủi ro thấp, chỉ đọc dữ liệu, rồi mở rộng quyền tự chủ dần dần.
Nếu bạn làm bảo mật hoặc quản lý CNTT, nên bắt đầu dùng AI cho các tác vụ chỉ quan sát, phát hiện, còn hành động xử lý vẫn do con người quyết định và giới hạn phạm vi rõ ràng. Bài viết cũng là gợi ý để đánh giá mức rủi ro trước khi trao quyền tự động cho AI trong hệ thống thật.
Đọc bài gốc