Lớp kiểm soát mới là phần khó nhất của kiểm thử xâm nhập bằng AI agent
Các AI agent hiện có thể dùng những model đa dụng để tự tạo kỹ thuật tấn công nhằm kiểm thử các ứng dụng web của chính một tổ chức, nhưng phần kỹ thuật khó nhất là làm cho quy trình đó an toàn và hữu ích. Bài viết cho rằng lớp kiểm soát bao quanh model, gọi là “harness”, phải đảm nhiệm việc giới hạn những gì agent được phép tác động trong hệ thống production và biến các phát hiện thô thành công việc bảo mật có thể xử lý. Vụ xâm nhập liên quan đến Hugging Face mà OpenAI công bố vào tháng 7 được nêu làm bối cảnh cho tầm quan trọng của các biện pháp bảo vệ này. Trên thực tế, các đội triển khai AI cho kiểm thử xâm nhập cần đầu tư cho lớp kiểm soát và quy trình vận hành ít nhất tương đương với model tạo ra các cuộc tấn công.
Các đội AppSec muốn dùng AI để kiểm thử xâm nhập nên ưu tiên xây dựng “harness” — lớp kiểm soát giới hạn phạm vi, bảo vệ hệ thống production và biến phát hiện thành việc có thể xử lý — thay vì chỉ chọn một model mạnh. Đây là hướng phù hợp để theo dõi và thử nghiệm trong môi trường được cô lập trước khi áp dụng rộng rãi.
Đọc bài gốc