OWASP: bộ nhớ của AI agent là tính năng hữu ích nhưng cũng là bề mặt tấn công
Một đồng chủ biên mục ASI06 "Memory & Context Poisoning" (đầu độc bộ nhớ và ngữ cảnh) trong OWASP Top 10 for Agentic Applications cho rằng bộ nhớ giúp AI agent hữu ích cũng chính là một bề mặt tấn công. Vấn đề cốt lõi là điều gì xảy ra khi agent không chỉ xử lý dữ liệu đầu vào không đáng tin một lần, mà còn mang nó theo về sau. Đầu độc bộ nhớ nghĩa là cài thông tin sai lệch hoặc độc hại vào bộ nhớ hay ngữ cảnh mà agent lưu lại, khiến nó tiếp tục bị ảnh hưởng ở những lần sau. Trên thực tế, mọi agent có khả năng ghi nhớ giữa các phiên đều cần coi bộ nhớ là một ranh giới bảo mật chứ không chỉ là tiện ích.
Nếu bạn xây dựng hoặc triển khai AI agent có bộ nhớ dài hạn, hãy coi dữ liệu được lưu lại là đầu vào không đáng tin và kiểm soát cách ghi, đọc nó. Các nhóm bảo mật nên đưa ASI06 vào danh sách rủi ro cần rà soát.
Đọc bài gốc