CNCF: Ranh giới an toàn của AI agent là bài toán nền tảng
Một bài viết trên blog CNCF cho rằng vấn đề an toàn lớn nhất của AI agent không nằm ở chỉ dẫn dành cho agent, mà ở các quyền truy cập phía sau những công cụ mà agent sử dụng. Agent thường dần tích lũy quyền khi các công cụ, thông tin xác thực và liên kết ủy quyền được thêm vào cho từng quy trình, dù không ai thực sự quyết định mở rộng phạm vi hoạt động của nó. Các tác giả cho rằng không thể dùng prompt để tạo ra ranh giới bảo mật đáng tin cậy: agent có thể làm đúng chỉ dẫn trong phần lớn thời gian, nhưng công cụ và credential của nó vẫn có thể cấp những khả năng trái với chỉ dẫn. Họ đề xuất coi agent là một workload mạnh và không xác định, sau đó giới hạn nó bằng nhiều lớp nguyên tắc đặc quyền tối thiểu ở hạ tầng, bắt đầu từ danh tính workload được xác thực rồi đến việc hạn chế các dịch vụ mà agent được phép kết nối. Trên thực tế, các tổ chức nên kiểm soát khả năng của agent ở tầng nền tảng—bằng credential ngắn hạn có thể xác minh và chính sách kết nối được khai báo rõ—thay vì trông chờ mô hình tự kiểm soát.
Các nhóm phát triển và vận hành nên xem agent như một workload có quyền hạn cần được kiểm soát bằng hạ tầng, không phải bằng prompt. Có thể dùng bài viết này làm khung thiết kế: cấp danh tính xác thực, credential ngắn hạn và giới hạn rõ agent được kết nối tới dịch vụ nào.
Đọc bài gốc