OpenShell trên Kubernetes: Hướng dẫn cho kỹ sư nền tảng
OpenShell, do NVIDIA khởi xướng và hiện là một dự án CNCF Sandbox, cung cấp runtime để chạy các AI agent trong sandbox cô lập trên Kubernetes. Công cụ này coi agent là mã không đáng tin cậy và dùng chính sách YAML để kiểm soát bốn nhóm quyền: truy cập hệ thống tệp, đặc quyền tiến trình, kết nối mạng và thông tin xác thực API. Trên Kubernetes, OpenShell sử dụng tài nguyên Agent Sandbox và biểu diễn agent bằng các đối tượng quen thuộc như Pod, Service, PVC, Secret và NetworkPolicy. Supervisor của OpenShell bổ sung những kiểm soát mà NetworkPolicy không làm được, chẳng hạn xác định binary nào tạo ra yêu cầu và cho phép curl đọc issue trên GitHub nhưng chặn việc tạo issue mới. Mọi yêu cầu đi ra ngoài, lệnh thực thi, phiên SSH, thao tác xem log và đồng bộ tệp đều đi qua supervisor để được kiểm tra chính sách; chính sách cũng có thể được cập nhật mà không cần khởi động lại sandbox. Bản demo đi kèm chạy trên cụm kind hai node và gồm Cilium, Kyverno, Agent Sandbox cùng OpenShell. Hiện sandbox chỉ được tạo qua OpenShell Gateway API thay vì trực tiếp bằng Kubernetes, còn việc triển khai một supervisor Pod riêng cho mỗi agent có thể gây khó khăn khi mở rộng. Cách tiếp cận này giúp kỹ sư nền tảng chạy các agent có khả năng sử dụng công cụ với cơ chế kiểm soát và nhật ký chi tiết hơn đối với thông tin xác thực và hoạt động mạng, nhưng cũng bổ sung nhiều thành phần vận hành và vẫn đang được phát triển.
Các đội ngũ vận hành Kubernetes có thể dùng OpenShell để chạy AI agent có quyền truy cập công cụ trong sandbox, đồng thời kiểm soát file, tiến trình, mạng và thông tin xác thực ở mức chi tiết hơn NetworkPolicy. Hiện việc tạo sandbox phải đi qua OpenShell Gateway API, vì vậy nên thử trong môi trường demo trước và lưu ý mô hình mỗi agent một supervisor Pod có thể khó mở rộng.
Đọc bài gốc