Microsoft cảnh báo AI agent có thể trở thành “mối đe dọa nội bộ” và đề xuất giám sát độc lập
Microsoft đã giới thiệu các tính năng bảo mật mới cho doanh nghiệp nhằm giám sát và kiểm soát AI agent, trong đó có Guardian Agents, một tính năng thuộc sáng kiến Project Perception. Công ty cho rằng doanh nghiệp nên xem AI agent như những “mối đe dọa nội bộ” tiềm tàng vì chúng có thể truy cập dữ liệu nhạy cảm và thực hiện các hành động quan trọng, nhưng vẫn khó dự đoán và không tự động tuân thủ chuẩn mực hay phán đoán của tổ chức. Guardian Agents được thiết kế để theo dõi hành vi của agent, còn Microsoft Defender có thể phát hiện tối đa 60 loại agent mà nhân viên đưa vào nơi làm việc, bao gồm Claude Code, Codex và OpenClaw. Microsoft cũng bổ sung các cơ chế giới hạn quyền truy cập vào dữ liệu và hệ thống, điều chỉnh quyền của agent theo từng nhiệm vụ, đồng thời yêu cầu con người phê duyệt khi agent có dấu hiệu đưa ra quyết định rủi ro. Cách tiếp cận này phản ánh quan điểm của CEO Satya Nadella rằng các công ty cung cấp mô hình AI không nên đồng thời là bên duy nhất giám sát cách những mô hình đó hành động. Lập trường của Microsoft cũng phục vụ lợi ích thương mại của chính công ty, vì hãng muốn doanh nghiệp mua các công cụ kiểm soát từ mảng bảo mật và điện toán đám mây của mình, dù vẫn hợp tác với OpenAI và Anthropic. Ngành công nghệ rộng hơn cũng đang đi theo hướng này thông qua Open Agent Safety Platform của Nvidia, nền tảng nhằm cô lập agent, theo dõi và ngăn chặn hành vi nguy hiểm. Trên thực tế, các doanh nghiệp dùng agent để viết mã, truy cập dữ liệu hoặc vận hành quy trình quan trọng có thể cần hệ thống giám sát và cấp quyền độc lập, thay vì chỉ dựa vào cam kết của nhà cung cấp mô hình.
Doanh nghiệp đang triển khai AI agent để viết mã, truy cập dữ liệu hoặc thực hiện tác vụ quan trọng nên bổ sung lớp giám sát độc lập, giới hạn quyền truy cập và yêu cầu con người phê duyệt các hành động rủi ro. Các nhóm IT và bảo mật tại Việt Nam có thể theo dõi những tính năng mới trong Microsoft Defender và Guardian Agents khi xây dựng quy trình quản trị agent.
Đọc bài gốc