Phân tích tài trợ: Theo dõi nguồn gốc dữ liệu để bảo vệ AI agent trong doanh nghiệp
Một quy trình bán hàng trong doanh nghiệp có thể gặp sự cố khi một AI agent lấy thông tin giá khách hàng từ các hệ thống bị hạn chế, tin nhắn nội bộ và báo giá lưu trữ, rồi chuyển kết quả cho agent thứ hai soạn đề xuất mà không có người kiểm tra. Đề xuất này có thể chứa thông tin chưa được phê duyệt hoặc thông tin mật, trong khi doanh nghiệp không xác định được dữ liệu có vấn đề xuất hiện từ đâu hay đã lan truyền qua những hệ thống, tệp và agent nào. Bài viết cho rằng AI agent—các hệ thống AI có thể thực hiện nhiều bước công việc và chuyển nhiệm vụ cho agent khác—đòi hỏi cách quản trị tập trung vào dòng di chuyển của dữ liệu, thay vì chỉ bảo vệ ứng dụng, mạng hoặc thiết bị. Dữ liệu liên tục được sao chép, tóm tắt, biến đổi, tái sử dụng và phân phối dưới các dạng mới, khiến những biện pháp bảo mật truyền thống khó theo dõi đầy đủ. Giải pháp được đề xuất là thiết lập data lineage, tức hồ sơ cho biết dữ liệu bắt nguồn từ đâu, đã thay đổi như thế nào và đi đến đâu trong các quy trình có con người, AI agent hoặc kết hợp cả hai. Trên thực tế, cách này có thể giúp doanh nghiệp điều tra lỗi, xác định trách nhiệm và quyết định nơi cần phê duyệt hoặc kiểm soát quyền truy cập trước khi nội dung do AI tạo ra đến tay khách hàng.
Các doanh nghiệp đang dùng AI agent cho bán hàng, vận hành hoặc xử lý tài liệu nên theo dõi nguồn gốc và các lần biến đổi của dữ liệu, đồng thời bổ sung điểm kiểm tra của con người trước khi đầu ra được sử dụng bên ngoài. Báo cáo được bài viết giới thiệu có thể giúp các đội ngũ tìm hiểu cách xây dựng data lineage cho quy trình AI.
Đọc bài gốc