CNCF hướng dẫn lọc và giảm telemetry của AI agent bằng OpenTelemetry Collector
Một bài viết trên blog CNCF trình bày cách dùng OpenTelemetry Collector để giảm chi phí và sự quá tải dữ liệu telemetry từ các AI coding agent như Claude Code. Trong một lần chạy thử với toàn bộ tùy chọn thu thập nội dung được bật, Claude Code tạo ra 181 bản ghi telemetry với tổng dung lượng 289 KB JSON, bao gồm prompt, nội dung tệp, diff, tham số và kết quả của công cụ. Tác giả cho rằng các đội ngũ nên giữ lại những bộ đếm và thuộc tính ngắn cần thiết để trả lời các câu hỏi vận hành—chẳng hạn chi phí theo model, lượng token và token từ cache, công cụ nào hay lỗi, người dùng có từ chối thay đổi của agent hay không, độ trễ và lỗi API—thay vì lưu mọi nội dung. Bài viết giải thích rằng kết quả của công cụ có thể bị lưu trùng trong trace và log, còn các mã định danh người dùng và phiên làm việc có thể tạo ra rất nhiều chuỗi thời gian metric tồn tại lâu dài. Ví dụ trong bài gửi cùng một dữ liệu qua hai pipeline Collector: một pipeline thô và một pipeline đã tối ưu, sau đó so sánh số bản ghi, dung lượng dữ liệu và số lượng chuỗi metric trên Grafana. Pipeline tối ưu loại bỏ các event không cần thiết, xóa prompt, phản hồi, tham số công cụ và các trường nhạy cảm khác, đồng thời băm mã định danh nhưng vẫn giữ lại thông tin hữu ích về kích thước và lỗi. Cách làm này giúp telemetry của AI agent vẫn hữu ích trong vận hành, đồng thời giảm chi phí lưu trữ, lập chỉ mục và rủi ro về quyền riêng tư—đặc biệt khi hệ thống phát triển từ một phiên làm việc của lập trình viên lên hàng trăm phiên mỗi ngày.
Các nhóm phát triển đang vận hành Claude Code hoặc AI coding agent có thể dùng OpenTelemetry Collector để lọc bỏ prompt, nội dung tệp và tham số công cụ trước khi gửi telemetry, nhưng vẫn giữ lại chi phí, token, lỗi và độ trễ. Đây là cách thực tế để giảm dữ liệu phải lưu trữ và hạn chế rò rỉ thông tin nhạy cảm khi mở rộng từ vài phiên làm việc lên cả đội ngũ.
Đọc bài gốc