LangSmith BYOC có mặt trên AWS, Azure và Google Cloud
LangChain đã mở rộng LangSmith Bring Your Own Cloud (BYOC) lên AWS, Azure và Google Cloud: AWS đã phát hành chính thức, còn Azure và Google Cloud đang ở giai đoạn beta. BYOC giữ các dữ liệu nhạy cảm như traces, prompt, dataset, kết quả đánh giá, bản triển khai agent và secret của workspace trong tài khoản cloud và khu vực do khách hàng sở hữu, trong khi LangChain vận hành hạ tầng nền tảng. LangSmith được tách thành control plane do LangChain quản lý, phụ trách xác thực, cấu hình workspace, siêu dữ liệu thanh toán và giao diện, cùng data plane thuộc về khách hàng, nơi lưu dữ liệu ứng dụng. Một tổ chức có thể tạo nhiều data plane theo khu vực, môi trường hoặc đơn vị kinh doanh. LangChain đảm nhiệm việc mở rộng, cập nhật, thay đổi schema và các thành phần runtime, giúp giảm đáng kể công việc vận hành so với tự host; công ty cũng cung cấp công cụ di chuyển tài nguyên workspace từ các bản cài đặt self-hosted hiện có. Ra mắt này mang đến lựa chọn được quản lý cho các đội ngũ có yêu cầu nghiêm ngặt về ranh giới dữ liệu hoặc tuân thủ, đồng thời vẫn cho phép họ chọn cloud và nhà cung cấp model. Khách hàng AWS hiện có thể chuyển cả traces, runs và feedback; hỗ trợ LangSmith Sandboxes trên Azure sẽ được bổ sung trong tương lai.
Các đội ngũ xây dựng agent tại doanh nghiệp, đặc biệt là nơi có yêu cầu tuân thủ hoặc dữ liệu phải nằm trong tài khoản cloud riêng, có thể cân nhắc LangSmith BYOC thay cho việc tự vận hành toàn bộ LangSmith. AWS đã có bản chính thức, còn Azure và Google Cloud đang beta; người dùng self-hosted trên AWS hiện có thể chuyển cả traces, runs và feedback.
Đọc bài gốc