Cloudflare ra mắt Web Search API trong AI Gateway, hợp tác với Ceramic.ai, Exa và Linkup
Cloudflare đã bổ sung Web Search API vào AI Gateway, với Ceramic.ai, Exa và Linkup là những nhà cung cấp tìm kiếm đầu tiên. Công cụ này cho phép lập trình viên đưa kết quả web mới nhất vào các lệnh gọi mô hình, để agent AI không bị giới hạn ở những gì mô hình đã học trước thời điểm cắt dữ liệu huấn luyện. Cloudflare cho biết agent thường đoán URL rồi gặp lỗi 404, trong khi tìm kiếm trước sẽ giống cách con người tra cứu hơn. API có thể được gọi qua AI Gateway, một REST endpoint chuẩn, hoặc Workers binding (env.AI.websearch) chỉ với vài dòng code. Các yêu cầu hiển thị trong log AI Gateway thông thường và trừ vào số dư credit của AI Gateway, đồng thời người dùng có thể dùng khoá riêng của nhà cung cấp (BYOK). Cloudflare cho biết họ tính theo giá API niêm yết của đối tác, không cộng thêm phí, và sẽ đánh dấu những đối tác hỗ trợ Zero Data Retention, tức không lưu dữ liệu của bạn. Các đối tác cũng phải đáp ứng quy định về crawler "Verified bots" của Cloudflare, gồm tuân thủ robots.txt và gắn liên kết tới nguồn nội dung trả về. Các "server tools" tích hợp sẵn trong AI Gateway, trong đó web search sẽ là một trong những công cụ đầu tiên, sắp ra mắt; trong lúc chờ, lập trình viên có thể tự nối web search vào các lệnh gọi mô hình. Trên thực tế, điều này giúp lập trình viên dùng Cloudflare có cách có quản lý để đưa thông tin trực tuyến mới vào ứng dụng AI, đồng thời kiểm soát log, truy cập và thanh toán tại một nơi.
Lập trình viên đang xây ứng dụng hoặc agent AI trên Cloudflare có thể thử gọi web search qua AI Gateway, REST API hoặc Workers binding để mô hình có dữ liệu mới. Giá theo bảng giá niêm yết của đối tác, không cộng thêm phí; tính năng server tools tích hợp sẵn sẽ ra mắt sau.
Đọc bài gốc