LangChain hướng dẫn tối ưu retrieval cho AI agent bằng cách tìm kiếm trước, đọc sau
LangChain trình bày cách giúp AI agent truy xuất thông tin hiệu quả hơn khi phải làm việc với cửa sổ ngữ cảnh có giới hạn. Ba vấn đề phổ biến là tìm kiếm lặp lại hoặc kém hiệu quả, kết quả quá lớn chiếm hết ngữ cảnh, và thông tin không liên quan hoặc đã lỗi thời khiến agent dễ mắc sai lầm. Bộ khung Deep Agents xử lý các vấn đề này bằng những công cụ filesystem tìm kiếm trước khi đọc: glob tìm file theo tên, grep tìm văn bản khớp và readfile tải nội dung từng phần. Khi kết quả quá lớn, toàn bộ dữ liệu được lưu vào file còn agent chỉ nhận đường dẫn và phần xem trước; với các công cụ retrieval tùy chỉnh hoặc RAG, LangChain khuyến nghị quy trình “retrieve, offload, delegate”, trong đó các subagent đọc kết quả đã lưu còn agent chính chỉ nhận phần cần thiết. Bài viết cũng phân biệt tìm kiếm bằng từ khóa chính xác với tìm kiếm ngữ nghĩa bằng vector store, đồng thời nêu SQL database, API tìm kiếm web và MCP server là những nguồn dữ liệu có thể dùng cho các nhu cầu khác. Trên thực tế, các kỹ thuật này giúp agent tiêu tốn ít token hơn cho việc tìm kiếm và dành nhiều ngữ cảnh hơn cho suy luận cũng như hoàn thành nhiệm vụ.
Lập trình viên xây dựng agent có thể áp dụng ngay cách tìm kiếm theo từng bước: dùng `glob` và `grep` để lọc trước khi đọc, lưu kết quả lớn ra file và chỉ chuyển phần cần thiết cho agent chính. Với dữ liệu cần tìm theo ý nghĩa thay vì từ khóa chính xác, có thể cân nhắc thêm công cụ retrieval dựa trên vector store.
Đọc bài gốc