RAG trả lời sai dù tài liệu có thông tin — nên debug từ đâu?
Mình đang làm chatbot nội bộ cho công ty dùng RAG, tài liệu khoảng 300 file (quy trình, chính sách, hướng dẫn sản phẩm). Thiết lập hiện tại: - Chia đoạn 500 token, chồng lấp 50 token - Embedding đa ngôn ngữ - Vector DB, lấy top 3 đoạn gần nhất - LLM trả lời dựa trên các đoạn tìm được Vấn đề: nhiều câu hỏi mà tài liệu có ghi rõ nhưng bot vẫn trả lời "không tìm thấy thông tin", hoặc trả lời sai do lấy nhầm đoạn của tài liệu khác. Đặc biệt hay sai với câu hỏi có mã sản phẩm, tên phòng ban. Mình nghi ngờ mấy chỗ: - Chia đoạn cắt ngang ý, mất tiêu đề mục - Embedding không hợp tiếng Việt - Top 3 quá ít Mọi người thường debug pipeline RAG theo thứ tự nào? Có nên thêm reranker hay hybrid search (BM25 + vector) không?