EpiSEM-Bench: Đánh giá độ an toàn và khả năng khôi phục bằng chứng của tác tử LLM khi thiếu bằng chứng

Các tác tử ngôn ngữ sử dụng công cụ dựa vào thông tin từ môi trường để quyết định một hành động có được phép hay không. EpiSEM-Bench đánh giá khả năng nhận biết rủi ro và khôi phục bằng chứng của tác tử khi phản hồi công cụ bỏ sót một sự kiện liên quan đến an toàn, dù yêu cầu của người dùng là vô hại và mọi thông tin được trả về đều đúng.