EviScene đánh giá tính xác thực của tình huống trong ảnh bằng bằng chứng
Các nhà nghiên cứu giới thiệu một phương pháp đánh giá liệu tình huống trong ảnh có được thực tế hỗ trợ hay không, thay vì chỉ xác định ảnh có phải do AI tạo ra. Bộ đánh giá EviLens gồm 10.174 ảnh được xác định là được hỗ trợ hoặc bị bác bỏ, xây dựng từ các ví dụ có kiểm soát và dữ liệu thu thập trên web; bộ này bao phủ 12 loại lỗi thực tế, đồng thời kiểm tra cả độ chính xác của kết luận lẫn mức độ đầy đủ của bằng chứng được viện dẫn. Hệ thống EviScene đi kèm là một tác nhân ReAct đa phương thức: nó kiểm tra các chi tiết trong ảnh, tìm kiếm thông tin bên ngoài, phân tích bằng chứng, rồi liên tục tinh chỉnh câu hỏi trước khi xem lại những phần liên quan của ảnh. Công trình này quan trọng vì kiểm chứng hình ảnh cần xác định bức ảnh thực sự mô tả điều gì và liệu tình huống đó có bằng chứng xác nhận hay không, chứ không chỉ nhận diện các điểm ảnh tổng hợp; cách tiếp cận này có thể hữu ích hơn cho kiểm chứng thông tin và tìm kiếm hình ảnh dựa trên bằng chứng.
Các nhà phát triển công cụ kiểm chứng hình ảnh và nghiên cứu AI nên theo dõi EviLens và EviScene như một hướng đánh giá ảnh dựa trên bằng chứng, thay vì chỉ phân loại ảnh có phải do AI tạo hay không. Đây là kết quả nghiên cứu để tham khảo cách xây dựng hệ thống fact-checking hình ảnh, chưa phải một sản phẩm được công bố cho người dùng phổ thông.
Đọc bài gốc