Google Research giới thiệu Agile Deliberation để con người cùng AI xác định các vùng xám trong phân loại ảnh
Google Research giới thiệu Agile Deliberation, một framework xây dựng bộ phân loại ảnh cho các khái niệm chủ quan như “thực phẩm lành mạnh”, “tác phẩm nghệ thuật truyền cảm hứng” hoặc các khái niệm liên quan đến kiểm duyệt. Thay vì yêu cầu con người định nghĩa mọi quy tắc trước khi gán nhãn dữ liệu, hệ thống biến quá trình xây dựng bộ phân loại thành một cuộc trao đổi tương tác, trong đó AI giúp đưa ra các ví dụ khó để người dùng dần làm rõ ý định của mình. Quy trình gồm hai giai đoạn: khoanh vùng khái niệm, tức chia một ý tưởng rộng thành các nhóm tích cực và những trường hợp loại trừ rõ ràng; và lặp lại khái niệm, tức đưa ra các hình ảnh nằm ở ranh giới để người dùng đánh giá. Sau đó, một mô hình thị giác–ngôn ngữ đưa phản hồi này vào vòng lặp tối ưu prompt tự động, giúp ranh giới phân loại thay đổi theo định nghĩa đang được người dùng hoàn thiện. Trong 18 phiên thử nghiệm trực tiếp, mỗi phiên kéo dài 1,5 giờ, nhóm nghiên cứu nhận thấy phương pháp này giảm mệt mỏi và lo lắng cho người dùng, đồng thời tạo ra các mô hình nhất quán và có hiệu năng cao hơn các đường cơ sở tiêu chuẩn. Mã nguồn và thuật toán đã được công khai trên GitHub. Nghiên cứu này đáng chú ý vì nhiều khái niệm trong AI phụ thuộc vào văn hóa, quan điểm cá nhân hoặc chính sách luôn thay đổi; Agile Deliberation cung cấp một cách để làm rõ các vùng xám đó trước khi chúng biến thành lỗi của mô hình.
Các nhà phát triển hệ thống thị giác máy tính và nhóm xây dựng bộ phân loại chủ quan có thể xem mã nguồn Agile Deliberation trên GitHub để tham khảo cách cho người dùng tinh chỉnh định nghĩa qua các ví dụ khó, thay vì phải viết sẵn mọi quy tắc. Cách tiếp cận này đặc biệt hữu ích cho các bài toán như kiểm duyệt nội dung hoặc phân loại hình ảnh, nơi ranh giới đúng–sai thường thay đổi theo ngữ cảnh.
Đọc bài gốc