FairStress kiểm tra những bất đối xứng ẩn trong tính công bằng của LLM
Allen Institute vừa giới thiệu FairStress, một bộ đánh giá tính công bằng theo nhân khẩu học của các mô hình ngôn ngữ lớn, không chỉ dựa trên việc chúng có đưa ra cùng một quyết định cho những người có danh tính khác nhau hay không. Bộ đánh giá này mô phỏng các tình huống quan trọng như tuyển dụng, cho vay, chăm sóc sức khỏe, giáo dục, nhà ở và tư pháp hình sự, nơi khuyến nghị của mô hình có thể ảnh hưởng đến cơ hội và nguồn lực của con người. FairStress gồm 300 kịch bản lựa chọn giữa hai ứng viên trong 29 lĩnh vực, đồng thời thay đổi cách thông tin nhân khẩu học được thể hiện: không xuất hiện, được gợi ý gián tiếp, mã hóa qua tên hoặc nêu rõ. Bộ đánh giá cũng đưa vào các lập luận thuyết phục tương ứng—được gọi là “adversarial prefixes”, tức những câu dẫn nhằm tác động để mô hình đổi quyết định—để xem mô hình có dễ thay đổi hơn tùy theo nhóm nhân khẩu học được hưởng lợi hay không. Toàn bộ biến thể tạo thành hơn 13 triệu trường hợp kiểm thử; FairStress-Core gồm 50.000 mục được thiết kế để đánh giá nhanh và ít tốn tài nguyên hơn, còn FairStress đang được tích hợp vào bộ công cụ mở Olmo-eval. Khi thử nghiệm các mô hình như Olmo, Llama, Qwen, Gemma, Claude và GPT, nhóm nghiên cứu nhận thấy hành vi của mô hình gần như không khác biệt khi lời nhắc không chứa thông tin nhân khẩu học, nhưng những thông tin này có thể ảnh hưởng đến khả năng đổi quyết định, cách giải thích và các mẫu kích hoạt bên trong mô hình. Nghiên cứu cho thấy một mô hình có thể trông công bằng nếu chỉ nhìn vào kết quả cuối cùng, nhưng vẫn áp dụng tiêu chuẩn không đồng đều hoặc dễ bị thuyết phục hơn đối với một nhóm nhất định; FairStress cung cấp cách để phát hiện những bất đối xứng ẩn này.
Các nhóm phát triển hoặc đánh giá LLM có thể dùng FairStress và FairStress-Core để kiểm tra mô hình trong các tình huống như tuyển dụng, cho vay và y tế, thay vì chỉ nhìn vào câu trả lời cuối cùng. Người dùng nên lưu ý rằng một mô hình có vẻ công bằng vẫn có thể dễ bị thuyết phục thay đổi quyết định theo cách khác nhau giữa các nhóm nhân khẩu học.
Đọc bài gốc