AI đang được kỳ vọng quá nhiều vào khả năng nói “không”
Các công ty AI đã biến khả năng từ chối — tức để mô hình bác bỏ yêu cầu nguy hiểm — thành một trụ cột của an toàn, nhưng bài viết cho rằng xã hội đang đặt quá nhiều niềm tin vào cơ chế này. Các mô hình hiện đại được huấn luyện để từ chối những yêu cầu liên quan đến chế tạo vũ khí, tự hại, mối đe dọa sinh học hoặc tấn công mạng; quá trình này sử dụng đội ngũ “red team” để kiểm thử và đôi khi dùng các hệ thống AI khác nhằm thưởng cho những lần từ chối phù hợp, đồng thời phạt việc từ chối cả các câu hỏi vô hại. Cách tiếp cận này vẫn không hoàn hảo vì mô hình vẫn nắm giữ lượng kiến thức lớn về bạo lực, đột nhập, thao túng thông tin và các năng lực nguy hiểm khác, trong khi cơ chế từ chối hoạt động theo xác suất và có thể bị vượt qua. Nó cũng tạo ra những ranh giới khó xác định: cùng một thông tin về virus nguy hiểm hoặc lỗ hổng máy tính có thể phục vụ nghiên cứu, phòng thủ hợp pháp hoặc bị kẻ xấu lạm dụng. Hiện các công ty là bên quyết định ranh giới đó, còn chính phủ có thể ngày càng áp đặt quy tắc riêng, qua đó hạn chế cả phát ngôn hợp pháp bên cạnh việc ngăn hành vi nguy hiểm. Cảnh báo chính của bài viết là những lần từ chối thất bại có thể dẫn đến hậu quả thảm khốc, còn việc từ chối quá rộng có thể trở thành công cụ kiểm duyệt; an toàn AI không thể chỉ dựa vào việc dạy máy khi nào phải nói “không”.
Các nhà phát triển và doanh nghiệp nên xem cơ chế từ chối của chatbot là một lớp bảo vệ chưa hoàn hảo, không phải bảo đảm an toàn tuyệt đối. Khi dùng AI cho nghiên cứu, an ninh mạng hoặc nội dung nhạy cảm, cần có giám sát của con người và kiểm chứng độc lập thay vì chỉ dựa vào việc mô hình có từ chối hay không.
Đọc bài gốc