Giáo sư MIT Deb Roy kêu gọi xác định người chịu trách nhiệm cho mọi văn bản do AI hỗ trợ trong đời sống công
Giáo sư MIT Deb Roy cho rằng mọi văn bản được sử dụng trong đời sống công chúng đều phải có một người chịu trách nhiệm cuối cùng, kể cả khi AI tham gia tạo ra văn bản đó. Ông đặc biệt lo ngại các đợt lấy ý kiến của chính phủ, nơi AI có thể tạo ra hàng loạt phản hồi trông giống như do người thật viết, khiến khó xác định ai thực sự đứng sau từng ý kiến. Theo Roy, điều này có thể làm suy giảm niềm tin vào một quy trình vốn giúp người dân cảm thấy mình được lắng nghe trước khi các quy định mới được thông qua. Trung tâm Truyền thông Xây dựng của MIT và tổ chức phi lợi nhuận Cortico có sử dụng AI để tìm các chủ đề chung trong thảo luận nhóm, nhưng thiết kế quy trình để người tham gia có thể kiểm tra và bác bỏ kết quả tự động ở những bước quan trọng; vẫn phải có con người chịu trách nhiệm cho từng ý kiến công chúng. Lập luận rộng hơn của Roy là AI có thể xử lý ngôn ngữ rất ấn tượng, nhưng bản thân một hệ thống phần mềm không thể bị quy trách nhiệm vì nó không có lợi ích hay hậu quả cá nhân phải gánh chịu. Về thực tế, quan điểm này cho thấy các hệ thống AI dùng trong hoạt động công chúng và tổ chức cần xác định rõ người phụ trách, có bước kiểm duyệt của con người và cho phép phản biện kết quả tự động, thay vì coi văn bản do mô hình tạo ra là ý kiến công chúng đã được xác thực.
Các nhóm phát triển công cụ lấy ý kiến công chúng hoặc tổng hợp thảo luận nên luôn chỉ rõ người chịu trách nhiệm, đồng thời cho phép con người kiểm tra và bác bỏ kết quả do AI tạo ra. Với các tổ chức ở Việt Nam, đây là nguyên tắc thực tế để tránh nhầm văn bản do máy tạo với tiếng nói độc lập của người dân.
Đọc bài gốc