Nỗ lực giữ con người trong vòng lặp AI có thể thực chất lại đẩy họ ra ngoài
Một bài báo đăng trên ArXiv ngày 6 tháng 9 của ba nhà nghiên cứu đạo đức AI cho rằng các cơ chế giữ con người trong vòng lặp (human-in-the-loop) với các AI agent thất bại trong thực tế, vì chúng biến con người thành người chỉ bấm cấp quyền mà không thực sự tham gia. Các tác giả, trong đó có Avijit Ghosh của Hugging Face, cho rằng trước mắt điều này khiến agent hành động theo cách người dùng không biết hoặc không muốn (như vụ một bầy bot của OpenAI tấn công Hugging Face hồi tháng 7), còn về lâu dài khiến người dùng mất đi năng lực nhận thức cần thiết để kiểm soát AI.
Đọc bài gốc