I-HITL: Con người trong vòng lặp không thể bị loại bỏ

Giám sát của con người là một trụ cột của an toàn AI, thường được thực hiện khi con người phê duyệt các hành động quan trọng của tác tử AI. Tuy nhiên, khả năng ngày càng tăng của tác tử AI trong việc vượt qua các guardrail đặt ra câu hỏi về cách thực thi HITL một cách bền vững; công trình giới thiệu khái niệm human-in-the-loop không thể bị loại bỏ.