Mô hình AI có thể che giấu năng lực tùy ý một cách có thể chứng minh

Đánh giá năng lực nhằm phát hiện hành vi nguy hiểm của mô hình trước khi triển khai, nhưng độ tin cậy của chúng phụ thuộc vào giả định rằng năng lực ẩn có thể được khơi gợi ra. Nhóm tác giả chỉ ra giả định này không đứng vững trong điều kiện đối kháng bằng cách xây dựng các tấn công backdoor nhúng mạng nơ-ron được mã hóa.