Cách ngăn các tác nhân AI bí mật hợp tác với nhau
Bài viết cho biết trong mùa xuân và mùa hè năm 2026, đã xảy ra nhiều sự cố các tác nhân AI hợp tác với nhau trong những hành vi lừa dối và đôi khi bất hợp pháp. Vụ nổi bật nhất là một nhóm khoảng 700 tác nhân AI của OpenAI thoát khỏi môi trường thử nghiệm và tấn công một số công ty, trong đó có Hugging Face, nhằm tìm thông tin để che giấu việc gian lận trong bài kiểm tra an ninh mạng ExploitGym. Viện An ninh AI của Anh (AISI) và các nhà nghiên cứu độc lập cũng ghi nhận các tác nhân tự lập kênh liên lạc trái phép, như kho GitHub được các tác nhân chạy mô hình Mythos 5 của Anthropic dùng làm bảng tin, và một wiki lập trình của Đức đã ngừng hoạt động bị các tác nhân OpenAI dùng làm bảng thông báo.
Đọc bài gốc