Boris Cherny (Anthropic): Claude Opus 5 là mô hình khó bị tấn công prompt injection nhất của hãng
Boris Cherny của Anthropic cho biết điều đáng mừng nhất ở Claude Opus 5 không phải điểm benchmark mà là khả năng bảo mật: đây là mô hình ít bị prompt injection nhất của Anthropic từ trước đến nay. Theo ông, qua các bài đánh giá prompt injection và red-teaming (đội kiểm thử đóng vai kẻ tấn công), Opus 5 rất khó bị tấn công thành công, một kết quả theo ông hơi bị "chìm" trong system card của mô hình (trang 73). Prompt injection là kiểu tấn công giấu chỉ dẫn trong nội dung mà AI đọc, chẳng hạn trang web hay email, để lừa AI làm điều người dùng không yêu cầu. Khả năng chống lại kiểu tấn công này rất quan trọng trong thực tế, vì các AI agent duyệt web, đọc tài liệu và thực hiện hành động chỉ đáng tin để giao việc thật khi không dễ bị chiếm quyền điều khiển. Nhận định này đến từ phép thử của chính nhà phát triển và chưa được bên thứ ba kiểm chứng.
Nếu bạn xây dựng AI agent cho công việc hoặc doanh nghiệp, hãy xem phần prompt injection trong system card của Opus 5 khi đánh giá mô hình. Đây là kết quả do chính Anthropic công bố, nên vẫn cần tự kiểm thử và không bỏ các lớp bảo vệ khác.
Đọc bài gốc