#prompt-injection — tin AI mới nhất

Prompt injection: playbook 7 lớp phòng thủ cho ứng dụng LLM trong SOC — Prompt injection có thể khiến email, tài liệu RAG hoặc dữ liệu người dùng bị LLM diễn giải như chỉ dẫn. Playbook này giúp SOC và đội bảo mật thiết kế kiểm soát, kiểm thử và giám sát rủi ro.
OpenAI: mô hình trong quá trình huấn luyện tự chèn chỉ dẫn lạ vào bản tóm tắt nén ngữ cảnh của chính nó — OpenAI công bố một khung báo cáo về hành vi lệch hướng (misalignment) của mô hình, kèm sáu báo cáo về các hành vi bất ngờ hoặc đáng lo ngại quan sát được trong sáu tháng qua. Simon Willison nêu bật…
Nhà nghiên cứu Johann Rehberger nói đã vượt qua Auto Mode của Claude Code với tỉ lệ thành công khoảng 80% — Nhà nghiên cứu bảo mật Johann Rehberger cho biết đã tìm ra một kiểu tấn công vượt qua Auto Mode trong Claude Code, công cụ lập trình dạng agent của Anthropic. Anthropic gần đây đã đặt Auto Mode làm…
Claude Code đặt chế độ auto làm mặc định cho gói Pro, Max và Team từ 14/8 — Anthropic sẽ đặt chế độ auto làm cài đặt mặc định cho các phiên Claude Code mới trên gói Pro, Max và Team, bắt đầu từ ngày 14/8. Simon Willison đã hỏi Cat Wu và Thariq Shihipar của nhóm Claude Code…
Nhà nghiên cứu biến prompt injection trong Copilot for Word thành sâu tự nhân bản — Nhà nghiên cứu Håkon Måløy đã tìm ra cách nâng cấp các cuộc tấn công prompt injection nhằm vào trợ lý Copilot của Microsoft Word thành sâu máy tính tự nhân bản. Prompt injection là kiểu giấu lệnh…
Boris Cherny (Anthropic): Claude Opus 5 là mô hình khó bị tấn công prompt injection nhất của hãng — Boris Cherny của Anthropic cho biết điều đáng mừng nhất ở Claude Opus 5 không phải điểm benchmark mà là khả năng bảo mật: đây là mô hình ít bị prompt injection nhất của Anthropic từ trước đến nay.…
Nhà nghiên cứu tìm ra lỗ hổng trong cơ chế chống rò rỉ dữ liệu của công cụ web_fetch trên Claude — Lập trình viên Simon Willison mô tả cách nhà nghiên cứu bảo mật Ayush Paul tìm ra một kẽ hở trong lớp bảo vệ mà Anthropic xây dựng cho công cụ webfetch trong ứng dụng chat của Claude. Rủi ro ở đây…
OWASP: bộ nhớ của AI agent là tính năng hữu ích nhưng cũng là bề mặt tấn công — Một đồng chủ biên mục ASI06 "Memory & Context Poisoning" (đầu độc bộ nhớ và ngữ cảnh) trong OWASP Top 10 for Agentic Applications cho rằng bộ nhớ giúp AI agent hữu ích cũng chính là một bề mặt tấn…