Nhà nghiên cứu biến prompt injection trong Copilot for Word thành sâu tự nhân bản
Nhà nghiên cứu Håkon Måløy đã tìm ra cách nâng cấp các cuộc tấn công prompt injection nhằm vào trợ lý Copilot của Microsoft Word thành sâu máy tính tự nhân bản. Prompt injection là kiểu giấu lệnh trong văn bản mà AI đọc để nó làm theo như thể đó là yêu cầu của người dùng. Trong cuộc tấn công này, kẻ xấu cài chỉ dẫn ẩn vào một tài liệu, sau đó tài liệu này được dùng làm tư liệu trong Copilot for Word; Copilot có thể coi các chỉ dẫn đó là một phần yêu cầu của người dùng và chỉnh sửa bản thảo theo ý kẻ tấn công. Copilot cũng có thể sao chép chính các chỉ dẫn ẩn đó sang tài liệu mới, biến tài liệu này thành vật mang mầm bệnh. Khi tài liệu đó được dùng trong một quy trình Copilot khác, chỉ dẫn lại kích hoạt và lan sang các tài liệu tiếp theo, kể cả khi tệp gốc của kẻ tấn công không còn. Simon Willison nhận xét chữ trắng trên nền trắng đã quen thuộc (thậm chí được dùng trong hồ sơ xin việc), nhưng đây là trường hợp đầu tiên ông thấy chủ động tự sao chép. Lỗ hổng đã được báo cáo có trách nhiệm, và nó cho thấy các trợ lý AI đọc và ghi tài liệu có thể làm lan truyền chỉ dẫn độc hại từ tệp này sang tệp khác.
Nếu cơ quan hoặc doanh nghiệp bạn dùng Copilot trong Word, hãy thận trọng khi đưa tài liệu từ nguồn không đáng tin vào làm tư liệu và kiểm tra kỹ nội dung do AI soạn trước khi chia sẻ. Đội ngũ bảo mật nên xem các tài liệu do AI hỗ trợ là một kênh lây lan tiềm tàng của chỉ dẫn độc hại.
Đọc bài gốc