#llm-security — tin AI mới nhất

Che dữ liệu cá nhân trước khi gửi AI với Presidio: playbook cho SOC — Presidio hỗ trợ nhận diện và khử định danh dữ liệu nhạy cảm trong văn bản, ảnh. Playbook này giúp SOC và security engineering đặt lớp kiểm soát trước AI, tùy biến recognizer tiếng Việt, giảm rủi ro…
Kiểm tra lỗ hổng mô hình ngôn ngữ với garak — Playbook cho SOC và nhóm bảo mật đánh giá prompt injection, rò rỉ dữ liệu, jailbreak cùng các hành vi không mong muốn của ứng dụng LLM bằng garak; từ khoanh vùng probe, đọc FAIL đến tái kiểm tra có…
VOLTA dùng AI xếp hạng dữ liệu đánh cắp: SOC cần ưu tiên bảo vệ phiên — VOLTA-AUTODOXER là infostealer Windows được cho là dùng Claude, Gemini và Kimi để ước lượng giá trị tài chính của dữ liệu đánh cắp. Vụ việc nhấn mạnh rủi ro với mật khẩu, cookie phiên, Outlook và…
Antirion: gateway LLM tập trung cho quan sát và kiểm soát của SOC — Antirion là AI gateway mã nguồn mở, đặt giữa ứng dụng và các nhà cung cấp LLM để định tuyến, áp guardrail, quản lý ngân sách và xem nhật ký request. SOC cần đánh giá kỹ quyền quản trị, dữ liệu log…
BLA: lớp chống AI reverse-engineering có thể làm SOC khó điều tra? — BLA hứa hẹn làm AI reverse-engineering agent chạm giới hạn tài nguyên hoặc theo mồi nhử mà không đổi hành vi chạy. Trước khi đưa vào pipeline, SOC cần kiểm chứng hiệu quả, khả năng điều tra và quy…
Dựng lớp bảo vệ input/output cho chatbot nội bộ với LLM Guard — LLM Guard minh họa cách đặt lớp quét trước và sau LLM để xử lý rủi ro như prompt injection, dữ liệu nhạy cảm và đầu ra không đúng yêu cầu. Tuy nhiên, dự án đã archive; chỉ nên dùng cho PoC có kiểm…
Prompt injection: playbook 7 lớp phòng thủ cho ứng dụng LLM trong SOC — Prompt injection có thể khiến email, tài liệu RAG hoặc dữ liệu người dùng bị LLM diễn giải như chỉ dẫn. Playbook này giúp SOC và đội bảo mật thiết kế kiểm soát, kiểm thử và giám sát rủi ro.