LLMjacking: SOC cần xem hóa đơn AI tăng vọt là tín hiệu an ninh
Google cảnh báo LLMjacking có thể khiến một số doanh nghiệp chịu hóa đơn cloud tới 1 triệu USD. Với SOC, chi phí AI bất thường cần được điều tra như dấu hiệu API key hoặc quyền truy cập dịch vụ LLM có thể bị lạm dụng.
Một hóa đơn dịch vụ AI tăng vọt có thể trông như vấn đề của FinOps hoặc vận hành. Nhưng trong bối cảnh AI được tiêu thụ qua API tính phí theo mức sử dụng, đó cũng có thể là tín hiệu đầu tiên của một sự cố an ninh.
Google cảnh báo về LLMjacking: kẻ tấn công chiếm quyền sử dụng quyền truy cập tới mô hình ngôn ngữ lớn (LLM), rồi chạy khối lượng công việc AI tốn kém dưới tài khoản của nạn nhân. Theo thông tin được đưa tin, một số doanh nghiệp có thể phải đối mặt với hóa đơn cloud lên tới 1 triệu USD.
Với đội phòng thủ, đây không chỉ là câu chuyện lộ API key. Một thông tin xác thực hợp lệ vẫn có thể được dùng để gọi dịch vụ hợp lệ, nhưng phục vụ mục đích không được phép.
LLMjacking là gì?
LLM là mô hình ngôn ngữ lớn, thường được ứng dụng thông qua API. API key là thông tin xác thực để ứng dụng gọi dịch vụ.
Trong kịch bản LLMjacking, đối tượng tấn công có thể tìm cách lấy API key hoặc quyền truy cập tương đương để tiêu thụ tài nguyên AI tính phí dưới danh nghĩa doanh nghiệp. Mục tiêu có thể là tạo ra chi phí lớn, thay vì trực tiếp lấy dữ liệu hay phá hoại hạ tầng.
Theo cảnh báo được đưa tin, thông tin xác thực có thể bị lộ qua:
Lừa đảo nhằm đánh cắp thông tin xác thực.
Mã nguồn bị rò rỉ.
Môi trường cấu hình sai.
Mã phía máy khách làm lộ thông tin xác thực.
Điểm quan trọng với SOC là: lưu lượng API thành công không mặc nhiên đồng nghĩa với hành vi hợp lệ.
Biến cảnh báo chi phí thành giả thuyết điều tra
Khi chi phí AI tăng bất thường, đội SOC có thể bắt đầu bằng câu hỏi: API key hoặc danh tính nào đang tiêu thụ dịch vụ, và hoạt động đó có đúng với mục đích đã được phê duyệt không?
Không nên kết luận có tấn công chỉ dựa trên hóa đơn. Tuy nhiên, chi phí tăng đột biến là một tín hiệu đáng để đối chiếu với ngữ cảnh sử dụng, thay đổi triển khai và chủ sở hữu ứng dụng.
Xác định danh tính có thể gọi dịch vụ LLM
Nên lập danh sách API key, service account và thông tin xác thực có quyền truy cập dịch vụ LLM. Với mỗi danh tính, cần cố gắng xác định:
Ứng dụng, nhóm hoặc môi trường đang sử dụng.
Chủ sở hữu kỹ thuật và nghiệp vụ.
Mục đích sử dụng đã được phê duyệt.
Vị trí lưu trữ key, chẳng hạn mã nguồn, cấu hình triển khai hoặc thành phần phía máy khách.
Phạm vi quyền có phù hợp với nhu cầu thực tế hay không.
Nếu không thể gắn một key với chủ sở hữu và mục đích rõ ràng, việc phân biệt sử dụng hợp lệ với hành vi lạm dụng sẽ trở nên chậm và khó hơn.
Đối chiếu chi phí với hành vi sử dụng
Khi nền tảng hỗ trợ, SOC có thể kết hợp log sử dụng API, dữ liệu chi phí và thông tin triển khai để tìm các điểm không khớp. Các tín hiệu cần xem xét gồm:
Mức sử dụng AI tăng khác thường so với hoạt động bình thường của ứng dụng.
Chi phí tăng nhưng chủ sở hữu không xác nhận có thay đổi sản phẩm hoặc nhu cầu nghiệp vụ tương ứng.
Một key phục vụ backend lại xuất hiện trong thành phần phía máy khách.
Key có liên quan đến kho mã nguồn, cấu hình môi trường hoặc sự cố lừa đảo đang được điều tra.
Lưu lượng phát sinh ở thời điểm hoặc trong bối cảnh không khớp với hoạt động vận hành đã biết.
Các nền tảng có cách ghi nhận log và chi phí khác nhau. Vì vậy, đội phòng thủ nên xây dựng phát hiện dựa trên logic tương quan và bối cảnh riêng của tổ chức, thay vì phụ thuộc vào một tên sự kiện cố định.
Khi nghi ngờ key bị lạm dụng, SOC nên làm gì?
Một tình huống có thể bắt đầu từ cảnh báo chi phí: dịch vụ AI của một dự án tăng đột ngột, trong khi nhóm ứng dụng không xác nhận thay đổi có chủ đích.
Quy trình xử lý có thể gồm:
Xác minh phạm vi: xác định key hoặc danh tính liên quan, ứng dụng sử dụng và chủ sở hữu.
Đối chiếu ngữ cảnh: so sánh hoạt động gọi API với thay đổi triển khai, hoạt động kho mã nguồn và các sự cố thông tin xác thực đang mở.
Kích hoạt ứng phó sự cố nếu cần: khi không giải thích được hoạt động, xử lý đây là trường hợp thông tin xác thực có khả năng đã lộ.
Cô lập theo quy trình được phê duyệt: cân nhắc thu hồi hoặc xoay vòng key, đồng thời lưu giữ dữ liệu cần thiết cho điều tra.
Theo dõi sau xử lý: kiểm tra liệu mức sử dụng và chi phí có trở về trạng thái phù hợp sau khi thay đổi thông tin xác thực hay không.
Một hồ sơ sự cố nên ghi nhận key bị ảnh hưởng, dịch vụ có thể bị lạm dụng, mốc thời gian rà soát, hành động đã thực hiện và kết quả theo dõi chi phí.
Kiểm soát cần có trong chính sách dùng AI
LLMjacking cho thấy quản trị AI không chỉ là quyết định nhân viên được phép dùng công cụ nào. Doanh nghiệp cũng cần quản lý danh tính máy, thông tin xác thực và rủi ro chi phí gắn với dịch vụ AI.
Các kiểm soát đáng cân nhắc gồm:
Không đưa API key vào mã phía máy khách.
Tránh hard-code key trong mã nguồn hoặc cấu hình.
Lưu trữ bí mật bằng cơ chế quản lý phù hợp.
Áp dụng nguyên tắc đặc quyền tối thiểu cho key và tài khoản dịch vụ.
Gán chủ sở hữu kỹ thuật và nghiệp vụ cho từng key.
Theo dõi sử dụng và chi phí theo ứng dụng, môi trường hoặc danh tính khi có thể.
Có quy trình xác minh, thu hồi và xoay vòng key khi phát hiện sử dụng bất thường.
Rà soát mã nguồn, cấu hình môi trường và thành phần phía máy khách để tìm bí mật bị phơi lộ.
Đừng coi chi phí tăng là bằng chứng duy nhất
Chi phí AI tăng không tự động chứng minh có tấn công. Thay đổi sản phẩm hợp lệ, lỗi cấu hình hoặc nhu cầu sử dụng thực tế cũng có thể làm mức tiêu thụ tăng lên.
Ngược lại, chỉ xoay vòng key sau khi chi phí tăng cũng chưa giải quyết được nguyên nhân gốc. Nếu key tiếp tục xuất hiện trong mã nguồn, môi trường cấu hình sai hoặc mã phía máy khách, rủi ro có thể lặp lại với thông tin xác thực mới.
Thông điệp thực tế cho SOC là: API key của dịch vụ AI cần được xem là tài sản có thể tạo ra tổn thất tài chính trực tiếp. Kết nối giám sát sử dụng, quản trị bí mật, kiểm soát đặc quyền và theo dõi chi phí sẽ giúp biến cảnh báo hóa đơn thành một tín hiệu an ninh có thể điều tra và xử lý.