Link chia sẻ ChatGPT từng có thể đọc hội thoại riêng tư qua phiên đăng nhập
Một link chia sẻ ChatGPT độc hại từng có thể chạy mã trong phiên trình duyệt đã đăng nhập và đọc hội thoại riêng tư. Lỗi đã được OpenAI vá, nhưng đây vẫn là lời nhắc về rủi ro dữ liệu và phiên xác thực khi dùng công cụ AI.
Một link chia sẻ ChatGPT tưởng như phục vụ cộng tác có thể trở thành điểm khởi đầu của sự cố dữ liệu nếu người mở đang đăng nhập tài khoản.
Theo các nhà nghiên cứu tại Parameter, một link chia sẻ ChatGPT độc hại từng có thể thực thi mã của kẻ tấn công trong phiên trình duyệt đã đăng nhập của người dùng. Từ đó, kẻ tấn công có thể đọc các cuộc trò chuyện ChatGPT riêng tư của nạn nhân.
OpenAI nhận báo cáo qua chương trình bug bounty vào ngày 18/10 và vá lỗi sau tám ngày. Công ty xếp vấn đề ở mức P1, mức nghiêm trọng cao nhất theo mô tả từ nguồn tin. Dù lỗi đã được vá, tình huống này vẫn cho thấy rủi ro cần quản trị khi tổ chức dùng AI: link chia sẻ, phiên xác thực và dữ liệu trong lịch sử hội thoại có thể giao nhau.
Rủi ro nằm ở phiên đăng nhập
Một link chia sẻ không mặc nhiên có quyền truy cập hội thoại riêng tư. Rủi ro trong trường hợp này xuất hiện vì nạn nhân mở link trong trình duyệt đang có phiên xác thực — tức trạng thái cho biết họ đã đăng nhập vào dịch vụ.
Theo mô tả của Parameter, link độc hại có thể khiến mã của kẻ tấn công chạy trong chính phiên đó. Vì vậy, đây không đơn thuần là rủi ro của một URL lạ, mà là rủi ro gắn với quyền truy cập vốn đã tồn tại trong trình duyệt của người dùng.
Dữ liệu bị đe dọa là các cuộc trò chuyện ChatGPT riêng tư. Trong môi trường doanh nghiệp, các cuộc trò chuyện này có thể chứa ngữ cảnh dự án, bản nháp tài liệu, yêu cầu kỹ thuật hoặc thông tin vận hành do người dùng nhập vào phục vụ công việc.
SOC nên cập nhật gì?
Nguồn tin không nêu cấu trúc link khai thác, payload, log mẫu hay chỉ dấu kỹ thuật phục vụ phát hiện. Vì vậy, SOC không nên tự suy diễn mẫu URL hoặc xây rule phát hiện đặc hiệu cho sự cố này.
Thay vào đó, đội an ninh có thể cập nhật playbook ở cấp độ rủi ro:
Không yêu cầu người báo cáo mở lại link để xác minh, đặc biệt trên trình duyệt đang đăng nhập tài khoản công việc.
Ghi nhận ngữ cảnh sự cố: link đến từ đâu, ai nhận, thời điểm nhận, người dùng đã mở hay chưa và tài khoản nào có thể đang đăng nhập.
Đánh giá phạm vi dữ liệu có thể bị phơi lộ: xác định liệu người dùng có sử dụng ChatGPT cho nội dung công việc hoặc dữ liệu nhạy cảm hay không.
Phối hợp với quản trị ứng dụng, risk và compliance nếu có nghi ngờ hội thoại riêng tư đã bị truy cập trái phép.
Đưa link chia sẻ AI vào quy trình xử lý URL đáng ngờ, thay vì xem đây chỉ là một liên kết cộng tác thông thường.
Các bước trên là biện pháp phòng thủ và điều tra ở mức vận hành. Chúng không xác định được liệu một link cụ thể có từng khai thác lỗ hổng hay không.
Chính sách AI cần quản lý cả đường đi của dữ liệu
Sự cố cho thấy chính sách AI không nên chỉ dừng ở việc quy định dữ liệu nào được phép nhập vào chatbot. Tổ chức cũng cần cân nhắc cách dữ liệu được lưu trong lịch sử hội thoại, được chia sẻ qua link và được truy cập từ các phiên đăng nhập.
Một số nguyên tắc thực dụng có thể gồm:
Không dùng link chia sẻ công khai cho hội thoại chứa thông tin nội bộ hoặc nhạy cảm.
Yêu cầu người gửi nêu rõ mục đích và chủ sở hữu nội dung khi chia sẻ hội thoại AI trong kênh công việc.
Không coi lịch sử hội thoại AI là nơi lưu trữ tài liệu gốc hoặc hồ sơ sự cố.
Thiết lập đầu mối báo cáo khi nhân viên nhận link AI bất thường hoặc nghi ngờ hội thoại bị truy cập trái phép.
Rà soát danh mục công cụ AI được phép sử dụng, cùng trách nhiệm quản trị của từng công cụ.
Với đội risk và compliance, đánh giá nhà cung cấp AI nên bao gồm cơ chế chia sẻ dữ liệu, phạm vi người có thể truy cập, khả năng kiểm soát chia sẻ của tổ chức và cách nhà cung cấp xử lý sự cố liên quan đến phiên xác thực.
SIEM có thể hỗ trợ, nhưng chưa có cơ sở cho rule đặc hiệu
SIEM có thể giúp liên kết báo cáo của người dùng, các nguồn telemetry nội bộ sẵn có và mốc thời gian của một sự cố. Tuy nhiên, thông tin hiện có không cung cấp log mẫu, tên sự kiện hay chỉ dấu mạng.
Do đó, chưa có cơ sở để triển khai một rule SIEM đặc hiệu và đáng tin cậy cho lỗ hổng này. Hướng phù hợp hơn là tạo luồng triage ưu tiên khi xuất hiện đồng thời các yếu tố:
Link chia sẻ AI không rõ nguồn gốc;
Người dùng có thể đang đăng nhập dịch vụ AI;
Hội thoại có khả năng liên quan đến dữ liệu công việc nhạy cảm.
Checklist cho đội an ninh
[ ] Bổ sung link chia sẻ từ công cụ AI vào playbook xử lý URL đáng ngờ.
[ ] Nhắc người dùng thận trọng với link AI không rõ nguồn gốc khi đang đăng nhập tài khoản công việc.
[ ] Rà soát chính sách về dữ liệu được phép nhập vào và chia sẻ qua công cụ AI.
[ ] Xác định đầu mối phối hợp giữa SOC, quản trị ứng dụng, pháp chế và compliance.
[ ] Không triển khai rule phát hiện đặc hiệu khi chưa có chỉ dấu kỹ thuật đáng tin cậy.
[ ] Theo dõi thông báo bảo mật từ nhà cung cấp về tính năng chia sẻ và phiên đăng nhập.
Lỗi đã được vá, nhưng bài học vận hành vẫn còn: link chia sẻ có thể không chỉ dẫn tới nội dung để đọc. Khi AI trở thành một phần của luồng công việc, các tính năng chia sẻ và phiên đăng nhập cũng cần được xem là bề mặt rủi ro dữ liệu cần quản trị.