Các nhà nghiên cứu cho biết mô hình AI mới của OpenAI và Google dễ bị qua mặt để tạo ảnh khỏa thân
Các nhà nghiên cứu cho biết một phương thức tấn công mới có thể đánh lừa các mô hình AI của OpenAI và Google để tạo ảnh khỏa thân, qua đó phơi bày điểm yếu trong cơ chế bảo vệ của chúng. Phát hiện này cho thấy các bộ lọc an toàn nhằm chặn nội dung tình dục vẫn có thể bị vượt qua, khiến các nhà phát triển cần tăng cường kiểm thử và biện pháp bảo vệ trước khi triển khai.
Các nhà phát triển và doanh nghiệp dùng AI tạo ảnh nên xem đây là lời nhắc phải kiểm thử bộ lọc an toàn bằng nhiều kiểu tấn công khác nhau, thay vì chỉ dựa vào cơ chế chặn mặc định. Người dùng nên thận trọng với các công cụ có thể bị qua mặt để tạo nội dung nhạy cảm.
Đọc bài gốc