Thoughtworks: Rủi ro đạo đức và thương mại khi phát triển sản phẩm AI
Một phân tích của Thoughtworks cho rằng trách nhiệm khi AI gặp sự cố đang ngày càng chuyển sang các lãnh đạo sản phẩm, bởi những quyết định về dữ liệu, kiến trúc, nhà cung cấp và mức độ tự chủ được đưa ra trước khi bộ phận pháp chế và tuân thủ tham gia. Theo Đạo luật AI của EU, mức phạt có thể lên tới €35 triệu hoặc 7% doanh thu toàn cầu hằng năm đối với các hành vi bị cấm, và tối đa €15 triệu hoặc 3% đối với phần lớn nghĩa vụ khác; cùng một sự cố cũng có thể phát sinh trách nhiệm theo GDPR nếu liên quan đến dữ liệu cá nhân. Bài viết cho rằng doanh nghiệp phải xác định mình đang là bên cung cấp hay bên triển khai AI, đồng thời phân loại mức rủi ro của từng tính năng. Các agent tự chủ khó kiểm soát hơn những hệ thống chỉ soạn thảo hoặc tóm tắt, đặc biệt khi chúng có thể thực hiện nhiều bước, sử dụng thông tin xác thực hoặc xử lý dữ liệu cá nhân. Những biện pháp được khuyến nghị gồm cấp quyền ngắn hạn và giới hạn theo nhiệm vụ, yêu cầu con người phê duyệt các hành động có tác động lớn, xây dựng nhật ký kiểm toán rõ ràng thay vì dựa vào dấu vết suy luận của mô hình, tách biệt dữ liệu giữa các khách hàng và theo dõi việc embedding, bộ nhớ agent hoặc trọng số mô hình có còn lưu dữ liệu cá nhân hay không. Với doanh nghiệp, quản trị AI vì thế vừa là yêu cầu tuân thủ vừa là vấn đề thương mại: khả năng chứng minh việc giám sát và bảo vệ dữ liệu có thể giúp xây dựng niềm tin, đặc biệt trong các ngành chịu quản lý chặt, đồng thời giảm nguy cơ đội ngũ sản phẩm vô tình nhận những trách nhiệm pháp lý mà họ chưa chuẩn bị.
Các doanh nghiệp xây dựng hoặc tích hợp AI nên xác định rõ mình là bên cung cấp hay bên triển khai, mức rủi ro của từng tính năng và phạm vi tự chủ của mỗi agent. Về thực tế, hãy dùng quyền truy cập ngắn hạn, lưu nhật ký hành động có thể kiểm tra và yêu cầu con người phê duyệt các thao tác quan trọng, không thể đảo ngược.
Đọc bài gốc