Vì sao năng lực phán đoán của lãnh đạo quyết định thành bại khi triển khai AI
Tại Diễn đàn Lãnh đạo Công nghệ do Thoughtworks và AWS tổ chức ở New York, Alex Moore, Phó chủ tịch phụ trách giải pháp AI của Thoughtworks, cho rằng năng lực phán đoán của con người—chứ không phải chất lượng mô hình hay giá token—là nguồn lực khan hiếm quyết định chương trình AI có tạo ra giá trị hay không. Phân tích hơn 200 ca sử dụng, chiến lược và lộ trình AI cho thấy khoảng 90% tổ chức không xác định được ai chịu trách nhiệm cho hành vi của một agent, gần 4/5 chưa có quy tắc rõ ràng cho các hành động không cần giám sát, và 2/3 CIO và CTO phải chịu trách nhiệm về những hệ thống họ không thực sự kiểm soát. Moore khuyến nghị con người phải chịu trách nhiệm với những quyết định mới, chưa thành quy tắc; sau đó biến các quyết định này thành chính sách và cơ chế bảo vệ, đồng thời trao cho chuyên gia trong lĩnh vực quyền ghi đè AI khi dữ liệu không hợp lý. Ông cũng khuyên doanh nghiệp chủ động lựa chọn giữa thuê mô hình tiên tiến qua API, định tuyến qua cổng quản trị, dùng mô hình open-weight cho các tác vụ ổn định hoặc tự sở hữu phần cứng cho công việc nhạy cảm, đồng thời bảo vệ tài sản trí tuệ. “Ranh giới phán đoán” là điểm mà quy trình thông thường kết thúc và một trường hợp trở nên đặc thù; các quy trình AI hiệu quả vẫn giữ con người ở điểm này và kiểm tra đầu ra trước khi đưa vào hệ thống nghiệp vụ chính thức. Các chương trình hiệu quả nhất xác định kết quả mà con người có thể kiểm chứng, nhận phản hồi nhanh và dùng cơ chế tạo có kiểm soát—một chốt kiểm tra tự động có thể từ chối đầu ra AI trước khi nó được sử dụng. Thoughtworks cho biết các tổ chức áp dụng những biện pháp này trong quy trình phát triển phần mềm đã cải thiện hiệu năng trên chi phí lập trình từ 50% đến 80% và tăng tốc độ bàn giao lên tới 82%, cho thấy quản trị và thiết kế quy trình có thể quan trọng không kém bản thân mô hình.
Các doanh nghiệp triển khai AI nên xác định rõ ai chịu trách nhiệm cho từng agent, đặt quy tắc về những việc agent được tự làm và luôn có chuyên gia đủ quyền can thiệp khi dữ liệu bất thường. Với quy trình quan trọng, hãy thêm bước kiểm tra trước khi đầu ra của AI được ghi vào hệ thống chính thức.
Đọc bài gốc