Bài BBC/Reuters: Một số nhân viên Google DeepMind nghỉ việc vì các hợp đồng AI quân sự
Một số nhân viên Google DeepMind đã nghỉ việc hoặc đang chuẩn bị rời công ty vì các hợp đồng AI quân sự của Google, theo các cuộc phỏng vấn được BBC và Reuters đưa tin. Kỹ sư nghiên cứu tại London Sofia Liguori và nhà nghiên cứu AI Andreas Kirsch cho biết họ mất niềm tin vào khả năng của Google trong việc bảo đảm các hệ thống được sử dụng an toàn và phù hợp với những nguyên tắc đạo đức mà công ty công bố. Hợp đồng của Google với Lầu Năm Góc, được ký vào đầu năm nay, cho phép sử dụng các mô hình AI trong công việc quân sự mật và cho mọi mục đích hợp pháp của chính phủ. Hợp đồng cấm giám sát hàng loạt trong nước và vũ khí tự động, bao gồm việc tự chọn mục tiêu, nếu không có sự giám sát và kiểm soát phù hợp của con người. Tuy nhiên, các nhà phê bình cho rằng những hệ thống AI hiện nay chưa đủ đáng tin cậy, còn việc con người kiểm tra thực chất đầu ra của AI có thể rất khó trong các chiến dịch quân sự diễn ra nhanh. OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia và Reflection cũng đã ký các thỏa thuận quân sự tương tự. Tranh cãi này cho thấy mâu thuẫn ngày càng lớn giữa nỗ lực triển khai AI nhanh chóng của quân đội và lo ngại của các nhà nghiên cứu về việc kiểm thử, trách nhiệm giải trình và quyền kiểm soát của con người trong chiến tranh. Về thực tế, vụ việc có thể ảnh hưởng đến quyết định nhận hợp đồng quốc phòng của các công ty AI cũng như cách họ quản lý những hệ thống được dùng cho tình báo, lập kế hoạch và các quyết định trên chiến trường.
Các nhà phát triển và doanh nghiệp nên theo dõi chặt các điều khoản sử dụng, cơ chế giám sát của con người và trách nhiệm giải trình khi AI được triển khai trong lĩnh vực quốc phòng. Tranh cãi này cũng cho thấy việc đánh giá an toàn và quyền kiểm soát thực tế quan trọng không kém khả năng của mô hình.
Đọc bài gốc