Anthropic đề xuất dự luật an toàn AI, cho phép chặn mô hình nếu có nguy cơ khiến hơn 50 người thiệt mạng
Anthropic đang vận động một dự luật an toàn AI tại Mỹ, theo đó việc phát hành một mô hình có thể bị ngăn chặn nếu các chuyên gia xác định mô hình tạo ra “nguy cơ có thể dự đoán và sắp xảy ra” khiến hơn 50 người thiệt mạng hoặc gây thiệt hại tài sản trên 1 tỷ USD. Những rủi ro này phải bắt nguồn từ việc tạo ra hoặc phát hành vũ khí sinh học, mô hình thoát khỏi các biện pháp kiểm soát của nhà phát triển, hoặc một cuộc tấn công mạng. Dự luật yêu cầu các đơn vị đánh giá độc lập, được đăng ký với Bộ Thương mại Mỹ, báo cáo nguy cơ như vậy trong vòng 72 giờ. Tuy nhiên, các cơ quan liên bang không được tự mình dừng việc phân phối mô hình mà phải đề nghị một thẩm phán ở Washington, D.C. ban hành lệnh; các đơn vị đánh giá vẫn có thể được chính phòng thí nghiệm AI trả tiền miễn là khoản thanh toán không phụ thuộc vào kết quả đánh giá. Các ngưỡng 50 người và 1 tỷ USD tương tự luật Senate Bill 53 mới được California thông qua, trong bối cảnh ngành công nghệ ngày càng lo ngại các tác nhân AI tự động có thể xâm nhập và tấn công website. Trên thực tế, đề xuất này sẽ tạo ra một quy trình pháp lý để ngăn các mô hình đặc biệt nguy hiểm được phát hành, nhưng việc phụ thuộc vào đơn vị đánh giá do doanh nghiệp chi trả và phải chờ tòa án phê duyệt có thể khiến việc can thiệp khẩn cấp chậm hơn hoặc làm dấy lên nghi vấn về tính độc lập.
Các nhà phát triển và doanh nghiệp AI nên theo dõi đề xuất này vì nó có thể đặt ra quy trình pháp lý mới để ngăn phát hành những mô hình có nguy cơ gây thảm họa. Hiện đây mới là dự luật do Anthropic vận động, chưa phải quy định có hiệu lực; điểm cần chú ý là việc đánh giá có thể do các tổ chức được công ty AI chi trả và quyết định cuối cùng thuộc về thẩm phán.
Đọc bài gốc