Anthropic cho METR quyền tiếp cận nội bộ để đánh giá độc lập rủi ro AI
Anthropic cho biết họ đã bắt đầu cấp cho sáu nhân viên của METR, một tổ chức phi lợi nhuận chuyên đánh giá các mô hình AI tiên phong, quyền “tiếp cận như nhân viên” với các công cụ nội bộ, hệ thống, văn phòng và máy tính của công ty. METR sẽ đánh giá rủi ro, sự cố và các hoạt động an toàn của mô hình Anthropic, sau đó công bố kết quả; Anthropic không thể phủ quyết việc công bố, nhưng có thể yêu cầu lược bỏ các nhóm thông tin hẹp như dữ liệu khách hàng, thông tin được bảo vệ bởi đặc quyền luật sư và chi tiết kiến trúc mô hình. Anthropic cũng đang hợp tác với SecureBio, Accenture và Faculty, đồng thời thảo luận khả năng hợp tác với các tổ chức như Hugging Face. Công ty đang xây dựng hệ thống ba cấp cho các bên đánh giá, từ những cuộc điều tra giới hạn với phạm vi hẹp đến các nhóm làm việc trực tiếp trong công ty với quyền tiếp cận rộng và quyền công bố độc lập; SecureBio hiện ở cấp đầu tiên và đang xem xét phần về vũ khí hóa học, sinh học trong một báo cáo rủi ro của Anthropic. Anthropic muốn cách làm này tạo ra cơ chế giám sát AI mạnh mẽ hơn, tương tự việc các chuyên gia giám sát ngân hàng làm việc sát bên trong những ngân hàng lớn để phát hiện rủi ro mà người ngoài khó thấy. Trên thực tế, mô hình này có thể cung cấp cho công chúng bằng chứng đáng tin cậy hơn về các quyết định an toàn AI mà vẫn bảo vệ được những thông tin nhạy cảm có thể gây rủi ro an ninh hoặc ảnh hưởng thương mại.
Anthropic đang thử mô hình cho phép các tổ chức đánh giá độc lập tiếp cận sâu hơn với quy trình và hệ thống an toàn của công ty, nên các nhà phát triển và doanh nghiệp AI có thể theo dõi cách cơ chế giám sát bên ngoài được triển khai trong thực tế. Kết quả do METR công bố có thể giúp người dùng và cộng đồng đánh giá rủi ro của các mô hình mạnh dựa trên bằng chứng độc lập hơn.
Đọc bài gốc