Anthropic phát triển FlashProve để xác minh đầu ra đến từ đúng mô hình AI nào
Anthropic đang phát triển một hệ thống mã nguồn mở có tên FlashProve, cho phép dùng bằng chứng mật mã để xác minh mô hình AI nào đã tạo ra một câu trả lời cụ thể. Mục tiêu là giúp người dùng kiểm tra liệu câu trả lời có thực sự đến từ mô hình được công bố hay đã bị thay bằng một mô hình khác. FlashProve được thiết kế để chống giả mạo, kể cả khi bên vận hành mô hình cố tình thay một mô hình đắt tiền bằng mô hình rẻ hơn hoặc dùng mô hình khác để cải thiện kết quả được báo cáo. Hệ thống cũng có thể kiểm chứng các tuyên bố của bên thứ ba, chẳng hạn một phần mềm được quét lỗ hổng bởi mô hình an ninh mạng tiên tiến hay một kế hoạch kinh doanh được mô hình phù hợp xem xét. Các phòng thí nghiệm AI sẽ công bố “dấu vân tay” của từng mô hình để đối chiếu với đầu ra, nhưng không cần tiết lộ trọng số mô hình—những con số nội bộ quyết định cách mô hình hoạt động—và việc xác minh có thể chạy cục bộ trên thiết bị với chi phí tài nguyên thấp. Anthropic đã công bố đặc tả kỹ thuật cùng mã nguồn hoạt động trên GitHub theo giấy phép mã nguồn mở, nhưng nghiên cứu vẫn ở giai đoạn ban đầu và chưa có kế hoạch triển khai tại Anthropic hay phòng thí nghiệm nào khác. Nếu tiếp tục được hoàn thiện, hệ thống có thể giúp các nhà phát triển, doanh nghiệp và nhà nghiên cứu kiểm toán nguồn gốc đầu ra AI tốt hơn, nhất là khi danh tính mô hình ảnh hưởng đến độ tin cậy, chi phí hoặc kết quả đánh giá.
Các nhà phát triển và doanh nghiệp có thể theo dõi hoặc thử mã nguồn FlashProve trên GitHub để tìm hiểu cách xác minh đầu ra đến từ đúng mô hình nào. Tuy nhiên, đây vẫn là nghiên cứu đang phát triển và chưa được Anthropic hay phòng thí nghiệm nào triển khai, nên chưa thể dùng như một tiêu chuẩn xác minh thực tế.
Đọc bài gốc