MIT Technology Review phân tích lợi ích và rủi ro của các mô hình AI mở
Anthropic cảnh báo GLM-5.3, một mô hình mạnh do công ty Trung Quốc Z.ai phát hành vào tháng 8, có thể tạo ra rủi ro lớn cho các cuộc tấn công mạng vì bất kỳ ai cũng có thể tải xuống và chỉnh sửa nó. Báo cáo này tiếp tục khơi lại cuộc tranh luận kéo dài về việc nên phát hành công khai các mô hình AI tiên tiến hay giữ chúng trong hệ thống khép kín của một số phòng thí nghiệm hàng đầu. Các mô hình mở công khai trọng số mô hình—những con số định hình cách mô hình hoạt động—để người dùng tải xuống, nghiên cứu, tinh chỉnh, kết hợp và chạy trên máy riêng. Chúng có thể hỗ trợ nghiên cứu học thuật, giảm chi phí cho doanh nghiệp và giúp tổ chức giữ dữ liệu nhạy cảm trên phần cứng của mình, đồng thời hạn chế việc quyền lực AI tập trung vào một số ít công ty hoặc chính phủ. Mặt trái là khả năng tiếp cận này cũng có thể khiến việc lạm dụng dễ dàng hơn, trong khi mô hình mở nhìn chung vẫn kém các mô hình đóng mạnh nhất. Vì vậy, tranh luận hiện nay là bài toán cân bằng giữa an toàn AI với khả năng tiếp cận rộng rãi hơn, cạnh tranh, quyền riêng tư và quyền kiểm soát công nghệ quan trọng của xã hội.
Các nhà phát triển và doanh nghiệp có thể quan tâm đến mô hình mở vì chúng cho phép chạy tại chỗ, tùy chỉnh và xử lý dữ liệu nhạy cảm mà không phải phụ thuộc hoàn toàn vào một nhà cung cấp. Tuy nhiên, việc tải xuống và sửa đổi tự do cũng làm tăng rủi ro lạm dụng, nên cần cân nhắc kỹ yêu cầu bảo mật trước khi triển khai.
Đọc bài gốc