Bài đăng Hacker News dẫn lời Geoffrey Hinton: AI có thể gây sự cố quy mô lớn nếu không được kiểm soát
Geoffrey Hinton, một trong những người đặt nền móng cho AI hiện đại, cảnh báo công nghệ này có thể gây ra một sự cố nghiêm trọng ngay trong năm nay hoặc năm sau, chẳng hạn như làm mất điện trên diện rộng hoặc khiến hệ thống tài chính tê liệt trong một tuần. Ông nói cuối cùng có thể nhân loại sẽ tốt hơn nếu chưa từng phát triển AI, dù vẫn tin công nghệ này có thể mở ra một “tương lai tuyệt vời”. Hinton cho rằng trong vòng một thập kỷ, hoặc sớm hơn, xã hội sẽ biết liệu con người có thể kiểm soát rủi ro của AI hay không; nếu thất bại, AI có thể dẫn đến thất nghiệp quy mô lớn, nới rộng khoảng cách giàu nghèo và làm sâu sắc thêm chia rẽ xã hội. Ông chỉ trích việc các công ty AI lớn chấp nhận rủi ro để chạy đua, đồng thời ủng hộ kiểm thử bắt buộc, đánh giá độc lập và các tiêu chuẩn quốc tế trước khi phát hành những mô hình mạnh. Ông xem các báo cáo gần đây về việc tác nhân AI tìm cách xâm nhập một trang web như một cảnh báo sớm, chứ chưa phải thảm họa. Hinton vẫn thận trọng hy vọng rằng con người còn kiểm soát được tình hình, nhưng cho rằng ngăn chặn một sự cố nghiêm trọng sẽ đòi hỏi nỗ lực rất lớn. Những nhận định này cho thấy an toàn AI không chỉ liên quan đến khả năng của mô hình, mà còn bao gồm bảo vệ hạ tầng, trách nhiệm của doanh nghiệp và sự giám sát của chính phủ.
Các nhà phát triển AI, doanh nghiệp và cơ quan quản lý nên xem đây là lời nhắc về việc đánh giá rủi ro trước khi triển khai các hệ thống mạnh, đặc biệt khi chúng có thể tác động đến điện, tài chính hoặc việc làm. Người dùng phổ thông chưa cần thay đổi công cụ ngay, nhưng nên theo dõi các quy định về kiểm thử độc lập và an toàn AI.
Đọc bài gốc