Anthropic cảnh báo có thể sắp đạt khả năng tự cải tiến AI đệ quy
Anthropic cho biết trong hồ sơ S-1A sửa đổi rằng công ty có thể sắp đạt định nghĩa nội bộ về “tự cải tiến đệ quy” (recursive self-improvement, RSI), tức AI hỗ trợ huấn luyện hoặc phát triển các hệ thống AI mới và khiến tốc độ tiến bộ tăng mạnh. Công ty nói mình đã dùng AI để tạo ra các mô hình mới có mức tăng năng lực mà ban đầu chưa nhận ra, dù chưa mô hình hiện tại nào vượt qua ngưỡng RSI. Anthropic cảnh báo nghiên cứu và phát triển có AI hỗ trợ có thể tiến nhanh hơn khả năng kiểm định mô hình cũng như triển khai các biện pháp an toàn, căn chỉnh và bảo mật. Công ty cũng cho biết chưa dự kiến để Claude tự chủ hoàn toàn trong việc thiết kế và xây dựng các thế hệ mô hình tiên tiến tiếp theo nếu không có sự giám sát hoặc hiểu biết đáng kể của con người, đồng thời đang cân nhắc cập nhật chính sách an toàn để con người tiếp tục kiểm soát quá trình này. Một số người xem RSI là con đường dẫn tới năng suất và khám phá khoa học vượt trội, trong khi những người khác lo ngại AI tiên tiến sẽ khó kiểm soát. Hồ sơ S-1 vừa có chức năng công bố rủi ro vừa có thể mang tính tiếp thị, nên tuyên bố này cần được xem xét thận trọng; dù vậy, nó cho thấy Anthropic đang chuẩn bị cho tốc độ phát triển AI nhanh hơn và nhu cầu quản trị chặt chẽ hơn.
Các nhà phát triển và doanh nghiệp nên theo dõi cách Anthropic kiểm soát việc dùng AI để xây dựng các thế hệ mô hình mới, thay vì coi RSI là một khả năng đã xảy ra. Hiện Anthropic nói chưa mô hình nào vượt ngưỡng này và vẫn dự kiến duy trì sự giám sát đáng kể của con người.
Đọc bài gốc