Nghiên cứu đo tác động của dữ liệu, độ đa dạng và kích thước mô hình lên AI tác tử trong thế giới ảo
Một nghiên cứu có kiểm soát đã kiểm tra cách continued pre-training ảnh hưởng đến các tác tử AI embodied trong nhiều thế giới ảo khác nhau. Nhóm nghiên cứu thực hiện 120 cấu hình huấn luyện, sử dụng bốn kích thước mô hình từ 0.8B đến 27B tham số, sáu mức dữ liệu từ 50 đến 1.600 giờ và năm cách trộn dữ liệu, từ chỉ dùng Minecraft đến các bộ dữ liệu gồm nhiều thế giới. Nhiều dữ liệu hơn giúp tác tử hoạt động tốt hơn trong những thế giới đã xuất hiện khi huấn luyện, còn dữ liệu đa dạng hơn giúp chuyển sang các thế giới có liên quan nhưng chỉ cải thiện hạn chế ở những thế giới rất khác biệt. Mô hình lớn hơn sử dụng dữ liệu hiệu quả hơn nhưng lại khái quát kém hơn sang các thế giới xa lạ, cho thấy chỉ tăng kích thước mô hình chưa đủ để tạo ra tác tử hoạt động bền vững trong nhiều thế giới ảo.
Các nhà nghiên cứu AI nên xem đây là dấu hiệu cho thấy dữ liệu đa dạng và độ tương đồng giữa các thế giới quan trọng không kém kích thước mô hình khi huấn luyện tác tử game. Kết quả có thể giúp thiết kế bộ dữ liệu và mô hình hiệu quả hơn cho agent hoạt động trong nhiều môi trường ảo.
Đọc bài gốc