Nghiên cứu đề xuất kết hợp System-1 và System-2 để giảm chi phí suy luận hướng tới AGI
Một bài nghiên cứu cho rằng tiến bộ hướng tới AGI có thể không chỉ phụ thuộc vào việc mở rộng các hệ thống suy luận tốn kém, gọi là System-2, mà còn vào việc kết hợp chúng với System-1 nhẹ hơn để dự đoán hành động nào đáng thực hiện. Vòng lặp “tương tác có điều kiện” được đề xuất cho phép System-1 ước tính giá trị của các tương tác tiềm năng, System-2 chỉ thực hiện những tương tác vượt qua một ngưỡng thích ứng, rồi dùng kết quả để cập nhật System-1. Cách tiếp cận này được áp dụng cho việc huấn luyện mô hình, suy luận lúc chạy, ra quyết định thích ứng và các AI agent sử dụng công cụ; “giá trị” và “chi phí” được xác định tùy từng ứng dụng. Trong điều kiện bộ lọc hoạt động lý tưởng và chi phí thực thi mỗi tương tác như nhau, bài nghiên cứu cho rằng lượng tính toán khi thực thi có thể giảm xuống theo hệ số gần bằng 1/ρu, trong đó ρu là tỷ lệ các tương tác thực sự có ý nghĩa. Về thực tế, ý tưởng này mở ra một hướng để làm cho quá trình suy luận hiệu quả hơn bằng cách loại bỏ những tác vụ ít giá trị trước khi mô hình đắt đỏ thực hiện chúng.
Các nhà nghiên cứu và nhà phát triển agent nên theo dõi hướng thiết kế System-1 để sàng lọc hành động trước khi gọi mô hình suy luận tốn kém. Đây là một đề xuất nghiên cứu, chưa phải tính năng có thể dùng ngay, nhưng có thể giúp giảm chi phí tính toán nếu cơ chế dự đoán đủ chính xác.
Đọc bài gốc