Tin từ Hacker News: Bộ trọng số Kimi K3.1 Pro được cho là đã phát hành
Kimi K3.1 Pro được giới thiệu là mô hình AI đa phương thức có bộ trọng số mở, hướng đến lập trình, nghiên cứu, tạo nội dung 3D và các tác vụ mà AI phải sử dụng công cụ hoặc xử lý qua nhiều bước. Mô hình dùng kiến trúc mixture-of-experts với tổng cộng 2,8 nghìn tỷ tham số, nhưng chỉ kích hoạt khoảng 104 tỷ tham số cho mỗi token, đồng thời hỗ trợ cửa sổ ngữ cảnh 1.048.576 token—tương đương lượng văn bản của một cuốn sách dài hoặc hơn. Mô hình nhận văn bản và hình ảnh thông qua bộ mã hóa thị giác MoonViT-V2, đồng thời dùng các kỹ thuật attention thưa để xử lý đầu vào rất dài hiệu quả hơn. Các kết quả được công bố cho thấy mô hình đạt thành tích mạnh ở một số bài kiểm tra về lập trình, tác vụ tự động, công việc văn phòng và đa phương thức, nhưng đứng sau các đối thủ ở một số bài khác; các điểm số cũng kết hợp đánh giá nội bộ, công cụ chạy thử khác nhau và kết quả do nhiều nhóm báo cáo. Nếu thông tin về việc phát hành bộ trọng số là chính xác và có thể sử dụng, nhà phát triển có thể kiểm tra, tự chạy hoặc điều chỉnh một mô hình quy mô hàng đầu thay vì chỉ dùng API được lưu trữ, nhưng việc triển khai thực tế sẽ cần hạ tầng tính toán rất lớn.
Nhà phát triển nên theo dõi và kiểm tra nguồn phát hành chính thức trước khi thử Kimi K3.1 Pro, vì mô hình có quy mô rất lớn và đòi hỏi hạ tầng tính toán đáng kể. Nếu bộ trọng số thực sự được cung cấp, đây sẽ là lựa chọn để nghiên cứu hoặc xây dựng ứng dụng AI đa phương thức, tác vụ dài và lập trình.
Đọc bài gốc