Vercel cho biết Jev là mô hình AI được áp dụng nhanh nhất từ trước đến nay trên nền tảng này
Jev, mô hình AI nhẹ của TypeSafe AI, trở thành mô hình được áp dụng nhanh nhất trên AI Gateway của Vercel theo một thước đo: trong vòng hai tuần kể từ khi phát hành giới hạn vào ngày 15/9, 35% các đội nhóm trả phí sử dụng gateway đã dùng thử mô hình này. Con số đó gần gấp đôi độ phủ của mô hình phổ biến thứ hai, Sonnet 5.5, theo dữ liệu của Vercel. Jev được thiết kế để chọn một trong số ít đầu ra đã định sẵn thay vì tạo câu trả lời mở, nhờ đó rẻ và nhanh hơn trong các tác vụ như phân loại lượng lớn dữ liệu. Sự quan tâm dành cho mô hình đã thúc đẩy OpenAI, Amazon và một số công ty khác phát triển sản phẩm cạnh tranh. Dữ liệu từ gateway của Vercel chỉ phản ánh một phần thị trường vì các phòng thí nghiệm lớn như OpenAI và Anthropic cũng cung cấp API riêng, nhưng chính Vercel đang dùng Jev để phân loại các lệnh nguy hiểm, thay thế GPT-6 Luna cho tác vụ này. Báo cáo cũng cho thấy các mô hình mã nguồn mở xử lý hơn 70% số token qua gateway của Vercel và chiếm gần 25% tổng chi tiêu, trong khi chi tiêu cho các phòng thí nghiệm AI hàng đầu đã tăng gấp 10 lần. Điều này cho thấy các mô hình chuyên biệt, tốc độ cao và các mô hình đa năng lớn có thể bổ trợ cho nhau thay vì chỉ cạnh tranh trực tiếp.
Các đội ngũ cần phân loại khối lượng dữ liệu lớn thành một số nhãn cố định nên theo dõi Jev, vì mô hình này được thiết kế để xử lý nhanh và tiết kiệm hơn các mô hình trả lời tổng quát. Dữ liệu của Vercel cho thấy các mô hình chuyên biệt và mô hình lớn có thể đảm nhiệm những vai trò khác nhau trong cùng một hệ thống AI.
Đọc bài gốc