Snowflake ra mắt Cortex Training để tinh chỉnh LLM open-weight trên hạ tầng GPU serverless
Snowflake đã đưa Cortex Training vào giai đoạn public preview, cung cấp dịch vụ serverless để tùy chỉnh và triển khai các mô hình ngôn ngữ lớn open-weight. Đội ngũ AI có thể sử dụng supervised fine-tuning (SFT), reinforcement learning (RL) và các vòng lặp huấn luyện tùy biến trên GPU do Snowflake quản lý mà không phải tự cấp phát hoặc vận hành cụm GPU. Dịch vụ hỗ trợ huấn luyện toàn bộ tham số và LoRA, một phương pháp chỉ cập nhật một phần nhỏ tham số của mô hình, cùng các framework như SkyRL, Hugging Face TRL và veRL. Snowflake cho biết các benchmark nội bộ cho thấy chi phí có thể thấp hơn tới 61% so với các dịch vụ serverless cạnh tranh; người dùng cũng có thể chuẩn bị dữ liệu, đánh giá các checkpoint và triển khai mô hình qua các endpoint suy luận tương thích với OpenAI. Dữ liệu huấn luyện, trọng số mô hình và trạng thái optimizer được giữ trong môi trường do Snowflake quản lý, với kiểm soát truy cập theo vai trò trong toàn bộ quy trình. Mục tiêu thực tế là giúp doanh nghiệp biến các tương tác với khách hàng, nhật ký hoạt động của agent và kết quả vận hành thành những mô hình chuyên biệt, có khả năng ra quyết định tốt hơn cho các tác vụ đặc thù mà không cần tự trở thành chuyên gia về hạ tầng GPU.
Các doanh nghiệp và đội ngũ phát triển AI có thể dùng Cortex Training để tinh chỉnh các mô hình LLM open-weight bằng dữ liệu và phản hồi nội bộ, đồng thời thử SFT, RL hoặc quy trình huấn luyện tùy biến mà không phải tự vận hành cụm GPU. Dịch vụ đang ở giai đoạn public preview trên Snowflake, nên các đội kỹ thuật có thể theo dõi và thử nghiệm trong quy trình phát triển mô hình của mình.
Đọc bài gốc