Thoughtworks chuyển sang chiến lược AI kết hợp, dự báo giảm chi phí từ 40 triệu USD xuống 6,8–11 triệu USD
Thoughtworks cho biết họ đã giảm dự báo chi phí suy luận AI từ mức có thể lên tới 40 triệu USD xuống khoảng 6,8–11 triệu USD vào năm 2028. Nếu tiếp tục theo quỹ đạo hiện tại, hóa đơn được dự báo ở mức khoảng 16 triệu USD; riêng đến tháng 9/2026, công ty đã chi 450.000 USD mỗi tháng cho các API mô hình frontier phục vụ nội bộ, với mức chi hàng tháng tăng khoảng 27%. Giải pháp của Thoughtworks là xây dựng chiến lược “nguồn token” theo từng loại công việc, quyết định tác vụ nào nên dùng mô hình frontier thuê từ bên ngoài và tác vụ nào nên chạy bằng mô hình open-weight trên năng lực tính toán do công ty kiểm soát. Khung đánh giá của công ty xem xét hai yếu tố: công việc đó tạo khác biệt cho doanh nghiệp đến đâu và cần mức kiểm soát bảo mật, chủ quyền dữ liệu đến đâu. Các mô hình frontier được dành cho những tác vụ cần suy luận phức tạp, chiến lược, sáng tạo hoặc đòi hỏi mô hình tốt nhất, trong khi các công việc nhạy cảm, khối lượng lớn hoặc chuyên biệt theo lĩnh vực sẽ dùng mô hình mở có thể triển khai và tinh chỉnh nội bộ. Thoughtworks ước tính cách tiếp cận này có thể giảm hóa đơn trong kịch bản xấu nhất 55% vào năm 2027 và 72% vào năm 2028, đồng thời giảm sự phụ thuộc vào một số ít nhà cung cấp AI và giữ nhiều kiến thức của công ty trong tầm kiểm soát hơn. Bài học thực tế với doanh nghiệp là mở rộng AI không đồng nghĩa với việc phải mua mọi token từ các phòng thí nghiệm lớn: chiến lược kết hợp có thể cân bằng hiệu năng, chi phí, quyền riêng tư và yêu cầu pháp lý.
Doanh nghiệp nên lập chiến lược phân bổ mô hình theo từng loại công việc thay vì mặc định dùng một nhà cung cấp AI cho mọi thứ. Có thể dành các mô hình frontier cho tác vụ cần suy luận mạnh, còn tác vụ nhạy cảm, nhiều dữ liệu hoặc khối lượng lớn thì cân nhắc mô hình open-weight chạy trong hạ tầng do mình kiểm soát.
Đọc bài gốc