AI hôm nay: DeepInfer mở mã nguồn, PyTorch dùng TPU Google trực tiếp
DeepSeek mở mã DeepInfer cho DeepSeek-V4.1-Flash, còn Hugging Face đưa TPU thành thiết bị gốc trong PyTorch. Mistral ra SDK trợ lý thoại, trong khi Mỹ siết sử dụng DeepSeek ở cơ quan liên bang.
Hạ tầng AI hôm nay có hai hướng đáng chú ý: chạy mô hình hiệu quả hơn và mở rộng lựa chọn phần cứng. Song song, bảo mật agent và rủi ro chuỗi cung ứng dữ liệu web tiếp tục nóng lên.
1. DeepSeek mở mã DeepInfer, tối ưu chạy DeepSeek-V4.1-Flash
DeepSeek phát hành DeepInfer theo giấy phép Apache 2.0, là framework inference hiệu năng cao hỗ trợ DeepSeek-V4.1-Flash. Bản hiện tại tập trung vào offline inference, có nhiều tính năng cho quy mô lớn nhưng chưa gồm đủ thành phần của một dịch vụ hoàn chỉnh.
Vì sao đáng chú ý: Đội ngũ tự vận hành mô hình có thêm một lựa chọn mã nguồn mở, nhưng cần tính đến phần hạ tầng phục vụ còn thiếu.
Đọc chi tiết →
2. TorchTPU đưa TPU Google thành thiết bị gốc trong PyTorch
Hugging Face công bố TorchTPU, backend PyTorch gốc để dùng TPU của Google như một thiết bị thông thường bên cạnh CPU và GPU. Công cụ hỗ trợ Transformers, Diffusers, Kernels, eager mode, huấn luyện phân tán, kernel Pallas và torch.compile.
Vì sao đáng chú ý: Lập trình viên PyTorch có thể thử TPU qua thiết lập như devicemap="tpu" mà không phải chuyển mã sang JAX hoặc phụ thuộc PyTorch/XLA.
Đọc chi tiết →
3. Mistral ra Voxtral 3 cho trợ lý thoại thời gian thực
Mistral giới thiệu Voxtral 3, SDK và bộ mô hình giọng nói để xây dựng tác nhân thoại hội thoại thời gian thực bằng hơn 50 ngôn ngữ. Hệ thống kết hợp nhận dạng giọng nói, suy luận, gọi công cụ và tổng hợp giọng nói; gói phát hành có mô hình chép lời và TTS tùy chỉnh cảm xúc, tốc độ, trọng âm.
Vì sao đáng chú ý: Đây là một lựa chọn đáng cân nhắc khi xây tổng đài hoặc trợ lý thoại có thể tra cứu và hoàn tất tác vụ nhiều bước.
Đọc chi tiết →
4. Eka Robotics gọi 150 triệu USD cho robot gắp hàng
Eka Robotics huy động 150 triệu USD vòng Series A do a16z và F-Prime dẫn đầu, đạt định giá sau đầu tư 1,45 tỷ USD. Công ty phát triển cánh tay robot dùng mô hình thị giác-lực-hành động, kết hợp cảm biến lực và bộ kẹp linh hoạt để gắp nhiều loại vật thể nhanh, ổn định.
Vì sao đáng chú ý: Khoản đầu tư cho thấy AI vật lý đang tiến gần hơn vào các bài toán kho vận và xử lý hàng hóa thực tế.
Đọc chi tiết →
5. Mỹ yêu cầu cơ quan liên bang gỡ DeepSeek khỏi hệ thống
Mỹ yêu cầu các cơ quan liên bang dân sự ngừng mua sản phẩm DeepSeek và gỡ công nghệ này khỏi hệ thống CNTT vì lo ngại an ninh quốc gia. Chỉ thị cũng áp dụng với sản phẩm, dịch vụ bên thứ ba được xây bằng công nghệ DeepSeek, dù vẫn có cơ chế xin ngoại lệ.
Vì sao đáng chú ý: Doanh nghiệp dùng mô hình hoặc thành phần DeepSeek nên rà soát yêu cầu tuân thủ, đặc biệt khi làm việc với khách hàng quốc tế và dữ liệu nhạy cảm.
Đọc chi tiết →
6. Anthropic được cho là chật vật tìm đủ năng lực đám mây
Theo hồ sơ S-1 bị rò rỉ, Anthropic gặp khó trong việc 확보 đủ năng lực điện toán từ AWS, Google và Microsoft khi các nhà cung cấp này ngày càng xem hãng là đối thủ. Hồ sơ nêu khả năng công ty chi hơn 750 tỷ USD cho các hợp đồng đám mây, đồng thời thuê trung tâm dữ liệu riêng và hợp tác với bên vận hành thứ ba.
Vì sao đáng chú ý: Câu chuyện cho thấy năng lực tính toán vẫn là nút thắt chiến lược, kể cả với các công ty AI hàng đầu.
Đọc chi tiết →
7. Chỉ dẫn ẩn trên web là rủi ro mới với AI agent
Một số trang trợ giúp WhatsApp từng gửi chỉ dẫn cho chatbot mà người dùng không nhìn thấy. Vụ việc nhấn mạnh nhu cầu tách dữ liệu tham khảo khỏi mệnh lệnh và kiểm soát chặt các nguồn web được đưa vào AI agent.
Vì sao đáng chú ý: Nếu agent được phép đọc web và gọi công cụ, hãy coi nội dung bên ngoài là dữ liệu không đáng tin thay vì chỉ dẫn để thực thi.
Đọc chi tiết →
Đáng theo dõi nhất: liệu DeepInfer có nhanh chóng trở thành lựa chọn triển khai thực tế ngoài offline inference hay không.