#ai-infrastructure — tin AI mới nhất

NVIDIA Workload Map: một định nghĩa chung cho AI workload trên Kubernetes — NVIDIA Workload Map đưa kiến thức về cấu trúc workload ra khỏi adapter riêng cho từng CRD. Một definition có thể giúp scheduler, controller và nền tảng vận hành cùng diễn giải JobSet, Ray,…
Anthropic gặp khó khi chi phí compute tăng nhanh hơn doanh thu — Doanh thu của Anthropic tăng lên 17 tỷ USD trong quý kết thúc ngày 30/9, từ mức 11,5 tỷ USD quý trước, nhưng khoản lỗ hoạt động cũng tăng do chi phí compute leo thang. Compute, tức năng lực tính…
Omen AI mua lại Aquatic Labs với giá 16 triệu USD để giám sát nước làm mát trung tâm dữ liệu — Omen AI đang mua lại startup Aquatic Labs với giá 16 triệu USD bằng tiền mặt và cổ phiếu để kết hợp công nghệ giám sát nước làm mát trung tâm dữ liệu theo thời gian thực. Cảm biến của Omen phát hiện…
Boom có thể trì hoãn máy bay siêu thanh khi chuyển hướng sang cung cấp điện cho trung tâm dữ liệu AI — Chương trình máy bay siêu thanh của Boom có thể bị trì hoãn khi công ty chuyển trọng tâm sang cung cấp điện cho các trung tâm dữ liệu AI. Mảng kinh doanh điện này cũng vừa mất một khách hàng, làm…
General Compute gọi vốn Series A 100 triệu USD để mở rộng đám mây AI dùng chip ngoài Nvidia — General Compute, startup xây dựng hạ tầng đám mây AI bằng các chip suy luận từ những đối thủ của Nvidia, đã gọi được 100 triệu USD ở vòng Series A do Blackbird Ventures và Abstract Ventures dẫn đầu.…
Chi phí lưu trữ ẩn của AI tăng theo từng lượt suy luận — Chi phí hạ tầng AI không dừng ở GPU và câu trả lời của mô hình: mỗi lượt suy luận có thể để lại prompt, nhật ký, ngữ cảnh được lưu tạm, đầu ra trung gian, bản sao lưu và hồ sơ an toàn. Theo phép đo…
Lãnh đạo AI của Blackstone cho rằng lo ngại về nợ đầu tư hạ tầng AI đang bị thổi phồng — Jas Khaira, lãnh đạo AI của Blackstone, cho biết tập đoàn không quá lo ngại trước tình trạng nợ gia tăng tại các công ty hạ tầng AI, lập luận rằng phần lớn khoản vay cuối cùng được bảo chứng bởi…
NVIDIA giới thiệu DSX POD để triển khai hạ tầng AI quy mô lớn nhanh và dễ dự đoán hơn — NVIDIA đã giới thiệu DSX POD, một thiết kế tham chiếu tiêu chuẩn hóa được xây dựng tại nhà máy để triển khai hạ tầng AI dạng rack trong các container. Thiết kế này tích hợp máy tính, mạng, lưu trữ,…
SpaceX báo cáo AI đóng góp 52% thu nhập trong quý III — SpaceX báo cáo doanh thu quý III đạt 14,6 tỷ USD và lợi nhuận ròng 4,4 tỷ USD, đảo chiều so với khoản lỗ 1 tỷ USD cùng kỳ năm trước. Công ty cho biết các hoạt động trí tuệ nhân tạo mang về 7,5 tỷ…
Kubernetes cần autoscaling hiểu rõ hơn workload AI và phần cứng tăng tốc — Workload AI đang bộc lộ một điểm yếu trong cơ chế autoscaling của Kubernetes: scheduler quyết định pod chạy ở đâu, còn autoscaler quyết định bổ sung node nào, và hai hệ thống có thể không thống nhất…
Cộng đồng Hacker News dẫn báo cáo: Các ngân hàng tìm cách giảm khoản nợ trung tâm dữ liệu AI đã bảo lãnh — JPMorgan, Morgan Stanley, SMBC và MUFG được cho là đang tìm cách chuyển giao một phần các khoản vay trung tâm dữ liệu AI mà họ vừa thu xếp, sau khi mức độ tiếp xúc với lĩnh vực này tiến gần giới hạn…
Gặp gỡ kỹ sư Anthropic giữ cho AI agent của hãng đáng tin cậy — Gurmeet Saran, thành viên cấp cao của IEEE và là member of technical staff tại Anthropic ở San Francisco, được giới thiệu qua công việc xây dựng hạ tầng để hiểu cơ chế hành vi của Claude và đảm bảo…
Drone của Ukraine đánh sập trung tâm dữ liệu AI của "Google của Nga" — Các drone của Ukraine đã tấn công và làm hư hại trung tâm dữ liệu của Yandex, thường được gọi là "Google của Nga". Một trong những cơ sở bị hư hại có các siêu máy tính dùng để huấn luyện mô hình AI…
Xác thực các thay đổi của AI Factory bằng Digital Twin và AI Agent — Bài blog thảo luận về độ phức tạp của các AI factory, vốn kết hợp GPU, CPU, switch, DPU và SuperNIC cùng với các bộ lập lịch và phần mềm điều phối. Dựa trên tiêu đề, bài viết đề cập đến việc dùng…
Kubernetes v1.37: Lập lịch theo khối lượng công việc (Workload-Aware Scheduling) tiến thêm một bước với API CompositePodGroup — Kubernetes v1.37 thúc đẩy Workload-Aware Scheduling, nỗ lực giúp bộ lập lịch của cụm xử lý cả một job AI/ML hoặc batch như một đơn vị thay vì xếp từng Pod (đơn vị chạy nhỏ nhất trong Kubernetes) một…