#infrastructure — tin AI mới nhất

NVIDIA đóng gói cấu hình Kubernetes sẵn sàng cho GPU Vera Rubin từ ngày đầu — NVIDIA cho biết NVIDIA AI Cluster Runtime (AICR) có thể đóng gói và kiểm thử các thiết lập Kubernetes cần thiết để chạy hệ thống GPU Vera Rubin NVL72, giảm khối lượng cấu hình thủ công liên quan đến…
OpenAI ra mắt chương trình Grid Protectors để phối hợp với các công ty điện lực — OpenAI đã ra mắt chương trình Grid Protectors, một sáng kiến hợp tác với các công ty điện lực nhằm giúp các khu tổ hợp máy tính quy mô lớn trong tương lai duy trì độ ổn định của lưới điện và góp…
OpenAI có thể đổi tên các trung tâm dữ liệu thành “khu tổ hợp điện toán AI” — OpenAI được cho là đang chuẩn bị một chiến dịch quan hệ công chúng sau cuộc bầu cử giữa kỳ ở Mỹ nhằm định hình cuộc thảo luận về AI. Chris Lehane, giám đốc phụ trách các vấn đề toàn cầu của công ty,…
Trung tâm dữ liệu trở thành vấn đề tranh cử giữa kỳ, ngay cả ở Brooklyn — Tại một sự kiện ở Brooklyn diễn ra năm ngày trước cuộc bầu cử giữa kỳ của Mỹ, các cuộc thảo luận về AI và trung tâm dữ liệu liên tục lấn át những chủ đề chính trị được lên kế hoạch ban đầu. Người…
Nvidia được cho là cân nhắc bảo lãnh khoản vay cho trung tâm dữ liệu AI của Nscale tại West Virginia — Nvidia được cho là đang thảo luận việc bảo lãnh hàng tỷ USD khoản vay liên quan đến khu trung tâm dữ liệu AI mà Nscale dự định xây dựng tại West Virginia để phục vụ Anthropic. Thỏa thuận này sẽ giúp…
Giáo sư MIT: AI và biến đổi khí hậu đang buộc thế giới thiết kế lại hạ tầng — Giáo sư MIT Ali Jadbabaie cho rằng cơ sở hạ tầng đang bước vào một giai đoạn mang tính quyết định khi AI, biến đổi khí hậu, tình trạng khan hiếm tài nguyên, chuyển đổi số và bất ổn địa chính trị…
NVIDIA Minerva liên kết telemetry để phát hiện lỗi ẩn và tăng hiệu suất cụm GPU — NVIDIA cho biết nền tảng Minerva đưa telemetry từ GPU, mạng, lưu trữ, bộ lập lịch và workload AI vào một knowledge graph (đồ thị tri thức) trực tiếp, liên kết hạ tầng với các job đang sử dụng hạ…
NVIDIA Mission Control 2.5 bổ sung khả năng tự phục hồi cho workload Kubernetes — NVIDIA Mission Control 2.5 mở rộng công cụ tự động phục hồi sang các workload AI chạy trên Kubernetes và được quản lý bằng NVIDIA Run:ai, bên cạnh hỗ trợ trước đó cho workload HPC sử dụng Slurm. Hệ…
Cổng AI nội bộ với LiteLLM: quản trị key, chi phí và kiểm thử vận hành — Playbook cho đội hạ tầng triển khai LiteLLM AI Gateway: tập trung key nhà cung cấp, cấp virtual key theo workload, gắn chi phí với chủ sở hữu và kiểm thử các tình huống lỗi. Chi tiết hạn mức, log và…
OpenAI mở rộng hệ thống lưu trữ để phục vụ hơn 1 tỷ người dùng ChatGPT — OpenAI mô tả cách họ mở rộng Habitat, hệ thống lưu trữ trực tuyến của mình, để phục vụ ChatGPT với hơn 1 tỷ người dùng. Hệ thống sử dụng multi-tenancy đáng tin cậy, tức nhiều khách hàng hoặc tác vụ…
GitHub chuyển 99,99999% kho mã sang Azure để chuẩn bị cho hạ tầng phục vụ AI agent — GitHub cho biết họ đã chuyển bản sao của 99,99999% số kho mã trên nền tảng sang Microsoft Azure, trong nỗ lực xây dựng hạ tầng Git có thể đáp ứng khối lượng công việc ở quy mô “agent”. Những kho còn…
Kinh tế mới của AI doanh nghiệp: đo chi phí cho mỗi kết quả hữu ích — AI doanh nghiệp đang chuyển từ các thử nghiệm chatbot và copilot nhỏ lẻ thành một lớp hạ tầng dùng trên toàn doanh nghiệp. Vì vậy, câu hỏi quan trọng không còn chỉ là một token hay một giờ GPU có…
Headroom: nén context cục bộ trước khi gửi dữ liệu cho LLM — Headroom là lớp nén context cho AI agent, xử lý log, JSON, mã nguồn, file, RAG và lịch sử hội thoại trước khi chúng tới LLM. Dự án hỗ trợ thư viện, proxy, agent wrap và MCP, đồng thời lưu bản gốc…
Người dùng LocalLLaMA chia sẻ hệ thống AI nội bộ phục vụ 40 người bằng 4 GPU 6000 Blackwell MaxQ — Một thành viên cộng đồng LocalLLaMA cho biết công ty của họ đang phục vụ 40 người, trong đó có 10 lập trình viên, bằng một hệ thống AI tự vận hành tại chỗ. Hệ thống chạy trên máy chủ 4U với bốn GPU…
Nga chưa sẵn sàng cho cuộc chiến trung tâm dữ liệu mà nước này gây ra với Ukraine — Các blogger Nga cảnh báo nền kinh tế số tập trung quá mức của nước này đang rất dễ bị tổn thương, khi các trung tâm dữ liệu (những cơ sở lớn đặt máy chủ) đã trở thành một mặt trận trong cuộc chiến…
Lập lịch có tác động cho các cụm GPU — Bài blog có tiêu đề "Impactful scheduling for GPU clusters", dường như đề cập đến việc lập lịch tác vụ trên các cụm GPU. Do không có đoạn trích hay nội dung bài viết nên chưa thể xác định phương…
GitHub xây lại hạ tầng Git cho phát triển phần mềm quy mô agent — GitHub đang xây lại hạ tầng Git phía sau kho mã nguồn trong khi dịch vụ vẫn hoạt động bình thường, nhằm tạo nền tảng cho việc phát triển phần mềm ở quy mô của các AI agent. Bài viết do Brian, kỹ sư…
Kubernetes: bật swap trên SSD NVMe giúp mỗi node chạy được nhiều pod hơn tới 3 lần — Các kỹ sư Kubernetes cho biết khi bật swap (dùng ổ đĩa làm bộ nhớ tràn) trên node và dùng SSD NVMe tốc độ cao, một node có thể chạy nhiều hơn tới 3 lần số pod, thường với độ trễ tăng rất ít hoặc…
Xây dựng ứng dụng trên NVIDIA BlueField nhanh hơn với NVIDIA DOCA Agent Skills — NVIDIA đăng một bài blog giới thiệu DOCA Agent Skills, nhằm giúp các tác nhân AI làm việc với phần mềm hạ tầng chuyên biệt cho NVIDIA BlueField. Bài viết cho biết các tác nhân AI đa dụng không được…
Mở rộng khả năng truy cập lưu trữ cho AI với NVIDIA cuObject và NVIDIA SCADA Server SDK — NVIDIA đăng một bài blog giới thiệu cuObject và NVIDIA SCADA Server SDK, hướng đến các kỹ sư hạ tầng AI, nhà phát triển lưu trữ và nhà cung cấp dịch vụ đám mây. Các công cụ này nhằm giúp truy cập…
Kho mã nguồn mới: deepseek-ai/DeepEP-Ascend — Một kho mã nguồn mới có tên deepseek-ai/DeepEP-Ascend vừa được đăng tải. Đây được mô tả là thư viện truyền thông hiệu năng cao phục vụ huấn luyện và suy luận học máy trên các NPU Huawei Ascend.
Suy luận trong khu vực, mô hình mở và hạ tầng châu Âu mới cho AI có chủ quyền. — Mistral công bố gói giải pháp kết hợp hạ tầng suy luận trong khu vực, các mô hình mở và những cam kết dài hạn nhằm giúp châu Âu kiểm soát năng lực AI của mình. Công ty coi đây là lộ trình cho AI có…
NIST tham gia Sứ mệnh Genesis quốc gia nhằm thúc đẩy đổi mới sáng tạo trong AI — Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) đã tham gia Sứ mệnh Genesis quốc gia nhằm thúc đẩy đổi mới sáng tạo trong lĩnh vực AI. NIST sẽ thực hiện hai trong số các nỗ lực của mình thông…