NVIDIA Blog· Amr Elmeleegy·· 3 天前AI 评分30
NVIDIA 阐述全栈协同设计如何解决 AI 内存挑战
More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
AI 导读
NVIDIA 通过全栈协同设计,整合 GPU、CPU、网络和软件,提高每字节内存的利用效率,缓解大型模型和 Agentic 应用带来的 HBM 压力。NVIDIA Blackwell Ultra 到 Vera Rubin 平台,HBM 容量/GPU 提升约 3%,在 SemiAnalysis AgentX 上 Agentic throughput/美元提升高达 30x。
来源:NVIDIA Blog · blogs.nvidia.com