深入理解 AI Infra：量化分析与系统设计

AI Infra 的资料有个通病：要么讲芯片讲了半天没有一笔账，要么讲框架全是 API 用法。这本书反过来——每一层都从物理约束出发做数量级估算：数据放不放得下、一次前向要等多久、加一张卡能换来多少收益，推导过程完整可复算，算完再去看真实系统为什么长这样。

作者李博杰（中国科学技术大学博士、华为「天才少年」出身）长期做 AI 系统与 Agent 方向，这本书是他 AI 系列开源书的第二本，与《深入理解 AI Agent》互为上下游：那本讲模型之上的应用，这本讲模型之下的系统。

12 章 + 前言沿「模型的执行过程」展开：先认识模型架构与推理/训练两类负载，然后一路向下——加速器架构、算子与运行时，再横向铺开——超节点、数据中心网络，最后回到系统设计：推理优化、分布式推理、训练系统、资源调度与端边云协同。每章都有围绕真实硬件（H100、昇腾、Mac Studio 集群等）的案例。

原书以 Apache-2.0 协议开源，本站按原许可转载，正文未改动，仓库链接见页脚。