星标数：30183★ Fork数：3743 《cs249r_book：开放教材：机器学习系统工程四卷本》

《Machine Learning Systems》是一套开放教材系列，围绕机器学习系统如何被构建、以及为何要这样构建而展开，并配有用于构建、度量与教学这些系统的配套工具。该系列覆盖 Foundations、Scaling、Agentic AI 与 Physical AI 四个方向，共四卷，由 Harvard CS249r 课程发展而来，官网为 https://mlsysbook.ai。

作者指出：世界正匆忙地构建 AI 系统，却尚未真正将其工程化。AI 工程是一门构建高效、可靠、能在真实世界中安全运行的智能系统的学科，应与软件工程、计算机工程并列。这套课程像讲授计算机体系结构一样，从第一性原理出发、用学生可以自己重新计算的数字来教学——这些数字来自约束：内存带宽、网络延迟、能耗与失败率，既约束 256 KB 内存的微控制器，也约束数据中心里的加速器，因此贯穿全书的核心思想是constraints drive architecture（约束驱动架构）。

这项工作始于课堂：HarvardX TinyML 课程先后触达超过 100,000 名学习者；2023 年，哈佛 CS249r 的学生以每组一个主题的方式共同撰写了本课程的第一版课堂笔记并发布在 GitHub 上，此后在不断壮大的贡献者社区帮助下持续修订，目前全球多所高校的教师已据此授课，目标是到 2030 年触达一百万名学习者。

主要特点

• 四卷本教材体系：Vol I（已由 MIT Press 计划出版纸书）、Vol II（预览）、Vol III、Vol IV（开发中），另附 Taxonomy 分类目录。
• 配套动手工具：TinyTorch 让学生亲手构建机器学习系统的底层机制，把书中的心智模型具体化。
• 实验与硬件：Labs 实验、Kits 硬件套件，以及 MLSys·im 模拟器，展示模型在真实设备与更大规模上何时会失效。
• 教学支持：提供 Instructors 教师资源、Slides 幻灯片与 StaffML 等面向教学的材料。
• 每章把读者已知的机器学习概念连接到使其落地的系统：训练如何跨加速器集群扩展、低精度算术如何映射到芯片、KV cache 为何主导推理内存、服务系统如何批处理请求以权衡延迟与吞吐、数据流水线与漂移如何影响结果等。
• 多语言与开放协作：README 提供 English、中文、日本語、한국어 四种语言版本（翻译对应较早版本），并采用按组件（per component）的许可方式，引用格式为 IEEE 2024。

📊 本项目 GitHub 星标数：30183。最后更新：2026-11-12，发布：2026-11-06。项目地址：https://github.com/harvard-edge/cs249r_book