AI System 开源课程完整指南五大模块、三层路径拆透 AI 全栈底层【免费下载链接】AISystemAISystem 主要是指AI系统包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem《AI System》AISystem是一门覆盖 AI 芯片、编译器、推理引擎与训练框架的开源课程。作者基于多年 AI 框架与推理引擎一线研发经验把算法、框架、编译、硬件四层系统讲成一套可查可练的知识体系配齐文字课程、视频、PPT 与源码示例适合想系统入门 AI 底层技术的学生与工程师。为什么需要一门 AI 系统课程算法教程遍地都是但模型怎么在芯片上跑起来却鲜有系统讲解。作者长期负责 AI 训练框架 MindSpore 与推理引擎 MindSpore Lite 的开发在与 C9 高校交流时发现学生和从业者对算法之外的那半截普遍缺乏认知梯度算完后面发生了什么市面上虽有 AI Systems 相关课程但多以论文导读为主缺乏从芯片到框架的完整串联。本课程因此按硬件、编译、推理、框架四层组织内容每个知识点都对应实际系统实现并逐步开源了视频、字幕与全部制作图片。五大模块分别讲什么模块目录核心内容AI 系统概述01Introduction/算法与系统结合的方式、全栈体系结构总览AI 芯片体系结构02Hardware/CPU/GPU/NPU 基础、英伟达 Tensor Core 与 NVLink、谷歌 TPU、寒武纪等国内外 AI 芯片AI 编译原理03Compiler/GCC/LLVM 传统编译器、AI 编译器前端与后端优化、PyTorch 2.0 编译技术栈AI 推理系统04Inference/推理引擎架构、MobileNet 等轻量网络、量化/蒸馏/剪枝、Kernel 与算子优化AI 框架核心技术05Framework/自动微分、计算图、数据并行与张量并行等分布式训练技术硬件篇从矩阵乘到比特位宽这是最硬核的部分。课程先从 CPU 讲起打开数据与时延两个本质问题再引出 GPU 的并行计算最后落到 NPU。矩阵乘是深度学习的计算核心围绕它课程会讲清 TF32、BF16 乃至 FP8 等比特位宽为何出现。GPU 部分覆盖英伟达近十年五代架构的演进并单独剖析为 AI 而生的 Tensor Core 与多卡互联的 NVLink。国内外芯片对照讲解国外是谷歌 TPU 的脉动阵列与特斯拉 DOJO 的近存计算国内覆盖昇腾、寒武纪、壁仞、燧原。编译与推理篇模型跑快的关键环节编译器部分从 GCC 和 LLVM 讲起建立中间表示的概念再过渡到 AI 编译器前端负责算子融合、内存优化后端负责 Kernel 生成与 AutoTuning最后用 PyTorch 2.0 的编译栈串起实际工具链。推理篇面向让模型真正上线这个目标训练好的模型要经过格式转换与计算图优化再经量化、蒸馏、剪枝等手段压缩体积最后在 Kernel 层做算子、内存与调度优化。推理引擎还需处理负载均衡、请求调度、多副本管理等服务化问题。框架篇自动微分与计算图任何 AI 框架都绕不开两个核心机制自动微分帮你免写求导代码计算图则是神经网络在计算机里的图纸贯穿优化与执行的全过程。框架篇还覆盖大模型时代最热的分布式并行——数据并行、张量并行、ZeRO 与流水线并行这些内容在 05Framework/ 下有独立章节。学习路径怎么安排入门先建立全栈概念从 01Introduction/ 的概述章节读起目标是记住一张分层图应用层之下依次是框架、编译、硬件。不急着抠细节先把每层负责什么说清楚。进阶芯片与编译器二选一深入想走硬件方向按 AI 计算体系→芯片基础→GPU→国内外 AI 芯片的顺序读 02Hardware/想走系统方向从 GCC/LLVM 一路读到 AI 编译器前后端优化03Compiler/。两条线在编程模型处汇合课程会解释 SIMT 硬件与 CUDA 编程的关系。实战推理部署与并行训练04Inference/ 提供从轻量网络到 Kernel 优化的完整链条可对照 03Compiler/06PyTorch/ 的 PyTorch 编译实战大模型训练则直接进 05Framework/04Parallel/ 的并行章节。仓库中各模块的code/目录还保留了可运行示例。配套资源与上手方式资源形态每章同时提供 Markdown 文字、PPT 源文件与 PDF 导出多数章节附视频字幕srt/、思维导图images/与制作过程图方便按需取用获取方式仓库已超 10G含全部高清制作图直接git clone https://gitcode.com/GitHub_Trending/ai/AISystem会很慢建议只按需拉取目标模块目录更新节奏文字课程逐节补充中大模型训练的新内容单独归档到 AIFoundation 项目社区与落地超过 50 位贡献者参与内容审核与字幕校对课程已被多所高校选为《人工智能系统架构》方向课程的配套教材从 01Introduction/ 的概述开始挑一个模块目录读下去配套视频与 PPT 随手可查——这套体系就是按这个节奏设计好的。【免费下载链接】AISystemAISystem 主要是指AI系统包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/10/28 1:47:16 · 阅读 1.2k AI System 开源课程完整指南：五大模块、三层路径，拆透 AI 全栈底层
AI System 开源课程完整指南五大模块、三层路径拆透 AI 全栈底层【免费下载链接】AISystemAISystem 主要是指AI系统包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem《AI System》AISystem是一门覆盖 AI 芯片、编译器、推理引擎与训练框架的开源课程。作者基于多年 AI 框架与推理引擎一线研发经验把算法、框架、编译、硬件四层系统讲成一套可查可练的知识体系配齐文字课程、视频、PPT 与源码示例适合想系统入门 AI 底层技术的学生与工程师。为什么需要一门 AI 系统课程算法教程遍地都是但模型怎么在芯片上跑起来却鲜有系统讲解。作者长期负责 AI 训练框架 MindSpore 与推理引擎 MindSpore Lite 的开发在与 C9 高校交流时发现学生和从业者对算法之外的那半截普遍缺乏认知梯度算完后面发生了什么市面上虽有 AI Systems 相关课程但多以论文导读为主缺乏从芯片到框架的完整串联。本课程因此按硬件、编译、推理、框架四层组织内容每个知识点都对应实际系统实现并逐步开源了视频、字幕与全部制作图片。五大模块分别讲什么模块目录核心内容AI 系统概述01Introduction/算法与系统结合的方式、全栈体系结构总览AI 芯片体系结构02Hardware/CPU/GPU/NPU 基础、英伟达 Tensor Core 与 NVLink、谷歌 TPU、寒武纪等国内外 AI 芯片AI 编译原理03Compiler/GCC/LLVM 传统编译器、AI 编译器前端与后端优化、PyTorch 2.0 编译技术栈AI 推理系统04Inference/推理引擎架构、MobileNet 等轻量网络、量化/蒸馏/剪枝、Kernel 与算子优化AI 框架核心技术05Framework/自动微分、计算图、数据并行与张量并行等分布式训练技术硬件篇从矩阵乘到比特位宽这是最硬核的部分。课程先从 CPU 讲起打开数据与时延两个本质问题再引出 GPU 的并行计算最后落到 NPU。矩阵乘是深度学习的计算核心围绕它课程会讲清 TF32、BF16 乃至 FP8 等比特位宽为何出现。GPU 部分覆盖英伟达近十年五代架构的演进并单独剖析为 AI 而生的 Tensor Core 与多卡互联的 NVLink。国内外芯片对照讲解国外是谷歌 TPU 的脉动阵列与特斯拉 DOJO 的近存计算国内覆盖昇腾、寒武纪、壁仞、燧原。编译与推理篇模型跑快的关键环节编译器部分从 GCC 和 LLVM 讲起建立中间表示的概念再过渡到 AI 编译器前端负责算子融合、内存优化后端负责 Kernel 生成与 AutoTuning最后用 PyTorch 2.0 的编译栈串起实际工具链。推理篇面向让模型真正上线这个目标训练好的模型要经过格式转换与计算图优化再经量化、蒸馏、剪枝等手段压缩体积最后在 Kernel 层做算子、内存与调度优化。推理引擎还需处理负载均衡、请求调度、多副本管理等服务化问题。框架篇自动微分与计算图任何 AI 框架都绕不开两个核心机制自动微分帮你免写求导代码计算图则是神经网络在计算机里的图纸贯穿优化与执行的全过程。框架篇还覆盖大模型时代最热的分布式并行——数据并行、张量并行、ZeRO 与流水线并行这些内容在 05Framework/ 下有独立章节。学习路径怎么安排入门先建立全栈概念从 01Introduction/ 的概述章节读起目标是记住一张分层图应用层之下依次是框架、编译、硬件。不急着抠细节先把每层负责什么说清楚。进阶芯片与编译器二选一深入想走硬件方向按 AI 计算体系→芯片基础→GPU→国内外 AI 芯片的顺序读 02Hardware/想走系统方向从 GCC/LLVM 一路读到 AI 编译器前后端优化03Compiler/。两条线在编程模型处汇合课程会解释 SIMT 硬件与 CUDA 编程的关系。实战推理部署与并行训练04Inference/ 提供从轻量网络到 Kernel 优化的完整链条可对照 03Compiler/06PyTorch/ 的 PyTorch 编译实战大模型训练则直接进 05Framework/04Parallel/ 的并行章节。仓库中各模块的code/目录还保留了可运行示例。配套资源与上手方式资源形态每章同时提供 Markdown 文字、PPT 源文件与 PDF 导出多数章节附视频字幕srt/、思维导图images/与制作过程图方便按需取用获取方式仓库已超 10G含全部高清制作图直接git clone https://gitcode.com/GitHub_Trending/ai/AISystem会很慢建议只按需拉取目标模块目录更新节奏文字课程逐节补充中大模型训练的新内容单独归档到 AIFoundation 项目社区与落地超过 50 位贡献者参与内容审核与字幕校对课程已被多所高校选为《人工智能系统架构》方向课程的配套教材从 01Introduction/ 的概述开始挑一个模块目录读下去配套视频与 PPT 随手可查——这套体系就是按这个节奏设计好的。【免费下载链接】AISystemAISystem 主要是指AI系统包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术项目地址: https://gitcode.com/GitHub_Trending/ai/AISystem创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考