这整个开源项目英文名字叫做AIInfra&AISystem,中文名字叫做 AI 基础设施与 AI 系统。所以很明显由两部分组成,一部分是 AIInfra,另外一部分是AISystem。
希望这个开源项目能够跟大家一起探讨和学习人工智能、深度学习的系统设计,而整个系统是围绕着 ZOMI 在工作当中所积累、梳理、构建 AI 大模型系统的基础软硬件栈,业界也要做 AI 基础设施啦。希望跟所有关注 AI 开源课程的好朋友一起探讨研究,共同促进学习讨论!
课程内容大纲#
课程主要包括AISystem AI系统和 AIInfra AI 基础设施 2 大部分:
第一部分是AI 系统,AI 系统围绕传统小模型时代的 AI 硬件&结构体系也就是芯片为主,基于 AI 芯片之上构建 AI 编译器和计算架构,例如 NV 的 CUDA 或者是华为 CANN。在往上层就是传统小模型时代的 AI 推理引擎和当前已经成为 AI 开发的必备工具 AI 框架。
第二部分AI 基础设施,大模型是基于 AI 集群的全栈软硬件性能优化,通过最小的每一块 AI 芯片组成的 AI 集群,编译器使能到上层的 AI 框架,训练过程需要分布式并行、集群通信等算法支持,而且在大模型领域最近持续演进如智能体等新技术。
课程设立目的#
本课程主要为本科生高年级、硕博研究生、AI 系统从业者设计,帮助大家:
完整了解 AI 基础设施的计算机系统架构,并通过实际问题和案例,来了解 AI 完整生命周期下的系统设计。
介绍前沿系统架构和 AI 相结合的研究工作,了解主流框架、平台和工具来了解 AI 系统。
先修课程: C++/Python,计算机体系结构,人工智能基础
课程目录内容#
备注#
文章和 PPT 开源在AIInfra Github和AISystem Github
在线文档开源在 AIInfra&AISystem
非常希望您也参与到这个开源项目中,B 站给 ZOMI 留言哦!
欢迎大家使用的过程中发现 bug 或者勘误直接提交代码 PR 到开源社区哦!
欢迎大家使用的过程中发现 bug 或者勘误直接提交 PR 到开源社区哦!
请大家尊重开源和 ZOMI 的努力,引用 PPT 的内容请规范转载标明出处哦!