万益资讯网

学习并行计算的同学可以看看斯坦福的这个公开课cs149gfxcourses.st

学习并行计算的同学可以看看斯坦福的这个公开课cs149gfxcourses.stanford.edu/cs149/fall25“从智能手机、多核 CPU、GPU、AI 加速器,到世界上最大的超级计算机和网站,并行处理在现代计算中无处不在。本课程的目标是让学生深入理解设计现代并行计算系统所涉及的基本原则和工程权衡,同时教授有效使用这些机器所必需的并行编程技术。

由于写出优秀的并行程序需要理解关键的机器性能特征,本课程将同时覆盖并行硬件和软件设计。”

课程一方面讲多核处理器、SIMD、多线程、GPU、CUDA、缓存一致性、同步、内存一致性等底层系统知识;另一方面也讲如何写出高效并行程序,包括任务调度、数据并行、通信与局部性优化、锁与无锁编程等。课程还明显加入了现代 AI 计算相关内容,例如 DNN 在 GPU 上的高效执行、硬件加速器、AI 应用在数据中心中的部署,以及 AI 驱动的性能优化。