https://mayulu.co/tags/%E9%AB%98%E6%80%A7%E8%83%BD%E8%AE%A1%E7%AE%97/Recent content in 高性能计算 on mayulu的AI笔记HugozhcnCopyright © 2025–2026 mayulu All Rights ReservedFri, 02 Oct 2026 09:30:00 +0800https://mayulu.co/posts/cuda-series-02-compute-architecture/Fri, 02 Oct 2026 09:30:00 +0800https://mayulu.co/posts/cuda-series-02-compute-architecture/本文是 CUDA 编程读书笔记系列第二篇，向下钻一层看 GPU 的硬件组织与调度机制。文章以 H100 的 132 个 SM、16896 个流处理器为例，讲清 SM 与 GPC 的层级关系，解释线程块被任意分派所带来的透明可伸缩性，以及为什么跨块同步是执行模型里的禁忌。文章详细拆解 warp 的 SIMD 执行与控制发散代价、零开销线程切换如何隐藏延迟，并用一个 2048 线程/SM、32 块/SM、64K 寄存器、96KB 共享内存的算例演示占用率四个上限如何取最小。最后指出占用率是延迟隐藏预算而非分数，为后续低占用率高性能 kernel 埋下伏笔。https://mayulu.co/posts/cuda-series-01-grid-and-data/Thu, 01 Oct 2026 09:00:00 +0800https://mayulu.co/posts/cuda-series-01-grid-and-data/本文是 CUDA 编程读书笔记系列第一篇，围绕线程的两级组织（网格与线程块）、dim3 执行配置、线程到数据的坐标映射展开。文章用两行索引代码讲清 blockIdx/threadIdx/blockDim 的配合关系，用 62×76 图像的具体算例推导行主序线性化 row*Width+col，并以彩色转灰度、图像模糊、矩阵乘法三个由浅入深的例子说明网格形状的选法。文章还解释了为什么边界检查 if (row < Width) 不是可选项，并预告朴素矩阵乘法 2N³ 次全局读取的性能病灶，适合刚接触 CUDA、想建立线程与数据对应直觉的读者。