https://mayulu.co/tags/gpu%E6%9E%B6%E6%9E%84/Recent content in GPU架构 on mayulu的AI笔记HugozhcnCopyright © 2025–2026 mayulu All Rights ReservedFri, 02 Oct 2026 09:30:00 +0800https://mayulu.co/posts/cuda-series-02-compute-architecture/Fri, 02 Oct 2026 09:30:00 +0800https://mayulu.co/posts/cuda-series-02-compute-architecture/本文是 CUDA 编程读书笔记系列第二篇，向下钻一层看 GPU 的硬件组织与调度机制。文章以 H100 的 132 个 SM、16896 个流处理器为例，讲清 SM 与 GPC 的层级关系，解释线程块被任意分派所带来的透明可伸缩性，以及为什么跨块同步是执行模型里的禁忌。文章详细拆解 warp 的 SIMD 执行与控制发散代价、零开销线程切换如何隐藏延迟，并用一个 2048 线程/SM、32 块/SM、64K 寄存器、96KB 共享内存的算例演示占用率四个上限如何取最小。最后指出占用率是延迟隐藏预算而非分数，为后续低占用率高性能 kernel 埋下伏笔。