タグ: #memory-bandwidth
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 1 件
GPUカーネルを自分の手で直すということ — 転置カーネルを5倍速くするまで
GPUカーネルを直接修正するとは実際どういうことか、スレッド・ワープ・メモリ階層から押さえます。占有率がなぜ目標ではなく症状なのか、そしてほとんどのカーネルが演算ではなくメモリ帯域幅に律速されているという事実をルーフラインの観点から説明します。行列転置カーネルひとつをnaiveからコアレッシング、シェアードメモリタイリング、バンクコンフリクト除去まで四段階で直しながら、各段階の有効帯域幅を実際に測るハーネスも提供します。最後にNsigh
2026-08-02 · 31 分で読めます #cuda#gpu-kernel#nsight-compute#memory-bandwidth#performance