タグ: #nvidia
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 37 件
3行の設定ファイルが GPU 4枚を1週間殺した — containerd ドロップイン統合の真実
ノードが GPU を広告しませんでした。設定ファイルには nvidia ランタイムがちゃんと書かれているのに、containerd config dump には存在しませんでした。犯人は1週間前に入れた3行のレジストリ設定で、理由は containerd の imports 統合がフィールド単位ではなくプラグイン単位の丸ごと置き換えだからでした。二度まちがえて診断した過程と、最後に答えをくれた実験をそのまま書きます。
2026-08-26 · 21 分で読めます #kubernetes#containerd#gpu#nvidia#troubleshootingGPU障害診断プレイブック — 層を決めてから降りる
KubernetesでGPUの問題を診断するとき最大の無駄は、順序なくあちこち突くことです。Podがスケジュールされない、Podは起動したのにGPUが見えない、ドライバとツールキットのバージョンがずれている、メモリが足りない、ノードからGPUが消える、これらは別の層の問題であり確認順序が異なります。本記事ではNVIDIA GPU Operatorの公式トラブルシューティングドキュメントとdcgm-exporterリポジトリを根拠に、五つ
2026-08-12 · 13 分で読めます #gpu#kubernetes#troubleshooting#nvidia#gpu-operatorNVIDIA GPU Operator入門 — もともと手で入れていた六つの部品
KubernetesでGPUを使うには、ドライバ、NVIDIA Container Toolkit、デバイスプラグイン、DCGM、GPU Feature Discovery、Node Feature Discoveryをノードごとに手で揃える必要がありました。NVIDIA GPU Operatorはそれらを一つのオペレータにまとめ、ClusterPolicy一つで望ましい状態を管理します。各コンポーネントが実際に何をするのか、Helmチ
2026-08-12 · 10 分で読めます #gpu#kubernetes#gpu-operator#nvidia#dcgmMIGとtime-slicing — GPU一枚を複数で使う二つの方法
GPU一枚に複数のワークロードを載せる方法は大きく二つあります。時間を分けるtime-slicingとハードウェアを分けるMIGですが、名前が似て見えるのとは裏腹に隔離の水準がまったく異なります。本記事ではNVIDIA GPU Operatorの公式ドキュメントを基準に、両方式の設定ファイル構造とノードラベル、広告されるリソース名、対応ハードウェア条件を整理し、time-slicingのレプリカ間にメモリ隔離も障害隔離も無いという事実が
2026-08-12 · 11 分で読めます #gpu#kubernetes#mig#time-slicing#nvidiaDCGM Exporter — GPU利用率はあなたが思っているものではない
DCGM ExporterはGPUテレメトリをPrometheus形式で公開する標準経路ですが、最も多くダッシュボードに載るGPU利用率系のメトリクスは、人々が期待するものを測っていません。本記事ではdcgm-exporterリポジトリの既定カウンタCSV、DCGM公式ドキュメント、NVML APIドキュメントを直接読み、既定で有効なメトリクス一覧、利用率メトリクスが実際に何を意味するのか、併せて見るべきプロファイリングメトリクスは何か
2026-08-12 · 16 分で読めます #gpu#kubernetes#dcgm#prometheus#observabilityデバイスプラグインとGPUスケジューリング — nvidia.com/gpuはどこから来るのか
KubernetesはGPUを知りません。ノードにGPUをリソースとして広告させるのはkubeletに登録されたデバイスプラグインであり、その結果生まれる名前が拡張リソースnvidia.com/gpuです。本記事では、デバイスプラグインが実装すべきgRPCインターフェースと登録ソケットのパス、拡張リソースでrequestsとlimitsが必ず一致しなければならない理由、GPUをCPUのようにミリコアへ分割できない根本的な理由、そしてGP
2026-08-12 · 10 分で読めます #gpu#kubernetes#device-plugin#scheduling#nvidiaAMD と NVIDIA、何が違うのか — ハードウェアよりスタックが問題である理由
AMD GPU と NVIDIA GPU の違いを、ハードウェア構造・ソフトウェアスタック・移植経路・エコシステムの成熟度という 4 つの層に分けて、感情抜きに整理します。SM と CU、Tensor Core と Matrix Core の対応関係から、ワープ 32 とウェーブフロント 64 が実際のコードにどんなバグを生むのかまで具体的に扱います。HIPIFY が自動で移植してくれる部分と必ず手で直すべき部分を切り分け、cuBLAS
2026-08-02 · 27 分で読めます #amd#rocm#hip#nvidia#cudaRust 1.97 が Volta 以前の GPU を切り捨てた — nvptx64 ベースライン引き上げの内幕
Rust 1.97(2026年7月9日)は、nvptx64-nvidia-cuda ターゲットの最小要件を PTX ISA 7.0(CUDA 11 ドライバー以上)と SM 7.0(Volta 以上)に引き上げました。Maxwell・Pascal 世代の GPU と CUDA 10 以下のドライバーは、もはや対象外です。本稿では、実際に変わった数字、コンパイラチームが根拠として挙げた三つの具体的な欠陥(デバッグシンボル・アトミック順序・
2026-07-16 · 21 分で読めます #rust#cuda#gpu#compiler#nvidiaKubeVirt GPU パススルー VM はなぜ112日間スケジュールされなかったのか — 実際のクラスタ剖検
Rust オペレーターが「GPU ノード4台すべて NotReady」という診断を下した後、その死の原因を実際の8ノードクラスタ(GPU Operator v25.3.0、KubeVirt v1.7.0)で最後まで追跡しました。gpu-fedora と rhel9-gpu-vm が112日間 ErrorUnschedulable で止まっていた本当の理由は、華やかな GPU 設定ではなく kubelet の1行のエラー — 「runni
2026-07-11 · 8 分で読めます #kubevirt#gpu#kubernetes#nvidia#devopsGPU Operator × KubeVirt 総まとめ — コンポーネント・設定・バージョン、部分MIGと手動MIGまで
Kubernetes GPUインフラの二本柱を1ページに総整理します。GPU Operatorのオペランド構成、ClusterPolicy設定、バージョン体系とあわせて、ノードの一部のGPUだけにMIGを適用するカスタム設定と、nvidia-smiでMIGを手動で作成・削除する方法を扱います。さらに、KubernetesでVMを動かすKubeVirtの4大コンポーネント(virt-operator・controller・handler・
2026-07-09 · 12 分で読めます #kubernetes#gpu#kubevirt#mig#nvidiaNVIDIA GPU Operator 完全攻略 — インストール・デプロイからMIG分割設定まで
KubernetesでGPUノードを手作業でセットアップする時代は終わりました。NVIDIA GPU Operatorがドライバーからデバイスプラグイン、モニタリングまでをオペレーターパターンで管理する仕組みと、Helmでのインストール・検証方法、そしてA100/H100一枚をハードウェア分離された複数のGPUに分割して使うMIGの概念・single/mixed戦略・ノードラベルによる設定・カスタムプロファイル・運用上の注意点まで、実際
2026-07-07 · 13 分で読めます #kubernetes#gpu#nvidia#mig#devopsCUDA アーキテクチャを図解する — スレッドからテンソルコアまで
CUDA の実行モデルと GPU ハードウェア構造を図で一望できるようにまとめます。グリッド・ブロック・ワープ・スレッドの階層、SM の内部構造、メモリ階層、ワープスケジューリングと占有率、テンソルコア、ストリームまで、図とカーネル例で解説します。
2026-06-27 · 27 分で読めます #cuda#gpu#tensor-core#warp#memory-hierarchy2026年6月 AIラリーのジェットコースター — 半導体の急落と反発を分析する
2026年6月初旬に起きた半導体銘柄の急落と素早い反発を整理します。ボラティリティの原因、強気と弱気の視点、そしてボラティリティに対応するための原則をバランスよく見ていきます。本記事は情報提供を目的とするものであり、投資勧誘ではありません。
2026-06-18 · 12 分で読めます #finance#ai-rally#semiconductor#volatility#nvidiaAIバブルか革命か — 2026年の論争を整理する
2026年6月現在のAI株ラリーをめぐるバブル論争をバランスよく整理します。バリュエーション・capex・収益化の遅れ・循環取引といった懸念と、実需要や生産性向上という反論を、ドットコムバブルと比較しながらデータ・シナリオ・チェックポイントで見ていきます。
2026-06-18 · 47 分で読めます #ai#investing#bubble#nvidia#valuationカスタムASIC対GPU — チップ戦争を投資の視点で読む
クラウド事業者の自社チップ(カスタムASIC)の台頭と推論市場の変化を投資の視点で分析します。Nvidiaの堀とそれへの挑戦、バリューチェーンの受益マップ、そして主要なリスクをバランスよく整理します。
2026-06-18 · 38 分で読めます #asic#gpu#semiconductor#investing#nvidia2026年6月 AIラリーのジェットコースター — 半導体急落と反発の分析
2026年6月初めに半導体株が急落し、その後すばやく反発した過程をデータで整理します。変動性の原因をバリュエーション、業績、金利の観点から検討し、強気と弱気の両方の見方、そして変動性への対応原則をバランスよく扱います。
2026-06-18 · 21 分で読めます #finance#ai-rally#semiconductors#volatility#nvidiaエヌビディア5兆ドル — AIインフラサイクルはどこまで来たのか
エヌビディアが時価総額5兆ドルを史上初めて突破しました。本稿はAIインフラの設備投資サイクルが今どこまで来ているのかをデータで確認し、強気論と弱気論、サプライチェーンのボトルネックとリスクをバランスよく整理します。
2026-06-18 · 16 分で読めます #finance#nvidia#ai-infrastructure#capex#semiconductorsAI半導体のサプライチェーンと市場 — 誰がチップを作るのか (2026)
AIチップ一枚ができるまでのバリューチェーンを、設計、EDA、IP、ファウンドリ、パッケージング、HBM、装置に分けて辿ります。TSMCとSamsung、ASMLのEUV、CoWoSのボトルネック、地政学と輸出規制、クラウド自社チップの台頭、そして2026年の投資サイクル論争まで、誰がチップを作るのかを整理します。
2026-06-16 · 36 分で読めます #gpu-cuda#ai-hardware#semiconductor#supply-chain#tsmcロボティクス開発 ROS 2 2026 — Nav2 / MoveIt / Gazebo / Isaac Sim / MuJoCo / LeRobot / GR00T 徹底ガイド
2026年のロボティクス開発は、もはやROS 1とGazebo Classicの世界ではない。ROS 2 Jazzy / Kilted / Lyrical が年次LTSのリズムを定着させ、Nav2とMoveIt 2が事実上の標準となり、Gazebo HarmonicがClassicの後を継いだ。NVIDIA Isaac Sim 5.0とGR00Tが、ヒューマノイドのデータ不足をシミュレーションで解き、MuJoCoはDeepMind買収後
2026-05-15 · 39 分で読めます #robotics#ros2#nav2#moveit#gazeboCUDA GPUプログラミングモデル Deep Dive — SIMT、メモリ階層、Tensor Core、カーネル最適化完全ガイド (2025)
ChatGPT、Stable Diffusion、Soraを動かすエンジン、NVIDIA GPUとCUDA。本稿ではCUDAプログラミングモデルをゼロから解剖する。GPUハードウェアアーキテクチャ (SM、Warp、CUDA Core)、SIMT vs SIMD、スレッド階層 (Grid/Block/Thread)、メモリ階層 (Global/Shared/Constant/Register)、なぜMemory Coalescingが最
2026-04-15 · 21 分で読めます #cuda#gpu#nvidia#ai#machine-learning