タグ: #performance
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 70 件
Cerebras Ultrafastとエージェントループのボトルネック — 毎秒750トークンでも減らない時間
CerebrasとOpenAIが毎秒最大750トークンを出す推論ティアを公開しました。発表文が挙げる原理は演算量ではなくデータ移動であり、重みをウェハ上のSRAMに置く方式です。なぜバッチ1のデコードがメモリ帯域に縛られるのか、公開された倍率が何を測り何を測っていないのか、そしてトークン生成が速くなっても減らない時間が自分のエージェントループで何パーセントかを計算する方法を整理します。
2026-08-14 · 13 分で読めます #llm#inference#hardware#latency#performanceいま注目のオープンソース (2) ビルド・エディタ・CLI・ターミナル
パッケージのインストール、リント、バンドルのように一日に何十回も繰り返す作業がネイティブ言語で書き直され、待ち時間が秒単位からミリ秒単位まで下がりました。ビルドツール、エディタ、ターミナル、CLIの領域で実際に定着したオープンソース12個を、スター数の順位ではなく役割ごとにまとめて紹介します。何を置き換えるのか、成熟度はどの程度か、いつ使ってはいけないのかも併せて書き、リポジトリのパスとライセンス、スター数、最新のプッシュは2026年8
2026-08-12 · 9 分で読めます #open-source#developer-tools#cli#rust#performance命令ひとつが62秒かかりうる — 遅延は命令ではなく経路の属性だ
Assembly Hall of Shameは、単一命令をもっとも遅くする競争の順位表です。最下位のnopが1サイクル、1位のfxrstor64が1,980億サイクルで62秒です。この順位表を下から上へ読むと、現代のCPUが止まりうるあらゆる地点の一覧になり、マイクロコード補助の経路、キャッシュラインをまたぐアトミック演算、TLBの無効化、エントロピーの枯渇、そしてダイの外のPCIeファブリックまで三つの区間に分かれます。この表が実際に
2026-08-09 · 18 分で読めます #os-concepts#performance#cpu#microarchitecture#benchmark300倍はPostgreSQLをチューニングして出た数字ではない — 火山モデルとベクトル化実行
pgrust 0.2のリリースとともに公開された300倍という数字を正確に解剖します。この数値はPostgreSQLの設定を変えて出たものではなく、Rustで新しく実装したデータベースをClickBenchで測定した結果であり、著者本人が別に提示したSUMクエリの実験は火山モデルの1.3秒からSIMDの135ミリ秒まで9.6倍を示します。バッチ、演算子融合、SIMDがそれぞれ何を取り除くのかをコードのレベルで追い、著者が自ら明かした限界
2026-08-09 · 15 分で読めます #postgresql#database#performance#query-engine#simdGPUカーネルを自分の手で直すということ — 転置カーネルを5倍速くするまで
GPUカーネルを直接修正するとは実際どういうことか、スレッド・ワープ・メモリ階層から押さえます。占有率がなぜ目標ではなく症状なのか、そしてほとんどのカーネルが演算ではなくメモリ帯域幅に律速されているという事実をルーフラインの観点から説明します。行列転置カーネルひとつをnaiveからコアレッシング、シェアードメモリタイリング、バンクコンフリクト除去まで四段階で直しながら、各段階の有効帯域幅を実際に測るハーネスも提供します。最後にNsigh
2026-08-02 · 31 分で読めます #cuda#gpu-kernel#nsight-compute#memory-bandwidth#performance平均は何も語らない — レイテンシを分布でデバッグする方法
2026年7月27日に公開されHacker Newsのトップに立ったFarid Zakariaの記事「The mean means nothing」は、キャッシュ層をロールアウトした後、平均レイテンシが112msから122msへ9%悪化した事例を扱います。同じデータでp50は99msから54msへ46%改善し、p99は309msから678msへ119%悪化しました。一つのデータが正反対の結論を同時に支持する理由は、分布が単峰から二峰に分
2026-07-31 · 25 分で読めます #observability#latency#performance#histogram#percentileJava の Value Objects(JEP 401)が変えるもの — アイデンティティを手放して得るものと失うもの
2026年7月31日00時45分UTC、JEP 401 Value Objectsの実装がOpenJDKのメインラインにマージされました。JEP 539(Strict Field Initialization)とひとつのコミットにまとめられ、1,888ファイルに約20万8千行が追加されました。Project Valhallaが2014年に始まってから12年目のことです。この記事はアイデンティティを持たないオブジェクトとは正確に何か、性能
2026-07-31 · 27 分で読めます #java#jvm#valhalla#jep-401#performance分散トレーシングが実際に答える問い — スパン、サンプリング、そしてどこで時間が消えたのか
「遅い」という報告は来るのに、十個のサービスのどれが犯人か分からないときに必要なのがトレーシングです。トレースとスパン、コンテキスト伝播の構造から始めて、ログとメトリクスでは原理的に答えられない問いが何かを整理します。自動計装がカバーする範囲と手動スパンを必ず入れるべき地点、ヘッドサンプリングがなぜ必要なトレースを優先的に捨てるのか、テールサンプリングがそれをどう解いて代わりに何を支払うのかを、コレクターの設定とともに扱います。メッセー
2026-07-26 · 24 分で読めます #observability#distributed-tracing#opentelemetry#tail-sampling#performanceCore Web Vitalsを実際に直す — LCP・INP・CLSを数字で下げる順序
Lighthouseで98点を取っているのにSearch Consoleが赤いままなのは、二つのツールが別のものを測っているからです。LCPとINP、CLSがそれぞれ何を測るのか、しきい値がなぜ75パーセンタイル基準なのかから整理します。LCPをTTFBとリソース発見の遅延、ロード時間、レンダー遅延の四つに割ってどこを直すか決める方法、INPがFIDを置き換えた理由とロングタスクを実際に譲るコード、CLSの三大要因とそれぞれの正確な解法
2026-07-26 · 24 分で読めます #performance#core-web-vitals#lcp#inp#clsHTTP Keep-Alive とコネクション再利用 — 間欠的な 502 を生むタイムアウトの競合状態
バックエンドのログには何のエラーもないのに、ロードバランサーでだけ間欠的に 502 が混ざるなら、たいていはコネクション再利用の競合状態です。サーバーがアイドルコネクションを閉じるまさにその瞬間にクライアントがそのコネクションへリクエストを書くと、FIN とリクエストがすれ違います。なぜバックエンドの keepalive タイムアウトをロードバランサーのアイドルタイムアウトより長く取るべきなのか、curl -w で namelookup
2026-07-26 · 25 分で読めます #network#http#performance#load-balancer#tcpロードアベレージが CPU 使用率ではない理由 — load average 24 なのに CPU は 30% のとき
uptime の load average は 24 を超えているのに top の CPU は 30% にも届かない、という状況を扱います。Linux のロードアベレージは他の Unix と違い、実行待ち (R) のタスクだけでなく D 状態 (uninterruptible sleep) のタスクまで数えるため、ディスクや NFS の待ちだけでも数値が跳ね上がります。3 つの数字が 5 秒サンプリングと指数移動平均でどのように作られる
2026-07-26 · 21 分で読めます #linux#performance#load-average#psi#troubleshootinggitが遅くなったとき — 大規模リポジトリを速くする構造的な処方
リポジトリが遅くなる理由は1つではありません。コミット履歴が長いこと、ファイル数が多いこと、大きなバイナリが入っていることは別々の問題であり、処方も違います。この記事はまず原因を切り分ける測定命令から始め、浅いクローンと部分クローンがなぜ代替品ではなく用途の違う道具なのか、sparse-checkoutとファイル監視がstatusをどう縮めるのか、commit-graphがログとマージ基準点の計算をなぜあれほど大きく変えるのかを説明しま
2026-07-26 · 20 分で読めます #git#performance#monorepo#git-lfs#version-controlコネクションプールを大きくすると損をする理由 — 待ち行列をどこに立てるか
コネクションプールを大きくしたらかえって遅くなる現象の原理を整理します。PostgreSQLのプロセスモデルでコネクションがなぜ高価なのか、ディスクとCPUの並列性が有限である以上、待ち行列をデータベースの中ではなくプールに立てるほうが良い理由、よく引用されるコア数ベースの公式の根拠と限界を扱います。マイクロサービスでインスタンス数とプールサイズの積が最大コネクション数を超える典型的な事故、PgBouncerの三つのモードとトランザクシ
2026-07-26 · 25 分で読めます #database#postgresql#connection-pool#pgbouncer#performanceEXPLAIN ANALYZEの読み方 — 実行計画から本当のボトルネックを見つける順序
EXPLAIN ANALYZEの出力を最初から最後まで読む方法を整理します。ノードをどの順序で読むべきか、costがなぜ時間の単位ではないのか、予想行数と実際の行数の乖離が何を教えてくれるのか、loopsが掛け算される罠をどう避けるかを、実際の出力とともに説明します。Nested Loop、Hash Join、Merge Joinがそれぞれ選ばれる条件と、BUFFERSでキャッシュヒットを判断する方法も扱います。Seq Scanが常に悪
2026-07-26 · 22 分で読めます #database#postgresql#explain#query-optimization#performanceHTTPキャッシングを正しく使う — Cache-Control、ETag、stale-while-revalidateの正確な意味
no-cacheはキャッシュするなという意味ではなく、キャッシュはするが使う前に検証しろという意味です。この一語の違いを出発点に、Cache-Control指示子の正確な意味、条件付きリクエストと304が実際に節約するものと節約しないもの、ハッシュ入りファイル名とimmutableがフロントエンドのデプロイで標準になった理由を整理しました。ブラウザとCDNとリバースプロキシという三つの層がそれぞれ別の方法でしか無効化できないという事実、
2026-07-26 · 20 分で読めます #web#http-caching#cache-control#cdn#performance大事な場面に限って崩れる理由 — チョーキングの心理学とプレッシャー訓練法
練習では完璧なのに本番で崩れてしまう現象、チョーキング（choking）は才能や努力の問題ではなく、注意システムの誤作動です。1993年ウィンブルドン決勝のヤナ・ノボトナの事例からチョーキングの実体を見て、明示的モニタリング理論と注意散漫理論という2つのメカニズム、そしてスポーツ心理学が検証してきた解毒剤（プレッシャー接種訓練、外的焦点、プロセスゴール）を、開発者のライブデモ、コーディング面接、障害対応の場面に適用する方法を整理します。
2026-07-20 · 13 分で読めます #mindset#sports-psychology#pressure#performance#confidenceContent-Encoding: zstd — Safari 26.3で3大エンジンが出そろった、そして次はRFC 9842の圧縮辞書
2026年2月、Safari 26.3がContent-Encoding: zstdに対応したことで、Chrome 123(2024年3月)・Firefox 126(2024年5月)に続き、3大ブラウザエンジンすべてがzstd応答を受け取れるようになりました。ネゴシエーションベースなので導入リスクは低い一方、サーバー側はまだ非対称です — nginxとApache httpdには公式のzstdモジュールがなく、現実的な経路はCDN(Cl
2026-07-17 · 20 分で読めます #performance#web#network#browserClickHouse の Lazy Materialization — LIMIT 10 の小技が FINAL と JOIN まで育った経緯
ClickHouseのlazy materializationは、ソートとLIMITが終わるまでSELECT列を読まない最適化で、25.4(2025年4月)にLIMIT 10以下でのみ有効になる保守的な機能として登場しました。その後、行単位のlookupをjoin方式の一括取得に作り直した25.12でゲートが10,000まで引き上げられ、2026年には26.2のUNION ALL全ブランチ、26.4のReplacingMergeTree
2026-07-17 · 24 分で読めます #database#clickhouse#olap#query-optimization#performanceTriton Gluon — コンパイラが隠していたレイアウトを手で書く言語
Gluonは、Tritonと同じコンパイラスタックの上に載る下位レベルGPU言語で、Tritonが隠していたレイアウト・共有メモリ・ワープ特殊化をカーネル作成者にそのまま渡します。存在理由は明快です — Tritonコンパイラがうまくコードを出せない場面に出会ったとき、今まで打つ手がなかったからです。本稿ではGluonが何を露出するか、BlockedLayoutが実際に何を意味するか、そして上流のチュートリアルがGB200で記録した測定
2026-07-16 · 32 分で読めます #gpu#triton#kernel#compiler#performanceReact Compiler が Rust に移植された — マージされたもの、まだのもの、そしてその「10倍」という数字
2026年6月9日、React CompilerをRustに移植したPR 36173がfacebook/react mainにマージされました。461ファイル、12万行を超えるコードが入り、「Babelプラグインとして3倍、変換ロジック自体は約10倍速い」という数字がすぐに生態系を駆け巡り始めました。ところがPR本文で著者のJoseph Savona本人は、その数字について「性能数値はAIが出したもので、ベンチマーク設定の検証にはあまり
2026-07-16 · 32 分で読めます #react#rust#compiler#performance#frontend