タグ: #routing
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 4 件
MoE ルーティング — 専門家はどう選ばれるか
専門家混合層の config フィールドを実際のモデルで読みます。Mixtral の 8 個中 2 個、Qwen3 の 128 個中 8 個、DeepSeek-V3 の 256 個のルーティング専門家と共有専門家、Kimi K2 の希薄度 48 を比較し、活性パラメータと全パラメータがなぜ異なるコストを生むのか、ロードバランシング損失と補助損失なしのバイアス方式が何を引き換えにするのかを整理します。
2026-08-12 · 11 分で読めます #ai-papers#model-internals#mixture-of-experts#moe#routingROVが防いだこと、ASPAがまだ防げないこと — 2026年6月テレグラム・ハイジャックとルーティングセキュリティの次の層
2026年6月16日、インドのRcom(AS18101)がテレグラムのプレフィックスをハイジャックし、Kentikの計測によればそのハイジャック経路を見た自社BGPソースはわずか1.6%だけでした。RPKI ROVが実際に機能した事例です。しかしこれは、originを偽装しない不手際なハイジャックだったからであり、ROVの構造的な天井は、originが正当なままルートが誤った方向へ流れるルートリークをまったく見抜けない点にあります。その
2026-07-16 · 41 分で読めます #network#bgp#rpki#routing#securityCloudflare AI Gateway 実践ガイド: AI トラフィックを観測し制御する最短ルート
Cloudflare AI Gateway の観測、キャッシュ、再試行、レート制限、モデル fallback、Dynamic Routing を 2026 年 4 月 12 日時点で実務目線で整理する。
2026-04-12 · 9 分で読めます #ai-platform#cloudflare#ai-gateway#observability#cachingLLMルーティング・カスケード戦略：マルチモデルオーケストレーションによるコスト最適化
LLMルーティングとカスケード戦略でコストを最適化する方法を扱います。クエリ複雑度ベースのルーティング、モデルカスケード、セマンティックルーター、FrugalGPTのアプローチからプロダクションのマルチモデルオーケストレーションアーキテクチャまで実装します。
2026-03-08 · 37 分で読めます #llm#routing#cascade#model-orchestration#cost-optimization