タグ: #load-balancing
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 9 件
MoE ルーティング — 専門家はどう選ばれるか
専門家混合層の config フィールドを実際のモデルで読みます。Mixtral の 8 個中 2 個、Qwen3 の 128 個中 8 個、DeepSeek-V3 の 256 個のルーティング専門家と共有専門家、Kimi K2 の希薄度 48 を比較し、活性パラメータと全パラメータがなぜ異なるコストを生むのか、ロードバランシング損失と補助損失なしのバイアス方式が何を引き換えにするのかを整理します。
2026-08-12 · 11 分で読めます #ai-papers#model-internals#mixture-of-experts#moe#routingHAProxy Ingress Controller — 実績あるLBがKubernetesへ進出
20年以上にわたり実績を積んだロードバランサーHAProxyが、Kubernetesのingressコントローラーとして入ってくる仕組みを整理します。公式のhaproxytechプロジェクトとコミュニティのjcmoraisjrプロジェクトの違い、アーキテクチャと動的reload、TCP/TLS passthrough、レートリミットとACL、Helmによるデプロイ実習、そしてGateway APIへの移行までを実務的な深さで解説します。
2026-06-14 · 30 分で読めます #haproxy#ingress#kubernetes#load-balancing#networkingConsistent Hashing 完全ガイド 2025: Virtual Nodes、Jump Hash、Rendezvous、分散システムの中核ビルディングブロック
DynamoDB、Cassandra、Memcached がノード追加/削除時にデータ移動を最小化する秘密、Consistent Hashing を完全解説。基本アイデアから virtual nodes(vnode)、Jump Hash、Rendezvous Hashing、実装までを 700 行で深く掘り下げる。
2026-04-15 · 24 分で読めます #consistent-hashing#distributed-systems#sharding#virtual-nodes#jump-hashAPI Gateway完全ガイド2025：Kong、Envoy、AWS API Gateway、認証/レートリミット/モニタリング
API Gatewayの全て！Kong vs Envoy vs AWS API Gateway vs Traefik比較、ルーティング/認証(OAuth2/JWT/API Key)、レートリミット(Token Bucket/Sliding Window)、リクエスト変換、キャッシング、モニタリング、カナリアデプロイ、GraphQL Gateway、APIバージョニング戦略。
2026-04-14 · 22 分で読めます #api-gateway#kong#envoy#aws-api-gateway#rate-limitingシステムデザイン面接完全ガイド2025：大規模システム設計、スケーラビリティ、可用性パターン
システムデザイン面接の全て！4段階フレームワーク、スケーラビリティ（水平/垂直）、ロードバランシング、キャッシング（Redis/CDN）、DBシャーディング、CAP定理、メッセージキュー、実践設計（URL Shortener/Twitter/Netflix/チャット）、面接のコツ。
2026-03-25 · 31 分で読めます #system-design#scalability#availability#load-balancing#cachingLiteLLM完全ガイド2025：100以上のLLMを1つのAPIで統合するプロキシサーバー
LiteLLMの全て！100以上のLLM統合API、OpenAI互換プロキシサーバー、コスト追跡/予算管理、ロードバランシング/フォールバック、モデルルーティング、仮想キー、レート制限、Guardrails、プロダクション展開（Docker/K8s）。
2026-03-25 · 22 分で読めます #litellm#llm#api#proxy#openaiNginx完全ガイド2025：リバースプロキシ、ロードバランシング、SSL、キャッシング、セキュリティまで
Nginxの全て！イベント駆動アーキテクチャ、リバースプロキシ設定、ロードバランシング（Round Robin/Least Conn/IP Hash）、SSL/TLS設定、キャッシング、Rate Limiting、WebSocket、Docker/K8s連携まで。
2026-03-24 · 23 分で読めます #nginx#reverse-proxy#load-balancing#ssl#caching冗長化完全ガイド — 99.999%可用性の秘密
サーバーの二重化から三重化、Active-Standby、Active-Active、N+1、スプリットブレイン、クォーラムまで。99.9%と99.999%の差が年間ダウンタイム8時間対5分である理由を、実践的なアーキテクチャで解説します。
2026-03-02 · 12 分で読めます #architecture#high-availability#redundancy#failover#load-balancingNginx設定完全ガイド：アーキテクチャからプロダクション最適化まで15の重要テーマ
Nginxのイベント駆動アーキテクチャと設定構造からリバースプロキシ、ロードバランシング、SSL/TLS、キャッシング、Rate Limiting、セキュリティヘッダー、パフォーマンスチューニング、ヘルスチェックまで――プロダクション環境で即座に活用可能な15の重要設定を実践例とともに完全に整理する。
2026-03-01 · 40 分で読めます #nginx#reverse-proxy#load-balancing#ssl#tls