タグ: #litellm
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 3 件
LiteLLM 実践ガイド — 100以上の LLM を一つのインターフェースで
OpenAI、Anthropic、Gemini、Bedrock、OpenRouter、ローカルモデルまでを同一の OpenAI 形式で呼び出す LiteLLM の実践クイックスタート。インストールからストリーミング、Router、Proxy Server までを最短経路で整理する。
2026-07-06 · 14 分で読めます #litellm#llm#ai-gateway#python#openai-compatibleLiteLLM完全ガイド2025:100以上のLLMを1つのAPIで統合するプロキシサーバー
LiteLLMの全て!100以上のLLM統合API、OpenAI互換プロキシサーバー、コスト追跡/予算管理、ロードバランシング/フォールバック、モデルルーティング、仮想キー、レート制限、Guardrails、プロダクション展開(Docker/K8s)。
2026-03-25 · 22 分で読めます #litellm#llm#api#proxy#openai[Architecture] LiteLLM完全ガイド:100以上のLLMを統合サービングする方法
LiteLLMでOpenAI、Anthropic、Azure、Bedrock等100以上のLLMを1つのAPIに統合する方法、Proxyサーバー構築、コスト追跡、Rate Limiting、Load Balancingまで総整理します。
2026-03-20 · 17 分で読めます #architecture#litellm#llm#ai-gateway#mlops