タグ: #proxy
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 1 件
한국어English日本語中文
← すべての記事
LiteLLMの全て!100以上のLLM統合API、OpenAI互換プロキシサーバー、コスト追跡/予算管理、ロードバランシング/フォールバック、モデルルーティング、仮想キー、レート制限、Guardrails、プロダクション展開(Docker/K8s)。
2026-03-25 · 22 分で読めます #litellm#llm#api#proxy#openai