タグ: #huggingface
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 17 件
テキスト生成オープンモデルをサイズ別に選ぶ
オープンなテキスト生成モデルを選ぶとき、サイズは性能の等級ではなく配置の制約です。この記事はオンデバイス向けの小型、GPU1枚に載せる中型、サーバが必要な大型に分け、各区分で実際に確認したモデルのパラメータ、コンテキスト、ライセンスを整理し、MoEのメモリ計算がなぜ違うのか、コンテキスト拡張がなぜ無料ではないのか、カードが要求する実行条件を無視すると何が壊れるのかを説明します。オープンモデルガイドシリーズ第2回です。
2026-08-12 · 11 分で読めます #ai#llm#huggingface#open-source-llm#text-generationライセンスと配備: 類型の読み方と量子化配布物の出所確認
オープンモデルのlicenseフィールドに書かれた短い識別子は目次にすぎず、実際の条件は全文にあります。この記事は2026-08-12に実際に出会ったライセンス類型を整理し、コミュニティライセンスと非商用条件が何を求めるのか、ゲートの掛かったリポジトリが配備パイプラインでなぜ問題になるのか、そしてGGUFのような量子化配布物の出所をどう確認すべきかを説明します。オープンモデルガイドシリーズ最終回の第8回です。
2026-08-12 · 12 分で読めます #ai#llm#huggingface#open-source-llm#licenseコードモデルの選び方: 補完と対話、FIM、ライセンス
コードモデルは、エディタ内でカーソル位置を埋める補完用と、質問に答える対話型という別の製品です。この記事は2026-08-12に確認したオープンなコードモデルのパラメータ、コンテキスト、FIM対応の記載、ライセンスを整理し、ベースモデルに対話をさせるとなぜ失敗するのか、コードモデルでライセンスがなぜ特に慎重を要するのかを説明します。オープンモデルガイドシリーズ第7回です。
2026-08-12 · 12 分で読めます #ai#llm#huggingface#open-source-llm#code-llm音声モデルの選び方: STTとTTSの実践基準
音声モデルはテキストモデルと違い、対応言語、音声長の制約、リアルタイム性、話者分離の要否が先に決まり、その後にモデルが決まります。この記事は2026-08-12に確認したSTTとTTSのオープンモデルのパラメータ、ライセンス、対応言語、音声制約を整理し、リアルタイムという語をどう分解すべきか、カードに書かれた幻覚と同意に関する警告がなぜ設計制約になるのかを説明します。オープンモデルガイドシリーズ第5回です。
2026-08-12 · 12 分で読めます #ai#huggingface#open-source-llm#speech-to-text#text-to-speech韓国語に対応するオープンモデルとトークナイザのコスト
韓国語対応という表記は、その言語を処理するという意味であって上手だという保証ではありません。この記事は2026-08-12に確認した韓国語特化・バイリンガル・多言語のオープンモデルのカード値を整理し、トークナイザが韓国語をどう分割するかがなぜそのままコストとコンテキスト消費になるのか、そしてそれを自分で測る方法を説明します。韓国語モデルで特に分かれるライセンス類型も扱います。オープンモデルガイドシリーズ第4回です。
2026-08-12 · 11 分で読めます #ai#llm#huggingface#open-source-llm#korean-nlpビジョンとマルチモーダル: 画像理解、OCR、VLMの選び方
ビジョンモデルはひとつのカテゴリではありません。対話型VLM、OCR専用、文書構造化、画像検索用の埋め込みは別物で、互いを代替しません。この記事は2026-08-12に確認した各カテゴリのオープンモデルのカード値を整理し、解像度や複数画像の扱いといった実際の制約、そしてカードが明記する禁止用途も扱います。オープンモデルガイドシリーズ第6回です。
2026-08-12 · 12 分で読めます #ai#huggingface#open-source-llm#vision-language-model#ocrHugging Faceのモデルカードの読み方: 何を信じ、何を疑うか
Hugging Faceのモデルカードで実際に判断材料になる項目は、ライセンス、パラメータ数、コンテキスト長、intended use、limitations、学習データの6つです。この記事は各項目が何を意味し何を隠すのか、ダウンロード数といいね数がなぜ品質指標にならないのか、そしてカードに書かれていない項目をどう扱うべきかを、2026-08-12に実際に確認したモデルページの事例で整理します。オープンモデルガイドシリーズ第1回です。
2026-08-12 · 12 分で読めます #ai#llm#huggingface#open-source-llm#model-card埋め込みとリランカー、RAGで実際に重要なもの
RAGを作るとき埋め込みモデルの選択を左右するのは、リーダーボードの順位ではなく次元、最大入力長、接頭辞の規約、多言語対応の表記、そしてリランカーとの役割分担です。この記事は2026-08-12に確認した埋め込み・リランカーモデルの実際のカード値を整理し、MTEBのスコアが何を語らないのか、日本語や韓国語の文書を扱うときに何を自分で測るべきかを説明します。オープンモデルガイドシリーズ第3回です。
2026-08-12 · 12 分で読めます #ai#llm#huggingface#open-source-llm#embeddingモデルカードを正しく読む方法 — 5分で必要なものだけ抜き出す
モデルカードは上から下へ読むと必要な情報にたどり着けないように書かれています。ベンチマーク表が画面の半分を占める一方で、ライセンスとチャットテンプレートは一行で通り過ぎます。この記事はカードを読む順序を逆転させ、配備判断に実際に必要な七つを5分で抜き出す方法を整理しました。重みの公開とオープンソースがどう違うか、カードの点数をそのまま信じてはいけない理由、コンテキスト長の表記が何を隠しているか、そしてトークナイザとチャットテンプレートで
2026-08-02 · 33 分で読めます #llm#huggingface#model-card#license#tokenizer今Hugging Faceで何が伸びているか — 2026年8月トレンディングマップ
2026年8月2日時点でHugging Faceのトレンディング一覧を実際に洗い、用途別に実務で使えるモデルを整理しました。汎用LLM、コーディング、埋め込みとリランカー、ビジョン、音声、画像・動画生成、小型オンデバイスの順で、作り手と規模とライセンス、そして使う前に知っておくべき制約を一緒に書きました。核心は、トレンディング一覧の相当数が新規モデルではなく量子化再アップロードとコミュニティのファインチューンだという点です。原本と派生版
2026-08-02 · 28 分で読めます #llm#huggingface#open-weights#model-selection#quantizationMLOpsプラットフォーム 2026 完全版 - MLflow · Kubeflow · W&B · Vertex AI · SageMaker · Databricks · BentoML · Ray · Modal · Hugging Face 徹底ガイド
2026年5月時点のMLOpsプラットフォーム30種を一気に比較する。MLflow 3、Kubeflow 1.10、Weights & Biases、Comet、Neptune.ai、ClearML、Vertex AI、SageMaker、Azure ML、Databricks ML + Mosaic AI、Hugging Face Inference Endpoints、Determined、Anyscale + Ray Train、
2026-05-16 · 21 分で読めます #mlops#mlflow#kubeflow#weights-and-biases#vertex-aiUnslothでLLMファインチューニング完全ガイド2025:QLoRA、4bit量子化、2倍高速学習
UnslothでのLLMファインチューニングの全て!QLoRA/LoRA原理、4bit量子化(bitsandbytes)、Unsloth 2倍速の秘密、Llama 3/Mistral/Qwenファインチューニング、データ準備、学習設定、VRAM最適化、GGUF/GPTQ変換、デプロイまで。
2026-03-25 · 23 分で読めます #unsloth#llm#fine-tuning#qlora#lora韓国語LLM学習データ制作完全ガイド:Hugging Faceデータセット、前処理、品質管理まで
LLM学習データ制作の全て!Hugging Faceデータセット(種類/ローディング/変換)、韓国語データ収集(クローリング/合成/翻訳)、前処理(トークン化/クリーニング/重複除去)、Instruction Tuningフォーマット(Alpaca/ShareGPT/OpenAI)、品質管理、RLHF/DPOデータセット。
2026-03-25 · 28 分で読めます #llm#training-data#huggingface#dataset#korean-nlp2025年AI研究トレンド総整理:HuggingFace人気論文からAI研究10大トレンドまで
HuggingFaceトレンディング論文TOP10と2025年AI研究10大トレンドを開発者視点でレビュー。DeepSeek-R1の純粋RL推論、Nemotron-Cascade 30B/3B MoE、GRPO、PagedAttention、100万トークンコンテキストの限界まで。
2026-03-21 · 28 分で読めます #ai-research#papers#huggingface#reasoning#moeオープンソースLLM全体像ガイド:2026年のモデル・ツール・デプロイ戦略
2026年のオープンソースLLMエコシステムを網羅したガイドです。主要モデルファミリー(Llama、Mistral、Gemma、Qwen、DeepSeek)、ローカル推論ツール(Ollama、llama.cpp、vLLM)、ファインチューニング手法(LoRA、QLoRA)、そして独自LLMを運用するための実践的なデプロイ戦略を解説します。
2026-03-17 · 29 分で読めます #open-source#llm#llama#mistral#gemmaHuggingFaceエコシステム完全ガイド:Transformers、Datasets、PEFT、Accelerateをマスターする
HuggingFaceエコシステム全体をマスターするための完全ガイド。Transformers、Datasets、Tokenizers、PEFT、Accelerate、Diffusers、Hub APIを実践的なサンプルで解説。
2026-03-17 · 19 分で読めます #huggingface#transformers#peft#accelerate#nlpLLMファインチューニング実践 — LoRA、QLoRA、PEFTで自分だけのモデルを作る
LLMファインチューニングの実践ガイド。LoRAの数学的原理からQLoRAによるコンシューマーGPUでの大規模モデル学習、PEFTライブラリの活用法まで、コード例を交えて詳しく解説します。
2026-03-02 · 9 分で読めます #llm#fine-tuning#lora#qlora#peft