タグ: #nanogpt
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 2 件
LLMをゼロから作ってみる — スタンフォードCS336流の学習ロードマップ
スタンフォードのCS336（Language Modeling from Scratch）がHacker Newsの上位に登場し続け、ゼロからのLLM構築が再び話題になっています。トークナイザーからアテンション、分散学習、スケーリング則、アライメント、推論最適化までカリキュラム全体を解剖し、20週間の学習プランとミニプロジェクトのアイデアをまとめました。
2026-06-12 · 24 分で読めます #llm#transformer#cs336#deep-learning#tokenizer自分だけのGPTを作る — nanoGPTでゼロから学習する言語モデル
Andrej KarpathyのnanoGPTを活用し、GPT言語モデルをゼロから学習します。Transformerアーキテクチャの核心原理、トークナイザー、Self-Attention、学習ループまでをコードとともに完全解剖します。
2026-03-03 · 11 分で読めます #ai#llm#gpt#nanogpt#transformer