태그: #from-scratch
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 2 편
LLM 처음부터 만들기: 코드로 이해하는 GPT 완전 구현 가이드
대규모 언어 모델(LLM)을 처음부터 직접 구현하며 완전히 이해하는 가이드. 토크나이저부터 Transformer 아키텍처, 사전학습, 파인튜닝까지 PyTorch로 작은 GPT를 완전히 구축합니다.
2026-03-17 · 28 분 읽기 #llm#gpt#transformer#from-scratch#deep-learning나만의 GPT 만들기 — nanoGPT로 처음부터 학습하는 언어 모델
Andrej Karpathy의 nanoGPT를 활용해 GPT 언어 모델을 처음부터 학습합니다. Transformer 아키텍처의 핵심 원리, 토크나이저, Self-Attention, 학습 루프까지 코드와 함께 완전 해부합니다.
2026-03-03 · 9 분 읽기 #ai#llm#gpt#nanogpt#transformer