태그: #llm
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 216 편
RAG vs Fine-tuning vs Prompt Engineering: 언제 무엇을 선택하는가
RAG, Fine-tuning, Prompt Engineering의 차이를 실전 관점에서 비교하고, 어떤 상황에서 무엇을 선택해야 하는지 구체적인 의사결정 프레임워크와 비용 계산 예시를 제공합니다.
2026-03-18 · 12 분 읽기 #rag#파인튜닝#prompt-engineering#llm#ai-development오픈소스 LLM 완전 정리: Llama 3, Mistral, DeepSeek, Qwen, Gemma 총정리
2024-2026년 오픈소스 LLM 생태계를 완전히 정리하는 가이드. Meta Llama 3, Mistral/Mixtral, DeepSeek V3/R1, Alibaba Qwen, Google Gemma, Microsoft Phi 시리즈를 아키텍처부터 성능, 라이선스, 활용 방법까지 상세히 비교합니다.
2026-03-17 · 21 분 읽기 #llm#llama#mistral#deepseek#qwenLLM 평가와 벤치마킹 완전 가이드: MMLU, MT-Bench, RAGAS, LM-Eval
LLM을 올바르게 평가하는 완전 가이드. MMLU, MT-Bench, HumanEval 같은 표준 벤치마크부터 RAGAS로 RAG 시스템 평가, LM-Evaluation-Harness 실전 사용, 그리고 프로덕션 LLM 평가 파이프라인까지 상세히 다룹니다.
2026-03-17 · 25 분 읽기 #llm#evaluation#benchmark#ragas#lm-evalLLM 처음부터 만들기: 코드로 이해하는 GPT 완전 구현 가이드
대규모 언어 모델(LLM)을 처음부터 직접 구현하며 완전히 이해하는 가이드. 토크나이저부터 Transformer 아키텍처, 사전학습, 파인튜닝까지 PyTorch로 작은 GPT를 완전히 구축합니다.
2026-03-17 · 28 분 읽기 #llm#gpt#transformer#from-scratch#deep-learningLLM 파인튜닝 완전 가이드: LoRA, QLoRA, RLHF, DPO 마스터하기
LLM 파인튜닝의 모든 기법을 다루는 완전 가이드. Full Fine-tuning부터 LoRA, QLoRA, RLHF, DPO, Instruction Tuning까지 HuggingFace PEFT와 함께 실전 예제로 마스터합니다.
2026-03-17 · 34 분 읽기 #llm#fine-tuning#lora#qlora#rlhf한국어 NLP와 LLM 완전 가이드: KoBERT, KLUE, HyperCLOVA, EXAONE 마스터하기
한국어 NLP와 LLM의 모든 것을 다루는 완전 가이드. KoBERT, KoELECTRA, KLUE 벤치마크, HyperCLOVA X, EXAONE, Llama 한국어 파인튜닝까지 실전 코드와 함께 한국어 AI 개발을 완벽히 마스터합니다.
2026-03-17 · 28 분 읽기 #korean-nlp#kobert#klue#hyperclova#exaoneTorch-Titan 완전 가이드: PyTorch 대규모 분산 학습의 모든 것
PyTorch Titan(torchtitan)으로 대규모 LLM 분산 학습을 마스터하는 완전 가이드. FSDP2, 파이프라인 병렬화, Tensor 병렬화, 4D 병렬화, 플래시 어텐션, 혼합 정밀도까지 실전 예제와 함께 배웁니다.
2026-03-17 · 31 분 읽기 #torch-titan#distributed-training#pytorch#fsdp#deep-learning딥러닝 추천 시스템 완전 가이드: 협업 필터링부터 LLM 기반 추천까지
추천 시스템의 기초부터 최신 딥러닝 기법까지 완전 정복 가이드. 협업 필터링, Matrix Factorization, NCF, Two-Tower 모델, 시퀀스 추천, GNN 기반 추천, LLM 추천까지 실전 코드로 마스터합니다.
2026-03-17 · 33 분 읽기 #recommendation-system#collaborative-filtering#deep-learning#two-tower#llmRAG 시스템 완전 정복: 검색 증강 생성의 모든 것
RAG(검색 증강 생성) 시스템을 완전히 마스터하는 가이드. 기본 RAG부터 고급 Self-RAG, Corrective-RAG, HyDE까지, 벡터 데이터베이스, 임베딩 모델, 청킹 전략, 리랭킹까지 실전 예제로 구축합니다.
2026-03-17 · 39 분 읽기 #rag#llm#vector-database#langchain#embedding프롬프트 엔지니어링 완전 정복: CoT, DSPy, 구조화 출력, 프롬프트 보안까지
Zero-shot부터 Chain-of-Thought, Tree-of-Thought, DSPy 자동 최적화, Pydantic 구조화 출력, 프롬프트 인젝션 방어까지 2026년 프롬프트 엔지니어링 완전 가이드입니다.
2026-03-17 · 45 분 읽기 #prompt-engineering#chainofthought#dspy#llm#구조화출력LLM, Tool Calling, Embedding 벤치마크 완전 분석: 각 벤치마크가 측정하는 것
MMLU, HellaSwag, HumanEval, BFCL, MTEB 등 주요 AI 벤치마크들이 정확히 무엇을 측정하는지, 각 점수의 의미와 한계, 그리고 실제 활용 시 어떤 벤치마크를 참고해야 하는지 완전히 분석합니다.
2026-03-17 · 44 분 읽기 #llm#benchmark#mmlu#mteb#bfcl대규모 모델 학습 완전 가이드: 100B+ 파라미터 LLM 사전학습 전략
수백억 파라미터 LLM을 실제로 학습시키는 전략과 기법 완전 가이드. 스케일링 법칙(Chinchilla), Megatron-LM, 3D 병렬화, 체크포인팅 전략, 학습 안정성, 데이터 혼합 전략까지 실전으로 배웁니다.
2026-03-17 · 29 분 읽기 #large-scale-training#llm#megatron-lm#distributed-training#scaling-lawsLLM 애플리케이션 개발 가이드: 프로토타입에서 프로덕션까지
프로토타입에서 프로덕션까지 LLM 기반 애플리케이션을 구축하는 종합 가이드. 프롬프트 엔지니어링, RAG 아키텍처, 툴 사용, 스트리밍, 평가, 비용 최적화, 그리고 실전 AI 애플리케이션을 위한 배포 패턴을 다룹니다.
2026-03-17 · 31 분 읽기 #llm#application-development#langchain#openai#prompt-engineering오픈소스 LLM 생태계 완전 가이드: 2026년 모델, 도구, 배포 전략
2026년 오픈소스 LLM 생태계를 총망라한 가이드. 주요 모델 패밀리(Llama, Mistral, Gemma, Qwen, DeepSeek), 로컬 추론 도구(Ollama, llama.cpp, vLLM), 파인튜닝 기법(LoRA, QLoRA), 그리고 나만의 LLM을 운영하기 위한 실전 배포 전략을 다룹니다.
2026-03-17 · 32 분 읽기 #open-source#llm#llama#mistral#gemmaDeepSpeed 완전 가이드: ZeRO 최적화와 대규모 모델 학습
Microsoft DeepSpeed를 완전히 마스터하는 가이드. ZeRO-1/2/3 최적화, Offload, 파이프라인 병렬화, 혼합 정밀도, MoE, DeepSpeed Inference까지 실전 설정과 코드로 배웁니다.
2026-03-17 · 23 분 읽기 #deepspeed#zero-optimization#distributed-training#llm#pytorchAI 윤리, 안전성, 정렬(Alignment) 완전 가이드: 책임감 있는 AI 개발
AI 윤리, 안전성, 정렬(Alignment)을 완전히 이해하는 가이드. Hallucination, 편향성, 개인정보, RLHF, Constitutional AI, AI Safety 연구 최전선까지 AI 개발자가 반드시 알아야 할 내용을 다룹니다.
2026-03-17 · 39 분 읽기 #ai-ethics#ai-safety#alignment#responsible-ai#llmLLM 애플리케이션 개발 실전 가이드: ChatGPT API, Claude API, Gemini API 마스터
LLM API를 활용해 실제 애플리케이션을 개발하는 완전 실전 가이드. OpenAI, Anthropic Claude, Google Gemini API 활용법, 스트리밍, 함수 호출, 구조화된 출력, 비용 최적화, 그리고 프로덕션 베스트 프랙티스까지 상세히 다룹니다.
2026-03-17 · 29 분 읽기 #llm#openai#claude#gemini#api프롬프트 엔지니어링 완전 정복: Zero-shot부터 고급 기법까지
프롬프트 엔지니어링의 모든 기법을 완전히 마스터하는 가이드. Zero-shot, Few-shot, Chain-of-Thought, Tree of Thoughts, ReAct, Self-Consistency부터 시스템 프롬프트 설계까지 실전 예제로 배웁니다.
2026-03-17 · 57 분 읽기 #prompt-engineering#llm#chatgpt#claude#ai딥러닝 모델 양자화 완전 정복: INT8, INT4, GPTQ, AWQ, GGUF 마스터하기
딥러닝 모델 양자화를 완전히 마스터하는 가이드. FP32에서 INT8, INT4까지의 양자화 원리, GPTQ, AWQ, GGUF, bitsandbytes, AutoGPTQ, llama.cpp까지 실전 예제로 완벽히 이해합니다.
2026-03-17 · 38 분 읽기 #quantization#model-compression#gptq#awq#ggufLLM 추론 최적화 완전 가이드: KV Cache, Speculative Decoding, Continuous Batching
LLM 추론을 극한까지 최적화하는 완전 가이드. KV Cache, Speculative Decoding, Continuous Batching, PagedAttention, FlashInfer, 멀티GPU 추론, 그리고 DeepSeek MLA까지 심층 분석합니다.
2026-03-17 · 41 분 읽기 #llm#inference#optimization#kv-cache#speculative-decoding