태그: #structured-output
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 5 편
LLM 구조화된 출력 안정화 — 파싱 실패를 없애는 네 겹의 방어
JSON을 달라고 했는데 마크다운 펜스에 싸여 오거나, 뒤에 설명 문장이 붙거나, 토큰 상한에서 잘려 오는 문제를 계층별로 해결하는 방법을 정리했습니다. 실패 유형을 먼저 분류하고, 프롬프트 지시부터 함수 호출 스키마와 제약 디코딩까지 방어를 겹으로 쌓되, 제약 디코딩이 문법적 유효성만 보장하고 의미적 정확성은 보장하지 않는다는 구분을 분명히 합니다. 필드 이름과 순서가 정확도를 바꾸는 이유
2026-07-26 · 20 분 읽기 #llm#structured-output#json-schema#constrained-decoding#validation프롬프트 엔지니어링의 과학: CoT, Self-consistency, DSPy, 구조화 출력, 자동 최적화까지 (2025)
2023년엔 "주문"이었고, 2024년엔 "기술"이었고, 2025년엔 "과학"이 된 프롬프트 엔지니어링. Chain-of-Thought, Self-consistency, Tree-of-Thoughts, DSPy 자동 최적화, Structured Output, 프롬프트 버저닝, 모델 간 이관까지. 실전 운영 관점에서 한 글로 정리합니다.
2026-04-15 · 25 분 읽기 #prompt-engineering#llm#ai#dspy#cotAdvanced Prompt Engineering 완전 가이드 2025: CoT, ToT, Self-Consistency, 메타프롬프팅
Prompt Engineering 심화! Chain-of-Thought(CoT), Tree-of-Thought(ToT), Self-Consistency, ReAct, 메타프롬프팅, Structured Output(JSON Mode), System Prompt 설계, Few-shot 최적화, Prompt Chaining, 평가(auto-eval), 프로덕션 프롬프트 관리.
2026-04-14 · 40 분 읽기 #prompt-engineering#chain-of-thought#tree-of-thought#few-shot#system-promptLLM 구조화된 출력과 Constrained Decoding 실전 가이드: JSON Schema부터 프로덕션 적용까지
LLM 구조화된 출력의 핵심 원리인 Constrained Decoding부터 JSON Schema 기반 출력 제어, Outlines·XGrammar·llguidance 엔진 비교, Function Calling 통합, 그리고 프로덕션 환경 적용 전략까지 다루는 실전 가이드.
2026-03-07 · 32 분 읽기 #llm#structured-output#constrained-decoding#json-schema#function-callingLLM Structured Output 실전 가이드 — JSON Mode, Tool Use, Pydantic 스키마 검증
OpenAI, Anthropic, Google의 Structured Output 방식을 비교하고, Pydantic 스키마 검증부터 프로덕션 파이프라인 구축까지 실전 코드로 다룹니다.
2026-03-03 · 33 분 읽기 #llm#structured-output#json-mode#openai#anthropic