태그: #json-schema
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 3 편
LLM 구조화된 출력 안정화 — 파싱 실패를 없애는 네 겹의 방어
JSON을 달라고 했는데 마크다운 펜스에 싸여 오거나, 뒤에 설명 문장이 붙거나, 토큰 상한에서 잘려 오는 문제를 계층별로 해결하는 방법을 정리했습니다. 실패 유형을 먼저 분류하고, 프롬프트 지시부터 함수 호출 스키마와 제약 디코딩까지 방어를 겹으로 쌓되, 제약 디코딩이 문법적 유효성만 보장하고 의미적 정확성은 보장하지 않는다는 구분을 분명히 합니다. 필드 이름과 순서가 정확도를 바꾸는 이유
2026-07-26 · 20 분 읽기 #llm#structured-output#json-schema#constrained-decoding#validation2026 API 스키마 지도 — JSON Schema · OpenAPI 3.1 · AsyncAPI · GraphQL · gRPC · Smithy · TypeSpec 한 번에 정리
2026년 API의 진짜 단위는 엔드포인트가 아니라 스키마다. JSON Schema 2020-12가 OpenAPI 3.1·AI 도구 호출·설정 검증의 공통 베이스가 되고, AsyncAPI 3.0은 이벤트의 OpenAPI 자리를 굳혔으며, gRPC·Protobuf는 여전히 서비스 간 기본값으로 남아 있다. 거기에 Smithy·TypeSpec·Pact·Buf·Stoplight·Scalar까지 —
2026-05-14 · 37 분 읽기 #api-schema#json-schema#openapi#asyncapi#graphqlLLM 구조화된 출력과 Constrained Decoding 실전 가이드: JSON Schema부터 프로덕션 적용까지
LLM 구조화된 출력의 핵심 원리인 Constrained Decoding부터 JSON Schema 기반 출력 제어, Outlines·XGrammar·llguidance 엔진 비교, Function Calling 통합, 그리고 프로덕션 환경 적용 전략까지 다루는 실전 가이드.
2026-03-07 · 32 분 읽기 #llm#structured-output#constrained-decoding#json-schema#function-calling