태그: #series
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 21 편
Semantic Layer·Metrics Store·Reverse ETL 완전 가이드: dbt·Cube·Looker·Hightouch·Census, 데이터 활성화 (2025)
Season 5 Ep 5. 파이프라인이 데이터를 만든다면, Semantic Layer는 데이터의 의미를 말한다. dbt Semantic Layer·Cube·AtScale·Looker의 계보, Metrics Store 패턴, Headless BI(Lightdash·Transform), Reverse ETL(Hightouch·Census)로 데이터를 운영 도구로 되돌리는 흐름, Data acti
2026-04-15 · 14 분 읽기 #semantic-layer#metrics-store#reverse-etl#headless-bi#dbt-semantic-layerLLM 에이전트 실전 완전 가이드: ReAct, Plan-Execute, Tool Use, 다중 에이전트 (2025)
2024년 "에이전트의 해" 다음으로 온 2025년은 "에이전트가 제품이 된 해"다. ReAct와 Plan-Execute의 경계, Tool use 설계 원칙, LangGraph 상태 머신, 다중 에이전트 오케스트레이션, MCP와 에이전트의 관계, 그리고 실패 루프와 보안까지. 현업 관점으로 정리한 한 편.
2026-04-15 · 25 분 읽기 #llm-agent#ai#react#plan-execute#tool-useVoice AI 실전 완전 가이드: 실시간 STT/TTS, 음성 LLM, Turn-taking, 딥페이크 방어 (2025)
"화면 없는 AI"가 2025년의 가장 뜨거운 제품 범주가 된 이유. 실시간 음성 파이프라인(VAD/STT/LLM/TTS), 음성 LLM(GPT-4o realtime/Gemini Live/Moshi), Turn-taking과 인터럽션, 감정·억양 제어, 전화·브라우저·모바일 실전, 딥페이크 방어와 보안, 한국어 음성 제품의 특수성까지.
2026-04-15 · 17 분 읽기 #voice-ai#stt#tts#gpt-4o-realtime#moshi로컬 LLM 시대 완전 가이드: Llama, Qwen, Mistral, vLLM, 양자화, Apple Silicon (2025)
외부 API에 모든 걸 의존하던 시절이 끝나간다. 2025년은 소비자 GPU와 Apple Silicon에서 30B–70B 모델이 "쓸 만하게" 돌아가는 시대. 모델 선택(Llama/Qwen/Mistral/Gemma/Solar), 엔진(vLLM/TGI/SGLang/llama.cpp/Ollama), 양자화(AWQ/GPTQ/EXL2/GGUF), 하드웨어, 비용·전력, 그리고 Privacy-firs
2026-04-15 · 19 분 읽기 #local-llm#llama#qwen#mistral#vllm스트리밍 vs 배치의 재정의: Flink·RisingWave·Materialize, CDC, Streaming SQL, 실시간의 실용주의 (2025)
Season 5 Ep 2. "모든 데이터를 실시간으로"는 2020년의 약속이었다. 2025년은 실용주의의 시대 — 배치와 스트리밍의 경계는 흐려졌고, 진짜 질문은 "이 데이터는 얼마나 신선해야 SLA를 만족하는가"로 바뀌었다. Flink·RisingWave·Materialize·ksqlDB 비교, Kappa/Lambda의 2025년 버전, Iceberg v3 row-level delete와
2026-04-15 · 17 분 읽기 #streaming#batch#flink#risingwave#materialize레이크하우스 2025 완전 가이드: Iceberg vs Delta vs Hudi, Open Table Format 전쟁, Snowflake·Databricks 합종연횡 (2025)
Season 5 Ep 1. 2024년 Snowflake가 Iceberg를 네이티브 지원하고 Databricks가 Tabular를 $1B+로 인수하면서 "Open Table Format 전쟁"은 끝났다. 남은 건 Iceberg를 어떻게 잘 쓸 것인가. Iceberg·Delta·Hudi 아키텍처 비교, Parquet·ORC·Puffin 내부, 카탈로그 전쟁(Glue/Polaris/Unity/Ne
2026-04-15 · 20 분 읽기 #lakehouse#iceberg#delta-lake#hudi#snowflakeMCP (Model Context Protocol) 완전 해부: 스펙, 전송, 보안, 서버 만들기, 엔터프라이즈 (2025)
Anthropic이 2024년 말 공개하고 2025년에 사실상 표준이 된 MCP. Resources·Tools·Prompts·Sampling 스펙과 전송 계층, OAuth 2.1 인증, 주요 서버(GitHub/Slack/Linear/Chrome/Playwright), 직접 서버 만들기, 보안 공격 벡터, 엔터프라이즈 운영까지. "LLM 시대의 USB-C"를 한 글로 해부합니다.
2026-04-15 · 21 분 읽기 #mcp#llm#ai#claude#protocol생성형 AI 시대의 비즈니스 모델 완전 가이드: 가격·GTM·해자·AI wrapper 비판·투자·한국 (2025)
Season 4의 마지막 글. 기술·운영·디자인을 다 갖춰도 비즈니스 모델이 없으면 1년짜리 제품이다. 가격 모델 5종(Subscription/Usage/Hybrid/Seat/Outcome), 비용 구조와 마진, GTM(B2C·B2B·Enterprise·Prosumer), 데이터 플라이휠·해자, "AI wrapper" 비판을 넘는 법, 규제·평판 리스크, 투자 지형, M&A·통합, 한국 스타
2026-04-15 · 23 분 읽기 #ai-business#pricing#gtm#moat#ai-wrapperLLM 보안 완전 가이드: Prompt Injection, Jailbreak, Red Team, OWASP LLM Top 10, EU AI Act (2025)
2024–2025년 LLM 제품의 실패 원인 TOP3 안에 항상 "보안 사고"가 들어간다. Prompt injection 12변종, Jailbreak 기법, Data exfiltration, Model extraction, Red team 자동화(PyRIT/Garak), OWASP LLM Top 10, EU AI Act와 한국 규제, 그리고 가드레일 설계까지. "기본값으로 안전한 LLM 제품
2026-04-15 · 17 분 읽기 #llm-security#prompt-injection#jailbreak#red-team#owasp-llmRAG 실전 완전 가이드: 검색, 임베딩, 벡터 DB, Fine-tuning의 경계 (2025)
LLM에 외부 지식을 붙이는 가장 실용적인 패턴, RAG. 2025년 시점에서 임베딩 모델 선택, 청킹 전략, 벡터 DB 선택, Rerank, Hybrid Search, 그리고 Fine-tuning과의 경계까지. Notion AI와 Claude의 검색 아키텍처를 해부하고, 한국어 RAG의 특수성과 비용·지연시간 최적화 체크리스트를 한 호흡에 정리합니다.
2026-04-15 · 33 분 읽기 #rag#llm#ai#vector-db#embedding프롬프트 엔지니어링의 과학: CoT, Self-consistency, DSPy, 구조화 출력, 자동 최적화까지 (2025)
2023년엔 "주문"이었고, 2024년엔 "기술"이었고, 2025년엔 "과학"이 된 프롬프트 엔지니어링. Chain-of-Thought, Self-consistency, Tree-of-Thoughts, DSPy 자동 최적화, Structured Output, 프롬프트 버저닝, 모델 간 이관까지. 실전 운영 관점에서 한 글로 정리합니다.
2026-04-15 · 25 분 읽기 #prompt-engineering#llm#ai#dspy#cotObservability 2025 완전 가이드: OpenTelemetry, Grafana·Datadog·Honeycomb·SigNoz, SLO·Error Budget, LLM 관측성 (2025)
Season 5 Ep 8. 관측성 없이는 운영 없고, 운영 없이는 제품 없다. OpenTelemetry의 3대 시그널(Metric·Log·Trace) 통합, Grafana 스택(Prometheus·Loki·Tempo·Mimir) vs Datadog·New Relic·Splunk, SigNoz·Honeycomb·Axiom의 새 세대, SLO·SLI·Error Budget 운영, LLM 관측성(
2026-04-15 · 15 분 읽기 #observability#opentelemetry#grafana#datadog#honeycomb멀티모달 LLM 완전 가이드: Vision, 문서 이해, OCR, 비디오, 오디오, 한국어 특수성 (2025)
텍스트만 다루던 시대가 끝났다. 2025년 LLM은 이미지·문서·영상·오디오를 자연스럽게 처리한다. GPT-4o/Claude 3.5/Gemini/Qwen2-VL/Pixtral 비교, Document AI와 레이아웃 이해, OCR의 현대화, 비디오·오디오, 한국어 문서 특수성, 그리고 멀티모달 RAG까지. 실전 케이스로 정리한 한 편.
2026-04-15 · 19 분 읽기 #multimodal#vision-llm#document-ai#ocr#whisperLLMOps 완전 가이드: 모델·프롬프트·평가셋 3축 버전 관리, Canary, 비용 통제, 플랫폼 팀 (2025)
LLM 제품을 빠르게 만드는 법은 쉬워졌다. 지속 가능하게 돌리는 법이 어렵다. 모델·프롬프트·평가셋의 3축 버전 관리, Shadow/Canary/Blue-Green 배포, 토큰·캐시·모델 라우팅으로 비용 통제, 조직 구조(AI 플랫폼/Model 플랫폼/Product AI), 실패 사례, KPI·온콜까지. MLOps의 연장선이되, LLM 고유의 과제를 정면으로 다루는 한 편.
2026-04-15 · 15 분 읽기 #llmops#mlops#devops#canary#cost-controlLLM 평가 & 관측성 완전 가이드: Eval Harness, LLM-as-Judge, Tracing, 회귀 방지 (2025)
모델을 바꿨더니 더 좋아진 것 "같다"는 주장은 과학이 아니다. 2025년 LLM 제품의 실패 원인 1위는 "측정 안 함". Eval harness 설계, LLM-as-judge 함정과 보정, Trace·Span·Metric 3층 관측성, 프로덕션 피드백 루프, Phoenix·LangSmith·LangFuse·Helicone 비교까지. 평가를 제품 개발의 근간으로 세우는 법.
2026-04-15 · 19 분 읽기 #llm-eval#observability#llm-judge#distributed-tracing#langsmithFeature Store와 Vector·Graph·시계열 DB 융합 가이드: Feast·Tecton·Pinecone·Weaviate·Milvus·Neo4j·TimescaleDB (2025)
Season 5 Ep 6. ML의 언어는 피처, AI의 언어는 벡터, 관계의 언어는 그래프, 운영의 언어는 시계열. 2025년 각 DB 카테고리가 서로 경계를 넘고 Lakehouse·Postgres 위에 수렴한다. Feature Store 재정의, Online-Offline skew, Vector DB 지형, Graph DB와 지식 그래프, 시계열 DB의 현주소, "Unified DB"의 등
2026-04-15 · 15 분 읽기 #feature-store#vector-db#graph-db#timeseries-db#feast데이터 오케스트레이션 2025 완전 가이드: dbt·SQLMesh·Dagster·Airflow·Prefect, 데이터 계약, CI/CD (2025)
Season 5 Ep 4. 엔진이 쿼리한다면, 오케스트레이터는 파이프라인을 다스린다. dbt의 표준화와 한계, SQLMesh의 반란, Dagster의 asset-centric 모델, Airflow 2.x/3.0의 진화, Prefect 3.0의 재탄생, 데이터 계약(Data Contracts), 파이프라인 CI/CD, 관측성과 경보, 한국 기업 실무 스택 선택까지.
2026-04-15 · 18 분 읽기 #data-orchestration#dbt#sqlmesh#dagster#airflowFine-tuning 완전 가이드: SFT, DPO, LoRA/QLoRA, 합성 데이터, 한국어 모델 (2025)
"Fine-tuning은 죽었다"는 소리도, "RAG로 다 된다"는 소리도 반쯤만 맞다. 2025년 시점에서 SFT/DPO/RLHF의 지형, LoRA·QLoRA로 가볍게 튜닝하는 실전, 합성 데이터 파이프라인, 한국어 모델(Solar, Qwen, Llama) 파인튜닝, 그리고 Fine-tune vs RAG vs Prompt의 경계선을 한 글로 정리합니다.
2026-04-15 · 23 분 읽기 #fine-tuning#llm#ai#lora#qlora데이터 거버넌스·Lineage·PII 완전 가이드: OpenLineage, Collibra·Atlan·DataHub, Unity·Polaris, GDPR·한국 개인정보법 (2025)
Season 5 Ep 7. 데이터가 많아질수록 "누가·어디서·왜·얼마나" 쓰는지 불명확해진다. OpenLineage 표준, 데이터 카탈로그 4대(Collibra·Atlan·DataHub·Alation), Unity Catalog·Polaris·Glue의 거버넌스, PII 탐지·마스킹·토큰화, GDPR·한국 개인정보보호법의 데이터 주체 권리, 멀티 클라우드 거버넌스, AI 시대의 거버넌스 확장
2026-04-15 · 18 분 읽기 #data-governance#lineage#pii#openlineage#collibraOLAP 엔진 2025 비교 가이드: DuckDB·ClickHouse·Snowflake·StarRocks·Pinot·Druid·Trino, 벤치마크 함정, 엔진 배치 (2025)
Season 5 Ep 3. 하나의 엔진이 모든 OLAP을 커버하지 않는다. DuckDB는 단일 노드의 혁명을, ClickHouse는 실시간 OLAP을, Snowflake·BigQuery는 관리형 편리함을, StarRocks·Doris·Pinot·Druid는 실시간 MPP를, Trino는 연합 쿼리를 맡는다. 각 엔진의 강약점, 벤치마크의 함정, 적재적소 배치 패턴, 한국 기업 선택 가이드까지
2026-04-15 · 16 분 읽기 #olap#duckdb#clickhouse#snowflake#bigquery