태그: #table-format
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 2 편
Iceberg v3 로우 리니지 — 행 ID는 파일에 저장되지 않는다
Apache Iceberg 포맷 v3는 모든 행에 안정적인 식별자를 부여하는 로우 리니지를 스펙에 넣었고, 이건 옵션이 아니라 v3 테이블이면 무조건 켜집니다. 그런데 이 값은 데이터 파일에 저장되지 않습니다 — 테이블의 next-row-id에서 스냅샷, 매니페스트, 데이터 파일로 내려오는 상속 체인을 통해 읽는 시점에 계산됩니다. 낙관적 커밋이 재시도될 때 데이터 파일을 다시 쓰지 않기 위
2026-07-16 · 31 분 읽기 #iceberg#lakehouse#table-format#data-engineering#sparkApache Iceberg 데이터 레이크하우스: 테이블 포맷 혁신과 실전 운영 가이드
Apache Iceberg의 아키텍처와 핵심 기능(Time Travel, Schema Evolution, Partition Evolution)을 분석하고, Spark/Trino 연동과 프로덕션 운영 전략을 다룹니다.
2026-03-14 · 27 분 읽기 #apache-iceberg#data-lakehouse#big-data#hadoop#spark