LabHub
学习 学习路径 课程

数据流水线

배치와 스트리밍의 선택 기준, 원본 정제와 스키마 계약, 그리고 멱등한 재처리를 다룹니다. 일부러 더럽게 만들어 둔 원본 데이터를 프로파일링하고 정제 표와 거부 표로 나눠 적재하며, 같은 작업을 두 번 돌려도 결과가 변하지 않는 파이프라인을 손으로 만듭니다.

중급 · 레슨 32 · 实验 10

开始实验

커리큘럼

批处理与流式

schema 与格式

幂等性与重跑

数据质量与契约

运行台账与原子提交

事件时间水位线与迟到数据

分区与文件大小

模式演进与契约版本

回填与重复计数

血缘与可复现

质量校验与隔离

参考文档