태그: #cdc
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 11 편
무중단 데이터 마이그레이션 — Dual-Write, Backfill, CDC로 옮기기
서비스를 멈추지 않고 데이터를 새 저장소로 옮기는 일은 일관성과 순서 보장 때문에 까다롭습니다. Dual-Write, Backfill, CDC를 조합한 단계별 컷오버 전략과 검증, 롤백, 멱등성 설계를 실무 관점에서 정리합니다.
2026-06-16 · 32 분 읽기 #database#migration#cdc#debezium#dual-writeAWS DMS 실전 — 마이그레이션과 지속 복제(CDC)
AWS Database Migration Service의 구성 요소부터 풀 로드와 CDC, 이기종 마이그레이션과 SCT 연동, LOB 처리와 데이터 검증, 모니터링과 컷오버 전략까지 실무 관점으로 정리합니다. 네이티브 논리 복제와의 비교, 실제 설정 예제, 자주 밟는 함정과 체크리스트를 함께 담았습니다.
2026-06-16 · 35 분 읽기 #aws#dms#database#migration#cdcNoSQL·이기종 데이터 마이그레이션 — RDB와 MongoDB와 다양한 스토어 사이에서
관계형과 문서형은 데이터 모델 자체가 다릅니다. RDB에서 문서로, 문서에서 RDB로 옮길 때 무엇을 다시 설계해야 하는지, 스트랭글러와 이중 쓰기와 CDC로 어떻게 무중단 이전을 하는지, 그리고 일관성을 어디까지 양보할지 실전 관점에서 정리합니다.
2026-06-16 · 30 분 읽기 #database#migration#nosql#mongodb#cdcAPI 계약 테스트 & API 도구 2026 딥다이브: Pact, Bruno, Hoppscotch, MSW, Karate DSL, Schemathesis 완전 비교
2026년 API 계약 테스트 풍경을 Pact, MSW, Bruno, Hoppscotch, Karate DSL, Schemathesis, Dredd, Prism, RestAssured, Postman/Insomnia로 비교. OpenAPI 3.1, AsyncAPI 3.0, GraphQL 스키마 테스트와 CDC(Consumer-Driven Contracts) 실전 패턴까지 다룹니다.
2026-05-25 · 18 분 읽기 #api-testing#pact#bruno#hoppscotch#mswCDC & 데이터 통합 2026 완벽 가이드 — Debezium 3 · Estuary · Flink CDC · Airbyte · Fivetran · Sling · Hightouch · Census · Sequin 심층 분석
2026년 CDC와 데이터 통합 전체 지형을 한 번에 정리한다. Debezium 3.0이 Kafka Connect 의존을 줄였고, Estuary Flow는 매니지드 CDC SaaS로 초당 백만행을 받아낸다. Flink CDC 3.x는 ELT 파이프라인 자체가 되었고, Airbyte는 350+ 커넥터로 오픈소스 표준이 되었으며, Fivetran은 비싸지만 끝없이 잘 팔린다. Sling CLI는
2026-05-16 · 33 분 읽기 #cdc#change-data-capture#debezium#estuary#flink-cdcPostgreSQL 복제 완전 가이드 2025: Streaming Replication, Logical Decoding, Failover, Patroni 심층 분석
PostgreSQL의 모든 복제 방식을 완전 분석. Physical streaming replication, synchronous vs async, logical decoding, failover 자동화 (Patroni), PgBouncer까지 — production PostgreSQL 운영의 모든 것을 720줄로 파헤친다.
2026-04-15 · 36 분 읽기 #postgresql#replication#wal#streaming-replication#logical-decoding스트리밍 vs 배치의 재정의: Flink·RisingWave·Materialize, CDC, Streaming SQL, 실시간의 실용주의 (2025)
Season 5 Ep 2. "모든 데이터를 실시간으로"는 2020년의 약속이었다. 2025년은 실용주의의 시대 — 배치와 스트리밍의 경계는 흐려졌고, 진짜 질문은 "이 데이터는 얼마나 신선해야 SLA를 만족하는가"로 바뀌었다. Flink·RisingWave·Materialize·ksqlDB 비교, Kappa/Lambda의 2025년 버전, Iceberg v3 row-level delete와
2026-04-15 · 17 분 읽기 #streaming#batch#flink#risingwave#materialize메시지 큐와 이벤트 스트리밍 완전 비교 — Kafka, RabbitMQ, NATS, Pulsar, SQS, Redis Streams, CDC, Schema Registry 심층 가이드 (2025)
메시지 큐와 이벤트 스트림의 근본 차이, Kafka 내부(파티션/세그먼트/ISR/KRaft), RabbitMQ의 유연한 라우팅, NATS JetStream의 가벼움, Pulsar의 지오리플리케이션, SQS/SNS/Kinesis/EventBridge 비교, Redis Streams의 실무, CDC(Debezium)의 실전, Avro/Protobuf 스키마 진화, Event-Driven의 함정까
2026-04-15 · 21 분 읽기 #kafka#rabbitmq#nats#pulsar#sqsCDC (Change Data Capture) 완전 가이드 2025: Debezium, Kafka, 데이터 동기화, Outbox 패턴
CDC의 모든 것! 동작 원리(WAL/binlog 기반), Debezium 아키텍처, PostgreSQL Logical Replication, MySQL binlog, Outbox 패턴, 데이터 웨어하우스 동기화, Kafka 통합, 마이그레이션, 흔한 함정.
2026-04-15 · 17 분 읽기 #cdc#debezium#kafka#postgresql#mysql토스뱅크 Data Engineer (Kafka & Streaming) 합격을 위한 완벽 가이드: 기술스택·면접·공부 로드맵
토스뱅크 Real-Time Data 팀의 Kafka & Streaming Data Engineer JD를 완전 분석합니다. Kafka Broker 운영, Spring Boot Kafka Client, Active-Active 이중화, CDC, Flink, ClickHouse까지 — 합격을 위한 기술스택 학습 로드맵과 면접 준비 전략.
2026-03-21 · 64 분 읽기 #kafka#data-engineering#tossbank#streaming#flinkOutbox 패턴과 CDC로 구현하는 마이크로서비스 데이터 동기화: Debezium 실전 가이드
Outbox 패턴과 CDC(Change Data Capture)를 활용한 마이크로서비스 데이터 동기화 종합 가이드. Dual Write 문제 분석, Outbox 테이블 설계, Debezium 커넥터 구성, Kafka Connect 파이프라인, 이벤트 순서 보장, 멱등성 처리, 장애 복구까지 실전 중심으로 다룹니다.
2026-03-09 · 29 분 읽기 #architecture#outbox-pattern#cdc#debezium#microservices