태그: #hadoop
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 28 편
Hadoop 아키텍처 다시 보기 — HDFS, YARN, 그리고 그 이후
Hadoop의 핵심인 HDFS와 YARN, 그리고 MapReduce의 동작 원리를 다이어그램으로 다시 정리합니다. 오브젝트 스토리지와 클라우드, 레이크하우스 시대에 Hadoop의 역할이 어떻게 바뀌었는지, 그리고 오늘날 Hadoop을 어떻게 이해해야 하는지를 살펴봅니다.
2026-06-27 · 55 분 읽기 #hadoop#hdfs#yarn#mapreduce#lakehouse모던 Hadoop & 빅데이터 생태계 2026 완벽 가이드 - Hadoop 3.4 · Spark 4 · Hive 4 · Kafka 4 · Flink 2 · Iceberg · Trino 심층 분석
2026년 Hadoop과 빅데이터 생태계는 '죽었다'가 아니라 '재배치되었다'. Hadoop 3.4의 Erasure Coding과 Ozone, Spark 4의 ANSI 모드와 Spark Connect, Hive 4의 Iceberg 통합, Kafka 4의 KRaft GA와 tiered storage, Flink 2의 disaggregated state, Iceberg 1.8과 REST 카탈로그
2026-05-16 · 45 분 읽기 #hadoop#spark#hive#kafka#flinkHadoop 생태계 & 데이터 엔지니어링 2026 완벽 가이드 - Hadoop · Spark · Flink · Trino · Iceberg · Delta Lake · Hudi · Airflow · dbt 심층 분석
2026년 5월 기준 데이터 엔지니어링 스택을 끝까지 본다. "Hadoop은 죽었다"는 자극적 헤드라인의 진실(HDFS는 줄어들지만 YARN과 레이크하우스 패턴은 살아남았다), Iceberg vs Delta Lake vs Hudi 테이블 포맷 전쟁의 결말, Spark 4.0 + Photon + Spark Connect의 현재, Flink SQL과 CDC의 스트리밍 표준화, Trino 페더레이
2026-05-16 · 42 분 읽기 #hadoop#spark#flink#trino#presto하둡은 죽었는가 — 빅데이터 스택의 진화, Hadoop에서 Lakehouse까지 (Spark·Iceberg·Delta, 그리고 2026년의 현실)
Hadoop은 죽었는가? 정확히 말하면 '기본값에서 내려왔다.' HDFS·YARN·MapReduce 3종 세트의 시대가 끝나고, Spark가 MR을 갈아치우고, 객체 스토리지가 HDFS를 갈아치우고, 열린 테이블 포맷(Iceberg·Delta·Hudi)이 Hive 메타스토어 시대를 끝냈다. 그 진화의 전 과정을 한 번에 정리한다 — 무엇이 무엇을 대체했고, 어디에 Hadoop이 아직 살아있고
2026-05-14 · 37 분 읽기 #hadoop#big-data#spark#iceberg#delta-lakeApache Iceberg 데이터 레이크하우스: 테이블 포맷 혁신과 실전 운영 가이드
Apache Iceberg의 아키텍처와 핵심 기능(Time Travel, Schema Evolution, Partition Evolution)을 분석하고, Spark/Trino 연동과 프로덕션 운영 전략을 다룹니다.
2026-03-14 · 27 분 읽기 #apache-iceberg#data-lakehouse#big-data#hadoop#sparkHadoop 에코시스템 실전 가이드: HDFS, MapReduce, YARN 핵심 정리
Hadoop의 핵심 구성 요소인 HDFS, MapReduce, YARN의 아키텍처와 동작 원리를 이해하고, 클러스터 구축부터 성능 튜닝, 모니터링까지 실전 운영 노하우를 다루는 종합 가이드.
2026-03-08 · 17 분 읽기 #hadoop#hdfs#mapreduce#yarn#big-dataHBase 실전 가이드: 대규모 NoSQL 데이터 저장소 설계부터 운영까지
HBase의 데이터 모델과 아키텍처를 이해하고, 테이블 설계, RowKey 전략, 읽기/쓰기 성능 최적화, Region 관리, 모니터링까지 실전 운영에 필요한 모든 것을 다루는 가이드.
2026-03-08 · 20 분 읽기 #hadoop#hbase#nosql#big-data#database하둡 생태계 실전 가이드: HDFS·YARN·MapReduce 운영 기준
HDFS 용량 관리, YARN 큐 설계, MapReduce 잡 튜닝 등 하둡 클러스터를 안정적으로 운영하기 위한 실전 기준과 체크리스트.
2026-03-08 · 29 분 읽기 #hadoop#hdfs#yarn#mapreduce#databasehue 4.10.0 version install on rockyos8
hue 4.10.0 version 을 rockyos8 에 설치하는 방법을 알아봅니다.
2023-09-06 · 5 분 읽기 #hadoop#hueHadoop의 OS 'Yarn'이란 무엇인가?
Hadoo에서 동작하여 클러스터 자원관리와 분산처리 어플리케이션을 실행할 수 있는 플랫폼인 YARN(Yet Another Resource Negotiator)에 대해서 알아봅니다.
2023-09-02 · 6 분 읽기 #hadoop#yarnblock based file system 이란? HDFS block file system.
Block 기반 File System에 대해서 알아보고, HDFS와 비교해봅니다.
2023-09-02 · 33 분 읽기 #hadoop#hdfsHDFS 네임노드와 데이터 노드
HDFS의 핵심이 되는 NameNode와 DataNode의 아키텍쳐 그리고 각각의 역할과 기능에 대해서 알아봅니다.
2023-09-02 · 5 분 읽기 #hadoop#hdfsHBase fully distributed mode Ubuntu 22.04에 설치하는 법
HBase fully distributed mode를 Ubuntu 22.04에 설치하는 법을 알아봅니다.
2023-02-18 · 4 분 읽기 #hbase#hadoopHBase 테이블 presplit 하는 법
HBase 에서 테이블 생성시 presplit 하는 방법을 알아본다.
2023-01-01 · 3 분 읽기 #hbase#hadoopapache Zookeeper Build 방법 (Ubuntu 22.04)
apache Zookeeper를 Ubuntu22.04에서 build하는 방법을 알아본다.
2022-12-25 · 1 분 읽기 #hadoop#zookeeperHadoop 3.4 Install on Ubuntu(Non Secure)
Hadoop 3.4 (Non Secure) version을 Ubuntu에 설치하는 방법을 알아보겠습니다.
2022-12-25 · 3 분 읽기 #hadoop#javaHadoop 3.4 Build 방법 (Ubuntu 22.04)
Hadoop 3.4를 Ubuntu22.04에서 build하는 방법을 알아본다.
2022-12-25 · 5 분 읽기 #linux#hadoop#dockerHBase와 Hive 연동 방법
HBase와 Hive의 연동 방법을 알아본다.
2022-11-27 · 4 분 읽기 #hadoop#hbase#hiveSpark on YARN 설치 방법
Spark on YARN을 설치하는 법을 알아본다.
2022-11-26 · 7 분 읽기 #hadoop#spark#yarnApache Hive Query example (MovieLens)
Apache Hive 설치 방법을 알아본다
2022-11-24 · 4 분 읽기 #hadoop#hive#sql