블로그
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 3672 편
#2026-03 762#culture 283#deep-dive 275#kubernetes 260#career 233#ai 220#llm 216#devops 195#2026-04 158#security 147#observability 118#database 113#communication 108#history 107#architecture 101#productivity 98#performance 93#linux 90#networking 89#finance 87#economy 84#mindset 80#psychology 79#ai-papers 78#food 78#it 78#travel 78#japanese 76#deep-learning 75#english 74#gpu 74#ai-agent 69#business-travel 69#postgresql 66#cs-fundamentals 63#rag 63#systems 63#python 55#learning 54#self-improvement 53
2026 로봇 기업 지도 — 휴머노이드 격전과 VLA 모델, 그리고 엔지니어의 진입 경로
2026년은 휴머노이드 출하가 전년 대비 7배(5만 대 전망)로 뛰는 변곡점입니다. 390억 달러 밸류에이션의 Figure와 자체 VLA 모델 Helix, 여름 양산에 들어가는 Tesla Optimus Gen 3, 5,500대를 이미 판 가격 파괴자 Unitree, 로봇의 범용 두뇌를 파는 Physical Intelligence(π0)까지 — 주요 기업들을 하드웨어·두뇌·시장 축으로 정리하고
2026-07-09 · 11 분 읽기 #robotics#ai#vla#trends#careerGPU Operator × KubeVirt 총정리 — 구성요소·설정·버전, 부분 MIG와 수동 MIG까지
쿠버네티스 GPU 인프라의 두 기둥을 한 장에 정리합니다. GPU Operator의 오퍼랜드 구성과 ClusterPolicy 설정, 버전 체계와 함께, 노드의 일부 GPU에만 MIG를 적용하는 커스텀 설정과 nvidia-smi로 MIG를 수동 생성·삭제하는 방법을 다루고, VM을 쿠버네티스에서 돌리는 KubeVirt의 4대 컴포넌트(virt-operator·controller·handler·
2026-07-09 · 14 분 읽기 #kubernetes#gpu#kubevirt#mig#nvidia3D를 만드는 두 가지 길 — 복원(NeRF·가우시안 스플래팅)과 생성(TRELLIS·Hunyuan3D)
"3D 모델을 만든다"는 말에는 완전히 다른 두 문제가 숨어 있습니다. 실제로 존재하는 장면을 사진 여러 장으로 되살리는 복원(reconstruction)과, 존재하지 않는 것을 텍스트·이미지 한 장에서 지어내는 생성(generation)입니다. 복원의 계보를 SfM에서 NeRF, 그리고 판을 바꾼 3D 가우시안 스플래팅과 feedforward 복원(Meta MapAnything)까지 따라가
2026-07-09 · 15 분 읽기 #3d#ai#gaussian-splatting#nerf#computer-vision멀티 GPU·멀티노드 학습 플랫폼 총정리 — 프레임워크 지도부터 Slurm·Kubeflow 실전 가이드까지
GPU 여러 장, 노드 여러 대로 모델을 학습시키는 전체 지형을 한 장에 정리합니다. AI 라이브러리·프레임워크 생태계 지도(PyTorch·JAX·HuggingFace·DeepSpeed·Ray), 병렬화 전략(DDP·FSDP·ZeRO·TP·PP)을 언제 무엇으로 고르는지, torchrun 단일노드→멀티노드 확장, HPC의 표준 Slurm 사용 가이드(sbatch 스크립트와 멀티노드 torch
2026-07-09 · 13 분 읽기 #ai#ml#distributed-training#slurm#kubeflowDocker에서 Podman으로 — 데몬 없는 컨테이너 엔진 전환 완전 가이드
Podman은 데몬 없이(fork-exec) 동작하고 rootless가 기본이라는 점에서 Docker와 아키텍처 철학부터 다릅니다. 내부 동작(conmon·crun), 설정 파일 위치와 의미, GPU를 쓰기 위한 CDI 설정, compose.yaml을 그대로 쓰는 두 가지 방법(podman 소켓 + docker compose vs podman-compose), SELinux 볼륨 라벨 같은
2026-07-08 · 15 분 읽기 #docker#podman#containers#devops#linuxLLM 캐싱의 원리 — 프롬프트 캐싱과 Prefix Cache는 왜 돈을 아껴주는가
프롬프트 앞부분이 같으면 왜 비용이 10분의 1이 될까요? 답은 트랜스포머 내부의 KV 캐시에 있습니다. 어텐션이 인과적(causal)이라 앞쪽 토큰들의 Key/Value 벡터는 뒤에 무엇이 오든 변하지 않고, 그래서 저장해 뒀다가 재사용할 수 있습니다. prefill과 decode의 구분, KV 캐시의 메모리 수치, vLLM·SGLang의 prefix cache 구현, 그리고 Anthrop
2026-07-08 · 14 분 읽기 #ai#llm#caching#inference#performance최신 LLM 양자화 기술 총정리 — GPTQ·AWQ부터 FP8·MXFP4·KV 캐시 양자화까지
양자화는 모델의 숫자를 더 적은 비트로 표현해 메모리와 비용을 줄이는 기술입니다. 비트가 줄어도 품질이 버티는 이유(이상치와 스케일링), GPTQ와 AWQ의 접근 차이, llama.cpp GGUF의 k-quant, QLoRA의 NF4, 그리고 2026년의 중심축인 FP8과 마이크로스케일링 FP4(MXFP4·NVFP4), 다음 병목인 KV 캐시 양자화까지 — W4A16 같은 표기법 읽는 법과
2026-07-08 · 15 분 읽기 #ai#llm#quantization#inference#optimization소유권의 반격과 AI 현실 점검 — 이번 주 HN·GeekNews 핫토픽
이번 주 Hacker News와 GeekNews 상위권을 관통하는 흐름은 두 갈래입니다. 오픈소스 지도·오픈 하드웨어·교체형 배터리로 번지는 「소유권의 반격」, 그리고 오픈웨이트 가격 압박과 에이전트 속도 조절론이 이끄는 「AI 현실 점검」. 두 흐름이 왜 같은 질문 — 통제권 — 으로 수렴하는지, 일곱 가지 핫토픽으로 짚어봅니다.
2026-07-07 · 11 분 읽기 #trends#hackernews#geeknews#ai#opensourceFDE(Forward Deployed Engineer) 완전 해부 — 지금 AI 업계에서 가장 뜨거운 직무
기업 GenAI 파일럿의 95%가 측정 가능한 성과를 못 낸다는 조사가 보여주듯, 지금 AI의 병목은 모델이 아니라 배포입니다. 그 간극을 메우는 직무가 FDE — 고객 환경에 파견되어 프로덕션 AI를 직접 구축하는 엔지니어입니다. 팔란티어에서 태어나 OpenAI·Anthropic이 수십억 달러를 걸고 복제 중인 이 직무의 기원, 실제 업무, 필요 역량, 보상, 트레이드오프, 준비법까지 전부
2026-07-07 · 16 분 읽기 #career#fde#ai#palantir#rolesNVIDIA GPU Operator 완전 정복 — 설치·배포부터 MIG 분할 설정까지
쿠버네티스에서 GPU 노드를 손으로 셋업하는 시대는 끝났습니다. NVIDIA GPU Operator가 드라이버부터 디바이스 플러그인, 모니터링까지 전부 오퍼레이터 패턴으로 관리하는 원리와 Helm 설치·검증 방법, 그리고 A100/H100 한 장을 하드웨어 격리된 여러 GPU로 쪼개 쓰는 MIG의 개념·single/mixed 전략·노드 라벨 기반 설정·커스텀 프로필·운영 주의사항까지, 실제
2026-07-07 · 15 분 읽기 #kubernetes#gpu#nvidia#mig#devopsAI 모델 개발, 처음부터 끝까지 — 데이터에서 배포까지의 현실적인 생애주기
모델 개발은 사전학습이 아니라 결정 사다리에서 시작합니다 — 프롬프트로 되는가, RAG로 되는가, 파인튜닝이 필요한가. 평가 셋을 먼저 만드는 eval-first 원칙, 데이터 품질과 합성 데이터의 함정, 스케일링 법칙과 분산 학습, LoRA·DPO로 이어지는 파인튜닝 스펙트럼, 양자화·연속 배칭 서빙, 그리고 배포 후의 데이터 플라이휠까지 — AI 모델 개발의 전체 생애주기를 실무 순서로
2026-07-07 · 16 분 읽기 #ai#ml#llm#mlops#trainingOh My OpenCode 사용법 — OpenCode를 멀티 에이전트 팀으로
OpenCode 위에 얹는 오케스트레이션 레이어 Oh My OpenCode로 비동기 서브에이전트 팀을 구성하고, 설치·설정·비용 안전까지 실전 가이드로 정리한다.
2026-07-06 · 31 분 읽기 #oh-my-opencode#opencode#ai-coding-agent#cli#developer-toolsLiteLLM 실전 사용법 — 100개 이상 LLM을 하나의 인터페이스로
LiteLLM으로 OpenAI, Anthropic, Gemini, Bedrock, OpenRouter, 로컬 모델까지 동일한 OpenAI 포맷으로 호출하는 실전 퀵스타트. 설치부터 스트리밍, Router, Proxy Server까지 빠르게 정리한다.
2026-07-06 · 15 분 읽기 #litellm#llm#ai-gateway#python#openai-compatibleOpenRouter 사용법 — 하나의 API로 300개 이상 LLM 쓰기
OpenRouter 하나로 60개 이상 공급자의 300개 이상 모델을 OpenAI 호환 방식으로 호출하는 법 — 키 발급, 첫 curl 요청, SDK 드롭인, 라우팅과 폴백, 스트리밍까지 실무 기준으로 정리한다.
2026-07-06 · 13 분 읽기 #openrouter#llm#ai-gateway#api#openai-compatible기술 면접 준비 플레이북 — 코딩·시스템 설계·행동 면접까지
기술 면접은 실력의 시험이자 별도의 기술입니다. 코딩 면접의 패턴 학습법, 시스템 설계 면접의 5단계 프레임, STAR 기법으로 행동 면접 스토리 은행 만들기, 직무별 단골 질문, 그리고 8주 역산 계획까지 — 면접관이 실제로 보는 신호를 기준으로 준비법을 정리합니다. 직무 지식 지도 편, AI 공부법 편과 이어지는 3부작의 2편입니다.
2026-07-06 · 14 분 읽기 #career#interview#skills#preparation대부분의 논쟁은 아이디어가 아니라 자아에 관한 것이다
논쟁을 할 때 우리는 아이디어를 다툰다고 믿지만, 실제로는 상대의 자아를 건드리는 경우가 많습니다. 인지 부조화, 정체성 보호 인지, 역화 효과 같은 심리학을 통해 왜 옳은 논증이 오히려 상대를 완고하게 만드는지, 그리고 이기려 다투는 대신 무엇을 해야 하는지를 정리합니다.
2026-07-06 · 12 분 읽기 #communication#psychology#thinking#career2026 떠오르는 직무별 필요 지식 지도 — 무엇을 공부해야 하는가
AI/LLM 엔지니어, 플랫폼·DevOps/SRE, 보안 엔지니어, 데이터 엔지니어, 프론트엔드 — 지금 가장 수요가 높은 다섯 직무가 각각 어떤 지식을 요구하는지 체크리스트로 정리합니다. 직무를 관통하는 공통 역량과, 각 지식을 브라우저에서 바로 연습할 수 있는 도구·레퍼런스까지 함께 담았습니다. 면접 준비 편, AI 공부법 편과 이어지는 3부작의 1편입니다.
2026-07-06 · 15 분 읽기 #career#roadmap#skills#learningAI로 공부하는 법 — LLM을 최고의 튜터로 만드는 8가지 기법
AI에게 답을 받아 읽기만 하면 공부한 느낌만 남고 실력은 늘지 않습니다. 블룸의 2시그마 문제가 보여준 1:1 튜터링의 힘을 LLM으로 재현하는 방법 — 소크라테스식 튜터, 파인만 역할극, 퀴즈 생성, 오답 분석, 난이도 사다리, 모의 면접까지 — 학습과학(인출 연습·간격 반복)에 근거한 8가지 실전 기법과 바로 쓰는 프롬프트를 정리합니다. 3부작의 마지막 편입니다.
2026-07-06 · 16 분 읽기 #ai#learning#study#productivity복리의 법칙 — 배움과 인생에서 가장 강력한 힘
복리는 이자에 다시 이자가 붙는 현상입니다. 이 원리는 돈에만 머물지 않고 배움, 기술, 평판, 관계에도 똑같이 작동합니다. 작고 꾸준한 이득이 시간과 만나면 어떻게 거대한 차이를 만드는지, 왜 우리 직관은 그것을 잘 보지 못하는지, 그리고 복리가 나를 위해 일하도록 삶을 설계하는 방법을 차분히 살펴봅니다.
2026-07-05 · 24 분 읽기 #learning#compounding#habits#self-improvement세상을 읽는 사고의 도구 — 멘탈 모델
멘탈 모델은 복잡한 세상을 단순하게 추론하도록 돕는 사고의 틀입니다. 찰리 멍거의 격자형 사고, 제1원리 사고, 기회비용과 역발상 같은 고레버리지 모델, 그리고 모든 모델의 한계까지, 더 나은 결정을 위한 생각의 도구들을 차분하게 정리합니다.
2026-07-05 · 29 분 읽기 #thinking#mental-models#decision-making#first-principles