태그: #precision
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
부동소수점과 IEEE 754 완벽 해부 — 왜 0.1 + 0.2 ≠ 0.3 인가, NaN, 서브노멀, 통화 연산, bfloat16까지 (2025)
"0.1 + 0.2 = 0.30000000000000004"를 검색해본 적 없는 개발자는 없다. 하지만 그 뒤의 IEEE 754 표준을 제대로 아는 사람은 드물다. 부호/지수/가수의 비트 배치, NaN과 Infinity의 비트 레벨, 서브노멀이 느린 이유, 은행 잠깐 멈추게 만든 Intel FDIV 버그, 우주선을 폭발시킨 Ariane 5 사고, 그리고 현대 LLM을 움직이는 bfloat16
2026-04-15 · 32 분 읽기 #floating-point#ieee-754#numerics#precision#ml