タグ: #ieee754
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 1 件
浮動小数点：なぜ 0.1 + 0.2 は 0.3 ではないのか
ほとんどすべての言語で、0.1 + 0.2 は 0.3 ではない値を返します。バグではなく、IEEE 754 の設計どおりの結果です。2進浮動小数点がどう数を格納するのか、なぜ10進小数を2進で正確に表せないのか、イプシロン比較とお金の計算はどうすべきか、NaN・無限大・負のゼロの正体、そして累積誤差まで、浮動小数点の真実を土台から解きほぐします。
2026-06-20 · 23 分で読めます #floating-point#ieee754#fundamentals#numerics