AIダイエット失敗事件
Python·NumPy 기초 다음에 배우는 ONNX 배포 검증 과정입니다. 손글씨 모델을 양자화하고 보정 데이터 오류·혼동행렬·CPU 지연·RSS를 확인합니다. 실물 MCU/NPU 최적화나 전력 계측을 대신하지 않습니다.
중급 · 레슨 34 · 실습 10
커리큘럼
同じ数字でも単位が違った
- 同じ数字でも単位が違った reading
- クイズ：同じ数字でも単位が違った quiz
小さくしたAIが数字を読めなくなった
- 小さくしたAIが数字を読めなくなった reading
- クイズ：小さくしたAIが数字を読めなくなった quiz
小さなモデルの過大な性能主張を見抜く
- 小さなモデルの過大な性能主張を見抜く reading
- AIダイエット失敗事件 lab
- クイズ：小さなモデルの過大な性能主張を見抜く quiz
エクスポートで固まるもの
軸がひとつ固まるとバッチが通らない
- 軸がひとつ固まるとバッチが通らない reading
- 32件を入れたら拒否された — 死んだバッチ軸を生き返らせる lab
- クイズ: 動的な軸と固まった軸 quiz
グラフ最適化が変えるもの
動的量子化
- 較正データなしで — 動的量子化がグラフに施すこと reading
- 較正データなしで — 動的量子化を実測する lab
- クイズ: 動的量子化 quiz
較正データが範囲を決める
スケールとゼロ点
- スケールとゼロ点 — 量子化とは物差しを一本選ぶこと reading
- 物差しを自分で作る — スケール・ゼロ点・往復誤差 lab
- クイズ: スケールとゼロ点 quiz
精度低下の測り方
- 精度が0.3%下がったという報告はいつ意味を持つのか reading
- この差は再現する差か — 精度低下の測り方 lab
- クイズ: 精度低下の測り方 quiz
演算子ごとの対応と置き換え
実行プロバイダと誤差の蓄積
- 要求した実行プロバイダと実際に握ったものは違う reading
- 握ったものを数える — 実行プロバイダと誤差の蓄積 lab
- クイズ: 実行プロバイダと誤差の蓄積 quiz