标签: #distillation
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 1 篇
蒸馏会迁移什么、不会迁移什么 — 把 DeepSeek 蒸馏进 GPT-OSS，审查没有跟过来
2026 年 7 月 30 日发到 Show HN 上的 CTGT 实验报告说，以 DeepSeek V4 Flash 为教师、GPT-OSS 为学生蒸馏金融推理能力，结果能力过来了，政治审查没有过来。在 152 组配对上，教师在敏感问题与对照组之间表现出 45.45 分的审查落差，而学生只有 0.43 分和 3.94 分，停在基线上。本文不把这一个实验放大，只把它当作起点 — 因为蒸馏复制的是教师的输出分布，所以本文立起一套框架：观测
2026-07-31 · 18 分钟阅读 #ai#llm#distillation#alignment#open-weights