Überprüfe vor dem Distillieren: Prompt-Level Teacher Gating für On-Policy Distillation

arXiv:2609.02998v1 Ankündigungstyp: neu Abstract: On-Policy Distillation (OPD) beschleunigt das Post-Training durch dichte Token-ebene Supervision von einem eingefrorenen Teacher auf den eigenen Rollouts des Students. Vanilla OPD wendet diese Supervision einheitlich über Prompts an, ohne zu überprüfen, ob der Teacher