Eine ebenenweise Analyse des überwachten Fine-Tuning

arXiv:2604.11838v1 Ankündigungstyp: Neu Abstract: Obwohl kritisch für die Ausrichtung, birgt Supervised Fine-Tuning (SFT) das Risiko katastrophalen Vergessens, doch das schichtenweise Auftreten von Anweisungsfolge-Fähigkeiten bleibt unklar. Wir untersuchen diesen Mechanismus durch eine umfassende Analyse unter Verwendung…