DRIFT: Verfeinern von Instructionsdaten durch On-Policy Data Attribution

arXiv:2606.18307v1 Ankündigungstyp: neu. Zusammenfassung: Die Optimierung der Trainingsdatenverteilung für Supervised Fine-Tuning (SFT) bestimmt die Fähigkeiten von Large Language Models (LLMs). Während bestehende Datenkurierungsmethoden beim beschleunigten Training unter begrenzten Budgets hervorragend sind, sind sie weniger geeignet für