Prozedurale Kenntnisse sind nicht Low-Rank: Warum LoRA beim Internalisieren von mehrstufigen Verfahren scheitert

arXiv:2607.21612v1 Parameter-effiziente Fine-Tuning-Methoden wie LoRA sind zum Standard für die Anpassung von Large Language Models geworden und funktionieren über Instruction Following, Style Transfer und faktische Anpassung hinweg. Wir zeigen, dass für prozedurale Kenntnisse – die Fähigkeit, mehrstufige Verfahren zu befolgen…