ReCoLoRA: Spektrum-bewusstes rekursives Konsolidieren für kontinuierliches LLM Fine-Tuning

arXiv:2607.07719v1 Ankündigungstyp: neu Abstract: Parameter-effizientes Fine-Tuning passt ein großes Sprachmodell günstig an eine Aufgabe an, aber über eine Aufgabensequenz hinweg stapeln LoRA-ähnliche Methoden Low-Rank-Updates auf demselben eingefrorenen Gewicht, so dass jede neue Aufgabe die vorherigen dazu neigt zu überschreiben. Wir präsentieren…