LARA: Lightweight Adapter im Residual Stream für zusammensetzbare Anpassung und Alignment

arXiv:2607.28669v1 Wir präsentieren LARA (Lightweight Additive Residual Adaptation), eine Methode für effiziente Anpassung, die im Residual Stream eines gefrorenen Modells arbeitet statt in seinen Gewichten. Während LoRA ein Low-Rank-Update zu Gewichtsmatrizen hinzufügt, liest LARA die Aktivierungen