PermDoRA -- Verständnis von Adapter-Interferenz in Sprachmodellen: Grenzen der Parameterraum-Geometrie

arXiv:2606.11262v1 Ankündigungstyp: neu Abstract: Zugriffskontrolle in großen Sprachmodellen (LLMs) erfordert modulare Mechanismen, um domänenspezifisches Verhalten ohne erneutes Training oder domänenübergreifende Interferenz zu ermöglichen. Eine häufige Hypothese ist, dass Interferenz während der Adapter-Zusammensetzung aus einer Überlappung in der Parameterliste entsteht