Prognose von Nebenwirkungen von Activation Steering

arXiv:2608.11227v1 Ankündigungstyp: neu Abstrakt: Activation Steering modifiziert ein Sprachmodell durch das Hinzufügen einer gelernten Richtung zu seinen verborgenen Aktivierungen, was gezielte Verhaltensänderungen ohne Neutraining ermöglicht. Obwohl wirksam, erzeugt Steering oft unbeabsichtigte Nebenwirkungen auf andere Verhaltensweisen…