GEOSTEER: Geodätische Optimierung für Aktivierungs-Steuerung in großen Sprachmodellen

arXiv:2609.10658v1 Ankündigung: Neu. Zusammenfassung: Aktivierungs-Steuerung bietet eine leichtgewichtige Möglichkeit, große Sprachmodelle (LLMs) zu kontrollieren, indem ihre versteckten Aktivierungen zur Inferenzzeit modifiziert werden. Unter diesen Ansätzen zielt norm-erhaltende Steuerung darauf ab, das Modellverhalten zu ändern, ohne die Aktivierungen zu verändern