Optimierung gegen Sicherheitsdarstellungen: Aktivierungs-gesteuerte adversariale Suffixe und die Geometrie der Verweigerung

arXiv:2607.08883v1 Behavioral Alignment in großen Sprachmodellen maskiert oft fragile interne Sicherheitsdarstellungen. Jüngste Arbeiten deuten darauf hin, dass Verweigerungsverhalten durch niedrig-dimensionale Richtungen im Aktivierungsraum vermittelt wird.