ObserverBench: Testen mechanistischer Schätzungen für Intervention und Kontrolle

arXiv:2609.03026v1 Ankündigungstyp: neu Abstract: Mechanistische Interpretierbarkeit wird zunehmend verwendet, um Interventionen wie Activation Steering, Circuit Removal und Safety Monitoring zu lenken. Doch eine interne Schätzung, die im Durchschnitt genau ist, kann immer noch eine schlechte Aktion wählen. Wir präsentieren ObserverBench