Der Fluch mehrerer Vermittler: Versteckte Wechselwirkungseffekte beim Activation Patching

arXiv:2606.27510v1 Ankündigung: Neue Arbeit. Abstrakt: Activation Patching ist das primäre Werkzeug der mechanistischen Interpretierbarkeit. Es ordnet kausale Verantwortung für ein Modellverhalten jedem einzelnen Komponenten zu, indem es seinen natürlichen indirekten Effekt (NIE) schätzt. Bei der Neuableitung des Activation Patching…