Lernen, überwacht zu werden: Kausale Grenzen und interventions-bewusste Post-Training-Rezepte für Chain-of-Thought-Überwachbarkeit

arXiv:2610.31733v1 Ankündigungstyp: neu Abstract: Chain-of-Thought-Überwachung (CoT) zielt darauf ab, potenziell schädliches Verhalten in LLMs aus ihren CoTs zu erkennen. Interventionsgestützte Evaluierungen messen diese Eigenschaft, indem sie fragen, ob ein Monitor die Rolle einer Intervention aus den Ergebnissen erkennen kann