SPICE: Einfache polysemantische Feature-Interpretation via Clustering-basierter Erklärung

arXiv:2609.13198v1 Ankündigungstyp: neu Zusammenfassung: Eine der zentralen aktuellen Herausforderungen in der Interpretierbarkeit neuronaler Netze ist Polysemantik, bei der ein einzelnes Neuron durch mehrere, oft unrelated Konzepte aktiviert wird, was ein klares funktionales Verständnis behindert. Obwohl vorherige Arbeiten dieses Phänomen untersucht haben…