Lifted Representation Hypothesis in Language Models

arXiv:2607.19360v1 Ankündigungstyp: neu Zusammenfassung: Large Language Models (LLMs) beantworten Anfragen oft, indem sie einzelne Beobachtungen auf allgemeinere regelähnliche Strukturen abbilden. Es bleibt jedoch unklar, wie diese Strukturen gespeichert, ausgewählt und überarbeitet werden. Um diesen Prozess zu untersuchen, schlagen wir die Lifted-Representations-Hypothese vor