Die Geometrie der Unwissenheit: LLMs wissen, wann sie Bayesian-Priors temperieren müssen

arXiv:2609.02959v1 Ankündigungstyp: neu Abstract: Was sagt ein Language Model voraus, wenn es nur wenige Anhaltspunkte hat? Die Antwort liegt in seiner Unembedding-Geometrie: Eine einzelne Richtung der Unembedding-Matrix kodiert die Unigramm-Verteilung des Trainingskorpus, die als Bayesian-Prior dient, den das Modell