Boltzmann Attention: Lernbare Ising-Kopplungen für kooperative Aufmerksamkeit

arXiv:2606.12478v1 Ankündigungstyp: neu Abstract: Attention-Mechanismen sind zentral für moderne Sequence-Modelle, doch standardmäßige Attention berechnet Relevanz primär durch einzelne Query-Key-Ähnlichkeiten. Obwohl Softmax-Normalisierung Konkurrenz zwischen Positionen einführt, führt standardmäßige Attention zu a