Datenvorhersagbarkeit prägt das Weibull-Gewichtsskalen-Wachstum beim Transformer-Training

arXiv:2608.23573v1 Ankündigungstyp: neu Abstract: Die Gewichtsmagnitudinen eines trainierten Transformers können durch eine zweiparametrige Weibull-Verteilung zusammengefasst werden, deren Form k ≈ 1,2 über Schichten und Modelle stabil ist, sodass die Skala λ die meisten trainungsinduzierten Bewegungen trägt. Welche Korpus-Eigenschaft setzt