Sphere Retraction Normalizations

arXiv:2608.02668v1 Residuale Verbindungen sind der de-facto-Mechanismus für das stabile Training tiefer neuronaler Netze. Geodesic Normalization (GeoNorm) stellt sie auf einer Riemannschen Mannigfaltigkeit dar, orthogonalisiert jeden Layer-Output gegen den aktuellen versteckten Zustand und wendet das Ergebnis an.