StateSMix: Online-Komprimierung ohne Datenverlust via Mamba State Space Models und Sparse N-gram Context Mixing

arXiv:2605.02904v1 Ankündigungstyp: neu Abstract: Wir präsentieren StateSMix, einen vollständig eigenständigen Kompressor ohne Datenverlust, der ein Online-trainiertes Mamba-artiges State Space Model (SSM) mit Sparse N-gram Context Mixing und arithmetischer Kodierung verbindet. Das Modell wird von Grund auf initialisiert und Token-für-Token trainiert