ResCom: Aktivierungs-Restausgleich für LLM-Quantisierung

arXiv:2610.35955v1 Ankündigung: Neue Arbeit. Abstract: Niedrig-Bit Gewicht-Aktivierungs-Quantisierung reduziert Speicher und Berechnung, die für die Bereitstellung großer Sprachmodelle notwendig sind, aber Aktivierungsrundung kann die Genauigkeit nach der Kalibrierung immer noch beeinträchtigen. Rekonstruktion aus gerundeten Eingaben kann Aktivierungen nicht unterscheiden