Wie Query-Sichtbarkeit KV-Cache-Komprimierungsrankings verändert: Ein Matched-Budget-Audit

arXiv:2607.11942v1 Ankündigungstyp: neu Abstract: KV-Cache-Kompressionsmethoden werden überwiegend mit der an den Kontext angehängten Query vor der Komprimierung evaluiert – ein Query-bewusstes Protokoll. Doch das wirtschaftliche Argument für einen komprimierten KV-Cache ist Wiederverwendung: komprimiere ein Dokument einmal, beantworte viele zukünftige Fragen…