Schließung der Social-Semantic-Lücke: SPSD für kantenbasierte Prompt-Komprimierung in Cloud LLM Inferenz

arXiv:2606.19364v1 Ankündigungstyp: neu Abstract: Die Prefill-Phase von Large Language Model (LLM) Inferenz trägt zunehmend zu Cloud-Scale-Energiekosten bei. Viele Kundensupport- und Gesprächsprompts enthalten soziales Scaffolding: Höflichkeitsmarker, entschuldigende Einleitung, Wiederholung und Rapport.