Kostenoptimales LLM-Routing mit begrenztem Nutzerfeedback unter Nutzerzufriedenheitsgarantien

arXiv:2606.19376v1 Ankündigungstyp: neu Abstract: Inferenzkosten für LLM-Anwendungen wachsen schnell aufgrund steigender Nachfrage und höherer Infrastrukturkosten. Benutzer erwarten hochwertige Antworten, und in kommerziellen Umgebungen wird dies formal in Service Level Agreements kodifiziert.