Nexus: Tiefe-adaptive KV-Cache Splicing und Retrieval-entkoppeltes Tool Routing für Agentic LLMs auf Unified Memory

arXiv:2608.20397v1 Ankündigung: neu Zusammenfassung: Agentic Large Language Models (LLMs) auf dem Model Context Protocol (MCP) codieren verbose Tool-Schemas bei jedem Turn neu, sodass Prefill – quadratisch in der Sequenzlänge – Time-to-First-Token (TTFT) dominiert, wenn die Tool-Registry wächst. Nexus’s primärer Hebel ist…