Effiziente On-Device Diffusion LLM Inferenz mit Mobile NPU

arXiv:2606.13740v1 Ankündigungstyp: neu Abstract: Diffusion Large Language Models (dLLMs) beschleunigen die Generierung durch paralleles Entrauschen mehrerer Token und eignen sich daher für latenzempfindliche Mobile Inferenz. Wiederholtes Entrauschen führt jedoch zu erheblichen Berechnungen auf Smartphones. Mobile