Black-Box-Inferenz von LLM-Architektur-Eigenschaften mit eingeschränktem API-Zugriff

In der Praxis geben die meisten kommerziellen LLM-Anbieter keine öffentlichen Details zu den zugrunde liegenden LLM-Architekturen frei. Frühere Arbeiten haben jedoch gezeigt, dass man bei begrenztem API-Zugriff auf ein LLM (nämlich Top-$k$-Logits und/oder eine Logit-Bias-Funktion) bestimmte…