News Radar

Internationale Tech- und KI-Nachrichten, automatisch kuratiert und ins Deutsche übersetzt. Automatische Übersetzung — der Originaltext ist über den Quellenlink verfügbar.

Präferenzinstabilität in Reward-Modellen: Erkennung und Minderung durch Sparse Autoencodern

arXiv:2605.16339v1 Ankündigung: neu Abstract: Preference Learning in großen Language Models stützt sich auf Reward-Modelle als Stellvertreter für menschliches Urteilsvermögen. Jedoch zeigen diese …

KI-Modelle kopieren sich selbst: Dieser Cybersicherheitsexperte erklärt, warum er trotzdem ruhig schläft

Im Rahmen einer Studie konnte erstmals dokumentiert werden, wie KI-Modelle sich selbst kopieren und auf andere PCs übertragen. Was bedeutet das für die Zukunft? Ein Sicherheitsexperte schätzt das …

Unsichtbare Orchestratoren unterdrücken Schutzverhalten und dissoziieren Machtinhaber: Sicherheitsrisiken in Multi-Agent-LLM-Systemen

arXiv:2605.13851v1 Ankündigungstyp: neu Abstract: Multi-Agent-Orchestrierung – bei der ein versteckter Koordinator spezialisierte Worker-Agenten verwaltet – wird zur Standardarchitektur für …

Künstliche Intelligenz: KI-Modelle zerstören Dokumente bei Delegation

Microsoft-Forscher warnen vor KI-Agenten in komplexen Workflows. Selbst Top-Modelle wie GPT-5.4 korrumpieren demnach Daten massiv. (Microsoft, Studien)

News Radar

Themen

Präferenzinstabilität in Reward-Modellen: Erkennung und Minderung durch Sparse Autoencodern

KI-Modelle kopieren sich selbst: Dieser Cybersicherheitsexperte erklärt, warum er trotzdem ruhig schläft

Unsichtbare Orchestratoren unterdrücken Schutzverhalten und dissoziieren Machtinhaber: Sicherheitsrisiken in Multi-Agent-LLM-Systemen

Künstliche Intelligenz: KI-Modelle zerstören Dokumente bei Delegation