KI-Agenten brauchen eine Return-Taste

Der „Human in the Loop“ galt lange als Sicherheitsnetz für Künstliche Intelligenz (KI): Ein Mensch prüft Ergebnisse, genehmigt Aktionen oder stoppt problematisches Verhalten. Bei Large Language Models (LLMs), die hauptsächlich Texte erzeugten, funktionierte dieses Prinzip noch vergleichsweise gut.

Autonome KI-Agenten verändern die Lage grundlegend. Sie können Beiträge veröffentlichen, Daten verändern, Anwendungen steuern oder Geschäftsprozesse auslösen – und das in Maschinengeschwindigkeit. Ein Fehler bleibt damit nicht zwangsläufig ein falscher Vorschlag. Er kann sich innerhalb von Sekunden durch mehrere Systeme fortpflanzen.

Wenn der Mensch den Fehler sieht, ist er oft schon passiert

Genau hier stößt menschliche Kontrolle an Grenzen. Ein Mitarbeiter kann einzelne Entscheidungen prüfen. Er kann aber kaum Hunderte automatisierte Aktionen in Echtzeit nachvollziehen.

Die Folgen können erheblich sein: fehlerhafte Transaktionen, unterbrochene Prozesse, veränderte Datenbestände oder beschädigte Backups. Besonders kritisch wird es, wenn Agenten mehr Rechte besitzen, als sie für ihre eigentliche Aufgabe benötigen.

Nach jüngsten Erhebungen von McKinsey experimentieren bereits mehr als 60 Prozent der Unternehmen mit KI-Agenten. Zugleich sollen 97 Prozent der Agenten über übermäßige Berechtigungen verfügen. Hinzu kommt eine stark wachsende Zahl nichtmenschlicher Identitäten.

Das Problem lautet deshalb nicht mehr nur: Trifft die KI die richtige Entscheidung? Ebenso wichtig ist die Frage: Was passiert, wenn sie die falsche Entscheidung bereits ausgeführt hat?

Zero Trust muss näher an die Daten

KI-Agenten greifen häufig auf weit mehr zu als auf sauber strukturierte Datenbanken. Je nach Berechtigung erreichen sie auch Chatverläufe, Dokumente, alte Dateiversionen oder falsch klassifizierte Informationen.

Klassische Zero-Trust-Ansätze schützen vor allem Identitäten, Geräte und Zugriffe. Bei agentischen Systemen reicht das allein nicht aus. Richtlinien müssen stärker direkt an den Daten greifen.

Klassifizierung und Maskierung können beispielsweise dafür sorgen, dass ein Agent bestimmte Informationen zwar findet, sensible Inhalte aber nicht lesen oder verändern darf. Besonders kritisch sind sogenannte Schatten-Agenten, deren Berechtigungen und Datenzugriffe außerhalb der etablierten Governance liegen.

Ein kompletter Restore ist oft zu grob

Wenn KI-Agenten Fehler in Sekunden vervielfachen, wird der klassische Restore schnell selbst zum Risiko. Wird ein ganzes System auf einen früheren Stand zurückgesetzt, verschwinden möglicherweise nicht nur die fehlerhaften Änderungen des Agenten, sondern auch alle legitimen Änderungen danach.

Deshalb braucht agentische KI eine präzisere Form der Wiederherstellung.

Systeme müssten nachvollziehen können, welcher Agent welches Objekt wann verändert hat, welche Datensätze betroffen sind und welche weiteren Änderungen daraus entstanden sind. Anschließend ließen sich gezielt nur die problematischen Aktionen zurücknehmen.

Genau das wäre die Return-Taste für KI-Agenten: kein grober Komplett-Rollback, sondern ein gezieltes Rückgängigmachen einzelner Änderungen.

Kontrolle allein reicht nicht mehr

Der Mensch bleibt für Aufsicht, Regeln und Freigaben unverzichtbar. Doch als alleinige Sicherheitsbarriere ist der „Human in the Loop“ für autonome Agenten zu langsam.

Unternehmen brauchen deshalb drei Schutzebenen:

• möglichst geringe Berechtigungen,
• Governance direkt an den Daten und
• eine präzise Wiederherstellung auf Änderungsebene.

Denn Fehler von KI-Agenten lassen sich nicht vollständig verhindern. Entscheidend ist, dass aus einer falschen Aktion kein großflächiger Betriebsstillstand wird – sondern ein Vorgang, der sich gezielt zurückdrehen lässt.

Weitere Artikel zum Thema:

Welche KI-Agenten in der Cybersicherheit hilfreich sind

Warum Unternehmen ihre KI-Agenten wie Mitarbeiter verwalten sollten

KI-Agenten in Unternehmen verfünffacht