ISACA: KI-Agenten handeln selbstständig – wer behält die Kontrolle?

Ein Agent priorisiert Tickets, stößt einen Prozess an und übergibt Teilaufgaben an weitere Systeme: Mit jedem Schritt wächst die Distanz zum ursprünglichen menschlichen Auftrag. Wer darf eingreifen, welche Berechtigungen gelten weiter und wer verantwortet das Ergebnis? Diese Fragen prägten die Europe Conference 2026 von ISACA, die am 9. Oktober in München endete. Rund 500 Teilnehmer aus über 50 Ländern diskutierten in mehr als 40 Sessions über Aufsicht, Risiken und digitales Vertrauen.

„Wer Aufgaben an einen KI-Agenten delegiert, delegiert damit nicht automatisch die Verantwortung“, sagte Chris Dimitriadis, Chief Global Strategy Officer von ISACA. Für Unternehmen folgt daraus eine konkrete Aufgabe: Sie müssen den Handlungsspielraum künstlicher Intelligenz (KI) vorab definieren und während des Betriebs kontrollieren können.

Berechtigungen brauchen ein Verfallsdatum

Ben Hanson, Experte für die Sicherheit von KI-Agenten bei Zenity, unterschied zwischen dem Schutz eines Agenten und der Steuerung seiner Handlungsmöglichkeiten. Berechtigungen sollten zeitlich begrenzt, an den jeweiligen Kontext gebunden und während der Ausführung widerrufbar sein. Zugleich müssten Kontrollmechanismen prüfen, ob einzelne Aktionen weiterhin dem erteilten Auftrag entsprechen.

Zur Aufsicht gehören auch die Dokumente und Wissensquellen, auf die ein Agent zugreift. Sie bilden die Grundlage seiner Entscheidungen. Ein Stoppmechanismus für einen einzelnen Agenten greift deshalb zu kurz: Bei delegierten Aufgaben muss die Kontrolle sämtliche beteiligten Systeme und Agenten erreichen.

Regeln müssen im Betrieb wirken

Daniel Manimbo von Schellman und Kevin Schawinski, Mitgründer und Unternehmenschef von Modulos, betrachteten KI-Governance auf drei Ebenen:

• Modell: die Ebene des zugrunde liegenden KI-Modells.
• System: das Verhalten der eingesetzten KI im laufenden Betrieb.
• Organisation: die unternehmensweite Steuerung und Verantwortung.

Ihr Schwerpunkt lag auf der Systemebene: Verhalten kontinuierlich überwachen, autonome Entscheidungen begrenzen und Zuständigkeiten entlang von Agentenketten zuordnen. Der Managementsystemstandard ISO 42001 müsse dafür in funktionierende Prozesse übersetzt werden. Bestehende Kontrollen sollten die Grundlage bilden, statt zusätzliche Parallelstrukturen aufzubauen.

Auch die Einschätzung der eigenen Fähigkeiten gehört dazu. „Frameworks wie das CMMI AI Maturity Model (CMMI AIM) helfen Organisationen dabei, ihren Reifegrad im Umgang mit KI zu bewerten“, erklärte Dimitriadis.

Echte Inhalte müssen belegbar bleiben

Henry Ajder, Gründer von Latent Space Advisory, beschrieb eine weitere Vertrauensfrage: Synthetische Inhalte erleichtern Täuschungen und nähren zugleich Zweifel an authentischen Aufnahmen. Selbst eine etablierte Reputation schützt eine Organisation damit nicht zuverlässig vor Glaubwürdigkeitsverlust.

Ajder plädierte für Content Credentials und nachvollziehbare Herkunftsnachweise. Sie sollen die Herkunft von Inhalten überprüfbar machen, auch wenn sie nicht jeden Zweifel ausräumen können.

Führung gehört zur Sicherheitsarchitektur

Monica Verma, Gründerin von Monica Talks Cyber, verknüpfte Cyberresilienz mit Personalentwicklung. Sicherheitsmaßnahmen scheiterten häufig, wenn die Menschen, die sie umsetzen sollen, zu wenig einbezogen würden.

Sarah Furness, ehemalige Staffelkapitänin der britischen Royal Air Force (RAF), ergänzte die Führungsperspektive: Unsicherheit liefere Informationen, Entscheidungen ließen sich trainieren und Fehler als Lernchancen nutzen. Für den Einsatz autonomer Agenten heißt das: Technische Eingriffsrechte entfalten ihren Nutzen erst, wenn zuständige Mitarbeiter Abweichungen erkennen, Entscheidungen treffen und aus Fehlentwicklungen lernen können.