KI skaliert schneller als das Vertrauen in die Daten

Künstliche Intelligenz (KI) ist in vielen Unternehmen längst aus der Experimentierphase herausgewachsen. Doch die Grundlagen für einen sicheren Betrieb halten mit dem Tempo nicht Schritt. Der neue globale Bericht „Data and AI Trust Gap“ von Veeam Software beschreibt eine Vertrauenslücke, die besonders große Unternehmen unter Druck setzt: 95 Prozent der befragten Führungskräfte geben an, dass Datenprobleme den KI-Fortschritt bereits bremsen.

Für die Studie wurden 600 Führungskräfte aus Unternehmen mit mehr als 500 Mitarbeitern befragt, darunter Chief Executive Officers (CEO), Chief Information Officers (CIO), Chief Information Security Officers (CISO) und Chief Data Officers (CDO). Die zentrale Aussage ist deutlich: KI wird schneller eingeführt, als Unternehmen sie kontrollieren, absichern und im Fehlerfall gezielt wiederherstellen können.

Viel Einsatz, wenig Reife

Obwohl 88 Prozent der Unternehmen bereits KI-Agenten einsetzen oder Pilotprojekte vorantreiben, gelten nur sieben Prozent als wirklich KI-bereit. Gerade autonome Agenten verschärfen das Risiko, weil sie nicht nur analysieren, sondern selbstständig handeln. Nur 28 Prozent der Unternehmen sind zuversichtlich, KI-Systeme erkennen zu können, die außerhalb genehmigter Parameter agieren.

Veeam-Chef Anand Eswaran bringt das Problem auf den Punkt: „Die meisten Unternehmen haben kein Problem mit der Einführung von KI; sie haben ein Problem mit dem Vertrauen in die KI.“ Die erste Phase sei von Infrastrukturinvestitionen, Experimenten und Beschleunigung geprägt gewesen. Die nächste Phase werde durch Vertrauen bestimmt.

Dazu gehört mehr als Modellqualität. Unternehmen müssen wissen, welche Daten KI nutzt, wer oder was darauf zugreift, wie Entscheidungen nachvollzogen werden und ob nach einem Vorfall eine präzise Wiederherstellung möglich ist. Genau hier liegt laut Studie die operative Schwäche.

Führungsebene sieht mehr Kontrolle als die Technik

Besonders auffällig ist die Wahrnehmungslücke zwischen Vorstand und operativen Teams. 65 Prozent der CEO glauben, über ein vollständiges KI-Inventar zu verfügen. Unter technischen Leitern sehen das nur 48 Prozent so. Auch beim Umgang mit Daten gehen Einschätzungen auseinander: 52 Prozent der CEO sehen ihr Unternehmen als aktiv führend, aber nur 41 Prozent der CISO und 38 Prozent der CIO stimmen dem zu.

Diese Lücke ist riskant, weil sie falsche Sicherheit erzeugt. 48 Prozent der CEO glauben, dass vertrauenswürdige, sichere und regelkonforme Daten ein Umsatzwachstum von mehr als 25 Prozent ermöglichen könnten. Zugleich stehen 83 Prozent unter Druck, KI- und Datenfähigkeiten schneller auszubauen. Wenn Transparenz, Verantwortlichkeiten und Kontrollen nicht mithalten, entstehen Ausfälle, die schwer zu erkennen und noch schwerer einzugrenzen sind.

KI-Ausfälle sehen anders aus

Mit agentenbasierter KI verschiebt sich das Ausfallbild. Es geht nicht mehr nur um klassische Systemstörungen, sondern um Fehler auf Daten- und Entscheidungsebene. Wenn ein Agent falsche Daten nutzt, unzulässige Aktionen ausführt oder Entscheidungen beeinflusst, kann der Schaden entstehen, bevor Sicherheits- und Betriebsteams überhaupt reagieren.

Die Zahlen zeigen die Schwäche: Nur 29 Prozent der Unternehmen könnten innerhalb weniger Minuten feststellen, auf welche Systeme zugegriffen wurde. Nur 25 Prozent könnten sofort erkennen, welche Maßnahmen ergriffen wurden. Welche Entscheidungen beeinflusst wurden, könnten 24 Prozent nachvollziehen. Welche Daten ein System verwendet hat, nur 22 Prozent.

Auch die Wiederherstellung ist problematisch. Lediglich 40 Prozent der Führungskräfte sind sehr zuversichtlich, einen Fehler agentenbasierter KI isolieren und präzise rückgängig machen zu können. Damit reicht klassische Resilienz nicht mehr aus. Gefragt ist eine punktgenaue Wiederherstellung betroffener Daten und Prozesse, ohne ganze Umgebungen pauschal zurückzusetzen.

Schatten-KI und Regulierung erhöhen den Druck

Im Inneren wächst der Druck durch unautorisierte KI-Nutzung. 95 Prozent der Unternehmen berichten davon, 93 Prozent sehen darin ein erhebliches Risiko. Dennoch bieten nur 25 Prozent genehmigte Alternativen an. Schatten-KI wird so nicht gesteuert, sondern oft nur verdrängt. 44 Prozent nennen sie bereits als größtes Sicherheitsrisiko.

Von außen kommt regulatorischer Druck hinzu. 61 Prozent der Unternehmen geben an, dass der European Union Artificial Intelligence Act (EU AI Act) ihre KI-Investitionsstrategien in den vergangenen 12 Monaten beeinflusst hat. Für 47 Prozent ist die Pflege von Audit-Trails für KI-Entscheidungen das größte Compliance-Anliegen.

Vertrauen braucht klare Verantwortung

Die Studie zeigt auch, dass fragmentierte Zuständigkeiten den Fortschritt bremsen. Wenn Daten, KI, Governance, Sicherheit und Compliance auf viele Teams verteilt sind, verschwimmt Verantwortung. Wo CISO für Risiken von KI-Agenten verantwortlich sind, erkennen Unternehmen schädliches KI-Verhalten mit 24 Prozent höherer Wahrscheinlichkeit. Bei geteilter Verantwortung sinkt diese Wahrscheinlichkeit um 47 Prozent.

Eswaran formuliert die Konsequenz deutlich: „Wenn 95 Prozent der Führungskräfte angeben, dass Herausforderungen rund um Daten ihren KI-Fortschritt bereits verlangsamen, ist nicht das Modell der Flaschenhals – es sind vertrauenswürdige, gut verwaltete und wiederherstellbare Daten.“

Der Bericht macht damit klar: Enterprise-KI braucht nicht nur mehr Rechenleistung und bessere Modelle. Sie braucht eine belastbare Vertrauensschicht aus Governance, Sicherheit, Transparenz und präziser Wiederherstellung. Nur dann lässt sich KI skalieren, ohne Betriebsrisiken, Compliance-Probleme und Reputationsschäden gleich mit zu vergrößern.

Um die vollständigen Umfrageergebnisse gibt es hier.

Weitere Artikel zum Thema: 

Resilienz statt Abwehr

„CEO Fraud“ ist die kostspieligste Online-Betrugsmasche

Wie Unternehmen KI wirklich produktiv nutzen