EU-KI-Regeln: Warum saubere Modelle allein nicht reichen
Die EU verschärft Tests und Vorgaben für KI, doch technische Konformität schützt nicht vor schlechten Daten. Veraltete, doppelte oder irrelevante Informationen können selbst ein geprüftes Modell zu falschen Ergebnissen führen – und werden mit autonomen KI-Agenten zum Betriebsrisiko.
Mit dem Artificial Intelligence Act (AI Act) und dem neuen Aktionsplan für Cybersicherheit und künstliche Intelligenz baut die Europäische Union ihre Sicherheitsarchitektur für KI aus. Die Europäische Kommission kündigte im Juli unter anderem eine sichere Testplattform für fortschrittliche KI-Systeme in kritischen Sektoren an. Gemeinsam mit der Agentur der Europäischen Union für Cybersicherheit (ENISA) soll zudem ein Konzept für deren sicheren Einsatz entstehen.
Doch sichere Modelle allein ergeben noch keinen sicheren KI-Betrieb. Eine häufig unterschätzte Schwachstelle liegt tiefer: in den Daten, mit denen die Systeme arbeiten.
Neue Fristen, neue Testmöglichkeiten
Die EU hat den Zeitplan für Hochrisiko-KI inzwischen verlängert. Regeln für eigenständige Hochrisiko-Systeme etwa in Biometrie, kritischer Infrastruktur, Beschäftigung oder Migration gelten ab 2. Dezember 2027. Für Hochrisiko-KI, die Bestandteil regulierter Produkte ist, läuft die Übergangsfrist bis 2. August 2028.
Parallel sollen Tests, Leitlinien und Bewertungsmöglichkeiten ausgebaut werden. Das verbessert die technische Absicherung von Modellen. Es beantwortet jedoch nicht automatisch die Frage, welche Unternehmensinformationen eine KI später verarbeitet.
Wenn schlechte Daten sichere KI vergiften
Problematisch sind insbesondere sogenannte Redundant, Obsolete and Trivial Data (ROT): doppelte Dateien, veraltete Informationen und Daten ohne geschäftlichen Nutzen. Sie sammeln sich über Jahre in Fileservern, Kollaborationsplattformen und Cloud-Speichern. Fast 80 Prozent der Unternehmensdaten liegen heute in unstrukturierten Formaten vor – und viele dieser Bestände sind mit ROT-Daten durchsetzt.
Greift ein KI-System darauf zu, kann ein technisch einwandfreies Modell dennoch falsche Schlussfolgerungen ziehen. Ein veraltetes Vertragsdokument kann eine falsche Rechtslage suggerieren, mehrere Versionen derselben Richtlinie können widersprüchliche Antworten erzeugen und überholte Kundendaten Entscheidungen verfälschen.
Bei Retrieval-Augmented Generation (RAG) verschärft sich das Problem: Das Modell erhält gezielt Dokumente aus Unternehmensbeständen als Kontext. Sind bereits Retrieval und Datenbasis fehlerhaft, verarbeitet die KI den falschen Kontext besonders effizient.
KI-Agenten vergrößern die Folgen
Mit autonomen Agenten wächst das Risiko weiter. Ein klassischer Chatbot liefert möglicherweise nur eine falsche Antwort. Ein Agent kann daraus Aktionen ableiten – etwa Datensätze ändern, Tickets erstellen, Nachrichten versenden oder Geschäftsprozesse auslösen.
Damit wird Datenqualität zu einem Sicherheitsfaktor. Gefragt sind nicht nur Zugriffskontrollen, Verschlüsselung und Protokollierung, sondern auch Herkunft, Aktualität, Klassifizierung und Versionierung der verwendeten Informationen.
Auch wirtschaftlich ist ROT belastend: Nutzlose Daten müssen gespeichert, indiziert, durchsucht und gegebenenfalls für KI-Anwendungen aufbereitet werden. Dadurch steigen Cloud-, Vektor-Datenbank- und Rechenkosten, ohne dass daraus zusätzlicher Informationswert entsteht.
Compliance muss bis zur Datenquelle reichen
Der AI Act verlangt bei Hochrisiko-Systemen ohnehin ein systematisches Daten- und Risikomanagement. Für Unternehmen bietet es sich deshalb an, Modellprüfung und Datenhygiene zusammenzuführen: Datenbestände erfassen, Dubletten entfernen, veraltete Informationen kennzeichnen oder löschen sowie Herkunft und Gültigkeit relevanter Datensätze nachvollziehbar machen.
Die entscheidende Kontrollfrage lautet deshalb nicht nur: „Ist unser KI-System sicher?“ Ebenso wichtig ist: „Sind die Daten, auf deren Grundlage es entscheidet, aktuell, korrekt und vertrauenswürdig?“
Denn eine KI kann sämtliche technischen Tests bestehen – und im produktiven Betrieb trotzdem zuverlässig die falschen Daten verarbeiten.
Andre Troskie, EMEA Field CISO, Veeam Software
Newsletter Abonnieren
Abonnieren Sie jetzt IT-SICHERHEIT News und erhalten Sie alle 14 Tage aktuelle News, Fachbeiträge, exklusive Einladungen zu kostenlosen Webinaren und hilfreiche Downloads.
