Chancen und Risiken beim Einsatz von KI in KRITIS: KRITIS und KI: Fortschritt mit Nebenwirkungen

Hinweis: Dieser Artikel stammt aus der aktuellen Ausgabe der Zeitschrift IT-SICHERHEIT. Das komplette Heft können Sie hier herunterladen. (Registrierung erforderlich)

Künstliche Intelligenz (KI) gewinnt zunehmend an Bedeutung, um Cybersecurity in kritischen Infrastrukturen effizienter zu gestalten und den steigenden Anforderungen an Resilienz und Schutz gerecht zu werden. Besonders der Einsatz von KI-gestützten Anomalieerkennungssystemen ermöglicht eine schnellere Identifizierung verdächtiger Aktivitäten und eine automatische Reaktion. Die Fähigkeit, Muster zu erkennen und potenzielle Bedrohungen in Echtzeit zu analysieren, befähigt Unternehmen, Angriffe abzuwehren, bevor sie den Betrieb beeinträchtigen. Dabei sind jedoch hohe Anforderungen an die Zuverlässigkeit dieser Systeme zu berücksichtigen.

Die Implementierung von KI in KRITIS-Umgebungen erfordert allerdings eine sorgfältige Risikoabwägung und ein konsequentes Monitoring. Die Ansprüche an Datenschutz und Compliance sind hier erheblich, da KI-Systeme häufig auf umfangreiche Datensätze zugreifen müssen, um Bedrohungen wirksam erkennen zu können. Zudem ist die Zusammenarbeit zwischen Unternehmen, Herstellern und Behörden entscheidend, um KI-Lösungen optimal an spezifische Anforderungen anzupassen und kontinuierlich zu verbessern.

Hierbei spielt auch die Einbindung der Mitarbeiter eine Rolle, die durch gezielte Schulungen für den Umgang mit KI-gestützten Systemen sensibilisiert werden muss. Ein gemeinsamer Ansatz in der Cybersecurity, der auf Kooperation und den Austausch bewährter Methoden setzt, kann die Widerstandsfähigkeit kritischer Infrastrukturen jedoch nachhaltig stärken.

Bedrohungserkennung mit KI

Kritische Infrastrukturen sind aufgrund ihrer systemrelevanten Funktionen besonders anfällig für Cyberangriffe. Anders als konventionelle Unternehmen müssen KRITIS-Unternehmen in der Lage sein, Bedrohungen in Echtzeit zu erkennen und sofort zu reagieren, um die Funktionsfähigkeit essenzieller Versorgungsnetze sicherzustellen.

Herkömmliche signaturbasierte Erkennungsmethoden stoßen hier an ihre Grenzen, da sie nur bekannte Angriffsmuster identifizieren können. KI-gestützte Systeme bieten hier wesentliche Vorteile, da sie in der Lage sind, auch unbekannte Bedrohungen durch Verhaltensanalysen aufzuspüren und präventiv Maßnahmen zu ergreifen.

Im Zentrum moderner Bedrohungserkennung stehen maschinelles Lernen (ML) und Deep Learning, die es ermöglichen, aus großen Datenmengen Bedrohungsmuster zu erkennen und Anomalien zu identifizieren. KI-Systeme überwachen den Netzwerkverkehr, analysieren das normale Verhalten und reagieren auf Abweichungen, noch bevor es zu erheblichen Schäden kommt. Diese Lösungen basieren häufig auf Deep Neural Networks (DNNs), Convolutional Neural Networks (CNNs) oder Recurrent Neural Networks (RNNs), die für die kontinuierliche Verarbeitung und Analyse von Daten in Echtzeit optimiert sind.

Im Vergleich zu konventionellen Unternehmen profitieren KRITIS-Unternehmen besonders stark von KI-gestützter Bedrohungserkennung, da hier kurze Reaktionszeiten entscheidend sind. Ein Angriff auf Stromnetze oder das Gesundheitswesen hätte schwerwiegende Auswirkungen, da bereits kurze Ausfallzeiten die Sicherheit und Versorgung der Bevölkerung gefährden können.

So können KI-Systeme wie Microsoft Sentinel und AWS GuardDuty über eine Echtzeitanalyse von Log-Daten und Netzwerkverkehr verdächtiges Verhalten frühzeitig erkennen und Gegenmaßnahmen initiieren. In der Energieversorgung hilft etwa die SINEC-Security-Suite von Siemens dabei, Manipulationsversuche an industriellen Steuerungssystemen (Industrial Control System, ICS) zu erkennen und die Netzstabilität zu sichern. Das Gesundheitswesen profitiert von Lösungen wie Medigate/xDome, das medizinische Geräte schützt, deren Manipulation Patienten direkt gefährden könnte.

Spezifische Herausforderungen: Adversarial Attacks und Datenverfügbarkeit

Trotz ihrer vielen Vorteile bringt der Einsatz von KI in KRITIS-Umgebungen spezifische Herausforderungen mit sich. Ein besonderes Risiko stellen sogenannte Adversarial Attacks (deutsch: „feindliche Angriffe“) dar, bei denen Angreifer gezielt manipulative Eingaben verwenden, um KI-Modelle zu täuschen. Diese Angriffe können die Effektivität der Bedrohungserkennung erheblich beeinträchtigen.

Ein weiteres Problem ist die Datenverfügbarkeit und -qualität: KI-Systeme benötigen große Mengen an verlässlichen Daten, um akkurat zu arbeiten, was in regulierten KRITIS-Umgebungen oft schwierig zu gewährleisten ist. Regulatorische Anforderungen wie das IT-Sicherheitsgesetz setzen hohe Standards für den Datenschutz, was die Datenbeschaffung und -verarbeitung aufwendig macht.

Um den Herausforderungen gerecht zu werden, können KRITIS-Unternehmen auf eine Kombination aus robusten Trainingsdaten und KI-spezifischen Sicherheitslösungen setzen. Eine vielversprechende Maßnahme ist die Implementierung  adversarialer Trainingsmethoden, bei denen KI-Modelle gezielt auf manipulative Eingaben vorbereitet werden. Hierdurch lernen die Modelle, manipulative Muster zu erkennen und auf Täuschungsversuche entsprechend zu reagieren. Zusätzlich können Datenanonymisierungstechniken eingesetzt werden, um sensible Daten vorab zu schützen, ohne die Datenqualität für die Modellbildung zu beeinträchtigen.

KI-gestützte Videoüberwachung

Neben der Bedrohungserkennung ist die Perimetersicherung ein bedeutendes Einsatzgebiet für KI, da sie für Betreiber kritischer Infrastrukturen eine zentrale Herausforderung darstellt. Täter nutzen zunehmend ausgeklügelte Techniken, um herkömmliche Sicherheitssysteme zu umgehen.

Um solchen Taktiken entgegenzuwirken, setzen zahlreiche Unternehmen mittlerweile auf KI-gestützte Videoanalyse. Diese Systeme sind in der Lage, atypische Bewegungsmuster zu erkennen und so auch professionell agierende Eindringlinge zu detektieren. Durch kontinuierliches Training der KI mit realistischen Szenarien wird die Erkennungsrate stetig verbessert. Dies ermöglicht eine proaktive Sicherheitsstrategie, die über die Fähigkeiten konventioneller Überwachungssysteme hinausgeht und einen effektiven Schutz kritischer Infrastrukturen gewährleistet.

Drohnenerkennung und intelligente Zugangskontrollen

Zudem bieten weitere KI-gestützte Technologien zusätzliche Schutzmaßnahmen für KRITIS-Umgebungen. Eine wachsende Rolle spielt etwa die Drohnenerkennung, da Kriminelle, aber auch staatliche Akteure Drohnen zunehmend für unbefugte Überflüge und mögliche Sabotageakte in kritischen Infrastrukturen einsetzen. Mit KI-gestützten Radarsystemen und optischen Sensoren erkennen spezialisierte Lösungen verdächtige Drohnenaktivitäten und können Drohnenmodelle sowie deren Flugverhalten analysieren, um Sicherheitsmaßnahmen gezielt einzuleiten.

Ein weiteres Anwendungsfeld sind KI-gestützte Zugangskontrollsysteme, die biometrische Merkmale wie Gesichtserkennung oder Verhaltensmuster auswerten. Diese Systeme ermöglichen eine automatisierte Identitätsprüfung und verhindern unbefugte Zugriffe auf sicherheitskritische Bereiche. Solche Lösungen erkennen zudem verdächtige Verhaltensmuster in Echtzeit und geben Alarme aus, wenn ein Risiko identifiziert wird. In Verbindung mit der Perimetersicherung und der Drohnenerkennung schafft der Einsatz von KI so eine mehrschichtige Sicherheitsstrategie, die gezielt auf die einzigartigen Anforderungen von KRITIS-Unternehmen abgestimmt ist.

Vorteile interner KI-Server mit OpenSource-LLMS

Unabhängig davon, wofür KRITIS-Unternehmen künstliche Intelligenz einsetzen, ist der Betrieb eines internen, eigenen KI-Servers auf Basis von Open-Source-Sprachmodellen wie GPT-J oder LLaMA in jedem Fall vorteilhaft. Solche Lösungen können im eigenen Rechenzentrum betrieben werden, sodass sensible Daten die interne Infrastruktur nicht verlassen. Diese Datenhoheit minimiert das Risiko von Datenlecks und ermöglicht gleichzeitig die Adaption der KI-Modelle an unternehmensspezifische Bedrohungsszenarien.

Ein interner KI-Server bietet zudem Flexibilität in der Integration und Anpassung an bestehende Sicherheitsarchitekturen und erlaubt es, fortlaufend neue Bedrohungsszenarien zu trainieren und Modelle spezifisch für KRITIS-Umgebungen zu optimieren.

Zukunftstechnologien: Edge Computing und Federated-Learning

Eine vielversprechende Technologie, die KI-gestützte Sicherheit in KRITIS-Umgebungen revolutionieren kann, ist das Edge Computing. Während traditionelle Ansätze oft in zentralen Rechenzentren oder der Cloud verarbeitet werden, ermöglicht Edge Computing die Datenverarbeitung direkt an der Quelle, also in der Nähe der jeweiligen Infrastrukturkomponenten. Für KRITIS-Unternehmen bedeutet dies, dass sicherheitskritische Daten nicht mehr über Netzwerke an zentrale Standorte übertragen werden müssen.

Das reduziert nicht nur Latenzen erheblich, sondern minimiert auch das Risiko eines Datendiebstahls während der Übertragung. So können Stromnetzwerke oder industrielle Produktionsanlagen KI-gestützte Analysen lokal durchführen, um Anomalien sofort zu erkennen und Bedrohungen direkt vor Ort abzuwehren.

Ein weiteres zukunftsweisendes Konzept ist Federated-Learning, bei dem mehrere KI-Modelle in verschiedenen KRITIS-Standorten gleichzeitig trainiert werden können, ohne dass die Daten physisch übertragen werden müssen. Federated-Learning ermöglicht es, die KI-Modelle dezentral zu trainieren und dabei sensible Daten lokal zu halten.

Statt der Daten werden lediglich die trainierten Modellparameter geteilt, sodass die einzelnen Standorte von einer „kollektiven Intelligenz“ profitieren können. Diese Methode ist besonders relevant für KRITIS-Umgebungen, da sie Datenschutz- und Sicherheitsvorgaben erfüllt und gleichzeitig ein ständiges, gemeinsames Lernen ermöglicht.

Gerade für Branchen wie die Energieversorgung oder das Gesundheitswesen, wo strenge Datenschutzauflagen herrschen, bietet Federated-Learning eine effiziente Möglichkeit zur Nutzung moderner KI, ohne die Sicherheit und die Privatsphäre zu gefährden.

Risiken durch fehlende KI-Integration?

Ohne den Einsatz KI-gestützter Schutzmechanismen setzen sich KRITIS-Unternehmen erheblichen Risiken aus. Traditionelle Sicherheitssysteme, die nur bekannte Bedrohungsmuster erkennen, versagen oft bei komplexen und neuartigen Angriffen. Besonders gefährlich sind Ransomware und Attacken auf industrielle Steuerungssysteme, die komplette Versorgungsnetze lahmlegen können.

In Abwesenheit einer KI-gestützten Erkennung kann eine Bedrohung unkontrolliert Schaden anrichten, bevor sie identifiziert wird. KI-freie Systeme bieten Angreifern dadurch eine erhöhte Angriffsfläche und gefährden die Sicherheit und Resilienz der kritischen Infrastruktur – sowohl am Perimeter als auch innerhalb des Netzwerks.

Weitere Artikel zum Thema: 

Prozessoptimierung mit KI

Das kommende KI-Gesetz im Fokus

Cyber-Bedrohungen 2024: Trends und Ausblick