Die Zukunft der Sicherheitsschulung: KI-Chatbots für mehr Security-Awareness

Hinweis: Dieser Artikel stammt aus der Ausgabe 1/2025 der Zeitschrift IT-SICHERHEIT. Das komplette Heft können Sie hier herunterladen. (Registrierung erforderlich)

In der digitalen Ära sind Cybersicherheit und IT-Awareness essenzieller denn je, da sie durch geopolitische Spannungen und die fortschreitende Digitalisierung stetig an Bedeutung gewinnen. Vorschriften wie das NIST Cybersecurity Framework 2.0 der USA und die NIS-2-Richtlinie der EU unterstreichen die Dringlichkeit für Organisationen, ihre Abwehr gegen Cyberangriffe zu verstärken und Sicherheitsstandards zu vereinheitlichen.

Ein entscheidender Faktor in dieser Verteidigung ist der Mensch, dessen Fehlverhalten bis zu 68 Prozent[1] der Cyberattacken auslösen kann. Traditionelle Lernmethoden zur Schulung der IT-Awareness stoßen hierbei zunehmend an ihre Grenzen. Dies liegt daran, dass sie individuelle Lernstile vernachlässigen und wenig Flexibilität bieten, um auf die dynamischen Veränderungen der Bedrohungslandschaft zu reagieren. Um eine effektive Cybersicherheitsausbildung der nächsten Generation zu gewährleisten, sind jedoch innovative Bildungsansätze unerlässlich, die auf adaptive, personalisierte und praxisorientierte Lernmethoden setzen.

Probleme bisheriger Online-Lernplattformen

Viele aktuelle Online-Lernplattformen für Cybersicherheits-Trainings als auch Unternehmen verwenden traditionelle Lehrmethoden wie PowerPoint-Präsentationen, Lernvideos und Multiple-Choice-Tests, die wenig Raum für individuelle Anpassungen lassen. Dies führt zu geringer Motivation und unzureichenden Lernergebnissen, da die Lernbedürfnisse der Nutzer oft unberücksichtigt bleiben. Ein weiteres Problem ist die mangelnde Interaktivität und Praxisorientierung. Diese Ansätze setzen daher auf passive Wissensaufnahme. Das erschwert es den Lernenden, praktische Fähigkeiten zu entwickeln, die für die Abwehr von Cyberangriffen entscheidend sind.

Überdies sind viele Plattformen nicht flexibel genug, um sich an die sich rasch verändernden Bedrohungsszenarien anzupassen. Veraltete Inhalte beeinträchtigen die Wirksamkeit der Ausbildung. Auch die fehlende Personalisierung und das Fehlen von Gamification-Elementen mindern das Lernerlebnis, da standardisierte Kurse nicht auf die individuellen Bedürfnisse und Motivationen der Nutzer eingehen. Ein moderner und innovativer Ansatz ist notwendig, um diese Schwächen zu überwinden und die Fachkräfte auf aktuelle und zukünftige Cyberbedrohungen vorzubereiten.

Chancen von KI-Chatbots

Ein solcher Ansatz ist die Nutzung von KI-Chatbots. Sie bieten erhebliche Chancen für die Cybersicherheitsausbildung, indem sie personalisierte, flexible und skalierbare Lernumgebungen schaffen, die herkömmliche Methoden übertreffen. Sie interagieren in natürlicher Sprache, passen sich an individuelle Lernbedürfnisse an und geben sofortiges Feedback, was das Verständnis komplexer Konzepte erleichtert.

Die Chatbots dienen als wertvolle Wissensressourcen, die die Lernenden kontinuierlich unterstützen und auf dem neuesten Stand halten. Durch den Einsatz fortschrittlicher Algorithmen und Modelle zur Klassifizierung von Absichten können sie die Idee hinter den Anfragen genau erfassen und maßgeschneiderte Antworten liefern.

Die Forschungsgruppe Tihanyi et al. hat im Januar 2024 in der Studie „CyberMetric: Creating a Benchmark Dataset RAG with Human Validation for Evaluating Cybersecurity Knowledge of LLM“ gezeigt, dass generative Large Language Models (LLMs), wie GPT-4, GPT-3.5, GEMINIpro, Falcon-180B und Zephyr-7B, menschliches Expertenwissen in Benchmark-Vergleichstests übertreffen können.

Neben diesen Vorteilen ist es wichtig, die potenziellen Risiken wie Fehlentscheidungen und Fehlinformationen im Auge zu behalten. Um die Zuverlässigkeit und Sicherheit der Informationen zu gewährleisten, sind daher robuste Qualitätskontrollen unerlässlich.

Auch das Produkthaftungsrecht muss beim Einsatz von KI-Chatbots in der Praxis beachtet werden, da Fehlentscheidungen und Fehlinformationen von KI-Chatbots aufgrund unzureichender Datenqualität oder algorithmischer Fehler zu Haftungsansprüchen führen können. Das gilt besonders bei schwerwiegenden Folgen wie Personenschäden, Schäden an Infrastrukturen sowie Ausfällen von Dienstleistungen und Produktionen.

Insgesamt verfügen KI-Chatbots also über das Potenzial, die Cybersicherheitsausbildung grundlegend zu verbessern, müssen aber sorgfältig implementiert und überwacht werden, um ihren vollen Nutzen zu entfalten.

Gamification und Spielertypen

Das tief verwurzelte menschliche Bedürfnis zu spielen ist nicht nur ein zentraler Bestandteil unserer persönlichen Entwicklung und unseres psychischen Wohlbefindens, sondern bietet auch große Potenziale für Bildungsprozesse. Auch in der Cybersicherheitsausbildung kann Gamification, also die Anwendung von spielerischen Elementen in einem nicht spielerischen Kontext, eine effektive Methode zur Steigerung des Engagements und der Motivation der Lernenden sein. Gamification nutzt dabei die natürlichen Anreize des Spielens, um das Lernen zu fördern und zu vertiefen, und lässt sich durch eine differenzierte Vermittlung mithilfe von verschiedenen Spielertypen besonders effektiv gestalten.

Das Spielen erfüllt grundlegende psychische Bedürfnisse, die über alle Altersgruppen hinweg von Bedeutung sind. Es dient nicht nur der Unterhaltung, sondern unterstützt auch die kognitive und emotionale Entwicklung, fördert soziale Interaktionen und bietet eine Plattform für den Ausdruck von Kreativität und Autonomie. Durch Spielen können Menschen ihre Fähigkeiten testen, Herausforderungen bewältigen und Anerkennung sowie Belohnungen erfahren, die ihre intrinsische Motivation unterstützen.

Diese psychologischen Mechanismen machen Gamification zu einem kraftvollen Werkzeug, um Lerninhalte ansprechend und nachhaltig zu vermitteln. Das Einbinden von Gamification im Rahmen einer Cybersicherheitsausbildung kann daher dazu beitragen, komplexe und oft abstrakte Konzepte greifbarer zu machen, indem sie sie in herausfordernde, interaktive und praxisnahe Szenarien einbettet. Das fördert nicht nur ein tieferes Verständnis, sondern erhöht auch die Bereitschaft der Lernenden, sich intensiver mit den Lerninhalten auseinanderzusetzen.

Steigerung der Personalisierung

Um die Wirksamkeit von Gamification in Lernumgebungen zu maximieren, ist es entscheidend, die unterschiedlichen Motivationen und Präferenzen der Lernenden zu berücksichtigen. An dieser Stelle bietet die HEXAD-Typologie von Marczewski ein wertvolles Framework. Diese Typologie unterscheidet sechs Hauptspielertypen — Achiever, Socialiser, Philanthropist, Free Spirit, Player und Disruptor — die jeweils durch unterschiedliche intrinsische oder extrinsische Motivationen und veränderungsorientierte Verhaltensweisen gekennzeichnet sind.

Die Anpassung einer Lernplattform beziehungsweise ihrer Lernmethoden an diese Spielertypen ist daher ein wichtiger Bestandteil einer volladaptiven Lernplattform, da die tatsächliche Nutzermotivation in den Lernprozess einfließen kann. Zum Beispiel könnte ein Player durch das Einbinden eines Leaderboards und das Freischalten von Abzeichen motiviert werden, während ein Socialiser durch teamorientierte Aufgaben und soziale Interaktionen angespornt wird.

Marczewskis HEXAD-Typologie bietet spezifische Gamification-Elemente, die auf die verschiedenen Spielertypen zugeschnitten sind:

• Achiever: Ziele setzen und verfolgen, Fortschrittsanzeigen, Level/Stufen, Bestenlisten/Leaderboards, Statistiken, Zertifikate, Auszeichnungen und Anerkennung
• Socialiser: Team- und Gruppenarbeit, soziale Funktionen und Entdeckungen, sozialer Status, Diskussionsforen sowie Peer-Feedback
• Philanthropist: Kooperative Herausforderungen, Aufgaben im Team, ein Forum zum Austausch von Erfahrungen/Wissen, Schenken, Wissensspenden und administrative Rollen
• Free Spirits: Nicht-lineare Lernpfade, kreative Herausforderungen, Personalisierungsoptionen und Anpassungsmöglichkeiten, Erkundungsaufgaben und Kreativitäts-Tools
• Player: Punktesysteme, Ranglisten, Leaderboards, (virtuelle) Belohnungen, Preise und Abzeichen
• Disruptor: gezielt neue Ideen/Aufgaben vorstellen, testen und evaluieren lassen, Erkundungsaufgaben, regelmäßige Umfragen, Abstimmungen, Feedback und Entwicklungswerkzeuge

Diese Feststellungen ermöglichen die Entwicklung ansprechender und motivierender Gamification-Lösungen, die ein breites Benutzerspektrum abdecken. Durch die zielgerichtete Ansprache unterschiedlicher Spielertypen kann die Cybersicherheitsausbildung  nicht nur effektiver, sondern auch erheblich motivierender gestaltet werden.

Technische Grundlagen

Mithilfe dieser Erkenntnisse entwickeln Forscher die technischen Grundlagen für eine Lernplattform der nächsten Generation. Schon von Beginn an wurden die Prinzipien von Security-by-Design und Privacy-by-Design berücksichtigt, um den höchsten Standards in Bezug auf Datensicherheit und Datenschutz gerecht zu werden. Die Plattform ist darauf ausgelegt, die Privatsphäre der Nutzer zu schützen und gleichzeitig eine sichere und effiziente Lernumgebung zu bieten. Beteiligt am Projekt sind die Hochschule Darmstadt, insbesondere das Forschungszentrum Angewandte Informatik sowie das Nationale Forschungszentrum für angewandte Cybersicherheit ATHENE.

Die Lernplattform implementiert fortschrittliche Verschlüsselungstechniken, um sicherzustellen, dass alle sensiblen Nutzerdaten vor unbefugtem Zugriff geschützt sind. Durch die Anwendung dieser Technologien wird die Vertraulichkeit, Integrität und Verfügbarkeit der Daten gewährleistet, selbst im Angesicht zukünftiger Bedrohungen durch Quantencomputer.

Die Integration von DevSecOps-Prozessen ermöglicht es, Sicherheitsüberprüfungen kontinuierlich durchzuführen und sicherzustellen, dass die Plattform stets den aktuellen Sicherheitsstandards entspricht. Ein Ziel der Forscher ist es, die Algorithmen so zu konfigurieren, dass nur die notwendigen Informationen über die Nutzer erhoben und verarbeitet werden, um den Schutz der Privatsphäre weiter zu erhöhen.

Darüber hinaus wird Supervised Machine Learning (SML) und Unsupervised Machine Learning (UML) eingesetzt, um die Lernpfade der Nutzer zu optimieren. Ziel ist es, durch die Analyse von historischen als auch vom Nutzer produzierten Nutzungsdaten Muster zu erkennen, wodurch die Lernpfade und damit auch Lerninhalte individuell angepasst werden sollen.

Die User-Experience (UX) als auch das User-Interface (UI) wird in regelmäßigen Nutzertests bei der Einbindung neuer Funktionalitäten in die Plattform mittels des modularen UEQ+-Fragebogens gemessen, um kontinuierlich Verbesserungen in Bereichen wie Vertrauenswürdigkeit, Nützlichkeit und Effizienz zu erzielen.

Diese technischen Grundlagen gewährleisten nicht nur eine robuste und sichere Lernplattform, sondern auch eine, die sich durch hohe Benutzerfreundlichkeit und maßgeschneiderte Lernerfahrungen auszeichnet.

Demonstrator

Der aktuelle Demonstrator der KI-basierten Lernplattform bietet im Testbetrieb eine umfassende und bereits teilweise personalisierte Lernumgebung. Derzeit befinden sich 18 Kurse auf der Plattform in der Entwicklung, wobei diese durch die Analyse aktueller IT-Bedrohungsszenarien sowie in Absprache mit Pilotkunden laufend angepasst werden.

Nach der Registrierung wird der Spielertyp des Nutzers basierend auf dem HEXAD-Modell durch einen standardisierten Fragebogen erfasst. Auf Basis dieses Ergebnisses können so schon personalisierte UI-Elemente bereitgestellt werden. Zudem wird ein erstes Clustering vorgenommen, um schon zu Beginn des Lernpfades optimale Lernmethoden vorschlagen zu können. Es ist daher entscheidend, eine möglichst genaue Erfassung des Spielertyps sicherzustellen, weshalb das Feedback des Nutzers in die Erkennung des Spielertyps mit einbezogen wird.

Die Lerninhalte der Plattform sind in Fachthemen, Subthemen und die konkreten Lerninhalte unterteilt. Nach der Auswahl eines Fachthemas wird zunächst ein Einstufungstest durchgeführt, um die Kompetenzen als auch mögliche Wissenslücken des Nutzers zu identifizieren. Durch die nachfolgende Auswahl eines Subthemas erhält der Benutzer einen konkreten Überblick über die Lerninhalte des Subthemas. Hierbei kann durch die Lernplattform die Reihenfolge der Subthemen personalisiert werden. Sollte beispielsweise durch das System registriert werden, dass bereits ein hohes Vorwissen vorliegt, könnten Grundlagen-Lerninhalte übersprungen und der Nutzer direkt zum Abschlusstest weitergeleitet werden.

Eine der Lernmethoden, die dem Nutzer zur Verfügung stehen, ist das Lernen mit dem KI-Chatbot. Hierbei kann er sowohl mithilfe einer Mindmap als auch mit offenen Fragen ein Lerngespräch führen. Hierzu wurde im Rahmen des Forschungsprojektes ein eigener Chatbot auf Basis von PyTorch entwickelt und die Wirksamkeit der Chatbots in einer wissenschaftlichen Ausarbeitung nachgewiesen. Nutzerstudien haben jedoch gezeigt, dass sich durch den weitverbreiteten Einsatz bekannter LLM-basierter Chatbots wie ChatGPT die Nutzererwartungen an die Funktionalitäten eines Chatbots angepasst haben. Deswegen wird auch die neueste Version der Chatbots des Demonstrators LLM-basiert sein.

Die Anzahl von verschickten Phishingmails und damit auch das Risiko, Opfer Phishing-Versuchs zu werden, ist in den vergangenen Jahren stetig gestiegen[2], weshalb auch durch den Demonstrator Präventionsmaßnahmen mithilfe von Phishing-Kampagnen prototypisch getestet wurden. Diese simulierten Angriffe werden verwendet, um das Bewusstsein und die Reaktionsfähigkeit der Mitarbeitenden in realitätsnahen Szenarien zu testen.

Die Ergebnisse der Phishing-Kampagnen zeigen nicht nur Wissenslücken bei den Anwendern auf. Sie können auch genutzt werden, um zu validieren, dass IT-Awareness-Wissen und Lernerfolge nicht nur kurzfristig, sondern auch langfristig bestehen bleiben. Damit können diese Ergebnisse einen wertvollen Einblick in die Wirksamkeit von Schulungen geben und dabei helfen, gezielte Maßnahmen für die weitere Sensibilisierung und Schulung zu ergreifen.

Fazit

Insgesamt besteht das Ziel darin, die IT-Sicherheitsausbildung von Mitarbeitenden durch den  Einsatz künstlicher Intelligenz nachhaltig zu optimieren. Eine KI-gestützte Lernplattform kann künftig personalisierte Lernpfade erstellen, die auf individuelle Spielertypen abgestimmt sind, und so eine maßgeschneiderte sowie effektive Lernumgebung bieten. Ergänzend dazu ermöglicht die Integration von Phishing-Kampagnen eine kontinuierliche Überprüfung der Lernerfolge und trägt langfristig zur Stärkung der IT-Sicherheit in der Organisation bei.

Zusammenfassend bietet die KI-basierte Lernplattform für IT-Awareness:

• Personalisierung: Individuelle Lernpfade, basierend auf Spielertypen, maximieren die Motivation und den Lernerfolg.
• Flexibilität: Niedrigschwelliges Lernen durch KI-Chatbots fördert kontinuierliche IT-Awareness.
• Langfristige Effektivität: Phishing-Kampagnen stellen sicher, dass das Gelernte nicht nur verstanden, sondern auch in der Praxis angewendet wird.
• Sicherheit und Datenschutz: Durch Security-by-Design, Privacy-by-Design und Verschlüsselung aller nicht aktiven Nutzerdaten wird ein höchstmögliches Vertrauen der Nutzer in unsere Plattform erreicht.

Die Plattform ist somit eine zukunftsweisende Lösung, um Mitarbeiter effektiv und nachhaltig im Bereich der IT-Sicherheit zu schulen. Es ist geplant, das Projekt (https://securebot-project.de) auszugründen und die Plattform kommerziell zu betreiben. Um die entwickelten Funktionalitäten vor der Markteinführung zu testen, ist die Durchführung einer Beta-Phase geplant. Sie startet voraussichtlich im September 2025.

Bis dahin sollen notwendige Anpassungen der aktuellen IT vor dem Hintergrund sicherheitstechnischer Entwicklungen zur Sicherung der Qualität und Zuverlässigkeit für potenzielle User umgesetzt werden. Dafür werden im Rahmen der Vorbereitungen einzelne Komponenten der Plattform durch Nutzerstudien getestet und validiert. Das aus den Studien resultierende Feedback wird einen wesentlichen Beitrag zur Weiterentwicklung der Plattform sowie zur Optimierung der Beta-Tests leisten.

Wer Interesse hat, an den Nutzerstudien, an der im September stattfindenden Beta-Phase oder an einem Pilotkundenprojekt teilzunehmen, kann sich jederzeit unter securebot-contact.fbi@h-da.de melden.