Cyber Signals: KI – Bedrohung und Schutzschild zugleich

In der sechsten Ausgabe von Cyber Signals zeigt Microsoft, wie Bedrohungsakteure KI nutzen, um ihre Angriffe zu präzisieren und wie das Unternehmen KI zum eigenen Schutz einsetzt.

Cyberkriminelle und staatlich geförderte Akteure setzen vermehrt auf Künstliche Intelligenz, darunter auch große Sprachmodelle (LLMs), um ihre Angriffe effizienter zu gestalten und Plattformen zu nutzen, die ihre Ziele und Angriffstechniken unterstützen. Trotz unterschiedlicher Motive und Vorgehensweisen haben diese Akteure gemeinsame Interessen bei der Durchführung von Angriffen. Dazu zählen die Erkundung, Entwicklung und Anwendung von menschlichen und maschinellen Sprachen.

Microsoft setzt mehrere Methoden ein, um sich vor derartigen Cyberbedrohungen zu schützen. Dazu gehören:

• KI-gestützte Erkennung von Bedrohungen, um Veränderungen in der Art und Weise zu entdecken, wie Ressourcen oder Datenverkehr im Netzwerk genutzt werden.
• Verhaltensanalysen, um riskante Anmeldungen und anomales Verhalten zu erkennen.
• Modelle des maschinellen Lernens (ML), um riskante Anmeldungen und Malware zu identifizieren.
• Zero Trust, eine Sicherheitsarchitektur, bei der jede Zugriffsanfrage vollständig authentifiziert, autorisiert und verschlüssBeitragelt sein muss.
• Überprüfung des Gerätezustands, bevor ein Gerät eine Verbindung zum Unternehmensnetzwerk herstellen kann.

Generative KI hat das Potenzial, allen Verteidigern dabei zu helfen, ihre Organisationen mit maschineller Geschwindigkeit zu schützen. Die Rolle der KI in der Cybersicherheit treibt Innovation und Effizienz in verschiedenen Bereichen voran. Von der verbesserten Erkennung von Bedrohungen bis hin zu optimierten Reaktionen auf Vorfälle – die Fähigkeiten von KI verändern die Cybersicherheit. Die Integration von KI in Cybersicherheitsverfahren bietet greifbare Vorteile, wie eine höhere Genauigkeit und schnellere Identifikation von Bedrohungen und Gegenmaßnahmen sowie die Erstellung von Berichten.

Wie Microsoft KI-Sicherheit unterstützt

Vasu Jakkal, Corporate Vice President für Sicherheit, Compliance, Identität und Management bei Microsoft, betont in Zusammenarbeit mit OpenAI die Enthüllung staatlich verbundener Bedrohungsakteure, die von Microsoft als „Forest Blizzard“, „Emerald Sleet“, „Crimson Sandstorm“, „Charcoal Typhoon“ und „Salmon Typhoon“ bezeichnet wurden. Diese Akteure nutzen nun große Sprachmodelle, um ihre Angriffsoperationen zu verstärken. Microsoft hat bereits erste Maßnahmen ergriffen, um diese Aktivitäten zu blockieren und sowohl KI-Plattformen als auch Nutzer zu schützen.

Zusätzlich wurden von Microsoft Grundsätze angekündigt, die als Leitlinien dienen sollen, um die Risiken von Advanced Persistent Threats (APTs), Advanced Persistent Manipulators (APMs) und Cyberkriminellen Syndikaten einzudämmen, die KI-Plattformen und APIs ausnutzen. Diese Grundsätze umfassen die Identifizierung und Bekämpfung bösartiger Bedrohungsakteure, die Benachrichtigung anderer Anbieter von KI-Diensten, die Zusammenarbeit mit anderen Stakeholdern sowie Transparenz.

Darüber hinaus arbeitet Microsoft eng mit der Sicherheitsgemeinschaft zusammen, um die aufkommenden Möglichkeiten von großen Sprachmodellen in Bezug auf Angriffsaktivitäten zu verstehen und zu erkennen. Die Kooperation mit MITRE zielt darauf ab, Taktiken, Techniken und Verfahren in das MITRE ATT&CK-Framework oder die MITRE ATLAS-Datenbank zu integrieren. Mit dieser strategischen Erweiterung soll nicht nur die Aufdeckung und Neutralisierung von Bedrohungen vorangetrieben werden, sondern auch die Entwicklung von Gegenmaßnahmen in der sich entwickelnden Landschaft der KI-gestützten Cyberoperationen.

Jakkal betont, dass für die Sicherung der Zukunft der KI sowohl ihre Chancen als auch Risiken anerkannt werden müssen. KI sei nicht nur ein Werkzeug, sondern ein Paradigmenwechsel in der Cybersicherheit. Es ermögliche, sich gegen ausgefeilte Cyberbedrohungen zu verteidigen und sich an die dynamische Bedrohungslandschaft anzupassen. Die Etablierung von KI könne eine sichere Zukunft für alle gewährleisten.

Die neue Ausgabe der Cyber Signals gibt es hier zum Download. Der Blogpost in Originalsprache ist auf dem Microsoft Security Blog zu finden.