Home » Fachbeiträge » Cybersecurity » Desinformations-Kampagnen im Netz – Kampf gegen Lügen

Desinformations-Kampagnen im Netz – Kampf gegen Lügen

Das Forschungsprojekt KIMONO untersucht, wie Desinformations-Kampagnen frühestmöglich erkannt, klassifiziert und beobachtet werden können.

3 Min. Lesezeit

Falschinformationen im Netz spielen eine immer größere Rolle, wenn es darum geht, wirtschaftliche und machtpolitische Interessen in der realen Welt durchzusetzen. Das Forschungsprojekt KIMONO am Forschungsinstitut (FI) CODE an der Universität der Bundeswehr München untersucht, wie Desinformations-Kampagnen frühestmöglich erkannt, klassifiziert und beobachtet werden können.

Innerhalb der vergangenen zehn Jahre sind die sozialen Medien zu einer zentralen Informationsquelle für Milliarden Menschen weltweit geworden. Spätestens seit dem Arabischen Frühling 2011 ist klar, wie viel Einfluss Facebook, Twitter und Co. auch auf politische Prozesse haben. Doch gezielte Desinformations-Kampagnen können Menschen manipulieren und so zu einer massiven Schwächung des Vertrauens in die Demokratie, ihre rechtsstaatlichen Prinzipien sowie in die Meinungsfreiheit führen.

Das Forschungsprojekt KIMONO am Forschungsinstitut (FI) CODE an der Universität der Bundeswehr München untersucht, wie Desinformations-Kampagnen frühestmöglich erkannt, klassifiziert und beobachtet
werden können. (Quelle: Universität der Bundeswehr München)

Desinformation kann ganze Staaten destabilisieren

Zudem besteht die Gefahr, dass staatliche Akteure Beeinflussungskampagnen in sozialen Medien nutzen, um gegnerische Staaten zu destabilisieren (hybride Kriegsführung). Im Projekt KIMONO (Kampagnenidentifikation, -monitoring und -klassifikation mittels Methoden des Social Media Mining zur Integration in ein KI-basiertes Frühwarnsystem) am FI CODE der Universität der Bundeswehr München arbeiten Wissenschaftlerinnen und Wissenschaftler daran, derartige Kampagnen möglichst frühzeitig zu erkennen, um deren Entwicklung und Verbreitung zu beobachten und geeignete Gegenmaßnahmen einleiten zu können. Prof. Michaela Geierhos, Professorin für Data Science und Technische Direktorin am FI CODE, leitet die deutsch-israelische Forschungskooperation KIMONO: „Um im Ernstfall angemessen reagieren zu können, ist es essenziell, die gezielte Verbreitung von Falschinformationen in sozialen Medien wissenschaftlich zu untersuchen und die dahinterliegenden Muster und Netzwerke möglichst frühzeitig zu erkennen“, so Geierhos.

Welche Merkmale verraten Fake News?

Das Projektteam nutzt für die Datenakquise eine klassische elektronische Pipeline: Diese ruft entsprechende Daten von verschiedenen Social-Media-Plattformen wie Twitter, Facebook und Instagram ab und speichert sie zunächst in einer Datenbank. Zur Auswertung wenden die Wissenschaftlerinnen und Wissenschaftler verschiedene State-of-the-Art-Algorithmen des flachen und tiefen Lernens an. In die Analyse und Klassifikation fließen auch Merkmale wie etwas Beziehungsnetzwerk der jeweiligen nutzenden Person, die sprachliche Gestaltung der Posts oder Informationen über die Posting-Häufigkeit und die Follower-Zahl ein – die beiden letztgenannten Faktoren sind insbesondere für die Erkennung sogenannter Social Bots relevant.

Anforderungskatalog für ein Frühwarnsystem

Im Ergebnis soll eine Softwareunterstützung entstehen, um Kampagnen nicht nur schnell zu erkennen und explizit zu markieren, sondern zusätzlich noch ergänzende Erklärungen bereitzustellen, warum ein bestimmter Social-MediaBeitrag als Teil einer irreführenden Informations- und Beeinflussungskampagne eingestuft wird. Prof. Geierhos: „Es ist wichtig, dass die Nutzenden die Klassifizierung verstehen und das Ergebnis transparent bleibt. Nur so können sinnvolle Maßnahmen abgeleitet werden.“ Ein weiteres Ziel des Projekts ist die Bereitstellung eines Anforderungskatalogs, der für die spätere Entwicklung eines Frühwarnsystems herangezogen werden soll. Das Projekt KIMONO wird vom Bundesministerium der Verteidigung gefördert und läuft noch bis zum Jahr 2023. Mehr zum Projekt KIMONO gibt es hier: https://www.unibw.de/datensicherheit/ professuren/data-science/forschung/kimono

Mit künstlicher Intelligenz (KI) gegen Falschinformationen

Um russische Desinformations-Kampagnen zu überwachen und zu entlarven und Fake News zu stoppen, bietet das junge US-Unternehmen V7 kostenlos einen KI-gestützten Detektor für gefälschte Social-Media-Profile an. Das KI-Modell, welches durch das Unternehmen trainiert wurde, soll bei der Klassifizierung von Profilbildern in sozialen Medien als „echt“ oder „gefälscht“ eine Genauigkeit von 99,29 Prozent erreichen. Diese als Chrome-Erweiterung bereitgestellte Software soll Behörden und Bürgern dabei helfen, Profile, die gefälschte Nachrichten verbreiten und so ein Informationschaos verursachen könnten, zu erkennen und zu melden – insbesondere angesichts der russischen Invasion in der Ukraine. Eine Demo der Software gibt es unter: https://www.loom.com/share/2dbcf5db9b1641dd8d5acfea862982a3

Andere interessante Fachbeiträge

Wie sich 5G-Netze sicher betreiben lassen

Mit dem Einsatz von privaten 5G-Netzen ergeben sich neue Anforderungen - Aktuell steigt in der Industrie die Nachfrage nach 5G-Netzen, mit denen sich Effizienzgewinne durch Automatisierung erzielen lassen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) stellt mit dem IT-Grundschutz-Profil „5G-Campusnetze“ ein Werkzeug zur Verfügung, mit dessen Hilfe Unternehmen individuelle Sicherheitskonzepte für private 5G-Netze implementieren können.

DSGVO-konformes Datenlöschen: Löschkonzepte erstellen

Unternehmen verarbeiten und speichern große Mengen an sensiblen Daten. Ein oft unterschätzter, aber dennoch entscheidender Sicherheitsaspekt ist das Datenlöschen. Die Einhaltung der Datenschutzgrundverordnung (DSGVO) ist hierbei besonders wichtig.

Fachjargon ist das größte Hindernis bei der Cybersicherheit

Eine kürzlich durchgeführte Studie hat ergeben, dass viele Führungskräfte in Deutschland nicht mit Fachbegriffen aus dem Bereich Cybersicherheit vertraut sind, was besorgniserregend ist, da es darauf hindeutet, dass Unternehmen möglicherweise nicht angemessen vor diesen Bedrohungen geschützt sind.