Home » News » Allgemein » Forschungsprojekt untersucht Desinformations-Kampagnen

Forschungsprojekt untersucht Desinformations-Kampagnen

Falschinformationen im Netz spielen eine immer größere Rolle, wenn es darum geht, wirtschaftliche und machtpolitische Interessen in der realen Welt durchzusetzen.

2 Min. Lesezeit
Foto: ©AdobeStock/asiandelight

Falschinformationen im Netz spielen eine immer größere Rolle, wenn es darum geht, wirtschaftliche und machtpolitische Interessen in der realen Welt durchzusetzen. Das Forschungsprojekt KIMONO am Forschungsinstitut (FI) CODE an der Universität der Bundeswehr München untersucht, wie Desinformations-Kampagnen frühestmöglich erkannt, klassifiziert und beobachtet werden können.

Innerhalb der vergangenen zehn Jahre sind die Sozialen Medien zu einer zentralen Informationsquelle für Milliarden Menschen weltweit geworden. Spätestens seit dem Arabischen Frühling 2011 ist klar, wie viel Einfluss Facebook, Twitter und Co. auch auf politische Prozesse haben. Doch gezielte Desinformationskampagnen können Menschen manipulieren und so zu einer massiven Schwächung des Vertrauens in die Demokratie, ihre rechtsstaatlichen Prinzipien sowie in die Meinungsfreiheit führen.

Desinformation kann ganze Staaten destabilisieren

Zudem besteht die Gefahr, dass staatliche Akteure Beeinflussungskampagnen in Sozialen Medien nutzen, um gegnerische Staaten zu destabilisieren (hybride Kriegsführung). Im Projekt KIMONO am FI CODE der Universität der Bundeswehr München arbeiten Wissenschaftlerinnen und Wissenschaftler daran, derartige Kampagnen möglichst frühzeitig zu erkennen, um deren Entwicklung und Verbreitung zu beobachten und geeignete Gegenmaßnahmen einleiten zu können.

Prof. Michaela Geierhos, Professorin für Data Science und Technische Direktorin am FI CODE, leitet die deutsch-israelische Forschungskooperation KIMONO: „Um im Ernstfall angemessen reagieren zu können, ist es essenziell, die gezielte Verbreitung von Falschinformationen in Sozialen Medien wissenschaftlich zu untersuchen und die dahinterliegenden Muster und Netzwerke möglichst frühzeitig zu erkennen“, so Geierhos.

An welchen Merkmalen erkennt man Fake News?

Das Projektteam nutzt für die Datenakquise eine klassische Pipeline: Diese ruft entsprechende Daten von verschiedenen Social-Media-Plattformen wie Twitter, Facebook und Instagram ab und speichert sie zunächst in einer Datenbank. Zur Auswertung wenden die Wissenschaftlerinnen und Wissenschaftler verschiedene State-of-the-Art-Algorithmen des flachen und tiefen Lernens an. In die Analyse und Klassifikation fließen auch Merkmale wie etwa das Beziehungsnetzwerk der jeweiligen nutzenden Person, die sprachliche Gestaltung der Posts oder Informationen über die Posting-Häufigkeit und Followerzahl ein – die beiden letztgenannten Faktoren sind insbesondere für die Erkennung sogenannter Social Bots relevant.

Anforderungskatalog für ein Frühwarnsystem

Im Ergebnis soll eine Softwareunterstützung entstehen, um Kampagnen nicht nur schnell zu erkennen und explizit zu markieren, sondern zusätzlich noch ergänzende Erklärungen bereitzustellen, warum ein bestimmter Social-Media-Beitrag als Teil einer irreführenden Informations- und Beeinflussungskampagne eingestuft wird. Prof. Geierhos: „Es ist wichtig, dass die Nutzenden die Klassifizierung verstehen und das Ergebnis transparent bleibt. Nur so können sinnvolle Maßnahmen abgeleitet werden.“ Ein weiteres Ziel des Projekts ist die Bereitstellung eines Anforderungskataloges, der für die spätere Entwicklung eines Early-Warning-Systems herangezogen werden soll.

Das Projekt KIMONO (Kampagnenidentifikation, -monitoring und -klassifikation mittels Methoden des Social Media Mining zur Integration in ein KI-basiertes Frühwarnsystem) wird vom Bundesministerium der Verteidigung gefördert und läuft noch bis zum Jahr 2023.

Andere interessante News

BSI aktualisiert Handbuch „Management von Cyber-Risiken“

Cyber-Sicherheit für das Management: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat das Handbuch „Management von Cyber-Risiken" umfassend aktualisiert. Cyber-Angriffe auf Unternehmen sind an der Tagesordnung, die Bedrohungslage ist so hoch wie nie zuvor. Unternehmensleitungen müssen sich dessen bewusst sein und Cyber-Sicherheit zu einem festen Bestandteil des Risikomanagements machen.

Totgeglaubte leben länger: USB-Wurm ist wieder da

Die altbekannte Methode, einen USB-Stick mit Schadsoftware auf Parkplätzen auszulegen, ist zurück. Die neue Version verbreitet sich also wie ehemals über USB-Laufwerke, nutzt jetzt aber eine legitime ausführbare Datei, die sie nach dem Einstecken in einen USB-Port sofort in das Zielnetzwerk einschleust. Der Wurm trat jetzt erstmals im August 2022 in Papua-Neuguinea auf und breitet sich seitdem immer weiter aus.

Bitkom: Data Act braucht dringend Nachbesserungen

Das europäische Parlament hat das Datengesetz (Data Act) verabschiedet. Mit dem Data Act soll unter anderem der Datenaustausch zwischen Unternehmen und von Unternehmen an die öffentliche Hand vorangebracht werden. Er soll die Innovation fördern, indem Barrieren, die den Zugang zu industriellen Daten versperren, entfernt werden. Der Bitkom-Verband hält das neue Gesetz für zu schwammig und an vielen Stellen nicht zielführend.