Deep Fakes: Wie populäre YouTube-Kanäle im großen Stil missbraucht werden

Beim sogenannten Stream-Jacking verwenden die Betrüger auch immer häufiger Deep Fakes, um ihre Opfer zu täuschen. Dabei gehen sie zielgruppengerecht vor und greifen vor allem die reichweitenstärksten Kanäle an.

Wirtschaftlich motivierte Cyberkriminelle arbeiten erfolgreich daran, ihre Effizienz und Reichweite zu steigern. Sie nutzen sorgfältig gestaltete, zielgruppengerechte Inhalte, die aktuelle Nachrichten über Kryptowährungen oder andere populäre Themen wie SpaceX oder Tesla als Köder verwenden. Im Dezember 2023 beobachteten die Bitdefender Labs Hunderte von gefälschten Inhalten zu MicroStrategy und Bitcoin ETF.

Die Hacker erzielen immer größere Reichweiten:

• Größter gekaperter Account: rund 12,5 Millionen Abonnenten
• Höchste Zuschauerzahlen: rund 3,9 Milliarden Gesamtansichten pro Kanal
• Durchschnittliche Anzahl der Abonnenten der gekaperten Kanäle: rund 3.955
• Durchschnittliche Anzahl von Ansichten pro Kanal: rund 449.159
• Gesamtzahl der Abonnenten der zehn größten gekaperten Youtube-Kanäle: rund 62.930.000
• Gesamtzahl der Ansichten der zehn größten gekaperten Youtube-Kanäle: rund 17.447.370.155

Der Einsatz von Künstlicher Intelligenz (KI) ist bei den meisten untersuchten Fake-Inhalten zu erkennen. Die Betrüger setzen KI auch in YouTube-Anzeigen ein, insbesondere bei generativ erstellten Avataren. Dabei verwenden sie offenbar bisher noch keine Large-Language-Modelle.

Die Angreifer übernehmen YouTube-Kanäle über kompromittierte YouTube-Token. Anschließend ändern sie den gekaperten Kanal in kurzer Zeit und offensichtlich mit automatisierten Methoden. Sie ändern den Kanalnamen, setzen alle Videos auf „privat“, ersetzen Avatar und Banner, und verändern die Kanalbeschreibung, Links und Empfehlungen, um den ursprünglichen legitimen Kanal zu verschleiern.

Die gesamte Studie steht hier zum Download zur Verfügung.