Home » News » Endpoint Security » Gefahr durch Code-Empfehlungen von ChatGPT

Gefahr durch Code-Empfehlungen von ChatGPT

Das Forschungsteam von Voyager18, das zu Vulcan Cyber gehört, hat eine alarmierende neue Angriffstechnik aufgedeckt, die auf ChatGPT basiert. Diese gefährliche Methode ermöglicht es Angreifern, mit vergleichsweise geringem Aufwand Zugang zu Entwicklerumgebungen zu erlangen.

1 Min. Lesezeit
Foto: ©AdobeStock/Alexander

Das Forscherteam nennt diese neuartige Technik „AI-Paket-Halluzination“. Ihr Ansatz beruht auf der Tatsache, dass ChatGPT und andere generative KI-Plattformen dazu neigen, Fragen mit scheinbar authentischen Quellen, Links, Blogs und Statistiken zu beantworten. Doch hinter den vermeintlich vertrauenswürdigen Informationen lauert eine gefährliche Falle.

Melissa Bischoping, die Direktorin für Endpoint-Sicherheitsforschung bei Tanium, warnt vor den heimtückischen Folgen dieser Technik. Neben zweifelhaften Korrekturen für Sicherheitslücken (CVEs) werden auch Links zu Code-Bibliotheken angeboten, die schlichtweg nicht existieren. Für Angreifer eröffnet sich dadurch eine perfide Möglichkeit: Wenn sie eine Empfehlung für ein unveröffentlichtes Paket finden, können sie ihr eigenes, bösartiges Paket an dessen Stelle veröffentlichen. Mit solch einem hinterhältigen Schachzug sind sie in der Lage, Supply-Chain-Angriffe auszuführen, indem sie ihre bösartigen Bibliotheken in bekannten Repositories platzieren.

Vor diesem Hintergrund sollten Unternehmen äußerst vorsichtig sein und keinesfalls Codes herunterladen und ausführen, die nicht gründlich überprüft oder getestet wurden. Der Download von Codes aus nicht verifizierten Quellen wie Open-Source-Github-Repos oder den nun angebotenen Empfehlungen von ChatGPT birgt erhebliche Gefahren. Jeder Code, der in einer Umgebung ausgeführt werden soll, muss auf Sicherheitslücken hin untersucht werden. Zusätzlich empfiehlt es sich dringend, private Kopien von Codes anzulegen, um das Risiko zu minimieren.

Melissa Bischoping betont die Bedeutung sicherer Kodierungspraktiken und rät davon ab, Codes direkt aus öffentlichen Repositories oder Chatverläufen zu importieren. Der von Voyager18 entdeckte Angriff zeigt deutlich, dass die Lieferkette durch die Verwendung gemeinsam genutzter oder von Drittanbietern importierter Bibliotheken gefährdet werden kann. Daher ist es von größter Wichtigkeit, sorgfältig zu prüfen und zu testen, insbesondere wenn es um von Dritten entwickelten Code geht, der in Produktionsumgebungen eingesetzt werden soll. Bischoping appelliert eindringlich: „Vertrauen Sie nicht blind jeder Bibliothek oder jedem Paket, das Sie im Internet (oder in einem Chat mit einer KI) finden.“ Um sich effektiv vor solchen Angriffen zu schützen, ist es unerlässlich, eine defensiv ausgerichtete Herangehensweise und umfassende Sicherheitsüberlegungen zu berücksichtigen.

Melissa Bischoping
Foto: Tanium

Melissa Bischoping, die Direktorin für Endpoint-Sicherheitsforschung bei Tanium

Andere interessante News

Post Quantum Kryptografie

Statement: Post-Quantum-Kryptografie als Bollwerk gegen Angriffe mit Quanten-Computern

Können kryptografische Verfahren wie RSA auch dann noch sicher sein, wenn extrem leistungsfähige Quantencomputer attackieren? Um sicher verschlüsselte Daten zu gewährleisten, ist es entscheidend, die Stärke der verwendeten Verschlüsselungsalgorithmen zu überprüfen.

Ransomware favorisiert IT- und Baubranche

Ein neuer Bericht bietet einen Einblick in die aktuelle Bedrohungslage im Cyberspace und zeigt auf, welche Branchen besonders oft von Hackerattacken betroffen sind. Eine wichtige Erkenntnis des Berichts ist, dass die IT- und Baubranche am häufigsten von Ransomware-Angriffen betroffen sind.

Geld für Cybersecurity

Wie Cybersicherheit mit ihren Kosten korrespondiert

Cyberangriffe sind eine große Gefahr für Unternehmen, Regierungen und Personen. Im letzten Jahr wurden die Kosten von Cyberangriffen weltweit auf 8 Billionen US-Dollar geschätzt. Doch ob mehr Geld in Cybersicherheit wirklich zu mehr Sicherheit führt, ist fraglich. Ein internationaler Vergleich verrät mehr darüber.