Home » News » Security Management » Sicherheits- und Risikomanagement für generative KI

Sicherheits- und Risikomanagement für generative KI

Die Einführung von generativer KI hat eine neue Angriffsfläche für Cyber-Bedrohungen eröffnet. Umfassende KI-Sicherheits- und Risikomanagementlösungen sollen dieses neue Problem nun lösen.

1 Min. Lesezeit
AI Security
Foto: ©AdobeStock/IDOL'foto

Politische Entscheidungsträger auf der ganzen Welt sind weiterhin besorgt über die Sicherheitsrisiken der generativen KI. Das Startup SydeLabs im Bereich Sicherheits- und Risikomanagement hat sich positioniert, um KI-Anwendungen sicher und widerstandsfähig gegen Missbrauch zu machen. Das Unternehmen bietet neue Lösungen zur Erkennung von Sicherheitslücken in KI-Systemen von Unternehmen und zur sofortigen Behebung dieser Schwachstellen, um Angriffe auf die Cybersicherheit und Missbrauch zu verhindern.

Ankita Kumari, Mitbegründerin von SydeLabs, erklärt: „Durch die Einführung von generativer KI in Unternehmen hat sich die Angriffsfläche für Cybersecurity stark erweitert. Unternehmen integrieren nun aus Sicherheitssicht menschenähnliche Elemente in Systeme, die zuvor nicht anfällig für Social Engineering und Manipulation waren. Unter dem Gesichtspunkt der Einhaltung von Vorschriften sehen wir Systeme, die Zugang zu internen und Nutzerdaten haben und diese beeinflussen können. Zudem sehen wir die Reputationsrisiken, die mit der Einführung von GenAI-Systemen verbunden sind, die unerwünschte Inhalte generieren können und dadurch einer Marke schaden, den Firmenwert mindern und rechtliche Risiken nach sich ziehen können.“

In ihrer Marktforschung mit CISOs auf der ganzen Welt stellen SydeLabs fest, dass diese Schwachstellen zunehmend anerkannt werden, da Unternehmen die generative KI schnell für verschiedene Geschäftsanwendungen einsetzen.

Andere interessante News

Cyberattacken

Viele Cyberangriffe bleiben lange unentdeckt

Mehr als ein Fünftel (22 Prozent) der Cyberangriffe auf Unternehmen und Organisationen im vergangenen Jahr dauerten mehr als einen Monat an – dies bedeutet einen Anstieg von rund sechs Prozentpunkten gegenüber dem Vorjahr 2022. Eine aktuelle Studie belegt außerdem: Vertrauensvolle Beziehungen werden als Angriffsvektor ausgenutzt.

AI Act

EU-Mitgliedsstaaten beschließen KI-Regulierung für Europa

Die EU-Mitgliedsstaaten haben den AI Act im Ministerrat beschlossen. Nach der Veröffentlichung könnte der AI Act bereits Ende Juni oder Anfang Juli in Kraft treten. Unternehmen müssen dann bereits sechs Monate später erste Regeln befolgen.

DaaS - Desktop as a Service

Wie Device as a Service die IT-Security stärkt

Die Sicherheit am digitalen Arbeitsplatz bleibt ein zentrales Thema für IT-Entscheider. Besonders attraktiv ist dabei Device as a Service (DaaS), also die Auslagerung der Beschaffung, Bereitstellung, Verwaltung und des Austauschs von Geräten. Diese „as a Service“-Modelle tragen mit hohen Sicherheitsstandards zur aktiven und präventiven Sicherheit bei.