Sicherheits- und Risikomanagement für generative KI

Politische Entscheidungsträger auf der ganzen Welt sind weiterhin besorgt über die Sicherheitsrisiken der generativen KI. Das Startup SydeLabs im Bereich Sicherheits- und Risikomanagement hat sich positioniert, um KI-Anwendungen sicher und widerstandsfähig gegen Missbrauch zu machen. Das Unternehmen bietet neue Lösungen zur Erkennung von Sicherheitslücken in KI-Systemen von Unternehmen und zur sofortigen Behebung dieser Schwachstellen, um Angriffe auf die Cybersicherheit und Missbrauch zu verhindern.

Ankita Kumari, Mitbegründerin von SydeLabs, erklärt: „Durch die Einführung von generativer KI in Unternehmen hat sich die Angriffsfläche für Cybersecurity stark erweitert. Unternehmen integrieren nun aus Sicherheitssicht menschenähnliche Elemente in Systeme, die zuvor nicht anfällig für Social Engineering und Manipulation waren. Unter dem Gesichtspunkt der Einhaltung von Vorschriften sehen wir Systeme, die Zugang zu internen und Nutzerdaten haben und diese beeinflussen können. Zudem sehen wir die Reputationsrisiken, die mit der Einführung von GenAI-Systemen verbunden sind, die unerwünschte Inhalte generieren können und dadurch einer Marke schaden, den Firmenwert mindern und rechtliche Risiken nach sich ziehen können.“

In ihrer Marktforschung mit CISOs auf der ganzen Welt stellen SydeLabs fest, dass diese Schwachstellen zunehmend anerkannt werden, da Unternehmen die generative KI schnell für verschiedene Geschäftsanwendungen einsetzen.