Home » News » Security Management » Sicherheits- und Risikomanagement für generative KI

Sicherheits- und Risikomanagement für generative KI

Die Einführung von generativer KI hat eine neue Angriffsfläche für Cyber-Bedrohungen eröffnet. Umfassende KI-Sicherheits- und Risikomanagementlösungen sollen dieses neue Problem nun lösen.

1 Min. Lesezeit
AI Security
Foto: ©AdobeStock/IDOL'foto

Politische Entscheidungsträger auf der ganzen Welt sind weiterhin besorgt über die Sicherheitsrisiken der generativen KI. Das Startup SydeLabs im Bereich Sicherheits- und Risikomanagement hat sich positioniert, um KI-Anwendungen sicher und widerstandsfähig gegen Missbrauch zu machen. Das Unternehmen bietet neue Lösungen zur Erkennung von Sicherheitslücken in KI-Systemen von Unternehmen und zur sofortigen Behebung dieser Schwachstellen, um Angriffe auf die Cybersicherheit und Missbrauch zu verhindern.

Ankita Kumari, Mitbegründerin von SydeLabs, erklärt: „Durch die Einführung von generativer KI in Unternehmen hat sich die Angriffsfläche für Cybersecurity stark erweitert. Unternehmen integrieren nun aus Sicherheitssicht menschenähnliche Elemente in Systeme, die zuvor nicht anfällig für Social Engineering und Manipulation waren. Unter dem Gesichtspunkt der Einhaltung von Vorschriften sehen wir Systeme, die Zugang zu internen und Nutzerdaten haben und diese beeinflussen können. Zudem sehen wir die Reputationsrisiken, die mit der Einführung von GenAI-Systemen verbunden sind, die unerwünschte Inhalte generieren können und dadurch einer Marke schaden, den Firmenwert mindern und rechtliche Risiken nach sich ziehen können.“

In ihrer Marktforschung mit CISOs auf der ganzen Welt stellen SydeLabs fest, dass diese Schwachstellen zunehmend anerkannt werden, da Unternehmen die generative KI schnell für verschiedene Geschäftsanwendungen einsetzen.

Newsletter Abonnieren

Abonnieren Sie jetzt IT-SICHERHEIT News und erhalten Sie alle 14 Tage aktuelle News, Fachbeiträge, exklusive Einladungen zu kostenlosen Webinaren und hilfreiche Downloads.

Andere interessante News

Grenzen von KI-Agenten

KI-Agenten: Wer handeln darf, braucht technische Grenzen

KI-Agenten greifen auf Daten zu, ändern Einträge und stoßen Geschäftsprozesse an. Doch wer kontrolliert ihre Befugnisse? Damit aus Automatisierung kein Kontrollverlust wird, müssen...

Frau am Laptop auf dem ein Updating-Symbol zu lesen ist

Wenn Sicherheitsupdates selbst zum Betriebsrisiko werden

53 Schwachstellen, zwei Notfallkorrekturen, fünf Tage: Der Java-Patchmarathon im Oktober zeigt ein Dilemma. Unternehmen müssen Lücken schnell schließen, fürchten aber Betriebsstöru...

Digitaler Schlüssel entsperrt Schloss mit Daten

Warum Verschlüsselung allein für Finanzunternehmen nicht reicht

Verschlüsselte Daten sind nur der Anfang: Finanzunternehmen müssen auch belegen, wie sie Schlüssel, Zertifikate und Zugriffe kontrollieren. Diese Bestandsaufnahme schafft zugleich ...

Jetzt Newsletter abonnieren

Verpassen Sie keine Sicherheitsnews mehr – abonnieren Sie jetzt unseren Newsletter!