Home » News » Security Management » Kommentar: Potenzial von KI nur bei scharfer Regulierung nutzbar

Kommentar: Potenzial von KI nur bei scharfer Regulierung nutzbar

Die fortschreitende Entwicklung künstlicher Intelligenz (KI) hat das Potenzial, unsere Welt zu transformieren und unser tägliches Leben zu beeinflussen. Um die positiven Möglichkeiten voll auszuschöpfen und gleichzeitig die damit verbundenen Risiken zu minimieren, ist es von entscheidender Bedeutung, angemessene Verbote und Vorschriften einzuführen. Eine umfassende Regulierung auf Basis ethischer Werte und Transparenz als grundlegende Prinzipien soll sicherstellen, dass KI-Systeme fair, zuverlässig und sicher sind.

2 Min. Lesezeit
AI Law
Foto: ©AdobeStock/phonlamaiphoto

„KI hat ihr Potenzial bereits unter Beweis gestellt und besitzt die Möglichkeit, viele Bereiche wie das Gesundheitswesen, das Finanzwesen, das Transportwesen und vieles mehr zu revolutionieren“, so Marco Eggerling, CISO EMEA bei Check Point Software. Er betont auch, dass KI bei der Lösung komplexer Probleme, der Verbesserung von Entscheidungsfindungen und der Bewältigung gefährlicher Aufgaben helfen kann. Allerdings warnt er auch vor dem Missbrauch von KI-Technologien für Cyber-Bedrohungen.

Trotz des Hypes um KI ist es wichtig, realistische Erwartungen zu haben und KI nicht als automatisches Allheilmittel anzusehen, meint Eggerling. Es gibt verschiedene Kategorien von KI, von der aktuellen „schwachen“ KI (ANI) bis zur möglichen künstlichen Superintelligenz (ASI), die intelligenter als Menschen sein könnte. Die Entwicklung von KI birgt Risiken, insbesondere wenn sie die Stufe der allgemeinen KI erreicht. „Es besteht die Gefahr, dass sie eigenständig agiert und zu einer Bedrohung für die Menschheit wird“, warnt Eggerling. Um diese Risiken zu mindern, fordert er eine Zusammenarbeit zwischen Regierungen, Unternehmen und Aufsichtsbehörden, um robuste Sicherheitsmechanismen, ethische Grundsätze und Transparenz bei der KI-Entwicklung sicherzustellen.

Derzeit gibt es jedoch nur wenige Regeln und Vorschriften für KI. Eggerling betont die Bedeutung von Mindeststandards wie Datenschutz, Fairness, Erklärbarkeit und Barrierefreiheit für Unternehmen, die KI-Systeme entwickeln und einsetzen.

KI kann auch von Cyberkriminellen eingesetzt werden, um Angriffe zu verfeinern und fortgeschrittene Malware zu entwickeln, die sich der Erkennung entziehen kann. Sie können KI nutzen, um gefälschte Audio- und Videomaterialien zu erstellen, die für politische Manipulationen oder falsche Beweise verwendet werden können. Eggerling warnt vor den Auswirkungen: „Wir sprechen hier von potenzieller sozialer Manipulation in einem noch nie dagewesenen Ausmaß.“

Dennoch kann KI auch bei der Abwehr von Cyberangriffen eine wichtige Rolle spielen. Unternehmen wie Check Point setzen KI-basierte Technologien ein, um Bedrohungsanalysen durchzuführen und Angriffe zu erkennen. Diese Tools helfen dabei, Zero-Day-Schwachstellen zu identifizieren und Sicherheitslücken automatisch zu schließen.

Angesichts der Bedenken bezüglich Datenschutz und Missbrauch von KI werden auch Verbote und Einschränkungen diskutiert. Insbesondere im Fall von ChatGPT bestehen Sorgen über Datenlecks und die Altersgrenze der Nutzer. Eggerling weist jedoch darauf hin, dass Sperrungen nur begrenzte Wirkung haben, da erfahrene Nutzer die Sperren umgehen können. Es ist wichtig, dass die Nutzer sich bewusst sind, wie wertvoll ihre sensiblen Informationen sind und welche potenzielle soziale Manipulation daraus resultieren kann.

Die Auswirkungen der KI auf die Gesellschaft werden davon abhängen, wie sie weiterentwickelt und genutzt wird. Es ist unerlässlich, die Vorteile und Risiken sorgfältig abzuwägen und sicherzustellen, dass die KI verantwortungsvoll und ethisch entwickelt wird, um der Gesellschaft zugute zu kommen.

Marco Eggerling CISO EMEA
Foto: Check Point Software

Marco Eggerling, CISO EMEA bei Check Point Software

Andere interessante News

Mann vor Laptop macht einen erfolgreichen Check

Wie KMUs ihre IT-Sicherheit checken können

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und Partner haben den CyberRisikoCheck entwickelt, um kleine und mittlere Unternehmen (KMU) bei der Steigerung ihrer Cyberresilienz zu unterstützen. Über 60 IT-Dienstleister wurden erstmals für die Anwendung dieses Verfahrens geschult.

Security Awareness Schulung

Security-Awareness-Schulungen nur Mumpitz?

Eine aufschlussreiche Umfrage enthüllt alarmierende Schwachstellen in den IT-Sicherheitsstrategien deutscher Unternehmen. Erstaunlicherweise betrachten fast die Hälfte der Geschäftsführungen Security-Awareness-Schulungen als überflüssig.

IoT - Internet of Things Security

Was für den Schutz vernetzter IoT-Geräte nötig ist

Seit dem ersten netzwerkverbundenen Verkaufsautomaten im Jahr 1982 hat sich in der Entwicklung von IoT-Geräten viel verändert. Die Verbindung von Geräten mit dem Internet hat zu großen Innovationen in verschiedenen Bereichen geführt. Allerdings bringen diese Technologien auch erhebliche Risiken mit sich.