Kundenservice Veranstaltungen: 02234-9894940
Kundenservice Bücher: 089-21837921
Aboservice Zeitschriften: 089-21837110

Die Krux mit Machine Learning: Fehler in der Anwendung mit fataler Auswirkung

Machine Learning ist eine Technologie für so unterschiedliche Aufgaben wie das Aufspüren von Bankbetrug, das Fahren von Autos, das Verstehen menschlicher Sprache und das Erkennen von Malware. In naher Zukunft werden Unternehmen viele Millionen investieren und Menschen werden Machine-Learning-Lösungen entwickeln und einsetzen. Doch neue Technologien führen laut einem Bericht von Sophos oft zu neuen Fehlerquellen und Möglichkeiten für Cyberangriffe. Neben den Machenschaften der Hacker sei im jungen Stadium des Machine Learning sicherlich der Entwickler und Anwender die größte Gefahr. Während sich herkömmliche Software durch Transparenz und nachweislich korrektes Verhalten auszeichnet, ist Machine Learning unscharf, flexibel und undurchsichtig.

Modernes Machine Learning funktioniere gut, weil es komplexe Zusammenhänge aus Trainingsdaten lernen kann. Auf diese Weise erkenne es Dinge, seien es Gesichter, Betrugsmuster oder Spam, mit denen menschliche Programmierer nicht mithalten können. Aber diese Fähigkeit könne auf unerwartete Weise zum Bumerang werden. Wenn die Trainingsdaten eine falsche oder nicht existente Korrelation enthalten, können Machine Learning leicht die falschen Lektionen lernen. Sophos erkennt hier eine fatale Situation, denn vielfach wird Machine Learning mit Big Data gefüttert, Daten, die voll von falschen Korrelationen sind. Aus diesen Grund hat das Unternehmen einen Leitfaden für das richtige Füttern von Machine Learning herausgegeben.