Adversarial Machine Learning (AML)

Adversarial Machine Learning ist eine Methode des maschinellen Lernens, die darauf abzielt, Modelle des maschinellen Lernens durch die Bereitstellung irreführender Eingaben zu täuschen. Daher umfasst es die Generierung und Erkennung von gegnerischen Beispielen, bei denen es sich um Eingaben handelt, die speziell erstellt wurden, um einen Klassifikator zu täuschen. Solche Angriffe, bekannt als Adversarial Machine Learning, wurden in Bereichen wie der Bildklassifizierung und Spam-Erkennung umfassend untersucht.
Adversarial Machine Learning wurde am umfassendsten im Bereich der Bilderkennung untersucht, wo Bilder so verändert werden, dass ein Klassifikator falsche Vorhersagen liefert.

Die Bedrohung durch feindliche Angriffe beim maschinellen Lernen

Da maschinelles Lernen schnell zum Kern der Wertangebote von Unternehmen wird, wächst auch für Unternehmen die Notwendigkeit, maschinelles Lernen zu schützen, rasant. Infolgedessen wird das konfrontative maschinelle Lernen zu einem wichtigen Bereich in der Softwarebranche.

Wie feindliche Angriffe auf KI-Systeme funktionieren

Es gibt eine Vielzahl unterschiedlicher feindlicher Angriffe, die gegen Systeme des maschinellen Lernens eingesetzt werden können. Viele dieser Arbeiten zielen auf Deep-Learning-Systeme und traditionelle Modelle des maschinellen Lernens wie Support Vector Machines (SVMs) und lineare Regression ab. Die meisten feindlichen Angriffe zielen in der Regel darauf ab, die Leistung eines Klassifikators bei einer bestimmten Aufgabe zu beeinträchtigen. Im Wesentlichen wird versucht, den Algorithmus des maschinellen Lernens zu „überlisten“. Adversarial Machine Learning ist das Gebiet, das eine Klasse von Angriffen untersucht, die darauf ausgelegt sind, die Leistung eines Klassifikators bei einer bestimmten Aufgabe zu verschlechtern. Gegnerische Angriffe können hauptsächlich in die folgenden Kategorien unterteilt werden: Poisoning-Angriffe, Evasion-Angriffe und Modellextraktionsangriffe  

Verweise

【1】https://viso.ai/deep-learning/adversarial-machine-learning/