Data Poisoning

Philipp Schurr

28. Februar 2025

Was ist Data Poisoning?

Data Poisoning umfasst gezielte Angriffe auf Trainingsdatensätze von KI- und ML-Modellen, um diese zu korrumpieren. Ziel solcher Angriffe ist es, die Ergebnisse der Modelle zu verzerren, schädliche Outputs zu erzeugen oder sogar die gesamte Funktionalität der Modelle zu sabotieren. Dabei werden unterschiedliche Methoden eingesetzt: falsche oder irreführende Informationen in den Trainingsdatensatz einbringen, vorhandene Daten manipulieren oder löschen und adversarielle Samples injizieren. Diese Angriffe gehören zur Kategorie der adversarialen KI und haben das Ziel, die Leistungsfähigkeit von Modellen zu beeinträchtigen oder Sicherheitslücken auszunutzen.

KI-Systeme sind stark von der Qualität ihrer Trainingsdaten abhängig. Wenn diese Daten kompromittiert werden, kann das zu Fehlfunktionen, Vorurteilen, erhöhten Sicherheitsrisiken und einer verminderten Genauigkeit führen. Solche Risiken sind besonders kritisch in Branchen wie Gesundheitswesen, autonome Fahrzeuge, Finanzdienstleistungen und Versorgungsunternehmen.

Webinar: Künstliche Intelligenz – Grundlagen und Best Practices

Sie möchten gerne mehr zum Thema Künstliche Intelligenz erfahren und wie Ihr Unternehmen davon profitieren kann? In unserem Webinar fassen wir Ihnen die wichtigsten Aspekte zusammen!

Jetzt anmelden

Typen von Data Poisoning

Data Poisoning kann in verschiedene Kategorien unterteilt werden, basierend auf den Zielen und Techniken der Angreifer. Gezielte Angriffe, auch als Targeted Attacks bezeichnet, manipulieren das Verhalten eines Modells in spezifischen Szenarien, während die allgemeine Leistung unbeeinträchtigt bleibt.

Ein Beispiel hierfür ist die Manipulation eines Malware-Erkennungssystems, um bestimmte schädliche Dateien als sicher zu klassifizieren. Im Gegensatz dazu zielen nicht gezielte Angriffe darauf ab, die allgemeine Robustheit eines Modells zu schwächen. Durch die Einführung von Rauschdaten in den Trainingsdatensatz kann die Genauigkeit des Modells insgesamt verringert werden.

Neben der Zielsetzung lassen sich Data Poisoning Angriffe auch nach den verwendeten Methoden unterscheiden. Beim Label Flipping werden Labels in den Trainingsdaten absichtlich falsch gesetzt, beispielsweise Bilder von Hunden als Katzen gelabelt. Bei der Data Injection werden zusätzliche, manipulierte Datenpunkte dem Trainingsdatensatz hinzugefügt, um das Modell in eine bestimmte Richtung zu beeinflussen. Backdoor-Angriffe hingegen schaffen subtile Änderungen in den Daten, die eine versteckte Schwachstelle erzeugen, die nur bei spezifischen Eingaben aktiviert wird.

Andere Methoden umfassen die Manipulation der Lieferkette, bei der Schwachstellen durch externe Datenquellen oder Werkzeuge eingeführt werden, sowie Insider-Angriffe, bei denen interne Akteure ihre Zugriffsrechte nutzen, um Daten oder Algorithmen direkt zu manipulieren. Verfügbarkeitsangriffe zielen darauf ab, die Nutzbarkeit eines Systems zu beeinträchtigen, indem es ineffizient oder unzuverlässig wird.

Beispiele für Data Poisoning

Die Auswirkungen von Data Poisoning lassen sich anhand konkreter Beispiele verdeutlichen. Gezielte Angriffe könnten darauf abzielen, ein KI-Modell zur Cybersecurity zu manipulieren, sodass Malware als sicher erkannt wird. Nicht gezielte Angriffe könnten Verzerrungen in Spamfilter-Daten einfügen, um deren Genauigkeit zu verringern. Backdoor-Angriffe könnten dazu führen, dass ein autonomes Fahrzeug Stoppschilder ignoriert, wenn bestimmte Bedingungen erfüllt sind. Diese Beispiele zeigen, wie vielfältig und gravierend die Konsequenzen solcher Angriffe sein können.

Auswirkungen von Data Poisoning

Die Folgen von Data Poisoning sind weitreichend. Fehlklassifikationen können die Zuverlässigkeit eines Modells erheblich reduzieren, während verstärkte Vorurteile und Verzerrungen bestehende Biases in den Daten verschärfen können. Darüber hinaus können Sicherheitsrisiken wie Backdoor-Angriffe zusätzliche Schwachstellen schaffen, die von Angreifern ausgenutzt werden können. Die Korrektur von kompromittierten Trainingsdaten ist oft zeitaufwändig und teuer. In vielen Fällen müssen Modelle vollständig neu trainiert werden, was erhebliche Ressourcen erfordert.

Erkennungsmerkmale von Data Poisoning

Die Erkennung von Data Poisoning kann herausfordernd sein, da die Manipulationen oft subtil sind. Unerklärliche Leistungseinbrüche, unvorhergesehene Ergebnisse oder Verzerrungen können Anzeichen für einen Angriff sein. Ebenso kann ein ungewöhnliches Interesse von Mitarbeitern an sensiblen Daten oder Sicherheitssystemen auf potenzielle Insider-Angriffe hinweisen. Regelmäßige Überprüfungen und ein aufmerksames Monitoring sind daher essenziell, um solche Angriffe frühzeitig zu erkennen.

E-Book: Künstliche Intelligenz für Entscheider

Künstliche Intelligenz für Unternehmen: Ein Ratgeber für Entscheider

Jetzt herunterladen

E-Book: Künstliche Intelligenz für Entscheider

×

Verteidigungsstrategien gegen Data Poisoning

Um sich gegen Data Poisoning zu schützen, sollten Organisationen eine Kombination aus präventiven und reaktiven Maßnahmen ergreifen:

• Datenvalidierung und -sanitierung: Verdächtige Datenpunkte erkennen und entfernen, bevor sie genutzt werden.
• Adversarial Training: Gezieltes Einfügen manipulierter Daten in den Trainingsprozess, um die Modellrobustheit zu erhöhen.
• Kontinuierliche Überwachung und Anomalieerkennung: Frühzeitige Identifikation ungewöhnlicher Verhaltensmuster.
• Diversifizierung der Datenquellen: Reduktion der Wirksamkeit von Angriffen durch Vielfalt der Datenquellen.
• Strikte Zugriffssteuerungen: Minimierung des Risikos von Insider-Angriffen durch das Prinzip der minimalen Rechtevergabe.
• Protokollierung: Umfassende Erfassung aller Datenquellen und Zugriffe zur Rückverfolgung von Angriffen.
• Sensibilisierung der Mitarbeiter: Gezielte Schulungen, um das Bewusstsein für Data Poisoning zu stärken.

Fazit

Data Poisoning stellt eine ernste Bedrohung für die Integrität und Sicherheit von KI- und ML-Systemen dar. Angesichts der zunehmenden Verbreitung von KI ist es entscheidend, robuste Sicherheitsmaßnahmen zu implementieren. Durch die Kombination von Datenvalidierung, adversarial Training, kontinuierlicher Überwachung und Sensibilisierung können Organisationen die Risiken von Data Poisoning erheblich reduzieren und die Sicherheit ihrer Systeme langfristig gewährleisten.

FAQ

Was ist Data Poisoning?

Data Poisoning ist ein gezielter Cyberangriff, bei dem Trainingsdatensätze von KI- und ML-Modellen manipuliert werden, um deren Verhalten oder Ergebnisse zu beeinflussen.

Welche Arten von Data Poisoning gibt es?

Es gibt gezielte Angriffe, die spezifische Modellverhalten manipulieren, und nicht gezielte Angriffe, die die allgemeine Leistung und Robustheit eines Modells schwächen.

Wie kann man Data Poisoning erkennen?

Anzeichen sind u. a. unerklärliche Leistungseinbrüche, verzerrte Ergebnisse oder ungewöhnliches Mitarbeiterverhalten in Bezug auf sensible Daten.

Welche Maßnahmen schützen vor Data Poisoning?

Effektive Schutzstrategien sind z. B. Datenvalidierung, kontinuierliche Überwachung, adversarial Training, Diversifizierung der Datenquellen und Mitarbeiterschulungen.