oldwiki>Glanz: Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Data Poisoning''' {{o}} Maschinelles Lernen {{o}} Backdoor Attack {{o}} Anomalie-Erkennung {{o}} Trainingsdaten {{o}} KI-Sicherheit |} = Einleitung = In diesem aiMOOC geht es um das wichtige und zunehmend relevante Thema '''Data Poisoning'''. Dabei handelt es sich um gezielte Manipulationen von Trainingsdaten in Maschinellem Lernen und Künstlicher Intelligenz (KI),…“

2025-07-05T19:30:31Z

Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Data Poisoning''' {{o}} Maschinelles Lernen {{o}} Backdoor Attack {{o}} Anomalie-Erkennung {{o}} Trainingsdaten {{o}} KI-Sicherheit |} = Einleitung = In diesem aiMOOC geht es um das wichtige und zunehmend relevante Thema '''Data Poisoning'''. Dabei handelt es sich um gezielte Manipulationen von Trainingsdaten in Maschinellem Lernen und Künstlicher Intelligenz (KI),…“

Neue Seite

{{:MOOCit - Oben}}
{| align=center
{{:D-Tab}}
'''[[Data Poisoning]]'''
{{o}} [[Maschinelles Lernen]]
{{o}} [[Backdoor Attack]]
{{o}} [[Anomalie-Erkennung]]
{{o}} [[Trainingsdaten]]
{{o}} [[KI-Sicherheit]]
|}

= Einleitung =

In diesem aiMOOC geht es um das wichtige und zunehmend relevante Thema '''[[Data Poisoning]]'''. Dabei handelt es sich um gezielte Manipulationen von [[Trainingsdaten]] in [[Maschinellem Lernen]] und [[Künstlicher Intelligenz]] (KI), mit dem Ziel, die [[Modelle]] zu sabotieren oder unerwünschte Effekte hervorzurufen. Data Poisoning ist eine Form von [[Cyberangriff]] und kann schwerwiegende Auswirkungen auf automatisierte Systeme, wie beispielsweise in der [[Gesichtserkennung]], bei [[Chatbots]] oder in der [[Medizinischen Diagnostik]] haben.

In diesem MOOC erfährst Du, was Data Poisoning genau ist, wie es funktioniert, welche Arten es gibt, welche Risiken damit verbunden sind und wie man sich dagegen schützen kann.

{{:BRK}}
= Was ist Data Poisoning? =

{{:BRK}}
== Definition und Grundprinzip ==

'''[[Data Poisoning]]''' bezeichnet das absichtliche Einbringen von fehlerhaften, manipulierten oder schädlichen Daten in einen [[Trainingsdatensatz]], um die Leistung eines [[Maschinellen Lernmodells]] zu verschlechtern oder es in eine bestimmte Richtung zu beeinflussen.

Die Idee dahinter ist ähnlich wie bei einer [[Vergiftung]] – das System wird durch scheinbar normale, aber schädliche Daten korrumpiert.

{{:BRK}}
== Warum ist Data Poisoning gefährlich? ==

Data Poisoning kann zu folgenden Konsequenzen führen:

{{o}} [[Fehlentscheidungen]] in autonomen Systemen (z. B. Autos)
{{o}} [[Manipulierte Diagnosen]] in medizinischer KI
{{o}} [[Vertrauensverlust]] in KI-gestützte Systeme
{{o}} [[Cyberangriffe]] durch gezielte Schwächung von Sicherheitsmechanismen
{{o}} [[Diskriminierende Modelle]] durch gezielte Verzerrung

{{:BRK}}
== Arten von Data Poisoning ==

Es gibt mehrere Varianten von Data Poisoning:

{{o}} '''[[Label Flipping]]''': Falsche Zuordnung von Labels (z. B. Hund als Katze)
{{o}} '''[[Backdoor Attack]]''': Einfügen spezieller Merkmale, um das Modell zu kontrollieren
{{o}} '''[[Availability Attack]]''': Sabotage der Modellleistung insgesamt
{{o}} '''[[Targeted Attack]]''': Angriff auf bestimmte Ausgaben des Modells

{{:BRK}}
== Beispiele für Data Poisoning ==

{{o}} In einem [[Spamfilter]] werden gezielt "harmlose" Spam-Mails eingefügt, um ihn zu verwirren.
{{o}} In einer [[Bilddatenbank]] werden Bilder mit manipulativen Merkmalen versehen.
{{o}} In einem [[Chatbot]] werden durch Interaktionen toxische Inhalte als "normal" trainiert.

{{:BRK}}
== Wie kann man sich schützen? ==

Maßnahmen gegen Data Poisoning umfassen:

{{o}} [[Datenvalidierung]] und [[Datenbereinigung]]
{{o}} [[Robuste Trainingsverfahren]]
{{o}} [[Anomalie-Erkennung]] und [[Outlier Detection]]
{{o}} [[Differential Privacy]] und [[Federated Learning]]

{{:BRK}}
= Interaktive Aufgaben =

{{:BRK}}
== Quiz: Teste Dein Wissen ==

{{:Multiple-Choice Anfang}}

'''Was bedeutet "Data Poisoning"?'''
(Manipulation von Trainingsdaten zur Sabotage von KI-Modellen)
(!Einsatz von echten Daten zur Verbesserung von KI)
(!Test von Modellen mit synthetischen Daten)
(!Entfernung fehlerhafter Daten aus einem Datensatz)

'''Was ist eine Backdoor-Attacke?'''
(Ein Angriff, bei dem gezielte Trigger in Daten eingefügt werden)
(!Ein Angriff durch Überlastung des Netzwerks)
(!Eine Methode zur Verbesserung der Trainingsgeschwindigkeit)
(!Ein legaler Zugang für Entwickler)

'''Was ist ein Ziel von Data Poisoning?'''
(Sabotage oder Manipulation eines Modells)
(!Erhöhung der Trainingsgeschwindigkeit)
(!Verkleinerung des Modells)
(!Erzeugung von Open-Source-Daten)

'''Welche Methode kann gegen Data Poisoning helfen?'''
(Datenvalidierung)
(!Label Flipping)
(!Backdoor Attack)
(!Label Injection)

'''Was versteht man unter Label Flipping?'''
(Vertauschung von Klassenbeschriftungen in den Trainingsdaten)
(!Verschlüsselung von Datenlabels)
(!Manuelle Kennzeichnung durch Menschen)
(!Veränderung der Trainingsarchitektur)

'''Welche Datenart ist besonders anfällig für Data Poisoning?'''
(Unüberwachte Trainingsdaten aus offenen Quellen)
(!Bereits bereinigte Daten)
(!Manuell überprüfte Laborwerte)
(!Verschlüsselte Dateien)

'''Was kann durch Data Poisoning verursacht werden?'''
(Fehlentscheidungen von KI-Systemen)
(!Erhöhte GPU-Leistung)
(!Geringerer Stromverbrauch)
(!Automatische Fehlerkorrektur)

'''Was ist ein typisches Ziel bei Targeted Attacks?'''
(Spezifische Ausgaben des Modells zu beeinflussen)
(!Komplette Datenbank zu zerstören)
(!Daten zu anonymisieren)
(!Trainingsdauer zu reduzieren)

'''Was hilft beim Erkennen von Poisoned Data?'''
(Anomalie-Erkennung)
(!Datenkompression)
(!Transparenzberichte)
(!Batch-Learning)

'''Wie nennt man das Entfernen von manipulierten Daten aus dem Trainingssatz?'''
(Datenbereinigung)
(!Datenmodifikation)
(!Label Injection)
(!Pipeline Reset)

{{:Multiple-Choice Ende}}
<br>

{{:BRK}}
== Memory ==

<div class="memo-quiz">
{|
|-
| Label Flipping || Vertauschung der Datenbeschriftung
|-
| Backdoor Attack || Eingeschleuste Trigger-Merkmale
|-
| Availability Attack || Generelle Sabotage der Modellleistung
|-
| Targeted Attack || Manipulation bestimmter Outputs
|-
| Datenvalidierung || Überprüfung auf Unregelmäßigkeiten
|}
{{:Memo Ende}}
<br>

{{:BRK}}
== Drag and Drop ==
<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Data Poisoning-Angriffstypen
|-
| '''Label Flipping'''
| Falsche Klassenzuweisung
|-
| '''Backdoor Attack'''
| Geheime Steuerungsmerkmale
|-
| '''Availability Attack'''
| Allgemeine Schwächung des Modells
|-
| '''Targeted Attack'''
| Gezielte Ergebnismanipulation
|-
| '''Outlier Detection'''
| Schutzmaßnahme
|}
</div>

<br>

{{:BRK}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| Label || Wie nennt man eine Datenbeschriftung im Training?
|-
| Trigger || Was löst bei einer Backdoor-Attacke die Manipulation aus?
|-
| Anomalie || Fachbegriff für eine auffällige Datenabweichung?
|-
| Angriff || Was ist das Ziel von Data Poisoning grundsätzlich?
|-
| Schutz || Was benötigt man gegen Data Poisoning?
|-
| Modell || Was wird durch Data Poisoning beeinflusst?
|}
{{:Kreuzwort Ende}}
<br>

== LearningApps ==
<iframe> https://learningapps.org/index.php?s=Data+Poisoning </iframe>

== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
Data Poisoning ist eine Form des { Angriffs }, bei dem Trainingsdaten absichtlich manipuliert werden. Eine bekannte Methode ist das { Label Flipping }, bei dem Daten falsch beschriftet werden. Eine andere Variante ist die { Backdoor Attack }, bei der spezielle Merkmale eingebaut werden. Schutzmaßnahmen beinhalten unter anderem { Datenvalidierung } und den Einsatz von { Anomalie-Erkennung }.
</quiz>

<br>

= Offene Aufgaben =

=== Leicht ===
{{o}} [[Was ist Data Poisoning?]]: Erkläre den Begriff in Deinen eigenen Worten.
{{o}} [[Gefahren von Data Poisoning]]: Beschreibe eine konkrete Gefahr anhand eines Beispiels.
{{o}} [[Trainingsdaten]]: Sammle Beispiele für Trainingsdaten aus dem Alltag.

=== Standard ===
{{o}} [[Typen von Data Poisoning]]: Stelle die Unterschiede zwischen Label Flipping, Targeted Attack und Backdoor Attack in einer Tabelle dar.
{{o}} [[Schutzmaßnahmen]]: Erstelle ein Plakat, wie man sich gegen Data Poisoning schützen kann.
{{o}} [[Fallanalyse]]: Recherchiere einen realen Fall, bei dem ein KI-System manipuliert wurde.

=== Schwer ===
{{o}} [[Simuliere Data Poisoning]]: Entwickle mit einem Partner ein kleines Beispielprojekt (z. B. in Python), das zeigt, wie sich manipulierte Daten auswirken können.
{{o}} [[Ethik in der KI]]: Diskutiere in einem Aufsatz, ob KI-Systeme grundsätzlich anfällig für Sabotage sein sollten oder wie man sie sicherer machen könnte.
{{o}} [[Interview führen]]: Interviewe eine Person aus dem IT-Bereich über ihre Erfahrungen mit Datensicherheit und Data Poisoning.

{{:Offene Aufgabe - MOOC erstellen}}

= Lernkontrolle =

{{o}} [[Zusammenhang erkennen]]: Warum ist das Training von KI-Systemen ohne Datenvalidierung gefährlich?
{{o}} [[Vergleich anstellen]]: Vergleiche Data Poisoning mit klassischem Hacking. Wo liegen Gemeinsamkeiten und Unterschiede?
{{o}} [[Sicherheitsstrategie entwickeln]]: Entwerfe ein Konzept zur Erkennung von Poisoning-Vorfällen.
{{o}} [[Technologien übertragen]]: Welche Schutzmaßnahmen gegen Data Poisoning lassen sich auch auf andere Systeme übertragen?
{{o}} [[Langzeitfolgen einschätzen]]: Welche Folgen hat ein unbemerkter Angriff auf ein medizinisches KI-Modell langfristig?

<br>
<br>
= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/Data_poisoning </iframe>

<br>

= Links =

{| align=center
{{:D-Tab}}
'''[[Data Poisoning]]'''
{{o}} [[Maschinelles Lernen]]
{{o}} [[Backdoor Attack]]
{{o}} [[Anomalie-Erkennung]]
{{o}} [[Trainingsdaten]]
{{o}} [[KI-Sicherheit]]
|}

[[Kategorie:Informatik]]
[[Kategorie:Cybersecurity]]
[[Kategorie:Künstliche Intelligenz]]

= Teilen - Diskussion - Bewerten =
{{:Teilen - MOOCit}}
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]

Data Poisoning - Versionsgeschichte