oldwiki>Glanz: Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Bias in KI''' {{o}} Trainingsdaten {{o}} Diskriminierung {{o}} Ethik in der KI {{o}} Künstliche Intelligenz |} = Bias in KI: Vorurteile oder Verzerrungen in KI-Systemen = {{:BRK}} == Einleitung == {{:BRK}} Bias bezeichnet systematische Verzerrungen oder Vorurteile, die in KI-Systemen auftreten können. Diese entstehen häufig durch unausge…“

2024-11-24T14:51:33Z

Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Bias in KI''' {{o}} Trainingsdaten {{o}} Diskriminierung {{o}} Ethik in der KI {{o}} Künstliche Intelligenz |} = Bias in KI: Vorurteile oder Verzerrungen in KI-Systemen = {{:BRK}} == Einleitung == {{:BRK}} Bias bezeichnet systematische Verzerrungen oder Vorurteile, die in KI-Systemen auftreten können. Diese entstehen häufig durch unausge…“

Neue Seite

{{:MOOCit - Oben}}

{| align=center
{{:D-Tab}}
'''[[Bias in KI]]'''
{{o}} [[Trainingsdaten]]
{{o}} [[Diskriminierung]]
{{o}} [[Ethik in der KI]]
{{o}} [[Künstliche Intelligenz]]
|}
= Bias in KI: Vorurteile oder Verzerrungen in KI-Systemen =

{{:BRK}}

== Einleitung ==

{{:BRK}}

[[Bias in KI|Bias]] bezeichnet systematische Verzerrungen oder Vorurteile, die in [[Künstliche Intelligenz|KI-Systemen]] auftreten können. Diese entstehen häufig durch unausgewogene oder nicht repräsentative [[Trainingsdaten]], welche die Entscheidungen und Vorhersagen eines KI-Modells beeinflussen. Dies hat weitreichende Konsequenzen für die [[Bildung|pädagogische Praxis]], da diskriminierende Muster verstärkt werden können, die sich negativ auf [[Schüler*innen]] auswirken.

Dieser aiMOOC richtet sich an Lehrkräfte, die die Grundlagen von Bias verstehen und lernen möchten, wie sie solche Verzerrungen in Unterrichtsmaterialien und KI-Anwendungen erkennen und minimieren können.

{{:BRK}}

== Was ist Bias in KI? ==

{{:BRK}}

Bias bezeichnet Verzerrungen, die durch verschiedene Faktoren entstehen können:

{{o}} [[Kognitive Verzerrungen]]: Vorurteile, die sich in den Daten widerspiegeln und die Entscheidungen der KI beeinflussen.
{{o}} [[Algorithmische Verzerrungen]]: Fehler, die durch das Design des Modells oder seiner Optimierungsziele eingeführt werden.
{{o}} [[Soziale Verzerrungen]]: Vorurteile, die durch gesellschaftliche Ungleichheiten und Diskriminierung entstehen.

=== Ursachen für Bias ===

{{o}} Unausgewogene [[Trainingsdaten]]:
- Beispielsweise können Datensätze, die hauptsächlich männliche Probanden enthalten, eine Diskriminierung von Frauen verstärken.
{{o}} [[Historische Verzerrungen]]:
- Vorurteile in bestehenden Datenquellen werden durch die KI reproduziert.
{{o}} [[Mangel an Diversität]]:
- Wenig repräsentative Daten führen zu einer eingeschränkten Perspektive.

{{:BRK}}

== Beispiele für Bias in der Praxis ==

{{:BRK}}

1. **Sprachmodelle**: Eine [[KI]] kann stereotype Geschlechterrollen verstärken, z. B. bei der Generierung von Texten, die Männer als „Führungskräfte“ und Frauen als „Pflegekräfte“ darstellen.
2. **Gesichtserkennung**: Algorithmen können bei Menschen mit dunkler Hautfarbe eine höhere Fehlerquote aufweisen, da sie überwiegend mit hellhäutigen Bildern trainiert wurden.
3. **Bewerbungssysteme**: Automatisierte Systeme könnten [[Diskriminierung]] in der Auswahl von Bewerber*innen verstärken, wenn sie auf historischen Daten beruhen, die bereits voreingenommen sind.

{{:BRK}}

== Auswirkungen auf die Bildung ==

{{:BRK}}

Bias kann die Chancengleichheit im Unterricht gefährden. Beispielsweise könnten:
{{o}} [[KI-basierte Lernsysteme]] Schüler*innen aus benachteiligten Gruppen schlechtere Empfehlungen geben.
{{o}} [[Bewertungssysteme]] durch Verzerrungen Schüler*innen mit schlechteren Ergebnissen abstempeln.
{{o}} [[Lehrkräfte]] unbewusst auf voreingenommene Systeme vertrauen und Diskriminierung reproduzieren.

{{:BRK}}

== Strategien zur Vermeidung von Bias ==

{{:BRK}}

{{o}} Sensibilisierung von Lehrkräften: Verstehen, wie Vorurteile in [[Algorithmen]] entstehen können.
{{o}} [[Datensatzanalyse]]: Sicherstellen, dass Trainingsdaten divers und repräsentativ sind.
{{o}} [[Ethik im KI-Design]]: Einhaltung transparenter und verantwortungsvoller Designprinzipien.
{{o}} Zusammenarbeit mit [[KI-Expert*innen]], um Tools kritisch zu evaluieren.

{{:BRK}}

= Offene Aufgaben =

{{:Offene Aufgabe - MOOC erstellen}}

=== Leicht ===
{{o}} [[Bias-Analyse]]: Untersuche einen bekannten Datensatz auf potenzielle Verzerrungen.
{{o}} [[Diskussion]]: Recherchiere, welche Arten von Bias in deinem Unterricht auftreten könnten, und teile deine Gedanken mit Kolleg*innen.
{{o}} [[Praxisbeispiele]]: Nenne Beispiele für KI-Anwendungen in der Schule und analysiere mögliche Bias-Risiken.

=== Standard ===
{{o}} [[Selbstexperiment]]: Simuliere ein KI-Modell mit voreingenommenen Trainingsdaten und beschreibe die Ergebnisse.
{{o}} [[Richtlinien entwickeln]]: Entwerfe ein Regelwerk für den Einsatz von KI im Unterricht, das Bias minimiert.
{{o}} [[Schüler*innenarbeit]]: Erstelle mit deiner Klasse ein Projekt, das Bias in KI sichtbar macht.

=== Schwer ===
{{o}} [[Modelloptimierung]]: Entwickle eine Strategie, wie ein bestehendes KI-System verbessert werden kann, um Bias zu reduzieren.
{{o}} [[Fortbildungskonzept]]: Gestalte eine interne Fortbildung für Lehrkräfte zum Thema Bias in KI.
{{o}} [[Forschungsprojekt]]: Führe eine Studie zu Bias in KI-gestützten Bildungsprogrammen durch und veröffentliche die Ergebnisse.

{{:BRK}}

= Workshop =

{{:BRK}}

{{o}} [[Bias erkennen]]: Analysiere gemeinsam mit anderen Lehrkräften eine bestehende KI-Anwendung und identifiziere Verzerrungen.
{{o}} [[Diversität im Datensatz]]: Entwickle mit einem Partner*innenteam einen diverseren Datensatz für ein Schulprojekt.
{{o}} [[Rollenspiel]]: Simuliere die Auswirkungen von Bias in einer pädagogischen Situation und erarbeite Lösungen.
{{o}} [[Interdisziplinäre Zusammenarbeit]]: Plane ein fächerübergreifendes Projekt zu Bias in KI.
{{o}} [[Evaluation]]: Entwickle ein Evaluationsinstrument zur Beurteilung von KI-Systemen hinsichtlich Bias.

{{:BRK}}

= Quiz: =

{{:Multiple-Choice Anfang}}

'''Was ist Bias in KI?'''
(Vorurteile oder Verzerrungen, die durch Daten oder Modelle entstehen)
(!Fehlende Daten in KI-Systemen)
(!Eine Form der Datenanalyse)
(!Nur ethische Probleme)

{{:Multiple-Choice Ende}}

{{:Multiple-Choice Anfang}}

'''Wie können Verzerrungen in Trainingsdaten entstehen?'''
(Durch unrepräsentative oder unausgewogene Daten)
(!Durch die Wahl eines KI-Algorithmus)
(!Durch fehlende Testdaten)
(!Durch unethisches Verhalten der Entwickler*innen)

{{:Multiple-Choice Ende}}

{{:Multiple-Choice Anfang}}

'''Welches Beispiel zeigt Bias in KI?'''
(Sprachmodelle, die stereotype Geschlechterrollen verstärken)
(!Algorithmen, die korrekt arbeiten)
(!KI-Tools ohne Trainingsdaten)
(!Diversität in KI-Systemen)

{{:Multiple-Choice Ende}}

{{:Multiple-Choice Anfang}}

'''Wie kann Bias minimiert werden?'''
(Durch diversere Trainingsdaten und transparente Algorithmen)
(!Durch den Einsatz von mehr Daten)
(!Durch automatisierte Systeme)
(!Durch Algorithmen ohne Ethikrichtlinien)

{{:Multiple-Choice Ende}}

{{:Multiple-Choice Anfang}}

'''Was ist ein Risiko von Bias in der Bildung?'''
(Verschärfung sozialer Ungleichheiten)
(!Verbesserung der Chancengleichheit)
(!Unveränderbare Verzerrungen)
(!Rein technische Probleme)

{{:Multiple-Choice Ende}}

{{:BRK}}

= OERs zum Thema =

<iframe>https://de.m.wikipedia.org/wiki/Algorithmischer_Bias</iframe>

= Links =

{| align=center
{{:D-Tab}}
'''[[Bias in KI]]'''
{{o}} [[Trainingsdaten]]
{{o}} [[Diskriminierung]]
{{o}} [[Ethik in der KI]]
{{o}} [[Künstliche Intelligenz]]
|}

[[Kategorie:Fortbildung]]
[[Kategorie:Fortbildung aiMOOC]]
[[Kategorie:AI_MOOC]]

= Teilen - Diskussion - Bewerten =

{{:Teilen - MOOCit}}
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]] [[Kategorie:Fortbildung]] [[Kategorie:Lehrerfortbildung]] [[Kategorie:KI im Unterricht]]

Diskussion:Bias in KI - Versionsgeschichte