oldwiki>Glanz: Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Bias in der KI''' {{o}} Sampling Bias {{o}} Label Bias {{o}} Measurement Bias {{o}} Algorithmic Bias |} = Bias in der KI = {{:BRK}} = Einleitung = In den letzten Jahren ist das Thema Bias in der Künstlichen Intelligenz (KI) zunehmend ins Bewusstsein der Öffentlichkeit gerückt. Bias, also…“

2024-11-04T21:49:36Z

Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Bias in der KI''' {{o}} Sampling Bias {{o}} Label Bias {{o}} Measurement Bias {{o}} Algorithmic Bias |} = Bias in der KI = {{:BRK}} = Einleitung = In den letzten Jahren ist das Thema Bias in der Künstlichen Intelligenz (KI) zunehmend ins Bewusstsein der Öffentlichkeit gerückt. Bias, also…“

Neue Seite

{{:MOOCit - Oben}}
{| align=center
{{:D-Tab}}
'''[[Bias in der KI]]'''
{{o}} [[Sampling Bias|Sampling Bias]]
{{o}} [[Label Bias|Label Bias]]
{{o}} [[Measurement Bias|Measurement Bias]]
{{o}} [[Algorithmic Bias|Algorithmic Bias]]
|}
= Bias in der KI =

{{:BRK}}

= Einleitung =

In den letzten Jahren ist das Thema [[Bias|Bias]] in der [[Künstliche Intelligenz|Künstlichen Intelligenz (KI)]] zunehmend ins Bewusstsein der Öffentlichkeit gerückt. Bias, also eine [[systematische Verzerrung|Verzerrung]] oder Voreingenommenheit in den Ergebnissen von KI-Systemen, kann weitreichende und tiefgreifende Konsequenzen haben, besonders wenn KI in Bereichen wie [[Bildung|Bildung]], [[Medizin|Medizin]], [[Justiz|Rechtssystem]] und [[Personalwesen|Personalwesen]] eingesetzt wird. Dieses aiMOOC-Modul vermittelt die wesentlichen Grundlagen zu Bias in KI, zeigt verschiedene Arten von Bias auf und bietet praxisnahe Anleitungen und Übungen, um Lehrkräfte für einen kritischen Umgang mit KI-Systemen zu sensibilisieren.

{{:BRK}}

== Was ist Bias in der KI? ==

Bias in der KI bezieht sich auf systematische Verzerrungen in den Daten oder den [[Algorithmus|Algorithmen]], die zu ungerechten, ungenauen oder benachteiligenden Ergebnissen führen können. Diese Verzerrungen entstehen oft unabsichtlich und können aus verschiedenen Quellen stammen, darunter:
{{o}} [[Datenerhebung|Verzerrte Daten]]
{{o}} [[Algorithmische Entscheidung|Algorithmen]]
{{o}} [[Menschliche Voreingenommenheit|Menschliche Vorurteile]]
{{o}} [[Technische Begrenzungen|Technische Begrenzungen der KI]]

Bias in der KI wird in der Regel dann problematisch, wenn Entscheidungen, die mithilfe von KI getroffen werden, auf diesen Verzerrungen beruhen und dadurch Gruppen oder Individuen benachteiligen.

{{:BRK}}

== Arten von Bias in KI ==

Bias in KI kann verschiedene Formen annehmen. Die wichtigsten sind:

=== 1. [[Sampling Bias|Sampling Bias]] ===

Sampling Bias tritt auf, wenn die [[Daten|Datenbasis]] nicht repräsentativ für die Gesamtpopulation ist. Beispielsweise kann ein KI-System zur Spracherkennung, das hauptsächlich auf englischsprachigen Daten trainiert wurde, Schwierigkeiten haben, Personen mit Akzenten zu verstehen.

=== 2. [[Label Bias|Label Bias]] ===

Bei Label Bias sind die [[Labels|Kategorien oder Beschriftungen]] innerhalb eines Datensatzes selbst verzerrt. Dies kann vorkommen, wenn menschliche [[Annotatoren|Datenannotatoren]] Vorurteile haben, die sich auf die [[Datenanmerkung|Labelierung]] übertragen. So könnten Bilder von bestimmten Berufsgruppen fälschlicherweise in Stereotypen verfallen, wie etwa Ärztinnen als Männer und Krankenschwestern als Frauen zu klassifizieren.

=== 3. [[Measurement Bias|Measurement Bias]] ===

Measurement Bias entsteht, wenn die Methode zur [[Datenerhebung|Erfassung]] oder Messung der Daten nicht geeignet ist. Ein Beispiel wäre die Bewertung von [[Leistung|Leistung]] durch Maße, die auf [[Geschlecht|Geschlecht]] oder [[Sozialer Status|sozialen Hintergrund]] basieren, was besonders bei [[Bildungsforschung|Schülerbewertungen]] problematisch sein kann.

=== 4. [[Algorithmic Bias|Algorithmic Bias]] ===

Algorithmic Bias entsteht, wenn die [[Algorithmusarchitektur|Struktur des Algorithmus]] bestimmte Gruppen bevorzugt oder benachteiligt. Dies kann z. B. durch mathematische Modelle geschehen, die unbeabsichtigt Diskriminierung verstärken, wie etwa in der Kreditvergabe oder bei Einstellungsentscheidungen.

{{:BRK}}

== Ursachen für Bias in KI ==

Die Ursachen für Bias in KI sind vielfältig und tief verwurzelt:

{{o}} [[Datenmangel|Unzureichende Daten]]: Fehlen von [[repräsentative Daten|repräsentativen Daten]] für alle Gruppen.
{{o}} [[Menschliche Vorurteile|Voreingenommenheit der Entwickler]]: Oft spiegeln sich unbewusste Vorurteile von Entwicklern in den Daten oder Algorithmen wider.
{{o}} [[Mangelnde Transparenz|Intransparenz der KI-Modelle]]: Komplexe Modelle wie [[Deep Learning|Deep Learning]] sind oft schwer zu interpretieren, wodurch versteckte Vorurteile schwer zu erkennen sind.
{{o}} [[Fehlende Diversität|Diversitätsmangel]] im Team: Homogene Entwicklerteams neigen dazu, nur eine eingeschränkte Perspektive auf die [[Modellierung|Modellierungsprozesse]] und Daten zu haben.

{{:BRK}}

== Beispiele für Bias in der Praxis ==

Bias kann in der Praxis erhebliche Auswirkungen haben und zu [[Diskriminierung|Diskriminierung]] führen. Hier sind einige Beispiele:

{{o}} [[Gesichtserkennung|Fehlende Genauigkeit bei Gesichtserkennung]] für ethnische Minderheiten
{{o}} [[Rechtswesen|Diskriminierung durch automatisierte Systeme im Rechtswesen]], wie [[Vorhersagemodelle|Risikoabschätzungen]]
{{o}} [[Bildung|Bevorzugung bestimmter Gruppen in Bildungsalgorithmen]], die Leistung oder Verhalten vorhersagen sollen
{{o}} [[Arbeitsmarkt|Unfaire Behandlung bei der Personalrekrutierung]] durch [[Automatisierte Einstellungssysteme|automatisierte Systeme]]

{{:BRK}}

== Mögliche Gegenmaßnahmen ==

Es gibt verschiedene Ansätze, um Bias in KI zu reduzieren und gerechtere KI-Systeme zu schaffen:

=== 1. [[Datenethik|Sensibilisierung und Ausbildung]] ===

Ein entscheidender Schritt ist die [[Schulung|Schulung]] von Entwickler*innen und Endnutzer*innen, um Vorurteile und deren Einfluss zu verstehen.

=== 2. [[Bias-Kontrolle|Kontrollierte Datenauswahl]] ===

Eine repräsentative [[Datenerhebung|Datenerhebung]] und -vorbereitung sind unerlässlich, um [[statistische Verzerrung|statistische Verzerrungen]] zu minimieren.

=== 3. [[Algorithmisches Fairness-Management|Algorithmische Fairness]] ===

Algorithmen können so gestaltet werden, dass sie Fairness-Kriterien erfüllen, wie z. B. [[Demographische Parität|demographische Parität]] oder [[Gleichbehandlung|Gleichbehandlung]] über Gruppen hinweg.

=== 4. [[Regulierungen und Standards|Transparenz und Regulierung]] ===

Durch [[Transparenz|Transparenz]] und [[Regulierung|Regulierung]] können Standards für die Verwendung von KI festgelegt werden, um die [[Verantwortlichkeit|Verantwortlichkeit]] zu fördern und Verzerrungen zu mindern.

{{:BRK}}

= Offene Aufgaben =

=== Leicht ===

{{o}} [[Beobachtung von Bias]]: Finde Beispiele für Bias in alltäglichen KI-Systemen, wie Sprachassistenten oder Social-Media-Algorithmen.
{{o}} [[Diskussionsrunde organisieren]]: Tausche Dich mit Kolleg*innen über Wahrnehmungen und eigene Erfahrungen mit Bias in der Technologie aus.
{{o}} [[Bias-Erkennung]]: Wähle eine bekannte KI-Anwendung und analysiere, welche Arten von Bias sie beinhalten könnte.

=== Standard ===

{{o}} [[Bias-Überprüfung]]: Entwickle ein kleines Projekt zur Bewertung von Bias in einer KI-Anwendung, die im Schulumfeld eingesetzt wird, wie z. B. Leistungsanalyse-Software.
{{o}} [[Datenquellen bewerten]]: Vergleiche unterschiedliche Datenquellen auf Bias und identifiziere, wie dies die Vorhersagefähigkeiten beeinflussen könnte.
{{o}} [[Analyse von Algorithmen]]: Untersuche, wie spezifische Algorithmen wie Decision Trees oder neuronale Netzwerke zu Bias führen können.

=== Schwer ===

{{o}} [[Bias-Minderung in der Praxis]]: Entwickle eine Unterrichtseinheit oder einen Workshop für Schüler*innen, in dem sie lernen, wie Bias in KI entsteht und wie man ihm entgegenwirken kann.
{{o}} [[KI-Ethik-Richtlinien]]: Erstelle Ethik-Richtlinien für den Einsatz von KI im Unterricht und Schule, die den Umgang mit Bias beinhalten.
{{o}} [[Interdisziplinäres Forschungsprojekt]]: Arbeite an einem interdisziplinären Projekt zur Erkennung und Korrektur von Bias in KI-Anwendungen, z. B. in Zusammenarbeit mit einer IT- oder Soziologie-Klasse.

{{:Offene Aufgabe - MOOC erstellen}}

{{:BRK}}

= Workshop =

{{o}} [[Bias-Analyse im Alltag]]: Analysiere, wie Bias die Wahrnehmung und Akzeptanz von KI-Systemen in der Gesellschaft beeinflusst.
{{o}} [[Data-Audit durchführen]]: Durchführe ein Daten-Audit für einen kleinen Datensatz und prüfe auf potenzielle Verzerrungen.
{{o}} [[Bias-Korrekturstrategien entwickeln]]: Entwickle eine Methode zur Fairness-Überprüfung eines Algorithmus und teste diese an Beispieldaten.
{{o}} [[Ethische Implikationen]]: Diskutiere die ethischen Konsequenzen von Bias in KI mit einer Gruppe von Lehrkräften und erstelle ein Whitepaper dazu.
{{o}} [[Algorithmen-Fairness]]: Analysiere, wie Algorithmen modifiziert werden können, um faire Entscheidungen zu treffen.

{{:BRK}}

= Quiz: =

{{:Multiple-Choice Anfang}}

'''Was versteht man unter "Sampling Bias"?'''
(Verzerrung aufgrund nicht repräsentativer Daten)
(!Vorurteile der Entwickler*innen)
(!Ungerechte Entscheidungskriterien im Algorithm

us)
(!Unzureichende Datengröße)

'''Welche Form von Bias entsteht, wenn Kategorien in einem Datensatz selbst voreingenommen sind?'''
(Label Bias)
(!Measurement Bias)
(!Sampling Bias)
(!Algorithmic Bias)

'''Welche Art von Bias resultiert aus Vorurteilen der Menschen, die Daten beschriften?'''
(Label Bias)
(!Sampling Bias)
(!Algorithmic Bias)
(!Measurement Bias)

'''Wodurch kann Algorithmic Bias entstehen?'''
(Durch die Struktur des Algorithmus)
(!Durch falsch beschriftete Daten)
(!Durch unzureichende Datengröße)
(!Durch menschliche Fehler bei der Programmierung)

'''Welche Maßnahme trägt zur Verringerung von Bias bei?'''
(Transparenz)
(!Größere Datenmengen)
(!Mehr Rechenleistung)
(!Einheitliche Algorithmen)

'''Was ist eine typische Folge von Bias in der KI?'''
(Diskriminierung bestimmter Gruppen)
(!Erhöhte Datenmenge)
(!Weniger Speicherplatzbedarf)
(!Erhöhte Rechenleistung)

'''Warum ist Diversität im Entwicklerteam wichtig zur Vermeidung von Bias?'''
(Weil unterschiedliche Perspektiven eingebracht werden)
(!Weil es zu weniger Fehlern führt)
(!Weil es den Algorithmus schneller macht)
(!Weil mehr Daten analysiert werden)

'''Was versteht man unter Measurement Bias?'''
(Bias durch ungeeignete Erhebungsmethoden)
(!Bias durch nicht repräsentative Daten)
(!Bias durch algorithmische Struktur)
(!Bias durch fehlende Datenmenge)

'''Wodurch kann sich Label Bias in der Praxis zeigen?'''
(In stereotypes Labels wie "männlicher Arzt" oder "weibliche Krankenschwester")
(!In nicht repräsentativen Daten)
(!In fehlenden Daten)
(!In einer begrenzten Datenmenge)

'''Welche Rolle spielt Transparenz in der Bias-Reduktion?'''
(Sie ermöglicht es, versteckte Verzerrungen zu erkennen)
(!Sie macht den Algorithmus schneller)
(!Sie reduziert die Datenmenge)
(!Sie verbessert die Rechenleistung)

{{:Multiple-Choice Ende}}
<br>

{{:BRK}}

= OERs zum Thema =

<iframe> https://de.m.wikipedia.org/wiki/Algorithmische_Voreingenommenheit </iframe>

= Links =

{| align=center
{{:D-Tab}}
'''[[Bias in der KI]]'''
{{o}} [[Sampling Bias|Sampling Bias]]
{{o}} [[Label Bias|Label Bias]]
{{o}} [[Measurement Bias|Measurement Bias]]
{{o}} [[Algorithmic Bias|Algorithmic Bias]]
|}

[[Kategorie:Fortbildung]]
[[Kategorie:Fortbildung aiMOOC]]
[[Kategorie:AI_MOOC]]

= Teilen - Diskussion - Bewerten =
{{:Teilen - MOOCit}}
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]] [[Kategorie:Fortbildung]] [[Kategorie:Lehrerfortbildung]]

Bias in der KI - Versionsgeschichte