oldwiki>Glanz: Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Explainable AI''' {{o}} Künstliche Intelligenz {{o}} Neuronale Netze {{o}} Ethik in der KI {{o}} Vertrauen in Technik {{o}} Maschinelles Lernen {{o}} Bias in Daten {{o}} Fairness {{o}} Transparenz |} = Einleitung = '''Explainable AI''' – kurz '''XAI''' – ist ein Bereich der Künstlichen Intelligenz, der sich mit der Nachvollziehbarkeit un…“

2025-07-05T19:29:44Z

Die Seite wurde neu angelegt: „{{:MOOCit - Oben}} {| align=center {{:D-Tab}} '''Explainable AI''' {{o}} Künstliche Intelligenz {{o}} Neuronale Netze {{o}} Ethik in der KI {{o}} Vertrauen in Technik {{o}} Maschinelles Lernen {{o}} Bias in Daten {{o}} Fairness {{o}} Transparenz |} = Einleitung = '''Explainable AI''' – kurz '''XAI''' – ist ein Bereich der Künstlichen Intelligenz, der sich mit der Nachvollziehbarkeit un…“

Neue Seite

{{:MOOCit - Oben}}
{| align=center
{{:D-Tab}}
'''[[Explainable AI]]'''
{{o}} [[Künstliche Intelligenz]]
{{o}} [[Neuronale Netze]]
{{o}} [[Ethik in der KI]]
{{o}} [[Vertrauen in Technik]]
{{o}} [[Maschinelles Lernen]]
{{o}} [[Bias in Daten]]
{{o}} [[Fairness]]
{{o}} [[Transparenz]]
|}
= Einleitung =

'''Explainable AI''' – kurz '''XAI''' – ist ein Bereich der [[Künstliche Intelligenz|Künstlichen Intelligenz]], der sich mit der Nachvollziehbarkeit und Verständlichkeit von Entscheidungen und Vorhersagen durch [[Algorithmen]] beschäftigt. Da viele moderne [[KI-Modelle]], insbesondere [[Neuronale Netze]], als '''Black Boxes''' fungieren, besteht die Gefahr, dass ihre Entscheidungen nicht nachvollziehbar sind – selbst für Expertinnen und Experten.

Dieser MOOC erklärt, warum [[Erklärbarkeit]] in der KI wichtig ist, wie man sie erreichen kann und welche Methoden und Techniken es gibt, um Modelle transparenter zu machen. Du wirst lernen, welche Rolle [[Transparenz]], [[Fairness]], [[Bias]] und [[Vertrauen]] spielen – und wie man KI-Modelle so gestaltet, dass sie für Menschen verständlich bleiben.

{{:BRK}}
= Grundlagen der Explainable AI =

{{:BRK}}
== Warum braucht KI Erklärbarkeit? ==

Viele KI-Systeme, vor allem solche, die auf [[Deep Learning]] basieren, liefern zwar beeindruckend genaue Ergebnisse – aber es bleibt oft unklar, '''wie''' diese Ergebnisse zustande kommen. Dies kann in kritischen Bereichen wie [[Medizin]], [[Finanzen]] oder der [[Justiz]] problematisch sein.

{{o}} [[Transparenz]] schafft Vertrauen.
{{o}} [[Erklärbarkeit]] hilft bei der Fehleranalyse.
{{o}} Nutzerinnen und Nutzer müssen [[Entscheidungen nachvollziehen]] können.
{{o}} [[Gesetzliche Vorgaben]] wie die [[Datenschutz-Grundverordnung|DSGVO]] fordern Erklärungen.

{{:BRK}}
== Black Box vs. White Box ==

KI-Modelle lassen sich in Bezug auf ihre Erklärbarkeit in zwei Kategorien einteilen:

{{o}} '''[[Black Box]]'''-Modelle: Komplexe Modelle wie [[Deep Neural Networks]], deren innere Funktionsweise kaum transparent ist.
{{o}} '''[[White Box]]'''-Modelle: Einfachere Modelle wie [[Entscheidungsbäume]] oder [[lineare Regression]], die leicht nachzuvollziehen sind.

{{:BRK}}
== Methoden der Erklärbarkeit ==

Es gibt verschiedene Methoden, um auch komplexe Modelle erklärbar zu machen:

{{o}} [[LIME]] (Local Interpretable Model-agnostic Explanations): Erklärt einzelne Vorhersagen durch lokale Approximationen.
{{o}} [[SHAP]] (SHapley Additive exPlanations): Bewertet die Bedeutung einzelner Eingabefaktoren.
{{o}} [[Saliency Maps]]: Visualisiert die Bedeutung einzelner Pixel oder Eingaben.
{{o}} [[Feature Importance]]: Misst, welche Merkmale die Vorhersagen beeinflussen.
{{o}} [[Gegenbeispiele]]: Zeigt minimal veränderte Eingaben, die zu anderen Ergebnissen führen.

{{:BRK}}
= Interaktive Aufgaben =

{{:BRK}}
== Quiz: Teste Dein Wissen ==

{{:Multiple-Choice Anfang}}

'''Was ist das Ziel von Explainable AI?'''
(Die Entscheidungen von KI-Systemen nachvollziehbar zu machen)
(!Die Leistung von KI-Systemen zu verbessern)
(!Die Rechenleistung von Computern zu erhöhen)
(!Die Programmierung von KI zu vereinfachen)

'''Welche Modelle gelten als White Box?'''
(Entscheidungsbäume)
(!Neuronale Netze)
(!Deep Learning Modelle)
(!Support Vector Machines)

'''Was bedeutet der Begriff Black Box im Kontext von KI?'''
(Die interne Funktionsweise ist nicht transparent)
(!Die KI funktioniert nur im Dunkeln)
(!Es handelt sich um Open-Source-Modelle)
(!Die Daten sind verschlüsselt)

'''Welche Methode bewertet den Einfluss einzelner Merkmale auf das Modell?'''
(SHAP)
(!GAN)
(!Backpropagation)
(!Dropout)

'''Was ist LIME?'''
(Eine Methode zur lokalen Modellapproximation)
(!Ein neuronales Netz)
(!Ein Cloud-Service)
(!Eine Programmiersprache)

'''Warum ist Erklärbarkeit wichtig in der Medizin?'''
(Weil Entscheidungen Leben betreffen)
(!Weil Ärzte keine KI mögen)
(!Weil Modelle dort nicht funktionieren)
(!Weil Patientendaten öffentlich sind)

'''Was ist ein Vorteil erklärbarer Modelle?'''
(Man kann Entscheidungen nachvollziehen)
(!Sie sind immer genauer)
(!Sie benötigen keine Daten)
(!Sie sind schneller trainiert)

'''Was zeigen Saliency Maps?'''
(Wichtige Bereiche der Eingabe für eine Entscheidung)
(!Datenschutzverstöße)
(!Trainingsverläufe)
(!Modellmetriken)

'''Welche Rolle spielt die DSGVO für Explainable AI?'''
(Sie fordert nachvollziehbare Entscheidungen)
(!Sie schreibt neuronale Netze vor)
(!Sie erlaubt keine KI in Europa)
(!Sie verbietet Machine Learning)

'''Was versteht man unter Gegenbeispielen?'''
(Veränderte Eingaben, die andere Vorhersagen erzeugen)
(!Beispiele aus der Vergangenheit)
(!Tests zur Performance)
(!Fehlerhafte Datensätze)

{{:Multiple-Choice Ende}}
<br>

{{:BRK}}
== Memory ==

<div class="memo-quiz">
{|
|-
| LIME || Lokale Erklärbarkeit
|-
| SHAP || Bedeutung von Merkmalen
|-
| Saliency Map || Visualisierung relevanter Eingaben
|-
| White Box || Transparente Modelle
|-
| Black Box || Nicht nachvollziehbare Modelle
|}
{{:Memo Ende}}
<br>

== Drag and Drop ==

<div class="lueckentext-quiz">

{| class="wikitable"
! Ordne die richtigen Begriffe zu.
! Thema
|-
| '''LIME''' | Lokale Approximation
|-
| '''SHAP''' | Einflussfaktoren quantifizieren
|-
| '''Saliency Map''' | Visualisierung
|-
| '''White Box''' | Transparente Modelle
|-
| '''Black Box''' | Komplexe, undurchsichtige Modelle

|}
</div>

<br>

{{:BRK}}
== Kreuzworträtsel ==

<div class="kreuzwort-quiz">
{|
|-
| LIME || Methode zur lokalen Erklärbarkeit
|-
| SHAP || Bewertet die Merkmalsbedeutung
|-
| Vertrauen || Ziel von Explainable AI
|-
| Transparenz || Gegenteil von Intransparenz
|-
| Fairness || Wichtiges ethisches Ziel der KI
|-
| Medizin || Anwendungsbereich mit hohen Anforderungen an Erklärbarkeit
|}
{{:Kreuzwort Ende}}
<br>

== LearningApps ==
<iframe> https://learningapps.org/index.php?s=Explainable+AI </iframe>

== Lückentext ==

<quiz display=simple>
{'''Vervollständige den Text.'''<br>
|type="{}"}
Explainable AI steht für { erklärbare } Künstliche Intelligenz und soll die Nachvollziehbarkeit von Entscheidungen ermöglichen. Viele moderne KI-Systeme gelten als { Black Box }, weil ihre Entscheidungsprozesse schwer verständlich sind. Methoden wie { LIME } und { SHAP } helfen, diese Entscheidungen nachvollziehbar zu machen. Besonders in sensiblen Bereichen wie der { Medizin } ist Erklärbarkeit von großer Bedeutung.
</quiz>

<br>

= Offene Aufgaben =

=== Leicht ===
{{o}} [[KI-Erklärung]]: Beschreibe mit eigenen Worten, was Explainable AI bedeutet.
{{o}} [[Begriffsdefinitionen]]: Erkläre die Begriffe LIME, SHAP und Saliency Map.
{{o}} [[Alltagseinsatz]]: Finde drei Beispiele, wo erklärbare KI im Alltag hilfreich wäre.

=== Standard ===
{{o}} [[Modellvergleich]]: Untersuche ein White Box- und ein Black Box-Modell anhand ihrer Erklärbarkeit.
{{o}} [[Erklärvideo]]: Produziere ein Video, in dem Du XAI anhand eines Beispiels erklärst.
{{o}} [[Kritische Reflexion]]: Diskutiere Vor- und Nachteile erklärbarer KI.

=== Schwer ===
{{o}} [[Eigenes XAI-Projekt]]: Entwickle ein Mini-KI-Modell mit erklärbarer Komponente.
{{o}} [[Interviews]]: Befrage Menschen zu ihrer Meinung über verständliche KI.
{{o}} [[Ethik-Debatte]]: Veranstalte eine Diskussion zum Thema „Brauchen wir immer erklärbare KI?“
{{:Offene Aufgabe - MOOC erstellen}}

= Lernkontrolle =

{{o}} [[Vertrauen in KI]]: Warum ist es wichtig, dass Menschen den Entscheidungen einer KI vertrauen können?
{{o}} [[Gesetze und Ethik]]: Wie beeinflussen rechtliche Rahmenbedingungen die Entwicklung von Explainable AI?
{{o}} [[Techniken der Erklärbarkeit]]: Wähle eine Methode (z. B. SHAP) und erkläre, wie sie funktioniert und wann sie sinnvoll ist.
{{o}} [[Konflikte zwischen Genauigkeit und Erklärbarkeit]]: Warum sind komplexe Modelle oft weniger erklärbar?
{{o}} [[XAI im Alltag]]: Welche Rolle spielt Explainable AI im autonomen Fahren?

<br>
<br>
= OERs zum Thema =
<iframe> https://de.m.wikipedia.org/wiki/Erklärbare_Künstliche_Intelligenz </iframe>

<br>

= Links =
{| align=center
{{:D-Tab}}
'''[[Explainable AI]]'''
{{o}} [[Künstliche Intelligenz]]
{{o}} [[Neuronale Netze]]
{{o}} [[Ethik in der KI]]
{{o}} [[Vertrauen in Technik]]
{{o}} [[Maschinelles Lernen]]
{{o}} [[Bias in Daten]]
{{o}} [[Fairness]]
{{o}} [[Transparenz]]
|}

[[Kategorie:Informatik]]
[[Kategorie:Künstliche Intelligenz]]
[[Kategorie:Ethik]]
[[Kategorie:Digitale Bildung]]

= Teilen - Diskussion - Bewerten =
{{:Teilen - MOOCit}}
[[Kategorie:AI_MOOC]] [[Kategorie:GPT aiMOOC]]

Explainable AI - Versionsgeschichte