Was ist schön? («Bias» von generativer KI)

Vorurteile von KI erkennen und reflektieren

Lernziele / Kompetenzen

Die Lernenden …

  • … können Geschlechterrollen (z.B. Merkmale, Stereotypen, Verhalten) beschreiben und hinterfragen sowie Vorurteile und Klischees in Alltag und Medien erkennen. (NMG.1.6.d)
  • … können Informationen zu ethisch problematischen Situationen erschliessen und Möglichkeiten zur Verbesserung der Situation erwägen (z.B. Krieg, Ausbeutung, Sexismus, Fortschritt). (NMG.11.4c)
  • … können Kunstwerke und Bilder in Bezug auf Darstellungsabsicht und Bildwirkung untersuchen (z.B. Rollenbilder, Klischee, Fiktion). / erkennen, dass Bilder verändert und manipuliert werden können (z.B. Blickwinkel, Bildausschnitt, Proportion, Farbwirkung, Kontrast, Verzerrung). (BG.3.B.1b)

Kurzbeschrieb

KI-Bild- und Textgeneratoren lernen Muster anhand grosser Mengen von Vorlagen und imitieren diese unreflektiert. Damit sind sie zwangsläufig ‚voreingenommen‘: Sie reproduzieren dominante Klischees und Stereotype. Welche Hautfarbe oder welches Alter hat ein schöner Mensch in der Interpretation der KI? Wie sieht jemand aus, der auf dem Bau arbeitet? Mit solchen Prompts lassen sich Bilder und Texte generieren, die als Anlass für die Diskussion und Reflexion geeignet sind – nicht nur über kulturelle Muster, sondern auch über ihre Bedeutung für die Künstliche Intelligenz.

Auftrag an die Lernenden

  • Die Lernenden formulieren einen Prompt, der eine mögliche „Bias“ hat, und geben ihn in ein (bessere: mehrere) KI-Bilderstellungsprogramme ein (z.B. „die schönste Frau, die je gelebt hat“, „eine hässliche Person“, „ein Arzt, der ein Kind behandelt“ etc.)
  • Die Lernenden schauen sich die Resultate an und notieren zuerst individuell im Sinn einer Bildbeschreibung einige Stichworte dazu, was sie sehen – und auch dazu, was sie nicht sehen.
  • Anschliessend diskutieren sie in Gruppen oder im Plenum ihre Beobachtungen.
  • Hinweis: Ein Chatbot erlaubt es, einen Nachfolgeprompt zu formulieren, dessen Ergebnisse für weitere Reflexion genutzt werden können:
    • z.B. Verstärkung der Charakteristika (z.B. „Mach die Person noch schöner“).
    • z.B. Erfragung der Grundlagen der Erstellung Chatbots (z.B. „Warum hast du dies so dargestellt?“).
    • In einigen Fällen wird die KI verweigern, das Bild zu erstellen und dies begründen. Auch dies kann Grundlage für die Reflexion und Diskussion sein.

Weitere Hinweise

Hinweis auf Tool(s)

Für diese Aufgabe ist Zugang zu einem Chatbot (z.B. ChatGPT, Copilot, Google Gemini) notwendig. Grundsätzlich ist es möglich, die Aufgabe im Plenum durchzuführen, wodurch ein Zugang (für die Lehrperson) genügend ist.

Anschlussmöglichkeiten Schwerpunkt „Wie funktioniert KI?“

Folgende Lernziele aus dem IdeenSet-Schwerpunkt „Wie funktioniert Künstliche Intelligenz?“ können verknüpft werden:

  • Die Lernenden kennen unterschiedliche Arten des maschinellen Lernens und können diese voneinander abgrenzen: Unüberwachtes Lernen, überwachtes Lernen, bestärkendes Lernen. (Baustein 2) 
  • Die Lernenden verstehen, dass generative KI keine „magische“ Technologie ist, sondern eine Anwendungsform der ihnen bekannten Konzepte maschinellen Lernens. (Baustein 3)
  • Die Lernenden verknüpfen ihr Wissen zu maschinellem Lernen mit der Funktionsweise von generativer Bild- und Text-KI und lernen diese als komplexe „Mustererkennung-Systeme“ kennen. (Baustein 3)