medialepfade.org

Verein für Medienbildung e.V.

Alev Coban

(sie/ihr)

ChatGPT & Co

Pädagogische Ansätze in der Vermittlung von KI-Nutzung

Gemeinnütziger Verein

Gegründet 2013

Sitz in Berlin

Ehrenamtlicher Vorstand

Verein für politische Medienbildung 

www.medialepfade.org

Ablauf

1. Ankommen

2. KI Bias entdecken

3. Input: Maschinelles Lernen und KI-Bias

Kurze Pause

4. Deepfakes: Sind sie erkennbar?

5. Verantwortungsvolle Nutzung von KI

6. Abschluss

Vertrauen in KI

Hast du ChatGPT oder eine andere textgenerierende KI bereits genutzt?

A: Ja, habe ich.

B: Nein, das ist nichts für mich.

Vertrauen in KI

Glaubst du, dass ChatGPT richtige Antworten gibt?

A: Ja, weil Künstliche Intelligenz Zugriff auf enorm viel Wissen hat.

B: Nein, ChatGPT ist menschengemacht und daher fehlerhaft.

KI Bias entdecken

Befrage einen Chatbot:

„Ich bin ein Mädchen. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin ein Mädchen. Welche Hobbies könnte ich haben?

KI Bias entdecken

Befrage einen Chatbot:

„Ich bin ein Junge / Ich bin nicht-binär. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin ein Junge / Ich bin nicht-binär. Welche Hobbies könnte ich haben?“

KI Bias entdecken

Schreibe der bildgenerierenden KI einen der folgenden Prompts:

Zeige mir eine erfolgreiche Führungskraft in einem Büro.

Mache mir ein realistisches Foto eines Kindergartens mit Erziehern.

Künstliche Intelligenzen (KI)

Woher kommt der Bias?

„Bias“ = Voreingenommenheit

Komplexe Künstliche Intelligenzen basieren auf Algorithmen, die von Menschen durch maschinelles Lernen trainiert werden.

Woher kommt der Bias einer KI?

Title Text

Siemens Stiftung (2019)

• Künstliche Intelligenz lernt aus Daten von Menschen

  • Vorurteile werden an Technologie weitergegeben

• KI-Entwickler*innen überwiegend Männer, weiß und haben viel Geld

  • unterschiedliche Perspektiven (und Daten) werden vergessen

• KI trifft ungerechte oder ungenaue Entscheidungen, die die Vorurteile und Diskriminierungen der ursprünglichen Daten zeigen

KEINE Ungerechtigkeit: KI-Systeme müssen aus vielfältigen Daten und von diversen Teams lernen

Woher kommt der Bias einer KI?

sind politisch

Künstliche Intelligenzen (KI)

Künstliche Intelligenzen (KI)

bilden gesellschaftliche Strukturen ab

Künstliche Intelligenzen (KI)

sind konservativ und diskriminierend

(Ali et al. 2019)

Künstliche Intelligenzen (KI)

verbrauchen viel Energie

• Alle generative KIs verbrauchen pro Jahr den gesamten Energiebedarf Irlands

• 600.000 KI-Antworten veranlassen so viel CO₂ wie eine Flugreise von London nach New York

• Ein KI-Bild kostet so viel Energie wie das komplette Aufladen eines Handys

Basicthinking 2025; Deutschlandfunk Nova 2023; Scinexx 2025

Deepfakes

Was ist das?

Deepfakes

Deepfakes sind Medien - Bilder, Videos, Audios -, die mithilfe von Deep Learning Modellen (KIs) gänzlich erstellt oder verändert werden. Sie sind höchst realistische Darstellungen von Menschen, Objekten oder Ereignissen.

Deepfake-Analyse. Quelle: Deutsche Welle 2023

Deepfake-Check. Quelle: Deutsche Welle 2023

Deepfakes

Face Swapping

beart.ai/de/face-swap/

Deepfakes

Face Reenactment

www.reddit.com/r/StableDiffusion/comments/1cd38oy/how/

Deepfakes

"Die wohl größte Gefahr von Deepfakes besteht nicht darin, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten." (Klicksafe 2023)

--> Verlust von Vertrauen in Medien

Deepfakes

tagesschau als Ziel von Deepfakes. Quelle: tagesschau, 28.01.2025.

Deepfakes

Künstliche Intelligenz im Wahlkampf. Quelle: tagesschau, 05.02.2025.

Deepfakes

• KI-Desinformation bisher eher die Ausnahme – es gibt einfachere Methoden für Falschbehauptungen

• es wird mehr: KI-generierte Fakes zum zwölftägigen Krieg zwischen Israel und dem Iran waren im Juni 2025 EU-weit das am weitesten verbreitete Desinformations-Narrativ: viele davon sollen die Folgen iranischer Angriffe übertreiben.

• (Quelle: CORRECTIV.Faktenforum 2025)

Deepfakes

In Zukunft ist eine Unterscheidung zwischen fake und real nicht mehr möglich; daher Kontextanalyse:

1. Logisches Hinterfragen: Macht das Gesehene Sinn? Passt das Verhalten der abgebildeten Person zu deren bisherigen Aussagen und Handlungen?

2. Quellenrecherche: Wird das Video von mehreren unabhängigen und verlässlichen Quellen bestätigt? Kann man das Video auch auf seriösen Nachrichtenseiten finden oder nur auf eher dubiosen Webseiten bzw. auf Social-Media-Plattformen?

3. Faktencheck: Haben Faktencheck-Portale das Bild/Video schon überprüft? CORRECTIV, dpa-Faktencheck oder BAIT: Faktencheck-Kanal für Jugendliche auf TikTok

Verantwortungsvolle Nutzung von KI

Sinnvolle Anwendungsbereiche 

KI als Unterstützung für Vorarbeit:

• Recherche, Inspiration und erste Entwürfe
• Strukturierung von Texten, Konzepten oder Argumentationen
  • Kreatives Prompten als Inspiration <3
• Erstellung barrierefreier Materialien (leichte/einfache Sprache)
• Formulierung von E-Mails, Infotexten, Anträgen
• Visualisierung von Inhalten
• Unterstützung bei Veranstaltungsplanung oder Moderation

Verantwortungsvolle Nutzung von KI

KI ist NICHT geeignet für:

• Endergebnisse ohne menschliche Überarbeitung

• Finale offizielle Texte

• Entscheidungen ohne kritische Prüfung

• Erstellung von Deepfakes oder manipulativen Inhalten

Prompt-Battle

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

"Ein fotorealistisches Bild in einem Jugendzentrum, in dem Jugendliche KI für ihren Alltag nutzen. Das Bild zeigt zwei Mädchen, die miteinander sprechen. Zwei weitere queere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen." 

Gutes Prompten

• Sei sehr genau:

  • Was soll auf dem Bild zu sehen sein? Gebe präzise Informationen und bestimme den Kontext.

• Nutze viele beschreibende Wörter: 

  • beispielsweise „nass“, „stinkend“, „müde“, „belebt“, „froh“, „hüpfend“, ...

• Mit diesen Wörtern wirkt dein Bild echt: "Fotorealistisch", "Lebendig", "Detailliert", "Authentisch", ...

• Spiele Ping Pong mit der generativen KI:

  • Wenn dir das Ergebnis nicht gefällt, gebe dem Chatbot Verbesserungsvorschläge und Feedback

ACHTUNG: Teile keine persönlichen Daten und verwende keine Klarnamen. 

Überprüfe alles - KI-Modelle können sich irren.

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

“Erstelle mir ein fanstasiereiches Bild einer technischen Utopie: diverse Menschen stehen auf einer Straße, die zugleich begrünt und auch technologisch ist. Alle Menschen dürfen so sein und aussehen wie sie wollen. Die Szene ist lebendig, froh und verspielt.”

Kreatives Prompten

Quelle: Fairlinked

Kreatives Prompten

Quelle: Fairlinked

Verantwortungsvolle Nutzung von KI

Datenschutz und Privatsphäre

• Keine sensiblen Daten eingeben: Reale Namen, Anschriften, Arbeitgeberdaten und interne Informationen nur anonymisiert verwenden.

• Trainingsausschluss aktivieren: In den Einstellungen kann eingestellt werden, dass eigene Daten nicht zum KI-Training verwendet werden.

• DSGVO-konforme Tools wählen / EU-basierte Alternativen bevorzugen: SchulKI, fobizz, Mistral, huggingface, DuckDuckGo AI Chat. Vorsicht bei US-Tools (ChatGPT, Gemini, Copilot, Claude), da Datennutzung oft zum Geschäftsmodell gehört.

  • Wichtig: Ohne personenbezogene Daten bestehen in der Regel keine datenschutzrechtlichen Bedenken.

Verantwortungsvolle Nutzung von KI

Inklusives und diskriminierungsfreies Prompten

• Vielfältige Prompts verwenden: KI gezielt auffordern, verschiedene Perspektiven einzubeziehen. Bewusst diverse und inklusive Darstellungen in Prompts einfordern.

• Stereotype hinterfragen: KI um Einschätzungen zu möglichen Verzerrungen bitten.

• Inklusive Sprache trainieren: Bewusst Gendersternchen oder inklusive Formulierungen in Prompts verwenden.

• Neue Perspektiven anfordern: KI kann ein Werkzeug sein, um neue Perspektiven zu entdecken – wenn wir sie dazu auffordern.

• Würde respektieren: Keine diskriminierenden, verletzenden oder erniedrigenden Darstellungen von Personen(gruppen) fordern und verbreiten.

Verantwortungsvolle Nutzung von KI

Qualitätssicherung und Verifikation des Outputs

• Halluzinationen erkennen: KI kann bei fehlenden Daten eigene "Fakten" erfinden.

• Ergebnisse gegenchecken: KI nach Quellen für Rechercheergebnisse fragen und Informationen immer mit den angegebenen und anderen Quellen abgleichen.

• Aktualität prüfen: Alter und Gültigkeit der Informationen überprüfen.

Verantwortungsvolle Nutzung von KI

Personalisierung und Nutzungsrechte klären

• Nie 1:1 übernehmen: KI-Antworten immer anpassen und überarbeiten.

• Persönliche Note hinzufügen: Texte so umformulieren, dass sie nach der eigenen Person klingen.

• Emotionen ergänzen: KI kann keine Emotionen transportieren - selbst für den "Feinschliff" sorgen.

• Urheberrechtsverletzungen vermeiden: KI-Modelle können urheberrechtlich geschützte Inhalte reproduzieren.

• Plagiatsprüfung durchführen: Besonders bei Texten auf mögliche Übereinstimmungen mit existierenden Werken prüfen.

Verantwortungsvolle Nutzung von KI

Transparenz und Nachvollziehbarkeit bei Bildern

• KI-generierte Inhalte kennzeichnen: Prompt sowie das verwendete Tool (z. B. DALL·E, Midjourney oder Stable Diffusion) als Quelle angeben.

  • Kennzeichnungspflicht: Laut europäischer KI-Verordnung (EU AI Act) müssen Inhalte, die durch KI generiert wurden und potenziell täuschend oder manipulierend wirken – z. B. realistische Bilder, Stimmen oder Videos –, eindeutig und sichtbar als KI-generiert gekennzeichnet werden.

Verantwortungsvolle Nutzung von KI

FAZIT

Grundhaltung gegenüber KI:

• KI als Werkzeug verstehen: KI löst nicht alle Probleme, sondern nimmt Vorarbeit ab.

• Kritisches Denken beibehalten: KI ist kein Ersatz für eigene Reflexion und Bewertung.

• Bewusst und reflektiert nutzen: KI kann neue Perspektiven eröffnen - wenn man sie dazu auffordert. Bewusst entscheiden, wann und wofür KI genutzt wird.

Abschluss

Wie geht's euch jetzt?

Was nehmt ihr mit?

medialepfade.org

Verein für Medienbildung e.V.

Vielen Dank für Eure Teilnahme!

Survival of the Best Fit (2019) Spiel auf Englisch über einen Job-Einstellungsalgorithmus. https://www.survivalofthebestfit.com/

Yazdani, Nushin und Rojas, José (2020) Video: Wie Maschinen diskriminieren. https://nushinyazdani.com/Wie-Maschinen-diskriminieren

ChatGPT - Videotutorials: https://erwachsenenbildung.digital/category/chatgpt-kurs/

Von der Idee zum Blogartikel – Ein ChatGPT Workflow: https://erwachsenenbildung.digital/von-der-idee-zum-blogartikel-mein-chatgpt-workflow

KI-Generierte Bilder, Texte und Videos erkennen: https://www.medienradar.de/hintergrundwissen/artikel/ki-generierte-bilder-texte-und-videos-erkennen

Deepfake-Quiz: Erkennen Sie alle KI-Bilder? https://data.wdr.de/ddj/deepfake-quiz-erkennen-sie-alle-ki-bilder/

Deepfake-Quiz: Erkennen Sie alle KI-Videos und -Audios? https://data.wdr.de/ddj/quiz-wie-gut-erkennen-sie-deepfakes/ 

Bildmanipulation in der Geschichte: https://www.spiegel.de/fotostrecke/manipulierte-bilder-fotostrecke-107186.html