medialepfade.org

Verein für Medienbildung e.V.

Alev Coban

(sie/ihr)

ChatGPT & Co

Vertrauenswürdig oder diskriminierend?

Gemeinnütziger Verein

Gegründet 2013

Sitz in Berlin

Ehrenamtlicher Vorstand

Verein für politische Medienbildung 

www.medialepfade.org

Tagesablauf

1. Ankommen

2. Wie sehr vertrauen wir Künstlicher Intelligenz?

3. KI Bias entdecken

Kaffeepause

4. Input: Maschinelles Lernen und KI-Bias

Mittagspause - 12:30-13:15 Uhr

5. Prompt-Battle: Wie gelingt mir zielführendes Prompten?

6. Deepfakes: Sind sie erkennbar?

Kaffeepause

7. Strategien für eine verantwortungsvolle Nutzung von KI

8. Abschluss

Vertrauen in KI

1. Kannst du dir vorstellen mit einem Roboter befreundet zu sein?

A: Ja sicher, wenn sie mit mir kommunizieren können.

B: Ich kann mir Freundschaften nur mit Menschen vorstellen.

Vertrauen in KI

2. Würdest du eine Operation an deinem Körper eher einer Künstlichen Intelligenz (KI) oder menschlichen Ärzt*innen anvertrauen?

A: Gut entwickelte Maschinen sind präziser als Menschen, also lieber eine KI.

B: Ich würde mich nie von einer KI behandeln lassen. Was wäre, wenn sie eine Fehlfunktion hat?

Vertrauen in KI

3. Wird der Verkehr sicherer, wenn Autos von alleine fahren könnten?

A: Natürlich, die Fehlerquelle der Unfälle sind ja die Fahrer*innen, nicht die Autos.

B: Nicht wirklich, da technische Fehler passieren können und man als Fahrer*in die vollständige Kontrolle über das Fahrzeug verlieren.

Vertrauen in KI

4. Weißt du was ChatGPT ist und hast du es bereits genutzt?

A: Ja, ich habe es bereits genutzt.

B: Nein, ich kann mir darunter wenig vorstellen.

Vertrauen in KI

5. Glaubst du, dass ChatGPT immer richtige Antworten gibt?

A: Ja, weil Künstliche Intelligenz Zugriff auf enorm viel Wissen hat.

B: Nein, ChatGPT ist menschengemacht und daher fehlerhaft.

KI Bias entdecken

https://5ki.eu/s/yfWH

KI Bias entdecken

Befrage einen Chatbot:

„Ich bin eine Frau. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin eine Frau. Welche Hobbies könnte ich haben?

KI Bias entdecken

Befrage einen Chatbot:

„Ich bin ein Mann / Ich bin nicht-binär. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin ein Mann / Ich bin nicht-binär. Welche Hobbies könnte ich haben?“

KI Bias entdecken

Quelle: coding for tomorrow (05.08.2025) 

KI Bias entdecken

Quelle: So Many Tabs (3:22-5:00 min.); www.youtube.com/watch?v=Uj6-lHbfcA4

KI Bias entdecken

Schreibe der bildgenerierenden KI einen der folgenden Prompts:

Zeige mir eine erfolgreiche Führungskraft in einem Büro.

Mache mir ein realistisches Foto eines Kindergartens mit Erziehern.

Künstliche Intelligenzen (KI)

Woher kommt der Bias?

„Bias“ = Voreingenommenheit

Komplexe Künstliche Intelligenzen basieren auf Algorithmen, die von Menschen durch maschinelles Lernen trainiert werden.

Woher kommt der Bias einer KI?

Title Text

Siemens Stiftung (2019)

• Künstliche Intelligenz lernt aus Daten von Menschen

  • Vorurteile werden an Technologie weitergegeben

• KI-Entwickler*innen überwiegend Männer, weiß und haben viel Geld

  • unterschiedliche Perspektiven (und Daten) werden vergessen

• KI trifft ungerechte oder ungenaue Entscheidungen, die die Vorurteile und Diskriminierungen der ursprünglichen Daten zeigen

KEINE Ungerechtigkeit: KI-Systeme müssen aus vielfältigen Daten und von diversen Teams lernen

Woher kommt der Bias einer KI?

Eine Definition

„Unter künstlicher Intelligenz (KI) verstehen wir Technologien, die menschliche Fähigkeiten im Sehen, Hören, Analysieren, Entscheiden und Handeln ergänzen und stärken.“  

(News Center Microsoft, 04.03.2020)

sind politisch

Künstliche Intelligenzen (KI)

Gesichts- und Emotionserkennungstechnologien

Südkreuz, 2018

Gesichts- und Emotionserkennungstechnologien

Vaak Eye

Gesichts- und Emotionserkennungstechnologien

Vaak Eye

Gesichts- und Emotionserkennungstechnologien

Gesichts- und Emotionserkennungstechnologien

Emotionserkennungssysteme beruhen auf Datensätzen, in denen das Verhalten und das Aussehen einer gesellschaftlichen Mehrheit als richtig und normal erachtet wird.

Was ist 'normales' Aussehen oder Verhalten?

Werbe-Algorithmen

AlgorithmWatch, 2020

Werbe-Algorithmen

AlgorithmWatch, 2020

Anzeige für "Lastwagenfahrer" ging an:

4.864 Männer und 386 Frauen

Anzeige „Erzieher“ ging an:

6.456 Frauen und 258 Männer

Künstliche Intelligenzen (KI)

bilden gesellschaftliche Strukturen ab

Künstliche Intelligenzen (KI)

sind konservativ und diskriminierend

(Ali et al. 2019)

1. Diversität in Entwickler*innenteams

2. Freie und offene KIs

3. Gesetzliche Rahmenbedingungen

Lösungsansätze

Prompt-Battle

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

"Ein fotorealistisches Bild in einem Jugendzentrum, in dem Jugendliche KI für ihren Alltag nutzen. Das Bild zeigt zwei Mädchen, die miteinander sprechen. Zwei weitere queere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen." 

Gutes Prompten

• Sei sehr genau:

  • Was soll auf dem Bild zu sehen sein? Gebe präzise Informationen und bestimme den Kontext.

• Nutze viele beschreibende Wörter: 

  • beispielsweise „nass“, „stinkend“, „müde“, „belebt“, „froh“, „hüpfend“, ...

• Mit diesen Wörtern wirkt dein Bild echt: "Fotorealistisch", "Lebendig", "Detailliert", "Authentisch", ...

• Spiele Ping Pong mit der generativen KI:

  • Wenn dir das Ergebnis nicht gefällt, gebe dem Chatbot Verbesserungsvorschläge und Feedback

ACHTUNG: Teile keine persönlichen Daten und verwende keine Klarnamen. 

Überprüfe alles - KI-Modelle können sich irren.

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

“Erstelle mir ein fanstasiereiches Bild einer technischen Utopie: diverse Menschen stehen auf einer Straße, die zugleich begrünt und auch technologisch ist. Alle Menschen dürfen so sein und aussehen wie sie wollen. Die Szene ist lebendig, froh und verspielt.”

Deepfakes

Was ist das?

Deepfakes

Deepfakes sind Medien - Bilder, Videos, Audios -, die mithilfe von Deep Learning Modellen (KIs) gänzlich erstellt oder verändert werden. Sie sind höchst realistische Darstellungen von Menschen, Objekten oder Ereignissen.

Deepfake-Analyse. Quelle: Deutsche Welle 2023

Deepfake-Check. Quelle: Deutsche Welle 2023

Deepfakes

Face Swapping

beart.ai/de/face-swap/

Deepfakes

Face Reenactment

www.reddit.com/r/StableDiffusion/comments/1cd38oy/how/

Deepfakes

"Die wohl größte Gefahr von Deepfakes besteht nicht darin, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten." (Klicksafe 2023)

--> Verlust von Vertrauen in Medien

Deepfakes

tagesschau als Ziel von Deepfakes. Quelle: tagesschau, 28.01.2025.

Deepfakes

Künstliche Intelligenz im Wahlkampf. Quelle: tagesschau, 05.02.2025.

Deepfakes

• KI-Desinformation bisher eher die Ausnahme – es gibt einfachere Methoden für Falschbehauptungen

• es wird mehr: KI-generierte Fakes zum zwölftägigen Krieg zwischen Israel und dem Iran waren im Juni 2025 EU-weit das am weitesten verbreitete Desinformations-Narrativ: viele davon sollen die Folgen iranischer Angriffe übertreiben.

• (Quelle: CORRECTIV.Faktenforum 2025)

Deepfakes

In Zukunft ist eine Unterscheidung zwischen fake und real nicht mehr möglich; daher Kontextanalyse:

1. Logisches Hinterfragen: Macht das Gesehene Sinn? Passt das Verhalten der abgebildeten Person zu deren bisherigen Aussagen und Handlungen?

2. Quellenrecherche: Wird das Video von mehreren unabhängigen und verlässlichen Quellen bestätigt? Kann man das Video auch auf seriösen Nachrichtenseiten finden oder nur auf eher dubiosen Webseiten bzw. auf Social-Media-Plattformen?

3. Faktencheck: Haben Faktencheck-Portale das Bild/Video schon überprüft? CORRECTIV, dpa-Faktencheck oder BAIT: Faktencheck-Kanal für Jugendliche auf TikTok

Verantwortungsvolle Nutzung von KI

Mural

tinyto.me/tzX5_8n

Verantwortungsvolle Nutzung von KI

Datenschutz und Privatsphäre

• Keine sensiblen Daten eingeben: Reale Namen, Anschriften, Arbeitgeberdaten und interne Informationen nur anonymisiert verwenden.

• Trainingsausschluss aktivieren: In den Einstellungen kann eingestellt werden, dass eigene Daten nicht zum KI-Training verwendet werden.

• DSGVO-konforme Tools wählen / EU-basierte Alternativen bevorzugen: SchulKI, fobizz, Mistral, huggingface, DuckDuckGo AI Chat. Vorsicht bei US-Tools (ChatGPT, Gemini, Copilot, Claude), da Datennutzung oft zum Geschäftsmodell gehört.

  • Wichtig: Ohne personenbezogene Daten bestehen in der Regel keine datenschutzrechtlichen Bedenken.

Verantwortungsvolle Nutzung von KI

Inklusives und diskriminierungsfreies Prompten

• Vielfältige Prompts verwenden: KI gezielt auffordern, verschiedene Perspektiven einzubeziehen. Bewusst diverse und inklusive Darstellungen in Prompts einfordern.

• Stereotype hinterfragen: KI um Einschätzungen zu möglichen Verzerrungen bitten.

• Inklusive Sprache trainieren: Bewusst Gendersternchen oder inklusive Formulierungen in Prompts verwenden.

• Neue Perspektiven anfordern: KI kann ein Werkzeug sein, um neue Perspektiven zu entdecken – wenn wir sie dazu auffordern.

• Würde respektieren: Keine diskriminierenden, verletzenden oder erniedrigenden Darstellungen von Personen(gruppen) fordern und verbreiten.

Verantwortungsvolle Nutzung von KI

Qualitätssicherung und Verifikation des Outputs

• Halluzinationen erkennen: KI kann bei fehlenden Daten eigene "Fakten" erfinden.

• Ergebnisse gegenchecken: KI nach Quellen für Rechercheergebnisse fragen und Informationen immer mit den angegebenen und anderen Quellen abgleichen.

• Aktualität prüfen: Alter und Gültigkeit der Informationen überprüfen.

Verantwortungsvolle Nutzung von KI

Personalisierung und Nutzungsrechte klären

• Nie 1:1 übernehmen: KI-Antworten immer anpassen und überarbeiten.

• Persönliche Note hinzufügen: Texte so umformulieren, dass sie nach der eigenen Person klingen.

• Emotionen ergänzen: KI kann keine Emotionen transportieren - selbst für den "Feinschliff" sorgen.

• Urheberrechtsverletzungen vermeiden: KI-Modelle können urheberrechtlich geschützte Inhalte reproduzieren.

• Plagiatsprüfung durchführen: Besonders bei Texten auf mögliche Übereinstimmungen mit existierenden Werken prüfen.

Verantwortungsvolle Nutzung von KI

Transparenz und Nachvollziehbarkeit bei Bildern

• KI-generierte Inhalte kennzeichnen: Prompt sowie das verwendete Tool (z. B. DALL·E, Midjourney oder Stable Diffusion) als Quelle angeben.

  • Kennzeichnungspflicht: Laut europäischer KI-Verordnung (EU AI Act) müssen Inhalte, die durch KI generiert wurden und potenziell täuschend oder manipulierend wirken – z. B. realistische Bilder, Stimmen oder Videos –, eindeutig und sichtbar als KI-generiert gekennzeichnet werden.

Verantwortungsvolle Nutzung von KI

Sinnvolle Anwendungsbereiche 

KI als Unterstützung für Vorarbeit:

• Recherche, Inspiration und erste Entwürfe
• Strukturierung von Texten, Konzepten oder Argumentationen
  • Kreatives Prompten als Inspiration <3
• Erstellung barrierefreier Materialien (leichte/einfache Sprache)
• Formulierung von E-Mails, Infotexten, Anträgen
• Visualisierung von Inhalten
• Unterstützung bei Veranstaltungsplanung oder Moderation

Verantwortungsvolle Nutzung von KI

KI ist NICHT geeignet für:

• Endergebnisse ohne menschliche Überarbeitung

• Finale offizielle Texte

• Entscheidungen ohne kritische Prüfung

• Erstellung von Deepfakes oder manipulativen Inhalten

Verantwortungsvolle Nutzung von KI

FAZIT

Grundhaltung gegenüber KI:

• KI als Werkzeug verstehen: KI löst nicht alle Probleme, sondern nimmt Vorarbeit ab.

• Kritisches Denken beibehalten: KI ist kein Ersatz für eigene Reflexion und Bewertung.

• Bewusst und reflektiert nutzen: KI kann neue Perspektiven eröffnen - wenn man sie dazu auffordert. Bewusst entscheiden, wann und wofür KI genutzt wird.

Abschluss

Wie geht's euch jetzt?

Wie hat euch der Workshop gefallen?

Was nehmt ihr mit?

medialepfade.org

Verein für Medienbildung e.V.

Vielen Dank für Eure Teilnahme!

Survival of the Best Fit (2019) Spiel auf Englisch über einen Job-Einstellungsalgorithmus. https://www.survivalofthebestfit.com/

Yazdani, Nushin und Rojas, José (2020) Video: Wie Maschinen diskriminieren. https://nushinyazdani.com/Wie-Maschinen-diskriminieren

ChatGPT - Videotutorials: https://erwachsenenbildung.digital/category/chatgpt-kurs/

Von der Idee zum Blogartikel – Ein ChatGPT Workflow: https://erwachsenenbildung.digital/von-der-idee-zum-blogartikel-mein-chatgpt-workflow

KI-Generierte Bilder, Texte und Videos erkennen: https://www.medienradar.de/hintergrundwissen/artikel/ki-generierte-bilder-texte-und-videos-erkennen

Deepfake-Quiz: Erkennen Sie alle KI-Bilder? https://data.wdr.de/ddj/deepfake-quiz-erkennen-sie-alle-ki-bilder/

Deepfake-Quiz: Erkennen Sie alle KI-Videos und -Audios? https://data.wdr.de/ddj/quiz-wie-gut-erkennen-sie-deepfakes/ 

Bildmanipulation in der Geschichte: https://www.spiegel.de/fotostrecke/manipulierte-bilder-fotostrecke-107186.html