What's up, Gen AI?

Gewappnet gegen Desinformation im Zeitalter von KI

(2) KI WTF?! #KI Bias

Recap: Diskriminierender Output durch KI-Systeme

Einfallstore für Diskriminierung sind:

• Datensatz selber
  
• Die Auswahl der Datensätze durch die Entwickelnden
• Die Entscheidung der Betreiber (Big Tech) für oder gegen moralische Überarbeitung

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

Projekt TikTokSlam

@tiktokslam

Alte Folie!!

Unser Fahrplan für heute

💡Netiquette
➝ Fragen?Wünsche?  
     Anregungen? IMMER!
➝ Einladung zum Arbeits-Du
 

Regeln unserer Zusammenarbeit

• Wie wollen wir heute miteinander umgehen?

• Was braucht ihr um gut miteinander arbeiten zu können?

• Wie gehen wir mit Tablets um?

The futures belong to you, GenAI.

(1) WTF?!

DESINFORMATION

☝️  Begriff

☝️  Taktik

☝️ Motive

⚒️💪  Sich wappnen

(1) Desinfo WTF?! BEGRIFF

Bild von Golda auf Pixabay

(1) Desinfo WTF?! BEGRIFF

Was meinst Du:

Ist das Desinformation?

Nimm Dir 1min Zeit und reflektiere für Dich.

Dann sprechen wir kurz im Plenum dazu.

(1) Desinfo WTF?! BEGRIFF

ZIEL: TÄUSCHUNGSABSICHT

(1) Desinfo WTF?! BEGRIFF

Quelle: Claire Wardle and Hossein Derakshan, 2017 (CC BY-NC-ND 3.0 license); eigene Übersetzung/Darstellung Simone Orgel

(1) Desinfo WTF?! TAKTIK

https://slides.com/medialepfade-workshop/deck

Hi 👋  AI SLOPEMO Feed™

(1) Desinfo WTF?! TAKTIK

Hi 👋  AI SLOPEMO Feed™

(1) Desinfo WTF?! TAKTIK

Was meint Ihr:
Was macht uns alle anfällig für Desinformation?

Tausche Dich mit Deiner Sitznachbarin oder Nachbar aus.
Nehmt Euch dafür 2 min und notiert Euch 1-2 Stichpunkte.
Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?! TAKTIK

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

(1) Desinfo WTF?! TAKTIK

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

Wir sind alle emotionale Wesen. Also ALLE (kulturübergreifend). Uns berühren & betreffen Dinge.
Und das ist gut so. Sogar lebensnotwendig.

Wichtig ist sich klar zu machen: Genau damit arbeitet Desinformation.

GRUNDEMOTIONEN:  Freude, Überraschung,
Wut, Trauer, Ekel und Angst

☺️😮
🤬🥺🥴😱

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: EMOTIONALE GRUNDBEDÜRFNISSE

Quelle: Katharina Nocun, Pia Lamberty (2021). True Facts.

(1) Desinfo WTF?! TAKTIK

EMOTION: Psycho-soziale Effekte (Kognitive Verzerrungen)

→ Bestätigungsfehler (Confirmation Bias): Wir neigen dazu, Informationen so auszuwählen, zu ermitteln und zu interpretieren, dass diese unsere Erwartungen erfüllen (bestätigen)

→ (Schein)Wahrheitseffekt (illusory truth effect): Aussagen, die schon einmal gehört wurden, erscheinen glaubhafter (Desinformation nicht wiederholen)
→ Verzerrungsblindheit (blind spot bias): Tendenz, sich für unbeeinflusst(er) zu halten

→ Einfachheits-Fehler (Simplicity Bias): Wir ziehen schlichte Erklärungen/Lösungen gegenüber komplexeren vor.

…

(1) Desinfo WTF?! TAKTIK

Es gibt Themen, die uns alle betreffen und berühren.

Deswegn werden sie oft von Desinfo-Akteuren genutzt.

Obacht bspw. bei:

• Politik
• Wahlen
• Sicherheit und Kriminalität
• Klimawandel

• Migration

• Gesundheit
• Sexualität & Geschlecht
• Kinder

• Tiere

• Nostalgie

...

(1) Desinfo WTF?! TAKTIK

Wir leben in Zeiten von Polikrisen: Klimakrise, (hybride) Kriege, Politik, Arbeitssituation, Zukunft ungewiss…

• Gesellschaftliche Krisen ➜ Anstieg von Angst und Unsicherheit

• Einmalige Betrachtung ≠ Einstellungsänderung,
  ➜ Aber: Je häufiger die Info gehört wird, desto eher wird sie geglaubt (Remember: Scheinwahrheitseffekt!)

(1) Desinfo WTF?! MOTIVE

Was meint Ihr:
Warum verbreiten Menschen Falsches mit Absicht?

Tauscht euch mit der 2er Gruppe neben Euch aus (also zu 4 Personen). Nehmt Euch 2 min zum Reflektieren und notiert Euch 1-2 Stichworte.

Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?! MOTIVE

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

(1) Desinfo WTF?! MOTIVE

(1) Desinfo WTF?! AUSWIRKUNGEN

Du hast alles in Dir um Dich dagegen zu wappnen.

[1] https://www.zeit.de/wissenschaft/2026-06/kooperationsbereitschaft-studie-gemeinwohl-menschen-global

Und wir als Gesellschaft eigentlich auch:

»Wir sind als Spezies kooperativer, als wir selbst glauben.«  und das weltweit [1]

• OBACHT bei Themenfeldern, die ekeln, wütend, traurig, entsetzt machen (Grundemotionen)
• Innehalten: 3 Sek. ein- und 6 Sek. ausatmen
• Beitrag (erstmal) nicht teilen
• Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂
• Sich dazu mit Vertrauenspersonen austauschen
• Recherchieren ob die Meldung stimmt

Gewappnet gegen Desinfo

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

1. Bestehendes nutzen ➜ Faktenchecks
   
   Bspw.:
   • mimikama
   • Correktiv Faktencheck
   • Faktenchecks der Deutschen Presseagentur (dpa)
   • ARD-Faktenfinder
   • #faktenfuchs vom Bayerischen Rundfunk
   • Falls Ihr selbst Faktenchecker:innen werden & Euer Wissen teilen wollt: codetekt.org

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

1. Bestehendes nutzen ➜ Faktenchecks
2. Selbst recherchieren
   ➜ Quelle überprüfen

• Hat die Seite ein Impressum (§ 5 DDG: Namen, Anschrift, Kontakt,…)
• Sprache: Wie wird im Artikel/Website formuliert? Neutral oder tendenziös?
• Werden konkrete Quellen für Informationen genannt
• Bestätigen andere (seriöse) Medien die Meldung?

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

1. Bestehendes nutzen ➜ Faktenchecks
2. Selbst recherchieren
   ➜ Quelle überprüfen
   ➜ Autorin/Autor überprüfen

• Wer ist der Autor oder die Autorin? Gibt es weitere Texte oder andere Informationen online?
• Wissen und Expertise auf einem Feld, heißt nicht auch Expertin in einem anderen Feld zu sein.

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

1. Bestehendes Nutzen ➜ Faktenchecks
2. Selbst recherchieren
   ➜ Quelle überprüfen
   ➜ Autorin/Autor überprüfen
   ➜ Bilderrückwärtssuche nutzen

(1) Desinfo WTF?! ÜBUNG

Stimmt das? Bitte finde und überprüfe diese Schlagzeile im Internet:

"„Wahre Heimatliebe ist“: Prominente unterstützen Kampagne für AfD-Alleinregierung in Sachsen-Anhalt"

Recherchieren

(1) Desinfo WTF?! ÜBUNG

Ist das echt? Nutze die Bilderrückwärtssuche (z.B. bei Google.com)

Bilderrückwärtssuche

(1) Desinfo WTF?! ÜBUNG

Recherchieren

A                                      B                                        C

Kriterien Desinformation

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

METHODE: MANIPULATION
 

(1) Desinfo WTF?! All2gether Now.

1. Du hast alles in Dir um Dich dagegen zu wappnen.

• OBACHT bei THEMENFELDERN, die ekeln, wütend, traurig, entsetzt machen.
• Innehalten & 3 Sek. ein- und 6 Sek. ausatmen.
• Beitrag (erstmal) nicht teilen.
• Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂.
• Recherchieren ob die Meldung stimmt.

2. Wir sind alle emotionale Wesen. Das ist (lebens)notwendig & gut so.

3. Menschen, die Dich beeinflussen wollen, setzen bei unseren      
    Emotionen an (Säbelzahntiger)

4. Wir haben (oft) zu wenig Werkzeuge, um mit Wut, Angst, Trauer,
     Ekel gut umgehen zu können

5. und zu wenig Anlaufstellen, die helfen

(1) Desinfo WTF?! All2gether Now.

HateAid: Hilfe bei Hass im Netz/Deepfakes
https://buddy.hateaid.org/de/beratung

Berliner Krisendienst (akute Hilfe): Tel.: 030 390 63 00

www.berliner-krisendienst.de/ich-brauche-hilfe/
 

Opferhilfe e.V.: Tel.: 030 395 2867

info@opferhilfe-berlin.de

www.opferhilfe-berlin.de

WEISSER RING e.V. – Landesverband Berlin: 030 833 7060

https://berlin.weisser-ring.de/
www.hilfe-berlin.de

Übersicht weitere Anlaufstellen,

die Dich unterstützen:

(2) KI WTF?!

Was ist eigentlich KI…?! Und was nicht.

(2) KI, WTF?! #Begriff

KI, LLM, ML, GenAI… hurrei:

Wir spielen KI-Konfettiii 🤗

🤗 Tauscht euch in 4er Gruppen aus.

☑️ Aufgabe: Begriffe richtig in die Übersicht eintragen.

⏰ Ihr habt 10 min Zeit um alle Begriffe richtig zuzuordnen.

👋 Dann tauschen wir uns in der Gruppe aus.

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

(2) KI WTF?! #Funktion+Aufbau

Und wie funktioniert

das alles überhaupt?

(2) KI WTF?! #Funktion+Aufbau

(2) KI WTF?! #Funktion+Aufbau

Was nehmt ihr

aus dem Beitrag mit?

(2) KI WTF?! #Funktion+Aufbau

• Maschienen/Systeme lernen aus Daten & deren Wahrscheinlichkeiten

• Modelle erkennen daraus Muster & können Vorhersagen treffen

• Dafür sind riesen Datenmengen nötig: Woher kommen die? Unklar.
• Maschienen/Modelle intelligent? Mhh.. Alles was es gibt = schwache KI.
• Haben keinen eigenen moralischen Kompass ➜ braucht Menschen, die die KI-Systeme trainiiert:
  • Wer? Clickworker (Moderatoren) – Verlierer der KI
• Ressourcen und Auswirkungen auf die Umwelt:
  • Datacenter: Verbrauch von Ressourcen, Land, Wasser, Energie


  • Mehr Nutzung &  Geräte = mehr Energieverbrauch

(2) KI WTF?! #KI Bias

(2) KI WTF?! #KI Bias

Was nehmt ihr

aus dem Beitrag mit?

Plattformlogiken und -architektur:

Profitinteresse  |  Emotionalisierung | Polarisierung

• Interaktion wird belohnt (Reactions und Rekursion wie mixen)
• Ständige Wiederholung bekannter Motive
• Monetarisierungsregeln: Masse wird belohnt (Creator Rewards Program)
• kurze Aufmerksamkeitsspanne
• vor allem bei TikTok:
  • schlechte Fact-Checking-Mechanismen &
    Community Management (schlechte Bot-Policy)
  • wenig Einfluss auf Social Graph

(2) KI WTF?! #Plattformlogiken & Umwelt

Wir bauen den… #whoop

AI SLOP EMO Feed Production™

(2) KI WTF?! #Desinfo x KI

Der Fall „BlueRabbit“: Kollaps nach Energy-Drink

Ein 13-jähriges Kind wird nach starkem Konsum des Energy-Drinks „BlueRabbit“ mit Herz-Kreislauf-Kollaps in eine Klinik eingeliefert. Die Eltern berichten öffentlich auf Social Media und machen zwei Akteure verantwortlich: den Hersteller BlueRabbit und das örtliche Gesundheitsamt, das den Verkauf des Getränks an Minderjährige noch nicht eingeschränkt hat.

Die Amtsleitung unter Dr. Schmidt reagiert zögerlich auf die Vorwürfe – die Empörung wächst. Dabei ist noch gar nicht sicher, ob der Kollaps wirklich durch den Energy-Drink verursacht wurde.

Dann taucht ein Influencer auf, der mit einer Studie die Unbedenklichkeit von BlueRabbit „beweist“. Eine Journalistin deckt jedoch auf: Die Studie wurde nur für das Video von einer KI erstellt – und der Influencer hat einen Werbedeal mit BlueRabbit.

Wilde Beschuldigungen in alle Richtungen lassen die Emotionen hochkochen.
#stopptbluerabbit ist jetzt überall.

(2) KI WTF?! #Desinfo x KI

Aufgabe

(Video, GenAI FLUX):

Ziel: Aufmerksamkeitsstarken Social Media Beitrag für den EMO Feed.

Aufgabe:

➜ Video mit Flux erstellen

➜ max. 20 Sek. lang & 3 Versuche

➜ Fertig? Yay! Ladet das Video runter

(2) KI WTF?! #Desinfo x KI

(3) Desinfo x KI

Aufgabe (Videoproduktion mit KI-Video Tool):

Erzeugt ein Video mit unserem KI Video Generator. Scannt dafür den QR Code, den wir euch geben. Das
Video soll maximal 15 Sekunden lang sein und ihr habt maximal 3 Versuche. Macht
einen aufmerksamkeitsstarken Social Media Beitrag für den AI SLOP EMO Feed.

(3) Desinfo x KI

Auswertung

(3) Desinfo x KI

SUMUP

• um Desinformation zu streuen und eine hohe Reichweite zu erzielen funktionieren besonders gut Videos mit aktuellen, nachrichtlichen und emotionalen Themen (die oft sowieso schon viel Aufmerksamkeit haben)
   
• dabei bietet sich AI Slop besonders an, weil er billig, schnell, ästethisch ausreichend genug und vorallem super emotional gestaltet werden kann
   
• dank der Plattformlogiken (Belohnungssystem für Masse und emotionalen, polarisierenden Inhalt) verbreitet sich solcher Content sehr gut

(3) Desinfo x KI

Partizipative Propaganda

(3) Desinfo x KI

Partizipative Propaganda

 

nach Marcus Bösch

(Schein-)
Wahrheitseffekt

a) Problem: KI System Bug ➜ Politischer Handlungsbedarf

b) Skepsis vs. Zynismus

c) Eure Werkzeuge:

--> Gebt Euren Gefühlen Raum & erlernt gute Umgangsmöglichkeiten

--> Eine nicht geglaubte und nicht geteilte Desinformation ist egal!

Checkliste gewappnet:

• OBACHT bei Themen, die ekeln, wütend, traurig, entsetzt machen
• Innehalten: 3 Sek. ein- und 6 Sek. ausatmen
• Beitrag (erstmal) nicht teilen
• Erste Reaktion erkennen, akzeptieren, an heute denken 🙂
• Recherchieren ob die Meldung stimmt
• Besprechen mit Vertrauenspersonen
• Nach eigenen Möglichkeiten: Gegenrede und sich politisch einmischen

Gewappnet gegen Desinfo x KI

Du hast alles in Dir um Dich dagegen zu wappnen.

[1] https://www.zeit.de/wissenschaft/2026-06/kooperationsbereitschaft-studie-gemeinwohl-menschen-global

Und wir als Gesellschaft eigentlich auch:

»Wir sind als Spezies kooperativer, als wir selbst glauben.«  und das weltweit [1]

Eine nicht geglaubte und nicht geteilte Desinformation ist schlicht…

Egal. 💪

und wie weiter...?

Individuell/gesellschaftlich:

1. Vernetzt & unterstützt Euch! Gesellschaftlicher Zusammenhalt ist der beste Schutz gegen Desinfo & Krisen-
--> Hilfe holen & Freunden anbieten 

2. Einmischen! Nach Möglichkeit dranbleiben.
- Argumentationshilfen, bspw. bei Radikale Höflichkeit und Stammkämpfer*innen Seminar
Hass melden: Anleitung bspw. Ingrid Brodnig

3. Spaß erlaubt!
Gemeinsam Hass melden, bspw. mit #ichbinhier

4. Faktenchecks Eurer Wahl als Lesezeichen.

Politisch/gesellschaftlich:

5. Mischt Euch ein!
bspw. für (bessere) Regulierungen, Unterstützung & Ausbau guter Ansätze (GdD/DSA und DMA)

6. Check-In Wahlkreis
Fragt nach, welche Pläne zum Schutz von Euch da sind.

Informieren, bspw. mit Zentrum für Digitalrechte & Demokratie

DANKE!

Folgt uns auf Instagram!

…dass Ihr heute hier wart.

…für Eure geschätzte Aufmerksamkeit.

…für Euer Engagement gegen Desinfo.

WE ARE THE FUTURE IN THE PRESENT