What's up, Gen AI?

Gewappnet gegen Desinformation im Zeitalter von KI

🔍 Was wir machen:
Wir zeigen, wie Gruppen durch absichtliche Lügen versuchen uns Menschen zu beeinflussen. Wir helfen dir, das zu erkennen und dich dagegen zu wehren.

📚 Themen:

😡Einflussnahmeversuche

🗯 KI, ML, LLM, GenAI…WTF?!

💪 Gewappnet gegen Desinformation in Zeiten von KI

Wer sind wir:

mediale pfade e.V. {kurze Vorstellung von mp einfügen}

Projekt TikTokSlam

@tiktokslam

Alte Folie!!

Hallo & Willkommen!

Kennenlernen & Meinungsbarometer
(1) WTF?! Desinformation
(2) WTF?! KI, LLM, ML,
(3) Desinfo & KI: Wir bauen den AI SLOP EMO FEED
Feedback und Abschluss

Unser Fahrplan für heute

💡Netiquette
➝ Fragen?Wünsche?
Anregungen? IMMER!
➝ Einladung zum Arbeits-Du

HI!

Wie schön Dich

& Euch kennenzulernen 🤗

was mich am Internet...

mag
mich stört
mir fehlt

Regeln unserer Zusammenarbeit

Wie wollen wir heute miteinander umgehen?

Was braucht ihr um gut miteinander arbeiten zu können?

Wie gehen wir mit Tablets um?

Umfrage Check-In

The futures belong to you, GenAI.

(1) WTF?!

DESINFORMATION

☝️ Begriff

☝️ Taktik

☝️ Motive

⚒️💪 Sich wappnen

(1) Desinfo WTF?! BEGRIFF

Eigene GEschichte

Alternativ: Beispielgeschichte für Desinfo – Bild erstmal noch drin für die Teamenden Schulung

(1) Desinfo WTF?! BEGRIFF

Was meinst Du:

Ist das Desinformation?

Nimm Dir 1min Zeit und reflektiere für Dich.

Dann sprechen wir kurz im Plenum dazu.

(1) Desinfo WTF?! BEGRIFF

ZIEL: TÄUSCHUNGSABSICHT

(1) Desinfo WTF?! BEGRIFF

Quelle: Claire Wardle and Hossein Derakshan, 2017 (CC BY-NC-ND 3.0 license); eigene Übersetzung/Darstellung Simone Orgel

(1) Desinfo WTF?! TAKTIK

https://slides.com/medialepfade-workshop/deck

Hi 👋 AI SLOPEMO Feed™

(1) Desinfo WTF?! TAKTIK

Hi 👋 AI SLOPEMO Feed™

FAKE FAKE FAKE FAKE FAKE FAKE

????????????????????????????????

--> Fake or Fakt?

Mehr später

(1) Desinfo WTF?! TAKTIK

Was meint Ihr:
Was macht uns alle anfällig für Desinformation?

Tausche Dich mit Deiner Sitznachbarin oder Nachbar aus.
Nehmt Euch dafür 2 min und notiert Euch 1-2 Stichpunkte.
Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?! TAKTIK

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

Wir sind alle emotionale Wesen. Also ALLE (kulturübergreifend). Uns berühren & betreffen Dinge.
Und das ist gut so. Sogar lebensnotwendig.

Wichtig ist sich klar zu machen: Genau damit arbeitet Desinformation.

GRUNDEMOTIONEN: Freude, Überraschung,
Wut, Trauer, Ekel und Angst

☺️😮
🤬🥺🥴😱

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

Als TEXT:

Sinneswahrnehmung —> Schaltzentrale: ??? —> Emotion bspw. Angst🥺 —> Schaltzentrale: ALARM! —> Reaktion in ms: Angriff oder Flucht —> Schaltzentrale: Info an Rest

Geräusch, Geruch,
Bild, Geschmack,…
Was bedeutet die
Wahrnehmung?
→ Verarbeitung
Eindruck und
Verknüpfung mit
Bedeutung =
Emotion
Unser Körper und
Verstand wird
wacher; Schutz vor
Leichtsinn & Gefahr
→ Überlebens-
modus
→ Körperliche
Reaktion: Schwitzen,
nicht mehr klar
denken, …
Wieso reagieren wir
mit dieser Emotion?
Geerbt & gelernt
Amygdala
übernimmt.
Keine Verbindung
mehr zur
Schaltzentrale.
?
?
! ?

bspw. Großhirn-
rinde – Heimat
für Logik &
Verstand

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: EMOTIONALE GRUNDBEDÜRFNISSE

Quelle: Katharina Nocun, Pia Lamberty (2021). True Facts.

//TEXT:

EMOTIONALE GRUNDBEDÜRFNISSE

Selbstwert

Wunsch nach einer positiven Identität & Selbstwert

Nähe
Sehnen nach Zugehörigkeit

Lustgewinn
/Unlust-vermeidungKontrolle
Wir streben nach einem guten & sicheren Leben ohne Gefahren + Bedürfnis nach Eigenbestimmtheit. Wir leiden darunter, wenn wir uns hilf- oder orientierungslos fühlen.

→ Wir alle haben diese Bedürfnisse.
Und sie haben alle einen Sinn.
Wichtig ist sie sich bewusst zu machen.

Quelle: Katharina Nocun, Pia Lamberty (2021). True Facts.

(1) Desinfo WTF?! TAKTIK

EMOTION: Psycho-soziale Effekte (Kognitive Verzerrungen)

→ Verzerrungsblindheit (blind spot bias): Tendenz, sich für unbeeinflusst(er) zu halten

→ Bestätigungsfehler (Confirmation Bias): Wir neigen dazu, Informationen so auszuwählen, zu ermitteln und zu interpretieren, dass diese unsere Erwartungen erfüllen (bestätigen)

→ Einfachheits-Fehler (Simplicity Bias): Wir ziehen schlichte Erklärungen/Lösungen gegenüber komplexeren vor.

→ (Schein)Wahrheitseffekt (illusory truth effect): Aussagen, die schon einmal gehört wurden, erscheinen glaubhafter (Desinformation nicht wiederholen)

…

//TEXT

EMOTION: Psycho-soziale Effekte (Kognitive Verzerrungen)

→ Verzerrungsblindheit (blind spot bias): Tendenz, sich für unbeeinflusst(er) zu halten

→ Bestätigungsfehler (Confirmation Bias): Wir neigen dazu, Informationen so auszuwählen, zu ermitteln und zu interpretieren, dass diese unsere Erwartungen erfüllen (bestätigen)

→ (Schein)Wahrheitseffekt (illusory truth effect): Aussagen, die schon einmal gehört wurden, erscheinen glaubhafter (Desinformation nicht wiederholen)

→ Einfachheits-Fehler (Simplicity Bias): Wir ziehen schlichte Erklärungen/Lösungen gegenüber komplexeren vor.
…

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

(1) Desinfo WTF?! TAKTIK

Es gibt Themen, die uns alle betreffen und berühren.

Deswegn werden sie oft von Desinfo-Akteuren genutzt.

Obacht bspw. bei:

• Politik
• Wahlen
• Sicherheit und Kriminalität
• Klimawandel

• Migration

• Gesundheit
• Sexualität & Geschlecht
• Kinder

• Tiere

• Nostalgie

...

(1) Desinfo WTF?! TAKTIK

Wir leben in Zeiten von Polikrisen: Klimakrise, (hybride) Kriege, Politik, Arbeitssituation, Zukunft ungewiss…

Gesellschaftliche Krisen begünstigen den Glauben an spezifische Verschwörungserzählungen [1] ➜ Anstieg von Angst, Unsicherheit, Kontrollverlust
Aber: Keine Zunahme des Verschwörungsgläubigen (Mindset) ➜ keine Veränderungen über die Zeit hinweg [2]
Wer verantwortlich ist ("Schuldige"), schwankt über die Zeit
Konservative Nutzende glauben & interagieren tendenziell eher mit Desinfo
Einmalige Betrachtung ≠ Einstellungsänderung,
➜ Aber: Je mehr mensch Infos begegnet, desto eher wird sie geglaubt und verbreitet (Remember: Scheinwahrheitseffekt!)

[1] u.a. van Prooijen & Douglas, 2017 | [2] Uscinski et al., 2022

(1) Desinfo WTF?! MOTIVE

Was meint Ihr:
Warum verbreiten Menschen Falsches mit Absicht?

Tauscht euch mit der 2er Gruppe neben Euch aus (also zu 4 Personen). Nehmt Euch 2 min zum Reflektieren und notiert Euch 1-2 Stichworte.

Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?! MOTIVE

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

(1) Desinfo WTF?! MOTIVE

Text

Politische

• Einflussnahme • Destabilisieren (Angst verbreiten)
• Angriff politischer Gegner • Eigene Position aufwerten • Daten abgreifen

Wirtschaftliche

• Werbeeinnahmen (Klicks, Verweildauer)
• Abos unterjubeln
• Produkt vermarkten • Daten abgreifen

Individuelle (Trolling)

• Wunsch nach Überlegenheit • Anerkennung / Gemeinschaft • Schaden erzeugen
• Daten abgreifen

→ Beispiel: Drachenlord

… destabilisiert durch Polarisierung (schwarz-weiß | gut-böse Denken); lässt keine Perspektivenvielfalt zu
➜ schwächt Vertrauen in Institutionen (bspw. Politik & Medien)

… gefährdet gesellschaftliche Zusammenarbeit (Kooperation)
➜ dringend nötig zur Bewältigung gemeinsamer Krisen

… radikalisiert & provoziert Gewaltbereitschaft

… gefährdet (physische & mentale) Gesundheit – Profit mit der Angst

(1) Desinfo WTF?! AUSWIRKUNGEN

Du hast alles in Dir um Dich dagegen zu wappnen.

[1] https://www.zeit.de/wissenschaft/2026-06/kooperationsbereitschaft-studie-gemeinwohl-menschen-global

Und wir als Gesellschaft eigentlich auch:

»Wir sind als Spezies kooperativer, als wir selbst glauben.« und das weltweit [1]

OBACHT bei Themenfeldern, die ekeln, wütend, traurig, entsetzt machen (Grundemotionen)
Innehalten: 3 Sek. ein- und 6 Sek. ausatmen
Beitrag (erstmal) nicht teilen
Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂
Sich dazu mit Vertrauenspersonen austauschen
Recherchieren ob die Meldung stimmt

Gewappnet gegen Desinfo

(1) Desinfo WTF?! Werkzeuge

Recherchieren

Bestehendes nutzen ➜ Faktenchecks

Bspw.:
- mimikama
- Correktiv Faktencheck
- Faktenchecks der Deutschen Presseagentur (dpa)
- ARD-Faktenfinder
- #faktenfuchs vom Bayerischen Rundfunk
- Falls Ihr selbst Faktenchecker:innen werden & Euer Wissen teilen wollt: codetekt.org

(1) Desinfo WTF?! Werkzeuge

Recherchieren

Bestehendes nutzen ➜ Faktenchecks
Selbst recherchieren
➜ Quelle überprüfen

Hat die Seite ein Impressum (§ 5 DDG: Namen, Anschrift, Kontakt,…)
Sprache: Wie wird im Artikel/Website formuliert? Neutral oder tendenziös?
Werden konkrete Quellen für Informationen genannt
Bestätigen andere (seriöse) Medien die Meldung?

(1) Desinfo WTF?! Werkzeuge

Recherchieren

Bestehendes nutzen ➜ Faktenchecks
Selbst recherchieren
➜ Quelle überprüfen
➜ Autorin/Autor überprüfen

Wer ist der Autor oder die Autorin? Gibt es weitere Texte oder andere Informationen online?
Wissen und Expertise auf einem Feld, heißt nicht auch Expertin in einem anderen Feld zu sein.

(1) Desinfo WTF?! Werkzeuge

Recherchieren

Bestehendes Nutzen ➜ Faktenchecks
Selbst recherchieren
➜ Quelle überprüfen
➜ Autorin/Autor überprüfen
➜ Bilderrückwärtssuche nutzen

(1) Desinfo WTF?! ÜBUNG

Stimmt das? Bitte finde und überprüfe diese Schlagzeile im Internet:

"„Wahre Heimatliebe ist“: Prominente unterstützen Kampagne für AfD-Alleinregierung in Sachsen-Anhalt"

Recherchieren

(1) Desinfo WTF?! ÜBUNG

Recherchieren

A B C

Kriterien Desinformation

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

METHODE: MANIPULATION

(1) Desinfo WTF?! All2gether Now.

1. Du hast alles in Dir um Dich dagegen zu wappnen.

OBACHT bei THEMENFELDERN, die ekeln, wütend, traurig, entsetzt machen.
Innehalten & 3 Sek. ein- und 6 Sek. ausatmen.
Beitrag (erstmal) nicht teilen.
Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂.
Recherchieren ob die Meldung stimmt.

2. Wir sind alle emotionale Wesen. Das ist (lebens)notwendig & gut so.

3. Menschen, die Dich beeinflussen wollen, setzen bei unseren
Emotionen an (Säbelzahntiger)

4. Wir haben (oft) zu wenig Werkzeuge, um mit Wut, Angst, Trauer,
Ekel gut umgehen zu können

5. und zu wenig Anlaufstellen, die helfen

[1] https://www.bpb.de/kurz-knapp/taegliche-dosis-politik/573316/psychotherapie/

(1) Desinfo WTF?! All2gether Now.

HateAid
https://buddy.hateaid.org/de/beratung

Berliner Krisendienst (akute Hilfe): Tel.: 030 390 63 00

www.berliner-krisendienst.de/ich-brauche-hilfe/

Opferhilfe e.V.: Tel.: 030 395 2867

info@opferhilfe-berlin.de

www.opferhilfe-berlin.de

WEISSER RING e.V. – Landesverband Berlin: 030 833 7060

https://berlin.weisser-ring.de/
www.hilfe-berlin.de

Zusätzlich noch QR Code zu der Hilfe-Übersicht einfügen

Übersicht weitere Anlaufstellen,

die Euch unterstützen:

(2) KI WTF?!

Was ist eigentlich KI…?! Und was nicht.

(2) KI, WTF?! #Begriff

KI, LLM, ML, GenAI… hurrei:

Wir spielen KI-Konfettiii 🤗

🤗 Tauscht euch in 4er Gruppen aus.

☑️ Aufgabe: Begriffe richtig in die Übersicht eintragen.

⏰ Ihr habt 5 min Zeit um alle Begriffe richtig zuzuordnen.

👋 Dann tauschen wir uns in der Gruppe aus.

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

(2) KI WTF?! #Funktion+Aufbau

Und wie funktioniert

das alles überhaupt?

(2) KI WTF?! #Funktion+Aufbau

Was nehmt ihr

aus dem Beitrag mit?

(2) KI WTF?! #Funktion+Aufbau

Maschienen/Systeme lernen aus Daten & deren Wahrscheinlichkeiten

Modelle erkennen daraus Muster & können Vorhersagen treffen

Dafür sind riesen Datenmengen nötig: Woher kommen die? Unklar.
- Grundstätzlich: Rohmaterial & Integration
Maschienen/Modelle intelligent? Mhh.. Alles was es gibt = schwache KI.
Haben keinen moralischen Kompass ➜ braucht Menschen, die die KI-Systeme trainiiert:
- Wer? Clickworker (Moderatoren) – Verlierer der KI
- Was? Annotiierte Daten; oft Menschen aus dem globaler Süden: > als 2$/Std.
Ressourcen und Auswirkungen auf die Umwelt:
- Datacenter: Verbrauch von Ressourcen, Land, Wasser, Energie  
- Mehr Nutzung & Geräte = mehr Energieverbrauch

(2) KI WTF?! #KI Bias

Was nehmt ihr

aus dem Beitrag mit?

(2) KI WTF?! #KI Bias

Recap: Diskriminierender Output durch KI-Systeme

Einfallstore für Diskriminierung sind:

Datensatz selber
Die Auswahl der Datensätze durch die Entwickelnden
Die Entscheidung der Betreiber (Big Tech) für oder gegen moralische Überarbeitung

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

Plattformlogiken und -architektur:

Profitinteresse | Emotionalisierung | Polarisierung

Interaktion wird belohnt (Reactions und Rekursion wie mixen)
Ständige Wiederholung bekannter Motive
Monetarisierungsregeln: Masse wird belohnt (Creator Rewards Program)
kurze Aufmerksamkeitsspanne
vor allem bei TikTok:
- schlechte Fact-Checking-Mechanismen &
  Community Management (schlechte Bot-Policy)
- wenig Einfluss auf Social Graph

(2) KI WTF?! #Plattformlogiken & Umwelt

Hinweis für Grafik: Die Grafiken hier sind Bausteine aus der Gesamtübersicht (Bösch), die sich damit peu à peu aufbaut.

Wir bauen den… #whoop

AI SLOP EMO Feed Production™

(2) KI WTF?! #Desinfo x KI

Der Fall „BlueRabbit“: Kollaps nach Energy-Drink

Ein 13-jähriges Kind wird nach starkem Konsum des Energy-Drinks „BlueRabbit“ mit Herz-Kreislauf-Kollaps in eine Klinik eingeliefert. Die Eltern berichten öffentlich auf Social Media und machen zwei Akteure verantwortlich: den Hersteller BlueRabbit und das örtliche Gesundheitsamt, das den Verkauf des Getränks an Minderjährige noch nicht eingeschränkt hat.

Die Amtsleitung unter Dr. Schmidt reagiert zögerlich auf die Vorwürfe – die Empörung wächst. Dabei ist noch gar nicht sicher, ob der Kollaps wirklich durch den Energy-Drink verursacht wurde.

Dann taucht ein Influencer auf, der mit einer Studie die Unbedenklichkeit von BlueRabbit „beweist“. Eine Journalistin deckt jedoch auf: Die Studie wurde nur für das Video von einer KI erstellt – und der Influencer hat einen Werbedeal mit BlueRabbit.

Wilde Beschuldigungen in alle Richtungen lassen die Emotionen hochkochen.
#stopptbluerabbit ist jetzt überall.

(2) KI WTF?! #Desinfo x KI

Aufgabe 1

(Video, GenAI FLUX):

Ziel: Aufmerksamkeitsstarken Social Media Beitrag für den EMO Feed.

Aufgabe:

➜ Video mit Flux erstellen

➜ max. 20 Sek. lang & 3 Versuche

➜ Fertig? Yay! Ladet das Video runter

(2) KI WTF?! #Desinfo x KI

(3) Desinfo x KI

Aufgabe 1 (Videoproduktion mit KI-Video Tool):

Aufgabe 2 (Bildproduktion mit KI-Maschine):

QR-Code teilen wir euch aus.

https://ki.medialepfade.org/

Passwort: medialepfade4422

(3) Desinfo x KI

Auswertung

Aufgabe 1 (Videoproduktion mit KI-Video Tool)

Aufgabe 2 (Bildproduktion mit KI-Maschine)

(3) Desinfo x KI

SUMUP

um Desinformation zu streuen und eine hohe Reichweite zu erzielen funktionieren besonders gut Videos mit aktuellen, nachrichtlichen und emotionalen Themen (die oft sowieso schon viel Aufmerksamkeit haben)
dabei bietet sich AI Slop besonders an, weil er billig, schnell, ästethisch ausreichend genug und vorallem super emotional gestaltet werden kann
dank der Plattformlogiken (Belohnungssystem für Masse und emotionalen, polarisierenden Inhalt) verbreitet sich solcher Content sehr gut