Desinformation & Hatespeech

Prävention von (Online)-Radikalisierung

Tagesablauf

Ankommen & Kennenlernen
Einstieg
Galery Walk
Pause
Input: Akteure & Strategien
Let's Play!
Feedback & Abschluss

Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.

Träger mediale pfade e.V.

Jugend hackt to go (Coding für MINTA* im ländlichen Raum)
TikTokSlam (Strategien gegen Desinformation)
ULAT (Unlearning Anti-feminism on TikTok)
Medienkompetenzzentum Lichtenberg

Beispielprojekte

Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention

Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus

Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte

Projekt AntiAnti

@wirsindantianti

Unser Angebote

Workshops:

Fakt oder Fake? Desinformation erkennen (7./8.Kl) / FAKE?! (9.Kl)
#ViralHate -Strategien der extremen Rechten online (9.Kl)
Alles natürlich? - Antifeminismus und Queerfeindlichkeit im Netz (9.Kl)
So einfach ist das nicht...Antisemitische Verwörungserzählungen entschlüsseln (9.Kl)
Raise your voice! - Podcastworkshop (6.Kl)

Fortbildungen:
zu allen oben genannten Schwerpunkten, von 60 min bis Tagesworkshop für pädagogische Fachkräfte

Primärprävention

Arbeit mit allen Zielgruppen
beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
Kritische Reflektion als Ziel
nicht geeignet für stark radikalisierte Jugendliche

Radikalisierungsprävention

Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar
Extrem Rechte Einstellungen, Antisemitismus und Islamismus als drei relevante menschenfeindliche Einstellungen in Deutschland
Social Media und TikTok als spezifischer Raum der Verbreitung

Ausgangslage

Radikalisierung

Quelle: PRIF Report 5/2018

Infragestellung normativer Ordnungen
ein komplexer Prozess, der auf mehreren ineinandergreifenen Ebenen stattfindet
gruppenspezifische, historisch, kulturell, institutionelle Ursachen
Normativ offen und nicht zwingend negativ (bsp. Frauenrechtsbewegung, Civil Rights Movement,Klimabewegung)

Einfacher Zugang zu ungeprüften Inhalten
einfache Lösungen für komplexe Zusammenhänge
(Stichwort: Verschwörungserzählungen)
Fake News, Hate-Speech, Algorithmen
Professionalisierung von ideologischen Akteur_innen
ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline

Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention

Online-Radikalisierung

es gibt keine gesonderten "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
der digitale Raum bietet aber:
- einfachen Zugang
- neue Formate
- große Reichweite
- weniger Widerspruch
- Anonymität
- oft Straffreiheit
- Online Radikalisierung zieht häufig offline Taten nach sich

Online vs Offline?

Social Media

Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.

Relevante Plattformen:

Instagram, TikTok
Video-Streaming (YouTube, Bitchute, Twitch)
Messenger-Dienste (Telegram, WhatsApp)
Gaming-Plattformen (Discord, Steam)
Kurznachrichtendienste (X)
Foren und Imageboards (reddit, 4chan)

Social Media

Extrem rechte Akteur:innen vermitteln ihre Inhalte strategisch:

Lifestyle-Formate (Musik, Kleidung, Gaming, Sport, Naturschutz, Esoterik)
Handlungs- und Gesellschaftsvorstellungen fließen subtil ein
Strategische Nutzung von Trends, Challenges, Memes, Emojis und Hashtags

Metapolitik: ideolgoische Besetzung des vorpolitischen Raums

TikTok

Ca. 21 Millionen TikTok User in Deutschland
Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
wichtige Informationsquelle und Suchmaschine für Jugendliche
Moderationslücken bei TikTok
tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
Engagement-Logik
algorithmisches Empfehlungssystem

Engagement Logik

Antidemokratische Akteur_innen auf TikTok

TikTok soll Resonanzraum erweitern
(v.a. junge Menschen erreichen)
Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
TikTok weniger akteur_innenzentriert Viralität einzelner Videos und Trends

Quelle: https://wirsindantianti.org/glossar/desinformation/

Was ist Desinformation?

Falsche, zielgerichtet erzeugte Informationen
Absicht: Schaden für Personen, soziale Gruppen, Organisationen oder Länder
Herausforderung: Informationsflut erschwert Unterscheidung zwischen verlässlichen und unzuverlässigen Quellen
Strategie: Bewusstes Ausnutzen dieser Überforderung

Quelle: https://wirsindantianti.org/glossar/desinformation/

Wie wirkt Desinformation?

Gezieltes Schüren von Zweifeln an etablierten Informationsquellen
Wirkung auch ohne vollständigen Glauben an die Falschmeldung
Erosion des Vertrauens in alle Informationsquellen
Folge: Vorantreiben gesellschaftlicher Spaltung

Desinformation

Des-informationen: Falsche und zielgerichtet erzeugte Information, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden.

Fehl-information: Falsche Informationen, die aber nicht mit der Absicht erzeugt wurden, Schaden zu verursachen.

Mal-informationen: Auf Wahrheit beruhende Informationen, die genutzt werden, um einer Person, einer Organisation oder einem Land zu schaden.

Quelle: https://www.boell.de/sites/default/files/2020-08/200825_E-Paper3_DE.pdf

Was ist Hate Speech?

Gezielte Verletzung und Einschüchterung durch Worte oder Bilder
Methoden: Hetze, Abwertung, Aufrufe zu Gewalt, orchestrierte Shitstorms
Ca. die Hälfte aller Internet-Nutzer_innen nehmen Hate Speech wahr

Quellen: https://wirsindantianti.org/glossar/hate-speech-hassrede/, Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Betroffene:

Oft Menschen und Gruppen, die Diskriminierung erfahren (LGBTQI*-Personen,Frauen, Muslim_innen, Jüdinnen und Juden, Geflüchtete, People of Color, behinderte Menschen)
Gruppenbezogene Menschenfeindlichkeit steckt dahinter

Wie wirkt Hate Speech?

Wirkung:

Personen zur Rückzug von Online Plattformen und einem Rückgang des demokratischen Diskurses
Reproduktion und Aufrechterhaltung gesellschaftlicher Machtstrukturen
Zunahme des Phänomens

Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Rechtliche Lage in Deutschland:

Je nach Ausdruck strafverfolgbar
Netzwerkdurchsetzungsgesetz (NetzDG) seit 2017

News-Stationen

Ein Ereignis, mehrere Blickwinkel.

Text

Arbeitsblatt Blitzrecherche

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 4:

Politiker

Beispiel 3:

Influencer

👀 Schaut euch jedes Video an.

News-Station

Ein Ereignis, mehrere Blickwinkel.

🤔 Überlegt:

Was passiert im Video?
Welche Sprache, Bilder und Musik wurden verwendet?
Wen soll das Video ansprechen und überzeugen?

News-Station

Symbole Zuordnen

Beispiel 2:

Rechtes Magazin

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 3:

Influencer

Beispiel 4:

Politiker

Auswertung

News-Station

Ein Ereignis, mehrere Blickwinkel.

“Wie haben sich die Videos voneinander unterschieden?"

"Welches Video wirkt glaubhaft und warum?”

Versucht, Personen
oder Gruppen negativ darzustellen und auseinander
zu bringen

Misstrauen gegen Politik
wird erzeugt & dadurch
Vertrauen in die
Demokratie schwächt

News-Stationen

Merkmale von Fake News + Desinformation

starke Gefühle
ansprechen, um Angst
zu verbreiten und Hass
zu fördern

Wirkt oft glaubwürdig, nutzt aber Fakten, die aus dem Zusammenhang gerissen sind

News-Stationen:

Faktencheck:

"Die Inseln im Pazifik wachsen"	- An einigen Stellen wird Land abgetragen. - An anderen Stellen dehnen sich die Inseln aus, dort wird Material angespült. Problem: - Funktioniert nur, wenn Korallenriffe gesund sind - Salziges Meerwasser dringt in Grundwasser ein
"Das Eis in der Antarktis wächst"	1. Nur das Meereis dehnte sich eine Zeit lang aus, das Landeis hingegen schrumpft kontinuierlich - Seit 2002 verliert der Eisschild in der Antarktis im Durchschnitt etwa 150 Milliarden Tonnen pro Jahr 2. Das Meereis am Nordpol schwindet viel stärker, als es zwischenzeitlich am Südpol zunahm
"Auf Grönland haben wir heute mehr Schnee und Eis als vor 12 Jahren"	Der grönlandische Eisschild verliert seit Jahrzehnten an Masse - seit 2002 etwa 270 Milliarden Tonnen Eismasse pro Jahr. Eventuell Bezug auf außergewöhnlich warmes Jahr 2012. Im Vergleich dazu waren die Temperaturen in den Folgejahren geringer. Im Schnitt ist es aber auch danach in der Region zu warm gewesen.

https://www.deutschlandfunk.de/klimawandel-der-sterbende-suedseestaat-kiribati-100.html

https://www.helmholtz-klima.de/klimafakten/behauptung-aber-am-suedpol-nimmt-die-eismasse-zu
https://correctiv.org/faktencheck/2024/10/15/groenlands-eisschild-waechst-nicht-sondern-schrumpft-seit-jahrzehnten/

News-Stationen:

Ein Ereignis, viele Perspektiven

Nachricht

Falsch-information

Desinformation

überprüfbare Fakten nachvollziehbare Quellen

(gezielt)

"Alle Inseln schrumpfen."

"Auf Grönland gibt es mehr Eis als vor 12 Jahren."

absurde Behauptung

schlecht recherchierte Aussage

wahre Fakten in irreführendem Kontext

"Die Inseln im Pazifik wachsen."

"Das Eis in der Antarktis wächst."

Finanzierung
Absicht
Pressecodex
Beispiele

Gesetzlich	Werbung, Abos	Verträge, Sponsoring
Bildung Information	Gewinn Klicks durch Schlagzeilen	Reichweite, schnelle, virale Verbreitung
Ja		Nein
ARD, ZDF, rbb	Zeit, taz, Spiegel Online	TikTok, Instagram, Youtube

Private Medien-Unternehmen

Soziale Netzwerke
und Plattformen

Öffentlich-
rechtliche Medien

News-Station

Medienlandschaft besser verstehen

News-Station

Zusammenfassung

Inhalte können sachlich klingen, sind aber verzerrt und falsch

Nachrichten bilden nur einen Teil der Realität ab

auch Öffentlich-Rechtliche Medien können nicht alle Perspektiven berücksichtigen

eine klare Trennung ist nicht möglich:
Private Nachrichtensender und die Öffentlich-Rechtlichen passen sich den Trends auf Social Media an

Link zur Methode

Fakt oder Fake?! Workshop

Akteur*innen,Formate und Strategien

Strategien

Derailing (Online-Diskussion werden gezielt "entgleist")
Dogwhistling (Bsp. "rejectmodernityembracetradition", "white boy summer")
Hashtags besetzen und Umwegkommunikation, Algospeak
Communtybuilding und Mitmachstrategien (bsp. "Stolz-Monat")
parasoziale Ansprache
Wirkung durch vermeintliche Authentizität
Gegenseitiges taggen (traffic, mass content)
Ökonomische Interessen (Promotion von Onlinehandel

Codes, Memes, Emojis & Hashtags - Wie Hate Speech versteckt wird

Internetphänomen und unfreiwilliges Symbol der US–amerikanischen „Alt-Right" Bewegung, beliebt unter Trump-Supportern

Codiert verwendet als Frosch-Emoji: 🐸 🐸

Kombination verschiedener Emojis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Hitlergruß:

🧛🧛

😈😈

🤑🤑

#rejectmodernityembracetradition

Erkennungsmerkmal "Fashwave Optik" und "Tradwave Optik"

Popkulturelle Bezüge
Verherrlichung eines "traditionellen" Lebensstils
politische Message wird subtil eingestreut
Sound als zentrale Verbreitungsstrategie

Neu Rechte Ästhetik

Die Rolle von Sounds auf TikTok

Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
Bestimmte Milieus nutzen gleiche Sounds
Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound