Desinformation & Hatespeech

Prävention von (Online)-Radikalisierung

Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.

Träger mediale pfade e.V.

Jugend hackt to go (Coding für MINTA* im ländlichen Raum)
TikTokSlam (Strategien gegen Desinformation)
ULAT (Unlearning Anti-feminism on TikTok)
Medienkompetenzzentum Lichtenberg

Beispielprojekte

Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention

Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus

Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte

Projekt AntiAnti

@wirsindantianti

Tagesablauf

Ankommen & Kennenlernen
Einstieg
Galery Walk
Pause
Input: Akteure & Strategien
Let's Play!
Feedback & Abschluss

Primärprävention

Arbeit mit allen Zielgruppen
beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
Kritische Reflektion als Ziel
nicht geeignet für stark radikalisierte Jugendliche

Radikalisierungsprävention

Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar
Extrem Rechte Einstellungen, Antisemitismus und Islamismus als drei relevante menschenfeindliche Einstellungen in Deutschland
Social Media und TikTok als spezifischer Raum der Verbreitung

Ausgangslage

"Radikalisierung ist die zunehmende Bereitschaft, eine normative Ordnung infrage zu stellen."

Radikalisierung

Quelle: PRIF Report 5/2018

Radikalisierung

Quelle: PRIF Report 5/2018

"Ein komplexer und auf ineinandergreifenden Ebenen stattfindender Prozess mit individuellen, zwischenmenschlichen, gruppenspezifischen, strukturellen, institutionellen, historischen und kulturellen Ursachen."

Radikalisierung

Quelle: PRIF Report 5/2018

Radikalisierung ist normativ offen und deshalb nicht zwingend negativ!

Beispiele für Radikalisierung: Frauenrechtsbewegung, Civil Rights-Bewegung, Klimagerechtigkeitsbewegung

Einfacher Zugang zu ungeprüften Inhalten
einfache Lösungen für komplexe Zusammenhänge
(Stichwort: Verschwörungserzählungen)
Fake News, Hate-Speech, Algorithmen
Professionalisierung von ideologischen Akteur_innen
ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline

Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention

Online-Radikalisierung

es gibt keine gesonderten "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
der digitale Raum bietet aber:
- einfachen Zugang
- neue Formate
- große Reichweite
- weniger Widerspruch
- Anonymität
- oft Straffreiheit
- Online Radikalisierung zieht häufig offline Taten nach sich

Online vs Offline?

Social Media

Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.

Relevante Plattformen:

Instagram, TikTok
Video-Streaming (YouTube, Bitchute, Twitch)
Messenger-Dienste (Telegram, WhatsApp)
Gaming-Plattformen (Discord, Steam)
Kurznachrichtendienste (X)
Foren und Imageboards (reddit, 4chan)

TikTok

Ca. 21 Millionen TikTok User in Deutschland
Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
wichtige Informationsquelle und Suchmaschine für Jugendliche
Moderationslücken bei TikTok
tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
Engagement-Logik
algorithmisches Empfehlungssystem

Engagement Logik

Antidemokratische Akteur_innen auf TikTok

TikTok soll Resonanzraum erweitern
(v.a. junge Menschen erreichen)
Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
TikTok weniger akteur_innenzentriert Viralität einzelner Videos und Trends

Erkennungsmerkmal "Fashwave Optik" und "Tradwave Optik"

Popkulturelle Bezüge
Verherrlichung eines "traditionellen" Lebensstils
politische Message wird subtil eingestreut
Sound als zentrale Verbreitungsstrategie

Neu Rechte Ästhetik

Die Rolle von Sounds auf TikTok

Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
Bestimmte Milieus nutzen gleiche Sounds
Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound

Desinformation

Desinformationen sind falsche und zielgerichtet erzeugte Informationen, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden. Durch die schiere Menge an Informationen wird es immer schwieriger herauszufinden, welche davon verlässlich sind und welche nicht. Desinformation bezeichnet Strategien, die diesen Zustand ausnutzen, um bewusst und absichtlich Falschmeldungen/”Fake News” zu verbreiten und Zweifel an etablierten Informationsquellen zu schüren. Desinformationen haben eine Wirkung, selbst wenn der Falschmeldung nicht ganz geglaubt wird: Bewusst verbreitete Fehlinformationen tragen zu einem Klima bei, in dem anderen Quellen ebenfalls nicht mehr getraut wird. Auf diese Weise wird die Spaltung der Zivilgesellschaft vorangetrieben.

Quelle: https://wirsindantianti.org/glossar/desinformation/

Desinformation

Des-informationen: Falsche und zielgerichtet erzeugte Information, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden.

Fehl-information: Falsche Informationen, die aber nicht mit der Absicht erzeugt wurden, Schaden zu verursachen.

Mal-informationen: Auf Wahrheit beruhende Informationen, die genutzt werden, um einer Person, einer Organisation oder einem Land zu schaden.

Quelle: https://www.boell.de/sites/default/files/2020-08/200825_E-Paper3_DE.pdf

Hate Speech

Hate Speech oder auch Hassrede ist, wenn mit Worten oder Bildern ganz gezielt Menschen verletzt und/oder Angst gemacht werden soll. Zum Beispiel indem gegen sie gehetzt wird, sie abgewertet werden oder zu Gewalt gegen sie aufgerufen wird. Hate Speech zielt oft auf bestimmte Menschen oder Gruppen ab, die Diskriminierung erfahren, wie z.B. LGBTQI*-Personen, Muslim_innen, Jüdinnen und Juden oder Geflüchtete Menschen oder People of Color. Dabei wird meist auf rassistische, antisemitische oder sexistische Sprache zurückgegriffen Gesellschaftliche Machtstrukturen werden durch Hassrede reproduziert und aufrechterhalten. Die Diskussion um Hate Speech und das Problembewusstsein ist in verschiedenen Ländern unterschiedlich weit fortgeschritten. In Deutschland kann je nach konkretem Ausdruck Hate Speech zur Strafverfolgung führen. Das Netzwerkdurchsetzungsgesetz (NetzDG) ist seit 2017 ein juristischer Versuch, Hate Speech zu verfolgen und zu verhindern.

Quelle: https://wirsindantianti.org/glossar/hate-speech-hassrede/

Hate Speech

Ca. die Hälfte aller Internet-Nutzer_innen nehmen Hate Speech wahr
Nicht alle Internet-Nutzer_innen gleich betroffen
Hass-Post und orchestrierte Shitstorms führen bei Personen zur Rückzug von Online Plattformen und einem Rückgang des demokratischen Diskurses
Phänomen nimmt zu

Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Hate Speech

Die Abwertung kann sich auf Merkmale wie Hautfar-
be, Herkunft, Sexualität, Religion, Geschlecht, Alter oder Behinderung von Menschen beziehen.

Gruppenbezogene Menschenfeindlichkeit:

Rassismus, Antisemitismus, Islamfeindlichkeit, Homo- und Transfeindlichkeit, Sexismus.

News-Station

Ein Ereignis, mehrere Blickwinkel.

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 4:

Politiker

Beispiel 3:

Influencer

👀 Schaut euch jedes Video an.

News-Station

Ein Ereignis, mehrere Blickwinkel.

🤔 Überlegt:

Was passiert im Video?
Welche Sprache, Bilder und Musik wurden verwendet?
Wen soll das Video ansprechen und überzeugen?

Text

Auswertung

News-Station

Ein Ereignis, mehrere Blickwinkel.

“Wie haben sich die Videos voneinander unterschieden?"

"Welches Video wirkt glaubhaft und warum?”

Versucht, Personen
oder Gruppen negativ darzustellen und auseinander
zu bringen

Misstrauen gegen Politik
wird erzeugt & dadurch
Vertrauen in die
Demokratie schwächt

News-Stationen

Merkmale von Fake News + Desinformation

starke Gefühle
ansprechen, um Angst
zu verbreiten und Hass
zu fördern

Wirkt oft glaubwürdig, nutzt aber Fakten, die aus dem Zusammenhang gerissen sind

News-Stationen:

Faktencheck:

"Die Inseln im Pazifik wachsen"	- An einigen Stellen wird Land abgetragen. - An anderen Stellen dehnen sich die Inseln aus, dort wird Material angespült. Problem: - Funktioniert nur, wenn Korallenriffe gesund sind - Salziges Meerwasser dringt in Grundwasser ein
"Das Eis in der Antarktis wächst"	1. Nur das Meereis dehnte sich eine Zeit lang aus, das Landeis hingegen schrumpft kontinuierlich - Seit 2002 verliert der Eisschild in der Antarktis im Durchschnitt etwa 150 Milliarden Tonnen pro Jahr 2. Das Meereis am Nordpol schwindet viel stärker, als es zwischenzeitlich am Südpol zunahm
"Auf Grönland haben wir heute mehr Schnee und Eis als vor 12 Jahren"	Der grönlandische Eisschild verliert seit Jahrzehnten an Masse - seit 2002 etwa 270 Milliarden Tonnen Eismasse pro Jahr. Eventuell Bezug auf außergewöhnlich warmes Jahr 2012. Im Vergleich dazu waren die Temperaturen in den Folgejahren geringer. Im Schnitt ist es aber auch danach in der Region zu warm gewesen.

https://www.deutschlandfunk.de/klimawandel-der-sterbende-suedseestaat-kiribati-100.html

https://www.helmholtz-klima.de/klimafakten/behauptung-aber-am-suedpol-nimmt-die-eismasse-zu
https://correctiv.org/faktencheck/2024/10/15/groenlands-eisschild-waechst-nicht-sondern-schrumpft-seit-jahrzehnten/

News-Stationen:

Ein Ereignis, viele Perspektiven

Nachricht

Falsch-information

Desinformation

überprüfbare Fakten nachvollziehbare Quellen

(gezielt)

"Alle Inseln schrumpfen."

"Auf Grönland gibt es mehr Eis als vor 12 Jahren."

absurde Behauptung

schlecht recherchierte Aussage

wahre Fakten in irreführendem Kontext

"Die Inseln im Pazifik wachsen."

"Das Eis in der Antarktis wächst."

Finanzierung
Absicht
Pressecodex
Beispiele

Gesetzlich	Werbung, Abos	Verträge, Sponsoring
Bildung Information	Gewinn Klicks durch Schlagzeilen	Reichweite, schnelle, virale Verbreitung
Ja		Nein
ARD, ZDF, rbb	Zeit, taz, Spiegel Online	TikTok, Instagram, Youtube

Private Medien-Unternehmen

Soziale Netzwerke
und Plattformen

Öffentlich-
rechtliche Medien

News-Station

Medienlandschaft besser verstehen

News-Station

Zusammenfassung

Inhalte können sachlich klingen, sind aber verzerrt und falsch

Nachrichten bilden nur einen Teil der Realität ab

auch Öffentlich-Rechtliche Medien können nicht alle Perspektiven berücksichtigen

eine klare Trennung ist nicht möglich:
Private Nachrichtensender und die Öffentlich-Rechtlichen passen sich den Trends auf Social Media an

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 3:

Influencer

Beispiel 4:

Politiker

Akteure und Strategien

Desinformation in aktuellen Krisen

vermeintlicher Livestream zu Beginn des Ukrainekriegs.

Das zweite Bild zeigt, dass das Video nicht live ist, fremder Ton hinzugefügt und das Ganze aus einem Nachrichtenbericht zweckentfremdet wurde.

Quelle: Screenshot TikTok; Video YouTube https://www.youtube.com/
watch?t=142&v=F_3L0z1lgAE&feature=youtu.be

Desinformation in aktuellen Krisen (Nahostkonflikt)

Entkontextualisierung und Emotionalisierung

Verschwörungsideologische Akteur_innen

Beispiel "New World Order"

Klassische antisemitische Narrative werden neu codiert und chiffriert transportiert

Verschwörungsideologien

Verschwörungserzählungen der neuen Rechten

"Großer Austausch"

"Chiffre 'Soros' und Feindbild LGBTQI*"

Akteur:innen der

extremen Rechten

Die neue Rechte hat einen starken Fokus auf Netz-Aktivismus. Desinformation wird dazu in unterschiedlichen Formaten verpackt.

Beispiel "Gegenuni"

Geschichtsrevisionismus

Pseudojournalismus

Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)
"Authentische Aufnahmen" (Demonstrationen o.Ä.)
Hosted journalism
Normalisierung von rechten Ideologien
Auftreten, Sprech und Drehorte nicht mit rechter Ideologie assoziiert

Bsp. "Ketzer der Neuzeit"

Bsp. "Neverforgetniki"

Pseudojournalismus

Bsp: "Aktivist Mann"

Bsp: "Weichreite TV"

Bsp: "Aktivist Mann"

KI und Deepfakes

KI-Accounts

KI und Deepfakes

Doku-Formate

Verbreitung von Desinformation und Verschwörungsideologien durch vermeintlich seriöse Doku-Formate

Quelle: https://cemas.io/blog/prorussische-verschwoerungserzaehlungen/

Beispiel breiter gesellschaftlicher Verankerung

Beispiele für HateSpeech

AfD auf Tiktok

Rechte Musik

Musik nach wie vor wichtiges Rekrutierungs-Tool in der extremen Rechten
Normalisierung von rechten Ideologien (Bsp. "Sylt-Lied")
Hatespeech als Party-Erlebnis

Codes, Memes, Emojis & Hashtags - Wie Hate Speech versteckt wird

Internetphänomen und unfreiwilliges Symbol der US–amerikanischen „Alt-Right" Bewegung, beliebt unter Trump-Supportern

Codiert verwendet als Frosch-Emoji: 🐸 🐸

Das Kiwi-Emoji

🥝🥝🥝

Symbol für Transfeindlichkeit: "es gibt nur 2 Geschlechter"
Hintergrund: Reaktion auf Absage eines Vortrags an der HU von Marie Luise Vollbrecht. Ihr Beispiel: bei Kiwis lassen sich genau 2 Geschlechter biologisch einteilen