Desinformation & Hatespeech

Prävention von (Online)-Radikalisierung

Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.

Träger mediale pfade e.V.

  • Jugend hackt to go (Coding für MINTA* im ländlichen Raum)
  • TikTokSlam (Strategien gegen Desinformation)
  • ULAT (Unlearning Anti-feminism on TikTok)
  • Medienkompetenzzentum Lichtenberg

Beispielprojekte

Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention

 

Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus

 

Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte

Projekt AntiAnti

@wirsindantianti

Tagesablauf

  • Ankommen & Kennenlernen

  • Einstieg

  • Galery Walk

  • Pause

  • Input: Akteure & Strategien

  • Let's Play!

  • Feedback & Abschluss

Primärprävention

  • Arbeit mit allen Zielgruppen
  • beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
  • Kritische Reflektion als Ziel
  • nicht geeignet für stark radikalisierte Jugendliche

 

Radikalisierungsprävention

Radikalisierungsprävention

  • Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar

  • Extrem Rechte Einstellungen, Antisemitismus und Islamismus als drei relevante menschenfeindliche Einstellungen in Deutschland

  • Social Media und TikTok als spezifischer Raum der Verbreitung

Ausgangslage

"Radikalisierung ist die zunehmende Bereitschaft, eine normative Ordnung infrage zu stellen."

Radikalisierung

Quelle: PRIF Report 5/2018

Radikalisierung

Quelle: PRIF Report 5/2018

"Ein komplexer und auf ineinandergreifenden Ebenen stattfindender Prozess mit individuellen, zwischenmenschlichen, gruppenspezifischen, strukturellen, institutionellen, historischen und kulturellen Ursachen."

Radikalisierung

Quelle: PRIF Report 5/2018

Radikalisierung ist normativ offen und deshalb nicht zwingend negativ!

 

Beispiele für Radikalisierung:  Frauenrechtsbewegung, Civil Rights-Bewegung, Klimagerechtigkeitsbewegung

  • Einfacher Zugang zu ungeprüften Inhalten
  • einfache Lösungen für komplexe Zusammenhänge
    (Stichwort: Verschwörungserzählungen)         
  • Fake News, Hate-Speech, Algorithmen
  • Professionalisierung von ideologischen Akteur_innen
  • ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline

 

Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention

Online-Radikalisierung

 

  • es gibt keine gesonderten  "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
  • der digitale Raum bietet aber:
    • einfachen Zugang
    • neue Formate
    • große Reichweite
    • weniger Widerspruch
    • Anonymität
    • oft Straffreiheit
    • Online Radikalisierung zieht häufig offline Taten nach sich

Online vs Offline?

Social Media

Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.

 

Relevante Plattformen:

  • Instagram, TikTok
  • Video-Streaming (YouTube, Bitchute, Twitch)
  • Messenger-Dienste (Telegram, WhatsApp)
  • Gaming-Plattformen (Discord, Steam)
  • Kurznachrichtendienste (X)
  • Foren und Imageboards (reddit, 4chan)

TikTok

  • Ca. 21 Millionen TikTok User in Deutschland
  • Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
  • wichtige Informationsquelle und Suchmaschine für Jugendliche
  • Moderationslücken bei TikTok
  • tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
           Engagement-Logik
  • algorithmisches Empfehlungssystem

Engagement Logik

Antidemokratische Akteur_innen auf TikTok

  • TikTok soll Resonanzraum erweitern
    (v.a. junge Menschen erreichen)
  • Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
  • Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
  • TikTok weniger akteur_innenzentriert        Viralität einzelner Videos und Trends

Erkennungsmerkmal "Fashwave Optik"  und "Tradwave Optik"

  • Popkulturelle Bezüge
  • Verherrlichung eines "traditionellen" Lebensstils
  • politische Message wird subtil eingestreut
  • Sound als zentrale Verbreitungsstrategie

Neu Rechte Ästhetik

Die Rolle von Sounds auf TikTok

  • Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
  • Bestimmte Milieus nutzen gleiche Sounds
  • Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound

Desinformation

Desinformationen sind falsche und zielgerichtet erzeugte Informationen, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden. Durch die schiere Menge an Informationen wird es immer schwieriger herauszufinden, welche davon verlässlich sind und welche nicht. Desinformation bezeichnet Strategien, die diesen Zustand ausnutzen, um bewusst und absichtlich Falschmeldungen/”Fake News” zu verbreiten und Zweifel an etablierten Informationsquellen zu schüren. Desinformationen haben eine Wirkung, selbst wenn der Falschmeldung nicht ganz geglaubt wird: Bewusst verbreitete Fehlinformationen tragen zu einem Klima bei, in dem anderen Quellen ebenfalls nicht mehr getraut wird. Auf diese Weise wird die Spaltung der Zivilgesellschaft vorangetrieben.

Quelle: https://wirsindantianti.org/glossar/desinformation/

Desinformation

Desinformation

Des-informationen: Falsche und zielgerichtet erzeugte Information, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden.

 

Fehl-information: Falsche Informationen, die aber nicht mit der Absicht erzeugt wurden, Schaden zu verursachen.

 

Mal-informationen: Auf Wahrheit beruhende Informationen, die genutzt werden, um einer Person, einer Organisation oder einem Land zu schaden.

Quelle: https://www.boell.de/sites/default/files/2020-08/200825_E-Paper3_DE.pdf

Hate Speech

Hate Speech oder auch Hassrede ist, wenn mit Worten oder Bildern ganz gezielt Menschen verletzt und/oder Angst gemacht werden soll. Zum Beispiel indem gegen sie gehetzt wird, sie abgewertet werden oder zu Gewalt gegen sie aufgerufen wird. Hate Speech zielt oft auf bestimmte Menschen oder Gruppen ab, die Diskriminierung erfahren, wie z.B. LGBTQI*-Personen, Muslim_innen, Jüdinnen und Juden oder Geflüchtete Menschen oder People of Color. Dabei wird meist auf rassistische, antisemitische oder sexistische Sprache zurückgegriffen Gesellschaftliche Machtstrukturen werden durch Hassrede reproduziert und aufrechterhalten. Die Diskussion um Hate Speech und das Problembewusstsein ist in verschiedenen Ländern unterschiedlich weit fortgeschritten. In Deutschland kann je nach konkretem Ausdruck Hate Speech zur Strafverfolgung führen. Das Netzwerkdurchsetzungsgesetz (NetzDG) ist seit 2017 ein juristischer Versuch, Hate Speech zu verfolgen und zu verhindern.

Quelle: https://wirsindantianti.org/glossar/hate-speech-hassrede/

Hate Speech

  • Ca. die Hälfte aller Internet-Nutzer_innen nehmen Hate Speech wahr
  • Nicht alle Internet-Nutzer_innen gleich betroffen
  • Hass-Post und orchestrierte Shitstorms führen bei Personen zur Rückzug von Online Plattformen und einem Rückgang des demokratischen Diskurses
  • Phänomen nimmt zu

Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Hate Speech

Die Abwertung kann sich auf Merkmale wie Hautfar-
be, Herkunft, Sexualität, Religion, Geschlecht, Alter oder Behinderung von Menschen beziehen.

 

Gruppenbezogene Menschenfeindlichkeit:


Rassismus, Antisemitismus, Islamfeindlichkeit, Homo- und Transfeindlichkeit, Sexismus.

News-Station

Ein Ereignis, mehrere Blickwinkel.

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 4:

Politiker

Beispiel 3:

Influencer

👀 Schaut euch jedes Video an.

News-Station

Ein Ereignis, mehrere Blickwinkel.

🤔 Überlegt:

  • Was passiert im Video?
  • Welche Sprache, Bilder und Musik wurden verwendet?
  • Wen soll das Video ansprechen und überzeugen?

Text

Auswertung

News-Station

Ein Ereignis, mehrere Blickwinkel.

“Wie haben sich die Videos voneinander unterschieden?"

"Welches Video wirkt glaubhaft und warum?”

Versucht, Personen
oder Gruppen negativ darzustellen und auseinander
zu bringen

Misstrauen gegen Politik 
wird erzeugt & dadurch
Vertrauen in die
Demokratie schwächt

News-Stationen

Merkmale von Fake News + Desinformation

starke Gefühle 
ansprechen, um Angst
zu verbreiten und Hass
zu fördern

Wirkt oft glaubwürdig, nutzt aber Fakten, die aus dem Zusammenhang gerissen sind

News-Stationen:

Faktencheck:

"Die Inseln im Pazifik wachsen" - An einigen Stellen wird Land abgetragen.
- An anderen Stellen dehnen sich die Inseln aus, dort wird Material      angespült.

Problem:
​    -  Funktioniert nur, wenn Korallenriffe gesund sind
    -  Salziges Meerwasser dringt in Grundwasser ein
 
"Das Eis in der Antarktis wächst" 1. Nur das Meereis dehnte sich eine Zeit lang aus, das Landeis hingegen schrumpft kontinuierlich
- Seit 2002 verliert der Eisschild in der Antarktis im Durchschnitt etwa 150 Milliarden Tonnen pro Jahr

2. Das Meereis am Nordpol schwindet viel stärker, als es zwischenzeitlich am Südpol zunahm
 
"Auf Grönland haben wir heute mehr Schnee und Eis als vor 12 Jahren" Der grönlandische Eisschild verliert seit Jahrzehnten an Masse -
seit 2002 etwa 270 Milliarden Tonnen Eismasse pro Jahr.

Eventuell Bezug auf außergewöhnlich warmes Jahr 2012. Im Vergleich dazu waren die Temperaturen in den Folgejahren geringer.
Im Schnitt ist es aber auch danach in der Region zu warm gewesen.
 

https://www.deutschlandfunk.de/klimawandel-der-sterbende-suedseestaat-kiribati-100.html

https://www.helmholtz-klima.de/klimafakten/behauptung-aber-am-suedpol-nimmt-die-eismasse-zu
https://correctiv.org/faktencheck/2024/10/15/groenlands-eisschild-waechst-nicht-sondern-schrumpft-seit-jahrzehnten/

News-Stationen:

Ein Ereignis, viele Perspektiven

Nachricht

Falsch-information

Desinformation

überprüfbare Fakten nachvollziehbare Quellen

(gezielt)

"Alle Inseln schrumpfen." 

"Auf Grönland gibt es mehr Eis als vor 12 Jahren." 

absurde Behauptung

schlecht recherchierte Aussage

wahre Fakten in irreführendem Kontext

"Die Inseln im Pazifik wachsen." 

"Das Eis in der Antarktis wächst."

Finanzierung
Absicht


 
Pressecodex
Beispiele
 
Gesetzlich Werbung, Abos Verträge, Sponsoring
Bildung
Information		 Gewinn
Klicks durch Schlagzeilen		 Reichweite,
schnelle, virale Verbreitung
 
Ja Nein
ARD, ZDF, rbb Zeit, taz, Spiegel Online TikTok, Instagram, Youtube

Private Medien-Unternehmen

Soziale Netzwerke
und Plattformen

Öffentlich-
rechtliche Medien

News-Station

Medienlandschaft besser verstehen

News-Station

Zusammenfassung

Inhalte können sachlich klingen, sind aber verzerrt und falsch

Nachrichten bilden nur einen Teil der Realität ab

auch Öffentlich-Rechtliche Medien können nicht alle Perspektiven berücksichtigen

eine klare Trennung ist nicht möglich:
Private Nachrichtensender und die Öffentlich-Rechtlichen passen sich den Trends auf Social Media an

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 3:

Influencer

Beispiel 4:

Politiker

Akteure und Strategien

Desinformation in aktuellen Krisen


vermeintlicher Livestream zu Beginn des Ukrainekriegs.
 

Das zweite Bild zeigt, dass das Video nicht live ist, fremder Ton hinzugefügt und das Ganze aus einem Nachrichtenbericht zweckentfremdet wurde.

Quelle: Screenshot TikTok; Video YouTube https://www.youtube.com/
watch?t=142&v=F_3L0z1lgAE&feature=youtu.be

Desinformation in aktuellen Krisen (Nahostkonflikt)

Entkontextualisierung und Emotionalisierung

Entkontextualisierung und Emotionalisierung

Entkontextualisierung und Emotionalisierung

Verschwörungsideologische Akteur_innen

Beispiel "New World Order"

Klassische antisemitische Narrative werden neu codiert und chiffriert transportiert

Verschwörungsideologien

Verschwörungserzählungen der neuen Rechten

"Großer Austausch"

"Chiffre 'Soros' und Feindbild LGBTQI*"

Akteur:innen der

extremen Rechten

Die neue Rechte hat einen starken Fokus auf Netz-Aktivismus. Desinformation wird dazu in unterschiedlichen Formaten verpackt.

Beispiel "Gegenuni"

Geschichtsrevisionismus

Pseudojournalismus

 

  • Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)

  • "Authentische Aufnahmen" (Demonstrationen o.Ä.)

  • Hosted journalism

  • Normalisierung von rechten Ideologien

  • Auftreten, Sprech und Drehorte nicht mit rechter Ideologie                       assoziiert
     

Bsp. "Ketzer der Neuzeit"

Bsp. "Neverforgetniki"

Pseudojournalismus

 

Bsp: "Aktivist Mann"

Bsp: "Weichreite TV"

Bsp: "Aktivist Mann"

KI und Deepfakes

KI-Accounts

KI und Deepfakes

Doku-Formate

Verbreitung von Desinformation und Verschwörungsideologien durch vermeintlich seriöse Doku-Formate

Quelle: https://cemas.io/blog/prorussische-verschwoerungserzaehlungen/

Beispiel breiter gesellschaftlicher Verankerung

Beispiele für HateSpeech

AfD auf Tiktok

Rechte Musik

  • Musik nach wie vor wichtiges Rekrutierungs-Tool in der extremen Rechten
  • Normalisierung von rechten Ideologien (Bsp. "Sylt-Lied")
  • Hatespeech als Party-Erlebnis
     

Codes, Memes, Emojis & Hashtags - Wie Hate Speech versteckt wird

Internetphänomen und unfreiwilliges Symbol der US–amerikanischen „Alt-Right" Bewegung, beliebt unter Trump-Supportern

  • Codiert verwendet als Frosch-Emoji:  🐸 🐸

Das Kiwi-Emoji

🥝🥝🥝

  • Symbol für Transfeindlichkeit: "es gibt nur 2 Geschlechter"
  • Hintergrund: Reaktion auf Absage eines Vortrags an der HU von Marie Luise Vollbrecht. Ihr Beispiel: bei Kiwis lassen sich genau 2 Geschlechter biologisch einteilen

Kombination verschiedener Emojis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Hitlergruß:

Antisemitische Emojis & Hashtags

#rothschildconspiracy

#zionazis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

🧛🧛

😈😈

🤑🤑

 

 

Isralebezogener Antisemitismus auf Social Media

Lets Play!

Der-Newstest.de

Get bad news

 

Linkliste zu

Online-Radikalisierung

Folgt uns auf Instagram!

Folgt uns auf Instagram!

Feedback