Desinformation & Hatespeech

Prävention von (Online)-Radikalisierung

Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.

Träger mediale pfade e.V.

  • Jugend hackt to go (Coding für MINTA* im ländlichen Raum)
  • TikTokSlam (Strategien gegen Desinformation)
  • ULAT (Unlearning Anti-feminism on TikTok)
  • Medienkompetenzzentum Lichtenberg

Beispielprojekte

Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention

 

Themenbereiche: Extreme Rechte, HateSpeech, Antifeminismus, Verschwörungserzählungen,

Antisemitismus, Islamismus

 

Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte

Projekt AntiAnti

@wirsindantianti

Primärprävention

  • Arbeit mit allen Zielgruppen
  • beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
  • Kritische Reflektion als Ziel
  • nicht geeignet für stark radikalisierte Jugendliche

 

Radikalisierungsprävention

Radikalisierungsprävention

  • Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar

  • Social Media und TikTok als spezifischer Raum der Verbreitung

Ausgangslage

Radikalisierung

Quelle: PRIF Report 5/2018

  • Infragestellung normativer Ordnungen
  • ein komplexer Prozess, der auf mehreren ineinandergreifenen Ebenen stattfindet
  • gruppenspezifische, historisch, kulturell, institutionelle Ursachen
  • Normativ offen und nicht zwingend negativ (Frauenrechtsbewegung, Civil Rights Movement, Klimabewegung)
  • Einfacher Zugang zu ungeprüften Inhalten
  • einfache Lösungen für komplexe Zusammenhänge
    (Stichwort: Verschwörungserzählungen)         
  • Fake News, Hate-Speech, Algorithmen
  • Professionalisierung von ideologischen Akteur_innen
  • ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline

 

Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention

Online-Radikalisierung

 

  • es gibt keine gesonderten  "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
  • der digitale Raum bietet aber:
    • einfachen Zugang
    • neue Formate
    • große Reichweite
    • weniger Widerspruch
    • Anonymität
    • oft Straffreiheit
    • Online Radikalisierung zieht häufig offline Taten nach sich

Online vs Offline?

Social Media

  • Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends
  • wichtige Informationsquelle und Suchmaschine für Jugendliche
  • Moderationslücken (bei TikTok)
    • Engagement-Logik: tendenziell provokanter und skandalöser Content, da mehr Reaktionen durch Emotionalisierung statt Sachlichkeit 

Social Media

Relevante Plattformen

  • Instagram, TikTok
  • Video-Streaming (YouTube, Bitchute, Twitch)
  • Messenger-Dienste (Telegram, WhatsApp, Snapchat)
  • Gaming-Plattformen (Discord, Steam)
  • Kurznachrichtendienste (X)
  • Foren und Imageboards (reddit, 4chan)

Social Media

Extrem rechte Akteur:innen vermitteln ihre Inhalte strategisch:

  • Lifestyle-Formate (Musik, Kleidung, Gaming, Sport, Naturschutz, Esoterik)
  • Handlungs- und Gesellschaftsvorstellungen fließen subtil ein
  • Strategische Nutzung von Trends, Challenges, Memes, Emojis und Hashtags

Metapolitik: ideolgoische Besetzung des vorpolitischen Raums

Quelle: https://wirsindantianti.org/glossar/desinformation/

Was ist Desinformation?

  • Falsche, zielgerichtet erzeugte Informationen
  • Absicht: Schaden für Personen, soziale Gruppen, Organisationen oder Länder
  • Herausforderung: Informationsflut erschwert Unterscheidung zwischen verlässlichen und unzuverlässigen Quellen
  • Strategie: Bewusstes Ausnutzen dieser Überforderung

Quelle: https://wirsindantianti.org/glossar/desinformation/

Wie wirkt Desinformation?

  • Gezieltes Schüren von Zweifeln an etablierten Informationsquellen
  • Wirkung auch ohne vollständigen Glauben an die Falschmeldung
  • Erosion des Vertrauens in alle Informationsquellen
  • Folge: Vorantreiben gesellschaftlicher Spaltung

Desinformation

Was ist Hate Speech?

  • Gezielte Verletzung und Einschüchterung durch Worte oder Bilder
  • Methoden: Hetze, Abwertung, Aufrufe zu Gewalt, orchestrierte Shitstorms
  • Ca. die Hälfte aller Internet-Nutzer_innen nehmen Hate Speech wahr

Quellen: https://wirsindantianti.org/glossar/hate-speech-hassrede/, Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Betroffene:

  • Oft Menschen und Gruppen, die Diskriminierung erfahren (Queere Personen,Frauen*, Muslim_innen, Jüdinnen und Juden, Geflüchtete, People of Color, behinderte Menschen)
  • Gruppenbezogene Menschenfeindlichkeit steckt dahinter

Wie wirkt Hate Speech?

Wirkung: 

  • Rückzug von Online Plattformen und Rückgang des demokratischen Diskurses
  • Reproduktion und Aufrechterhaltung gesellschaftlicher Machtstrukturen

Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Rechtliche Lage in Deutschland:

  • Je nach Ausdruck strafverfolgbar
  • Netzwerkdurchsetzungsgesetz (NetzDG) seit 2017
  • Digital Service Act (DSA) seit 2024

Akteur*innen, Formate und Strategien zur Verbreitung von extrem Rechten Inhalten auf Social Media

  • Derailing (Online-Diskussion werden gezielt "entgleist")

  • Verwendung spezifischer Begriffe und Emojis als "Dogwhistles"

  • Communtybuilding und Mitmachstrategien (bsp. "Stolz-Monat")

  • doxxing (Veröffentlichung Privater Informationen pol. Gegner*innen)

  • Hatespeech und Bedrohung/ orchestrierte Shitstorms

  • "Kettenbriefe" oder Videos mit Fake News auf social media

  • eigenes Vokabular, Zahlencodes (18, 28, 88, 1488)

  • "Gamification" von Rechtem Terror (Livestreaming)

  • "Kapern" von Hashtags und Trends

spezifische Online-Strategien

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Hitlergruß:

🧕✈️

🧛🧛

🫸🌈

 

 

Codes, Memes, Emojis & Hashtags - Wie Hate Speech versteckt wird

KI und Deepfakes

KI-Accounts

FakeNews

Entkontextualisierung und Emotionalisierung

 Faktenchecks

Quelle:https://www.belltower.news/dehate-report-3-tiktok-antisemitismus-im-neuen-gewand-124673/

Politische Bildung

  • kritisches Denken im politischen Raum

  • Ambiguitätstoleranz

  • Empowerment

Bildungsprozesse zur Prävention

Medienbildung

  • Medienkompetenz
  • Informationskompetenz
  • Verstehen und sich beziehen
  • "The Kids Are Alright"

Auseinandersetzung mit jugendlichen Lebens- und Erfahrungswelten

  • Politische und gesellschaftliche Fragen diskutieren

  • Themen von Jugendlichen aufgreifen

    • Räume schaffen

    • Quellen bereitstellen

  • Grundlegendes Wissen über

    • politische Prozesse und Institutionen

    • Journalistische Abläufe

    • Politisches Spektrum & Codes   

Politische Urteilskraft stärken

Mediale Urteilskraft stärken

1. Ist der Inhalt emotional und übertrieben? Viele ??? und !!!

2. Quelle: Seriös? Existiert sie überhaupt? Gibt es andere Quellen?

3. Gibt es mehr Berichte zum Thema? Sind die Zahlen und Fakten richtig?

4. Gibt es ein Datum? Wenn ja, ist es aktuell?

5. Fotos prüfen, zum Beispiel mit der Google Rückwärtssuche oder auf Fehler prüfen (3 Beine? Ist Bild KI generiert?)

Handlungsoptionen vermitteln

  • Melden (beim Sozialen Netzwerk oder der Moderation des Kanals)
  • Anzeigen (Polizei, Onlinewachen)
  • Senden an www.internet-beschwerdestelle.de oder www.hass-im-netz.info
  • Sich positionieren

Zugänge

Sensibilisierung für Diskriminierung und Vorurteile

  • Positionierung, Diskussion und Umgang      

  • Reflektion von eigener Identität, Solidarität, Haltung

Aktive (Medien)Arbeit

  • Eigene Beiträge erstellen, Memes erstellen      

  • Kahoot!-Quiz, Fake-News-Spiel

Angeleitete Analyse von ideologischen Inhalten

  • Videoinputs und Diskussion                        

  • Social Media-Kanäle der Akteure                      

  • Betroffene schützen
  • Individuen nicht auf einzelne Meinungen reduzieren
    • selten geschlossene Weltbilder
    • verschiedene Intentionen berücksichtigen
  • Nachfragen statt Belehrungen
  • Zeit für gemeinsame Recherchen und Quellenbeurteilung
  • selbst auskunftsfähig werden/Haltung entwickeln

Hinterfragende &

anerkennende Haltung

Methodenlabor

Linkliste zu

Online-Radikalisierung

Folgt uns auf Instagram!

Folgt uns auf Instagram!

Feedback