Toxic Trends
Raumnahme der extremen Rechten
auf Social Media
& pädagogische Handluungsoptionen




Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.
Träger mediale pfade e.V.
- Jugend hackt 2 Go (Coding für MINTA*)
- DataSkop (Algorithmen verstehen)
- ULAT (Unlearning Anti-feminism on TikTok)
- Medienkompetenzzentum Lichtenberg
Beispielprojekte


Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention
Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus
Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte
Projekt AntiAnti
@wirsindantianti


- Einfacher Zugang zu ungeprüften Inhalten
- einfache Lösungen für komplexe Zusammenhänge
(Stichwort: Verschwörungserzählungen) - Fake News, Hate-Speech, Algorithmen
- Professionalisierung von ideologischen Akteur_innen
- ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline
Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention
Online-Radikalisierung

- es gibt keine gesonderten "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
- der digitale Raum bietet aber:
- einfachen Zugang
- neue Formate
- große Reichweite
- weniger Widerspruch
- Anonymität
- oft Straffreiheit
- Online Radikalisierung zieht häufig offline Taten nach sich
Online vs Offline?

Social Media
Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.
Relevante Plattformen:
- Instagram, TikTok
- Video-Streaming (YouTube, Twitch)
- Messenger-Dienste (Telegram, WhatsApp)
- Gaming-Plattformen (Discord, Steam)
- Kurznachrichtendienste (X)
- Foren und Imageboards (reddit, 4chan)

Social Media
Extrem rechte Akteur:innen vermitteln ihre Inhalte strategisch:
- Lifestyle-Formate (Musik, Kleidung, Gaming, Sport, Naturschutz, Esoterik)
- Handlungs- und Gesellschaftsvorstellungen fließen subtil ein
- Strategische Nutzung von Trends, Challenges, Memes, Emojis und Hashtags

TikTok
- Ca. 21 Millionen TikTok User in Deutschland
- Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
- wichtige Informationsquelle und Suchmaschine für Jugendliche
- Moderationslücken bei TikTok
- tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
Engagement-Logik - algorithmisches Empfehlungssystem

Engagement Logik


Antidemokratische Akteur_innen auf TikTok
- TikTok soll Resonanzraum erweitern
(v.a. junge Menschen erreichen) - Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
- Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
- TikTok weniger akteur_innenzentriert Viralität einzelner Videos und Trends

Antidemokratische Akteur_innen auf TikTok
- TikTok soll Resonanzraum erweitern
(v.a. junge Menschen erreichen) - Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
- Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
- TikTok weniger akteur_innenzentriert Viralität einzelner Videos und Trends

Erkennungsmerkmal "Fashwave Optik" und "Tradwave Optik"
- Popkulturelle Bezüge
- Verherrlichung eines "traditionellen" Lebensstils
- politische Message wird subtil eingestreut
- Sound als zentrale Verbreitungsstrategie
Neu Rechte Ästhetik


Die Rolle von Sounds auf TikTok
- Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
- Bestimmte Milieus nutzen gleiche Sounds
- Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound
spezifische Online-Strategien
-
"ironische" Kommunikation über memes (z.B. Pepe)
-
Verwendung spezifischer Emojis als "Dogwhistles"
-
vereinzelt rechte Hacker
-
doxxing (Veröffentlichung Privater Informationen pol. Gegner*innen)
-
Hatespeech und Bedrohung
-
orchestrierte Shitstorms
-
"Kettenbriefe" oder Videos mit Fake News auf social media
-
eigenes Vokabular, Zahlencodes (18, 28, 88, 1488)
-
"Gamification" von Rechtem Terror (Livestreaming)
-
"kapern" von Hashtags und Trends

Strategien
-
Derailing (Online-Diskussion werden gezielt "entgleist")
-
Dogwhistling (Bsp. "white boy summer")
-
Hashtags besetzen und Umwegkommunikation
-
Mitmachstrategien und Aufrufe (bsp. "Stolz-Monat")
-
Gegenseitiges taggen (traffic)
-
Engagement-Logik (Beiträge, die besonders emotionalisieren)
-
Para-Soziale Beziehungen (Gesichter statt Projekte)
-
Crossmediales Auftreten
-
Ökonomische Interessen (Promotion von Vertrieben)

Zentrale Begriffe & Diskurse


Antimodernismus

- Leichte antworten auf komplexe Verunsicherung
- "intakte Tradition" vs. "kaputte Moderne"
- Sehr anschlussfähig an antifeministische und
antisemitische Ressentiments
Codes, Memes,
Emojis & Hashtags
"Pepe the frog"

Internetphänomen und unfreiwilliges Symbol der US–amerikanischen „Alt-Right" Bewegung, beliebt unter Trump-Supporter:innen
- Codiert verwendet als Frosch-Emoji: 🐸 🐸

Das Kiwi-Emoji
🥝🥝🥝
-
Symbol für Transfeindlichkeit: "es gibt nur 2 Geschlechter"
-
Hintergrund: Reaktion auf Absage eines Vortrags an der HU von Marie Luise Vollbrecht. Ihr Beispiel: bei Kiwis lassen sich genau 2 Geschlechter biologisch einteilen

Codes, Memes,
Emojis & Hashtags
Kombination
verschiedener Emojis


Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Kombination
verschiedener Emojis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/
Hitlergruß:



Antisemitische Emojis & Hashtags
🧛🧛
😈😈
🤑🤑
Israelische Flagge + Schuh/Feuer


#israhell
#rothschildconspiracy
#zionazis
Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Antisemitische Emojis & Hashtags



Neu Codierung rassistischer Weltsichten

Quelle: TikTok
Bsp.: a10 Classic
Akteur:innen der
extremen Rechten
Die neue Rechte hat einen starken Fokus auf Netz-Aktivismus. Dabei wird ein holistischer Ansatz verfolgt.
Beispiel "Gegenuni"
Beispiel "Triene"

Akteur:innen der
extremen Rechten
Direkte Ansprache & Mitmachangebote





Akteur:innen der
extremen Rechten
Fitness & Kampfport




Akteur:innen der
extremen Rechten
Nutzung aktueller Trends



Musik als Propagandainstrument
Anknüpfung an Sehgewonheiten (Bsp.: "POV")

Holocaust Leugnung
& Instrumentalisierung




Geschichtsrevisionismus der
extremen Rechten
Quelle: TikTok: Maximilian_Krah.AfD

AfD auf Tiktok

Akteur:innen der
extremen Rechten


Antifeminismus

Zentraler Inhalt ist Antifeminismus:
- "Moderne" vs. "Tradition"
- Anschlussfähig an Männlichkeits-Bilder
- "Manosphere"
- Lifecoaches
- Dient als ideologisches Einstiegstor


Antisemitische
Verschwörungsnarrative

Bsp.: "Rothschild Mythos"
Klassische antisemitische Motive und Bildsprache: Vermeintliche Weltherrschaft im Hintergrund, "Strippenzieher", Bild des Finanzkapitals
Quelle: TikTok: Carlogarcia1118

Antisemitismus und
Verschwörungsideologien
Quelle: TikTok/Ketzerderneuzeit




Antisemitische Narrative


Klassische antisemitische Bildsprache

Antisemitische
Verschwörungsnarrative
Quelle: Instagram: @benjamindacuhn

Pseudojournalismus

-
Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)
-
"Authentische Aufnahmen" (Demonstrationen o.Ä.)
-
Hosted journalism
-
Normalisierung von rechten Ideologien
-
Auftreten, Sprech und Drehorte nicht mit rechter Ideologie assoziiert

Bsp. "Ketzer der Neuzeit"
Bsp. "Neverforgetniki"

KI und Deepfakes




Aktuelle Entwicklungen

Starken Fokus auf martialische Social Media Auftritte. Junges loses Feld
Deutsche Jugend Voran und Umfeld


DJV und Umfeld

Vermehrt auch junge Frauen als Social Media Aktivistinnen

Religiös
fundamentalistische Akteur:innen




Methodenlabor

TikTok-Puzzle






Ideen aus der Gruppe zur Frage:
Was brauche ich, um in meiner Arbeit mit Radikalisierung umzugehen - bzw. wie kann ich in meiner Arbeit Radikalisierungstendenzen begegnen
• Nicht-Rechte Jugendliche bestärken
• Wertebasiert arbeiten
• Gemeinsame positive Zukunftsvision entwickeln
• auf GG beziehen
• im Austausch (mit rechtsaffinen Jugendlichen) bleiben,
konkret Argumentieren und Widersprechen
• sensibilisieren für Social Media Dynamiken, Fake News, KI etc
• Verweisen auf Hilfsnetzwerke & Ausstiegsangebote
• Fortbildungen besuchen (z.b. Crossroads)
• Grenzen der Meinungsfreiheit aufzeigen
• Repression (Verweise, (temporäre Hausverbote)
• Bildung von Angsträumen nicht zulassen
• Up-to-Date bleiben, Hintergrundwissen aneigen, zentrale Narrative kennen
• Haltung zeigen

Politische Bildung
-
kritisches Denken im politischen Raum
-
Ambiguitätstoleranz
-
Empowerment
Bildungsprozesse zur Prävention
Medienbildung
- Medienkompetenz
- digital literacy
- Informationskompetenz
- Verstehen und sich beziehen
- "The Kids Are Alright"
Auseinandersetzung mit jugendlichen Lebens- und Erfahrungswelten

-
Politische und gesellschaftliche Fragen diskutieren
-
Themen von Jugendlichen aufgreifen
-
Räume schaffen
-
Quellen bereitstellen
-
-
Grundlegendes Wissen über
-
politische Prozesse und Institutionen
-
Journalistische Abläufe
-
Politisches Spektrum & Codes
-
Politische Urteilskraft stärken

Mediale Urteilskraft stärken
1. Ist der Inhalt emotional und übertrieben? Viele ??? und !!!
2. Quelle: Seriös? Existiert sie überhaupt? Gibt es andere Quellen?
3. Gibt es mehr Berichte zum Thema? Sind die Zahlen und Fakten richtig?
4. Gibt es ein Datum? Wenn ja, ist es aktuell?
5. Fotos prüfen, zum Beispiel mit der Google Rückwärtssuche oder auf Fehler prüfen (3 Beine? Ist Bild KI generiert?)

Handlungsoptionen Vermitteln
- Melden (beim Sozialen Netzwerk oder der Moderation des Kanals)
- Anzeigen (Polizei, Onlinewachen)
- Senden an www.internet-beschwerdestelle.de oder www.hass-im-netz.info
- Sich positionieren

Zugänge
Sensibilisierung für Diskriminierung und Vorurteile
-
Positionierung, Diskussion und Umgang
-
Reflektion von eigener Identität, Solidarität, Haltung
Aktive (Medien)Arbeit
-
Eigene Beiträge erstellen, Memes erstellen
-
Kahoot!-Quiz, Fake-News-Spiel
Angeleitete Analyse von ideologischen Inhalten
-
Videoinputs und Diskussion
-
Social Media-Kanäle der Akteure

- Betroffene schützen
-
Individuen nicht auf einzelne Meinungen reduzieren
- selten geschlossene Weltbilder
- verschiedene Intentionen berücksichtigen
- Nachfragen statt Belehrungen
- Zeit für gemeinsame Recherchen und Quellenbeurteilung
- selbst auskunftsfähig werden/Haltung entwickeln
Hinterfragende &
anerkennende Haltung
Feedback
Folgt uns auf Instagram!



Linkliste zu
Online-Radikalisierung
Folgt uns auf Instagram!



Medienkompetenzzentrum Lichtenberg


- Workshops
- offene Angebote
- Games
- Livestreaming
- Podcasts erstellen
- Audiowalks (Actionbound App):
zu rechter Gewalt in Lichtenberg
zu Antisemitismus - uvm.
26/03/03_Fobi_REX_ElternStärken
By mediale pfade
26/03/03_Fobi_REX_ElternStärken
- 175