Prävention von (Online)-Radikalisierung
Die
extreme Rechte, Verschwörungserzählungen
und Islamismus im Netz




Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.
Träger mediale pfade e.V.
- Jugend hackt (Coding für Jugendliche)
- DataSkop (Algorithmen verstehen)
- ULAT (Unlearning Anti-feminism on TikTok)
- Medienkompetenzzentum Lichtenberg
Beispielprojekte


Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention
Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus
Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte
Projekt AntiAnti
@wirsindantianti


Primärprävention
- Arbeit mit allen Zielgruppen
- beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
- Kritische Reflektion als Ziel
- nicht geeignet für stark radikalisierte Jugendliche
Radikalisierungsprävention

Radikalisierungsprävention


-
Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar
-
Extrem Rechte Einstellungen, Antisemitismus und Islamismus als drei relevante menschenfeindliche Einstellungen in Deutschland
-
Social Media und TikTok als spezifischer Raum der Verbreitung
Ausgangslage

"Radikalisierung ist die zunehmende Bereitschaft, eine normative Ordnung infrage zu stellen."
Radikalisierung
Quelle: PRIF Report 5/2018

Radikalisierung
Quelle: PRIF Report 5/2018
"Ein komplexer und auf ineinandergreifenden Ebenen stattfindender Prozess mit individuellen, zwischenmenschlichen, gruppenspezifischen, strukturellen, institutionellen, historischen und kulturellen Ursachen."

Radikalisierung
Quelle: PRIF Report 5/2018
Radikalisierung ist normativ offen und deshalb nicht zwingend negativ!
Beispiele für Radikalisierung: Frauenrechtsbewegung, Civil Rights-Bewegung, Klimagerechtigkeitsbewegung

- Einfacher Zugang zu ungeprüften Inhalten
- einfache Lösungen für komplexe Zusammenhänge
(Stichwort: Verschwörungserzählungen) - Fake News, Hate-Speech, Algorithmen
- Professionalisierung von ideologischen Akteur_innen
- ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline
Medienbildung, Informationskompetenz und kritisches Denken zentral für Prävention
Online-Radikalisierung

- es gibt keine gesonderten "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
- der digitale Raum bietet aber:
- einfachen Zugang
- neue Formate
- große Reichweite
- weniger Widerspruch
- Anonymität
- oft Straffreiheit
- Online Radikalisierung zieht häufig offline Taten nach sich
Online vs Offline?

Social Media
Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.
Relevante Plattformen:
- Instagram, TikTok
- Video-Streaming (YouTube, Bitchute, Twitch)
- Messenger-Dienste (Telegram, WhatsApp)
- Gaming-Plattformen (Discord, Steam)
- Kurznachrichtendienste (X)
- Foren und Imageboards (reddit, 4chan)

Social Media
Extrem rechte Akteur:innen vermitteln ihre Inhalte strategisch:
- Lifestyle-Formate (Musik, Kleidung, Gaming, Sport, Naturschutz, Esoterik)
- Handlungs- und Gesellschaftsvorstellungen fließen subtil ein
- Strategische Nutzung von Trends, Challenges, Memes, Emojis und Hashtags

TikTok
- Ca. 21 Millionen TikTok User in Deutschland
- Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
- wichtige Informationsquelle und Suchmaschine für Jugendliche
- Moderationslücken bei TikTok
-
tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
Engagement-Logik - algorithmisches Empfehlungssystem

Engagement Logik


Antidemokratische Akteur_innen auf TikTok
- TikTok soll Resonanzraum erweitern
(v.a. junge Menschen erreichen) - Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
- Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
- TikTok weniger akteur_innenzentriert Viralität einzelner Videos und Trends

Desinformation in aktuellen Krisen

vermeintlicher Livestream zu Beginn des Ukrainekriegs.
Das zweite Bild zeigt, dass das Video nicht live ist, fremder Ton hinzugefügt und das Ganze aus einem Nachrichtenbericht zweckentfremdet wurde.
Quelle: Screenshot TikTok; Video YouTube https://www.youtube.com/
watch?t=142&v=F_3L0z1lgAE&feature=youtu.be


Entkontextualisierung und Emotionalisierung



Entkontextualisierung und Emotionalisierung


Erkennungsmerkmal "Fashwave Optik" und "Tradwave Optik"
- Popkulturelle Bezüge
- Verherrlichung eines "traditionellen" Lebensstils
- politische Message wird subtil eingestreut
- Sound als zentrale Verbreitungsstrategie
Neu Rechte Ästhetik


Die Rolle von Sounds auf TikTok
- Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
- Bestimmte Milieus nutzen gleiche Sounds
- Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound
Die „neue Rechte“
- strategische Abgrenzung vom NS, um nicht abschreckend zu sein
- neues Image für alte Ideen
- sehen sich als Avantgarde einer neuen "konservativen Revolution" in ganz Europa
- aber: sehr viel Überschneidung in Theorie und Praxis mit "klassischen" Rechtsextremen

- Verlage, Zeitungen
- Parteien
- Kameradschaften & Gruppierungen
- Kleidungsmarken
- Musiker*innen etc.
- soziale Medien, Foren
Diverses und gut
organisiertes Netzwerk

Die Identitäre Bewegung, 1% & Folgeprojekte
-
professionelle mediale Inszenierung kleinerer eigener Aktionen
-
starker Fokus auf Social Media
-
Mittlerweile weniger Reichweite wegen Deplatforming
-
Personell zu großen Teilen in der AfD / JA aufgegangen
-
gut vernetzt mit Kubitschek / IFS / 1%

Aktuelle Akteur*innen

AfD / Junge Alternative
- Verwertung kurzer Videomitschnitte aus Bundestag & Co
- Fanvideos, Personenkult Weidel & Höcke
- eigener Content...
-
gezielte Unterstützung/Aufbau rechter
Influencer*innen geplant


"Ketzer der Neuzeit"
-
jugendlich und rhetorisch gewandt, bekannt für satirische Interviews mit Linken / alternativen Menschen auf Demonstrationen


- Fokus auf "Absurdität" der Wokeness
-
Inszenierung als vernünftiger Rebell gegen Meinungsdiktatur
-
eigenes Modelabel
"Eingollan"
-
Kopie von Ketzer der Neuzeit in weiblich
-
satirische Interviews mit Linken / alternativen Menschen
(auf Demonstrationen)

- Fokus auf "Absurdität" der Wokeness
-
Inszenierung als vernünftiger Rebell gegen Meinungsdiktatur
-
eigenes Modelabel

US Alt Right "Größen"
- Tucker Carlson (Radiomoderator)
- Donald Trump
- Matt Walsh (rechter Youtuber, Referenz für extrem Rechte Attentäter)
- Andrew Tate (misogyner Macho mit "Vorbildfunktion")


Zentrale Begriffe & Diskurse


Zentrale Begriffe & Diskurse
-
Vermeintlich Anti-Elitarismus: "die Grünen als liberale Gefahr"
-
Presse– und Wissenschaftsfeindlichkeit (Lügenpresse)
-
Verschwörungsdenken & "Notwehrnarrativ"
-
Antisemitismus: gegen "die mächtigen Strippenzieher" (Finanzeliten, Banker von der Ostküste, Rothschilds, ...)

Codes, Memes,
Emojis & Hashtags
"Pepe the frog"

Internetphänomen und unfreiwilliges Symbol der US–amerikanischen „Alt-Right" Bewegung, beliebt unter Trump-Supporter:innen
- Codiert verwendet als Frosch-Emoji: 🐸 🐸

Das Kiwi-Emoji
🥝🥝🥝
-
Symbol für Transfeindlichkeit: "es gibt nur 2 Geschlechter"
-
Hintergrund: Reaktion auf Absage eines Vortrags an der HU von Marie Luise Vollbrecht. Ihr Beispiel: bei Kiwis lassen sich genau 2 Geschlechter biologisch einteilen

Codes, Memes,
Emojis & Hashtags
Kombination
verschiedener Emojis


Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Kombination
verschiedener Emojis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/
Hitlergruß:


Akteur:innen der
extremen Rechten
Die neue Rechte hat einen starken Fokus auf Netz-Aktivismus. Dabei wird ein holistischer Ansatz verfolgt.
Beispiel "Gegenuni"
Beispiel "Triene"
Geschichtsrevisionismus

Beispiele rechtsextremer Rap
von NDS (Neuer Deutscher Standard)




Lifestyleformat Kampfsport



"Lifestyle Formate"
von "Ketzer der Neuzeit"

-
Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)
-
Normalisierung von rechten Ideologien
-
Auftreten, Sprech und Drehorte nicht mit rechter Ideologie assoziiert

Lifestyleformat Kampfsport



AfD auf Tiktok

Rechtsextreme Akteur:innen


Mitmachkampagne "Stolzmonat"

Social Media Strategien der AfD
Memeifizierung

Akteur:innen der
extremen Rechten


Antifeminismus

Zentraler Inhalt ist Antifeminismus:
- "Moderne" vs. "Tradition"
- Anschlussfähig an Männlichkeits-Bilder
- "Manosphere"
- Lifecoaches
- Dient als ideologisches Einstiegstor

Beispiel "amandina_vomrhein"




Versteckte Symbolik rechter Gruppierungen
Besetzung von aktuellen politischen Themen

Beispiel "amandina_vomrhein"
Trend #tradwives &
#stayathomegirlfriend

- Antifeministischer Schwerpunkt
- "Tradition" vs. "Moderne"
- Zielgruppe junge Frauen






Trend
#rejectmodernityembracetradition




Trend #tradwives &
#stayathomegirlfriend
"tradwive" aus
deutschsprachigem Raum


https://correctiv.org/top-stories/2020/10/06/kein-filter-fuer-rechts-instagram-rechtsextremismus-frauen-der-rechten-szene/?lang=de
Netzwerk rechter
Frauen auf Instagram


Pseudojournalismus

-
Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)
-
"Authentische Aufnahmen" (Demonstrationen o.Ä.)
-
Hosted journalism
-
Normalisierung von rechten Ideologien
-
Auftreten, Sprech und Drehorte nicht mit rechter Ideologie assoziiert

Bsp. "Ketzer der Neuzeit"
Bsp. "Neverforgetniki"

Pseudojournalismus



Bsp: "Aktivist Mann"
Bsp: "Weichreite TV"
Bsp: "Aktivist Mann"

KI und Deepfakes




KI und Deepfakes


Aktuelle Entwicklungen

DJV und Umfeld
Starken Fokus auf martialische Social Media Auftritte. Junges loses Feld

DJV und Umfeld



DJV und Umfeld

Vermehrt auch junge Frauen als Social Media Aktivistinnen


Dark Socials (Telegram und Co.)
Über große Plattformen werden die User:innen auf Telegram-Channels oder "Szeneplattformen" weitergeleitet.




Verschwörungserzählungen der neuen Rechten
"Chiffre 'Soros' und Feindbild LGBTQI*"

Verschwörungserzählungen in Bezug auf Israel


Quelle: https://www.bs-anne-frank.de/fileadmin/content/Publikationen/Weiteres_P%C3%A4dagogisches_Material/TikTok_Report_Nahostkonflikt_BSAF_2024_neu.pdf

Antisemitische Emojis & Hashtags
🧛🧛
😈😈
🤑🤑
Israelische Flagge + Schuh/Feuer


#israhell
#rothschildconspiracy
#zionazis
Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Antisemitische Emojis & Hashtags



Aktualisierung antisemitischer Bildsprache


Quelle: https://www.amadeu-antonio-stiftung.de/wp-content/uploads/2021/11/210922_aas_broschuere-da-105x148_web_doppelseiten.pdf



Aktualisierung antisemitischer Bildsprache
"Manosphere"
Als "Manosphere" wird ein Konglomerat aus digitalen Netzwerken bezeichnet, in dem sich junge Männer antifeministisch radikalisieren.
-
Loses Netzwerk
-
Misogyne, sexisitische und antifeministische Strömungen
-
Starke Verbindung zur extremen Rechten

-
MRA (Men's rights activists):
Gehen gegen imiganierte Unterdrückung von Männern vor. Feindbild Feminismus. -
MGTOW (Men going their own way):
Männer die sich von einer angeblich weiblich dominierten Gesellschaft trennen wollen -
Incels ('Involuntary celibate'):
Männer die vermeintlich unter Sexlosigkeit leiden und ein Recht auf Sex für Männer sehen -
Pick-Up Artist:
Proklamieren "Alpha-Männlichkeit", Werten Frauen ab und legitimieren Manipulation und Gewalt für Sex

"Manosphere"
Selbsternannte Coaches





Selbsternannte Coaches
Religiös
fundamentalistische Akteur:innen



Was ist Islamismus?

Islamismus ist eine Sammelbezeichnung für alle politischen Auffassungen und Handlungen, die im Namen des Islam die Errichtung einer religiös legitimierten Gesellschafts- und Staatsordnung anstreben. Es ist eine Form des religiösen Extremismus, ein Phänomen des politischen Fundamentalismus und eine Variante des ideologischen Totalitarismus.
Das Spektrum islamistischer Ideologie reicht von Parteipolitik über Sozialarbeit bis zu Terrorismus. Folgende Merkmale sind dabei wichtig:
- Die Absolutsetzung des Islam als Lebens- und Staatsordnung
- Der Vorrang der Gottes- vor der Volkssouveränität als Legitimationsbasis
- Die angestrebte vollkommene Durchdringung und Steuerung der Gesellschaft
- Die Forderung nach einer homogenen und identitären Sozialordnung im Namen des Islam
- Die Ablehnung der Normen und Gesetze des modernen, demokratischen Verfassungsstaates
Was ist Salafismus?

- Alle Salafisten haben ein gemeinsames Ziel: die Errichtung eines politischen Systems nach den Regeln der Scharia und mit einem Kalifen als politischem und religiösem Oberhaupt.
- Die vollständige Umgestaltung von Staat, Rechtsordnung und Gesellschaft nach dem Vorbild der sogenannten „rechtschaffenen Altvorderen“ sehen sie als „gottgewollte“ Norm.
- Salafisten erkennen keine Nationalstaaten an. Ausgehend von einem Kernstaat sollen die Grenzen „expandieren“ und schließlich die gesamte Umma (die gesamt-islamische Weltgemeinschaft) umfassen.
- Muslime, die anderswo leben, wären dann verpflichtet, nach dem Vorbild des Propheten in einen islamischen Kernstaat auszuwandern (arabisch „hijra“: Auswanderung), um dort ein gottgefälliges Leben zu führen und nicht unter „Ungläubigen“ leben zu müssen.
Antimuslimischer Rassismus

Antimuslimischer Rassismus (AMR) ist eine Form des Rassismus, die sich gegen Menschen muslimischen Glaubens richtet. Er kann sich außerdem gegen Menschen richten, die z. B. aufgrund ihres Aussehens oder ihres Namens als muslimisch wahrgenommen werden. Wie andere Formen von Rassismus geht der AMR auf eine lange Tradition von mittelalterlichen Feindbildern aus der religiös begründeten Auseinandersetzung zwischen „Islam“ und „Christentum“ und die kolonialistische und imperialistische Hegemonie Europas, vor allem im Nahen und Mittleren Osten zurück. Heute äußert er sich unter anderem in der rassistischen Ausgrenzung von Muslim*innen in modernen Migrationsgesellschaften. AMR kann sich in der sprachlichen Gegenüberstellung von Muslim*innen und Deutschen in Beleidigungen, in der Diskriminierung auf dem Arbeits- oder Wohnungsmarkt, in der Schule oder in fehlender oder Missrepräsentation in Medien, Literatur und Kunst zeigen. Drohbriefe an Gemeinden und Moscheen sowie Abwertungen und Hetze im Internet sind weitere alltägliche Ausdrucksformen von antimuslimischem Rassismus.

Soical Media Auftrittr



Auftritte auf Social Media

Instagramprofil: Abul Barra & TikTok

Isralebezogener Antisemitismus auf Social Media



Verbindugen zur extremen Rechten
- Neue Entwicklung der Annhäherung von extrem Rechten und islamistischen Akteuren
- Vor allem Präsent auf Social Media (Gegenseitige Interviewanfrage etc.)
- Auch Offline-Aktionen (Bsp. Angriff auf Queeres Projekt in NRW)
- Gemeinsame Feindbilder (Feminismus, Antisemitismus, Linke, Nahost)
- Starker Fokus auf Männlichkeitsvorstellungen (Kampfsport, Ehre, Disziplin)

Verbindugen zur extremen Rechten


spezifische Online-Strategien
-
"ironische" Kommunikation über memes (z.B. Pepe)
-
Verwendung spezifischer Emojis als "Dogwhistles"
-
vereinzelt rechte Hacker
-
doxxing (Veröffentlichung Privater Informationen pol. Gegner*innen)
-
Hatespeech und Bedrohung
-
orchestrierte Shitstorms
-
"Kettenbriefe" oder Videos mit Fake News auf social media
-
eigenes Vokabular, Zahlencodes (18, 28, 88, 1488)
-
"Gamification" von Rechtem Terror (Livestreaming)
-
"kapern" von Hashtags und Trends

Strategien
-
Derailing (Online-Diskussion werden gezielt "entgleist")
-
Dogwhistling (Bsp. "white boy summer")
-
Hashtags besetzen und Umwegkommunikation
-
Mitmachstrategien und Aufrufe (bsp. "Stolz-Monat")
-
Gegenseitiges taggen (traffic)
-
Engagement-Logik (Beiträge, die besonders emotionalisieren)
-
Para-Soziale Beziehungen (Gesichter statt Projekte)
-
Crossmediales Auftreten
-
Ökonomische Interessen (Promotion von Vertrieben)


Politische Bildung
-
kritisches Denken im politischen Raum
-
Ambiguitätstoleranz
-
Empowerment
Bildungsprozesse zur Prävention
Medienbildung
- Medienkompetenz
- digital literacy
- Informationskompetenz
- Verstehen und sich beziehen
- "The Kids Are Alright"
Auseinandersetzung mit jugendlichen Lebens- und Erfahrungswelten

-
Politische und gesellschaftliche Fragen diskutieren
-
Themen von Jugendlichen aufgreifen
-
Räume schaffen
-
Quellen bereitstellen
-
-
Grundlegendes Wissen über
-
politische Prozesse und Institutionen
-
Journalistische Abläufe
-
Politisches Spektrum & Codes
-
Politische Urteilskraft stärken

Mediale Urteilskraft stärken
1. Ist der Inhalt emotional und übertrieben? Viele ??? und !!!
2. Quelle: Seriös? Existiert sie überhaupt? Gibt es andere Quellen?
3. Gibt es mehr Berichte zum Thema? Sind die Zahlen und Fakten richtig?
4. Gibt es ein Datum? Wenn ja, ist es aktuell?
5. Fotos prüfen, zum Beispiel mit der Google Rückwärtssuche oder auf Fehler prüfen (3 Beine? Ist Bild KI generiert?)

Handlungsoptionen Vermitteln
- Melden (beim Sozialen Netzwerk oder der Moderation des Kanals)
- Anzeigen (Polizei, Onlinewachen)
- Senden an www.internet-beschwerdestelle.de oder www.hass-im-netz.info
- Sich positionieren

Zugänge
Sensibilisierung für Diskriminierung und Vorurteile
-
Positionierung, Diskussion und Umgang
-
Reflektion von eigener Identität, Solidarität, Haltung
Aktive (Medien)Arbeit
-
Eigene Beiträge erstellen, Memes erstellen
-
Kahoot!-Quiz, Fake-News-Spiel
Angeleitete Analyse von ideologischen Inhalten
-
Videoinputs und Diskussion
-
Social Media-Kanäle der Akteure

- Betroffene schützen
-
Individuen nicht auf einzelne Meinungen reduzieren
- selten geschlossene Weltbilder
- verschiedene Intentionen berücksichtigen
- Nachfragen statt Belehrungen
- Zeit für gemeinsame Recherchen und Quellenbeurteilung
- selbst auskunftsfähig werden/Haltung entwickeln
Hinterfragende &
anerkennende Haltung
Feedback
Folgt uns auf Instagram!



Linkliste zu
Online-Radikalisierung
Folgt uns auf Instagram!



25/01/25 ASH Berlin, REX
By mediale pfade
25/01/25 ASH Berlin, REX
- 58