Akteur*innen, Formate und Strategien

Pädagogischer Umgang mit Desinformation auf Social Media

Als Verein für Medienbildung entwickelt medialepfade.org innovative Konzepte, um neue mediale Pfade des Lernens und der Beteiligung zu erkunden.

Träger mediale pfade e.V.

Beispielprojekte

  • TikTokSlam (Demokratie auf Plattformen bringen)
  • ULAT (Unlearning Anti-feminism on TikTok)
  • Medienkompetenzzentum Lichtenberg
  • Jugend hackt 2 Go (Coding für MINTA* im ländlichen Raum)

Pädagogische Ansätze: Medienpädagogik, Politische Bildung, Primär-/Universalprävention

 

Themenbereiche: Extreme Rechte, Antisemitismus, Islamismus, Verschwörungserzählungen, Antifeminismus

 

Projektpfeiler: Workshops für Jugendliche, Fortbildungen für pädagogische Fachkräfte

Projekt AntiAnti

@wirsindantianti

Primärprävention

  • Arbeit mit allen Zielgruppen
  • beinhaltet Medienkompetenz & diskriminierungssensible politische Bildung
  • Kritische Reflektion als Ziel
  • nicht geeignet für stark radikalisierte Jugendliche

 

Radikalisierungsprävention

Radikalisierungsprävention

  • Ideologien der Ungleichwertigkeit sind weit verbreitet und stellen eine gesamtgesellschaftliche Herausforderung dar

  • Extrem Rechte Einstellungen, Antisemitismus und Islamismus als drei relevante menschenfeindliche Einstellungen in Deutschland

  • Social Media und TikTok als spezifischer Raum der Verbreitung von Desinformation

Ausgangslage

Radikalisierung

Quelle: PRIF Report 5/2018

  • Infragestellung normativer Ordnungen
  • ein komplexer Prozess, der auf mehreren Ebenen stattfindet
  • historisch, kulturell, institutionell
  • Normativ offen und nicht zwingend negativ (bsp. Frauenrechtsbewegung, Civil Rights Movement,Klimabewegung)
  • Einfacher Zugang zu ungeprüften Inhalten
  • einfache Lösungen für komplexe Zusammenhänge
    (Stichwort: Verschwörungserzählungen)         
  • Fake News, Hate-Speech, Algorithmen
  • Professionalisierung von ideologischen Akteur_innen
  • ABER: keine Online-Radikalisierung ohne psychosoziale Grundlagen offline

 

 

Online-Radikalisierung

 

  • es gibt keine gesonderten  "online-Versionen" von gruppenbezogener Menschenfeindlichkeit
  • der digitale Raum bietet aber:
    • einfachen Zugang
    • neue Formate
    • große Reichweite
    • weniger Widerspruch
    • Anonymität
    • oft Straffreiheit
    • Online Radikalisierung zieht häufig offline Taten nach sich

Online vs Offline?

Was ist Desinformation?

  • Falsche, zielgerichtet erzeugte Informationen
  • Absicht: Schaden für Personen, soziale Gruppen, Organisationen oder Länder
  • Herausforderung: Informationsflut erschwert Unterscheidung zwischen verlässlichen und unzuverlässigen Quellen
  • Strategie: Bewusstes Ausnutzen dieser Überforderung

Quelle: https://wirsindantianti.org/glossar/desinformation/

Wie wirkt Desinformation?

  • Gezieltes Schüren von Zweifeln an etablierten Informationsquellen
  • Wirkung auch ohne vollständigen Glauben an die Falschmeldung
  • Erosion des Vertrauens in alle Informationsquellen
  • Folge: Vorantreiben gesellschaftlicher Spaltung

Quelle: https://wirsindantianti.org/glossar/desinformation/

Desinformation

Desinformation

Des-informationen: Falsche und zielgerichtet erzeugte Information, um einer Person, sozialen Gruppe, Organisation oder einem Land zu schaden.

 

Fehl-information: Falsche Informationen, die aber nicht mit der Absicht erzeugt wurden, Schaden zu verursachen.

 

Mal-informationen: Auf Wahrheit beruhende Informationen, die genutzt werden, um einer Person, einer Organisation oder einem Land zu schaden.

Quelle: https://www.boell.de/sites/default/files/2020-08/200825_E-Paper3_DE.pdf

Hate Speech

Die Abwertung kann sich auf Merkmale wie Hautton, Herkunft, Sexualität, Religion, Geschlecht, Alter oder Behinderung von Menschen beziehen.

 

Gruppenbezogene Menschenfeindlichkeit:


Rassismus, Antisemitismus, Islamfeindlichkeit, Homo- und Transfeindlichkeit, Sexismus.

Hate Speech

  • Ca. die Hälfte aller Internet-Nutzer_innen nehmen Hate Speech wahr
  • Nicht alle Internet-Nutzer_innen gleich betroffen
  • Hass-Post und orchestrierte Shitstorms führen bei Personen zur Rückzug von Online Plattformen und einem Rückgang des demokratischen Diskurses
  • Phänomen nimmt zu

Quelle: Studie "Lauter Hass - leiser Rückzug" - HateAid

Social Media

Beliebtheit von Social Media unter Jugendlichen entwickelt sich dynamisch, ideologische Akteur:innen folgen Nutzungstrends.

 

Relevante Plattformen:

  • Instagram, TikTok
  • Video-Streaming (YouTube, Bitchute, Twitch)
  • Messenger-Dienste (Telegram, WhatsApp)
  • Gaming-Plattformen (Discord, Steam)
  • Kurznachrichtendienste (X)
  • Foren und Imageboards (reddit, 4chan)

Social Media

Extrem rechte Akteur:innen vermitteln ihre Inhalte strategisch:

  • Lifestyle-Formate (Musik, Kleidung, Gaming, Sport, Naturschutz, Esoterik)
  • Handlungs- und Gesellschaftsvorstellungen fließen subtil ein
  • Strategische Nutzung von Trends, Challenges, Memes, Emojis und Hashtags

TikTok

  • Ca. 21 Millionen TikTok User in Deutschland
  • Ca. 50% aller 14 - 19 Jährigen haben einen TikTok Account (90min pro Tag)
  • wichtige Informationsquelle und Suchmaschine für Jugendliche
  • Moderationslücken bei TikTok
  • tendenziell provokanter und skandalöser Content, weil mehr Reaktionen durch Emotionen statt Sachlichkeit
           Engagement-Logik
  • algorithmisches Empfehlungssystem

Engagement Logik

Antidemokratische Akteur_innen auf TikTok

  • TikTok soll Resonanzraum erweitern
    (v.a. junge Menschen erreichen)
  • Wissen um die Moderationsrichtlinien der Plattform (Shadowbans, Drittaccounts)
  • Strategien sehr divers, keine einheitlich Strategie (Reposts, Mass-Content, "Lebensgefühl")
  • TikTok weniger akteur_innenzentriert        Viralität einzelner Videos und Trends

 Strategien und Formate

Entkontextualisierung und Emotionalisierung

Entkontextualisierung und Emotionalisierung

Desinformation in aktuellen Krisen


vermeintlicher Livestream zu Beginn des Ukrainekriegs.
 

Das zweite Bild zeigt, dass das Video nicht live ist, fremder Ton hinzugefügt und das Ganze aus einem Nachrichtenbericht zweckentfremdet wurde.

Quelle: Screenshot TikTok; Video YouTube https://www.youtube.com/
watch?t=142&v=F_3L0z1lgAE&feature=youtu.be

Verschwörungsideologische Desinformation

Verschwörungsideologien

Verschwörungsideologien der neuen Rechten

"Großer Austausch"

Doku-Formate

Verbreitung von Desinformation und Verschwörungsideologien durch vermeintlich seriöse Doku-Formate

Telegram-Channel

Geschechtsrevisionismus

Die neue Rechte hat einen starken Fokus auf Netz-Aktivismus. Desinformation wird dazu in unterschiedlichen Formaten verpackt.

Beispiel der "Gegenuni"

@deutschersigmar

Pseudojournalismus

 

  • Erfolgreiche Formate werden kopiert (Bsp. Straßenumfragen)

  • "Authentische Aufnahmen" (Demonstrationen o.Ä.)

  • Hosted journalism

  • Normalisierung von rechten Ideologien

  • Auftreten, Sprech und Drehorte nicht mit rechter Ideologie                       assoziiert
     

Bsp. "Ketzer der Neuzeit"

Bsp. "Neverforgetniki"

Pseudojournalismus

 

Bsp: "Aktivist Mann"

Bsp: "Weichreite TV"

Bsp: "Aktivist Mann"

KI und Deepfakes

KI-Accounts

Bild links: https://www.tagesschau.de/inland/regional/rheinlandpfalz/swr-ki-gefaelschte-fotos-und-videos-zum-holocaust-fluten-soziale-netzwerke-100.html
Bild rechts: https://www.tagesschau.de/inland/regional/thueringen/mdr-fake-holocaust-bilder-mit-ki-gedenkstaette-buchenwald-will-widerstand-leisten-100.html

Strategische Nutzung der Plattform- Features zur Vebreitung und codierten Kommunikation

Kombination verschiedener Emojis

Quelle: https://www.belltower.news/hass-emojis-welche-emojis-sind-bei-nazis-rechtsradikalen-rassistinnen-beliebt-113061/

Hitlergruß:

🧛🧛

😈😈

🤑🤑

 

 

#rothschildconspiracy

#zionazis

Die Rolle von Sounds auf TikTok

  • Sounds fungieren auf TikTok sowohl als Teil des Videos, als Meme und als Hashtag
  • Bestimmte Milieus nutzen gleiche Sounds
  • Erschließung neuer Zielgruppen über die Nutzung spezifischer Sound

Erkennungsmerkmal "Fashwave Optik"  und "Tradwave Optik"

  • Popkulturelle Bezüge
  • Verherrlichung eines "traditionellen" Lebensstils
  • politische Message wird subtil eingestreut
  • Sound als zentrale Verbreitungsstrategie

Neu Rechte Ästhetik

Quelle: https://www.belltower.news/dehate-report-3-tiktok-antisemitismus-im-neuen-gewand-124673/

Methodenlabor

News-Station

Ein Ereignis, mehrere Blickwinkel.

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 4:

Politiker

Beispiel 3:

Influencer

👀 Schaut euch jedes Video an.

News-Station

Ein Ereignis, mehrere Blickwinkel.

 

 

  • Was passiert im Video?
  • Welche Sprache, Bilder und Musik wurden verwendet?
  • Was wird inhaltlich behauptet?
  • Gibt es Belege oder Quellen, die das Gesagte untertsützen?

👀 Beobachtungsauftrag:

Beispiel 1:

Tagesschau

Beispiel 2:

Rechtes Magazin

Beispiel 3:

Influencer

Beispiel 4:

Politiker

Auswertung

News-Station

Ein Ereignis, mehrere Blickwinkel.

“Wie haben sich die Videos voneinander unterschieden?"

  • Wen soll das Video ansprechen und überzeugen?
  • Woran erkennt ihr das?
  • Wie wird das Ereignis dargestellt?
  • Welche Absicht könnte dahinter stehen?

Versucht, Personen
oder Gruppen negativ darzustellen und auseinander
zu bringen

Misstrauen gegen Politik 
wird erzeugt & dadurch
Vertrauen in die
Demokratie schwächt

News-Stationen

Merkmale von Fake News + Desinformation

starke Gefühle 
ansprechen, um Angst
zu verbreiten und Hass
zu fördern

Wirkt oft glaubwürdig, nutzt aber Fakten, die aus dem Zusammenhang gerissen sind

News-Stationen:

Faktencheck:

"Die Inseln im Pazifik wachsen" - An einigen Stellen wird Land abgetragen.
- An anderen Stellen dehnen sich die Inseln aus, dort wird Material      angespült.

Problem:
​    -  Funktioniert nur, wenn Korallenriffe gesund sind
    -  Salziges Meerwasser dringt in Grundwasser ein
 
"Das Eis in der Antarktis wächst" 1. Nur das Meereis dehnte sich eine Zeit lang aus, das Landeis hingegen schrumpft kontinuierlich
- Seit 2002 verliert der Eisschild in der Antarktis im Durchschnitt etwa 150 Milliarden Tonnen pro Jahr

2. Das Meereis am Nordpol schwindet viel stärker, als es zwischenzeitlich am Südpol zunahm
 
"Auf Grönland haben wir heute mehr Schnee und Eis als vor 12 Jahren" Der grönlandische Eisschild verliert seit Jahrzehnten an Masse -
seit 2002 etwa 270 Milliarden Tonnen Eismasse pro Jahr.

Eventuell Bezug auf außergewöhnlich warmes Jahr 2012. Im Vergleich dazu waren die Temperaturen in den Folgejahren geringer.
Im Schnitt ist es aber auch danach in der Region zu warm gewesen.
 

https://www.deutschlandfunk.de/klimawandel-der-sterbende-suedseestaat-kiribati-100.html

https://www.helmholtz-klima.de/klimafakten/behauptung-aber-am-suedpol-nimmt-die-eismasse-zu
https://correctiv.org/faktencheck/2024/10/15/groenlands-eisschild-waechst-nicht-sondern-schrumpft-seit-jahrzehnten/

News-Stationen:

Ein Ereignis, viele Perspektiven

Nachricht

Falsch-information

Desinformation

überprüfbare Fakten nachvollziehbare Quellen

(gezielt)

"Alle Inseln schrumpfen." 

"Auf Grönland gibt es mehr Eis als vor 12 Jahren." 

absurde Behauptung

schlecht recherchierte Aussage

wahre Fakten in irreführendem Kontext

"Die Inseln im Pazifik wachsen." 

"Das Eis in der Antarktis wächst."

Finanzierung
Absicht


 
Pressecodex
Beispiele
 
Gesetzlich Werbung, Abos Verträge, Sponsoring
Bildung
Information		 Gewinn
Klicks durch Schlagzeilen		 Reichweite,
schnelle, virale Verbreitung
 
Ja Nein
ARD, ZDF, rbb Zeit, taz, Spiegel Online TikTok, Instagram, Youtube

Private Medien-Unternehmen

Soziale Netzwerke
und Plattformen

Öffentlich-
rechtliche Medien

News-Station

Medienlandschaft besser verstehen

News-Station

Zusammenfassung

Inhalte können sachlich klingen, sind aber verzerrt und falsch

Nachrichten bilden nur einen Teil der Realität ab

auch Öffentlich-Rechtliche Medien können nicht alle Perspektiven berücksichtigen

eine klare Trennung ist nicht möglich:
Private Nachrichtensender und die Öffentlich-Rechtlichen passen sich den Trends auf Social Media an

Politische Bildung

  • kritisches Denken im politischen Raum

  • Ambiguitätstoleranz

  • Empowerment

Bildungsprozesse zur Prävention

Medienbildung

  • Medienkompetenz
  • digital literacy
  • Informationskompetenz
  • Verstehen und sich beziehen
  • "The Kids Are Alright"

Auseinandersetzung mit jugendlichen Lebens- und Erfahrungswelten

  • Politische und gesellschaftliche Fragen diskutieren

  • Themen von Jugendlichen aufgreifen

    • Räume schaffen

    • Quellen bereitstellen

  • Grundlegendes Wissen über

    • politische Prozesse und Institutionen

    • Journalistische Abläufe

    • Politisches Spektrum & Codes   

Politische Urteilskraft stärken

Mediale Urteilskraft stärken

1. Ist der Inhalt emotional und übertrieben? Viele ??? und !!!

2. Quelle: Seriös? Existiert sie überhaupt? Gibt es andere Quellen?

3. Gibt es mehr Berichte zum Thema? Sind die Zahlen und Fakten richtig?

4. Gibt es ein Datum? Wenn ja, ist es aktuell?

5. Fotos prüfen, zum Beispiel mit der Google Rückwärtssuche oder auf Fehler prüfen (3 Beine? Ist Bild KI generiert?)

Handlungsoptionen Vermitteln

  • Melden (beim Sozialen Netzwerk oder der Moderation des Kanals)
  • Anzeigen (Polizei, Onlinewachen)
  • Senden an www.internet-beschwerdestelle.de oder www.hass-im-netz.info
  • Sich positionieren

Zugänge

Sensibilisierung für Diskriminierung und Vorurteile

  • Positionierung, Diskussion und Umgang      

  • Reflektion von eigener Identität, Solidarität, Haltung

Aktive (Medien)Arbeit

  • Eigene Beiträge erstellen, Memes erstellen      

  • Kahoot!-Quiz, Fake-News-Spiel

Angeleitete Analyse von ideologischen Inhalten

  • Videoinputs und Diskussion                        

  • Social Media-Kanäle der Akteure                      

  • Betroffene schützen
  • Individuen nicht auf einzelne Meinungen reduzieren
    • selten geschlossene Weltbilder
    • verschiedene Intentionen berücksichtigen
  • Nachfragen statt Belehrungen
  • Zeit für gemeinsame Recherchen und Quellenbeurteilung
  • selbst auskunftsfähig werden/Haltung entwickeln

Hinterfragende &

anerkennende Haltung

Linkliste zu

Online-Radikalisierung

Folgt uns auf Instagram!

Folgt uns auf Instagram!

Feedback