KI - Herausforderung für die Demokratie?
Robert Behrendt
Promt GPT-4:
"Verfasse ein Vortrag zu den oben genannten Stichpunkten unter der Leitfrage:
Welche Herausforderungen für die Demokratie sind vor den Hintergrund aktueller KI-Technologien wichtig für Fachkräfte der Jugendarbeit?"
Alles Geklärt?
Vielen Dank!
Robert Behrendt
1 KI - Hype oder Durchbruch
2 Haltungen und Einstellungen
3 PlattformKapitalismus und KI
4 Herausforderungen für Demokratie
5 ethische Fragen
Hype oder Durchbruch?
KI
sociAL media
BIG DATA
Algorithmen
EDV
BITCOIN
Plattform-Ökonomie
Cloud computinG
Social scoring
Suchmaschienen
Internet
industrie 4.0
smart city
deepfakes
KI - Hype oder Durchbruch
sociAL media
BIG DATA
Algorithmen
EDV
BITCOIN
Plattform-Ökonomie
Cloud computinG
Social scoring
Suchmaschienen
Internet
industrie 4.0
smart city
deepfakes
KI - Hype oder Durchbruch
KI - Hype oder Durchbruch
machine learning
KI - Hype oder Durchbruch
maschinelles lernen
- Methoden stammen aus den 1980er - Neuronale Netze
- noch fehlen Daten und Rechenleistung
- Infrastruktur für vernetzte EDV kommerziell nutzbar ab 1990 - Internet
- kostenlose Web-Dienste und Plattformen sammeln unentgeltlich Daten/Inhalte - Datenbanken
- Rechenzentren haben Vielfaches der Rechenleistung
KI - Hype oder Durchbruch
maschinelles lernen
Entwicklung Datenmengen
kostenfreie Web-Dienste und Plattformen sammeln kostenlose Daten/Inhalte von Milliarden Nutzenden - Datenbanken
- Menschheitsgeschichte bis 1999 - 12 Exabyte
- 2002 - digitaler Speicher überholt analoge Speicher
- 2006 weltweit ca. 180 Exabyte
- mittlerweile 1 Yottabyte? - 1.000.000 Exabyte
(Floridi 2015)
KI - Hype oder Durchbruch
180
Exabyte
(Danke Dall-E)
KI - Hype oder Durchbruch
maschinelles lernen
Entwicklung Rechnerleistung
- Die Anzahl der Transistoren auf einem Mikrochip verdoppelt sich alle 2 Jahre
- In den 1950ern hätte ein iPad2 100 Billionen Dollar gekostet
- Grafikprozessoren (GPUs)
1050ta
(Floridi 2015)
KI - Hype oder Durchbruch
ImageNet - Bedeutung in die Bilder bringen
- 14 Millionen Bilder aus Flickr, Bildersuche, Webplattformen
- 20000 Kategorien aus WordNet-Taxonomie
- 19 Jahre wenn nur Studierende Bilder labeln würden
- „Crowd Work“-Plattform Amazon Mechanical Turk
- 49.000 Arbeiter:innen aus 167 Ländern labeln Daten
maschinelles lernen
ARBEITSleistung
KI - Hype oder Durchbruch
Chat GPT - angemessenes Verhalten in den Chatbot bringen
- KI-Filter - Detektor für toxische Sprache (wie bei Facebook)
- Zehntausende Textsnippets (problematische Inhalte)
- Labeln durch Subunternehmer in Kenia ab November 2021
- 1,3-2 $/h für psychisch belastende Datenanreicherung
maschinelles lernen
ARBEITSleistung
KI - Hype oder Durchbruch
KI - Hype oder Durchbruch
Fragt nach Produktionsbedingungen von KI in einer Gesellschaft.
- Digitale Automaten und Daten
- Unsichtbare Bedeutungs-Arbeit
Haltungen
und Einstellungen
Haltungen und Einstellungen
Welche Zwecke verfolgt das Mittel der Automatisierung?
- Effizienz
- Fehlerkontrolle
- Verfügbarkeit
- Kosten
- Skalierung
- Risikoreduktion
- Ressourcen
Welche Zwecke verfolgen diese KI-Technologien?
-
Scoring-Algorithmus der Schufa
-
Empfehlungsalgorithmen auf TikTok/Amazon
-
Gesichtserkennung
-
Spamfiltern in E-Mail-Programmen
-
Smart-Home-Anwendungen
-
Sportnachrichten und Börsenmeldungen
-
Navigationssysteme oder assistiertes Fahren
-
medizinische Diagnostik oder Klimaforschung
Haltungen und Einstellungen
Welche Zwecke verfolgen diese KI-Technologien?
-
Schufa - Kreditwürdigkeit prüfen
-
TikTok/Amazon - Produktempfehlungen aussprechen
-
Gesichtserkennung - Überwachung automatisieren
-
Spamfiltern - Gegenautomatisierung
-
Smart-Home-Anwendungen - Datenerfassung
-
Nachrichten ohne Redaktion
-
Navigation/Fahren - Fehlervermeidung/Sicherheit
-
Diagnostik/Klima - Komplexität erfassen
Haltungen und Einstellungen
Solutionismus
Haltungen und Einstellungen
Solutionismus
Haltungen und Einstellungen
Gibt es zu jedem Problem eine technische Lösung?
Was sind die Ursachen für strukturelle Probleme?
Ist das Problem in seiner ganzen Dimension erfasst?
Fragt nach den Zwecken von KI-Technologien.
- Welche Haltungen und Einstellungen liegen welcher Technologieentwicklung zu Grunde?
- Welches Problem soll/kann durch eine Technologieentwicklung gelöst werden?
Haltungen und Einstellungen
Plattform- Kapitalismus und KI
Geschäftsmodell der Plattformen
Rechenzentren/ Datenbanken bieten:
- kostenfreie digitale Dienste
- kostenfreie Inhalte
- spielen Werbung aus
-
erfassen Nutzungsdaten
- Targeting
Plattformkapitalismus und KI
Geschäftsmodell der Plattformen
„Der wirtschaftliche Erfolg der Branche beruht auf der praktisch uneingeschränkten Monetarisierung der Verbraucher:innen-überwachung“ (Matthew Crain: „Profit Over Privacy"
Plattformkapitalismus und KI
Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
natürliches Monopol
„Big Tech“
Marktmacht
aktionärsgesteuerte Megakonzerne
Wettbewerbs-vorteil
technische Infrastruktur
Daten- sammlungen
Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
Wettbewerbsvorteil
technische Infrastruktur
Daten- sammlungen
+
+
Automatisierung
KI soll Daten nutzbar machen
Effizienz, Fehlerkontrolle, Verfügbarkeit, Kosten, Skalierung, Risikoreduktion, Ressourcen
Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
- Daten erfassen
- Daten sammeln
- Daten verarbeiten
- Daten produzieren
- Prognosen erstellen
- Lösungen entwickeln
- Nutzung in App erfassen
- Daten auf Server laden
- Nutzung kategorisieren
- Nutzungssprofil erstellen
- Video-Feed erstellen
- Empfehlung aussprechen
Datenökonomie
TikTok-Recommender
Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
Lösungen wofür?
Lösungen für wen?
Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
Lösungen wofür?
Neue Märkte
Marktmacht
Gewinnsteigerung
Wettbewerbsfähigkeit
Kommodifizierung
Ökonomisierung des Sozialen
Fragt nach der Agenda hinter Datenwirtschaft und Plattformökonomie!
- Wem gehören die Produktionsmittel?
- Wem dient welche Technologie in welchen Maße und zu welchem Ziel?
Plattformkapitalismus und KI
- Wem gehören die KI-Technologien?
Herausforderungen für demokratie
Vernetzte Infrastrukturen
Autokratische Systeme
Nachhaltigkeit und ökologische Kosten
Vertrauen und Verantwortung
Epistemische Konflikte
Waffenfähigkeit von KI
partizipative Technologieentwicklung
Technikfolgenabschätzung
Dehumanisierung
Meinungsbildung und Falschinformation
Fragmentierte Öffentlichkeiten
Rechtsraum
Beschleunigung und Verstärkung
Pickone!
Herausforderungen für demokratie
Arbeitskampf
Überwachung
Herausforderungen für Demokratie
Vernetzte Infrastrukturen
Autokratische Systeme
Nachhaltigkeit und ökologische Kosten
Vertrauen und Verantwortung
Epistemische Konflikte
Waffenfähigkeit von KI
partizipative Technologieentwicklung
Technikfolgenabschätzung
Dehumanisierung
Meinungsbildung und Falschinformation
Fragmentierte Öffentlichkeiten
Rechtsraum
Beschleunigung und Verstärkung
Arbeitskampf
Überwachung
Herausforderungen für Demokratie
Arbeitskampf
A
wie
Herausforderungen für Demokratie
Arbeitskampf
Screen Actors Guild (SAG-AFTRA) und Drehbuchautor*innen
- erster Doppelstreik seit 60 Jahren in Hollywood
- Regelungen zu Einsatz von KI-Technologien: Zustimmung, Vergütung (FD Kultur 6.12.2023)
Transportunternehmen (Güterverkehr Straße, ÖPNV)
- MAN testet auf der A9 bei München autonom fahrende LKWs
- Effizienz steigt um 40%, Betriebskosten sinken um 10 - 15 % (Tageeschau, 18.4.2024)
Herausforderungen für Demokratie
🇫🇷 Frankreich: Die gesetzliche Krankenkasse (bei der 68,7 Mio. Menschen versichert sind) bricht automatisch Anrufe bei Sachbearbeiter*innen ab, wenn ein Problem online gelöst werden kann. Gewerkschaften mutmaßen, dass es dabei eigentlich darum geht, Stellen zu kürzen [Mediapart].
Arbeitskampf
Herausforderungen für Demokratie
🇵🇹 Portugal: Die Regierung möchte automatische Kontrollen ausbauen, um gefälschte Rechnungen („recibos verdes”) zu erkennen, die von ausländischen Arbeitnehmer*innen eingereicht wurden [Politico, 16. Okt].
Arbeitskampf
Herausforderungen für Demokratie
Arbeitskampf
Fragt nach der Automatisierbarkeit, dem Wert und der Bedeutung von Arbeit!
- Welche Absichten verfolgen Arbeitgeber durch KI-Einsatz?
- Welche neue Rolle müssen Gewerkschaften in der Auseinandersetzung um KI ausfüllen?
Herausforderungen für Demokratie
Autokratische Systeme
A
wie
Herausforderungen für Demokratie
Autokratische Systeme
- Kapitalismus und Demokratie ist Geschichte...
- Ziele von autokratischen Gesellschaften vertragen sich mit kapitalistischer Ökonomie
- Social Scoring, Überwachung, Verwaltungsapparat, Sicherheitsorgane können effizienter gemacht werden
- weniger ethische Bedenken bei der Entwicklung von KI
- globales Wettrüsten um KI-Technologien
- bestehende Technologien überdauern Regierungswechsel
Herausforderungen für Demokratie
Autokratische Systeme
Fragt nach den inneren Zusammenhängen von Technokratie und autokratischem Denken!
- Wie ändert technologischer Druck die Entscheidungsgrundlagen in Demokratien?
- Welchen Umgang finden Demokratien mit umfassenden Datenbeständen?
Herausforderungen für Demokratie
Beschleunigung und Verstärkung
B
wie
Herausforderungen für Demokratie
Beschleunigung und Verstärkung
- Wir verstehen rückwärts: Reflexion, Prüfung, Bewertung
- Logik der Automatisierung kennt kein: "Stop and Think"
- demokratische Prozesse sind langwierig aus guten Gründen
- Konsum ersetzt zielgerichtete Nutzung - TikToks For-You-Page
- FYP wertet Reiz-Reaktions-Mechanismus aus
- automatisierte Auswertung von Biometrie, Gesundheitsdaten
- KI als Lösung für das Problem KI?
Herausforderungen für Demokratie
Beschleunigung und Verstärkung
Fragt nach den Kriterien, wie ihr Infomationen und Nachrichten sortiert und bewertet!
- In welcher Situation kommen in deinem Alltag Empfehlungsalgorithmen zum Einsatz?
- Welche Inhalte sind attraktiv oder angenehm?
Herausforderungen für Demokratie
Dehumanisierung
D
wie
Herausforderungen für Demokratie
Dehumanisierung
Fragt nach den gesellschaftlichen Sphären, in denen menschliche Eigenschaften und humanistische Werte zentral sind?
- Welche Auswirkungen hat KI auf den Bereich Pflege, auf Patient*innen und Arbeiter*innen?
- Wie verändert sich die Konfliktbereitschaft von Staaten ohne Gefahr für Menschen?
Herausforderungen für Demokratie
Epistemische Konflikte
E
wie
Herausforderungen für Demokratie
Epistemische Konflikte
Referenzierung vs.
Korrelation
Herausforderungen für Demokratie
Epistemische Konflikte
Wissenschaft, Journalismus, Medizin, Suchmaschinen
- referenzieren auf Forschungen, Quellen, Symptome, Verknüfungen
KI-Technologien (maschinellen Lernens)
- Prognosemodelle beruhen u.a. auf Korrelationen (Ähnlichkeiten in der Datenstruktur - Warnsystem auf Facebook)
Herausforderungen für Demokratie
Epistemische Konflikte
Herausforderungen für Demokratie
Epistemische Konflikte
Fragt nach den Grundlagen der Produktion von Wissen!
- Was macht eine Aussage wahr, was macht sie wahrscheinlich?
- Wie bezieht sich KI-generiertes Wissen auf Objekte und Sachverhalte? Wie tun wir dies?
Herausforderungen für Demokratie
Fragmentierte Öffentlichkeiten
F
wie
Herausforderungen für Demokratie
Fragmentierte Öffentlichkeiten
Algorithmisch fragmentierte Medienwirklichkeit beschreibt das Phänomen, wie Filterprinzipien auf Social-Media-Plattformen eine hoch personalisierte Auswahl von Inhalten als relevantes Medienangebot präsentieren, ohne die (u.a. auf Maschinenlernen basierenden) korrelativen Filterprinzipien transparent zu machen. Im Gegensatz zu “Filterblasen” kann in der persönlichen Nutzung dabei der Eindruck entstehen, das konsumierte Medienangebot wäre gesellschaftlich repräsentativ. Erst ein Vergleich verschiedener personalisierter Medienangebote zeigt relevante Unterschiede auf.
Herausforderungen für Demokratie
Fragmentierte Öffentlichkeiten
Fragt nach dem Verhältnis von medien-vermittelter Wirklichkeit und alltäglicher Wahrnehmung!
- Nach welchen Prinzipien werden Inhalte auf Nachrichtenportalen oder Social-Media-Plattformen bewertet und ausgespielt?
Herausforderungen für Demokratie
Meinungsbildung und Falschinformation
M
wie
Herausforderungen für Demokratie
Meinungsbildung und Falschinformation
Generative KI
Automatisierte Erstellung von Inhalten:
- Text, Bild, Grafik, Video, Musik
- mittelmäßige Qualität, hohe Wirkung
Problem: Microtargeting, Vervielfältigung
Herausforderungen für Demokratie
Meinungsbildung und Falschinformation
siehe: Epistemische Konflikte
siehe: Fragmentierte Öffentlichkeiten
Herausforderungen für Demokratie
Fragt nach gesellschaftlichen u. pädagogischen Grundlagen von Meinungsbildung?
- Welche Rolle spielen andere Menschen und welche Datenverabeitung?
- Welche Akteure setzen KI-Technologien für manipulative Zwecke ein?
Meinungsbildung u. Falschinformation
Herausforderungen für Demokratie
Nachhaltigkeit und ökologische Kosten
N
wie
Herausforderungen für Demokratie
Nachhaltigkeit und ökologische Kosten
Energie/Emmissionen für:
- Rechenzentren, Produktion u. Betrieb der Hardware
- Anwendungen ("Inferenzen") der KI-Technologie:
- Facebook AI: Inferenzen durch Empfehlungs- und Rankingalgorithmen
- weitere Inferenzen: Klassifizierung von Bildern, Objekterkennung in Bildern, Übersetzungs- und Spracherkennungsdienste
Herausforderungen für Demokratie
Nachhaltigkeit und ökologische Kosten
Inferenzen brauchen wenig Energie, aber:
- fast 3 Mrd. Nutzende täglich Billionen Inferenzen
Training von KI-Modellen:
- ein Trainingslauf von PaLM (Googles Sprachmodel) 2022 - 271,43 Tonnen CO2 (89 Prozent mit kohlenstofffreier Energie)
- vollbesetztes Flugzeug auf 1,5 transamerikanischen Flügen
Herausforderungen für Demokratie
Nachhaltigkeit und ökologische Kosten
Wasser
- 500 Milliliter Wasser für einen einfachen Dialog
- 100 Millionen aktive Nutzer*innen
- Training GPT-3 -700.000 Liter Frischwasser (320 Teslas)
Herausforderungen für Demokratie
Nachhaltigkeit
Fragt nach den versteckten Kosten von KI-Anwendungen!
- Welche Regelungen braucht es um KI umweltverträglich zu entwickeln und zu nutzen?
- Warum werden neue Technologien in größere Modelle statt in Energieeffizienz gesteckt?
Herausforderungen für Demokratie
partizipative Technologieentwicklung
P
wie
Herausforderungen für Demokratie
Rechtsraum
R
wie
Datenschutz-Grundverordnung (DSGVO)
Artifical Intelligence Act (AI ACT)
Rechtsraum
Herausforderungen für Demokratie
siehe: Autokratische Systeme
Rechtsraum
KI-Technologie wird im internationalen Raum entwickelt und genutzt.
Herausforderungen für Demokratie
Rechtsraum
Fragt nach den versteckten Kosten von KI-Anwendungen!
- Welche Regelungen braucht es um KI umweltverträglich zu entwickeln und zu nutzen?
- Warum werden neue Technologien in größere Modelle statt in Energieeffizienz gesteckt?
Herausforderungen für Demokratie
Technikfolgenabschätzung
T
wie
Herausforderungen für Demokratie
Überwachung
Ü
wie
Herausforderungen für Demokratie
Vernetzte Infrastrukturen
V
wie
Herausforderungen für Demokratie
Vertrauen und Verantwortung
V
wie
Vertrauen und Verantwortung
Vertrauen und Verantwortung
Fragt nach dem Verhältnis von Vertrauen und Verantwortung in euren sozialen Kontexten?
- Wer übernimmt im menschlichen Alltag wofür wie Verantwortung?
- Wie erlangen technologische Entwicklungen unser Vertrauen?
Herausforderungen für Demokratie
Waffenfähigkeit von KI
W
wie
Herausforderungen für Demokratie
Waffenfähigkeit von KI
Automatisierte Produktion von Schadsoftware
Dronentechnologie
ethische Fragen
- Was sind automatisierbare Prozesse und Entscheidungen?
- Wie wollen wir im digitalen Wandel lernen und arbeiten?
- Wer hat Zugang zu welchen Ressourcen, Produktionsmitteln?
- Wie kommen Sinn und Bedeutung in unser Handeln?
- Ist alles, was technisch möglich ist, gesellschaftlich gewollt?
- Wem gehören welche Daten und was passiert damit?
- Welche Kosten werden bei Automatisierungen nicht kalkuliert?
- Welche Information ist korrekt und relevant?
- Was haben gute Gründe mit freien Entscheidungen zu tun?
Ethische Fragen
Ethische und rechtliche Fragen
Findet gemeinsam die relevanten Fragen zu KI.
- Welche Fragen öffnen politische Bildungs- angebote zu KI für wen?
- Welche Fragen befördern unerwartete Kooperationen zu KI mit wem?
Vielen Dank!
Robert Behrendt @textungen
CC BY 4.0 mediale pfade, Robert Behrendt
6 Zukunftsgestaltung
A
B
C
Ein
der KI-Entwicklungen
6 Zukunftsgestaltung
ccountabiliy
ias
ommons
A
B
C
ccountabiliy - Verantwortung und Transparenz
ommons - Zugänglichkeit und Gemeinwohl
A
B
C
ias - Vorurteile und Diskriminierung
6 Zukunftsgestaltung
6 Zukunftsgestaltung
Fragt nach den Zielen der KI-Entwicklungen.
- technische Lösungen zu sozialen Problemen
- offene Infrastrukturen und sichere Daten
- KI als Geschäftsmodell oder Gemeingut
- Arbeitsbedingungen erleichtern oder verschärfen