Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen
Ein Angebot von IAN NRW und medialepfade.org
11. November 2024



Drei Sessions
Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke
Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken
Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln


Online-Abfrage zu KI
Input: Was ist KI, wie funktioniert sie und wo wird sie angewendet?
Praxis: Gutes Prompten üben
Diskussion und Abschluss
Erste Session –
Künstliche Intelligenz: Grundlagen und erste Einblicke


Online-Abfrage zu KI
https://app.sli.do/event/wjJNVs9xssSAsziUmFxZop




Input: Was ist KI, wie funktioniert sie und wo wird sie angewendet?




Künstliche INtelligenz vs. Machine Learning



Siemens Stiftung, 2019


Siemens Stiftung, 2019



KI in Deutschland
- Deutschland ist weltweit führend in der KI-Forschung (Max-Planck, Fraunhofer).
- Verfügt über starke Recheninfrastruktur, Supercomputer für Forschung und Industrie.
- Fokus auf menschenzentrierte KI, z. B. im Gesundheitswesen und Klimaschutz.
- Industrieadoption im Vergleich zu anderen Ländern langsamer.
- Fachkräftemangel: zu wenige KI-Expert, insbesondere Frauen.
- Chancen durch KI: Innovationen und ökologische Nachhaltigkeit.
- Risiken: Datenschutz, Bias und globaler Wettbewerb.
OECD, 2024


- KI ermöglicht innovative Anwendungen mit großem Potenzial.
- Manche Entwicklungen bergen Risiken und ethische Herausforderungen.
Ars Technica, 2024



sociAL media
BIG DATA
Algorithmen
EDV
BITCOIN
Plattform-Ökonomie
Cloud computinG
Social scoring
Suchmaschinen
Internet
industrie 4.0
smart city
deepfakes
GesellschafTLICHE Bedingungen


maschinelles lernen
Methoden stammen aus den 1980er - Neuronale Netze
-
noch fehlen Daten und Rechenleistung
Infrastruktur für vernetzte EDV kommerziell nutzbar ab 1990 - Internet
kostenlose Web-Dienste und Plattformen sammeln unentgeltlich Daten/Inhalte - Datenbanken
Rechenzentren haben Vielfaches der Rechenleistung
GesellschafTLICHE Bedingungen


maschinelles lernen
Entwicklung Datenmengen
kostenfreie Web-Dienste und Plattformen sammeln kostenlose Daten/Inhalte von Milliarden Nutzenden - Datenbanken
Menschheitsgeschichte bis 1999 - 12 Exabyte
2002 - digitaler Speicher überholt analoge Speicher
2006 weltweit ca. 180 Exabyte
mittlerweile 1 Yottabyte? - 1.000.000 Exabyte
(Floridi 2015)
GesellschafTLICHE Bedingungen


180
Exabyte
(Danke Dall-E)

GesellschafTLICHE Bedingungen


maschinelles lernen
Entwicklung Rechnerleistung
Die Anzahl der Transistoren auf einem Mikrochip verdoppelt sich alle 2 Jahre
In den 1950ern hätte ein iPad2 100 Billionen Dollar gekostet
1050ta
(Floridi 2015)
GesellschafTLICHE Bedingungen


ImageNet - Bedeutung in die Bilder bringen
-
14 Millionen Bilder aus Flickr, Bildersuche, Webplattformen
-
20000 Kategorien aus WordNet-Taxonomie
-
19 Jahre wenn nur Studierende Bilder labeln würden
-
„Crowd Work“-Plattform Amazon Mechanical Turk
-
49.000 Arbeiter:innen aus 167 Ländern labeln Daten
maschinelles lernen
ARBEITSleistung
GesellschafTLICHE Bedingungen


Chat GPT - angemessenes Verhalten in den Chatbot bringen
KI-Filter - Detektor für toxische Sprache (wie bei Facebook)
Zehntausende Textsnippets (problematische Inhalte)
Labeln durch Subunternehmer in Kenia ab November 2021
1,3-2 $/h für psychisch belastende Datenanreicherung
maschinelles lernen
ARBEITSleistung
GesellschafTLICHE Bedingungen




Haltungen
und Einstellungen


Haltungen und Einstellungen
Welche Zwecke verfolgt das Mittel der Automatisierung?

Effizienz
Fehlerkontrolle
Verfügbarkeit
Kosten
Skalierung
Risikoreduktion
Ressourcen


Welche Zwecke verfolgen diese KI-Technologien?
-
Scoring-Algorithmus der Schufa
-
Empfehlungsalgorithmen auf TikTok/Amazon
-
Gesichtserkennung
-
Spamfiltern in E-Mail-Programmen
-
Smart-Home-Anwendungen
-
Sportnachrichten und Börsenmeldungen
-
Navigationssysteme oder assistiertes Fahren
-
medizinische Diagnostik oder Klimaforschung
Haltungen und Einstellungen


Welche Zwecke verfolgen diese KI-Technologien?
-
Schufa - Kreditwürdigkeit prüfen
-
TikTok/Amazon - Produktempfehlungen aussprechen
-
Gesichtserkennung - Überwachung automatisieren
-
Spamfiltern - Gegenautomatisierung
-
Smart-Home-Anwendungen - Datenerfassung
-
Nachrichten ohne Redaktion
-
Navigation/Fahren - Fehlervermeidung/Sicherheit
-
Diagnostik/Klima - Komplexität erfassen
Haltungen und Einstellungen


Plattform- Kapitalismus und KI


Geschäftsmodell der Plattformen
Rechenzentren/ Datenbanken bieten:
kostenfreie digitale Dienste
kostenfreie Inhalte
spielen Werbung aus
-
erfassen Nutzungsdaten
Targeting
Plattformkapitalismus und KI



Geschäftsmodell der Plattformen
„Der wirtschaftliche Erfolg der Branche beruht auf der praktisch uneingeschränkten Monetarisierung der Verbraucher:innen-überwachung“ (Matthew Crain: „Profit Over Privacy"
Plattformkapitalismus und KI



Geschäftsmodell der Plattformen
Plattformkapitalismus und KI
Nutzung in App erfassen
Daten auf Server laden
Nutzung kategorisieren
Nutzungssprofil erstellen
Video-Feed erstellen
Empfehlung aussprechen
TikTok-Recommender


Fragt nach der Agenda hinter Datenwirtschaft und Plattformökonomie!
-
Wem gehören die KI-Technologien?
-
Wem dient welche Technologie in welchen Maße und zu welchem Ziel?
Plattformkapitalismus und KI


Datenschutz-Grundverordnung (DSGVO)
Artifical Intelligence Act (AI ACT)
ethische und rechtliche Fragen


Artifical Intelligence Act (AI ACT)
-
Risikobasierter Ansatz
Hochrisiko Bildungseinrichtungen, Arbeitsplatz, Strafverfolgung, Migration, Justiz und Wahlen
Verbot von Social Scoring, biometrische Überwachung, Emotionserkennung
Neue Informationsrechte - Hochrisikosysteme
Ausnahmen - nationale Sicherheit


Text
Urheberrecht an Daten und KI-Inhalten
starkes Urheberrecht in Deutschland
-
Schutz durch menschliche Mitwirkung
Kreative Prompts
Persönlichkeits- und Markenrechte
-
Rechtsstreitigkeiten um Trainingsdaten
New York Times vs. Microsoft
Trainingsdaten aus Anwendungen


Text
Desinformation durch KI-generierte Inhalte
Keine speziellen Regelungen für Deep Fakes
Kennzeichnungspflicht auf EU-Ebene (DSA)
-
Gefahren durch Deep Fakes
Desinformation
pornografische Inhalte, Nudes
Identitätsdiebstahl
Verleumdung


Thema und Textart (Thema und Textart nennen)
Genauer Inhalt und Bezüge (den Inhalt genauer beschreiben)
Zielgruppe (Zielgruppe des Textes angeben, z. B. Schüler:innen, Grundschüler:innen, Abiturient:innen, Kund:innen)
Ziel (z. B. „es soll ein Überblick geschaffen werden“, „es sollen die Unterschiede von x und y herausgestellt werden“ o. ä.)
Schreibstil (gewünschten Stil beschreiben, z. B. sachlich, strukturiert, lustig, informell, einfache Sprache, mit Fachwörtern, förmlich)
Länge (Textlänge angeben, z. B. ca. 500 Zeichen, bis 10 Sätze, 200 – 300 Wörter)
Struktur (Angaben zur Struktur des Textes machen, z. B. Überschrift, Untertitel, Einleitung, Hauptteil mit 5 Abschnitten, Zusammenfassung, als Liste)
Sprache (Angaben zur Sprache machen, z. B. Deutsch, Englisch, Französisch)
Chat GPT Erkunden
Gutes Prompting lernen


Anleitung zum Prompting
Level 1 und Level 2
Chat GPT Erkunden
Gutes Prompting lernen

Link zum Chat



Übung in Break-Out Rooms
Stellt euch vor, ihr müsst eine komplexe Fragestellung für eine Studienarbeit klären, die mehrere Perspektiven umfasst. Euer Ziel ist es, ChatGPT so zu nutzen, dass ihr eine umfassende und präzise Antwort erhaltet, die verschiedene Sichtweisen beleuchtet.
Fragestellung: Welche sozialen, ökonomischen und ethischen Auswirkungen hat die Einführung von KI in der Arbeitswelt?
Vorgehen: Startet mit diesem Grund-Prompt und verbessert diesen schrittweise.
Chat GPT Erkunden
Gutes Prompting lernen


Was ist gut gelaufen, was war herausfordernd?
https://app.sli.do/event/jBdWzJ8KcYLSzP4JWK1rKG




Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen
Ein Angebot von IAN NRW und medialepfade.org
18. November 2024



Drei Sessions
Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke
Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken
Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln


Prompting-Spiel auf midjourney.com (Bildgenerierung)
Live-Präsentation verschiedener Anwendungen von KI
Praxis: KI-Tools selbst ausprobieren
Diskussion und Abschluss
Zweite Session –
KI in der Praxis – Anwendungen und Grenzen erkennen


Prompting-Spiel
1. Schreibt einen Prompt, um dieses Bild zu erstellen
2. Schickt den Prompt in den Chat
3. Gebt im Chat 👍 für die 3 Prompts, die ihr am besten findet
Wir testen die 3 Prompts mit den meisten Stimmen und schauen, welcher am besten ist!



Prompting-Spiel
"Ein fotorealistisches täuschend echtes Bild eines Büros, in dem Lehrkräfte KI in ihrer täglichen Arbeit nutzen, sowohl für operative Aufgaben als auch für Lehrkonzepte. Das Bild zeigt zwei Frauen, die interagieren und Konzepte besprechen. Zwei weitere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und pädagogische Konzepte diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen."



Live-Präsentation
verschiedener Anwendungen von KI


Eigene GPT-4 Modelle erstellen und konfigurieren




Eigene GPT-4 Modelle erstellen und konfigurieren



Eigene GPT-4 Modelle erstellen und konfigurieren



Eigene GPT-4 Modelle erstellen und konfigurieren



Eigene GPT-4 Modelle erstellen und konfigurieren



Eigene GPT-4 Modelle erstellen und konfigurieren



Eigene GPT-4 Modelle erstellen und konfigurieren




Eigene GPT-4 Modelle erstellen und konfigurieren


GPT-4 Modelle Kombinieren




GPT-4 Modelle Kombinieren




GPT-4 Modelle Kombinieren




GPT-4 Modelle Kombinieren


GPT-4 Modelle Kombinieren


Erkundet die Tools im Handout. Nutzt die Links und probiert die verschiedenen KI-Tools aus.
Überlegt:
Welche Aufgaben fallen in eurem Arbeitsalltag an?
Frage:
Wie könnten diese Tools euch unterstützen, eure Aufgaben schneller, kreativer oder effizienter zu lösen?
👉 Notiert euch konkrete Ideen oder Anwendungsfälle, die euch in den Sinn kommen.
KI-Tools für die eigene Arbeit erkunden


Rückblick auf die letzte Phase:
Welches Tool hat euch am meisten überrascht oder überzeugt?
Transfer in eure Arbeit:
Gibt es konkrete Aufgaben in eurem Arbeitsalltag, bei denen ihr eines der Tools zukünftig einsetzen möchtet?
KI-Tools für die eigene Arbeit erkunden


Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen
Ein Angebot von IAN NRW und medialepfade.org
25. November 2024



Drei Sessions
Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke
Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken
Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln


Umfrage: Ethische Fragen zu KI
Input: KI Diskriminierung, Gefahren, Möglichkeiten
Praxis: Zukunft der Arbeitswelt
Diskussion und Abschluss
Dritte Session –
Zukunft der KI: Kritisch Denken, verantwortungsvoll Handeln


Umfrage: Ethische Fragen zu KI



Input:
Diskriminierung
Ethische Fragen
Aktuelle Beispiele



Machine Learning-Systeme sind von Menschen geschaffen
Firmen und Entwickler*innen entscheiden, wie die Systeme arbeiten und welche Daten sie nutzen dürfen.
Sie legen fest, was das Ziel des Systems ist und wie Erfolg definiert wird.
Wer kreiert lernende Maschinen?


Denkt beim Schauen über folgende Fragen nach:
Warum kommt es zu Diskriminierung durch Maschinen?
Wie beeinflussen Trainingsdaten die Ergebnisse?
Welche Menschen sind am meisten davon betroffen?
Für welche Aufgaben ist Machine Learning sinnvoll? Wo könnte es gefährlich sein?
Nach dem Video besprechen wir die Fragen gemeinsam
Video: "Wie Maschinen Diskriminieren"


- Hintergrund: KI-Systeme erfordern umfangreiche Datenarbeit durch Menschen.
- Arbeiten: Datenanreicherung, Trainingsdatenprüfung, Content-Moderation.
-
Herausforderungen:
- Niedriglöhne, oft in Ländern mit schwachem Arbeitsschutz.
- Psychische Belastungen durch Umgang mit verstörendem Content.
- Keine Anerkennung und fehlender Schutz der Arbeitsrechte.
- Bedeutung: KI-Systeme sind ohne diese menschliche Arbeit nicht funktionsfähig.
Datenarbeit



- Nutzung KI-basierter Systeme zur Verbesserung der Effizienz und Zugänglichkeit der Justiz.
- Automatisierte Fallbearbeitung, Dokumentenprüfung und Beschleunigung von Entscheidungen.
-
Risiken:
- Verzerrte oder unvollständige Daten könnten zu unfairen Urteilen führen.
- Mangel an Transparenz bei Entscheidungsprozessen erschwert die Überprüfung von Urteilen.
- Digitale Barrieren könnten weniger technikaffine Menschen benachteiligen.
- Missbrauchspotenzial durch politische Einflussnahme.
KI in der indischen Justiz



- Italienische Partei Fratelli d’Italia plant den Einsatz von KI zur Jobvermittlung.
- Ziel: Automatisierte Zuweisung von Schul- und Studienabsolvent*innen an Unternehmen.
- Konsequenz bei Ablehnung: Sanktionen und Verlust von Sozialleistungen.
- Kritik: Einschränkung der Berufswahl und algorithmische Diskriminierung.
- Gefahr: Einsatz von KI zur Durchsetzung autoritärer Politik.
Fratelli d'Italia: KI im Arbeitsmarkt



- OpenAI kooperiert mit dem Medienkonzern Axel Springer, um Inhalte in ChatGPT zu integrieren.
- Bereitstellung von Informationen für ChatGPT-Nutzer*innen.
-
Risiken:
- Mögliche Verzerrung der Informationen durch die Auswahl spezifischer Quellen.
- Abhängigkeit von Inhalten eines einzelnen Verlags könnte die Vielfalt der Informationen einschränken.
- Fragen zur Transparenz und Unabhängigkeit der bereitgestellten Inhalte.
Open AI und Axel Springer



- Hintergrund: Donald Trumps Wahlsieg trotz Skandalen und Gerichtsverfahren.
- Rolle von Elon Musk: Übernahme von Twitter (jetzt X) und Umgestaltung zur Propagandaplattform für rechte Inhalte.
- Maßnahmen: Entlassung von Moderationsteams, Wiederzulassung gesperrter Accounts, Aufhebung des Verbots politischer Werbung.
- Folgen: Verstärkte Verbreitung von Hass und Desinformation, Bevorzugung rechter Akteure durch Algorithmen.
- Kritik: Gefährdung der Wahlintegrität und demokratischer Prozesse durch unregulierte Machtkonzentration in sozialen Medien.
US-Wahlen 2024



DeepFakes



Mit "Midjourney" generiert
DeepFakes



DeepFakes



Mit "Midjourney" generiert
Quiz: Fake oder echt?


A
B
C
Ein
der KI-Entwicklungen
ethische und rechtliche Fragen


ccountability
ias
ommons
A
B
C
ethische und rechtliche Fragen


ccountability - Verantwortung und Transparenz
ommons - Zugänglichkeit und Gemeinwohl
A
B
C
ias - Vorurteile und Diskriminierung
ethische und rechtliche Fragen


Ziele von KI-Entwicklungen
-
technische Lösungen zu sozialen Problemen
-
offene Infrastrukturen und sichere Daten
-
KI als Geschäftsmodell oder Gemeingut
-
Arbeitsbedingungen erleichtern oder verschärfen


- Hintergrund: Entwicklung durch das DFKI und hessian.AI, gefördert durch öffentliche Mittel.
- Ziel: Förderung digitaler Souveränität und Sprachvielfalt in Europa.
- Funktionen: Sprachmodelle für Englisch, Deutsch, Französisch, Spanisch und Italienisch als Open Source verfügbar.
- Besonderheit: Transparenz und Unabhängigkeit durch freie Verfügbarkeit und offene Entwicklungsprozesse.
- Gemeinwohlorientierung: Unterstützung kleinerer Sprachgemeinschaften und Förderung europäischer Werte in der KI-Entwicklung.
Occiglot: Gemeinwohlorientierte KI



Praxis:
Zukunft der Arbeitswelt



Mit "Midjourney" generiert
-
Disruptions-Szenario: Übersetzungsbranche
- LLMs ermöglichen schnelle und kostengünstige Übersetzungen.
- Traditionelle Übersetzungsdienste könnten zurückgehen.
- Neue Aufgabenfelder entstehen: Nachbearbeitung und Qualitätskontrolle maschineller Übersetzungen.
-
Integrations-Szenario: Pflegebereich
- LLMs übernehmen administrative Aufgaben wie Dokumentation und Patienteninformationsmanagement.
- Entlastung der Pflegekräfte, mehr Zeit für direkte Patient:innenbetreuung.
- Potenzial zur Verbesserung der Pflegequalität.
Drei Szenarien nach Seemann (2023)
-
Transformations-Szenario: Bildungs- und Forschungssektor
- Intelligente Tutoren bieten individualisierte Unterstützung für Lernende.
- Effizienzsteigerung in der Datenanalyse für Forschende.
- Förderung personalisierter Bildung und schnellerer Forschungsprozesse.


-
Welche weiteren Beispiele für Disruption, Integration und Transformation fallen euch ein?
-
Welche ethischen und gesellschaftlichen Fragen müssen berücksichtigt werden, wenn LLMs in sensiblen Bereichen wie Medizin oder Bildung integriert werden?
Diskussion


Vielen Dank!

CC BY 4.0 mediale pfade

IAN KI Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen
By mediale pfade
IAN KI Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen
Input für DGB
- 79