Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen

Ein Angebot von IAN NRW und medialepfade.org

11. November 2024

Drei Sessions

Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke

Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken

Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln​

Online-Abfrage zu KI

Input: Was ist KI, wie funktioniert sie und wo wird sie angewendet?

Praxis: Gutes Prompten üben

Diskussion und Abschluss

Erste Session –

Künstliche Intelligenz: Grundlagen und erste Einblicke

Online-Abfrage zu KI

https://app.sli.do/event/wjJNVs9xssSAsziUmFxZop

Künstliche INtelligenz vs. Machine Learning

Siemens Stiftung, 2019

Siemens Stiftung, 2019

KI in Deutschland

- Deutschland ist weltweit führend in der KI-Forschung (Max-Planck, Fraunhofer).

- Verfügt über starke Recheninfrastruktur, Supercomputer für Forschung und Industrie.

- Fokus auf menschenzentrierte KI, z. B. im Gesundheitswesen und Klimaschutz.

- Industrieadoption im Vergleich zu anderen Ländern langsamer.

- Fachkräftemangel: zu wenige KI-Expert, insbesondere Frauen.

- Chancen durch KI: Innovationen und ökologische Nachhaltigkeit.

- Risiken: Datenschutz, Bias und globaler Wettbewerb.

OECD, 2024

- KI ermöglicht innovative Anwendungen mit großem Potenzial.

- Manche Entwicklungen bergen Risiken und ethische Herausforderungen.

Ars Technica, 2024

sociAL media

BIG DATA

Algorithmen

EDV

BITCOIN

Plattform-Ökonomie

Cloud computinG

Social scoring

Suchmaschinen

Internet

industrie 4.0

smart city

deepfakes

GesellschafTLICHE Bedingungen

maschinelles lernen

• Methoden stammen aus den 1980er - Neuronale Netze

• noch fehlen Daten und Rechenleistung

  • Infrastruktur für vernetzte EDV kommerziell nutzbar ab 1990 - Internet

  • kostenlose Web-Dienste und Plattformen sammeln unentgeltlich Daten/Inhalte - Datenbanken

  • Rechenzentren haben Vielfaches der Rechenleistung

GesellschafTLICHE Bedingungen

maschinelles lernen

Entwicklung Datenmengen

kostenfreie Web-Dienste und Plattformen sammeln kostenlose Daten/Inhalte von Milliarden Nutzenden - Datenbanken

• Menschheitsgeschichte bis 1999 - 12 Exabyte

• 2002 - digitaler Speicher überholt analoge Speicher  

• 2006 weltweit ca. 180 Exabyte

• mittlerweile 1 Yottabyte? - 1.000.000 Exabyte

(Floridi 2015)

GesellschafTLICHE Bedingungen

180

Exabyte

(Danke Dall-E)

GesellschafTLICHE Bedingungen

maschinelles lernen

Entwicklung Rechnerleistung

• Die Anzahl der Transistoren auf einem Mikrochip verdoppelt sich alle 2 Jahre

• In den 1950ern hätte ein iPad2 100 Billionen Dollar gekostet

1050ta

(Floridi 2015)

GesellschafTLICHE Bedingungen

ImageNet - Bedeutung in die Bilder bringen

• 14 Millionen Bilder aus Flickr, Bildersuche, Webplattformen

• 20000 Kategorien aus WordNet-Taxonomie

• 19 Jahre wenn nur Studierende Bilder labeln würden

• „Crowd Work“-Plattform Amazon Mechanical Turk

• 49.000 Arbeiter:innen aus 167 Ländern labeln Daten

maschinelles lernen

ARBEITSleistung

(netzpolitik.org 2023)

GesellschafTLICHE Bedingungen

Chat GPT  -  angemessenes Verhalten in den Chatbot bringen

• KI-Filter - Detektor für toxische Sprache (wie bei Facebook)

• Zehntausende Textsnippets (problematische Inhalte)

• Labeln durch Subunternehmer in Kenia ab November 2021

• 1,3-2 $/h für psychisch belastende Datenanreicherung

maschinelles lernen

ARBEITSleistung

(time.com 2023)

GesellschafTLICHE Bedingungen

Haltungen

und Einstellungen

Haltungen und Einstellungen

Welche Zwecke verfolgen diese KI-Technologien?

• Scoring-Algorithmus der Schufa

• Empfehlungsalgorithmen auf TikTok/Amazon

• Gesichtserkennung

• Spamfiltern in E-Mail-Programmen

• Smart-Home-Anwendungen

• Sportnachrichten und Börsenmeldungen

• Navigationssysteme oder assistiertes Fahren

• medizinische Diagnostik oder Klimaforschung

Haltungen und Einstellungen

Welche Zwecke verfolgen diese KI-Technologien?

• Schufa - Kreditwürdigkeit prüfen

• TikTok/Amazon - Produktempfehlungen aussprechen

• Gesichtserkennung - Überwachung automatisieren

• Spamfiltern - Gegenautomatisierung

• Smart-Home-Anwendungen - Datenerfassung

• Nachrichten ohne Redaktion

• Navigation/Fahren - Fehlervermeidung/Sicherheit

• Diagnostik/Klima - Komplexität erfassen

Haltungen und Einstellungen

Plattform- Kapitalismus und KI

Geschäftsmodell der Plattformen

Plattformkapitalismus und KI

Geschäftsmodell der Plattformen

Plattformkapitalismus und KI

Geschäftsmodell der Plattformen

Plattformkapitalismus und KI

Fragt nach der Agenda hinter Datenwirtschaft und Plattformökonomie!

• Wem gehören die KI-Technologien?

• Wem dient welche Technologie in welchen Maße und zu welchem Ziel?

Plattformkapitalismus und KI

ethische und rechtliche Fragen

Artifical Intelligence Act (AI ACT)

Text

Urheberrecht an Daten und KI-Inhalten

• starkes Urheberrecht in Deutschland

• Schutz durch menschliche Mitwirkung

  • Kreative Prompts

• Persönlichkeits- und Markenrechte

• Rechtsstreitigkeiten um Trainingsdaten

  • New York Times vs. Microsoft

• Trainingsdaten aus Anwendungen

Text

Desinformation durch KI-generierte Inhalte

• Keine speziellen Regelungen für Deep Fakes

• Kennzeichnungspflicht auf EU-Ebene (DSA)

• Gefahren durch Deep Fakes

  • Desinformation

  • pornografische Inhalte, Nudes

  • Identitätsdiebstahl

  • Verleumdung

Thema und Textart (Thema und Textart nennen)

Genauer Inhalt und Bezüge (den Inhalt genauer beschreiben)

Zielgruppe (Zielgruppe des Textes angeben, z. B. Schüler:innen, Grundschüler:innen, Abiturient:innen, Kund:innen)

Ziel (z. B. „es soll ein Überblick geschaffen werden“, „es sollen die Unterschiede von x und y herausgestellt werden“ o. ä.)

Schreibstil (gewünschten Stil beschreiben, z. B. sachlich, strukturiert, lustig, informell, einfache Sprache, mit Fachwörtern, förmlich)

Länge (Textlänge angeben, z. B. ca. 500 Zeichen, bis 10 Sätze, 200 – 300 Wörter)

Struktur (Angaben zur Struktur des Textes machen, z. B. Überschrift, Untertitel, Einleitung, Hauptteil mit 5 Abschnitten, Zusammenfassung, als Liste)

Sprache (Angaben zur Sprache machen, z. B. Deutsch, Englisch, Französisch)

 Chat GPT Erkunden

Gutes Prompting lernen

Anleitung zum Prompting

Level 1 und Level 2

 Chat GPT Erkunden

Gutes Prompting lernen

Link

Link zum Chat

Link

Übung in Break-Out Rooms

Stellt euch vor, ihr müsst eine komplexe Fragestellung für eine Studienarbeit klären, die mehrere Perspektiven umfasst. Euer Ziel ist es, ChatGPT so zu nutzen, dass ihr eine umfassende und präzise Antwort erhaltet, die verschiedene Sichtweisen beleuchtet.

Fragestellung: Welche sozialen, ökonomischen und ethischen Auswirkungen hat die Einführung von KI in der Arbeitswelt?

Vorgehen: Startet mit diesem Grund-Prompt und verbessert diesen schrittweise.

 Chat GPT Erkunden

Gutes Prompting lernen

Was ist gut gelaufen, was war herausfordernd?

https://app.sli.do/event/jBdWzJ8KcYLSzP4JWK1rKG

Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen

Ein Angebot von IAN NRW und medialepfade.org

18. November 2024

Drei Sessions

Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke

Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken

Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln​

Prompting-Spiel auf midjourney.com (Bildgenerierung)

Live-Präsentation verschiedener Anwendungen von KI

Praxis: KI-Tools selbst ausprobieren

Diskussion und Abschluss

Zweite Session –

KI in der Praxis – Anwendungen und Grenzen erkennen

Prompting-Spiel

1. Schreibt einen Prompt, um dieses Bild zu erstellen

2. Schickt den Prompt in den Chat

3. Gebt im Chat 👍 für die 3 Prompts, die ihr am besten findet

Wir testen die 3 Prompts mit den meisten Stimmen und schauen, welcher am besten ist!

Prompting-Spiel

"Ein fotorealistisches täuschend echtes Bild eines Büros, in dem Lehrkräfte KI in ihrer täglichen Arbeit nutzen, sowohl für operative Aufgaben als auch für Lehrkonzepte. Das Bild zeigt zwei Frauen, die interagieren und Konzepte besprechen. Zwei weitere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und pädagogische Konzepte diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen."

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

Eigene GPT-4 Modelle erstellen und konfigurieren

GPT-4 Modelle Kombinieren

GPT-4 Modelle Kombinieren

GPT-4 Modelle Kombinieren

GPT-4 Modelle Kombinieren

GPT-4 Modelle Kombinieren

Erkundet die Tools im Handout. Nutzt die Links und probiert die verschiedenen KI-Tools aus.

Überlegt:
Welche Aufgaben fallen in eurem Arbeitsalltag an?

Frage:
Wie könnten diese Tools euch unterstützen, eure Aufgaben schneller, kreativer oder effizienter zu lösen?

👉 Notiert euch konkrete Ideen oder Anwendungsfälle, die euch in den Sinn kommen.

KI-Tools für die eigene Arbeit erkunden

Link

zum

Handout

Rückblick auf die letzte Phase:

Welches Tool hat euch am meisten überrascht oder überzeugt?

Transfer in eure Arbeit:

Gibt es konkrete Aufgaben in eurem Arbeitsalltag, bei denen ihr eines der Tools zukünftig einsetzen möchtet?

KI-Tools für die eigene Arbeit erkunden

Online-Workshopreihe: Künstliche Intelligenz verstehen und kritisch hinterfragen

Ein Angebot von IAN NRW und medialepfade.org

25. November 2024

Drei Sessions

Erste Session (11.11.24) – Künstliche Intelligenz: Grundlagen und erste Einblicke

Zweite Session (18.11.24) – KI in der Praxis: Anwendungen und Grenzen entdecken

Dritte Session (25.11.24) – Zukunft der KI: Kritisch denken, verantwortungsvoll handeln​

Umfrage: Ethische Fragen zu KI

Input: KI Diskriminierung, Gefahren, Möglichkeiten

Praxis: Zukunft der Arbeitswelt

Diskussion und Abschluss

Dritte Session –

Zukunft der KI: Kritisch Denken, verantwortungsvoll Handeln

Input:

Diskriminierung

Ethische Fragen

Aktuelle Beispiele

Machine Learning-Systeme sind von Menschen geschaffen

Firmen und Entwickler*innen entscheiden, wie die Systeme arbeiten und welche Daten sie nutzen dürfen.

Sie legen fest, was das Ziel des Systems ist und wie Erfolg definiert wird.

Wer kreiert lernende Maschinen?

Denkt beim Schauen über folgende Fragen nach:

Warum kommt es zu Diskriminierung durch Maschinen?

Wie beeinflussen Trainingsdaten die Ergebnisse?

Welche Menschen sind am meisten davon betroffen?

Für welche Aufgaben ist Machine Learning sinnvoll? Wo könnte es gefährlich sein?

Nach dem Video besprechen wir die Fragen gemeinsam

Video: "Wie Maschinen Diskriminieren"

• Hintergrund: KI-Systeme erfordern umfangreiche Datenarbeit durch Menschen.
• Arbeiten: Datenanreicherung, Trainingsdatenprüfung, Content-Moderation.
• Herausforderungen:
  • Niedriglöhne, oft in Ländern mit schwachem Arbeitsschutz.
  • Psychische Belastungen durch Umgang mit verstörendem Content.
  • Keine Anerkennung und fehlender Schutz der Arbeitsrechte.
• Bedeutung: KI-Systeme sind ohne diese menschliche Arbeit nicht funktionsfähig.

Datenarbeit

• Nutzung KI-basierter Systeme zur Verbesserung der Effizienz und Zugänglichkeit der Justiz.
• Automatisierte Fallbearbeitung, Dokumentenprüfung und Beschleunigung von Entscheidungen.
• Risiken:
  • Verzerrte oder unvollständige Daten könnten zu unfairen Urteilen führen.
  • Mangel an Transparenz bei Entscheidungsprozessen erschwert die Überprüfung von Urteilen.
  • Digitale Barrieren könnten weniger technikaffine Menschen benachteiligen.
  • Missbrauchspotenzial durch politische Einflussnahme.

KI in der indischen Justiz

• Italienische Partei Fratelli d’Italia plant den Einsatz von KI zur Jobvermittlung.
• Ziel: Automatisierte Zuweisung von Schul- und Studienabsolvent*innen an Unternehmen.
• Konsequenz bei Ablehnung: Sanktionen und Verlust von Sozialleistungen.
• Kritik: Einschränkung der Berufswahl und algorithmische Diskriminierung.
• Gefahr: Einsatz von KI zur Durchsetzung autoritärer Politik.

Fratelli d'Italia: KI im Arbeitsmarkt

• OpenAI kooperiert mit dem Medienkonzern Axel Springer, um Inhalte in ChatGPT zu integrieren.
• Bereitstellung von Informationen für ChatGPT-Nutzer*innen.
• Risiken:
  • Mögliche Verzerrung der Informationen durch die Auswahl spezifischer Quellen.
  • Abhängigkeit von Inhalten eines einzelnen Verlags könnte die Vielfalt der Informationen einschränken.
  • Fragen zur Transparenz und Unabhängigkeit der bereitgestellten Inhalte.

Open AI und Axel Springer

• Hintergrund: Donald Trumps Wahlsieg trotz Skandalen und Gerichtsverfahren.
• Rolle von Elon Musk: Übernahme von Twitter (jetzt X) und Umgestaltung zur Propagandaplattform für rechte Inhalte.
• Maßnahmen: Entlassung von Moderationsteams, Wiederzulassung gesperrter Accounts, Aufhebung des Verbots politischer Werbung.
• Folgen: Verstärkte Verbreitung von Hass und Desinformation, Bevorzugung rechter Akteure durch Algorithmen.
• Kritik: Gefährdung der Wahlintegrität und demokratischer Prozesse durch unregulierte Machtkonzentration in sozialen Medien.

US-Wahlen 2024

DeepFakes

Mit "Midjourney" generiert

DeepFakes

DeepFakes

Mit "Midjourney" generiert

Quiz: Fake oder echt?

A

B

C

Ein

der KI-Entwicklungen

ethische und rechtliche Fragen

ccountability

ias

ommons

A

B

C

ethische und rechtliche Fragen

ccountability - Verantwortung und Transparenz

ommons - Zugänglichkeit und Gemeinwohl

A

B

C

ias - Vorurteile und Diskriminierung

ethische und rechtliche Fragen

Ziele von KI-Entwicklungen

• technische Lösungen zu sozialen Problemen

• offene Infrastrukturen und sichere Daten

• KI als Geschäftsmodell oder Gemeingut

• Arbeitsbedingungen erleichtern oder verschärfen

• Hintergrund: Entwicklung durch das DFKI und hessian.AI, gefördert durch öffentliche Mittel.
• Ziel: Förderung digitaler Souveränität und Sprachvielfalt in Europa.
• Funktionen: Sprachmodelle für Englisch, Deutsch, Französisch, Spanisch und Italienisch als Open Source verfügbar.
• Besonderheit: Transparenz und Unabhängigkeit durch freie Verfügbarkeit und offene Entwicklungsprozesse.
• Gemeinwohlorientierung: Unterstützung kleinerer Sprachgemeinschaften und Förderung europäischer Werte in der KI-Entwicklung.

Occiglot: Gemeinwohlorientierte KI

Praxis:

Zukunft der Arbeitswelt

Mit "Midjourney" generiert

• Disruptions-Szenario: Übersetzungsbranche

  • LLMs ermöglichen schnelle und kostengünstige Übersetzungen.
  • Traditionelle Übersetzungsdienste könnten zurückgehen.
  • Neue Aufgabenfelder entstehen: Nachbearbeitung und Qualitätskontrolle maschineller Übersetzungen.

• Integrations-Szenario: Pflegebereich

  • LLMs übernehmen administrative Aufgaben wie Dokumentation und Patienteninformationsmanagement.
  • Entlastung der Pflegekräfte, mehr Zeit für direkte Patient:innenbetreuung.
  • Potenzial zur Verbesserung der Pflegequalität.

Drei Szenarien nach Seemann (2023)

• Transformations-Szenario: Bildungs- und Forschungssektor

  • Intelligente Tutoren bieten individualisierte Unterstützung für Lernende.
  • Effizienzsteigerung in der Datenanalyse für Forschende.
  • Förderung personalisierter Bildung und schnellerer Forschungsprozesse.

1. Welche weiteren Beispiele für Disruption, Integration und Transformation fallen euch ein?

2. Welche ethischen und gesellschaftlichen Fragen müssen berücksichtigt werden, wenn LLMs in sensiblen Bereichen wie Medizin oder Bildung integriert werden?

Diskussion