1 GesellschafTliche Rahmenbedingungen

Hype oder Durchbruch?

KI

sociAL media

BIG DATA

Algorithmen

EDV

BITCOIN

Plattform-Ökonomie

Cloud computinG

Social scoring

Suchmaschienen

Internet

industrie 4.0

smart city

deepfakes

1 GesellschafTliche Rahmenbedingungen

sociAL media

BIG DATA

Algorithmen

EDV

BITCOIN

Plattform-Ökonomie

Cloud computinG

Social scoring

Suchmaschienen

Internet

industrie 4.0

smart city

deepfakes

1 GesellschafTliche Rahmenbedingungen

1 GesellschafTliche Rahmenbedingungen

machine learning

1 GesellschafTliche Rahmenbedingungen

maschinelles lernen

• Methoden stammen aus den 1980er - Neuronale Netze
• noch fehlen Daten und Rechenleistung
  • Infrastruktur für vernetzte EDV kommerziell nutzbar ab 1990 - Internet
  • kostenlose Web-Dienste und Plattformen sammeln unentgeltlich Daten/Inhalte - Datenbanken
  • Rechenzentren haben Vielfaches der Rechenleistung

1 GesellschafTliche Rahmenbedingungen

maschinelles lernen

Entwicklung Datenmengen

kostenfreie Web-Dienste und Plattformen sammeln kostenlose Daten/Inhalte von Milliarden Nutzenden - Datenbanken

• Menschheitsgeschichte bis 1999 - 12 Exabyte
• 2002 - digitaler Speicher überholt analoge Speicher  
• 2006 weltweit ca. 180 Exabyte
• mittlerweile 1 Yottabyte? - 1.000.000 Exabyte

(Floridi 2015)

1 GesellschafTliche Rahmenbedingungen

180

Exabyte

(Danke Dall-E)

1 GesellschafTliche Rahmenbedingungen

maschinelles lernen

Entwicklung Rechnerleistung

• Die Anzahl der Transistoren auf einem Mikrochip verdoppelt sich alle 2 Jahre
• In den 1950ern hätte ein iPad2 100 Billionen Dollar gekostet

1050ta

(Floridi 2015)

1 GesellschafTliche Rahmenbedingungen

ImageNet - Bedeutung in die Bilder bringen

• 14 Millionen Bilder aus Flickr, Bildersuche, Webplattformen
• 20000 Kategorien aus WordNet-Taxonomie
• 19 Jahre wenn nur Studierende Bilder labeln würden
• „Crowd Work“-Plattform Amazon Mechanical Turk
• 49.000 Arbeiter:innen aus 167 Ländern labeln Daten

maschinelles lernen

ARBEITSleistung

(netzpolitik.org 2023)

1 GesellschafTliche Rahmenbedingungen

Chat GPT  -  angemessenes Verhalten in den Chatbot bringen

• KI-Filter - Detektor für toxische Sprache (wie bei Facebook)
• Zehntausende Textsnippets (problematische Inhalte)
• Labeln durch Subunternehmer in Kenia ab November 2021
• 1,3-2 $/h für psychisch belastende Datenanreicherung

maschinelles lernen

ARBEITSleistung

(time.com 2023)

1 GesellschafTliche Rahmenbedingungen

1 GesellschafTliche Rahmenbedingungen

Welche Zwecke verfolgen diese KI-Technologien?

• Scoring-Algorithmus der Schufa

• Empfehlungsalgorithmen auf TikTok/Amazon

• Gesichtserkennung

• Spamfiltern in E-Mail-Programmen

• Smart-Home-Anwendungen

• Sportnachrichten und Börsenmeldungen

• Navigationssysteme oder assistiertes Fahren

• medizinische Diagnostik oder Klimaforschung

1 GesellschafTliche Rahmenbedingungen

Welche Zwecke verfolgen diese KI-Technologien?

• Schufa - Kreditwürdigkeit prüfen

• TikTok/Amazon - Produktempfehlungen aussprechen

• Gesichtserkennung - Überwachung automatisieren

• Spamfiltern - Gegenautomatisierung

• Smart-Home-Anwendungen - Datenerfassung

• Nachrichten ohne Redaktion

• Navigation/Fahren - Fehlervermeidung/Sicherheit

• Diagnostik/Klima - Komplexität erfassen

1 GesellschafTliche Rahmenbedingungen

1 GesellschafTliche Rahmenbedingungen

Solutionismus

Solutionismus

Gibt es zu jedem Problem eine technische Lösung?

Was sind die Ursachen für strukturelle Probleme?

Ist das Problem in seiner ganzen Dimension erfasst?

1 GesellschafTliche Rahmenbedingungen

1 GesellschafTliche Rahmenbedingungen

• Digitale Automaten und Datenwirtschaft
• Unsichtbare Bedeutungs-Arbeit
• Welche Haltungen und Einstellungen liegen welcher Technologieentwicklung zu Grunde?
• Welches Problem soll/kann durch eine Technologieentwicklung gelöst werden?

• Wem gehören die Produktionsmittel?
• Wem dient welche Technologie in welchen Maße und zu welchem Ziel?

• Wem gehören die KI-Technologien?

1 GesellschafTliche Rahmenbedingungen

2 KreaTives Potential

Wo liegt das kreative Potential dieser KI-Technologien?

• Bewertung von Kreditwürdigkeit (Schufa)

• Produktempfehlungen (TikTok/Amazon)

• Gesichtserkennung (Überwachung)

• Spamfiltern (E-Mail-Programme)

• Smart-Home-Anwendungen (Alexa)

• Sportnachrichten und Börsenmeldungen

• Navigationssysteme oder assistiertes Fahren

• medizinische Diagnostik oder Klimaforschung

2 kreaTives Potential

Kreativität  oder Generierung

2 kreaTives Potential

(Danke Dall-E)

Idee oder Statistik

2 kreaTives Potential

(Danke Dall-E)

2 KreaTives Potential

Fragt nach den Zwecken von KI-Technologien.

• Generative KI oder administrative KI?
• KI ist zielgerichtet und ergebnissorientiert
• Bildung und Kunst dürfen spielen und sind prozessorientiert

Lernen und Lehren

• mediengestützter Prozess?
• vermessbarer Prozess?
• automatisierbarer Prozess?

Kompetenzvermittlung

• Wissen, Bewerten, Handeln (Dimensionen nach B. Schorb)

3 Bildung und vermittlung

3 Bildung und vermittlung

Welche Komptenzen werden in einer Gesellschaft im digitalen Wandel gebraucht?

3 Bildung und vermittlung

https://digid.jff.de/

3 Bildung und vermittlung

Wissen

Lernen über KI (Bedingungen, Prinzipien, Folgen)

Bewerten

Lernen anhand von KI (Verhalten, Produkte)

Handeln

Lernen mittels KI (Dienste, Tools, Daten)

3 Bildung und vermittlung

Erforscht und erkundet selbst KI-Technologien.

• handlungsorientiertes Lernen
• Mythen und Begriffe zu KI hinterfragen
• Arten und Struktur von Daten verstehen

4 Schulische Bildung und KI

Tools und Einsatzgebiete

4 Schulische Bildung und KI

4 Schulische Bildung und KI

Kriterien für KI-robuste Prüfungsformate

4 Schulische Bildung und KI

1. Prozessorientierung

• Frage: Wird der Lernprozess sichtbar gemacht? (z. B. Zwischenschritte, Reflexionen, Versionsstände)

2. Personalisierung

• Frage: Bezieht sich die Aufgabe auf persönliche Erfahrungen, Meinungen oder konkrete Kontexte der Lernenden?

3. Produktionsvielfalt

• Frage: Bietet die Aufgabe verschiedene Ausdrucksformen wie Audio, Video, Präsentation, Modell oder Diskussion?

4. Dialogische Auseinandersetzung

• Frage: Ist ein Austausch mit Mitschüler*innen, Lehrkräften oder Zielgruppen eingeplant?

5. Transferleistung

• Frage: Muss Wissen auf neue Kontexte übertragen oder mit anderem Wissen kombiniert werden?

6. Reflexion & Metaebene

• Frage: Wird das eigene Vorgehen reflektiert und begründet? (z. B. „Warum habe ich das so gemacht?“)

7. Authentizität & Lebensweltbezug

• Frage: Hat die Aufgabe einen Bezug zur Lebenswelt der Schüler*innen oder zu aktuellen gesellschaftlichen Fragen?

8. Soziale Interaktion

• Frage: Sind Peer-Feedback, Tandemarbeit oder Gruppenlösungen mit Rollenverteilung vorgesehen?

9. Medienprodukt statt Aufsatz

• Frage: Wird das Ergebnis als z. B. Erklärvideo, Podcast, Interview oder Plakat gestaltet?

10. Mündliche Verteidigung / Kolloquium

• Frage: Gibt es eine abschließende Präsentation oder ein Reflexionsgespräch?

4 schulische Bildung und KI

Fragt nach neuen Perspektiven auf Lernen.

• Wodurch zeigt sich echtes Verstehen?
• Gibt es manuelle oder physische Ansätze?
• Hands-on und Praxis bei Technologieeinsatz?
• Medien- und Methodenvielfalt nutzen...

5 Ethische und rechtliche Fragen

5 ethische und rechtliche Fragen

5 ethische und rechtliche Fragen

Text

Artifical Intelligence Act (AI ACT)

Text

Urheberrecht an Daten und KI-Inhalten

• starkes Urheberrecht in Deutschland
• Schutz durch menschliche Mitwirkung
  • Kreative Promts
• Persönlichkeits- und Markenrechte
• Rechtsstreitigkeiten um Trainingsdaten
  • New York Times vs. Microsoft
• Trainingsdaten aus Anwendungen

Text

Desinformation durch KI-generierte Inhalte

• Keine speziellen Regelungen für Deep Fakes
• Kennzeichnungspflicht auf EU-Ebene (DSA)
• Gefahren durch Deep Fakes
  • Desinformation
  • pornografische Inhalte, Nudes
  • Identitätsdiebstahl
  • Verleumdung

Text

Persönlichkeitsrechte und Datenschutz

• Recht auf informationelle Selbstbestimmung
• Recht am eigenen Wort
• Recht am eigenen Bild
• DSGVO regelt den Schutz personenbezogener Daten
  • Verbotsprinzip
  • berechtigter Anspruch
  • Zustimmung zur Verarbeitung

Link zur FSM-Broschüre

A

B

C

Ein

der KI-Entwicklungen

ethische und rechtliche Fragen

ccountabiliy

ias

ommons

A

B

C

ethische und rechtliche Fragen

ccountabiliy - Verantwortung und Transparenz

ommons - Zugänglichkeit und Gemeinwohl

A

B

C

ias - Vorurteile und Diskriminierung

ethische und rechtliche Fragen

5 Ethische und rechtliche Fragen

Findet gemeinsam die relevanten Fragen zu KI.

• Welche Fragen öffnen Bildungsangebote zu und mit KI und für wen?
• Welche Fragen befördern unerwartete Antworten und Kontroversen?