medialepfade.org

Verein für Medienbildung e.V.

Dr. Alev Coban

(sie/ihr)

KI im Berufsalltag

 

Potentiale erkennen, richtig prompten,

Grenzen verstehen und verantwortungsvoll handeln

Gemeinnütziger Verein

Gegründet 2013

Sitz in Berlin

Ehrenamtlicher Vorstand

 

Verein für politische Medienbildung

www.medialepfade.org

Seminarablauf

 

 

1. Ankommen

2. KI Bias entdecken

3. Input: Maschinelles Lernen und KI-Bias

Pause - 10:25-10:45 Uhr

4.  Strategien für eine verantwortungsvolle Nutzung von KI

5. Prompt-Battle: Wie gelingt mir zielführendes Prompten?

6. Abschluss

 

 

 

 

Weißt du was ChatGPT ist und hast du es bereits genutzt?

 

A: Ja, ich habe es bereits genutzt.

B: Nein, ich kann mir darunter wenig vorstellen.

 

 

 

 

Glaubst du, dass ChatGPT immer richtige Antworten gibt?

 

A: Ja, weil Künstliche Intelligenz Zugriff auf enorm viel Wissen hat.

B: Nein, ChatGPT ist menschengemacht und daher fehlerhaft.

KI Bias entdecken

 

 

 

Befrage einen Chatbot:

„Ich bin eine Frau. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin eine Frau. Welche Hobbies könnte ich haben?

KI Bias entdecken

 

 

 

Befrage einen Chatbot:

„Ich bin ein Mann / Ich bin nicht-binär. Welche Berufsvorschläge hast du für mich? Liste mir 5 auf.“ 

oder 

„Ich bin ein Mann / Ich bin nicht-binär. Welche Hobbies könnte ich haben?“

KI Bias entdecken

 

 

 

Schreibe der bildgenerierenden KI einen der folgenden Prompts:

 

Zeige mir eine erfolgreiche Führungskraft in einem Büro.

 

Mache mir ein realistisches Foto eines Kindergartens mit Erziehern.

Künstliche Intelligenzen (KI)

Woher kommt der Bias?

 

„Bias“ = Voreingenommenheit

 

 

Komplexe Künstliche Intelligenzen basieren auf Algorithmen, die von Menschen durch maschinelles Lernen trainiert werden.

Woher kommt der Bias einer KI?

Title Text

Siemens Stiftung (2019)

  • Künstliche Intelligenz lernt aus Daten von Menschen

    • Vorurteile werden an Technologie weitergegeben

  • KI-Entwickler*innen überwiegend Männer, weiß und haben viel Geld

    • unterschiedliche Perspektiven (und Daten) werden vergessen

  • KI trifft ungerechte oder ungenaue Entscheidungen, die die Vorurteile und Diskriminierungen der ursprünglichen Daten zeigen

 

KEINE Ungerechtigkeit: KI-Systeme müssen aus vielfältigen Daten und von diversen Teams lernen; gemeinwohl- anstatt profitorientierte KIs

Woher kommt der Bias einer KI?

sind politisch

Künstliche Intelligenzen (KI)

KI Bias entdecken

 

 

 

Quelle: coding for tomorrow (05.08.2025) 

KI Bias entdecken

 

 

 

Quelle: So Many Tabs (3:22-5:00 min.); www.youtube.com/watch?v=Uj6-lHbfcA4

Künstliche Intelligenzen (KI)

bilden gesellschaftliche Strukturen ab

Künstliche Intelligenzen (KI)

sind konservativ und diskriminierend

(Ali et al. 2019)

Künstliche Intelligenzen (KI)

verbrauchen viel Energie

 

  • Alle generative KIs verbrauchen pro Jahr den gesamten Energiebedarf Irlands

 

  • 600.000 KI-Antworten veranlassen so viel CO₂ wie eine Flugreise von London nach New York

 

  • Ein KI-Bild kostet so viel Energie wie das komplette Aufladen eines Handys

Basicthinking 2025; Deutschlandfunk Nova 2023; Scinexx 2025

Verantwortungsvolle Nutzung von KI

 

 

Sinnvolle Anwendungsbereiche 

 

KI als Unterstützung für Vorarbeit:

 

  • Recherche, Inspiration und erste Entwürfe
  • Strukturierung von Texten, Konzepten oder Argumentationen
  • Erstellung barrierefreier Materialien (leichte/einfache Sprache)
  • Formulierung von E-Mails, Infotexten, Anträgen
  • Visualisierung von Inhalten
  • Unterstützung bei Veranstaltungsplanung oder Moderation

Verantwortungsvolle Nutzung von KI

 

 

 

KI ist NICHT geeignet für:

 

  • Endergebnisse ohne menschliche Überarbeitung

  • Finale offizielle Texte

  • Entscheidungen ohne kritische Prüfung

  • Erstellung von Deepfakes oder manipulativen Inhalten

Kreatives Prompten

Quelle: Fairlinked

Kreatives Prompten

Quelle: Fairlinked

Verantwortungsvolle Nutzung von KI

 

 

Datenschutz und Privatsphäre

  • Keine sensiblen Daten eingeben: Reale Namen, Anschriften, Arbeitgeberdaten und interne Informationen nur anonymisiert verwenden.

  • Trainingsausschluss aktivieren: In den Einstellungen kann eingestellt werden, dass eigene Daten nicht zum KI-Training verwendet werden.

  • DSGVO-konforme Tools wählen / EU-basierte Alternativen bevorzugen: SchulKI, fobizz, Mistral, huggingface, DuckDuckGo AI Chat. Vorsicht bei US-Tools (ChatGPT, Gemini, Copilot, Claude), da Datennutzung oft zum Geschäftsmodell gehört.

    • Wichtig: Ohne personenbezogene Daten bestehen in der Regel keine datenschutzrechtlichen Bedenken.

 

(bei Erwachsenenbildung.digital gibt es sehr gute, kurze Einführungen in Mistral, Open-Source KIs und ChatGPT)

Verantwortungsvolle Nutzung von KI

 

 

Inklusives und diskriminierungsfreies Prompten

  • Vielfältige Prompts verwenden: KI gezielt auffordern, verschiedene Perspektiven einzubeziehen. Bewusst diverse und inklusive Darstellungen in Prompts einfordern.

  • Stereotype hinterfragen: KI um Einschätzungen zu möglichen Verzerrungen bitten.

  • Inklusive Sprache trainieren: Bewusst Gendersternchen oder inklusive Formulierungen in Prompts verwenden.

  • Neue Perspektiven anfordern: KI kann ein Werkzeug sein, um neue Perspektiven zu entdecken – wenn wir sie dazu auffordern.

  • Würde respektieren: Keine diskriminierenden, verletzenden oder erniedrigenden Darstellungen von Personen(gruppen) fordern und verbreiten.

Verantwortungsvolle Nutzung von KI

 

 

Qualitätssicherung und Verifikation des Outputs

  • Halluzinationen erkennen: KI kann bei fehlenden Daten eigene "Fakten" erfinden.

  • Ergebnisse gegenchecken: KI nach Quellen für Rechercheergebnisse fragen und Informationen immer mit den angegebenen und anderen Quellen abgleichen.

  • Aktualität prüfen: Alter und Gültigkeit der Informationen überprüfen.

Verantwortungsvolle Nutzung von KI

 

 

Personalisierung und Nutzungsrechte klären

  • Nie 1:1 übernehmen: KI-Antworten immer anpassen und überarbeiten.

  • Persönliche Note hinzufügen: Texte so umformulieren, dass sie nach der eigenen Person klingen.

  • Emotionen ergänzen: KI kann keine Emotionen transportieren - selbst für den "Feinschliff" sorgen.

 

  • Urheberrechtsverletzungen vermeiden: KI-Modelle können urheberrechtlich geschützte Inhalte reproduzieren.

  • Plagiatsprüfung durchführen: Besonders bei Texten auf mögliche Übereinstimmungen mit existierenden Werken prüfen.

Verantwortungsvolle Nutzung von KI

 

 

Transparenz und Nachvollziehbarkeit bei Bildern

  • KI-generierte Inhalte kennzeichnen: Prompt sowie das verwendete Tool (z. B. DALL·E, Midjourney oder Stable Diffusion) als Quelle angeben.

    • Kennzeichnungspflicht: Laut europäischer KI-Verordnung (EU AI Act) müssen Inhalte, die durch KI generiert wurden und potenziell täuschend oder manipulierend wirken – z. B. realistische Bilder, Stimmen oder Videos –, eindeutig und sichtbar als KI-generiert gekennzeichnet werden.

Prompt-Battle

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

"Ein fotorealistisches Bild in einem Jugendzentrum, in dem Jugendliche KI für ihren Alltag nutzen. Das Bild zeigt zwei Mädchen, die miteinander sprechen. Zwei weitere queere Personen sind zu sehen, wie sie gemeinsam auf einen Bildschirm schauen und diskutieren. Das Bild ist farbgesättigt und strahlt eine freundliche und zukunftsgewandte Atmosphäre aus. Die Menschen im Foto sind divers, neben weißen Menschen sind auch Schwarze Menschen und People of Color zu sehen." 

Gutes Prompten

  • Sei sehr genau:

    • Was soll auf dem Bild zu sehen sein? Gebe präzise Informationen und bestimme den Kontext.

  • Nutze viele beschreibende Wörter: 

    • beispielsweise „nass“, „stinkend“, „müde“, „belebt“, „froh“, „hüpfend“, ...

  • Mit diesen Wörtern wirkt dein Bild echt: "Fotorealistisch", "Lebendig", "Detailliert", "Authentisch", ...

  • Spiele Ping Pong mit der generativen KI:

    • Wenn dir das Ergebnis nicht gefällt, gebe dem Chatbot Verbesserungsvorschläge und Feedback

 

ACHTUNG: Teile keine persönlichen Daten und verwende keine Klarnamen. 

Überprüfe alles - KI-Modelle können sich irren.

Prompt-Battle

Quelle: Dall-E (27.03.2025)

Prompt-Battle

Quelle: Dall-E (27.03.2025)

“Erstelle mir ein fanstasiereiches Bild einer technischen Utopie: diverse Menschen stehen auf einer Straße, die zugleich begrünt und auch technologisch ist. Alle Menschen dürfen so sein und aussehen wie sie wollen. Die Szene ist lebendig, froh und verspielt.”

Verantwortungsvolle Nutzung von KI

 

 

 

FAZIT

 

Grundhaltung gegenüber KI:

 

  • KI als Werkzeug verstehen: KI löst nicht alle Probleme, sondern nimmt Vorarbeit ab.

  • Kritisches Denken beibehalten: KI ist kein Ersatz für eigene Reflexion und Bewertung.

  • Bewusst und reflektiert nutzen: KI kann neue Perspektiven eröffnen - wenn man sie dazu auffordert. Bewusst entscheiden, wann und wofür KI genutzt wird.

Abschluss

 

 

 

 

Wie geht's euch jetzt?

Wie hat euch der Workshop gefallen?

Was nehmt ihr mit?

medialepfade.org

Verein für Medienbildung e.V.

Vielen Dank für Eure Teilnahme!

Weiterführende Links

Survival of the Best Fit (2019) Spiel auf Englisch über einen Job-Einstellungsalgorithmus. https://www.survivalofthebestfit.com/

Yazdani, Nushin und Rojas, José (2020) Video: Wie Maschinen diskriminieren. https://nushinyazdani.com/Wie-Maschinen-diskriminieren

 

ChatGPT - Videotutorials: https://erwachsenenbildung.digital/category/chatgpt-kurs/

Von der Idee zum Blogartikel – Ein ChatGPT Workflow: https://erwachsenenbildung.digital/von-der-idee-zum-blogartikel-mein-chatgpt-workflow

 

KI-Generierte Bilder, Texte und Videos erkennen: https://www.medienradar.de/hintergrundwissen/artikel/ki-generierte-bilder-texte-und-videos-erkennen

Deepfake-Quiz: Erkennen Sie alle KI-Bilder? https://data.wdr.de/ddj/deepfake-quiz-erkennen-sie-alle-ki-bilder/

Deepfake-Quiz: Erkennen Sie alle KI-Videos und -Audios? https://data.wdr.de/ddj/quiz-wie-gut-erkennen-sie-deepfakes/ 

Bildmanipulation in der Geschichte: https://www.spiegel.de/fotostrecke/manipulierte-bilder-fotostrecke-107186.html