KI

Zielsetzung: 

In diesem Tutorial können Sie sich zu den Grundlagen des Themas KI in Schule informieren und erhalten Anregungen zur Vertiefung. Sie können drei Elemente anwählen: 

1. Einen Kurzfilm über KI (2:19 Min.), mit dessen Hilfe Sie Ihre Haltung prüfen können (entweder als Einstieg oder nach der Vergewisserung durch die Darstellung unter 2)
2. Eine Darstellung mit Fokus auf die basalen Aspekte sowie den Datenschutz; 
3. Ein kurzes interaktives Element zur Überprüfung Ihres Lernfortschritts (Links zu weiteren interaktiven Lernmodulen finden Sie am Ende der Darstellung!).
4. Ein interaktives Element zur Erschließung und Diskussion des Rechtsrahmens nutzen.
5. NEU: EYE-Tracking - Eine Übung zur Prüfung eines rechtskonformen EInsatzes von KI-basierten Tools 
6. NEU: Handlungsleitfaden KI in der Schule (mit verlinkten Beispielen für Schüler:innenversion)
7. NEU: PPP "Souverän im digitalen Raum": mit Chatbot zum Datenschutz (letzte Folie)

1. Erklärvideo

Sichten Sie das Erklärvideo (erstellt von KI-Campus unter der Lizenz Cc-By-Sa 4.0) und prüfen Sie Ihre Haltung (in Bezug auf die Nutzung als Lehrkraft bzw. in Schule und Unterricht):  

Wo stimmen Sie zu, wo nicht? Was ist evtl. zu positiv oder zu negativ dargestellt? Was fehlt Ihnen hier?

2. Darstellung: KI und Datenschutz in der Schule

2.1. Verstehen und Einordnen: "Rising of powerful KI ... either the best or the worst thing ever to happen to humanity" (S. Hawking)?

2.1.1 Als Ausgangspunkt: Ergründen der eigenen Haltung

2016 sagte Stephen Hawking voraus, die Entwicklung von KI werde entweder das Beste oder das Schlimmste sein, was der Menschheit je widerfahren wird. Nehmen Sie sich zu Beginn dieses Tutorials einen Moment und ergründen Sie Ihre aktuelle Haltung zu KI als LEHRKRAFT: Notieren Sie mögliche Chancen und Gefahren. Im Verlauf des Tutorials können Sie hierauf nochmals blicken. 

2.1.2 Was KI ist und kann - in aller Kürze

Künstliche oder artifizielle Intelligenz (KI/AI) bezeichnet die Nachahmung intelligenten menschlichen Verhaltens durch Computer. Aufnahme, Verarbeitung, Speicherung und Wiedergabe von Informationen imitieren insofern Wahrnehmungs- und Aktionsprozesse von Menschen. Künstliche Intelligenz erkennt Sprache und Bilder und reagiert im Rahmen von wiedererkannten Mustern hierauf angemessen. Insofern 

- lernt künstliche Intelligenz, indem sie erfahrungs- und beispielgeneriertes Wissen verallgemeinert (wahrscheinlichkeitsbasiert, auf statistischer Basis als maschinelles Lernen oder unter Nutzung sogenannter "neuronaler Netze" als deutlich eigenständigere Modifikation der Verbindungen zwischen den "Knotenpunkten" des künstlichen Lernnetzes (deep learning)). 

- denkt sie, indem sie zunehmend validere Lösungen zu unbekannten Fragen entwickelt und somit Vorhersagen tätigt, Empfehlungen gibt oder auch Entscheidungen trifft. 

Während in den 80er Jahren die Prototypen oder Ideen von künstlicher Intelligenz den Turing-Test (Unterscheidbarkeit von menschlicher und künstlicher Intelligenz) noch nicht bestanden hätten, erreichen die aktuellen Systeme durchaus andere Ergebnisse. Drei Aspekte hierfür bedeutsam: 

1. Auch wenn uns das Erscheinen von ChatGPT als ein plötzliches Ereignis mit umfassender Wirkung erscheint, ist dieses Phänomen Teil einer langdauernden Entwicklung. Beginnend vielleicht mit dem Turing-Test 1950, über Eliza als ersten Chatbot (1966) ist ChatGPT nur eine von zahlreichen KI, die z. .B. in Suchmaschinen Anwendung finden (vgl. Bard bei Google).  

2. Neben der technischen Entwicklung muss die Ausweitung der Aufgabenbereiche genannt werden. So hilft z. B. Durable AI beim Coding, unterstützen ChatGPT (Microsoft) oder Bard (Google) u. a. Recherche bzw. Textproduktion, flankiert oder ersetzt Flair AI Designer:innen oder ContentEdge Marketingspezialisten. Ein Beispiel für die Sprengung der Grenzen von Profession zum Alltag ist DeepL (Übersetzungsassistent), während Siri und Alexa schon weit im täglichen Leben vieler Menschen angekommen sind. Tools wie Midjourney (z. B. Bildveränderung oder- generation auf Basis von Text) formen  unsere Wahrnehmung von Welt (z. B. Trump hinter Gittern). 

3. Zuletzt gilt der Blick dem Tempo und der Reichweite der Nutzung. Während Netflix nach seinem Markteintritt 3,5 Jahre benötigt hat, um eine Million Nutzer:innen zu erreichen, hat ChatGPT dies 2022 innerhalb von 5 Tagen geschafft. 

Insgesamt muss also konstatiert werden, dass wir es mit einer Entwicklung zu tun haben, der man sich kaum noch entziehen kann (vgl. z. B. das erste Informationsangebot bei Google-Suchanfragen). Ob es sich bei den aktuellen Formaten wie ChatGPT bereits um eine "Kommunikation mit einem sehr klugen Menschen" handelt (Jan-Martin Klinge), oder ob die sogenannten künstlichen Intelligenzen als Reproduktionsmaschinen statistischer Wahrscheinlichkeiten diesen Namen nicht verdienen, ist letztlich eine Frage  individueller Bewertung - und auch Erkundung. Bei aller Erweiterung von Möglichkeiten reduziert KI jedenfalls die Bilder von Welt (vgl. z. B: How AI reduces the world). Hieraus erwächst für Schule eine medienerzieherische Aufgabe. 

2.2. KI-Systeme und die Rechtsvorgaben: das Beispiel ChatGPT

Aus Sicht des Datenschutzes müssen im Zusammenhang mit der Nutzung eines KI-basierten Sprachgenerators in der Schule verschiedene Aspekte beachtet werden. Zunächst der Umgang mit personenbezogenen Daten: Bei der Nutzung einer digitalen KI fallen u. U. zahlreiche personenbezogene Daten an (neben technische Daten wie Logins auch die Kontodaten der Nutzenden, Art, Form und Inhalt der Nutzung).  Eine Verarbeitung ist nur auf Basis einer Rechtsgrundlage gestattet. Sind mit der Verarbeitung Dritte beauftragt, muss ein Vertrag zur Auftragsdatenverarbeitung geschlossen werden. OpenAI, die hinter dem Chatbot GPT stehen, ist als US-Anbieter nicht DSGVO-konform; ein Vertrag zur Auftragsdatenverarbeitung existiert inzwischen, ist jedoch noch nicht geprüft. In den eigenen FAQ finden sich zudem Warnungen vor der Preisgabe sensibler persönlicher Daten, eine Nutzung ohne Registrierung (mit Preisgabe von personenbezogenen Daten wie der Telefonnummer) ist nicht möglich. Weitere Risiken entstehen für die Nutzenden , wenn diese Daten und auch die Interaktionen in das Modell an sich einfließen (als Teil des "Lernprozesses" bzw. des Trainings der KI) und damit für Dritte offengelegt werden. Die Nutzung der Daten für ein Profiling der Nutzenden (und z. B. die Verwendung der hier gewonnenen Informationen für Auswahl von digital präsentierten Inhalten) kann besonders für den Einstieg ins Erwerbsleben eine Chancenminderung darstellen.  Auch eine Manipulation der Nutzenden durch die Antworten der KI ist möglich (gerade die adressatengerechte und in sich geschlossene Form der Antworten verführt zur vorbehaltlosen Zustimmung). Neben den Nutzenden selbst können auch Risiken für Dritte entstehen, wenn deren Daten als Prompts (Anfragen, siehe unter 3) eingebracht werden. Das geschieht leicht, wenn z. B. im Fach Deutsch Bewerbungsschreiben mit Lebenslauf trainiert oder überarbeitet werden, Schülertexte von Lehrkräften zur Bewertung als Prompt eingegeben werden oder wenn aus Stichworten ein Gutachten für eine:n LAA (ein Protokoll für ein Elterngespräch etc.) erstellt wird. 

2.3. Möglichkeiten und Grenzen

Das Schulministerium begleitet die Arbeit mit KI in der Schule inzwischen in vielfältiger Weise. In den Ethischen Leitlinien der EU für Lehrkräfte über die Nutzung von KI finden sich neben der Forderung nach dem Vorrang menschlichen Handelns und menschlicher Aufsicht, Transparenz, Nichtdiskriminierung bzw. Zugänglichkeit, gesellschaftlich-ökologischem Wohlergehen, technischer Sicherheit und Rechenschaftspflicht bzw. Überwachung auch die Forderung nach Beachtung von Datenschutz. Im Fokus steht immer die Begrenzung und der Schutz von sensiblen Daten. Demzufolge kommt das Schulministerium NRW im Handlungsleitfaden zu der Einschätzung, dass im Rahmen des Bildungs- und Erziehungsauftrags ein verantwortungsbewusster Umgang mit KI-basierten Textgeneratoren  thematisiert werden muss. Durch das institutionelle Angebot einer datenschutzkonform nutzbaren KI (AIS-Chat) kann die Nicht-Empfehlung einer KI-Nutzung über Schüler:innengeräte aus dem Handlungsleitfaden inzwischen anders bewertet werden. 

Eine datenschutzgerechte Anwendung ist vor allem abhängig von den Prompts (Eingaben bzw. Anfragen der Nutzenden: Ideen zur Anleitung z. B. in Unterrichten digital): neben einer Verbesserung des Outputs durch strukturierte Prompts oder Megaprompts (z. B. durch Angabe von Kontext, einzuhaltenden Nebenbedingungen oder Format des Outputs) ist hier die Vermeidung von personenbezogenen Daten wesentlich. Ein Schüleraufsatz kann mit KI-Hilfe tutoriell begleitet oder sogar bewertet werden, wenn sichergestellt ist, dass menschlicher Letztentscheid gewährleistet ist und der Text nicht namentlich zugeordnet werden kann (z. B. durch Anonymisierung, Eingabe an einem nicht-personalisierten Schulgerät). Unter diesen Voraussetzungen lässt sich z. B. die Nutzung der KI als Trainer sowohl anleiten als auch bewerten - etwa mit Blick auf die Veränderung bzw. Verbesserung des Lernprodukts. Dies entspricht im Grund auch deutlich mehr der Forderung nach mehr Prozessorientierung im (kompetenzorientierten) Lernen. 

2.4. Diskurs

Der aktuelle Diskurs ist über weite Strecken von einer proaktiven Haltung gekennzeichnet, die Verbote für unsinnig und realitätsfern, einen transparenten und kompetenten Umgang mit KI jedoch für unabdingbar hält.  Die landesübergreifende Bereitstellung eines datenschutzkonformen Chatbots (neuerdings unter dem Namen "AIS.Chat") ist eine Folge. 

Vor diesem Hintergrund können Anwendungsbereiche erschlossen werden, die die Unterstützungsleistung der KI mit Blick auf den Datenschutz und die weiteren ethischen Leitlinien (s. o.) in die Vorbereitung von Unterricht (Materialerstellung, Routineaufgaben, ...), aber auch in die Durchführung integrieren. Die adressatengerechte Erstellung von Übungsaufgaben dürfte hier eine ebenso große Rolle spielen wie die Entwicklung von funktionalen Prompts (Auswertung von unterschiedlichen Fragestrukturen). 

Die Herausforderungen im Bereich Datenschutz und Urheberrecht geraten gelegentlich aus dem Blick, wenn nicht bedacht wird, dass der Umgang mit Daten (auch anderer Personen) der fortwährenden Sensibilisierung bedarf - so benennen selbst die Ethischen Leitlinien des Ministeriums im Falle einer automatisierten Bewertung von Aufsätzen den Datenschutz nicht als relevante Leitlinie, obgleich es sich hier um sensible Leistungsdaten handelt (die Voraussetzung, dass der Text hier anonymisiert und streng genommen auch nicht handschriftlich vorliegen müsste, wird nicht benannt). 

Bei aller Begeisterung z. B. für die passgenauen Angebote großer Anbieter wie Fobizz oder schulKI, die eine datenschutzgerechte Anwendung von KI versprechen, bleibt zu beachten, dass dies keinen Freibrief für eine beliebige Nutzung darstellt. Auch das sprachlich geschlossene Bild der Ergebnisse täuscht nicht darüber hinweg, dass die KI gelegentlich halluziniert - die Washington Post sprach in einem Artikel von "kohärentem Unsinn", der gleichwohl schwer als solcher zu erkennen ist. Auch damit gilt es umzugehen - denn das Werkzeug wird bleiben. 

Zum Schluss: Blicken Sie nochmals auf Ihre anfänglichen Überlegungen - hat sich Ihre Liste mit Chancen und Gefahren verändert? Kommen Sie im Seminar ins Gespräch! 

2.5. Weiterführende Informationen 

• Handlungsleitfaden "Umgang mit textgenerierenden KI-Systemen" (MSB NRW)
• Ethische Leitlinien der EU für Lehrkräfte über die Nutzung von KI
  
• Moodle-Kurs zu textgenerierenden Anwendungen wie ChatGPT in Schule und Unterricht
• KI in der Bildung - eine Einführung (geht auch auf ChatGPT und Datenschutz ein): interaktives Lernmodul mit Lernzielkontrolle: erstellt durch das Zentrum für Lehrerinnenbildung der Universität zu Köln; Dauer ca. 25 Minuten; CC BY-SA 4.0)
• KI in der Bildung - Anwendungsbeispiele (Fortsetzung des Tools vom ZfL Köln: interaktives Lernmodul mit Lernzielkontrolle: erstellt durch das Zentrum für Lehrerinnenbildung der Universität zu Köln; Dauer ca. 25 Minuten; CC BY-SA 4.0); mit Überlegungen zur Veränderung der Lehr-Lern- und Prüfungskultur)

 6. Handlungsleitfaden KI in der Schule - mit Beispielen für Schüler:innenversion (vgl. Fußnote 3)

Zwecke: Die Nutzung der KI-Systeme erfolgt ausschließlich zur Umsetzung des Bildungs- und Erziehungsauftrags[1]. (Angehende) Lehrkräfte sowie Schülerinnen und Schüler sollen ihre Kompetenzen durch die Nutzung von KI-Systemen erweitern; sie reflektieren Werkzeug wie Ertrag und lernen dabei, verlässliche Informationen im digitalen Raum zu recherchieren, angemessen zu kommunizieren und zu kooperieren, sowie ihre Ergebnisse digital zu produzieren und zu präsentieren.

Anwendungsrahmen, betroffene Daten: Die Nutzung der KI-Systeme erfolgt ausschließlich über die institutionell vereinbarten KI-Tools. Voraussetzung ist eine für Auszubildende wie Schülerinnen und Schüler kostenfreie Nutzung. Schülerinnen und Schüler nutzen die Ressourcen grundsätzlich ohne Anmeldung bzw. Registrierung, anonymisiert über QR-Codes.

Beaufsichtigung: Da die Anwendung von KI im Bildungssystem als besonders risikobehaftet eingestuft wird (KI-Verordnung), ist eine dauernde Beaufsichtigung der Nutzung in allen Lernsettings erforderlich, um vor unreglementierter Nutzung zu schützen. Risiken aufgrund einer expliziten Eingabe personenbezogener Daten werden durch vorgeschaltete Reflexion und Begleitung der Lernprozesse minimiert (vgl. Regeln).

Regeln für den Einsatz im ZfsL und im Unterricht: Für alle Anwendungsszenarien gilt grundsätzlich:

a) Transparenz- und Informationspflicht

§  Bereiche und Ziele, für die KI eingesetzt werden soll, werden klar beschrieben (fachliche Zielsetzung, kein Selbstzweck: digitale Förderung fachlicher Ziele und fachliche Förderung digitaler Ziele).

§  KI-Einsatz wird immer kenntlich und damit sichtbar gemacht[2].

§  Es wird grundsätzlich bezogen auf das gewählte System über die geltenden Datenschutzhinweise informiert. Zu AIS-Chat finden Sie diese hier: https://ais-chat.schule/datenschutzerklaerung/ 

b) Reflexion und Prüfung von Einsatzbereich u. Ergebnis

§  KI-generierte Inhalte werden nie ungeprüft oder als einzige Informationsquelle genutzt.

§  Bei der Prüfung KI-generierter Inhalte werden neben sachlichen Aspekten (z. B. Gehalt, Plausibilität) und methodischen Überlegungen (z. B. Prompting) auch ethische Fragen berücksichtigt (z. B. Formen von Bias).

c) Datenschutz und Umgang mit personenbezogenen Daten

§  Der Verzicht auf die explizite Eingabe personenbeziehbarer Daten (Text, Bild, Stimme) wird regelmäßig erläutert und reflektiert.

Die schulinternen Regeln sind zum Einsatz und Umgang mit KI im schulischen Einsatz maßgeblich. Im Rahmen der Ausbildung ist der hier beschriebene Handlungsrahmen zu beachten und ggf. mit den schulinternen Regeln abzustimmen. Damit soll einerseits ein rechtssicherer Einsatz gewährleistet sein und andererseits der gleichsinnige Gebrauch in der Ausbildung gesichert werden (z. B.: Einsatz im Unterricht für Strukturierungsaufgaben, Feedback, Überarbeitungsprozesse ja – für Leistungsbewertung nur unter bestimmten Bedingungen, die z. B. den menschlichen Letztentscheid sichern etc.). [3]

Als weitere Grundlagen können z. B. die folgenden Angebote des MSB genutzt werden:

·       Handlungsempfehlung für die Bildungsverwaltung zum Umgang mit Künstlicher Intelligenz in schulischen Bildungsprozessen

·       Handlungsleitfaden „Umgang mit textgenerierenden KI-Systemen“

·       Selbstlernkurs „Künstliche Intelligenz im Schulalltag“

·       Fortbildungsinitiative KI-Skilling.NRW: eine landesweite Fortbildungsinitiative für Lehrkräfte des Landes Nordrhein-Westfalen, die weitgehend digital durchgeführt wird und im November 2025 gestartet ist. 

·       Lehren und Lernen in der digitalen Welt

7. Präsentation "Souverän im digitalen Raum"

=>Link