Animierte Navigation ausschalten

  • KI

    • Zielsetzung: 

      In diesem Tutorial können Sie sich zu den Grundlagen des Themas KI in Schule informieren und erhalten Anregungen zur Vertiefung. Sie können drei Elemente anwählen: 

      1. Einen Kurzfilm über KI (2:19 Min.), mit dessen Hilfe Sie Ihre Haltung prüfen können (entweder als Einstieg oder nach der Vergewisserung durch die Darstellung unter 2)
      2. Eine Darstellung mit Fokus auf die basalen Aspekte sowie den Datenschutz; 
      3. Ein kurzes interaktives Element zur Überprüfung Ihres Lernfortschritts (Links zu weiteren interaktiven Lernmodulen finden Sie am Ende der Darstellung!).
      4. Ein interaktives Element zur Erschließung und Diskussion des Rechtsrahmens nutzen.

    • 1. Erklärvideo

      Sichten Sie das Erklärvideo (erstellt von KI-Campus unter der Lizenz Cc-By-Sa 4.0) und prüfen Sie Ihre Haltung (in Bezug auf die Nutzung als Lehrkraft bzw. in Schule und Unterricht):  

      Wo stimmen Sie zu, wo nicht? Was ist evtl. zu positiv oder zu negativ dargestellt? Was fehlt Ihnen hier?


    • 2. Darstellung: KI und Datenschutz in der Schule

      2.1. Verstehen und Einordnen: "Rising of powerful KI ... either the best or the worst thing ever to happen to humanity" (S. Hawking)?

      2.1.1 Als Ausgangspunkt: Ergründen der eigenen Haltung

      2016 sagte Stephen Hawking voraus, die Entwicklung von KI werde entweder das Beste oder das Schlimmste sein, was der Menschheit je widerfahren wird. Nehmen Sie sich zu Beginn dieses Tutorials einen Moment und ergründen Sie Ihre aktuelle Haltung zu KI als LEHRKRAFT: Notieren Sie mögliche Chancen und Gefahren. Im Verlauf des Tutorials können Sie hierauf nochmals blicken. 

      2.1.2 Was KI ist und kann - in aller Kürze

      Künstliche oder artifizielle Intelligenz (KI/AI) bezeichnet die Nachahmung intelligenten menschlichen Verhaltens durch Computer. Aufnahme, Verarbeitung, Speicherung und Wiedergabe von Informationen imitieren insofern Wahrnehmungs- und Aktionsprozesse von Menschen. Künstliche Intelligenz erkennt Sprache und Bilder und reagiert im Rahmen von wiedererkannten Mustern hierauf angemessen. Insofern 

      - lernt künstliche Intelligenz, indem sie erfahrungs- und beispielgeneriertes Wissen verallgemeinert (wahrscheinlichkeitsbasiert, auf statistischer Basis als maschinelles Lernen oder unter Nutzung sogenannter "neuronaler Netze" als deutlich eigenständigere Modifikation der Verbindungen zwischen den "Knotenpunkten" des künstlichen Lernnetzes (deep learning)). 

      - denkt sie, indem sie zunehmend validere Lösungen zu unbekannten Fragen entwickelt und somit Vorhersagen tätigt, Empfehlungen gibt oder auch Entscheidungen trifft. 

      Während in den 80er Jahren die Prototypen oder Ideen von künstlicher Intelligenz den Turing-Test (Unterscheidbarkeit von menschlicher und künstlicher Intelligenz) noch nicht bestanden hätten, erreichen die aktuellen Systeme durchaus andere Ergebnisse. Drei Aspekte hierfür bedeutsam: 

      1. Auch wenn uns das Erscheinen von ChatGPT als ein plötzliches Ereignis mit umfassender Wirkung erscheint, ist dieses Phänomen Teil einer langdauernden Entwicklung. Beginnend vielleicht mit dem Turing-Test 1950, über Eliza als ersten Chatbot (1966) ist ChatGPT nur eine von zahlreichen KI, die z. .B. in Suchmaschinen Anwendung finden (vgl. Bard bei Google).  

      2. Neben der technischen Entwicklung muss die Ausweitung der Aufgabenbereiche genannt werden. So hilft z. B. Durable AI beim Coding, unterstützen ChatGPT (Microsoft) oder Bard (Google) u. a. Recherche bzw. Textproduktion, flankiert oder ersetzt Flair AI Designer:innen oder ContentEdge Marketingspezialisten. Ein Beispiel für die Sprengung der Grenzen von Profession zum Alltag ist DeepL (Übersetzungsassistent), während Siri und Alexa schon weit im täglichen Leben vieler Menschen angekommen sind. Tools wie Midjourney (z. B. Bildveränderung oder- generation auf Basis von Text) formen  unsere Wahrnehmung von Welt (z. B. Trump hinter Gittern). 

      3. Zuletzt gilt der Blick dem Tempo und der Reichweite der Nutzung. Während Netflix nach seinem Markteintritt 3,5 Jahre benötigt hat, um eine Million Nutzer:innen zu erreichen, hat ChatGPT dies 2022 innerhalb von 5 Tagen geschafft. 

      Insgesamt muss also konstatiert werden, dass wir es mit einer Entwicklung zu tun haben, der man sich kaum entziehen kann. Ob es sich bei den aktuellen Formaten wie ChatGPT bereits um eine "Kommunikation mit einem sehr klugen Menschen" handelt (Jan-Martin Klinge), oder ob die sogenannten künstlichen Intelligenzen diesen Namen noch nicht wirklich verdienen, ist letztlich eine Frage der individuellen Bewertung - und auch Erkundung. Hieraus erwächst für Schule eine medienerzieherische Aufgabe. 

      2.2. KI-Systeme und die Rechtsvorgaben: das Beispiel ChatGPT

      Aus Sicht des Datenschutzes müssen im Zusammenhang mit der Nutzung eines KI-basierten Sprachgenerators wie ChatGPT in der Schule verschiedene Aspekte beachtet werden. Zunächst der Umgang mit personenbezogenen Daten: Bei der Nutzung einer digitalen KI fallen u. U. zahlreiche personenbezogene Daten an (neben technische Daten wie Logins auch die Kontodaten der Nutzenden, Art, Form und Inhalt der Nutzung).  Eine Verarbeitung ist nur auf Basis einer Rechtsgrundlage gestattet. Sind mit der Verarbeitung Dritte beauftragt, muss ein Vertrag zur Auftragsdatenverarbeitung geschlossen werden. OpenAI, die hinter dem Chatbot GPT stehen, ist als US-Anbieter nicht DSGVO-konform; ein Vertrag zur Auftragsdatenverarbeitung existiert inzwischen, ist jedoch noch nicht geprüft. In den eigenen FAQ finden sich zudem Warnungen vor der Preisgabe sensibler persönlicher Daten. 

      Die Nutzungsbedingungen des Anbieters sehen vor, dass eine Nutzung ab 18 Jahren möglich ist und betont, dass sich das Angebot nicht an Kinder unter 13 Jahren richtet. Auf Nachfrage hat OpenAI im Februar 2023 eine Nutzung mit Einwilligung der Eltern für Jugendliche zwischen 13 und 18 als zulässig erklärt. Da ein Tweet auf Twitter nur bedingt als rechtsverbindlich gelten kann, handelt es sich hier mindestens um eine Grauzone, erst recht aus Sicht der Schule. Da für die Registrierung eine Telefonnummer hinterlegt werden muss, ist eine anonyme Nutzung nicht möglich. 

      Nach dem Blick auf die Regularien seien kurz die konkreten Risiken skizziert: Auch und gerade im Bereich Datenschutz muss sich die Verantwortbarkeit ja mit Blick auf diese messen lassen. Ein Risiko für die Nutzenden kann entstehen, wenn diese Daten und auch die Interaktionen der Nutzenden in das Modell an sich einfließen (als Teil des "Lernprozesses" bzw. des Trainings der KI) und damit für Dritte offengelegt werden. Weitere Risiken ergeben sich durch die Nutzung der Daten für ein Profiling der Nutzenden (und z. B. die Verwendung der hier gewonnenen Informationen für Auswahl von digital präsentierten Inhalten). Auch eine Manipulation der Nutzenden durch die Antworten der KI ist möglich (gerade die adressatengerechte und in sich geschlossene Form der Antworten verführt zur vorbehaltlosen Zustimmung). Neben den Nutzenden selbst können auch Risiken für Dritte entstehen, wenn deren Daten als Prompts (Anfragen, siehe unter 3) eingebracht werden. Das geschieht leicht, wenn z. B. im Fach Deutsch Bewerbungsschreiben mit Lebenslauf trainiert oder überarbeitet werden, Schülertexte von Lehrkräften zur Bewertung als Prompt eingegeben werden oder wenn aus Stichworten ein Gutachten für eine:n LAA (ein Protokoll für ein Elterngespräch etc.) erstellt wird. 

      2.3. Möglichkeiten und Grenzen

      Das Schulministerium begleitet die Arbeit mit KI in der Schule inzwischen in vielfältiger Weise. In den Ethischen Leitlinien der EU für Lehrkräfte über die Nutzung von KI finden sich neben der Forderung nach dem Vorrang menschlichen Handelns und menschlicher Aufsicht, Transparenz, Nichtdiskriminierung bzw. Zugänglichkeit, gesellschaftlich-ökologischem Wohlergehen, technischer Sicherheit und Rechenschaftspflicht bzw. Überwachung auch die Forderung nach Beachtung von Datenschutz. Im Fokus steht immer die Begrenzung und der Schutz von sensiblen Daten. Demzufolge kommt das Schulministerium NRW in ihrem Handlungsleitfaden zu der Einschätzung, dass im Rahmen des Bildungs- und Erziehungsauftrags ein verantwortungsbewusster Umgang auch mit KI-basierten Textgeneratoren wie ChatGPT grundsätzlich thematisiert werden muss. Jedoch wird die Nutzung über eigene Geräte von Schüler:innen (unter 18 Jahren) auf Basis der aktuellen Rechtslage nicht empfohlen. Eine Nutzung (ohne Verwendung personenbezogener Daten) ist über ein Lehrendenkonto erlaubt, das auf freiwilliger Basis zur Verfügung gestellt wird. Dieses Konto kann auch über nicht personalisierte Schüler:innengeräte genutzt werden. 

      Eine datenschutzgerechte Anwendung ist vor allem abhängig von den Prompts (Eingaben bzw. Anfragen der Nutzenden: Ideen zur Anleitung z. B. in Unterrichten digital): neben einer Verbesserung des Outputs durch strukturierte Prompts oder Megaprompts (z. B. durch Angabe von Kontext, einzuhaltenden Nebenbedingungen oder Format des Outputs) ist hier die Vermeidung von personenbezogenen Daten wesentlich. Ein Schüleraufsatz könnte durchaus durch ChatGPT bewertet oder mit Verbesserungen versehen werden, wenn sichergestellt ist, dass der Text nicht namentlich zugeordnet werden kann (z. B. durch Anonymisierung, Eingabe an einem nicht-personalisierten Schulgerät). Unter diesen Voraussetzungen lässt sich z. B. die Nutzung der KI als Trainer sowohl anleiten als auch bewerten - etwa mit Blick auf die Veränderung bzw. Verbesserung des Lernprodukts. Dies entspricht im Grund auch deutlich mehr der Forderung nach mehr Prozessorientierung im (kompetenzorientierten) Lernen. 

      2.4. Diskurs

      Der aktuelle Diskurs ist über weite Strecken von einer proaktiven Haltung gekennzeichnet, die Verbote für unsinnig und realitätsfern, einen transparenten und kompetenten Umgang mit KI jedoch für unabdingbar hält.  

      Insofern gilt es, Anwendungsbereiche zu ergründen, die die Unterstützungsleistung der KI mit Blick auf den Datenschutz und die weiteren ethischen Leitlinien (s. o.) in die Vorbereitung von Unterricht (Materialerstellung, Routineaufgaben, ...), aber auch in die Durchführung integrieren. Die adressatengerechte Erstellung von Übungsaufgaben dürfte hier eine ebenso große Rolle spielen wie die Entwicklung von funktionalen Prompts (Auswertung von unterschiedlichen Fragestrukturen). 

      Die Herausforderungen im Bereich Datenschutz und Urheberrecht geraten gelegentlich aus dem Blick, wenn nicht bedacht wird, dass der Umgang mit Daten (auch anderer Personen) der fortwährenden Sensibilisierung bedarf - so benennen selbst die Ethischen Leitlinien des Ministeriums im Falle einer automatisierten Bewertung von Aufsätzen den Datenschutz nicht als relevante Leitlinie, obgleich es sich hier um sensible Leistungsdaten handelt (die Voraussetzung, dass der Text hier anonymisiert und streng genommen auch nicht handschriftlich vorliegen müsste, wird nicht benannt). 

      Bei aller Begeisterung z. B. für die passgenauen Angebote großer Anbieter wie Fobizz oder schulKI, die eine datenschutzgerechte Anwendung von KI versprechen, bleibt zu beachten, dass dies keinen Freibrief für eine beliebige Nutzung darstellt. Auch das sprachlich geschlossene Bild der Ergebnisse täuscht nicht darüber hinweg, dass die KI gelegentlich halluziniert - die Washington Post sprach in einem Artikel von "kohärentem Unsinn", der gleichwohl schwer als solcher zu erkennen ist. Auch damit gilt es umzugehen - denn das Werkzeug wird bleiben. 

      Zum Schluss: Blicken Sie nochmals auf Ihre anfänglichen Überlegungen - hat sich Ihre Liste mit Chancen und Gefahren verändert? Kommen Sie im Seminar ins Gespräch! 

      2.5. Weiterführende Informationen 

    • 3. Fit in der Einschätzung relevanter Überlegungen beim Einsatz KI-basierter Systeme? Einige Handlungssituationen 





    • 4. KI und Rechtsrahmen: Interaktives Element zur Bearbeitung allein oder zu zweit