Während die Diskussion rund um KI im deutschen Bildungssystem bisher eher eine Randerscheinung war, hat sich dies seit der kürzlichen Veröffentlichung von ChatGPT und vergleichbaren generativen Transformern zu einem sehr intensiven Diskurs gewandelt mit einer hohen Eigendynamik. Einige Hochschulen haben bereits begonnen, KI-Dienste in ihr Serviceportfolio aufzunehmen und für Studierende anzubieten. Zugleich gibt es bereits erste Handreichungen zum Umgang mit ChatGPT für Studierende und Lehrende sowie Rechtsgutachten zur Nutzung dieser Dienste und Stellungnahmen und Einschätzungen aus der Wissenschaft, die auch erste ethische Dimensionen skizzieren.
Die Unterzeichnenden begrüßen die Nutzung von digitalen Technologien zur Verbesserung von Bildungschancen und zum Umgang mit heterogenen Gruppen von Lernenden. Zur gleichen Zeit zeigen die Unterzeichnenden sich überrascht über die Geschwindigkeit, mit der KI-Dienste Einzug halten in die Landschaft der Hochschulen ohne vorherige Prüfung der ethischen Rahmenbedingungen und der potenziellen Effekte des Einsatzes. Die Datenlage zu Effekten des Einsatzes KI-basierter Systeme im Bildungsbereich ist spärlich und es herrscht ein Paradigma der algorithmischen Optimierung auf Basis vorhandener Daten vor anstatt der kontrollierten Implementation mit evidenzbasierter Überprüfung auch nicht gewünschter Seiteneffekte.
Aufruf
Aus diesem Grund wird zur Unterzeichnung einer Petition mit folgenden Forderungen aufgerufen:
- Die vorherige ethische Prüfung von KI-basierten Systemen, die im deutschen Bildungssystem zum Einsatz kommen sollen
- Die transparente und nachvollziehbare Information von Studierenden und Lehrenden bei der Nutzung dieser Systeme über Datenströme und Umgang mit den Daten sowie die Möglichkeit des Opt-Out
- Die deutliche Kennzeichnung von Verantwortlichkeiten bei der Implementation von KI-basierten Systemen
- Die Verminderung eines durch die Datenbasis gegebenen Verzerrungseffektes (Bias)
- Die präferierte Nutzung von offenen Sprachmodellen, die nicht in der Hand von Firmen mit kommerziellen Interessen liegen, sondern einem Open-Source-Gedanken folgen und transparent und nachvollziehbar sind
- Die Aufklärung der Nutzenden, dass diese über die Nutzung an der Optimierung des Sprachmodells mitwirken
- Die Sicherstellung des Vorrangs menschlichen Handelns und der menschlichen Aufsicht vor automatisierten Entscheidungsketten
- Die staatliche Förderung von Bildungsprogrammen zur Aufklärung über die Funktionsweisen von KI und Algorithmen
- Die Pilotierung von KI-basierten Systemen im Bildungsbereich vor der Implementation derartiger Dienste und Formate
- Die Auflegung eines Förderprogramms zu ethischen Dimensionen des Einsatzes KI-basierter Systeme im Bildungsbereich