1.3 Verantwortungsbewusster Einsatz von KI

Kernbotschaften 
 
 Verantwortung ist eine Gestaltungsaufgabe, keine Kontrollaufgabe. Die Erkennung von KI funktioniert nicht zuverlässig. 
 Und KI-Erkennung ist unfair, wenn sie versagt. Es besteht das Risiko, Antworten fälschlich als KI-generiert zu identifizieren – oder umgekehrt. Mehrere europäische Länder haben diese Werkzeuge bereits ausgeschlossen. 
 Selbstsichere Erfindung und ererbte Verzerrungen ergeben sich daraus, wie diese Systeme gebaut und bewertet werden. Die Konsequenz sollte sein: sie zu lehren, statt auf eine Reparatur zu warten. 
 Das Wirkprinzip lautet: erst denken, dann KI. Menschen dazu zu bringen, sich zunächst auf eine eigene Antwort festzulegen, schlägt das Erklären der Maschine; Grenzen in die Software einzubauen schlägt ein Verbot. 
 Prompts allein halten nicht. Ein Chatbot, der als Tutor agieren soll, neigt dazu, wieder in die Antwortvergabe zurückzufallen, was verlässliche Grenzen zu einer Beschaffungsfrage macht. 
 Verstärkung ist der Normalfall; Ausgleich muss aus Zugang, Gestaltung und Lernbegleitung gemeinsam aufgebaut werden – und das Knappste der drei ist eine geschulte Lehrkraft. 
 Inklusion ist der klarste Gewinn , und dort sehen Lehrkräfte selbst das stärkste Argument. 
 
 
 Wenn Sie sich nur einen Satz von dieser Seite merken: Die Dämme brechen. Bringen Sie das Schwimmen bei. 
 
 Das Lesetagebuch, zweiter Blick 
 Zurück zu unserem Neuntklässler und seinem verdächtig druckreifen Lesetagebuch. Der Instinkt ist fast universell, und es ist der Instinkt einer guten Lehrkraft: herausfinden, ob er KI benutzt hat. Einen besseren Damm bauen. 
 Dieses Kapitel handelt davon, warum dieser Instinkt für sich genommen nicht weiterführt. Wir kommen dazu, was stattdessen funktioniert. 
 Beginnen wir mit dem unbequemen Teil. Lehrkräfte können KI-Text nicht zuverlässig von Schülertext unterscheiden. In einer deutschen Studie erhielten 289 Lehrkräfte unterschiedlicher Erfahrung eine Mischung aus Schüler- und Chatbot-Texten und sollten diese sortieren. Keine der beiden Gruppen konnte es. Aber beide Gruppen waren zuversichtlich, dass sie es könnten. Erfahrung machte fast keinen Unterschied. Im großen Maßstab ist es noch schlimmer. An einer Universität reichten Forschende von Chatbots erzeugte Antworten über die üblichen Kanäle in das echte Prüfungssystem ein, ohne die Korrigierenden zu informieren. 94 % wurden nie hinterfragt . Zudem wurden sie im Schnitt besser bewertet als die Arbeiten echter Studierender. Was folgt daraus? Wir greifen zur Maschine! Und genau hier hört der Befund auf, nur unbequem zu sein, und wird zu einem ethischen Problem! 
 Der Detektor, der die Falschen im Stich lässt 
 Forschende testeten sieben der am weitesten verbreiteten KI-Detektoren an TOEFL-Aufsätzen von Schüler:innen, die Englisch als Fremdsprache lernen. Daneben legten sie Aufsätze englischer Muttersprachler:innen aus amerikanischen achten Klassen. Die Arbeiten der Muttersprachler:innen wurden fast immer korrekt eingestuft. Von den fremdsprachigen Aufsätzen wurden mehr als sechs von zehn fälschlich als maschinell geschrieben markiert . 
 Der Mechanismus ist kein Geheimnis. Diese Werkzeuge erkennen nicht die Arbeit von Large Language Models, sie erkennen Vorhersehbarkeit . Text, der gängige Wörter in erwarteter Reihenfolge verwendet, wird als künstlich eingestuft. Wer in einer Zweitsprache schreibt, mit kleinerem Wortschatz und sichereren Satzstrukturen, erzeugt genau dieses Signal. Die Fehler des Werkzeugs treffen systematisch die Schüler:innen, die ohnehin schon am meisten zu tragen haben. Institutionen haben nachgerechnet. Die Vanderbilt University wies darauf hin, dass selbst wenn ein solches Werkzeug nur in 1 % der Fälle irren würde, das immer noch rund 750 zu Unrecht beschuldigte Studierende pro Jahr bei 75.000 eingereichten Arbeiten bedeuten würde. Folglich schalteten sie es ab. Die Leitlinie des deutschen Bundesbildungsministeriums ist unmissverständlich: Die Technologie sei „nicht zuverlässig genug, um einen rechtssicheren Nachweis zu liefern" . 
 Ein Großteil Europas diskutiert das nicht mehr. Frankreich, die Niederlande und die Schweiz raten von Detektoren ab oder verbieten sie. Die britische Prüfungsaufsicht hat sich bewusst für menschliches Urteilsvermögen anstelle von Software entschieden. Das niederländische Argument geht noch einen Schritt weiter und lohnt sich zu merken: Die Arbeit einer Schülerin oder eines Schülers in einen Detektor einzufügen, ist selbst eine Verarbeitung personenbezogener Daten , und dies ohne Erlaubnis zu tun, verstößt gegen das Datenschutzrecht. → 1.4 Konformer Einsatz von KI 
 Es scheint, dass die Betrugspanik dünner ist als der Lärm darum. Forschende befragten Schüler:innen an drei weiterführenden Schulen vor und nach der Einführung von ChatGPT. Das Ausmaß des Betrugs blieb weitgehend gleich. Die meisten Schüler:innen lehnten es ab, einen Chatbot einfach ihre Arbeit erledigen zu lassen, hielten es aber für fair, ihn zum Einstieg oder zur Erklärung von etwas zu nutzen. 
 Die eigentliche Frage war nie: „Wie erwische ich ihn?" Sie lautet: Was misst eine Hausaufgabe eigentlich noch, sobald sich ihr Produkt auf Abruf erzeugen lässt? 
 Zwei Dinge, die nicht behoben werden, also müssen sie gelehrt werden 
 Selbstsichere Erfindung ist eingebaut. Diese Systeme erzeugen plausible Fortsetzungen eines Textes, die nicht dasselbe sind wie wahre. Forschende haben inzwischen formal gezeigt, woher das kommt: Die Standardtests zur Bewertung von Large Language Models belohnen selbstsicheres Raten gegenüber dem Eingeständnis von Unsicherheit, und solange so gemessen wird, bleibt eine gewisse Rate an flüssigen, wohlgeformten Falschaussagen bestehen. Das ist eine Eigenschaft davon, wie diese Systeme gebaut und bewertet werden, kein Fehler, der auf einen Patch wartet. 
 Auch die Schieflagen im Trainingsmaterial sind eingebaut. Zudem schrumpfen sie nicht, wenn sich die Technologie verbessert. Eine europäische Studie zu Geschlechterstereotypen über verschiedene Sprachen hinweg fand, dass größere Modelle – selbst nach zusätzlichem Training, das sie sicherer und fairer machen soll – manchmal stärker statt schwächer stereotypisieren. Wenn sich eine Eigenschaft nicht wegentwickeln lässt, wird sie zum Lehrplan. Und sie lässt sich lehren: In einem finnischen Programm stieg der Anteil der Schüler:innen, die Verzerrungen in der Ausgabe eines KI-Systems erkennen konnten, von 7 % auf 44 % . Die Konsequenz für den Unterricht muss sein, Fehleranalyse statt Fehlervermeidung zu trainieren. Mit anderen Worten: Die Fehler der Maschine werden zur Lektion. 
 Was funktioniert: Gestaltung statt Kontrolle 
 Die Evidenz weist auf ein einfaches, leicht zu merkendes Prinzip hin: erst denken, dann KI. 
 
 Den Menschen zuerst festlegen lassen. In einer Versuchsreihe erkannten Personen, die ihre eigene Antwort aufschreiben mussten, bevor sie den Vorschlag der Maschine sahen, weit mehr von deren Fehlern als Personen, denen detaillierte Erklärungen der maschinellen Argumentation gezeigt wurden. Die KI zu erklären half nicht, das Problem zu lösen, das Erzwingen des eigenen Urteils hingegen schon. Mit einem ehrlichen Vorbehalt: Die Varianten, die am besten funktionierten, waren jene, die den Teilnehmenden am wenigsten gefielen, und sie halfen am meisten jenen, die ohnehin gerne anstrengend nachdenken. Es handelt sich also um ein Phänomen, das auch als Matthäus-Effekt bekannt ist: Wer schon hat, dem wird gegeben. Sie profitieren am meisten von diesem Ansatz. 
 Die Grenzen einbauen. Der Chatbot aus Kapitel 1.3 , der Antworten zurückhielt und stattdessen Rückfragen stellte, ist dieselbe Idee als Software: Die Schüler:innen, die ihn nutzten, verloren in der Prüfung nichts, während die mit der uneingeschränkten Version deutlich verloren. 
 Den Prozess sichtbar machen, statt dem Produkt hinterherzujagen. Entwürfe, Arbeitsnotizen, ein kurzes Gespräch über die Arbeit. Diese zeigen Ihnen, was ein Schüler oder eine Schülerin kann, ohne dass jemand beweisen muss, was er oder sie getan hat. 
 Dänemark erprobt das Prinzip: An teilnehmenden Schulen dürfen Schüler:innen KI bei der Vorbereitung auf die mündliche Englischprüfung nutzen, und die schriftliche Prüfung enthält einen handschriftlichen, hilfsmittelfreien Teil. 
 
 Zwei Einschränkungen sollte man kennen, bevor man sich darauf verlässt. Die erste: Der beliebte Rat, Lehrkräfte sollten einen Chatbot einfach anweisen, als sokratischer Tutor zu agieren, übersteht kein längeres Gespräch. Zumindest derzeit neigt das System dazu, wieder in die reine Antwortvergabe zurückzufallen. Verlässliche Grenzen müssen in das System eingebaut sein, was sie zu einer Beschaffungsentscheidung macht statt zu einer Prompting-Fähigkeit. Die zweite: Eine KI ihre Argumentation erklären zu lassen, klingt wie die naheliegende Absicherung, aber Erklärungen verhindern übermäßiges Vertrauen nicht zuverlässig. In einer Studie ließen sie die Akzeptanz falscher Ratschläge unverändert, und zu technische oder zu vereinfachte Erklärungen können fehlgeleitetes Vertrauen sogar verstärken. Erklärung ist eine Voraussetzung, keine Lösung. 
 Haltung: zwei Fehlermodi, nicht einer 
 Wir sorgen uns, dass Lehrkräfte der KI zu sehr vertrauen. Wir sollten uns jedoch ebenso um das Gegenteil sorgen. Selbst erfahrene Menschen können durch übermäßiges Vertrauen hereingelegt werden. In einer Studie überprüften Lehrkräfte KI-generierte Bewertungen. Sie beurteilten 42 % des Feedbacks der Maschine als vage oder falsch, änderten aber nur 9 % davon. Einen Fehler zu erkennen und ihn zu korrigieren sind zwei verschiedene Vorgänge. 
 Der gegenteilige Pol ist Verheimlichung. Lehrkräfte verbergen ihre eigene KI-Nutzung vor Kolleg:innen und Schüler:innen und verbieten diesen, was sie selbst tun: 77 % nutzen KI privat, während 57 % sagen, Schüler:innen sollten sie nie zur Ideenfindung nutzen. Zugleich fand eine Studie unter akademisch starken Schüler:innen der Klassen 6 bis 8, dass zwischen einem Drittel und zwei Fünfteln bereits sagten, die KI wisse mehr als ihre Lehrkräfte. Ein Berufsstand, der seine Praktiken verbirgt, kann verantwortungsvolle Praxis nicht vorleben , und Transparenz ist nicht nur eine Höflichkeit. Sie ist der Mechanismus, durch den Lernen am Vorbild funktioniert. 
 Ebnet KI das Spielfeld oder kippt sie es? 
 Bei arbeitsbezogenen Aufgaben gleicht KI Unterschiede aus. In einem Experiment schnitten Teilnehmende mit höherer Bildung deutlich besser ab als solche mit niedrigerer Bildung. Erhielt jede Person eine KI-Assistenz, verschwanden diese Unterschiede fast vollständig. Nahm man die Assistenz wieder weg, kehrte vieles davon zurück. Was die KI schloss, war die Lücke im Output, nicht die Lücke in der Fähigkeit. 
 Bei Lernaufgaben ist es umgekehrt. Eine Studie fand im Schnitt gar keinen Nutzen, aber einen wachsenden Abstand zwischen Schüler:innen, die bereits viel wussten, und solchen, die es nicht taten. Eine andere untersuchte Schüler:innen, die in einer Fremdsprache schrieben: Die schwächeren Schreiber:innen erhielten mehr Korrekturen von der KI und setzten weniger davon erfolgreich um, und mehrere empfanden die Flut an Feedback als entmutigend. Feedback ohne die Fähigkeit, es zu sortieren, hilft nicht; es begräbt. 
 Die Lücke besteht auch schon, bevor überhaupt jemand ein Werkzeug anfasst. In Deutschland sehen 80 % der Schüler:innen aus den privilegiertesten Elternhäusern KI als Chance, gegenüber 55 % aus den am wenigsten privilegierten . In Großbritannien verläuft die Trennlinie eher durchs Lehrerzimmer als durch den Geräteschrank: 45 % der Lehrkräfte an Privatschulen haben eine formale KI-Fortbildung erhalten, gegenüber 21 % an staatlichen Schulen. Innerhalb des staatlichen Sektors liegen wohlhabendere Schulen wiederum vor ärmeren. Eine Befragung von Kindern in 20 europäischen Ländern findet dieselbe soziale Kluft darin, wie viel und wie vielfältig sie KI nutzen. Ein Satz fasst das ganze Problem besser zusammen als jede Zahl: „Die Reichen haben Zugang zu Technologie und zu Menschen, die ihnen bei der Nutzung helfen, während die Armen nur Zugang zur Technologie haben." Das ist das stärkste verfügbare Argument dafür, dass Lehrkräfte entscheidend sind, um diese Lücke zu schließen. 
 Der Engpass ist also, welche Lernenden eine geschulte Lehrkraft haben. KI gleicht aus, wenn drei Dinge zusammenkommen: sicherer Zugang, ein für das Lernen (statt für das Liefern von Antworten) gestaltetes Werkzeug, und eine Lehrkraft, die die Nutzung anleitet. Fehlt eines davon, verstärkt sie stattdessen. Da alle drei tendenziell an denselben Schulen vorhanden bzw. an denselben Schulen abwesend sind, ist Verstärkung der Normalfall, und Ausgleich ist etwas, das man aktiv aufbauen muss.