1.3 Verantwortungsbewusster Einsatz von KI
Kernbotschaften
- Verantwortung ist eine Gestaltungsaufgabe, keine Kontrollaufgabe. Die Erkennung von KI funktioniert nicht zuverlässig.
- Und KI-Erkennung ist unfair, wenn sie versagt.
EsDetektorenbestehtmarkierendasmenschlicheRisiko, AntwortenArbeiten fälschlich als KI-generiertzuundidentifizierenübersehen–KI-generierteoderArbeiten.umgekehrt.BildungsbehördenMehrereineuropäischeFrankreichLänderundhabendendieseNiederlandenWerkzeugeratenbereitsvonausgeschlossen.ihrem Einsatz ab. - Selbstsichere Erfindung und ererbte Verzerrungen ergeben sich daraus, wie diese Systeme gebaut und bewertet werden. Die Konsequenz sollte sein: sie zu lehren, statt auf eine Reparatur zu warten.
- Das Wirkprinzip lautet: erst denken, dann KI. Menschen dazu zu bringen, sich zunächst auf eine eigene Antwort festzulegen, schlägt das Erklären der
Maschine;Maschine,Grenzenund in die SoftwareeinzubaueneingebauteschlägtGrenzeneinbeseitigenVerbot.den Schaden, den uneingeschränkter Zugang anrichtet. - Prompts allein halten nicht. Ein Chatbot, der als Tutor agieren soll, neigt dazu, wieder in die Antwortvergabe zurückzufallen, was verlässliche Grenzen zu einer Beschaffungsfrage macht.
- Verstärkung ist der Normalfall; Ausgleich muss aus Zugang, Gestaltung und Lernbegleitung gemeinsam aufgebaut
werdenwerden.–DasundKnappste,dasaberKnappsteWichtigste der drei ist eine geschulte Lehrkraft. - Inklusion ist der klarste Gewinn, und dort sehen Lehrkräfte selbst das stärkste Argument.
Wenn Sie sich nur einen Satz von dieser Seite merken: Die Dämme brechen. Bringen Sie das Schwimmen bei.
Das Lesetagebuch, zweiter Blick
Zurück zu unserem Neuntklässler und seinem verdächtig druckreifen Lesetagebuch. Der Instinkt ist fast universell, und es ist der Instinkt einer guten Lehrkraft: herausfinden, ob er KI benutzt hat. Einen besseren Damm bauen.
Dieses Kapitel handelt davon, warum dieser Instinkt für sich genommen nicht weiterführt. Wir kommen dazu, was stattdessen funktioniert.
Beginnen wir mit dem unbequemen Teil. Lehrkräfte können KI-Text nicht zuverlässig von Schülertext unterscheiden. In einerzwei Studien eines deutschen StudieTeams erhielten 28989 Lehramtsanwärter und 200 erfahrene Lehrkräfte unterschiedlicher Erfahrung eine Mischung aus Schüler-Schüleraufsätzen und Chatbot-TextenAufsätzen und sollten diese sortieren. Keine der beiden Gruppen konnte es.das Aberzuverlässig, aber beide Gruppen waren zuversichtlich, dass sie es könnten. Erfahrung machtehalf fastnur keinenwenig: Unterschied.Auch Imdie großenerfahrenen MaßstabLehrkräfte istübersahen esdie nochmeisten schlimmer.KI-Texte. An einer britischen Universität reichten Forschende von Chatbots erzeugte Antworten über die üblichen Kanäle inbei dasechten, echtenicht Prüfungssystembeaufsichtigten Online-Prüfungen ein, ohne die Korrigierenden zu informieren.
„Sie 94 % wurden nie hinterfragt. Zudem wurdendürfen sie imnutzen, Schnittaber besserSie bewertetmüssen alsdas dieErgebnis Arbeitenin echtereigenen Studierender.Worten Waserklären folgt daraus? Wir greifen zur Maschine! Und genau hier hört der Befund auf, nur unbequem zu sein, und wird zu einem ethischen Problem!können.“
Der Detektor, der die Falschen im Stich lässt
Forschende testeten sieben der am weitesten verbreiteten KI-Detektoren an TOEFL-Aufsätzen von Schüler:innen,Personen, die Englisch als Fremdsprache lernen.lernen; die Aufsätze stammten aus einem chinesischen Online-Forum. Daneben legten sie Aufsätze englischeramerikanischer Muttersprachler:innenAchtklässler ausmit amerikanischenEnglisch achtenals Klassen.Muttersprache. Die Arbeiten der Muttersprachler:innenMuttersprachler wurden fast immer korrekt eingestuft. Von den fremdsprachigen Aufsätzen wurden mehr als sechs von zehn fälschlich als maschinell geschrieben markiert.markiert.
Der Mechanismus ist kein Geheimnis. DieseViele dieser Werkzeuge erkennen nicht die Arbeit von Large Language Models,Models. sieDie erkennenWerkzeuge messen Vorhersehbarkeit. Text, der gängige Wörter in erwarteter Reihenfolge verwendet, wird als künstlich eingestuft. Wer in einer Zweitsprache schreibt, mit kleinerem Wortschatz und sichererenstarreren Satzstrukturen, erzeugtkann genau dieses Signal.Signal erzeugen. Detektoren, die für einen bestimmten Test trainiert wurden, sowie Studien in anderen Sprachen zeigen allerdings geringere Unterschiede. Bislang gibt es auf dem Markt keine Detektoren, die zuverlässig genug sind, um jemandem eine vorsätzliche Täuschung vorzuwerfen.
Die Fehler des Werkzeugs treffen systematisch die Schüler:innen,Schülerinnen und Schüler, die ohnehin schon am meisten zu tragen haben. Institutionen haben nachgerechnet. Die Vanderbilt University wies darauf hin, dass selbst wenn ein solches Werkzeug nur in 1 % der Fälle irren würde, das bei 75.000 eingereichten Arbeiten immer noch rund 750 zufälschlich Unrechtmarkierte beschuldigte StudierendeArbeiten pro Jahr bei 75.000 eingereichten Arbeiten bedeuten würde. Folglich schaltetenschaltete sie es ab. DieEin Leitlinievon desForschenden deutschenfür Bundesbildungsministeriumsdas deutsche Bundesbildungsministerium verfasster Leitfaden ist unmissverständlich: Die Technologie sei „nicht zuverlässig genug, um einen rechtssicheren Nachweis zu liefern"liefern“. Ein unabhängiger europäischer Test von vierzehn Detektoren kam zum selben Urteil: „weder genau noch zuverlässig“.
Ein Großteil Europas diskutierthat dasdiese nichtDebatte mehr.hinter Frankreich,sich diegelassen. NiederlandeDas französische Bildungsministerium und die Schweizfranzösische Datenschutzbehörde raten vonSchulen davon ab, Detektoren abeinzusetzen; oderdie niederländische IKT-Agentur Kennisnet hält sie für höchst unzuverlässig. Im Hochschulbereich verbieten sie.einzelne DieHochschulen, britischeetwa Prüfungsaufsichtdie hatZHAW sichin bewusstZürich, ihren Einsatz für menschlichesdie UrteilsvermögenBewertung. anstelleIn vonEngland Softwareerlauben entschieden.die DasPrüfungsgremien niederländischeErkennungssoftware Argumentnur gehtals nochein einenElement Schritteines weiterUrteils, das bei der Lehrkraft liegt, die „ihre Schülerinnen und Schüler am besten kennt“. Auch ein Datenschutzaspekt lohnt sich zu merken: Die Arbeit einer Schülerin oder eines Schülers in einenein DetektorOnline-Werkzeug einzufügen, istbedeutet, selbstpersonenbezogene Daten zu verarbeiten. Dafür sind eine Verarbeitung personenbezogener Daten,Rechtsgrundlage und diesein ohneVertrag Erlaubnismit zudem tun,Anbieter verstößt gegen das Datenschutzrecht.erforderlich. → 1.4 Konformer Einsatz von KI
Es scheint, dass die Betrugspanik dünner ist als der Lärm darum. Forschende befragten Schüler:innenSchülerinnen und Schüler an drei weiterführendenUS-amerikanischen SchulenHigh Schools vor und nach der Einführung von ChatGPT.ChatGPT und erneut danach. Das Ausmaß des Betrugs blieb weitgehend gleich. DieEine meistenFolgebefragung Schüler:innenvon lehntenmehr esals ab,4.000 einenSchülerinnen Chatbotund einfachSchülern ihrean Arbeitsechs erledigenweiteren zuUS-amerikanischen lassen,High hieltenSchools esein aberJahr fürspäter fair, ihnkam zum Einstiegselben oder zur Erklärung von etwas zu nutzen.Ergebnis.
Die eigentliche Frage war nie: „Wie erwische ich ihn?" Sie lautet: Was misst eine Hausaufgabe eigentlich noch, sobald sich ihr Produkt auf Abruf erzeugen lässt?
„Zuerst habe ich das als Betrug gesehen. Heute sehe ich es als Signal, dass sich die Aufgabe selbst ändern muss.“
Zwei Dinge, die nicht behoben werden, also müssen sie gelehrt werden
Selbstsichere Erfindung ist eingebaut. Diese Systeme erzeugen plausible Fortsetzungen eines Textes, dieund plausibel ist nicht dasselbe wie wahr. Übersichtsarbeiten zur Forschung sind wiesich wahre.einig, Forschendedass habenbislang inzwischenkeine formal gezeigt, woherTechnik das kommt:Problem beseitigt hat, auch wenn es sich verringern und teilweise erkennen lässt. Der Grund: Die Standardtests zur Bewertung von Large Language Models belohnen selbstsicheres Raten gegenüber dem Eingeständnis von Unsicherheit, und solange so gemessen wird, bleibt eine gewisse Rate an flüssigen, wohlgeformten Falschaussagen bestehen. Das ist eine Eigenschaft davon, wie diese Systeme gebaut und bewertet werden, kein Fehler, der auf einen Patch wartet.
Auch die Schieflagen im Trainingsmaterial sind eingebaut. Zudem schrumpfen sie nicht, wenn sich die Technologie verbessert. Eine europäische Studie zu Geschlechterstereotypen über verschiedene Sprachen hinweg fand, dass größere Modelle – selbst nach zusätzlichem Training, das sie sicherer und fairer machen soll – manchmal stärker statt schwächer stereotypisieren. Wenn sich eine Eigenschaft nicht wegentwickeln lässt, wird sie zum Lehrplan. Und sie lässt sich lehren: In einem finnischen Programm stieg der Anteil der Schüler:innen, die Verzerrungen in der Ausgabe eines KI-Systems erkennen konnten, von 7 % auf 44 %. Die Konsequenz für den Unterricht muss sein, Fehleranalyse statt Fehlervermeidung zu trainieren. Mit anderen Worten: Die Fehler der Maschine werden zur Lektion.
„Lassen Sie die Lernenden die Lösung des Chatbots prüfen, als wären sie die Lehrkraft. Gerade durch die Suche nach den Fehlern lernen sie schließlich die Methode.“
Was funktioniert: Gestaltung statt Kontrolle
Die Evidenz weist auf ein einfaches, leicht zu merkendes Prinzip hin: erst denken, dann KI.
- Den Menschen zuerst festlegen lassen. In
einereinemVersuchsreiheExperimenterkanntenmit rund 200 Erwachsenen folgten Personen, die ihre eigeneAntwortEntscheidungaufschreibentreffen mussten, bevor sie den Vorschlag der Maschine sahen,weit mehr vonderenFehlernfalschen Vorschlägen seltener als Personen, denendetaillierteeineErklärungenkurze Erklärung der maschinellen Argumentation gezeigtwurden.wurde. Die KI zu erklärenhalf nicht,löste das Problemzunicht.lösen,Geholfen hat das Erzwingen des eigenenUrteilsUrteils.hingegenDasschon.eigeneMitUrteileinemzuehrlichenerzwingenVorbehalt:heißt,DieMenschenVarianten,zumdieNachdenkenamzubestenzwingen.funktionierten,DawarenNachdenkenjene,anstrengenddieist, gefielen diese Methoden den Teilnehmenden amwenigsten gefielen,wenigsten, und sie halfen am meisten jenen, die ohnehin gerne anstrengend nachdenken.EsDashandeltistsichdas,alsowasumSieein Phänomen, das auchalle als Matthäus-Effektbekannt ist:kennen: Wer schon hat, dem wird gegeben.Sie profitieren am meisten von diesem Ansatz. - Die Grenzen einbauen. Der Chatbot aus Kapitel 1.
32, der Antworten zurückhielt und stattdessen Rückfragen stellte, ist dieselbe Idee als Software: Die Schüler:innen, die ihn nutzten, verloren in der Prüfung nichts, während die mit der uneingeschränkten Version deutlich verloren. - Den Prozess sichtbar machen, statt dem Produkt hinterherzujagen. Entwürfe, Arbeitsnotizen, ein kurzes Gespräch über die Arbeit. Diese zeigen Ihnen, was ein Schüler oder eine Schülerin kann, ohne dass jemand beweisen muss, was er oder sie getan hat.
- Dänemark erprobt das Prinzip: An teilnehmenden Schulen dürfen Schüler:innen KI bei der Vorbereitung auf die mündliche Englischprüfung nutzen, und die schriftliche Prüfung enthält einen handschriftlichen, hilfsmittelfreien Teil.
Zwei Einschränkungen sollte man kennen, bevor man sich darauf verlässt. Die erste: Der beliebte Rat, Lehrkräfte sollten einen Chatbot einfach anweisen, als sokratischer Tutor zu agieren, übersteht kein längeres Gespräch. Zumindest derzeit neigt das System dazu, wieder in die reine Antwortvergabe zurückzufallen. Verlässliche Grenzen müssen in das System eingebaut sein, was sie zu einer Beschaffungsentscheidung macht statt zu einer Prompting-Fähigkeit.
Die zweite: Eine KI ihre Argumentation erklären zu lassen, klingt wie die naheliegende Absicherung, aber Erklärungen verhindern übermäßiges Vertrauen nicht zuverlässig. In einer Studie ließen sie die Akzeptanz falscher Ratschläge unverändert, und zu technische oder zu vereinfachte Erklärungen können fehlgeleitetes Vertrauen sogar verstärken. Erklärung ist nur eine Voraussetzung,Voraussetzung keinefür Lösung.Lernen.
Die erste: Der beliebte Rat, Lehrkräfte sollten einen Chatbot einfach anweisen, als sokratischer Tutor zu agieren, übersteht ein längeres Gespräch möglicherweise nicht. Erste Hinweise aus einer noch nicht begutachteten Studie mit simulierten Schülerinnen und Schülern (Oktober 2026) deuten darauf hin, dass solche Tutoren unter anhaltendem Druck wieder dazu übergehen, Antworten zu liefern. Verlässliche Grenzen müssen in das System eingebaut sein, was sie zu einer Beschaffungsentscheidung macht statt zu einer Prompting-Fähigkeit.
Haltung: zwei Fehlermodi, nicht einer
Wir sorgen uns, dass Lehrkräfte der KI zu sehr vertrauen. Wir sollten uns jedoch ebenso um das Gegenteil sorgen. Selbst erfahrene Menschen können durch übermäßiges Vertrauen hereingelegt werden. In einereinem Studiekleinen überprüftenPilotprojekt Lehrkräftean KI-generierteUS-amerikanischen Bewertungen. SieSchulen beurteilten 42vier %von deszehn Feedbacksbefragten derLehrkräften Maschinedas Feedback eines KI-Bewertungswerkzeugs als nicht hilfreich, überwiegend vage oder falsch,sogar ändertenfalsch. aberDie nurForschung 9zum %Automation davon.Bias zeigt, dass Menschen dazu neigen, dem Vorschlag einer Maschine zu folgen, selbst wenn sie Grund haben, daran zu zweifeln. Einen Fehler zu erkennen und ihn zu korrigieren sind zwei verschiedene Vorgänge.Schritte.
Der gegenteilige Pol ist Verheimlichung. Lehrkräfte verbergen ihre eigene KI-Nutzung vor Kolleg:innen und Schüler:innen und verbieten diesen, was sie selbst tun: 77 % nutzen KI privat, während 57 % sagen, Schüler:innen sollten sie nie zur Ideenfindung nutzen. Zugleich fand eine Studie unter akademisch starken Schüler:innen der Klassen 6 bis 8, dass zwischen einem Drittel und zwei Fünfteln bereits sagten, die KI wisse mehr als ihre Lehrkräfte. Ein Berufsstand, der seine Praktiken verbirgt, kann verantwortungsvolle Praxis nicht vorleben, und Transparenz ist nicht nur eine Höflichkeit. Sie ist der Mechanismus, durch den Lernen am Vorbild funktioniert.
Ebnet KI das Spielfeld oder kippt sie es?
Bei arbeitsbezogenen Aufgaben gleicht KI Unterschiede aus. In einem Experiment schnitten Teilnehmende mit höherer Bildung deutlich besser ab als solche mit niedrigerer Bildung. ErhieltMit jede Person eineeinem KI-Assistenz,Assistenten verschwanden dieseetwa Unterschiededrei fastViertel vollständig.dieser NahmLücke. manAls dieder AssistenzAssistent wieder weg,entzogen wurde, kehrte vielesein davonbeträchtlicher Teil der Lücke zurück. Was die KI schloss, war die Lücke im Output, nicht die Lücke in der Fähigkeit.
Bei Lernaufgaben ist es umgekehrt. Eine Studie fand im Schnitt gar keinen Nutzen, aber einen wachsenden Abstand zwischen Schüler:innen, die bereits viel wussten, und solchen, die es nicht taten. Eine andere untersuchte Schüler:innen, die in einer Fremdsprache schrieben: Die schwächeren Schreiber:innen erhielten mehr Korrekturen von der KI und setzten weniger davon erfolgreich um, und mehrere empfanden die Flut an Feedback als entmutigend. Feedback ohne die Fähigkeit, es zu sortieren, hilft nicht; es begräbt.
Die Lücke besteht auch schon, bevor überhaupt jemand ein Werkzeug anfasst. In Deutschland sehen 80 % der Schüler:innen aus den privilegiertesten Elternhäusern KI als Chance, gegenüber 55 % aus den am wenigsten privilegierten. In Großbritannien verläuft die Trennlinie eher durchs Lehrerzimmer als durch den Geräteschrank: 45 % der Lehrkräfte an Privatschulen haben eine formale KI-Fortbildung erhalten, gegenüber 21 % an staatlichen Schulen. Innerhalb des staatlichen Sektors liegen wohlhabendere Schulen wiederum vor ärmeren. Eine Befragung von mehr als 25.000 Kindern in 2017 europäischen Ländern aus dem Jahr 2026 findet dieselbe soziale Kluft darin, wie viel und wie vielfältig sie KI nutzen. Ein Satz fasst das ganze Problem besser zusammen als jede Zahl: „Die Reichen haben Zugang zu Technologie und zu Menschen, die ihnen bei der Nutzung helfen, während die Armen nur Zugang zur Technologie haben." Das ist das stärkste verfügbare Argument dafür, dass Lehrkräfte entscheidend sind, um diese Lücke zu schließen.
Der Engpass ist also, welche Lernenden eine geschulte Lehrkraft haben. KI gleicht aus, wenn drei Dinge zusammenkommen: sicherer Zugang, ein für das Lernen (statt für das Liefern von Antworten) gestaltetes Werkzeug, und eine Lehrkraft, die die Nutzung anleitet. Fehlt eines davon, verstärkt sie stattdessen. Da alle drei tendenziell an denselben Schulen vorhanden bzw. an denselben Schulen abwesend sind, ist Verstärkung der Normalfall, und Ausgleich ist etwas, das man aktiv aufbauen muss.