Skip to main content

1.1 Potenziale & Risiken

Wenn Sie sich nur einen Satz von dieser Seite merken: KI hat den Weg in die Schulen gefunden wie ein Medikament ohne Beipackzettel. Als Lehrkraft wissen Sie nicht, wann Sie KI einsetzen sollen, es fehlen Ihnen Dosierungsanweisungen, und es gibt keine Informationen über die Nebenwirkungen. Dieses Kapitel dient als Beipackzettel für das Playbook.

Sollte KI mit einem Beipackzettel kommen wie ein Medikament?

Sie kennen doch dieses kleine Faltblatt, das in jeder Medikamentenschachtel steckt? Das, das Sie vermutlich achtlos beiseitelegen, ohne einen Blick darauf zu werfen? Es mag unscheinbar wirken, aber dieses kleine Blatt ist ein stiller Triumph des vergangenen Jahrhunderts. Der Beipackzettel legt vier wesentliche Dinge offen: wogegen das Medikament wirkt, wie viel man einnehmen soll, welche Überraschungen es bereithalten könnte, und wer besser die Finger davon lässt.

Hinter jeder Zeile dieses Beipackzettels steht ein ganzer Apparat: klinische Studien, Aufsichtsbehörden und die Pflicht, Fehler offenzulegen. Niemand glaubt, dass der Beipackzettel selbst heilt. Seine wahre Stärke besteht darin, das Medikament für jeden sicher zu machen. Genau diese Magie fehlt uns, wenn wir KI ohne Anleitung unterrichten lassen.

Die KI-Werkzeuge, die sich derzeit still und leise in Ihrer Schule einnisten, erben ein Problem, das älter ist als KI: Bildungstechnologie kam selten mit einer Gebrauchsanweisung. In Großbritannien ergab eine Untersuchung, dass nur 7 von 100 Bildungstechnologie-Unternehmen ihre Produkte in einer randomisierten Studie getestet hatten und nur 12 von 100 eine externe Zertifizierung angestrebt hatten. Schulen fordern selten mehr. In einer Befragung in 17 US-Bundesstaaten hatten nur 11 von 100 Lehrkräften und Verantwortlichen der Schulverwaltung einen begutachteten Wirksamkeitsnachweis eingefordert, bevor sie ein neues Werkzeug einführten.

Das Ergebnis ist in vielen Fällen verschwendetes Geld. In den USA blieben im Durchschnitt zwei Drittel der Lizenzen für Bildungssoftware ungenutzt, und 98 von 100 wurden nie intensiv genutzt. Das EdTech Genome Project, ebenfalls in den USA, untersuchte rund 7.000 Lehrmittel im Wert von 13 Milliarden Dollar und stellte fest, dass 85 von 100 entweder schlecht passten oder falsch umgesetzt wurden.

Dieses Kapitel mag wie der trockene Pflichtteil wirken, doch es enthüllt die verborgenen Geschichten hinter den Regeln. Es erzählt, was wirklich geschah, wer betroffen war, und wirft ein Licht auf die Nebenwirkungen – auch jene, die still und leise Kinder erreichten, die sich nie dafür entschieden hatten.

Potenziale von KI

Die meisten Studien zum Potenzial von KI beziehen sich auf Universitätsstudierende. Schülerinnen und Schüler kommen in diesen Studien bislang eher selten vor. Und die meisten Studien betreffen kurzfristige Interventionen von wenigen Stunden bis wenigen Wochen. Folglich könnte der sogenannte Neuheitseffekt die Ergebnisse positiv beeinflusst haben. Eine große Übersichtsarbeit über 68 Experimente fand genau dieses Muster: Je kürzer die Studie und je kleiner die Zahl der Teilnehmenden, desto größer war der berichtete Nutzen von KI.

(1) KI ein neues Thema erklären lassen und die Übung für den eigenen Unterricht aufheben

Stellen Sie sich vor. Wenn morgen ein Schüler oder eine Schülerin ein Thema verpasst hat oder ein kniffliges Konzept noch einmal erklärt bekommen muss, lassen Sie eine KI-Tutorin die erste Erklärung übernehmen. Die Übung heben Sie sich für Ihren Unterricht auf, wo echtes Lernen lebendig wird.

Warum das wichtig ist. In einer gut kontrollierten Studie vermittelte eine KI-Tutorin neuen Stoff mindestens so gut wie guter Unterricht. In einer Harvard-Studie lernten 194 Physikstudierende zwei Themen. Für ein Thema nutzten sie eine eigens dafür entwickelte KI-Tutorin. Für das andere Thema lernten sie in einem gut gestalteten aktivierenden Unterricht – mit Diskussionen und Problemlösen in Partnerarbeit, nicht in einer Vorlesung. Jede Person durchlief beide Ansätze, sodass niemand behaupten kann, die stärkere Gruppe habe die bessere Behandlung erhalten. In einem unmittelbar danach durchgeführten Test erzielten die durch die KI unterrichteten Studierenden deutlich höhere Ergebnisse. Die Forschenden verzeichneten eine mediane Bearbeitungszeit von 49 Minuten, verglichen mit den 60 Minuten, die im Stundenplan für die Einheit vorgesehen waren. Die Autoren sind bei der Interpretation dieser Ergebnisse vorsichtig: Der Stoff war neu für die Studierenden, und ein Großteil der Aufgabe bestand schlicht darin, ihn gut zu erklären. Sie lehnen es ausdrücklich ab, ihr Ergebnis auf Aufgaben zu übertragen, bei denen mehrere Ideen miteinander verknüpft werden müssen. Und es handelte sich um Studierende, nicht um Achtklässler.

Eine große Übersichtsarbeit, die die Ergebnisse von 228 Studien zusammenführte, weist in dieselbe Richtung – mit einer wichtigen Einschränkung. Generative KI erzielte größere Zuwächse beim Wissen und Verstehen als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware. Dies war jedoch das einzige der vier in der Übersichtsarbeit gemessenen Ergebnisse, bei dem generative KI im Vorteil war.

Vertiefung. Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, Article 17458. Frei zugänglich, DOI 10.1038/s41598-025-97652-6. Der Artikel beschreibt, wie die Tutorin konzipiert und kontrolliert wurde. Das ist hilfreich für alle, die selbst eine KI-Tutorin entwickeln möchten.

(2) Die Zeit für die Unterrichtsvorbereitung besser nutzen

Stellen Sie sich vor. Sie sparen einen Teil der Zeit, die Sie für die Unterrichtsvorbereitung benötigen, indem Sie KI nutzen, um einen ersten Entwurf zu erstellen, den Sie anschließend gründlich überarbeiten.

Warum das wichtig ist. Niemand bestreitet, dass die Arbeitsbelastung von Lehrkräften hoch ist. Ein möglicher Nutzen von KI besteht daher darin, die Arbeitszeit effizienter zu nutzen. Eine Studie in England untersuchte, ob der gezielte Einsatz von KI bei der Unterrichtsvorbereitung die Arbeitsbelastung von Lehrkräften verringern kann. Forschende teilten 259 Naturwissenschaftslehrkräfte an 68 Schulen zufällig entweder einer Gruppe zu, die ChatGPT zusammen mit einem Online-Leitfaden zur sinnvollen Nutzung einsetzte, oder einer Gruppe, die gebeten wurde, überhaupt keine generative KI zu verwenden. Die Lehrkräfte der ChatGPT-Gruppe wendeten pro Woche etwa 56 Minuten für die Planung des Naturwissenschaftsunterrichts in den Jahrgangsstufen 7 und 8 (11 bis 13 Jahre) auf, verglichen mit etwa 81 Minuten in der Vergleichsgruppe. Ein Gremium von Fachleuten bewertete die Qualität der Unterrichtspläne, ohne zu wissen, ob diese mit oder ohne Unterstützung von KI erstellt worden waren. Die Fachleute fanden keine Hinweise darauf, dass sich die Qualität der Pläne unterschied. Zwei Punkte sind jedoch hervorzuheben. (1) Die Lehrkräfte nutzten das Werkzeug im Laufe der Wochen immer weniger. Die Evaluatoren deuten dies als Übergang von einer Lernphase in die Routine; es kann aber auch bedeuten, dass sich die Zeitersparnis ohne Unterstützung nicht aufrechterhält. (2) Die Studie maß die von Lehrkräften für die Unterrichtsplanung aufgewendete Zeit, nicht die Lernergebnisse ihrer Schülerinnen und Schüler.

„Alles läuft auf die Zeit hinaus. Selbst Lehrkräfte, die den Wert von KI erkennen, haben selten die Zeit, den Umgang damit zu lernen.“

Vertiefung. Roy, P., Poet, H., Staunton, R., Aston, K., & Thomas, D. (2024, 12. Dezember). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, im Auftrag der Education Endowment Foundation und der Hg Foundation. Frei verfügbar unter educationendowmentfoundation.org.uk.

(3) Bessere Unterstützung für Lernende, die vom Standardunterricht nicht in vollem Umfang profitieren

Stellen Sie sich vor. Ihre Schule entscheidet, wie sie ihre Mittel einsetzen möchte, und will einen KI-Chatbot anschaffen. Wie wahrscheinlich ist es Ihrer Meinung nach, dass die Anbieter des Chatbots Ihnen Nachweise für dessen Nutzen in verschiedenen Fächern liefern?

Warum das wichtig ist. Der Anbieter verweist möglicherweise auf Forschung zu Lernenden mit Behinderungen – eines der am längsten untersuchten Felder von KI in der Bildung, das bei der Mittelvergabe leicht übersehen wird. In einer Analyse von 29 Studien mit 41 Gruppen von Lernenden mit Behinderungen fanden Forschende moderate Vorteile über ein breites Spektrum von Settings hinweg. Aber lesen Sie das Kleingedruckte. In sieben von zehn dieser Studien bedeutete „KI“ einen Roboter, meist einen humanoiden, der oft von einer Forschungsperson außerhalb des Sichtfelds des Kindes gesteuert wurde. Nur in einer von fünf Studien kam Software zum Einsatz. Das ist also kein Beweis dafür, dass ein Chatbot einem autistischen Schüler oder einer autistischen Schülerin in Ihrer Klasse hilft. Auch konnten die Autoren der Übersichtsarbeit nicht sagen, was diese Interventionen wirksam macht. Aus ihrer Forschung ließ sich nicht ableiten, warum sich die erfolgreichen von den nicht erfolgreichen Studien unterschieden.

Vertiefung. Zhang, L., Carter, R. A., Jr., Liu, Y., & Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. Review of Educational Research, 96 (1). DOI 10.3102/00346543241293424. Das eigentliche Highlight ist die Tabelle der eingeschlossenen Studien: Sie zeigt auf einen Blick, wie wenig sich dieses Feld tatsächlich mit den Werkzeugen beschäftigt, die derzeit an Schulen vermarktet werden.

(4) Lernenden zeigen, wo KI versagt

Stellen Sie sich vor. Sie lassen Ihre Klasse zehn Bilder von „einem Arzt/einer Ärztin" und zehn von „einer Pflegekraft" erstellen. Zählen Sie aus, wer in welchem Set erscheint, und entfachen Sie dann eine Diskussion: Woher kommen diese Muster, und wer hat diese Entscheidungen getroffen?

Gemini_Generated_Image_mfaur1mfaur1mfau.jpg

Abb. 1: „One-Shot-Prompt: a doctor, a nurse“ (KI-generiertes Bild, NanoBanana 2)

Warum das wichtig ist. Die klassische Version dieser Unterrichtseinheit wirkt inzwischen überholt, und genau deshalb verdient sie Aufmerksamkeit. Jahrelang war die Demonstration vorhersehbar: Man fragte nach einem Arzt, und es erschien ein Mann. In einem Test der gemeinnützigen Organisation AlgorithmWatch zeigte Midjourney Ärzte fast immer als weiße Männer, während Adobe Firefly sichtbare, wenn auch unvollkommene, Versuche unternahm, mehr Vielfalt abzubilden. Eine begutachtete Studie mit 2.400 KI-generierten Bildern von Chirurgen fand dieselbe Spaltung zwischen den Produkten: Zwei von drei populären Generatoren zeigten fast keine Frauen, während der dritte dem tatsächlichen Frauenanteil in der Chirurgie nahekam.

Probieren Sie denselben Prompt heute aus, und Sie könnten eine Ärztin oder einen männlichen Pfleger sehen (Abb. 1). Lassen Sie sich aber nicht täuschen zu glauben, die Verzerrung sei verschwunden. Eine Analyse von 1.344 Bildern aus drei populären Generatoren aus dem Jahr 2026 zeigte das Gegenteil: Bei der Anfrage nach einer „kompetenten Person" zeigte ein System keine einzige Frau.

Verändert hat sich nicht die Verzerrung, sondern die Ebene, auf der sie wirkt – und genau das ist die wichtige Lektion! Hinter jedem dieser Bilder stehen menschliche Entscheidungen: womit das System trainiert wurde und was seine Entwickler:innen im Nachhinein entschieden haben, dass es zeigen soll. Die zweite Ebene ist veränderbar, unsichtbar und wird von einem Unternehmen festgelegt.

Die erste Ebene menschlicher Entscheidungen ist das, was das System aufgesogen hat. Millionen von Bildern, von Menschen erstellt und beschriftet, jedes davon ein Echo der Welt, wie sie bereits war. Das ist die Ebene, die die klassische Unterrichtseinheit zu Verzerrungen offenlegt, und Schüler:innen begreifen sie leicht: Die Maschine wurde zu einem Spiegelbild dessen, womit sie gefüttert wurde.

Die zweite Ebene wird davon geprägt, was ein Unternehmen als Nächstes zeigen möchte – dieser Einfluss hinterlässt jedoch keine Spur im Bild selbst. Hier spielen sich drei Dinge ab, jedes davon von den Entwickler:innen in ihren eigenen Worten beschrieben.

  • Ihre Worte werden umgeschrieben, bevor das Modell sie erhält. Aus OpenAIs eigener Entwicklerdokumentation: „we use GPT-4 to optimize all of your prompts before they're passed to DALL-E" – und „this feature isn't able to be disabled at the moment." Was Ihr Schüler oder Ihre Schülerin eingegeben hat, ist nicht das, was die Maschine gefragt wurde.
  • Das Erscheinungsbild wird ergänzt, wenn der Prompt es offenlässt. OpenAI beschreibt seine Diversitätstechnik so: „This technique is applied at the system level when DALL·E is given a prompt describing a person that does not specify race or gender, like 'firefighter.'" Danach gaben Nutzer:innen zwölfmal häufiger an, die Bilder zeigten Menschen unterschiedlicher Herkunft. „Ein Arzt" ist genau eine solche Art von Prompt.
  • Und diese Feinabstimmung kann danebengehen. Google, nachdem die Bildgenerierung von Gemini 2024 pausiert wurde: „Our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range."

Wenn also ein Schüler oder eine Schülerin „ein Arzt" eingibt und eine Frau erscheint, gibt das Bild keinen Hinweis darauf, welche Ebene sie hervorgebracht hat. Diese Unsicherheit ist kein Makel der Unterrichtseinheit. Sie ist die Lektion selbst.

Die alte Geschichte behauptete, die Maschine habe schlicht die Vorurteile der Gesellschaft aufgesogen. Die neue Geschichte geht tiefer und hält länger: Das Bild ist kein Spiegel, und es ist kein Zufall. Ein Unternehmen hat eine Entscheidung getroffen! Diese Entscheidung lässt sich im Ergebnis nicht erkennen, und sie kann sich an einem x-beliebigen Dienstag ändern, still und ohne Vorwarnung. Diese Wahrheit überdauert jedes neue Modell. Die klassische Stereotyp-Lektion verblasst.

Das ist die Lektion, die die Aufmerksamkeit der Lernenden verdient, und sie wird das nächste Modell-Update überdauern: Das Bild ist keine einfache Widerspiegelung der Realität, und es ist nicht zufällig entstanden. Jemand hat eine Entscheidung getroffen.

Zeichenfläche 1-100.jpg

Abb. 2: „Warum das Bild zu einem Prompt wie ‚Zeichne einen Arzt‘ so aussieht, wie es aussieht – und warum das Bild selbst es Ihnen nicht verrät“ (KI-generiertes Bild, NanoBanana 2)

Diese Lektion kann früh beginnen. Als 209 finnische Schüler:innen in 12 Klassen der Jahrgangsstufen 4 und 7 sich mit diesem Thema befassten, stieg der Anteil derer, die die Verzerrung datenbasiert erklären konnten, von etwa 7 von 100 auf 44 von 100. Der ehrliche Vorbehalt: Die Studie maß, was die Kinder erklären konnten, nicht, wie sie später handeln würden.

„Verzerrungen gibt es nicht nur bei KI. Auch Schulbücher können verzerrt sein. Entscheidend ist das Wissen um den Zufall, um die Daten hinter einer Antwort und um mögliche Verzerrungen.“

Vertiefung. Vartiainen, H., Kahila, J., Tedre, M., López-Pernas, S., & Pope, N. (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(9), 5342–5368. Frei zugänglich, DOI 10.1177/14614448241252820. Die Studie hatte keine Vergleichsgruppe – lesen Sie sie als vielversprechendes Unterrichtsdesign, nicht als Beweis.

Weinmann, H., Messingschlager, T. V., & Appel, M. (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. New Media & Society. Online first. Frei zugänglich, DOI 10.1177/14614448261435197.

Ali, R., et al. (2024). Demographic representation in 3 leading artificial intelligence text-to-image generators. JAMA Surgery, 159(1), 87–95. DOI 10.1001/jamasurg.2023.5695.

Die Aussagen der Anbieter selbst: OpenAI (2022), Reducing bias and improving safety in DALL·E 2; Depue, W. (2023), What’s new with DALL·E 3?, OpenAI Cookbook; Raghavan, P. (2024), Gemini image generation got it wrong. We’ll do better, Google.

Wie belastbar sind die Forschungsergebnisse zu den Potenzialen von KI im Moment?

Das Wichtigste zuerst. Wenn Ihnen jemand eine Studie zitiert, stellen Sie zwei Fragen, bevor Sie zustimmen: „Wer waren die Lernenden, und wie lange dauerte die Studie?"

Warum das wichtig ist. 2025 berichtete eine Metaanalyse von 51 Studien über einen signifikanten Nutzen von ChatGPT für die schulischen Leistungen von Schüler:innen. Der Artikel wurde hunderttausende Male gelesen und diente als Grundlage für zahlreiche selbstsichere Aussagen im Lehrerzimmer. Am 22. April 2026 zog die Fachzeitschrift den Artikel zurück. Eine Rücknahme (Retraction) bedeutet, dass eine Fachzeitschrift offiziell etwas zurückzieht, das sie veröffentlicht hat; der Artikel bleibt sichtbar, jedoch mit dem Vermerk „RETRACTED" gekennzeichnet, sodass alle, die ihn zitiert haben, dies erkennen können. Zwei externe Forschende hatten Unstimmigkeiten in der Zusammenführung der Studien entdeckt. Die verantwortliche Redakteurin der Fachzeitschrift schrieb, die Probleme „untergraben das Vertrauen der Redaktion in die Validität der Analyse". Die Autor:innen reagierten nicht auf die Korrespondenz zu diesem Thema.

Das bedeutet nicht, dass KI keine Wirkung hat. Es gibt seriöse Studien, die moderate Vorteile belegen. Dieses Forschungsfeld ist zudem noch nicht klar abgegrenzt, da es relativ neu und hochdynamisch ist. Es bedeutet, dass die häufig zitierte Zahl falsch war – und dass es ein Jahr und zwei externe Fachleute brauchte, um das festzustellen.

Ein weiterer Vorbehalt ist erwähnenswert. Zumindest in Mathematik gilt: Je näher die Evidenz an die Schule heranrückt, desto kleiner fällt der Effekt aus. Fächerübergreifend ist das Bild uneinheitlich: Einige neuere Übersichtsarbeiten finden in Schulen größere Effekte als an Hochschulen – doch die Studien an Schulen sind noch wenige und klein.

Vertiefung. Die Rücknahme selbst umfasst nur eine Seite, ist frei zugänglich und lohnt sich gerade wegen ihrer Kürze: Wang, J., & Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13, 528. DOI 10.1057/s41599-026-07310-z.

Das zurückgezogene Original war HSSC 12, 621 (2025). Weiterhin gültig: Wu, X., Zhu, P., Zhang, J., Yin, M., & Wang, Y. (2026). ChatGPT's impact on student learning outcomes: A meta-analysis of 35 experimental studies. Humanities and Social Sciences Communications, 13, 684. Frei zugänglich, DOI 10.1057/s41599-026-07019-z.

Die reine Schul-Zahl für Mathematik: Yi, L., Liu, D., Jiang, T., & Xian, Y. (2025). The effectiveness of AI on K-12 students' mathematics learning: A systematic review and meta-analysis. International Journal of Science and Mathematics Education, 23(4), 1105–1126. DOI 10.1007/s10763-024-10499-7.

Eine breiter angelegte, neuere zusammenfassende Analyse: Han, X., Peng, H., & Liu, M. (2025). The impact of GenAI on learning outcomes: A systematic review and meta-analysis of experimental studies. Educational Research Review, 48, 100714. DOI 10.1016/j.edurev.2025.100714.

Risiken von KI

(1) Etwas zu tun ist nicht dasselbe wie zu lernen

Stellen Sie sich vor. Bevor Sie eine Hausaufgabe stellen, die ein Chatbot erledigen kann, überlegen Sie sich, welchen Zweck die Aufgabe eigentlich verfolgt. Wäre es vielleicht sinnvoll, die Aufgabe zu ändern?

Warum das wichtig ist. Lernt man mit einem Chatbot schneller? Rund tausend Schüler:innen der Jahrgangsstufen 9 bis 11 übten Mathematik in drei Gruppen: eine mit einem Standard-Chatbot, eine mit einer Version, die programmiert war, die Antwort zurückzuhalten und stattdessen eine Rückfrage zu stellen, und eine ohne Chatbot. Während der Nutzung bearbeitete die Gruppe mit dem Standard-Chatbot 48 Prozent mehr Übungsaufgaben als die Gruppe ohne. Anschließend schrieben alle dieselbe Prüfung ohne Chatbot. Das zunächst überraschende Ergebnis: Die Gruppe mit dem Standard-Chatbot schnitt 17 Prozent schlechter ab als die Schüler:innen ohne Chatbot. Die Gruppe, die mit dem antwortzurückhaltenden Chatbot gearbeitet hatte, zeigte im Test keinen Leistungsabfall gegenüber der Gruppe ohne Chatbot, übte aber mehr. Die Schüler:innen mit dem Standard-Chatbot waren weder faul, noch haben sie betrogen. Sie arbeiteten härter und lernten weniger, denn das Werkzeug eliminierte nicht die Anstrengung, sondern die kognitive Herausforderung, aus der Lernen besteht.

„KI macht es sehr leicht, eine Lösung zu bekommen, ohne sie zu verstehen.“

Vertiefung. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122, e2422633122. DOI 10.1073/pnas.2422633122.

(2) KI-Erkennungstools bestrafen die falschen Schüler:innen

Stellen Sie sich vor. Sie erhalten einen Aufsatz zur Bewertung. Aus Neugier über dessen Echtheit geben Sie ihn in einen KI-Detektor ein. Das Ergebnis blinkt auf: Der Aufsatz wurde nahezu sicher von KI geschrieben.

Warum es wichtig ist. Sie setzen den KI-Detektor ein, um Fairness sicherzustellen – doch für eine bestimmte Gruppe bewirken die Detektoren genau das Gegenteil. Ein Detektor erkennt keinen maschinell erzeugten Text. Er misst, wie vorhersehbar die Wortwahl ist. Und genau darin liegt das Problem, etwa wenn eine Person in einer Fremdsprache schreibt, wenig Schreibpraxis hat oder über einen begrenzten Alltagswortschatz verfügt. Ihr Schreiben ist vorhersehbar. Als sieben weit verbreitete Detektoren 91 Aufsätze analysierten, die Personen mit anderer Muttersprache für den Englischtest TOEFL geschrieben hatten – gesammelt in einem chinesischen Online-Forum –, stuften sie diese in rund sechs von zehn Fällen fälschlich als maschinell erzeugt ein. Aufsätze amerikanischer Achtklässler in ihrer Muttersprache Englisch wurden fast durchweg korrekt eingestuft. Ein Werkzeug, das ausgerechnet bei einer Gruppe falsch-positive Ergebnisse liefert, ist nicht neutral. Zudem ist diese Gruppe am wenigsten in der Lage, sich dagegen zu wehren.

Vertiefung. Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. Frei zugänglich, DOI 10.1016/j.patter.2023.100779.

(3) Wo landen die Daten der Schüler:innen eigentlich?

Stellen Sie sich vor. Sie nutzen ein KI-Werkzeug, das Ihre Schule anbietet. Versuchen Sie herauszufinden, wohin die Daten der Schüler:innen gehen.

Warum es wichtig ist. Kann Ihre Schule sicherstellen, dass die Daten nicht an Dritte weitergegeben werden? Ein Dritter ist ein Unternehmen, das weder Ihre Schule noch die Entwicklerin der App ist. Typischerweise handelt es sich um Werbe- oder Analyseunternehmen, die Daten erhalten, während die Schüler:innen arbeiten. Niemand an der Schule hat dieses Unternehmen ausgewählt. Als Forschende eine technische Analyse von 163 Lernprodukten durchführten, die während der pandemiebedingten Schulschließungen von Regierungen empfohlen wurden, verarbeiteten 145 davon die Daten von Kindern auf eine Weise, die deren Rechte gefährdete oder verletzte, indem sie Daten an 196 Drittunternehmen übermittelten oder ihnen Zugriff darauf gewährten – überwiegend aus der Werbebranche. Von den 42 Regierungen, die eigene Produkte entwickelten, statt sie einzukaufen, hatten 39 Produkte mit demselben Problem entwickelt. Die Studie bezieht sich auf Produkte aus dem Jahr 2021, und einige haben sich seither möglicherweise verändert. Wir können jedoch nicht ausschließen, dass Ähnliches auch für KI-Anwendungen gilt.

Vertiefung. Human Rights Watch (2022). „How dare they peep into my private life?": Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. Frei verfügbar unter hrw.org. In den Länderanhängen können Sie nachschlagen, was wo empfohlen wurde.

(4) KI kommt zuletzt dort an, wo sie am dringendsten gebraucht wird

Stellen Sie sich vor. Wie viel Fortbildung haben Sie bisher zum Thema KI oder zum fachspezifischen Unterrichten mit KI erhalten?

Warum das wichtig ist. In einem Experiment lösten Erwachsene mit und ohne Hochschulabschluss eine berufsnahe betriebswirtschaftliche Aufgabe. Mit einem KI-Assistenten verschwanden etwa drei Viertel der Lücke zwischen den beiden Gruppen. Als die Forschenden den Assistenten anschließend wieder entzogen, kehrte ein beträchtlicher Teil der Lücke zurück. Die Autoren schließen daraus, dass die KI einen Großteil der Arbeit erledigt hatte und nur ein Teil des Zugewinns erhalten blieb, nachdem sie weg war.

Eine Befragung amerikanischer Schulleitungen liefert die zweite Hälfte des Bildes: Je benachteiligter die Schülerschaft einer Schule, desto weniger hatte die Schule unternommen, um KI zu integrieren – weniger Regelungen, weniger Fortbildung für Lehrkräfte, weniger Orientierung für die Nutzung durch Schülerinnen und Schüler. Das ist ein Zusammenhang, kein Beleg für eine Ursache.

Zusammengenommen: Ein gutes Werkzeug kann eine Lücke verkleinern, solange es sich in den Händen der Lernenden befindet. Es erreicht aber tendenziell die Schulen, die es am wenigsten brauchen, und nur ein Teil seines Nutzens bleibt erhalten, wenn es wieder entfernt wird.

Zahlen aus Deutschland zeigen dasselbe Muster. Unter 1.590 Jugendlichen im Alter von 14 bis 20 Jahren sahen 80 Prozent aus den wohlhabendsten, aber nur 55 Prozent aus den am wenigsten wohlhabenden Familien KI als Chance für die Schule. Die Nutzung folgt demselben Gefälle: Unter den Jugendlichen, die KI-Werkzeuge verwenden, nutzen 70 Prozent der Schülerinnen und Schüler an Gymnasien sie für Schule oder Hausaufgaben, verglichen mit 58 Prozent an anderen weiterführenden Schulen.

Wie steht es um die Fortbildung von Lehrkräften? Eine Befragung von mehr als zehntausend Lehrkräften in England ergab, dass 45 Prozent der Lehrkräfte an Privatschulen bereits eine formale KI-Fortbildung erhalten hatten, verglichen mit 21 Prozent an staatlichen Schulen. Innerhalb des staatlichen Systems reichten die Werte von 26 Prozent an Schulen mit der wohlhabendsten Schülerschaft bis zu 18 Prozent an Schulen mit der am wenigsten wohlhabenden.

Vertiefung. Cruces, G., Fernández Meijide, D., Galiani, S., Gálvez, R. H., & Lombardi, M. (2026). Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment (NBER Working Paper 34851). Ein Arbeitspapier, noch nicht begutachtet. Campos, C., & Singleton, J. D. (2026). AI diffusion gaps: Unequal integration of AI across K-12 schools (NBER Working Paper 35347). Latham, K., & Montacute, R. (2025). Artificial advantage? AI in the classroom and the inequality gap. The Sutton Trust. Frei verfügbar unter suttontrust.com. Vodafone Stiftung Deutschland (2024), Pioniere des Wandels; mpfs (2024), JIM-Studie 2024. Beide frei verfügbar, auf Deutsch.

(5) Was sich beim Lernen mit KI verbessert, ist nicht unbedingt das, was man sieht

Stellen Sie sich vor. Sie führen einen neuen Chatbot in Ihrem Unterricht ein, und die Schüler:innen sind begeistert davon, das neue Werkzeug zu nutzen.

Warum das wichtig ist. Eine große Übersichtsarbeit über 228 Studien untersuchte vier verschiedene Bereiche, die KI verbessern könnte: Wissen und Verstehen; die Anwendung des Gelernten; die affektive Seite, etwa Motivation und Engagement; sowie die Fähigkeit, das eigene Lernen zu planen, zu überwachen und zu korrigieren. Drei der vier verbesserten sich. Der letzte nicht – soweit die Studien das erkennen ließen.

  • Beim Wissen und Verstehen schnitt generative KI besser ab als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware.
  • Bei der Anwendung von Wissen sowie bei der affektiven Seite schnitt generative KI nicht besser ab als die ältere Software, über die viele Schulen bereits verfügen.
  • Bei der Selbststeuerung war der zusammengefasste Effekt klein und könnte auf Zufall beruhen – und es gab zu wenige Studien, um überhaupt zu untersuchen, welche Art von KI helfen könnte.

Nur wenige der Ergebnisse stammten aus randomisierten Studien, und die Begeisterung, die Sie in den ersten Wochen sehen, ist genau das, was kurze Studien am besten erfassen.

Eine kurze Randbemerkung: In dieser Übersichtsarbeit zeigten sich die größten Zuwächse in den Kunst- und Geisteswissenschaften.

Vertiefung. Yeo, G. H., & Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(4), article 110. DOI 10.1007/s10648-025-10085-5.