Skip to main content

1.1 Potenziale & Risiken

Wenn Sie sich nur einen Satz von dieser Seite merken: KI hat den Weg in die Schulen gefunden wie ein Medikament ohne Beipackzettel. Als Lehrkraft wissen Sie nicht, wann Sie KI einsetzen sollen, es fehlen Ihnen Dosierungsanweisungen, und es gibt keine Informationen über die Nebenwirkungen. Dieses Kapitel dient als Beipackzettel für das Playbook.

Sollte KI mit einem Beipackzettel kommen wie ein Medikament?

Sie kennen doch dieses kleine Faltblatt, das in jeder Medikamentenschachtel steckt? Das, das Sie vermutlich achtlos beiseitelegen, ohne einen Blick darauf zu werfen? Es mag unscheinbar wirken, aber dieses kleine Blatt ist ein stiller Triumph des vergangenen Jahrhunderts. Der Beipackzettel legt vier wesentliche Dinge offen: wogegen das Medikament wirkt, wie viel man einnehmen soll, welche Überraschungen es bereithalten könnte, und wer besser die Finger davon lässt.

Hinter jeder Zeile dieses Beipackzettels steht ein ganzer Apparat: klinische Studien, Aufsichtsbehörden und die Pflicht, Fehler offenzulegen. Niemand glaubt, dass der Beipackzettel selbst heilt. Seine wahre Stärke besteht darin, das Medikament für jeden sicher zu machen. Genau diese Magie fehlt uns, wenn wir KI ohne Anleitung unterrichten lassen.

Die KI-Werkzeuge, die sich derzeit still und leise in Ihrer Schule einnisten, kamenerben ohneein Problem, das älter ist als KI: Bildungstechnologie kam selten mit einer Gebrauchsanweisung. In Großbritannien ergab eine Untersuchung, dass nur 7 von 100 Bildungstechnologie-Unternehmen ihre Produkte jemals in einer kontrolliertenrandomisierten Studie getestet hatten,hatten und nur 12 von 100 eine externe Zertifizierung angestrebt hatten. ImSchulen Klassenzimmerfordern zeigtselten sichmehr. dasselbeIn Bild.einer Nur 11 von 100 Schulleitungen und LehrkräftenBefragung in 17 US-Bundesstaaten hatten jemalsnur 11 von 100 Lehrkräften und Verantwortlichen der Schulverwaltung einen begutachteten Wirksamkeitsnachweis eingefordert, bevor sie ein neues Werkzeug einführten.

Das Ergebnis ist in vielen Fällen verschwendetes Geld. In den USA verstaubtenblieben im Durchschnitt zwei Drittel der schulischenLizenzen Softwarelizenzenfür Bildungssoftware ungenutzt, und 98 %von 100 wurden so gut wie nie eingesetzt.intensiv genutzt. Das EdTech Genome ProjectProject, ebenfalls in den USA, untersuchte rund 7.000 Lehrmittel im Wert von 13 Milliarden Dollar und stellte fest, dass 85 %von 100 entweder falschschlecht zugeordnetpassten oder falsch eingesetztumgesetzt wurden.

Dieses Kapitel mag wie der trockene Pflichtteil wirken, doch es enthüllt die verborgenen Geschichten hinter den Regeln. Es erzählt, was wirklich geschah, wer betroffen war, und wirft ein Licht auf die Nebenwirkungen – auch jene, die still und leise Kinder erreichten, die sich nie dafür entschieden hatten.

Potenziale von KI

Machen wir das gleich zu Beginn klar. Die meisten Studien zum Potenzial von KI beziehen sich auf Universitätsstudierende. Schülerinnen und Schüler kommen in diesen Studien bislang eher selten vor. DieUnd die meisten Studien betreffen kurzfristige Interventionen von wenigen Stunden bis wenigen Wochen. Folglich könnte der sogenannte Neuheitseffekt die Ergebnisse positiv beeinflusst haben. NichtEine zuletztgroße wurdeÜbersichtsarbeit über 68 Experimente fand genau dieses Muster: Je kürzer die Studie und je kleiner die Zahl der TestTeilnehmenden, zurdesto Wirksamkeitsmessunggrößer häufigwar der berichtete Nutzen von denselben Personen entwickelt, die auch den Unterricht durchgeführt haben. Auch das könnte die Daten verzerrt haben.KI.

(1) KI ein neues Thema erklären lassen und die Übung für den eigenen Unterricht aufheben

Stellen Sie sich vor. Wenn morgen ein Schüler oder eine Schülerin ein Thema verpasst hat oder ein kniffliges Konzept noch einmal erklärt bekommen muss, lassen Sie eine KI-Tutorin die erste Erklärung übernehmen. Die Übung heben Sie sich für Ihren Unterricht auf, wo echtes Lernen lebendig wird.

Warum das wichtig ist. KIIn kanneiner dengut Erwerbkontrollierten vonStudie Faktenwissenvermittelte unterstützen.eine KI-Tutorin neuen Stoff mindestens so gut wie guter Unterricht. In einer Harvard-Studie lernten 194 Physikstudierende zwei Themen. Für ein Thema nutzten sie eine eigens dafür entwickelte KI-Tutorin. Für das andere Thema lernten sie in klassischemeinem Unterricht.gut gestalteten aktivierenden Unterricht – mit Diskussionen und Problemlösen in Partnerarbeit, nicht in einer Vorlesung. Jede Person durchlief beide Ansätze, sodass niemand behaupten kann, die stärkere Gruppe habe die bessere Behandlung erhalten. In einem unmittelbar danach durchgeführten Test erzielten die durch die KI unterrichteten Studierenden deutlich höhere Ergebnisse. Die Forschenden verzeichneten eine mediane Bearbeitungszeit von 49 Minuten, verglichen mit den 60 Minuten, die im Stundenplan für die Einheit vorgesehen waren. Die Autor:innenAutoren sind bei der Interpretation dieser Ergebnisse vorsichtig: Der Stoff war neu für die Studierenden, und ein Großteil der Aufgabe bestand schlicht darin, ihn gut zu erklären. Sie weisenlehnen es ausdrücklich zurück,ab, dassihr dasselbeErgebnis fürauf Aufgaben geltenzu würde,übertragen, diebei diedenen Verknüpfung mehrerermehrere Ideen erfordern.miteinander Zudemverknüpft werden müssen. Und es handelte es sich um Studierende, nicht um Achtklässler:innen.Achtklässler.

Eine große Übersichtsarbeit, die die Ergebnisse von 228 Studien zusammenführte, kamweist zuin einemdieselbe ähnlichenRichtung Schluss.– mit einer wichtigen Einschränkung. Generative KI-ChatbotsKI erzieltenerzielte einengrößere größerenZuwächse Effekt auf dasbeim Wissen (und Verstehen)Verstehen als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware. Dies war jedoch das einzige der vier in der Übersichtsarbeit gemessenen Ergebnisse, bei dem generative KI im Vorteil war.

Vertiefung. Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, Article 17458. Frei zugänglich, DOI 10.1038/s41598-025-97652-6. Der Artikel beschreibt, wie die Tutorin konzipiert und kontrolliert wurde. Das ist hilfreich für alle, die selbst eine KI-Tutorin entwickeln möchten.

(2) Die Zeit für die Unterrichtsvorbereitung besser nutzen

Stellen Sie sich vor. Sie sparen einen Teil der Zeit, die Sie für die Unterrichtsvorbereitung benötigen, indem Sie KI nutzen, um einen ersten Entwurf zu erstellen, den Sie anschließend gründlich überarbeiten.

Warum das wichtig ist. Niemand bestreitet, dass die Arbeitsbelastung von Lehrkräften hoch ist. Ein möglicher Nutzen von KI besteht daher darin, die Arbeitszeit effizienter zu nutzen. Eine britischeStudie Studiein England untersuchte, inwieweitob der gezielte Einsatz von KI bei der Unterrichtsvorbereitung die Arbeitsbelastung von Lehrkräften verringern kann. Forschende teilten 259 Naturwissenschaftslehrkräfte an 68 Schulen zufällig entweder einer Gruppe zu, die einen ChatbotChatGPT zusammen mit kurzeneinem schriftlichenOnline-Leitfaden Anweisungenzur nutzte,sinnvollen Nutzung einsetzte, oder einer Gruppe, die wiegebeten bisherwurde, weiterplante.überhaupt keine generative KI zu verwenden. Die wöchentlicheLehrkräfte Planungszeitder ChatGPT-Gruppe wendeten pro Woche etwa 56 Minuten für dendie NaturwissenschaftsunterrichtPlanung des Naturwissenschaftsunterrichts in den Jahrgangsstufen 7 und 8 sank(11 vonbis 13 Jahre) auf, verglichen mit etwa 81 aufMinuten etwain 56der Minuten.Vergleichsgruppe. Ein Gremium von Fachexpert:innenFachleuten bewertete die Qualität der Unterrichtspläne, ohne zu wissen, ob diese mit oder ohne Unterstützung von KI erstellt worden waren. Die Expert:innenFachleute fanden keine Hinweise darauf, dass sich die Qualität der Pläne unterschied. Zwei Punkte sind jedoch hervorzuheben. (1) Die Lehrkräfte nutzten das Werkzeug im Laufe der Wochen immer weniger,weniger. wasDie bedeutet,Evaluatoren deuten dies als Übergang von einer Lernphase in die Routine; es kann aber auch bedeuten, dass sich die Zeitersparnis nichtohne automatisch eintritt und sichUnterstützung nicht von selbst aufrechterhält. (2) Die Studie maß die von Lehrkräften für die Unterrichtsplanung aufgewendete Zeit, nicht die Lernergebnisse derihrer Schüler:innen.Schülerinnen und Schüler.

„Alles läuft auf die Zeit hinaus. Selbst Lehrkräfte, die den Wert von KI erkennen, haben selten die Zeit, den Umgang damit zu lernen.“

Vertiefung. Roy, P., Poet, H., Staunton, R., Aston, K., & Thomas, D. (2024, 12. Dezember). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, im Auftrag der Education Endowment Foundation und der Hg Foundation. Frei verfügbar unter educationendowmentfoundation.org.uk.

(3) Bessere Unterstützung für Lernende, die vom Standardunterricht nicht in vollem Umfang profitieren

Stellen Sie sich vor. Ihre Schule entscheidet, wie sie ihre Mittel einsetzen möchte, und will einen KI-Chatbot anschaffen. Wie wahrscheinlich ist es Ihrer Meinung nach, dass die Anbieter des Chatbots Ihnen Nachweise für dessen Nutzen in verschiedenen Fächern liefern?

Warum das wichtig ist. Der Anbieter verweist möglicherweise auf folgendeForschung Anwendung.zu ChatbotsLernenden sindmit dieBehinderungen älteste– undeines der am bestenlängsten dokumentierteuntersuchten AnwendungFelder von „KI"KI in der Bildung – und genauBildung, das wird bei der Mittelvergabe oftleicht übersehen.übersehen wird. In einer Analyse von 29 Studien mit 41 Gruppen von Lernenden mit Behinderungen fanden Forschende moderate Vorteile über ein breites Spektrum von Settings hinweg. Aber lesen Sie das Kleingedruckte. In sieben von zehn dieser Studien bedeutete „KI"KI“ einen Roboter:Roboter, einemeist kleineeinen physischehumanoiden, Maschine auf einem Tisch,der oft von einer Forschungsperson ausaußerhalb einemdes anderenSichtfelds Raumdes gesteuert.Kindes gesteuert wurde. Nur in einer von fünf Studien kam Software zum Einsatz. Das ist also kein Beweis dafür, dass ein Chatbot einem autistischen Schüler oder einer autistischen Schülerin in Ihrer Klasse hilft. Auch konnten die Autor:innenAutoren der Übersichtsarbeit nicht sagen, was diese Interventionen wirksam macht. Aus ihrer Forschung ließ sich nicht ableiten, warum sich die erfolgreichen von den nicht erfolgreichen Studien unterschieden.

Vertiefung. Zhang, L., Carter, R. A., Jr., Liu, Y., & Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. Review of Educational Research, 96 (1). DOI 10.3102/00346543241293424. Das eigentliche Highlight ist die Tabelle der eingeschlossenen Studien: Sie zeigt auf einen Blick, wie wenig sich dieses Feld tatsächlich mit den Werkzeugen beschäftigt, die derzeit an Schulen vermarktet werden.

(4) Lernenden zeigen, wo KI versagt

Stellen Sie sich vor. Sie lassen Ihre Klasse zehn Bilder von „einem Arzt/einer Ärztin" und zehn von „einer Pflegekraft" erstellen. Zählen Sie aus, wer in welchem Set erscheint, und entfachen Sie dann eine Diskussion: Woher kommen diese Muster, und wer hat diese Entscheidungen getroffen?

Gemini_Generated_Image_mfaur1mfaur1mfau.jpg

Abb. 1.1: Bild erstellt mit NanoBanana 2, erstellt am 20. August 2026, „One-Shot-Prompt: a doctor, a nursenurse“ (KI-generiertes Bild, NanoBanana 2)

Warum das wichtig ist. Die klassische Version dieser Unterrichtseinheit wirkt inzwischen überholt, und genau deshalb verdient sie Aufmerksamkeit. Jahrelang war die Demonstration vorhersehbar: Man fragte nach einem Arzt, und es erschien ein Mann. In einem systematischenTest Testder gemeinnützigen Organisation AlgorithmWatch zeigte Midjourney Ärzte fast immer als weiße Männer, während Adobe Firefly sichtbare, wenn auch unvollkommene, Versuche unternahm, mehr Vielfalt abzubilden. Eine begutachtete Studie mit 2.400 KI-generierten Bildern von Chirurgen fand dieselbe Spaltung zwischen den Produkten: Zwei von drei populären Generatoren zeigten fast keine Frauen, während der dritte dem tatsächlichen Frauenanteil in der Chirurgie nahekam.

Probieren Sie denselben Prompt heute aus, und Sie könnten eine Ärztin oder einen männlichen Pfleger sehen (Abb. 1). Lassen Sie sich aber nicht täuschen zu glauben, die Verzerrung sei verschwunden. Eine Analyse von 1.344 Bildern aus drei populären Generatoren aus dem Jahr 2026 zeigte das Gegenteil: Bei der Anfrage nach einer „kompetenten Person" zeigte ein System keine einzige Frau.

Verändert hat sich nicht die Verzerrung, sondern die Ebene, auf der sie wirkt – und genau das ist die wichtige Lektion! Hinter jedem dieser Bilder stehen menschliche Entscheidungen: womit das System trainiert wurde und was seine Entwickler:innen im Nachhinein entschieden haben, dass es zeigen soll. Die zweite Ebene ist veränderbar, unsichtbar und wird von einem Unternehmen festgelegt.

Die erste Ebene menschlicher Entscheidungen ist das, was das System aufgesogen hat. Millionen von Bildern, von Menschen erstellt und beschriftet, jedes davon ein Echo der Welt, wie sie bereits war. Das ist die Ebene, die die klassische Unterrichtseinheit zu Verzerrungen offenlegt, und Schüler:innen begreifen sie leicht: Die Maschine wurde zu einem Spiegelbild dessen, womit sie gefüttert wurde.

Die zweite Ebene wird davon geprägt, was ein Unternehmen als Nächstes zeigen möchte – dieser Einfluss hinterlässt jedoch keine Spur im Bild selbst. Hier spielen sich drei Dinge ab, jedes davon von den Entwickler:innen in ihren eigenen Worten beschrieben.

  • Ihre Worte werden umgeschrieben, bevor das Modell sie erhält. Aus OpenAIs eigener Entwicklerdokumentation: „we use GPT-4 to optimize all of your prompts before they're passed to DALL-E" – und „this feature isn't able to be disabled at the moment." Was Ihr Schüler oder Ihre Schülerin eingegeben hat, ist nicht das, was die Maschine gefragt wurde.
  • Das Erscheinungsbild wird ergänzt, wenn der Prompt es offenlässt. OpenAI beschreibt seine Diversitätstechnik so: „This technique is applied at the system level when DALL·E is given a prompt describing a person that does not specify race or gender, like 'firefighter.'" Danach gaben Nutzer:innen zwölfmal häufiger an, die Bilder zeigten Menschen unterschiedlicher Herkunft. „Ein Arzt" ist genau eine solche Art von Prompt.
  • Und diese Feinabstimmung kann danebengehen. Google, nachdem die Bildgenerierung von Gemini 2024 pausiert wurde: „Our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range."

Wenn also ein Schüler oder eine Schülerin „ein Arzt" eingibt und eine Frau erscheint, gibt das Bild keinen Hinweis darauf, welche Ebene sie hervorgebracht hat. Diese Unsicherheit ist kein Makel der Unterrichtseinheit. Sie ist die Lektion selbst.

Die alte Geschichte behauptete, die Maschine habe schlicht die Vorurteile der Gesellschaft aufgesogen. Die neue Geschichte geht tiefer und hält länger: Das Bild ist kein Spiegel, und es ist kein Zufall. Ein Unternehmen hat eine Entscheidung getroffen! Diese Entscheidung lässt sich im Ergebnis nicht erkennen, und sie kann sich an einem x-beliebigen Dienstag ändern, still und ohne Vorwarnung. Diese Wahrheit überdauert jedes neue Modell. Die klassische Stereotyp-Lektion verblasst.

Das ist die Lektion, die die Aufmerksamkeit der Lernenden verdient, und sie wird das nächste Modell-Update überdauern: Das Bild ist keine einfache Widerspiegelung der Realität, und es ist nicht zufällig entstanden. Jemand hat eine Entscheidung getroffen.

Abb. 2: „Warum das Bild zu einem Prompt wie ‚Zeichne einen Arzt‘ so aussieht, wie es aussieht – und warum das Bild selbst es Ihnen nicht verrät“ (KI-generiertes Bild, NanoBanana 2)

Zeichenfläche 1-100.jpg

Diese Lektion kann früh beginnen. Als 209 finnische Schüler:innen in 12 Klassen der Jahrgangsstufen 4 und 7 sich mit diesem Thema befassten, stieg der Anteil derer, die die Verzerrung datenbasiert erklären konnten, von etwa 7 von 100 auf 44 von 100. Der ehrliche Vorbehalt: Die Studie maß, was die Kinder erklären konnten, nicht, wie sie später handeln würden.

„Verzerrungen gibt es nicht nur bei KI. Auch Schulbücher können verzerrt sein. Entscheidend ist das Wissen um den Zufall, um die Daten hinter einer Antwort und um mögliche Verzerrungen.“

Vertiefung. Vartiainen, H., etKahila, alJ., Tedre, M., López-Pernas, S., & Pope, N. (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(27(9)., 5342–5368. Frei zugänglich, DOI 10.1177/1461444824125282014614448241252820. Die Studie hatte keine Vergleichsgruppe – lesen Sie sie als vielversprechendes Unterrichtsdesign, nicht als Beweis.

Weinmann, H., etMessingschlager, alT. V., & Appel, M. (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. New Media & Society,Society. Online Firstfirst. Frei zugänglich, DOI 10.1177/14614448261435197.

Die Aussagen der Anbieter selbst: OpenAI (2022), Reducing bias and improving safety in DALL·E 2; Depue, W. (2023), What’s new with DALL·E 3?, OpenAI Cookbook; Raghavan, P. (2024), Gemini image generation got it wrong. We’ll do better, Google.

Ali, R., et al. (2024). Demographic representation in 3 leading artificial intelligence text-to-image generators. JAMA Surgery, 159(1), 87–95. DOI 10.1001/jamasurg.2023.5695.

Wie belastbar sind die Forschungsergebnisse zu den Potenzialen von KI im Moment?

Das Wichtigste zuerst. Wenn Ihnen jemand eine Studie zitiert, stellen Sie zwei Fragen, bevor Sie zustimmen: „Wer waren die Lernenden, und wie lange dauerte die Studie?"

Warum das wichtig ist. 2025 berichtete eine Metaanalyse von 51 Studien über einen signifikanten Nutzen von ChatGPT für die schulischen Leistungen von Schüler:innen. Der Artikel wurde hunderttausende Male gelesen und diente als Grundlage für zahlreiche selbstsichere Aussagen im Lehrerzimmer. Am 22. April 2026 zog die Fachzeitschrift den Artikel zurück. Eine Rücknahme (Retraction) bedeutet, dass eine Fachzeitschrift offiziell etwas zurückzieht, das sie veröffentlicht hat; der Artikel bleibt sichtbar, jedoch mit dem Vermerk „RETRACTED" gekennzeichnet, sodass alle, die ihn zitiert haben, dies erkennen können. Zwei externe Forschende hatten Unstimmigkeiten in der Zusammenführung der Studien entdeckt. Die verantwortliche Redakteurin der Fachzeitschrift schrieb, die Probleme „untergraben das Vertrauen der Redaktion in die Validität der Analyse". Die Autor:innen reagierten nicht auf die Korrespondenz zu diesem Thema.

Das bedeutet nicht, dass KI keine Wirkung hat. Es gibt seriöse Studien, die moderate Vorteile belegen. Dieses Forschungsfeld ist zudem noch nicht klar abgegrenzt, da es relativ neu und hochdynamisch ist. Es bedeutet, dass die häufig zitierte Zahl falsch war – und dass es ein Jahr und zwei externe Fachleute brauchte, um das festzustellen.

Ein weiterer erwähnenswerterVorbehalt Vorbehalt:ist erwähnenswert. Zumindest in Mathematik gilt: Je näher die Evidenz an die Schule heranrückt, desto kleiner fällt der Effekt ausaus. Fächerübergreifend ist das Bild uneinheitlich: Einige neuere Übersichtsarbeiten finden in Schulen größere Effekte als an Hochschulen – zumindestdoch imdie Moment.Studien an Schulen sind noch wenige und klein.

Vertiefung. Die Rücknahme selbst umfasst nur eine Seite, ist frei zugänglich und lohnt sich gerade wegen ihrer Kürze: Wang, J., & Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13, 528. DOI 10.1057/s41599-026-07310-z.

Das zurückgezogene Original war HSSC 12, 621 (2025). Weiterhin gültig: Wu, X., Zhu, P., Zhang, J., Yin, M., & Wang, Y. (2026). ChatGPT's impact on student learning outcomes: A meta-analysis of 35 experimental studies. HSSC,Humanities and Social Sciences Communications, 13, 684. Frei zugänglich, DOI 10.1057/s41599-026-07019-z.

Eine breiter angelegte, neuere zusammenfassende Analyse: Han, X., Peng, H., & Liu, M. (2025). The impact of GenAI on learning outcomes: A systematic review and meta-analysis of experimental studies. Educational Research Review, 48, 100714. DOI 10.1016/j.edurev.2025.100714.

Die reine Schul-Zahl:Zahl für Mathematik: Yi, L., Liu, D., Jiang, T., & Xian, Y. (2025). The effectiveness of AI on K-12 students' mathematics learning: A systematic review and meta-analysis. International Journal of Science and Mathematics Education, 23(4), 1105–1126. DOI 10.1007/s10763-024-10499-7.

Risiken von KI

(1) Etwas zu tun ist nicht dasselbe wie zu lernen

Stellen Sie sich vor. Bevor Sie eine Hausaufgabe stellen, die ein Chatbot erledigen kann, überlegen Sie sich, welchen Zweck die Aufgabe eigentlich verfolgt. Wäre es vielleicht sinnvoll, die Aufgabe zu ändern?

Warum das wichtig ist. Lernt man mit einem Chatbot schneller? Rund tausend Schüler:innen der Jahrgangsstufen 9 bis 11 übten Mathematik in drei Gruppen: eine mit einem Standard-Chatbot, eine mit einer Version, die programmiert war, die Antwort zurückzuhalten und stattdessen eine Rückfrage zu stellen, und eine ohne Chatbot. Während der Nutzung bearbeitete die Gruppe mit dem Standard-Chatbot 48 Prozent mehr Übungsaufgaben als die Gruppe ohne. Anschließend schrieben alle dieselbe Prüfung ohne Chatbot. Das zunächst überraschende Ergebnis: Die Gruppe mit dem Standard-Chatbot schnitt 17 Prozent schlechter ab als die Schüler:innen ohne Chatbot. Die Gruppe, die mit dem antwortzurückhaltenden Chatbot gearbeitet hatte, zeigte im Test keinen Leistungsabfall gegenüber der Gruppe ohne Chatbot, übte aber mehr. Die Schüler:innen mit dem Standard-Chatbot waren weder faul, noch haben sie betrogen. Sie arbeiteten härter und lernten weniger, denn das Werkzeug eliminierte nicht die Anstrengung, sondern die kognitive Herausforderung, aus der Lernen besteht.

„KI macht es sehr leicht, eine Lösung zu bekommen, ohne sie zu verstehen.“

Vertiefung. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122, e2422633122. DOI 10.1073/pnas.2422633122.

(2) KI-Erkennungstools bestrafen die falschen Schüler:innen

Stellen Sie sich vor. Sie erhalten einen Aufsatz zur Bewertung. Aus Neugier über dessen Echtheit geben Sie ihn in einen KI-Detektor ein. Das Ergebnis blinkt auf: Der Aufsatz wurde nahezu sicher von KI geschrieben.

Warum es wichtig ist. Sie setzen den KI-Detektor ein, um Fairness sicherzustellen – doch für eine bestimmte Gruppe bewirken die Detektoren genau das Gegenteil. Ein Detektor erkennt keinen maschinell erzeugten Text. Er misst, wie vorhersehbar die Wortwahl ist. Und genau darin liegt das Problem, etwa wenn eine Person in einer Fremdsprache schreibt, wenig Schreibpraxis hat oder über einen begrenzten Alltagswortschatz verfügt. Ihr Schreiben ist vorhersehbar. Als sieben kommerzielleweit verbreitete Detektoren 91 Aufsätze vonanalysierten, Nicht-Muttersprachler:innendie Personen mit anderer Muttersprache für den Englischtest TOEFL geschrieben hatten – gesammelt in einereinem Englischprüfungchinesischen analysierten,Online-Forum wurden–, stuften sie diese Aufsätze in rund sechs von zehn Fällen fälschlich als maschinell erzeugt eingestuft. Im Gegensatz dazu wurdenein. Aufsätze 14-jährigeramerikanischer Amerikaner:innenAchtklässler in ihrer Muttersprache Englisch wurden fast durchweg korrekt eingestuft. Ein Werkzeug, das ausgerechnet bei einer Gruppe falsch-positive Ergebnisse liefert, ist nicht neutral. Zudem ist diese Gruppe am wenigsten in der Lage, sich dagegen zu wehren.

Vertiefung. Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. Frei zugänglich, DOI 10.1016/j.patter.2023.100779.

(3) Wo landen die Daten der Schüler:innen eigentlich?

Stellen Sie sich vor. Sie nutzen ein KI-Werkzeug, das Ihre Schule anbietet. Versuchen Sie herauszufinden, wohin die Daten der Schüler:innen gehen.

Warum es wichtig ist. Kann Ihre Schule sicherstellen, dass die Daten nicht an Dritte weitergegeben werden? Ein Dritter ist ein Unternehmen, das weder Ihre Schule noch die Entwicklerin der App ist. Typischerweise handelt es sich um Werbe- oder Analyseunternehmen, die Daten erhalten, während die Schüler:innen arbeiten. Niemand an der Schule hat dieses Unternehmen ausgewählt. Als Forschende eine technische Analyse von 163 Lernprodukten durchführten, die während der pandemiebedingten Schulschließungen von Regierungen empfohlen wurden, verarbeiteten 145 davon die Daten von Kindern auf eine Weise, die deren Rechte gefährdete oder verletzte, indem sie Daten an 196 Drittunternehmen übermittelten oder ihnen Zugriff darauf gewährten – überwiegend aus der Werbebranche. Von den 42 Regierungen, die eigene Produkte entwickelten, statt sie einzukaufen, hatten 39 Produkte mit demselben Problem entwickelt. Die Studie bezieht sich auf Produkte aus dem Jahr 2021, und einige haben sich seither möglicherweise verändert. Wir können jedoch nicht ausschließen, dass Ähnliches auch für KI-Anwendungen gilt.

Vertiefung. Human Rights Watch (2022). „How dare they peep into my private life?": Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. Frei verfügbar unter hrw.org. In den Länderanhängen können Sie nachschlagen, was wo empfohlen wurde.

(4) KI kommt zuletzt dort an, wo sie am dringendsten gebraucht wird

Stellen Sie sich vor. Wie viel Fortbildung haben Sie bisher zum Thema KI oder zum fachspezifischen Unterrichten mit KI erhalten?

Warum das wichtig ist. Erwachsenen,In dieeinem ihreExperiment Ausbildunglösten bereitsErwachsene abgeschlossenmit hatten,und wurdeohne Hochschulabschluss eine berufsnahe betriebswirtschaftliche Aufgabe. Mit einem KI-AssistentinAssistenten zurverschwanden Verfügungetwa gestellt.drei DieViertel Leistungslückeder Lücke zwischen Personenden mitbeiden höherer und niedrigerer formaler Bildung verringerte sich deutlich.Gruppen. Als die Forschenden dieden AssistentinAssistenten anschließend wieder entzogen, tauchtekehrte dieein beträchtlicher Teil der Lücke teilweise erneut auf.zurück. Die ForschendenAutoren schlossenschließen daraus, dass die KI-AssistentinKI dieeinen Großteil der Arbeit erledigt,erledigt denhatte Teilnehmendenund abernur keineein FähigkeitenTeil vermitteltdes hatte.Zugewinns erhalten blieb, nachdem sie weg war.

Eine Befragung amerikanischer Schulleitungen zeigteliefert folgendesdie Bild:zweite Hälfte des Bildes: Je benachteiligter die Schüler:innenSchülerschaft einer Schule waren,Schule, desto geringerweniger warhatte derdie EinflussSchule vonunternommen, um KI aufzu denintegrieren Unterricht.– weniger Regelungen, weniger Fortbildung für Lehrkräfte, weniger Orientierung für die Nutzung durch Schülerinnen und Schüler. Das ist ein Zusammenhang, kein Beleg für eine Ursache.

Verbindet man die Erkenntnisse beider Studien, lässt sich Folgendes festhalten:Zusammengenommen: Ein gutes Werkzeug kann eine Lücke schließen,verkleinern, solange es sich in den Händen einerder lernenden PersonLernenden befindet. Es erreicht jedochaber intendenziell derdie Regel nicht diejenigen,Schulen, die es am meistenwenigsten bräuchten,brauchen, und hinterlässtnur keineein Fähigkeiten,Teil seines Nutzens bleibt erhalten, wenn es wieder entfernt wird.

Zahlen aus Deutschland zeigen dasselbe Muster. Unter 1.590 Jugendlichen im Alter von 14 bis 20 Jahren sahen 80 Prozent aus den wohlhabendstenwohlhabendsten, Familienaber undnur 55 Prozent aus den einkommensschwächstenam wenigsten wohlhabenden Familien KI als Chance.Chance Und auffür die WahrnehmungSchule. Die Nutzung folgt dasdemselben Handeln:Gefälle: Unter den Jugendlichen, die KI-Werkzeuge verwenden, nutzen 70 Prozent der Gymnasiast:innenSchülerinnen nutztenund KISchüler an Gymnasien sie für Schule oder Hausaufgaben, verglichen mit 58 Prozent an Schulenanderen derweiterführenden Sekundarstufe I ohne gymnasiale Ausrichtung.Schulen.

Wie steht es um die Fortbildung von Lehrkräften? Eine Befragung von mehr als zehntausend Lehrkräften in England ergab, dass 45 Prozent der Lehrkräfte an Privatschulen bereits eine formale KI-Fortbildung erhalten hatten.hatten, Imverglichen mit 21 Prozent an staatlichen Schulsystem waren es dagegen 21 Prozent.Schulen. Innerhalb des staatlichen SchulsystemsSystems reichten die Werte von 26 Prozent an denSchulen mit der wohlhabendsten SchulenSchülerschaft bis zu 18 Prozent an denSchulen ärmstenmit Schulen.der am wenigsten wohlhabenden.

Vertiefung. Cruces, G., Fernández Meijide, D., Galiani, S., Gálvez, R. H., & Lombardi, M. (2026). Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment (NBER Working Paper 34851). Ein Arbeitspapier, noch nicht begutachtet. Campos, C., & Singleton, J. D. (2026). AI diffusion gaps: Unequal integration of AI across K-12 schools (NBER Working Paper 35347). Latham, K., & Montacute, R. (2025). Artificial advantage? AI in the classroom and the inequality gap. The Sutton Trust. Frei verfügbar unter suttontrust.com. Vodafone Stiftung Deutschland (2024), Pioniere des Wandels; mpfs (2024), JIM-Studie 2024. Beide frei verfügbar, auf Deutsch.

(5) Was sich beim Lernen mit KI verbessert, ist nicht unbedingt das, was man sieht

Stellen Sie sich vor. Sie führen einen neuen Chatbot in Ihrem Unterricht ein, und die Schüler:innen sind begeistert davon, das neue Werkzeug zu nutzen.

Warum das wichtig ist. Eine große Übersichtsarbeit über 228 Studien untersuchte vier verschiedene AspekteBereiche, desdie LernensKI (verbessern könnte: Wissen und Verstehen,Verstehen; Arbeitendie mitAnwendung KI,des Engagement/Motivation/Selbstvertrauen,Gelernten; die affektive Seite, etwa Motivation und Engagement; sowie die Fähigkeit, diedas eigene ArbeitLernen zu planen, zu überwachen und zu korrigieren).korrigieren. Drei der vier verbesserten sich. Der letzte Aspektnicht verbesserte– sich nicht,soweit die anderenStudien hingegendas schon.erkennen ließen.

  • Beim Wissen und Verstehen zeigteschnitt generative KI größerebesser Effekteab als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware, die bereits an Schulen im Einsatz sind.Übungssoftware.
  • Bei der Anwendung von Wissen sowie bei Motivationder undaffektiven EngagementSeite schnitt generative KI nicht besser ab als die ältere Software, über die viele Schulen bereits vorhandene Software.verfügen.
  • FürBei dieder Selbststeuerung gibtwar der zusammengefasste Effekt klein und könnte auf Zufall beruhen – und es nochgab nichtzu genugwenige Studien, um einenüberhaupt Effektzu festzustellen.untersuchen, welche Art von KI helfen könnte.

Nur wenige der Ergebnisse stammten aus randomisierten Studien, und die Begeisterung, die Sie in den ersten Wochen sehen, ist genau das, was kurze Studien am besten erfassen.

Eine kurze Randbemerkung: DieIn dieser Übersichtsarbeit zeigten sich die größten Effekte zeigen sichZuwächse in den Geistes-Kunst- und Kunstwissenschaften, weniger in Mathematik oder den Naturwissenschaften.Geisteswissenschaften.

Vertiefung. Yeo, G. H., & Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(4), article 110. DOI 10.1007/s10648-025-10085-5.