1. KI in der Bildung 1.1 Potenziale & Risiken Wenn Sie sich nur einen Satz von dieser Seite merken: KI hat den Weg in die Schulen gefunden wie ein Medikament ohne Beipackzettel. Als Lehrkraft wissen Sie nicht, wann Sie KI einsetzen sollen, es fehlen Ihnen Dosierungsanweisungen, und es gibt keine Informationen über die Nebenwirkungen. Dieses Kapitel dient als Beipackzettel für das Playbook. Sollte KI mit einem Beipackzettel kommen wie ein Medikament? Sie kennen doch die Beipackzettel, die jedem Mediament beilegen. Zumeist legen wir den Beipackzettel achtlos beiseite,  ohne einen Blick darauf zu werfen? Es mag unscheinbar wirken, aber dieser Zettel ist ein stiller Triumph für uns als Patienten. Der Beipackzettel legt vier wesentliche Dinge offen: wogegen das Medikament wirkt, wie viel man einnehmen soll, welche Überraschungen es bereithalten könnte, und wer besser die Finger davon lässt. Hinter jeder Zeile dieses Beipackzettels steht ein ganzer Apparat: klinische Studien, Aufsichtsbehörden und die Pflicht, Fehler offenzulegen. Niemand glaubt, dass der Beipackzettel selbst heilt. Seine wahre Stärke besteht darin, das Medikament für jeden sicher zu machen. Genau diese Magie fehlt uns, wenn wir KI ohne Anleitung unterrichten lassen. Die KI-Werkzeuge, die sich still und leise in Ihrer Schule einnisten, erben ein Problem, das älter ist als KI: Bildungstechnologie kam selten mit einem Beipackzettel. In Großbritannien ergab eine Untersuchung, dass nur 7 von 100 Bildungstechnologie-Unternehmen ihre Produkte in einer randomisierten Studie getestet hatten und nur 12 von 100 eine externe Zertifizierung angestrebt hatten. Aber Schulen fordern auch selten mehr. In einer Befragung in 17 US-Bundesstaaten hatten nur 11 von 100 Lehrkräften und Verantwortlichen der Schulverwaltung einen begutachteten Wirksamkeitsnachweis eingefordert, bevor sie ein neues Werkzeug einführten. Das Ergebnis ist in vielen Fällen verschwendetes Geld. In den USA blieben im Durchschnitt zwei Drittel der Lizenzen für Bildungssoftware ungenutzt, und 98 von 100 wurden nie intensiv genutzt. Das EdTech Genome Project, ebenfalls in den USA, untersuchte rund 7.000 Lehrmittel im Wert von 13 Milliarden Dollar und stellte fest, dass 85 von 100 entweder schlecht passten oder falsch umgesetzt wurden. Dieses Kapitel ist der Beipackzettel des Playbooks. Es erzählt, wo KI wirkt, wie viel man davon "einnehmen" sollte, welche Überrachungen lauern und wirft ein Licht auf die Nebenwirkungen – auch jene, die still und leise Kinder erreichten, die sich nie dafür entschieden hatten. Potenziale von KI Die meisten Studien zum Potenzial von KI beziehen sich auf Universitätsstudierende. Schülerinnen und Schüler kommen in diesen Studien bislang eher selten vor. Und die meisten Studien betreffen kurzfristige Interventionen von wenigen Stunden bis wenigen Wochen. Folglich könnte der sogenannte Neuheitseffekt die Ergebnisse positiv beeinflusst haben. Eine große Übersichtsarbeit über 68 Experimente fand genau dieses Muster: Je kürzer die Studie und je kleiner die Zahl der Teilnehmenden, desto größer war der berichtete Nutzen von KI. (1) KI ein neues Thema erklären lassen und die Übung für den eigenen Unterricht aufheben Stellen Sie sich vor. Wenn morgen ein Schüler oder eine Schülerin ein Thema verpasst hat oder ein kniffliges Konzept noch einmal erklärt bekommen muss, lassen Sie eine KI-Tutorin die erste Erklärung übernehmen. Die Übung heben Sie sich für Ihren Unterricht auf, wo echtes Lernen lebendig wird. Warum das wichtig ist. In einer gut kontrollierten Studie vermittelte eine KI-Tutorin neuen Stoff mindestens so gut wie guter Unterricht. In einer Harvard-Studie lernten 194 Physikstudierende zwei Themen. Für ein Thema nutzten sie eine eigens dafür entwickelte KI-Tutorin. Für das andere Thema lernten sie in einem gut gestalteten aktivierenden Unterricht – mit Diskussionen und Problemlösen in Partnerarbeit, nicht in einer Vorlesung. Jede Person durchlief beide Ansätze, sodass niemand behaupten kann, die stärkere Gruppe habe die bessere Behandlung erhalten. In einem unmittelbar danach durchgeführten Test erzielten die durch die KI unterrichteten Studierenden deutlich höhere Ergebnisse. Die Forschenden verzeichneten eine mediane Bearbeitungszeit von 49 Minuten, verglichen mit den 60 Minuten, die im Stundenplan für die Einheit vorgesehen waren. Die Autoren sind bei der Interpretation dieser Ergebnisse vorsichtig: Der Stoff war neu für die Studierenden, und ein Großteil der Aufgabe bestand schlicht darin, ihn gut zu erklären. Sie lehnen es ausdrücklich ab, ihr Ergebnis auf Aufgaben zu übertragen, bei denen mehrere Ideen miteinander verknüpft werden müssen. Und es handelte sich um Studierende, nicht um Achtklässler. Eine große Übersichtsarbeit, die die Ergebnisse von 228 Studien zusammenführte, weist in dieselbe Richtung – mit einer wichtigen Einschränkung. Generative KI erzielte größere Zuwächse beim Wissen und Verstehen als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware. Dies war jedoch das einzige der vier in der Übersichtsarbeit gemessenen Ergebnisse, bei dem generative KI im Vorteil war. Vertiefung. Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, Article 17458. Frei zugänglich, DOI 10.1038/s41598-025-97652-6. Der Artikel beschreibt, wie die Tutorin konzipiert und kontrolliert wurde. Das ist hilfreich für alle, die selbst eine KI-Tutorin entwickeln möchten. (2) Die Zeit für die Unterrichtsvorbereitung besser nutzen Stellen Sie sich vor. Sie sparen einen Teil der Zeit, die Sie für die Unterrichtsvorbereitung benötigen, indem Sie KI nutzen, um einen ersten Entwurf zu erstellen, den Sie anschließend gründlich überarbeiten. Warum das wichtig ist. Niemand bestreitet, dass die Arbeitsbelastung von Lehrkräften hoch ist. Ein möglicher Nutzen von KI besteht daher darin, die Arbeitszeit effizienter zu nutzen. Eine Studie in England untersuchte, ob der gezielte Einsatz von KI bei der Unterrichtsvorbereitung die Arbeitsbelastung von Lehrkräften verringern kann. Forschende teilten 259 Naturwissenschaftslehrkräfte an 68 Schulen zufällig entweder einer Gruppe zu, die ChatGPT zusammen mit einem Online-Leitfaden zur sinnvollen Nutzung einsetzte, oder einer Gruppe, die gebeten wurde, überhaupt keine generative KI zu verwenden. Die Lehrkräfte der ChatGPT-Gruppe wendeten pro Woche etwa 56 Minuten für die Planung des Naturwissenschaftsunterrichts in den Jahrgangsstufen 7 und 8 (11 bis 13 Jahre) auf, verglichen mit etwa 81 Minuten in der Vergleichsgruppe. Ein Gremium von Fachleuten bewertete die Qualität der Unterrichtspläne, ohne zu wissen, ob diese mit oder ohne Unterstützung von KI erstellt worden waren. Die Fachleute fanden keine Hinweise darauf, dass sich die Qualität der Pläne unterschied. Zwei Punkte sind jedoch hervorzuheben. (1) Die Lehrkräfte nutzten das Werkzeug im Laufe der Wochen immer weniger. Die Evaluatoren deuten dies als Übergang von einer Lernphase in die Routine; es kann aber auch bedeuten, dass sich die Zeitersparnis ohne Unterstützung nicht aufrechterhält. (2) Die Studie maß die von Lehrkräften für die Unterrichtsplanung aufgewendete Zeit, nicht die Lernergebnisse ihrer Schülerinnen und Schüler. „Alles läuft auf die Zeit hinaus. Selbst Lehrkräfte, die den Wert von KI erkennen, haben selten die Zeit, den Umgang damit zu lernen.“ Vertiefung. Roy, P., Poet, H., Staunton, R., Aston, K., & Thomas, D. (2024, 12. Dezember). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, im Auftrag der Education Endowment Foundation und der Hg Foundation. Frei verfügbar unter educationendowmentfoundation.org.uk. (3) Bessere Unterstützung für Lernende, die vom Standardunterricht nicht in vollem Umfang profitieren Stellen Sie sich vor. Ihre Schule entscheidet, wie sie ihre Mittel einsetzen möchte, und will einen KI-Chatbot anschaffen. Wie wahrscheinlich ist es Ihrer Meinung nach, dass die Anbieter des Chatbots Ihnen Nachweise für dessen Nutzen in verschiedenen Fächern liefern? Warum das wichtig ist. Der Anbieter verweist möglicherweise auf Forschung zu Lernenden mit Behinderungen – eines der am längsten untersuchten Felder von KI in der Bildung, das bei der Mittelvergabe leicht übersehen wird. In einer Analyse von 29 Studien mit 41 Gruppen von Lernenden mit Behinderungen fanden Forschende moderate Vorteile über ein breites Spektrum von Settings hinweg. Aber lesen Sie das Kleingedruckte. In sieben von zehn dieser Studien bedeutete „KI“ einen Roboter, meist einen humanoiden, der oft von einer Forschungsperson außerhalb des Sichtfelds des Kindes gesteuert wurde. Nur in einer von fünf Studien kam Software zum Einsatz. Das ist also kein Beweis dafür, dass ein Chatbot einem autistischen Schüler oder einer autistischen Schülerin in Ihrer Klasse hilft. Auch konnten die Autoren der Übersichtsarbeit nicht sagen, was diese Interventionen wirksam macht. Aus ihrer Forschung ließ sich nicht ableiten, warum sich die erfolgreichen von den nicht erfolgreichen Studien unterschieden. Vertiefung. Zhang, L., Carter, R. A., Jr., Liu, Y., & Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. Review of Educational Research, 96 (1). DOI 10.3102/00346543241293424. Das eigentliche Highlight ist die Tabelle der eingeschlossenen Studien: Sie zeigt auf einen Blick, wie wenig sich dieses Feld tatsächlich mit den Werkzeugen beschäftigt, die derzeit an Schulen vermarktet werden. (4) Lernenden zeigen, wo KI versagt Stellen Sie sich vor. Sie lassen Ihre Klasse zehn Bilder von „einem Arzt/einer Ärztin" und zehn von „einer Pflegekraft" erstellen. Zählen Sie aus, wer in welchem Set erscheint, und entfachen Sie dann eine Diskussion: Woher kommen diese Muster, und wer hat diese Entscheidungen getroffen? Abb. 1: „One-Shot-Prompt: a doctor, a nurse“ (KI-generiertes Bild, NanoBanana 2) Warum das wichtig ist. Die klassische Version dieser Unterrichtseinheit wirkt inzwischen überholt, und genau deshalb verdient sie Aufmerksamkeit. Jahrelang war die Demonstration vorhersehbar: Man fragte nach einem Arzt, und es erschien ein Mann. In einem Test der gemeinnützigen Organisation AlgorithmWatch zeigte Midjourney Ärzte fast immer als weiße Männer, während Adobe Firefly sichtbare, wenn auch unvollkommene, Versuche unternahm, mehr Vielfalt abzubilden. Eine begutachtete Studie mit 2.400 KI-generierten Bildern von Chirurgen fand dieselbe Spaltung zwischen den Produkten: Zwei von drei populären Generatoren zeigten fast keine Frauen, während der dritte dem tatsächlichen Frauenanteil in der Chirurgie nahekam. Probieren Sie denselben Prompt heute aus, und Sie könnten eine Ärztin oder einen männlichen Pfleger sehen (Abb. 1). Lassen Sie sich aber nicht täuschen zu glauben, die Verzerrung sei verschwunden. Eine Analyse von 1.344 Bildern aus drei populären Generatoren aus dem Jahr 2026 zeigte das Gegenteil: Bei der Anfrage nach einer „kompetenten Person" zeigte ein System keine einzige Frau. Verändert hat sich nicht die Verzerrung, sondern die Ebene, auf der sie wirkt – und genau das ist die wichtige Lektion! Hinter jedem dieser Bilder stehen menschliche Entscheidungen: womit das System trainiert wurde und was seine Entwickler:innen im Nachhinein entschieden haben, dass es zeigen soll. Die zweite Ebene ist veränderbar, unsichtbar und wird von einem Unternehmen festgelegt. Die erste Ebene menschlicher Entscheidungen ist das, was das System aufgesogen hat. Millionen von Bildern, von Menschen erstellt und beschriftet, jedes davon ein Echo der Welt, wie sie bereits war. Das ist die Ebene, die die klassische Unterrichtseinheit zu Verzerrungen offenlegt, und Schüler:innen begreifen sie leicht: Die Maschine wurde zu einem Spiegelbild dessen, womit sie gefüttert wurde. Die zweite Ebene wird davon geprägt, was ein Unternehmen als Nächstes zeigen möchte – dieser Einfluss hinterlässt jedoch keine Spur im Bild selbst. Hier spielen sich drei Dinge ab, jedes davon von den Entwickler:innen in ihren eigenen Worten beschrieben. Ihre Worte werden umgeschrieben, bevor das Modell sie erhält. Aus OpenAIs eigener Entwicklerdokumentation: „we use GPT-4 to optimize all of your prompts before they're passed to DALL-E" – und „this feature isn't able to be disabled at the moment." Was Ihr Schüler oder Ihre Schülerin eingegeben hat, ist nicht das, was die Maschine gefragt wurde. Das Erscheinungsbild wird ergänzt, wenn der Prompt es offenlässt. OpenAI beschreibt seine Diversitätstechnik so: „This technique is applied at the system level when DALL·E is given a prompt describing a person that does not specify race or gender, like 'firefighter.'" Danach gaben Nutzer:innen zwölfmal häufiger an, die Bilder zeigten Menschen unterschiedlicher Herkunft. „Ein Arzt" ist genau eine solche Art von Prompt. Und diese Feinabstimmung kann danebengehen. Google, nachdem die Bildgenerierung von Gemini 2024 pausiert wurde: „Our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range." Wenn also ein Schüler oder eine Schülerin „ein Arzt" eingibt und eine Frau erscheint, gibt das Bild keinen Hinweis darauf, welche Ebene sie hervorgebracht hat. Diese Unsicherheit ist kein Makel der Unterrichtseinheit. Sie ist die Lektion selbst. Die alte Geschichte behauptete, die Maschine habe schlicht die Vorurteile der Gesellschaft aufgesogen. Die neue Geschichte geht tiefer und hält länger: Ein Unternehmen hat eine Entscheidung getroffen! Diese Entscheidung lässt sich im Ergebnis nicht erkennen, und sie kann sich an einem x-beliebigen Dienstag ändern, still und ohne Vorwarnung. Diese Wahrheit überdauert jedes neue Modell. Die klassische Stereotyp-Lektion verblasst. Das ist die Lektion, die die Aufmerksamkeit der Lernenden verdient, und sie wird das nächste Modell-Update überdauern: Das Bild ist keine einfache Widerspiegelung der Realität, und es ist nicht zufällig entstanden. Jemand hat eine Entscheidung getroffen. Abb. 2: „Warum das Bild zu einem Prompt wie ‚Zeichne einen Arzt‘ so aussieht, wie es aussieht – und warum das Bild selbst es Ihnen nicht verrät“ (KI-generiertes Bild, NanoBanana 2) Diese Lektion kann früh beginnen. Als 209 finnische Schüler:innen in 12 Klassen der Jahrgangsstufen 4 und 7 sich mit diesem Thema befassten, stieg der Anteil derer, die die Verzerrung datenbasiert erklären konnten, von etwa 7 von 100 auf 44 von 100. Der ehrliche Vorbehalt: Die Studie maß, was die Kinder erklären konnten, nicht, wie sie später handeln würden. „Verzerrungen gibt es nicht nur bei KI. Auch Schulbücher können verzerrt sein. Entscheidend ist das Wissen um den Zufall, um die Daten hinter einer Antwort und um mögliche Verzerrungen.“ Vertiefung. Vartiainen, H., Kahila, J., Tedre, M., López-Pernas, S., & Pope, N. (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(9), 5342–5368. Frei zugänglich, DOI 10.1177/14614448241252820. Die Studie hatte keine Vergleichsgruppe – lesen Sie sie als vielversprechendes Unterrichtsdesign, nicht als Beweis. Weinmann, H., Messingschlager, T. V., & Appel, M. (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. New Media & Society. Online first. Frei zugänglich, DOI 10.1177/14614448261435197. Ali, R., et al. (2024). Demographic representation in 3 leading artificial intelligence text-to-image generators. JAMA Surgery, 159(1), 87–95. DOI 10.1001/jamasurg.2023.5695. Die Aussagen der Anbieter selbst: OpenAI (2022), Reducing bias and improving safety in DALL·E 2; Depue, W. (2023), What’s new with DALL·E 3?, OpenAI Cookbook; Raghavan, P. (2024), Gemini image generation got it wrong. We’ll do better, Google. Wie belastbar sind die Forschungsergebnisse zu den Potenzialen von KI im Moment? Das Wichtigste zuerst. Wenn Ihnen jemand eine Studie zitiert, stellen Sie zwei Fragen, bevor Sie zustimmen: „Wer waren die Lernenden, und wie lange dauerte die Studie?" Warum das wichtig ist. 2025 berichtete eine Metaanalyse von 51 Studien über einen signifikanten Nutzen von ChatGPT für die schulischen Leistungen von Schüler:innen. Der Artikel wurde hunderttausende Male gelesen und diente als Grundlage für zahlreiche selbstsichere Aussagen im Lehrerzimmer. Am 22. April 2026 zog die Fachzeitschrift den Artikel zurück. Eine Rücknahme (Retraction) bedeutet, dass eine Fachzeitschrift offiziell etwas zurückzieht, das sie veröffentlicht hat; der Artikel bleibt sichtbar, jedoch mit dem Vermerk „RETRACTED" gekennzeichnet, sodass alle, die ihn zitiert haben, dies erkennen können. Zwei externe Forschende hatten Unstimmigkeiten in der Zusammenführung der Studien entdeckt. Die verantwortliche Redakteurin der Fachzeitschrift schrieb, die Probleme „untergraben das Vertrauen der Redaktion in die Validität der Analyse". Die Autor:innen reagierten nicht auf die Korrespondenz zu diesem Thema. Das bedeutet nicht, dass KI keine Wirkung hat. Es gibt seriöse Studien, die moderate Vorteile belegen. Dieses Forschungsfeld ist zudem noch nicht klar abgegrenzt, da es relativ neu und hochdynamisch ist. Es bedeutet, dass die häufig zitierte Zahl falsch war – und dass es ein Jahr und zwei externe Fachleute brauchte, um das festzustellen. Ein weiterer Vorbehalt ist erwähnenswert. Zumindest in Mathematik gilt: Je näher die Evidenz an die Schule heranrückt, desto kleiner fällt der Effekt aus. Fächerübergreifend ist das Bild uneinheitlich: Einige neuere Übersichtsarbeiten finden in Schulen größere Effekte als an Hochschulen – doch die Studien an Schulen sind noch wenige und klein. Vertiefung. Die Rücknahme selbst umfasst nur eine Seite, ist frei zugänglich und lohnt sich gerade wegen ihrer Kürze: Wang, J., & Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13, 528. DOI 10.1057/s41599-026-07310-z. Das zurückgezogene Original war HSSC 12, 621 (2025). Weiterhin gültig: Wu, X., Zhu, P., Zhang, J., Yin, M., & Wang, Y. (2026). ChatGPT's impact on student learning outcomes: A meta-analysis of 35 experimental studies. Humanities and Social Sciences Communications, 13, 684. Frei zugänglich, DOI 10.1057/s41599-026-07019-z. Die reine Schul-Zahl für Mathematik: Yi, L., Liu, D., Jiang, T., & Xian, Y. (2025). The effectiveness of AI on K-12 students' mathematics learning: A systematic review and meta-analysis. International Journal of Science and Mathematics Education, 23(4), 1105–1126. DOI 10.1007/s10763-024-10499-7. Eine breiter angelegte, neuere zusammenfassende Analyse: Han, X., Peng, H., & Liu, M. (2025). The impact of GenAI on learning outcomes: A systematic review and meta-analysis of experimental studies. Educational Research Review, 48, 100714. DOI 10.1016/j.edurev.2025.100714. Risiken von KI (1) Etwas zu tun ist nicht dasselbe wie zu lernen Stellen Sie sich vor. Bevor Sie eine Hausaufgabe stellen, die ein Chatbot erledigen kann, überlegen Sie sich, welchen Zweck die Aufgabe eigentlich verfolgt. Wäre es vielleicht sinnvoll, die Aufgabe zu ändern? Warum das wichtig ist. Lernt man mit einem Chatbot schneller? Rund tausend Schüler:innen der Jahrgangsstufen 9 bis 11 übten Mathematik in drei Gruppen: eine mit einem Standard-Chatbot, eine mit einer Version, die programmiert war, die Antwort zurückzuhalten und stattdessen eine Rückfrage zu stellen, und eine ohne Chatbot. Während der Nutzung bearbeitete die Gruppe mit dem Standard-Chatbot 48 Prozent mehr Übungsaufgaben als die Gruppe ohne. Anschließend schrieben alle dieselbe Prüfung ohne Chatbot. Das zunächst überraschende Ergebnis: Die Gruppe mit dem Standard-Chatbot schnitt 17 Prozent schlechter ab als die Schüler:innen ohne Chatbot. Die Gruppe, die mit dem antwortzurückhaltenden Chatbot gearbeitet hatte, zeigte im Test keinen Leistungsabfall gegenüber der Gruppe ohne Chatbot, übte aber mehr. Die Schüler:innen mit dem Standard-Chatbot waren weder faul, noch haben sie betrogen. Sie arbeiteten härter und lernten weniger, denn das Werkzeug eliminierte nicht die Anstrengung, sondern die kognitive Herausforderung, aus der Lernen besteht. „KI macht es sehr leicht, eine Lösung zu bekommen, ohne sie zu verstehen.“ Vertiefung. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122, e2422633122. DOI 10.1073/pnas.2422633122. (2) KI-Erkennungstools bestrafen die falschen Schüler:innen Stellen Sie sich vor. Sie erhalten einen Aufsatz zur Bewertung. Aus Neugier über dessen Echtheit geben Sie ihn in einen KI-Detektor ein. Das Ergebnis blinkt auf: Der Aufsatz wurde nahezu sicher von KI geschrieben. Warum es wichtig ist. Sie setzen den KI-Detektor ein, um Fairness sicherzustellen – doch für eine bestimmte Gruppe bewirken die Detektoren genau das Gegenteil. Ein Detektor erkennt keinen maschinell erzeugten Text. Er misst, wie vorhersehbar die Wortwahl ist. Und genau darin liegt das Problem, etwa wenn eine Person in einer Fremdsprache schreibt, wenig Schreibpraxis hat oder über einen begrenzten Alltagswortschatz verfügt. Ihr Schreiben ist vorhersehbar. Als sieben weit verbreitete Detektoren 91 Aufsätze analysierten, die Personen mit anderer Muttersprache für den Englischtest TOEFL geschrieben hatten – gesammelt in einem chinesischen Online-Forum –, stuften sie diese in rund sechs von zehn Fällen fälschlich als maschinell erzeugt ein. Aufsätze amerikanischer Achtklässler in ihrer Muttersprache Englisch wurden fast durchweg korrekt eingestuft. Ein Werkzeug, das ausgerechnet bei einer Gruppe falsch-positive Ergebnisse liefert, ist nicht neutral. Zudem ist diese Gruppe am wenigsten in der Lage, sich dagegen zu wehren. Vertiefung. Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. Frei zugänglich, DOI 10.1016/j.patter.2023.100779. (3) Wo landen die Daten der Schüler:innen eigentlich? Stellen Sie sich vor. Sie nutzen ein KI-Werkzeug, das Ihre Schule anbietet. Versuchen Sie herauszufinden, wohin die Daten der Schüler:innen gehen. Warum es wichtig ist. Kann Ihre Schule sicherstellen, dass die Daten nicht an Dritte weitergegeben werden? Ein Dritter ist ein Unternehmen, das weder Ihre Schule noch die Entwicklerin der App ist. Typischerweise handelt es sich um Werbe- oder Analyseunternehmen, die Daten erhalten, während die Schüler:innen arbeiten. Niemand an der Schule hat dieses Unternehmen ausgewählt. Als Forschende eine technische Analyse von 163 Lernprodukten durchführten, die während der pandemiebedingten Schulschließungen von Regierungen empfohlen wurden, verarbeiteten 145 davon die Daten von Kindern auf eine Weise, die deren Rechte gefährdete oder verletzte, indem sie Daten an 196 Drittunternehmen übermittelten oder ihnen Zugriff darauf gewährten – überwiegend aus der Werbebranche. Von den 42 Regierungen, die eigene Produkte entwickelten, statt sie einzukaufen, hatten 39 Produkte mit demselben Problem entwickelt. Die Studie bezieht sich auf Produkte aus dem Jahr 2021, und einige haben sich seither möglicherweise verändert. Wir können jedoch nicht ausschließen, dass Ähnliches auch für KI-Anwendungen gilt. Vertiefung. Human Rights Watch (2022). „How dare they peep into my private life?": Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. Frei verfügbar unter hrw.org. In den Länderanhängen können Sie nachschlagen, was wo empfohlen wurde. (4) KI kommt zuletzt dort an, wo sie am dringendsten gebraucht wird Stellen Sie sich vor. Wie viel Fortbildung haben Sie bisher zum Thema KI oder zum fachspezifischen Unterrichten mit KI erhalten? Warum das wichtig ist. In einem Experiment lösten Erwachsene mit und ohne Hochschulabschluss eine berufsnahe betriebswirtschaftliche Aufgabe. Mit einem KI-Assistenten verschwanden etwa drei Viertel der Lücke zwischen den beiden Gruppen. Als die Forschenden den Assistenten anschließend wieder entzogen, kehrte ein beträchtlicher Teil der Lücke zurück. Die Autoren schließen daraus, dass die KI einen Großteil der Arbeit erledigt hatte und nur ein Teil des Zugewinns erhalten blieb, nachdem sie weg war. Eine Befragung amerikanischer Schulleitungen liefert die zweite Hälfte des Bildes: Je benachteiligter die Schülerschaft einer Schule, desto weniger hatte die Schule unternommen, um KI zu integrieren – weniger Regelungen, weniger Fortbildung für Lehrkräfte, weniger Orientierung für die Nutzung durch Schülerinnen und Schüler. Das ist ein Zusammenhang, kein Beleg für eine Ursache. Zusammengenommen: Ein gutes Werkzeug kann eine Lücke verkleinern, solange es sich in den Händen der Lernenden befindet. Es erreicht aber tendenziell die Schulen, die es am wenigsten brauchen, und nur ein Teil seines Nutzens bleibt erhalten, wenn es wieder entfernt wird. Zahlen aus Deutschland zeigen dasselbe Muster. Unter 1.590 Jugendlichen im Alter von 14 bis 20 Jahren sahen 80 Prozent aus den wohlhabendsten, aber nur 55 Prozent aus den am wenigsten wohlhabenden Familien KI als Chance für die Schule. Die Nutzung folgt demselben Gefälle: Unter den Jugendlichen, die KI-Werkzeuge verwenden, nutzen 70 Prozent der Schülerinnen und Schüler an Gymnasien sie für Schule oder Hausaufgaben, verglichen mit 58 Prozent an anderen weiterführenden Schulen. Wie steht es um die Fortbildung von Lehrkräften? Eine Befragung von mehr als zehntausend Lehrkräften in England ergab, dass 45 Prozent der Lehrkräfte an Privatschulen bereits eine formale KI-Fortbildung erhalten hatten, verglichen mit 21 Prozent an staatlichen Schulen. Innerhalb des staatlichen Systems reichten die Werte von 26 Prozent an Schulen mit der wohlhabendsten Schülerschaft bis zu 18 Prozent an Schulen mit der am wenigsten wohlhabenden. Vertiefung. Cruces, G., Fernández Meijide, D., Galiani, S., Gálvez, R. H., & Lombardi, M. (2026). Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment (NBER Working Paper 34851). Ein Arbeitspapier, noch nicht begutachtet. Campos, C., & Singleton, J. D. (2026). AI diffusion gaps: Unequal integration of AI across K-12 schools (NBER Working Paper 35347). Latham, K., & Montacute, R. (2025). Artificial advantage? AI in the classroom and the inequality gap. The Sutton Trust. Frei verfügbar unter suttontrust.com. Vodafone Stiftung Deutschland (2024), Pioniere des Wandels; mpfs (2024), JIM-Studie 2024. Beide frei verfügbar, auf Deutsch. (5) Was sich beim Lernen mit KI verbessert, ist nicht unbedingt das, was man sieht Stellen Sie sich vor. Sie führen einen neuen Chatbot in Ihrem Unterricht ein, und die Schüler:innen sind begeistert davon, das neue Werkzeug zu nutzen. Warum das wichtig ist. Eine große Übersichtsarbeit über 228 Studien untersuchte vier verschiedene Bereiche, die KI verbessern könnte: Wissen und Verstehen; die Anwendung des Gelernten; die affektive Seite, etwa Motivation und Engagement; sowie die Fähigkeit, das eigene Lernen zu planen, zu überwachen und zu korrigieren. Drei der vier verbesserten sich. Der letzte nicht – soweit die Studien das erkennen ließen. Beim Wissen und Verstehen schnitt generative KI besser ab als ältere Formen von KI wie intelligente Tutorensysteme und adaptive Übungssoftware. Bei der Anwendung von Wissen sowie bei der affektiven Seite schnitt generative KI nicht besser ab als die ältere Software, über die viele Schulen bereits verfügen. Bei der Selbststeuerung war der zusammengefasste Effekt klein und könnte auf Zufall beruhen – und es gab zu wenige Studien, um überhaupt zu untersuchen, welche Art von KI helfen könnte. Nur wenige der Ergebnisse stammten aus randomisierten Studien, und die Begeisterung, die Sie in den ersten Wochen sehen, ist genau das, was kurze Studien am besten erfassen. Eine kurze Randbemerkung: In dieser Übersichtsarbeit zeigten sich die größten Zuwächse in den Kunst- und Geisteswissenschaften. Vertiefung. Yeo, G. H., & Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(4), article 110. DOI 10.1007/s10648-025-10085-5. 1.2 Lehren über KI vs. Lehren mit KI Kernbotschaften KI ist ein Navigationsgerät. Es rettet die Fahrerin, die die Karte bereits im Kopf hat, und hindert diejenige, die sie nicht hat, am Lernen. Die Wirkung hängt von der Person ab, nicht vom Produkt. Wir vertreten die Auffassung, dass Lehren über KI die Voraussetzung für Lehren mit KI ist. Man muss die Maschine kennen, um die Antwort überprüfen zu können, die sie erzeugt hat. Wissen ist nicht Tun. Lehrkräfte bewerten ihr KI-Wissen höher als ihre Fähigkeit, damit zu unterrichten, und Fortbildung allein schließt diese Lücke nicht. Lehrkräfte nutzen KI hinter den Kulissen, nicht im Unterricht. In Deutschland nutzt die Hälfte der Lehrkräfte KI mehrmals im Monat oder häufiger; davon lässt weniger als ein Drittel die Schülerinnen und Schüler im Unterricht damit arbeiten. Pädagogik schlägt Technologie. KI zu nutzen, um die eigene Arbeit zu überarbeiten und darauf aufzubauen, schlägt die bloße Nutzung zum Üben oder Nachschlagen; Gruppenarbeit schlägt Alleinarbeit; Feedback schlägt Gamification. Besseres Feedback bedeutet nicht besseres Lernen. In einem Experiment führten KI-Kommentare, die besser bewertet wurden als die einer Lehrkraft, zu Überarbeitungen, die nicht besser waren. Entscheidend ist, ob das Feedback aufgenommen wird. KI steigert den Output, nicht das selbstgesteuerte Lernen. Klare Regeln und intensive Nutzung treten gemeinsam auf. In einer großen US-Befragung nutzten an Schulen mit einer KI-Richtlinie mehr Lehrkräfte KI – und sparten dadurch insgesamt mehr Zeit, nicht weniger. Bewahren Sie Ihre eigene Landkarte. Entlastung wird zu Dequalifizierung, wenn KI die Arbeit übernimmt, die Urteilsvermögen aufbaut und erhält. Wenn Sie sich nur einen Satz von dieser Seite merken: KI ist ein Navigationsgerät. Es rettet die Fahrerin, die bereits eine Karte im Kopf hat, und hindert die Fahrerin, die keine hat, still und leise daran, jemals eine aufzubauen. Das Navi-Problem Um ein Londoner Taxi zu fahren, muss man zunächst eine Wissensprüfung (den „Knowledge") bestehen: 320 festgelegte Routen über die 113 Quadratmeilen im Umkreis von sechs Meilen um Charing Cross, wofür Transport for London bis zu zwei Jahre Vorbereitungszeit einräumt, bevor die Prüfungen überhaupt beginnen. Auch geprüfte Fahrer:innen nutzen ein Navi, und niemand denkt deswegen schlechter von ihnen. Die Wissensprüfung wurde nicht wertlos, als das Gerät aufkam. Das Navi wurde zu dem, was die Fahrt sicher macht. Eine Fahrerin mit der Stadt im Kopf nutzt das Navi für das, was sie nicht wissen kann: den Unfall auf der Brücke oder den heutigen Verkehr. Und sie bemerkt, wenn es sie durch eine Straße lenkt, die seit April aufgerissen ist. Setzen Sie nun eine Neuling in dasselbe Taxi mit demselben Navi. Sie erreicht jede Adresse. Eine Zeit lang ist sie von der erfahrenen Fahrerin nicht zu unterscheiden. Doch indem sie den Anweisungen des Navis folgt, baut sie nichts auf. Nach einem Jahr, in dem sie auf Anweisung links abgebogen ist, kann sie die Stadt immer noch nicht ohne das Gerät durchqueren, und sie kann nicht erkennen, wann es sich irrt. Abb. 1: „Das Ergebnis hängt vom Fahrer ab“ (KI-generiertes Bild, Google Gemini) Auf der linken Seite beginnt die Fahrt mit einer Karte im Kopf. Das Navi ergänzt, was der Fahrer nicht wissen kann. Das nennt man „nützliches Auslagern“. Rechts hat der Fahrer keine Karte im Kopf. Das Gerät ist seine einzige Orientierung. Das nennt man „schädliches Auslagern“. Dasselbe Navi, zwei Fahrerinnen, gegensätzliche Ergebnisse. Der Unterschied lag nie im Gerät. Es geht um mehr als ein Bild. Studien mit Autofahrern zeigen, dass Menschen, die sich stark auf das Navi verlassen, eine schlechtere mentale Karte ihrer Umgebung entwickeln. Eine Studie über drei Jahre zeigte, dass eine intensivere Nutzung mit einem stärkeren Rückgang des räumlichen Gedächtnisses einherging. Und die Psychologie weiß seit zwei Jahrzehnten, dass dieselbe Unterstützung, die Anfängern hilft, Personen im Weg stehen kann, die das Thema bereits beherrschen. Dasselbe gilt auch umgekehrt. Die Wirkung eines KI-Werkzeugs hängt weit stärker davon ab, was die nutzende Person bereits weiß, als vom Werkzeug selbst. Forschende nennen dies ein Schema, das organisierte Vorwissen einer Person. Ist es vorhanden, entlastet die Abgabe von Arbeit an eine Maschine. Forschende nennen dies nützliches kognitives Auslagern. Muss Wissen jedoch erst aufgebaut werden, kann derselbe Vorgang genau das verhindern. Das nennt man schädliches kognitives Auslagern. Eine Studie mit rund tausend weiterführenden Schüler:innen zeigt genau das in einem Mathematikunterricht. Eine Gruppe übte mit einem uneingeschränkten Chatbot, eine andere ohne. Während der Nutzung löste die Chatbot-Gruppe 48 % mehr Übungsaufgaben! Dann kam eine Prüfung ohne Chatbot. Nun schnitten dieselben Schüler:innen, die zuvor so gut Übungsaufgaben gelöst hatten, 17 % schlechter ab als die Gruppe, die nie einen KI-Chatbot genutzt hatte. Eine dritte Gruppe nutzte eine KI-Version, die so gebaut war, dass sie Antworten zurückhielt und stattdessen Rückfragen stellte. Diese Gruppe verlor nichts. Diese dritte Gruppe ist die eigentliche Gestaltungsfrage. Ein Navi, das das Ziel nennt und Ihnen hilft, die Route selbst zu finden, bringt Ihnen die Stadt bei. Ein Navi, das sagt „In 200 Metern links abbiegen", tut das nicht, so gut seine Daten auch sein mögen. Forschende nennen diesen Unterschied Leitplanken (Guardrails), und die Gestaltung entscheidet, ob Sie Ihren Schüler:innen helfen, die Karte der Stadt zu lernen, oder ob sie einfach nur das Ziel finden. Bitte denken Sie daran: Sie haben das Wissen. Ihre Schüler:innen haben es, in dem Fach, das Sie unterrichten, noch nicht. Diese Asymmetrie ist das ganze Kapitel. „Im Moment sind die Werkzeuge, zu denen Schülerinnen und Schüler greifen, darauf ausgelegt, Probleme zu lösen, nicht zu lehren – und das ist derzeit die zentrale Schwierigkeit in meiner Arbeit.“ Zwei Stockwerke, nicht zwei Themen In der Fachliteratur gelten diese beiden Bereiche als getrennte Felder. Man kann sie sich als zwei Stockwerke eines Gebäudes vorstellen, wobei sich die meisten Lehrkräfte im Erdgeschoss befinden und keine Treppe ins erste Stockwerk führt. In einer Studie mit 90 Lehrkräften an bayerischen beruflichen Schulen, die sich für eine KI-Fortbildung angemeldet hatten, schätzten die Lehrkräfte ihr KI-Wissen im Schnitt mit 3,4 von 5 Punkten ein, ihre Fähigkeit, KI im Unterricht einzusetzen, dagegen deutlich niedriger mit 2,6. Wissen und Handeln hatten sich voneinander gelöst. Eine Studie in fünf europäischen Ländern untersuchte daraufhin, ob Fortbildung diese Lücke schließen kann. 736 Lehrkräfte in Frankreich, Irland, Italien, Luxemburg und Slowenien nahmen teil. Die Lehrkräfte wurden in zwei Gruppen aufgeteilt. Eine Gruppe erhielt während der Studie einen Online-Kurs und Begleitung, die andere erhielt denselben Online-Kurs nach Abschluss der Studie. Die Ergebnisse zeigten, dass das Wissen und die Fähigkeit, die Leistungsfähigkeit eines Werkzeugs einzuschätzen, zunahmen. In den meisten Ländern änderte sich der regelmäßige Einsatz von KI im Unterricht jedoch nicht: Die Lehrkräfte probierten Werkzeuge aus und kehrten dann zu dem zurück, was sie vorher getan hatten. Das ist die Wissen-Handlungs-Lücke. Kurse erzeugen Wissen, aber die Veränderung der Praxis braucht Begleitung, Ausprobieren und Kolleg:innen zum gemeinsamen Nachdenken. Transfer muss gestaltet werden, nicht erhofft. „Der einzige Nachteil dieses Webinars ist, dass wir es nicht direkt ausprobieren können.“ Was Lehrkräfte tatsächlich tun Der robusteste Befund über alle Länder hinweg ist auf leise Weise überraschend: Lehrkräfte nutzen KI intensiv für sich selbst und kaum mit ihren Schülerinnen und Schülern. In Deutschland nutzen 52 % der Lehrkräfte KI-Werkzeuge mehrmals im Monat oder häufiger. Doch von denjenigen, die KI nutzen, lassen nur 29 % ihre Schülerinnen und Schüler im Unterricht damit arbeiten. Die öffentliche Debatte über „KI im Klassenzimmer“ dreht sich also größtenteils um etwas, das in der Fläche noch gar nicht stattfindet. Abb. 2: „Unterschied zwischen der KI-Nutzung zur Vorbereitung und der Nutzung im Unterricht“ (KI-generiertes Bild, Google Gemini) Was tatsächlich passiert, ist Entlastung von der Arbeitsbelastung, und hier sind die Nachrichten gut. In einer Studie in England erhielten 259 Lehrkräfte an 68 Schulen ChatGPT und einen Leitfaden für die Planung von Naturwissenschaftsunterricht für 11- bis 13-Jährige. Sie wendeten etwa 56 Minuten pro Woche für die Planung auf, gegenüber 81 Minuten in der Vergleichsgruppe. Unabhängige Gutachter, die nicht wussten, aus welcher Gruppe eine Unterrichtsstunde stammte, fanden keine Hinweise auf einen Qualitätsunterschied. In einer großen US-Befragung schätzten Lehrkräfte, die KI mindestens wöchentlich nutzen, dass sie fast sechs Stunden pro Woche einsparen – ihre eigene Schätzung, keine Messung. Und ein Muster verdient einen Moment Aufmerksamkeit. In derselben US-Befragung nutzten an Schulen mit einer KI-Richtlinie mehr Lehrkräfte KI – sieben von zehn gegenüber sechs von zehn – und sparten dadurch insgesamt etwa ein Viertel mehr Lehrkräftezeit. Für die einzelne Lehrkraft, die KI jede Woche nutzt, war der Unterschied gering. Das ist die eigene Einschätzung der Lehrkräfte und keine Messung, und eine Befragung kann nicht zeigen, in welche Richtung der Zusammenhang verläuft: Gut organisierte Schulen machen möglicherweise einfach beides gut. Aber es ist das Gegenteil dessen, was die meisten erwarten – klare Regeln und intensive Nutzung treten gemeinsam auf, nicht als Gegensätze. -> 1.4 Konformer Einsatz von KI „Es ist wichtig, sie als Ergänzung zu nutzen, aber auf keinen Fall ChatGPT die ganze Unterrichtsstunde gestalten zu lassen.“ Warum es nicht auf das Werkzeug ankommt Wer sich ein Ranking der besten KI-Werkzeuge wünscht, wird von der Forschung zunächst enttäuscht – und beim zweiten Lesen davon befreit. Wenn Forschende viele einzelne Studien zusammenführen und fragen, was Klassenzimmer, in denen KI stark geholfen hat, von solchen unterscheidet, in denen sie kaum geholfen hat, lautet die Antwort nie die Marke der Software. Es ist das, was die Schülerinnen und Schüler damit tun sollten. Die folgenden Punkte fassen wichtige Forschungsergebnisse zusammen. Alle Ergebnisse beruhen jedoch auf nur wenigen Studien. In Mathematik erzielten Schülerinnen und Schüler, die KI nutzten, um eine Lösung zu überarbeiten oder auf ihrem eigenen Lösungsversuch aufzubauen, etwa zweieinhalbmal so viel Lernzuwachs wie diejenigen, die KI nur zur Unterstützung gewöhnlicher Aufgaben nutzten, etwa zum Üben oder zum Überprüfen von Antworten. Schülerinnen und Schüler, die KI gemeinsam in Gruppen nutzten, erzielten etwa 70 % mehr Lernzuwachs als diejenigen, die sie allein nutzten. Wo KI eingesetzt wurde, um Feedback zu Schülerarbeiten zu geben, gehörten die Lernzuwächse zu den größten. Der Einsatz von KI zur Gamification des Unterrichts brachte einen Zuwachs, der zu klein war, um als belegt zu gelten. Pädagogik ist wichtiger als die eingesetzte Technologie. Wo Forschende die Studien danach sortiert haben, was die Schülerinnen und Schüler tatsächlich getan haben, war die Aktivität wichtiger als das Werkzeug. Interessanterweise zeigte sich dasselbe Muster bereits bei der vorherigen Generation digitaler Werkzeuge an weiterführenden Schulen. Die Ergebnisse hängen weitgehend davon ab, ob die Lehrkräfte für deren Einsatz geschult worden waren. Gutes Feedback ist nicht dasselbe wie wirksames Feedback. In einem Experiment schrieben 70 Studierende einen argumentativen Aufsatz und überarbeiteten ihn eine Woche später. Sie wurden zufällig drei Gruppen zugeteilt: Eine erhielt Feedback von einer erfahrenen Lehrkraft, eine von einem Chatbot mit einfacher Anweisung und eine von demselben Chatbot, der angewiesen wurde, den Aufsatz Schritt für Schritt zu durchdenken. Bewertet nach demselben Raster, lieferte der schrittweise vorgehende Chatbot das beste Feedback der drei. Es war besser als das des einfachen Chatbots und besser als das der Lehrkraft. Dann kamen die Überarbeitungen, und alle drei Gruppen verbesserten sich um etwa denselben Betrag. Das beste Feedback der Studie brachte keine größere Verbesserung als das am schlechtesten bewertete. Bessere Kommentare führten nicht zu einem besseren Aufsatz. Das verdient einen Moment Aufmerksamkeit, denn es stellt die verbreitete Annahme infrage, besseres Feedback führe zu besserem Lernen. Für sich genommen tut es das nicht. Feedback bewirkt nur dann etwas, wenn es aufgenommen wird: gelesen, verstanden, umgesetzt – und so gut verstanden, dass die Schülerin oder der Schüler es beim nächsten Mal auch ohne Hilfe richtig machen könnte. Die Aufnahme ist der Engpass, nicht die Qualität. Mehr ist nicht immer besser. In einer zweiten Studie mit 60 Schüler:innen der Jahrgangsstufe 11 und 240 Textstücken produzierte die KI weit mehr inhaltsbezogene Kommentare als die Lehrkräfte. Es waren die Kommentare der Lehrkräfte, die die Schüler:innen häufiger umsetzten. Konfrontiert mit dreißig präzisen Korrekturen, hört eine Schülerin oder ein Schüler womöglich auf zu diagnostizieren und beginnt stattdessen zu sortieren – oder fügt sich einfach. Wer den Regeln folgt, sagt damit im Grunde, dass die Überarbeitung unnötig war. Es ist wieder das Navi, nur auf einer anderen Ebene. Es gibt einem wirklich detailliertes Feedback, wie „In 200 Metern links abbiegen" – nur für den eigenen Text. Wer es sagt, spielt eine Rolle. Wir wissen nicht genau, warum Kommentare von Lehrkräften häufiger aufgenommen werden. Das ist Interpretation, keine Messung, aber die wahrscheinlichste Erklärung ist, dass Feedback als etwas zwischen Menschen wahrgenommen wird. Was jemand sagt, der weiß, was man letztes Halbjahr gemacht hat, und sehen wird, was man damit macht, ist etwas anderes als derselbe Satz, auf Anfrage generiert. Was das für die Praxis bedeutet. Eine zusammenfassende Analyse von Studien zu automatisiertem Schreibfeedback, die noch vor den heutigen Chatbots durchgeführt wurde, kam zu ähnlichen Ergebnissen. Feedback bewirkte mehr, wenn Schülerinnen und Schüler es auf einen neuen Text anwenden mussten, als wenn sie nur den vorliegenden Text überarbeiteten, und mehr, wenn es über mehrere Sitzungen statt nur einmalig eingesetzt wurde. Und fairerweise muss noch etwas gesagt werden: Verglichen mit gar keinem Feedback hilft KI-Feedback durchaus. In einer Studie eines deutschen Teams mit 459 Schülerinnen und Schülern der Sekundarstufe II verbesserte KI-generiertes Feedback ihre Überarbeitungen und ihre Motivation in moderatem Umfang. Und dieselbe Aufspaltung zeigt sich auch im großen Maßstab. Ein Team führte 228 Studien zusammen: KI verbesserte klar und durchgängig, was Schüler:innen produzieren konnten, während jeder Zuwachs bei der Fähigkeit, das eigene Lernen zu planen, zu überwachen und zu korrigieren, klein genug war, um Zufall sein zu können. Am deutlichsten zeigt sich das beim Programmieren. Schüler:innen mit einer KI-Assistenz waren messbar schneller, und am Ende nicht besser als jene ohne. Mehr zu schaffen und besser zu werden sind nicht dasselbe, und KI trennt die beiden voneinander. Europa als Spiegel Europaweit reichen die in Befragungen ermittelten Anteile der Lehrkräfte, die KI nutzen, von etwa neun von zehn in einer tschechischen Stichprobe bis zu etwa einer von sieben in Frankreich. Die Befragungen unterscheiden sich in Methode und Zeitpunkt: Die tschechische Zahl stammt aus einer kleinen Befragung von 317 Lehrkräften aus dem Jahr 2025 und zählt jede Erfahrung mit KI, während die französische Zahl aus der internationalen Lehrkräftebefragung TALIS 2024 der OECD stammt, in der knapp die Hälfte der tschechischen Lehrkräfte angab, KI im Unterricht zu nutzen. Frankreich hat eines der größten staatlichen KI-Programme des Kontinents aufgebaut: adaptive Übungssoftware in Mathematik und Französisch, kostenlos für alle Schülerinnen und Schüler im ersten Jahr der Sekundarstufe II. Dennoch nutzen französische Lehrkräfte KI selten, und nur 9 % von ihnen haben überhaupt eine KI-Fortbildung erhalten, verglichen mit 38 % im OECD-Durchschnitt. Norwegen hat das Navi-Problem – zumindest als Empfehlung – so in seine Politik überführt, wie es eine Taxifahrschule tun würde: Erst mit der Karte lernen, danach kommt das Gerät hinzu. Im Juni 2026 empfahl Norwegen, dass Schülerinnen und Schüler der Jahrgangsstufen 1 bis 7 in der Regel keinen Zugang zu KI erhalten sollten. In den Jahrgangsstufen 8 bis 10 kann KI schrittweise und behutsam eingeführt werden, sobald die Lehrkräfte die Kompetenz haben, dies anzuleiten. In der Sekundarstufe II sollen die Schülerinnen und Schüler lernen, KI zielgerichtet zu nutzen. Der blinde Fleck Ein Risiko von KI wird selten benannt, und auch das Bild führt dorthin: Das Wissen über die Karte der Stadt London ist nicht von Dauer. Eine Fahrerin, die fünf Jahre lang den Pfeilen folgt, behält die Stadt nicht im Kopf. Es verblasst, und sie bemerkt die aufgerissene Straße nicht mehr. Ihre eigene Expertise erhalten Sie, indem Sie genau die Dinge selbst tun, die KI am besten übernimmt: die Aufgabe formulieren, das Missverständnis vorausahnen und die Erklärung entwerfen. Wo KI die Arbeit übernimmt, durch die sich Urteilsvermögen bildet, wird aus Entlastung Dequalifizierung. In einem deutschen Gremium von E-Learning-Fachleuten erwarteten 65 von 100, dass generative KI Menschen wichtige Fähigkeiten kosten wird – gegenüber 44 im Jahr zuvor. In der Medizin wurde der Effekt bereits gemessen: Nachdem KI-Unterstützung bei der Darmspiegelung zur Routine geworden war, entdeckten Ärzte, die ohne sie arbeiteten, weniger Krebsvorstufen als zuvor. Nutzen Sie das Navi. Bewahren Sie sich nur die Fähigkeit, die Karte zu lesen. 1.3 Verantwortungsbewusster Einsatz von KI Kernbotschaften Verantwortung ist eine Gestaltungsaufgabe, keine Kontrollaufgabe. Die Erkennung von KI funktioniert nicht zuverlässig. Und KI-Erkennung ist unfair, wenn sie versagt. Detektoren markieren menschliche Arbeiten fälschlich als KI-generiert und übersehen KI-generierte Arbeiten. Bildungsbehörden in Frankreich und den Niederlanden raten von ihrem Einsatz ab. Selbstsichere Erfindung und ererbte Verzerrungen ergeben sich daraus, wie diese Systeme gebaut und bewertet werden. Die Konsequenz sollte sein: sie zu lehren, statt auf eine Reparatur zu warten. Das Wirkprinzip lautet: erst denken, dann KI. Menschen dazu zu bringen, sich zunächst auf eine eigene Antwort festzulegen, schlägt das Erklären der Maschine, und in die Software eingebaute Grenzen beseitigen den Schaden, den uneingeschränkter Zugang anrichtet. Prompts allein halten nicht. Ein Chatbot, der als Tutor agieren soll, neigt dazu, wieder in die Antwortvergabe zurückzufallen, was verlässliche Grenzen zu einer Beschaffungsfrage macht. Verstärkung ist der Normalfall; Ausgleich muss aus Zugang, Gestaltung und Lernbegleitung gemeinsam aufgebaut werden. Das Knappste, aber Wichtigste der drei ist eine geschulte Lehrkraft. Inklusion ist der klarste Gewinn, und dort sehen Lehrkräfte selbst das stärkste Argument. Wenn Sie sich nur einen Satz von dieser Seite merken: Die Dämme brechen. Bringen Sie das Schwimmen bei. Das Lesetagebuch, zweiter Blick Zurück zu unserem Neuntklässler und seinem verdächtig druckreifen Lesetagebuch. Der Instinkt ist fast universell, und es ist der Instinkt einer guten Lehrkraft: herausfinden, ob er KI benutzt hat. Einen besseren Damm bauen. Dieses Kapitel handelt davon, warum dieser Instinkt für sich genommen nicht weiterführt. Wir kommen dazu, was stattdessen funktioniert. Beginnen wir mit dem unbequemen Teil. Lehrkräfte können KI-Text nicht zuverlässig von Schülertext unterscheiden. In zwei Studien eines deutschen Teams erhielten 89 Lehramtsanwärter und 200 erfahrene Lehrkräfte eine Mischung aus Schüleraufsätzen und Chatbot-Aufsätzen und sollten diese sortieren. Keine der beiden Gruppen konnte das zuverlässig, aber beide Gruppen waren zuversichtlich, dass sie es könnten. Erfahrung half nur wenig: Auch die erfahrenen Lehrkräfte übersahen die meisten KI-Texte. An einer britischen Universität reichten Forschende von Chatbots erzeugte Antworten über die üblichen Kanäle bei echten, nicht beaufsichtigten Online-Prüfungen ein, ohne die Korrigierenden zu informieren. „Sie dürfen sie nutzen, aber Sie müssen das Ergebnis in eigenen Worten erklären können.“ Der Detektor, der die Falschen im Stich lässt Forschende testeten sieben der am weitesten verbreiteten KI-Detektoren an TOEFL-Aufsätzen von Personen, die Englisch als Fremdsprache lernen; die Aufsätze stammten aus einem chinesischen Online-Forum. Daneben legten sie Aufsätze amerikanischer Achtklässler mit Englisch als Muttersprache. Die Arbeiten der Muttersprachler wurden fast immer korrekt eingestuft. Von den fremdsprachigen Aufsätzen wurden mehr als sechs von zehn fälschlich als maschinell geschrieben markiert. Der Mechanismus ist kein Geheimnis. Viele dieser Werkzeuge erkennen nicht die Arbeit von Large Language Models. Die Werkzeuge messen Vorhersehbarkeit. Text, der gängige Wörter in erwarteter Reihenfolge verwendet, wird als künstlich eingestuft. Wer in einer Zweitsprache schreibt, mit kleinerem Wortschatz und starreren Satzstrukturen, kann genau dieses Signal erzeugen. Detektoren, die für einen bestimmten Test trainiert wurden, sowie Studien in anderen Sprachen zeigen allerdings geringere Unterschiede. Bislang gibt es auf dem Markt keine Detektoren, die zuverlässig genug sind, um jemandem eine vorsätzliche Täuschung vorzuwerfen. Die Fehler des Werkzeugs treffen systematisch die Schülerinnen und Schüler, die ohnehin schon am meisten zu tragen haben. Institutionen haben nachgerechnet. Die Vanderbilt University wies darauf hin, dass selbst wenn ein solches Werkzeug nur in 1 % der Fälle irren würde, das bei 75.000 eingereichten Arbeiten immer noch rund 750 fälschlich markierte Arbeiten pro Jahr bedeuten würde. Folglich schaltete sie es ab. Ein von Forschenden für das deutsche Bundesbildungsministerium verfasster Leitfaden ist unmissverständlich: Die Technologie sei „nicht zuverlässig genug, um einen rechtssicheren Nachweis zu liefern“. Ein unabhängiger europäischer Test von vierzehn Detektoren kam zum selben Urteil: „weder genau noch zuverlässig“. Ein Großteil Europas hat diese Debatte hinter sich gelassen. Das französische Bildungsministerium und die französische Datenschutzbehörde raten Schulen davon ab, Detektoren einzusetzen; die niederländische IKT-Agentur Kennisnet hält sie für höchst unzuverlässig. Im Hochschulbereich verbieten einzelne Hochschulen, etwa die ZHAW in Zürich, ihren Einsatz für die Bewertung. In England erlauben die Prüfungsgremien Erkennungssoftware nur als ein Element eines Urteils, das bei der Lehrkraft liegt, die „ihre Schülerinnen und Schüler am besten kennt“. Auch ein Datenschutzaspekt lohnt sich zu merken: Die Arbeit einer Schülerin oder eines Schülers in ein Online-Werkzeug einzufügen, bedeutet, personenbezogene Daten zu verarbeiten. Dafür sind eine Rechtsgrundlage und ein Vertrag mit dem Anbieter erforderlich. → 1.4 Konformer Einsatz von KI Es scheint, dass die Betrugspanik dünner ist als der Lärm darum. Forschende befragten Schülerinnen und Schüler an drei US-amerikanischen High Schools vor der Einführung von ChatGPT und erneut danach. Das Ausmaß des Betrugs blieb weitgehend gleich. Eine Folgebefragung von mehr als 4.000 Schülerinnen und Schülern an sechs weiteren US-amerikanischen High Schools ein Jahr später kam zum selben Ergebnis. Die eigentliche Frage war nie: „Wie erwische ich ihn?" Sie lautet: Was misst eine Hausaufgabe eigentlich noch, sobald sich ihr Produkt auf Abruf erzeugen lässt? „Zuerst habe ich das als Betrug gesehen. Heute sehe ich es als Signal, dass sich die Aufgabe selbst ändern muss.“ Zwei Dinge, die nicht behoben werden, also müssen sie gelehrt werden Selbstsichere Erfindung ist eingebaut. Diese Systeme erzeugen plausible Fortsetzungen eines Textes, und plausibel ist nicht dasselbe wie wahr. Übersichtsarbeiten zur Forschung sind sich einig, dass bislang keine Technik das Problem beseitigt hat, auch wenn es sich verringern und teilweise erkennen lässt. Der Grund: Die Standardtests zur Bewertung von Large Language Models belohnen selbstsicheres Raten gegenüber dem Eingeständnis von Unsicherheit, und solange so gemessen wird, bleibt eine gewisse Rate an flüssigen, wohlgeformten Falschaussagen bestehen. Auch die Schieflagen im Trainingsmaterial sind eingebaut. Zudem schrumpfen sie nicht, wenn sich die Modelle verbessern. Eine europäische Studie zu Geschlechterstereotypen über verschiedene Sprachen hinweg fand, dass größere Modelle – selbst nach zusätzlichem Training, das sie sicherer und fairer machen soll – manchmal stärker statt schwächer stereotypisieren. Wenn sich eine Eigenschaft nicht wegentwickeln lässt, wird sie zum Lehrplan. Und sie lässt sich lehren: In einem finnischen Programm stieg der Anteil der Schüler:innen, die erklären konnten, woher die Verzerrung eines Bildgenerators stammt, von 7 % auf 44 %. Die Konsequenz für den Unterricht muss sein, Fehleranalyse statt Fehlervermeidung zu trainieren. Mit anderen Worten: Die Fehler der Maschine werden zur Lektion. „Lassen Sie die Lernenden die Lösung des Chatbots prüfen, als wären sie die Lehrkraft. Gerade durch die Suche nach den Fehlern lernen sie schließlich die Methode.“ Was funktioniert: Gestaltung statt Kontrolle Die Evidenz weist auf ein einfaches, leicht zu merkendes Prinzip hin: erst denken, dann KI. Den Menschen zuerst festlegen lassen. In einem Experiment mit rund 200 Erwachsenen folgten Personen, die ihre eigene Entscheidung treffen mussten, bevor sie den Vorschlag der Maschine sahen, deren falschen Vorschlägen seltener als Personen, denen eine kurze Erklärung der maschinellen Argumentation gezeigt wurde. Die KI zu erklären löste das Problem nicht. Geholfen hat das Erzwingen des eigenen Urteils. Das eigene Urteil zu erzwingen heißt, Menschen zum Nachdenken zu zwingen. Da Nachdenken anstrengend ist, gefielen diese Methoden den Teilnehmenden am wenigsten, und sie halfen am meisten jenen, die ohnehin gerne anstrengend nachdenken. Das ist das, was Sie alle als Matthäus-Effekt kennen: Wer schon hat, dem wird gegeben. Die Grenzen einbauen. Der Chatbot aus Kapitel 1.2, der Antworten zurückhielt und stattdessen Rückfragen stellte, ist dieselbe Idee als Software: Die Schüler:innen, die ihn nutzten, verloren in der Prüfung nichts, während die mit der uneingeschränkten Version deutlich verloren. Den Prozess sichtbar machen, statt dem Produkt hinterherzujagen. Entwürfe, Arbeitsnotizen, ein kurzes Gespräch über die Arbeit. Diese zeigen Ihnen, was ein Schüler oder eine Schülerin kann, ohne dass jemand beweisen muss, was er oder sie getan hat. Dänemark erprobt das Prinzip: An teilnehmenden Schulen dürfen Schüler:innen KI bei der Vorbereitung auf die mündliche Englischprüfung nutzen, und die schriftliche Prüfung enthält einen handschriftlichen, hilfsmittelfreien Teil. Zwei Einschränkungen sollte man kennen, bevor man sich darauf verlässt. Die erste: Der beliebte Rat, Lehrkräfte sollten einen Chatbot einfach anweisen, als sokratischer Tutor zu agieren, übersteht ein längeres Gespräch möglicherweise nicht. Erste Hinweise aus einer noch nicht begutachteten Studie mit simulierten Schülerinnen und Schülern (Oktober 2026) deuten darauf hin, dass solche Tutoren unter anhaltendem Druck wieder dazu übergehen, Antworten zu liefern. Verlässliche Grenzen müssen in das System eingebaut sein, was sie zu einer Beschaffungsentscheidung macht statt zu einer Prompting-Fähigkeit. Die zweite: Eine KI ihre Argumentation erklären zu lassen, klingt wie die naheliegende Absicherung, aber Erklärungen verhindern übermäßiges Vertrauen nicht zuverlässig. In einer Studie ließen sie die Akzeptanz falscher Ratschläge unverändert, und zu technische oder zu vereinfachte Erklärungen können fehlgeleitetes Vertrauen sogar verstärken. Erklärung ist nur eine Voraussetzung für Lernen. Haltung: zwei Fehlermodi, nicht einer Wir sorgen uns, dass Lehrkräfte der KI zu sehr vertrauen. Wir sollten uns jedoch ebenso um das Gegenteil sorgen. Selbst erfahrene Menschen können durch übermäßiges Vertrauen hereingelegt werden. In einem kleinen Pilotprojekt an US-amerikanischen Schulen beurteilten vier von zehn befragten Lehrkräften das Feedback eines KI-Bewertungswerkzeugs als nicht hilfreich, überwiegend vage oder sogar falsch. Die Forschung zum Automation Bias zeigt, dass Menschen dazu neigen, dem Vorschlag einer Maschine zu folgen, selbst wenn sie Grund haben, daran zu zweifeln. Einen Fehler zu erkennen und ihn zu korrigieren sind zwei verschiedene Schritte. Der gegenteilige Pol ist Verheimlichung. Lehrkräfte verbergen ihre eigene KI-Nutzung vor Kolleg:innen und Schüler:innen und verbieten diesen, was sie selbst tun: 77 % nutzen KI privat, während 57 % sagen, Schüler:innen sollten sie nie zur Ideenfindung nutzen. Zugleich fand eine Studie unter akademisch starken Schüler:innen der Klassen 6 bis 8, dass zwischen einem Drittel und zwei Fünfteln bereits sagten, die KI wisse mehr als ihre Lehrkräfte. Ein Berufsstand, der seine Praktiken verbirgt, kann verantwortungsvolle Praxis nicht vorleben, und Transparenz ist nicht nur eine Höflichkeit. Sie ist der Mechanismus, durch den Lernen am Vorbild funktioniert. Ebnet KI das Spielfeld oder kippt sie es? Bei arbeitsbezogenen Aufgaben gleicht KI Unterschiede aus. In einem Experiment schnitten Teilnehmende mit höherer Bildung deutlich besser ab als solche mit niedrigerer Bildung. Mit einem KI-Assistenten verschwanden etwa drei Viertel dieser Lücke. Als der Assistent wieder entzogen wurde, kehrte ein beträchtlicher Teil der Lücke zurück. Was die KI schloss, war die Lücke im Output, nicht die Lücke in der Fähigkeit. Bei Lernaufgaben ist es umgekehrt. Eine Studie fand im Schnitt gar keinen Nutzen, aber einen wachsenden Abstand zwischen Schüler:innen, die bereits viel wussten, und solchen, die es nicht taten. Eine andere untersuchte Schüler:innen, die in einer Fremdsprache schrieben: Die schwächeren Schreiber:innen erhielten mehr Korrekturen von der KI und setzten weniger davon erfolgreich um, und mehrere empfanden die Flut an Feedback als entmutigend. Feedback ohne die Fähigkeit, es zu sortieren, hilft nicht; es begräbt. Die Lücke besteht auch schon, bevor überhaupt jemand ein Werkzeug anfasst. In Deutschland sehen 80 % der Schüler:innen aus den privilegiertesten Elternhäusern KI als Chance, gegenüber 55 % aus den am wenigsten privilegierten. In Großbritannien verläuft die Trennlinie eher durchs Lehrerzimmer als durch den Geräteschrank: 45 % der Lehrkräfte an Privatschulen haben eine formale KI-Fortbildung erhalten, gegenüber 21 % an staatlichen Schulen. Innerhalb des staatlichen Sektors liegen wohlhabendere Schulen wiederum vor ärmeren. Eine Befragung von mehr als 25.000 Kindern in 17 europäischen Ländern aus dem Jahr 2026 findet dieselbe soziale Kluft darin, wie viel und wie vielfältig sie KI nutzen. Ein Satz fasst das ganze Problem besser zusammen als jede Zahl: „Die Reichen haben Zugang zu Technologie und zu Menschen, die ihnen bei der Nutzung helfen, während die Armen nur Zugang zur Technologie haben." Das ist das stärkste verfügbare Argument dafür, dass Lehrkräfte entscheidend sind, um diese Lücke zu schließen. Der Engpass ist also, welche Lernenden eine geschulte Lehrkraft haben. KI gleicht aus, wenn drei Dinge zusammenkommen: sicherer Zugang, ein für das Lernen (statt für das Liefern von Antworten) gestaltetes Werkzeug, und eine Lehrkraft, die die Nutzung anleitet. Fehlt eines davon, verstärkt sie stattdessen. Da alle drei tendenziell an denselben Schulen vorhanden bzw. an denselben Schulen abwesend sind, ist Verstärkung der Normalfall, und Ausgleich ist etwas, das man aktiv aufbauen muss. 1.4 Konformer Einsatz von KI Haftungsausschluss: Wir haben dieses Kapitel sorgfältig recherchiert, doch das KI-Recht entwickelt sich schnell. Die Regeln können sich seit der Veröffentlichung geändert haben. Prüfen Sie daher stets die aktuelle Rechtslage und passen Sie die Inhalte bei Bedarf an Ihr nationales Recht an. Dieses Kapitel stellt keine Rechtsberatung dar. Zentrale Botschaft Es gibt kein rechtliches Vakuum. Das Datenschutzrecht galt schon immer. Der Zeitplan hat sich verschoben. Die Hochrisiko-Pflichten für KI in der Bildung beginnen am 2. Dezember 2027, nicht im August 2026. Prüfen Sie die Merkblätter Ihrer Schule (siehe auch 1.6). Bereits seit Februar 2025 verbindlich. Systeme, die Emotionen von Schülerinnen und Schülern aus Gesicht oder Stimme ablesen, sind verboten, und Schulen, die KI einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals aufzubauen. Ab August 2026 müssen Chatbots offenlegen, dass sie KI sind, und Deepfakes müssen gekennzeichnet werden. Die schwierigste Ebene ist der Datenschutz. Keine personenbezogenen Daten von Schülerinnen und Schülern ohne einen Vertrag, der das Training mit Ihren Eingaben ausschließt; eine Einwilligung trägt in der Regel nicht; das Entfernen von Namen anonymisiert nicht. Beim Urheberrecht ist der Upload das Problem. Die Unterrichts-Schranke deckt es nicht ab, geschützte Werke in eine KI einzuspeisen. Detektoren halten als Beweis nicht stand. Gerichte haben Schlussfolgerungen aus konkreten Tatsachen anerkannt. Regeln müssen im Voraus klar sein, und eine Offenlegungspflicht schlägt ein Verbot. Noten bleiben menschlich. Für uns offensichtlich, aber wichtig festzuhalten: Einen KI-Vorschlag einfach abzunicken, ist keine menschliche Entscheidung. Die Verantwortung liegt bei der Beschaffung, nicht bei Ihnen — und Regelkonformität ermöglicht. Die Schulen mit klaren Regeln sind diejenigen, deren Lehrkräfte die größte Zeitersparnis berichten. Wenn Sie sich nur einen Satz von dieser Seite merken: Regelkonformität ist ein Haus, keine Mauer. Was darf ich tun? Behalten Sie diese vier Schritte im Kopf, bevor Sie etwas eintippen, einfügen oder hochladen. Bitte verstehen Sie die folgende Übersicht als allgemeine Orientierung. Die Anforderungen in Ihrem Land können von den hier genannten abweichen. Prüfen Sie daher stets die Vorschriften, die für Ihr Land und Ihre Schule gelten. Abb. 1: „...“ (KI-generiertes Bild, ...) „Wir wissen nicht einmal genau, was wir dürfen – am wenigsten beim Datenschutz.“ Das Lesetagebuch, dritter Blick Unser Neuntklässler, sein Lesetagebuch, der Verdacht seiner Lehrkraft. In Kapitel 1.2 ging es um eine Frage des Lernens; in Kapitel 1.3 um professionelles Urteilsvermögen. Hier ist es eine Gerichtsakte. Im Dezember 2025 entschied das Verwaltungsgericht Hamburg über einen Eilantrag in diesem Fall. Die Englischlehrkraft hatte bemerkt, dass das Lesetagebuch in Rechtschreibung, Grammatik und Wortschatz auf einem weit höheren Niveau geschrieben war als die Klassenarbeit des Jungen zum selben Buch. Der Junge räumte später ein, ChatGPT genutzt zu haben, und die Schule bewertete das Lesetagebuch als Täuschungsversuch. Sein Vater beantragte beim Gericht Eilrechtsschutz; das Gericht lehnte ab. Seine Begründung reicht über diesen Fall hinaus: Schülerinnen und Schüler müssen davon ausgehen, dass sie ihre Arbeit vollständig selbstständig anfertigen müssen, sofern ein Hilfsmittel nicht ausdrücklich erlaubt wurde – nicht offengelegte KI-Nutzung gilt daher auch ohne schriftliche Regel gegen KI als Täuschung. (In diesem Fall hatte die Lehrkraft der Klasse tatsächlich mitgeteilt, dass ChatGPT nicht erlaubt war.) Eine Einschränkung vorab: Es handelt sich um ein einzelnes Gericht in einem Eilverfahren, und die Entscheidung ist nicht rechtskräftig. Das ist ein guter Moment, um das verbreitetste Missverständnis in diesem Bereich anzusprechen. Es gibt kein rechtliches Vakuum. Das gab es nie. Das Haus hat drei Stockwerke Die meisten Lehrkräfte stellen sich das KI-Recht als eine einzelne Mauer vor, die irgendwo in Brüssel gebaut wird. Hilfreicher ist es jedoch, sich ein Haus vorzustellen, in dem Sie bereits wohnen. Das Fundament ist der Datenschutz. Es ist tragend. Es wurde vor Jahren gelegt. Es bestimmt Ihren Dienstagmorgen. Das obere Stockwerk ist der EU AI Act, Europas KI-Gesetz, das Systeme nach ihrem Schadenspotenzial einstuft und umso strengere Pflichten auferlegt, je höher das Risiko ist. Es ist teilweise bezogen und noch im Bau, wobei der Fertigstellungstermin gerade verschoben wurde. Türen und Fenster sind das Urheber- und Prüfungsrecht — klein und spezifisch, und täglich berührt, ohne dass man es bemerkt. Abb. 2: „Regelkonformität ist ein Haus“ (KI-generiertes Bild, ...) Erdgeschoss: Datenschutz, klarer als viele denken Der Umgang mit personenbezogenen Daten einer Person erfordert immer eine Rechtsgrundlage. Als öffentliche Stelle ergibt sich die Erlaubnis einer Schule im Wesentlichen aus ihren gesetzlichen Aufgaben nach dem Schulrecht. Es gibt keine allgemeine Lizenz, die mit dem Lehrerberuf einhergeht. Daraus folgen drei Konsequenzen, die den praktischen Kern dieses Kapitels bilden. Einwilligung ist keine Lösung. Eine naheliegende Lösung wäre, einfach die Eltern zu fragen. Dieser Ansatz hat jedoch zwei Nachteile. Erstens muss eine Einwilligung freiwillig erfolgen. In einem schulischen Kontext, in dem Noten eine Rolle spielen, stellt die Bitte einer Lehrkraft keine freie Entscheidung dar. Zweitens muss die Einwilligung informiert sein, was schwer zu erreichen ist, wenn niemand weiß, wo die Daten am Ende landen. Die Erlaubnis muss aus dem Schulrecht kommen, nicht aus einer Unterschrift, denn dadurch verlagert sich die Verantwortung nach oben, weg von Ihnen. Namen zu entfernen anonymisiert die Daten nicht. Im Jahr 2024 stellten die deutschen Datenschutzbehörden gemeinsam fest, dass Daten weiterhin personenbezogen sind, wenn eine Person aus dem Kontext heraus noch identifizierbar ist. Das ist an Schulen besonders problematisch, weil gerade die Textarten, bei denen Lehrkräfte am meisten Unterstützung wünschen — etwa Aufsätze, freies Schreiben und Lerntagebücher — ihre Verfasserin oder ihren Verfasser am Schreibstil erkennen lassen. Die Trennlinie ist der Vertrag: Ein Anbieter darf Ihre Daten verarbeiten, wenn er dies strikt nach Ihren Weisungen tut und eine schriftliche Vereinbarung dazu besteht. Sobald er jedoch das von Ihnen Eingegebene für eigene Zwecke nutzt, bricht die Konstruktion zusammen, weil er nicht mehr in Ihrem Auftrag handelt. Der praktische Test lautet also: Gibt es eine solche Vereinbarung, und schließt sie das Training mit Ihren Eingaben aus? Wenn nicht, sollten keine personenbezogenen Daten eingegeben werden. Zwei Fußnoten sind erwähnenswert: Daten zu Gesundheit und Behinderung unterliegen nach EU-Recht einem noch strengeren Schutz. Sie gehören nicht in ein KI-Werkzeug. Und wo Lehrkräfte private Geräte nutzen, stellen mindestens zwei deutsche Bundesländer (Nordrhein-Westfalen und Bayern) klar, dass die datenschutzrechtliche Verantwortung bei der Schule und ihrer Leitung liegt, die die Nutzung genehmigen muss. Oberes Stockwerk: Was der AI Act bereits verlangt — und was noch nicht Hier folgt die Korrektur, die die meisten bestehenden Handreichungen veralten lässt. Im Juli 2026 verschob die EU mit einer Änderungsverordnung, dem sogenannten Digital Omnibus, den größten Teil der AI-Act-Pflichten für den Bildungsbereich — jener, die an als hochriskant eingestufte Systeme geknüpft sind, also Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen — vom August 2026 auf den 2. Dezember 2027. Sehr viele 2025 und Anfang 2026 verfasste Handreichungen drucken noch das alte Datum. Falls ein Dokument an Ihrer Schule dies tut, braucht es eine Fußnote. Die nützlichere Korrektur verläuft in die andere Richtung: Was bereits gilt, wird unterschätzt, und was endlos diskutiert wird, gilt noch nicht. Zwei Dinge sind bereits seit dem 2. Februar 2025 verbindlich. Emotionserkennung an Schulen ist verboten. Systeme, die vorgeben, die Gefühle von Schülerinnen und Schülern aus Gesicht, Stimme oder Körper zu lesen — Stimmungsanalysen, „Engagement“-Bewertung per Webcam —, stehen auf der kurzen Liste der Praktiken, die der AI Act schlicht verbietet, mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen. Werkzeuge, die lediglich Müdigkeit erkennen oder ob jemand auf den Bildschirm schaut, bewegen sich in einer Grauzone; das ist eine Frage der Beschaffung, nicht des Unterrichts. Schulen, die KI einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals aufzubauen. Seit Juli 2026 stellt das Gesetz klar, dass kein bestimmtes Niveau garantiert werden muss – doch nichts zu tun, ist keine Option. Auf EU-Ebene ist für diese Pflicht kein Bußgeld vorgesehen, weshalb sie häufig übersehen wird; nationale Behörden können sie ab August 2026 durchsetzen. Ab dem 2. Dezember 2026 ist KI verboten, die sexualisierte Deepfakes identifizierbarer Personen erzeugt. Liest man diese zweite Pflicht zusammen mit Kapitel 1.3, ergibt sich ein klares Bild. Die Lücke zwischen Wissen über KI und der Fähigkeit, mit KI zu unterrichten, ist längst nicht mehr nur ein fachliches Problem. Seit Februar 2025 sind Schulen gesetzlich verpflichtet, daran zu arbeiten. Seit dem 2. August 2026 müssen Chatbots den Nutzenden mitteilen, dass sie KI sind, und Anbieter müssen KI-generierte Inhalte maschinenlesbar kennzeichnen; Schulen selbst müssen Deepfakes kennzeichnen sowie KI-generierte Texte, die sie zur Information der Öffentlichkeit veröffentlichen. Ein Arbeitsblatt, das eine Lehrkraft geprüft hat, braucht keine Kennzeichnung. Ab dem 2. Dezember 2027 gelten die Pflichten für Hochrisiko-Systeme – Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen. Wer ein solches System einsetzt, übernimmt dann eigene Pflichten, darunter die Aufsicht Personen zu übertragen, die, in den Worten des AI Acts, über „die erforderliche Kompetenz, Ausbildung und Befugnis“ verfügen. Türen und Fenster: Urheberrecht und Prüfungen Wider Erwarten ist das, was herauskommt, der einfachere Teil. Ein Text oder Bild, das eine KI eigenständig erzeugt, hat keinen menschlichen Urheber im Sinne des Urheberrechts und ist daher meist selbst urheberrechtsfrei; wo ein Mensch das Ergebnis durch eigene kreative Entscheidungen gestaltet, kann es geschützt sein. Garantiert unbedenklich ist das aber nicht: In einer viel beachteten Entscheidung stellte ein Münchner Gericht fest, dass ein Chatbot Songtexte auswendig gelernt und nahezu wortgleich wiedergegeben hatte. Die Haftung legte das Gericht dem Anbieter auf, nicht der Person, die die Anfrage eingegeben hatte. Das Urteil ist nicht rechtskräftig. Die Schranke, die es Lehrkräften erlaubt, Material für ihren Unterricht zu kopieren, deckt genau das ab: das Kopieren eines begrenzten Anteils eines Werks für diesen Unterricht. Das Hochladen eines geschützten Werks in ein kommerzielles KI-System ist ein anderer Vorgang, den die Schranke nicht erfasst. Material, das eigens für den Schulunterricht hergestellt wurde, etwa Schulbücher und Arbeitshefte, ist von der Schranke grundsätzlich ausgenommen, sofern Lizenzen dafür leicht verfügbar sind. Wie sehr sollte Sie das beunruhigen? Weniger, als die Lücke vermuten lässt, und mehr als gar nicht. Die Frage ist tatsächlich ungeklärt: Kein höheres Gericht hat darüber entschieden, und die Fachliteratur hält die bestehenden Schranken für schlecht auf diese Situation zugeschnitten. Widerspricht eine Rechteinhaberin oder ein Rechteinhaber, wäre der Anspruch zivilrechtlicher Natur, und in der Praxis ist dies eine Sache der Schulpolitik und Beschaffung, nicht etwas, das eine einzelne Lehrkraft klären kann. Klar ist in der Praxis der enge Fall. Es ist die Linie, die die Bildungsverlage ziehen, und die man sich merken sollte: Schulbuch- und Verlagsmaterial sollte überhaupt nicht in KI-Werkzeuge eingegeben werden — weder gescannt noch abgetippt, nicht einmal, um ein Arbeitsblatt zu erzeugen. Die Rechtsprechung in diesem Bereich ist derzeit europaweit uneinheitlich. Im Februar 2026 entschied das Verwaltungsgericht Kassel zwei Hochschulfälle auf die gleiche, klare Weise: Obwohl die Hochschule KI nicht ausdrücklich verboten hatte, war die Grenze „bereits bei einer einzigen nicht offengelegten Nutzung generativer KI“ überschritten. Die Urteile sind nicht rechtskräftig. Im selben Monat untersagte ein Pariser Verwaltungsgericht in einem Eilverfahren einer Hochschule, einen Studierenden zu sanktionieren, weil sie vorab keine Regel zur KI-Nutzung festgelegt hatte. Ein schwedisches Berufungsgericht war zuvor zu einem ähnlichen Ergebnis gekommen: Ein Studierender hatte drei erfundene Zitate eingereicht, doch die Kursregeln erlaubten bei Hausarbeiten „alle Hilfsmittel“, sodass keine Regel verletzt worden war. In den Niederlanden bestätigte dagegen das oberste Verwaltungsgericht des Landes im Juli 2025 eine Sanktion gegen einen Jurastudenten, der vier nicht existierende Quellen eingereicht hatte: Der Betrug war zweifelsfrei nachgewiesen, und ob er täuschen wollte, spielte keine Rolle. Das Muster über die Rechtsordnungen hinweg ist also keine Frage der Länder. Es geht darum, ob vorab eine Regel bestand und ob die Täuschung tatsächlich nachgewiesen wurde. Drei Regeln folgen für die Praxis. Detektoren tragen nicht die Beweislast. Die Schule muss die Täuschung nachweisen. Gerichte haben Schlussfolgerungen aus konkreten Tatsachen anerkannt: Quellen, die sich als nicht existent herausstellen, eine deutliche Lücke zwischen dem, was jemand schreibt, und dem, was er mündlich erklären kann, plötzliche Niveausprünge innerhalb desselben Textes, ein Geständnis. Die betroffene Person kann dies dann erläutern. Der Schreibstil allein ist eine schwache Grundlage – führende deutsche Rechtskommentatoren bezweifeln, dass er einen solchen Befund überhaupt tragen kann. Die Ausgabe eines Detektors ist bestenfalls ein Anlass, genauer hinzusehen. Die in Kapitel 1.3 berichtete Fehlerquote macht sie als Beweismittel unbrauchbar. Regeln müssen vor der Prüfung klar sein, nicht danach. Weder ein pauschales Verbot noch eine pauschale Erlaubnis hält stand. Was funktioniert, ist eine Selbstständigkeitserklärung mit einer Klausel zu KI sowie einer Pflicht anzugeben, was verwendet wurde. Offenlegung statt Verbot. Noten bleiben menschlich. Menschen haben das Recht, keinen Entscheidungen mit rechtlicher Wirkung unterworfen zu werden, die allein eine Maschine trifft, und Schulen haben keine Rechtsgrundlage, solche Entscheidungen per Software zu treffen; eine Note ist eine solche Entscheidung. Die Kultusministerkonferenz formuliert es noch deutlicher: Bewertung ist eine Aufgabe, die nur Lehrkräfte erfüllen können. Entscheidend: Einen KI-Vorschlag formal durchzuwinken zählt nicht als menschliche Entscheidung. Der Befund, dass Menschen fehlerhaftem KI-Feedback oft folgen, ist also ebenso ein rechtliches wie ein pädagogisches Problem. „Jeder experimentiert für sich, deshalb ändern sich die Regeln von einer Stunde zur nächsten.“ Recht, Ethik und Didaktik laufen daher auf dieselbe Antwort hinaus: Bewerten Sie den Prozess, nicht nur das Produkt. Die wahre Adresse der Verantwortung Als Reaktion darauf hat Deutschland staatlich bereitgestellte schulische KI-Umgebungen eingeführt. Dabei handelt es sich um geprüfte Plattformen mit ausgehandelten Verträgen, statt Lehrkräfte sich selbst zu überlassen, sich bei irgendeinem kostenlosen Dienst anzumelden. Diese lösen zwar Probleme, die einzelne Lehrkräfte allein nicht lösen können, werden aber weiterhin dafür kritisiert, wie sie gesteuert werden, ob Lehrkräfte sie tatsächlich annehmen und ob die damit unterstützten Bewertungen belastbar sind. Da sich die Einführung von Bundesland zu Bundesland unterscheidet, wird es Zeit brauchen, bis sich zeigt, wie Lehrkräfte mit den Plattformen zurechtkommen. Was daran wirklich besonders ist, ist enger gefasst, als es zunächst scheint, und lohnt eine genaue Betrachtung. Deutschland ist das einzige System, das wir gefunden haben, in dem eine öffentliche Stelle – das FWU, das den Bundesländern gehört – die Plattform mit technischen Dienstleistern selbst entwickelt und betreibt. Frankreich stellt für einen ganzen Jahrgang adaptive Übungssoftware bereit, hat sie jedoch in Auftrag gegeben: Ein privates Unternehmen schrieb die Software, ein anderes hostet die Daten. Mehrere andere Länder haben Zugang zu kommerziellen Chatbots eingekauft; die meisten übrigen bieten lediglich Orientierungshilfen an. Es selbst zu bauen verschafft nicht automatisch mehr Kontrolle. Die deutsche Plattform läuft, wie eine Branchenvereinigung anmerkt, auf denselben kommerziellen Sprachmodellen wie alle anderen auch, auf europäischen Servern. Das französische System dagegen wird in Frankreich unter der höchsten vom französischen Staat vergebenen Sicherheitszertifizierung gehostet. Das eine Land hat die Oberfläche gebaut und mietet die Antriebstechnik, das andere hat die Software gekauft und behält die Schlüssel zum Gebäude. Keine der beiden Optionen ist eindeutig die souveränere Wahl — das lohnt es sich zu bedenken, bevor man diesen Begriff verwendet. Die Niederlande haben einen anderen Weg gewählt, und es lohnt sich, ihn zu kennen, weil er eine ehrlichere Antwort auf dieselbe Frage bietet. Statt selbst zu bauen oder einzukaufen, haben sich niederländische Schulen und Hochschulen zusammengeschlossen und die großen Anbieter förmlich bewerten lassen. Bei der Prüfung von Microsofts KI-Assistenten stießen sie auf zwei Punkte, die sich nicht klären ließen: die Kriterien eines automatischen Inhaltsfilters, die der Anbieter nicht offenlegen wollte, sowie eine achtzehnmonatige Speicherung von Diagnosedaten, die sich nicht rechtfertigen ließ. Es wurde verhandelt. Im März 2026 lehnte der Anbieter jedoch Änderungen ab. Die Bewertung bleibt daher „gelb“, und niederländischen Schulen wird geraten, vorsichtig zu sein und von Fall zu Fall selbst zu entscheiden, statt eine generelle Freigabe zu erteilen. Das eine Land hat das Risiko durch eigenen Aufbau umgangen, das andere hat genauer hingesehen und entschieden, dass es noch nicht so weit ist. Beide Ansätze bieten Lösungen für das Problem, das zu Beginn dieses Kapitels beschrieben wurde. Der Vergleich klärt noch einen weiteren Punkt. Dass Lehrkräfte den kostenlosen Chatbot der offiziellen Lösung vorziehen, liegt nicht an einer mangelhaften Umsetzung in Deutschland. In Estland, wo der Staat den Zugang für Schülerinnen und Schüler der Sekundarstufe II ausgehandelt hat, nutzte sieben Monate nach Programmbeginn kaum mehr als ein Drittel den offiziellen Chatbot wöchentlich. Es stellte sich heraus, dass die meisten von ihnen bereits vor Beginn des Programms kostenlose Werkzeuge genutzt hatten. Überall konkurriert die geprüfte Umgebung mit der bequemeren. Das offizielle Werkzeug bereitzustellen ist notwendig. Aber es reicht nicht aus. Der strukturelle Punkt bleibt jedoch bestehen: Regelkonformität ist eine ermöglichende Bedingung, kein Hindernis. Erinnern Sie sich, was in Kapitel 1.2 gesagt wurde? An Schulen mit klaren Regeln nutzten mehr Lehrkräfte KI – und sparten insgesamt mehr Zeit. Regeln haben die Nutzung nicht gebremst. 1.5 Aktueller Stand von KI in der Bildung Zentrale Botschaft KI wird bereits umfassend in Bildungskontexten eingesetzt. Lehren mit KI. KI wird von Lehrkräften derzeit genutzt, um Unterrichtsentwürfe vorzubereiten oder zu verbessern, für die Bewertung und um Inhalte auf unterschiedliche Lernniveaus zuzuschneiden. Lehren über KI. KI wird von Schülerinnen und Schülern genutzt, obwohl ihnen oft die Grundlagen fehlen, was KI ist, wo ihre Grenzen liegen und wie man sie verantwortungsvoll einsetzt. Technisches Verständnis und kritisches Denken sind erforderlich. Lehrkräfte und Schülerinnen und Schüler müssen verstehen, wie Sprachmodelle funktionieren (Training, Datenverarbeitung, vorhersagebasierte Natur), und praktische Prüffähigkeiten entwickeln – vom Erkennen erfundener Quellenangaben bis zum Faktencheck KI-generierter Inhalte. Verantwortungsvoller Umgang und eine ethische Haltung müssen definiert werden. Ein Verständnis des rechtlichen und ethischen Rahmens (AI Act, DSGVO) ist notwendig, ebenso wie ein Verständnis von KI als Unterstützung und nicht als Ersatz menschlichen Denkens, das auf Transparenz und Rechenschaftspflicht beruht, sowie eine ausdrückliche Vermittlung von Prompting als lehrbarer Fähigkeit. Chancengleichheit und neue Bewertungsmodelle sind notwendig. Der gleichberechtigte Zugang zu KI-Werkzeugen muss gesichert werden (öffentliche Förderung, offene Modelle, Mindestaltersregelungen), ebenso wie eine Verschiebung der Bewertung – weg von der Benotung des Endprodukts, hin zur Bewertung des Prozesses und der Fähigkeit der Schülerinnen und Schüler, sich kritisch mit KI-Ergebnissen auseinanderzusetzen. Wenn Sie sich nur einen Satz von dieser Seite merken: KI ist in Bildungskontexten bereits präsent, aber nicht reguliert. Strukturierte Rahmenwerke sind notwendig, um die berufliche Weiterentwicklung von Lehrkräften zu unterstützen, ihr Wissen zu verbessern und es ihnen zu ermöglichen, mit KI und über KI zu unterrichten. Aktuelle Nutzung von KI in Bildungskontexten Heutzutage ist künstliche Intelligenz (KI) fest in die alltägliche Bildungspraxis eingebettet, weit über Pilotprojekte hinaus. Zu den gängigen Anwendungen zählen adaptive Lernplattformen, intelligente Tutorensysteme, automatisierte Bewertung und KI-gestützte Unterrichtsplanung für Lehrkräfte (OECD, 2026). Der sichtbarste Wandel ist jedoch die direkte Nutzung allgemeiner KI-Werkzeuge durch Schülerinnen, Schüler und Lehrkräfte gleichermaßen. Lehren mit KI KI wird von Lehrkräften zunehmend als Unterstützungswerkzeug in verschiedenen Phasen ihrer Arbeit genutzt, von der Unterrichtsplanung bis zur Bewertung. Laut der TALIS-Umfrage der OECD gaben 37 % der Lehrkräfte der Sekundarstufe I an, 2024 KI genutzt zu haben, wobei 57 % angaben, dass sie ihnen hilft, Unterrichtsentwürfe zu schreiben oder zu verbessern (OECD, 2026). Über die Unterrichtsplanung hinaus nutzen Lehrkräfte KI, um Inhalte für unterschiedliche Leistungsniveaus zu differenzieren, Übungsmaterialien zu erstellen und den Bewertungsprozess zu unterstützen. Gleichzeitig verläuft die Einführung nicht reibungslos: 72 % der Lehrkräfte äußerten die Sorge, dass KI es Schülerinnen und Schülern ermöglichen könnte, KI-generierte Arbeiten als ihre eigenen auszugeben – ein Hinweis auf ein umfassenderes Spannungsverhältnis zwischen dem praktischen Nutzen von KI für den Unterricht und ihren Auswirkungen auf die akademische Integrität (OECD, 2026). Lehren über KI Neben der Nutzung von KI als Unterrichtshilfsmittel wächst auch die Notwendigkeit, Schülerinnen und Schüler über KI selbst aufzuklären: wie sie funktioniert, wo ihre Grenzen liegen und wie man sie verantwortungsvoll nutzt. Dazu gehört ein grundlegendes Verständnis von Sprachmodellen als Vorhersagemaschinen statt als Datenbanken, was ihre Neigung zum „Halluzinieren“ erklärt, sowie praktische Fähigkeiten wie das Faktenchecken von KI-Ausgaben und das Erkennen erfundener Quellenangaben (UNESCO, 2024). Dazu gehört auch die Entwicklung kritischen Denkens beim Prompting – Schülerinnen und Schüler sollen nicht mehr nur Anweisungen befolgen, sondern sie selbst formulieren – sowie ein Bewusstsein für die ethischen und rechtlichen Dimensionen der KI-Nutzung, einschließlich Datenschutz und des EU AI Act. UNESCOs AI Competency Framework for Teachers (2024) beschreibt dies als zentrale berufliche Kompetenz und argumentiert, dass Lehrkräfte selbst entsprechend geschult werden müssen, bevor sie dies wirksam an Schülerinnen und Schüler vermitteln können. Was fehlt noch? Neben institutionellen Rahmenwerken und Nutzungsdaten ist es wichtig zu verstehen, wie sich diese Dynamiken in der Praxis auswirken. Im Rahmen des Projekts DUAL.AI.TEACHer wurde eine Reihe von Workshops durchgeführt. Zahlreiche Akteurinnen und Akteure aus dem Bildungsbereich wurden eingeladen, um aus erster Hand Einblicke in die aktuelle Nutzung von KI im Unterricht zu gewinnen. Diese Workshops brachten eine Reihe konkreter Bedürfnisse und Bedenken der Lehrkräfte zutage, die praktische, pädagogische und ausbildungsbezogene Aspekte betreffen. Die folgenden Abschnitte beschreiben diese Bedürfnisse im Detail. Verstehen, wie KI funktioniert. Sowohl Schülerinnen und Schüler als auch Lehrkräfte müssen verstehen, wie Sprachmodelle aufgebaut und trainiert werden und was mit ihren Daten geschieht, sobald sie bereitgestellt wurden. Sie müssen außerdem verstehen, dass diese Modelle Vorhersagemaschinen und keine Datenbanken sind, was ihre Neigung zum Halluzinieren erklärt. Lehrkräfte benötigen einen einfachen, grundlegenden Kurs zu den Basics der Funktionsweise von LLMs. Kritisches Denken, Hinterfragen und Überprüfen von KI. Schülerinnen, Schüler und Lehrkräfte müssen in der Lage sein, KI-generierte Antworten zu hinterfragen und erfundene Informationen zu erkennen. Praktische Prüffähigkeiten sind ebenfalls erforderlich, vom Abgleich von KI-Ausgaben mit offiziellen Quellen bis zum Erkennen KI-generierter Bilder und Videos. Schülerinnen und Schüler müssen davon wegkommen, Anweisungen nur zu befolgen, und lernen, sie selbst zu formulieren, indem sie kritisch über das gewünschte Ergebnis nachdenken. Ethik, Datenschutz und Regulierung. Ein allgemeines Verständnis der ethischen und rechtlichen Aspekte der KI-Nutzung ist notwendig, einschließlich des EU AI Act und der DSGVO. Ein sicherer und verantwortungsvoller Umgang ist unerlässlich, um rechtswidrige Praktiken zu verhindern, ebenso wie ein Bewusstsein für verwandte Themen wie Verzerrungen (Bias) in Unterrichtsmaterialien und die Unzuverlässigkeit von KI-Detektoren. Verantwortungsvoller Einsatz. KI muss bewusst als Unterstützung eingesetzt werden, nicht als Ersatz, sodass Raum für das eigene Denken der Schülerinnen und Schüler bleibt. Transparenz ist wichtig: Schülerinnen und Schüler sollen kenntlich machen, welche Teile von ihnen selbst stammen – ganz im Sinne des „Cyborg-Schreibens“, bei dem KI das Denken der Verfasserin oder des Verfassers erweitert, statt es zu ersetzen. Eigenverantwortung und Rechenschaftspflicht der Schülerinnen und Schüler sind ebenfalls erforderlich. Praktische Fähigkeiten. Prompting muss als lehrbare Fähigkeit behandelt werden, nicht als etwas, das man sich selbstständig aneignet. Sowohl Lehrkräfte als auch Schülerinnen und Schüler benötigen ausdrückliche Anleitung zum Verfassen wirksamer Prompts, und Lehrkräfte benötigen eine Schulung im Prompt Engineering für Unterrichtsplanung, Differenzierung und Bewertung. Eine breitere Vertrautheit mit den Werkzeugen ist ebenfalls erforderlich, um die passenden Werkzeuge für die jeweiligen Fächer auszuwählen. Chancengleichheit und Infrastruktur. Der Zugang zu KI steht im Mittelpunkt wachsender Bedenken hinsichtlich der Chancengleichheit, da wohlhabendere Schulbezirke sich bessere Werkzeuge leisten können, was die Kompetenzunterschiede zwischen Schulen vergrößert. Öffentliche Förderung ist notwendig, um einen gleichberechtigten Zugang unabhängig von den Ressourcen einer Schule zu gewährleisten, wobei im Rahmen dieser Bemühungen offene KI-Modelle gegenüber kommerziellen Modellen bevorzugt werden sollten. Auch ein Mindestalter für die KI-Nutzung muss festgelegt werden. Bewertung. Ein anderer Ansatz für die Bewertung ist notwendig, der sich auf den Prozess statt auf das Endprodukt konzentriert, einschließlich der Reflexion der Schülerinnen und Schüler über KI-generierte Entwürfe. Auch KI-integrierte Aufgaben sind erforderlich, bei denen Schülerinnen und Schüler danach bewertet werden, wie gut sie KI-Ausgaben kritisieren, faktenprüfen und bearbeiten können – was Fragen zur menschlichen Rolle aufwirft, wenn Lehrkräfte selbst bei der Bewertung auf KI zurückgreifen. Auch konkrete unterrichtspraktische Methoden sind gefragt, etwa das Faktenchecken von KI-Texten, der Vergleich von Chatbot-Antworten, Debatten über die KI-Nutzung bei Hausaufgaben und die Einbindung nicht-digitaler Werkzeuge wie Flipcharts. „Wer mit KI unterrichtet, muss jede ihrer Antworten überprüfen können, denn Fehler passieren. Ohne solides Fachwissen werden Sie sie nicht bemerken.“ 1.6 Gesetzgebung Haftungsausschluss: Wir haben dieses Kapitel sorgfältig recherchiert, doch das KI-Recht entwickelt sich schnell. Die Regeln können sich seit der Veröffentlichung geändert haben. Prüfen Sie daher stets die aktuelle Rechtslage und passen Sie die Inhalte bei Bedarf an Ihr nationales Recht an. Dieses Kapitel stellt keine Rechtsberatung dar. Zentrale Botschaft Der EU AI Act ist die Rechtsgrundlage. Das EU-Regelwerk für KI ist seit August 2024 in Kraft und wird bis 2027 schrittweise eingeführt. Es gilt nicht nur für Technologieunternehmen, sondern auch für Schulen. KI-Kompetenz ist eine Pflicht, kein Kurs zum Abhaken. Schulen müssen ihr Personal beim Aufbau von KI-Kompetenz unterstützen. Mehrere KI-Anwendungen sind vollständig verboten. Darunter: das Ableiten von Emotionen von Schülerinnen und Schülern aus Gesichts- oder Stimmdaten, KI, die die Schutzbedürftigkeit von Kindern ausnutzt, um ihr Verhalten zu verzerren, sowie der Aufbau von Gesichtserkennungsdatenbanken oder das Ableiten von Merkmalen wie Herkunft oder Religion aus biometrischen Daten. Das Risiko hängt von der Entscheidung ab, nicht vom Produkt. Gewöhnliche Schreib-, Recherche-, Übersetzungs- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie in der Schule genutzt werden. Sie werden hochriskant, sobald sie Zulassung, Bildungswege, Prüfungsergebnisse oder Beschäftigungsentscheidungen beeinflussen. Nicht alles KI-Generierte braucht eine Kennzeichnung. Die Offenlegungspflicht liegt vor allem beim Anbieter; von Lehrkräften geprüftes Material mit menschlicher redaktioneller Kontrolle ist davon ausgenommen. Hochrisiko-KI braucht einen Menschen, der sie außer Kraft setzen kann. Die Ausgabe einer KI ist niemals die endgültige Entscheidung. Sie müssen ihre Grenzen verstehen und in der Lage sein, sie zu ignorieren oder zu überstimmen. Der AI Act ergänzt anderes Recht, er ersetzt es nicht. Nationales Datenschutz-, Bildungs-, Arbeits-, Kinderschutz- und Urheberrecht gelten weiterhin daneben. Die DSGVO regelt die Daten, nicht nur das Werkzeug. Selbst ein KI-System, das nach dem AI Act unbedenklich ist, kann weiterhin unzulässig sein, wenn es personenbezogene Daten von Schülerinnen, Schülern oder Personal ohne gültige Rechtsgrundlage verarbeitet. Wenn Sie sich nur einen Satz von dieser Seite merken: Nutzen Sie KI, um Ihr professionelles Urteilsvermögen zu unterstützen, nicht um es zu ersetzen – strengere Regeln gelten, sobald KI dabei hilft, Entscheidungen über Noten, Bildungswege oder Menschen zu treffen. Der EU AI Act Der EU AI Act (Verordnung (EU) 2024/1689) ist das einheitliche, risikobasierte Regelwerk der EU für künstliche Intelligenz. Statt einzelne Produkte zu regulieren, klassifiziert er KI-Systeme nach dem von ihnen ausgehenden Risiko und knüpft daran entsprechende Pflichten – von einem vollständigen Verbot für eine kleine Zahl von Praktiken über zusätzliche Pflichten für „hochriskante“ Anwendungen bis hin zu gar keinen besonderen Regeln für alltägliche Werkzeuge. Er gilt unmittelbar in jedem Mitgliedstaat, sowohl für öffentliche als auch für private Organisationen. Der AI Act wird schrittweise eingeführt. Er gilt seit dem 1. August 2024; seit dem 2. Februar 2025 sind die unten genannten verbotenen Praktiken sowie die Pflicht zum Aufbau von KI-Kompetenz (Art. 4) bereits verbindlich; ab dem 2. August 2026 gilt der Großteil seiner übrigen Bestimmungen. Abb. 1: „Die KI-Roadmap“ (KI-generiertes Bild, ...) Wer ist für den Einsatz von KI verantwortlich? Führt eine Schule ein KI-System ein und kontrolliert es, ist üblicherweise die Schule oder der Schulträger die einsetzende Stelle (Art. 3(4)). Die Lehrkraft ist bei der Nutzung des Werkzeugs nach den Vorgaben der Schule normalerweise keine eigenständige einsetzende Stelle, muss aber dennoch diese Vorgaben sowie alle einschlägigen schulischen und datenschutzrechtlichen Regeln befolgen. Lehrkräfte müssen wissen, was sie nutzen Schulen und Schulträger müssen geeignete Maßnahmen ergreifen, um den Aufbau von KI-Kompetenz bei denjenigen zu unterstützen, die in ihrem Auftrag KI-Systeme nutzen (Art. 4). Der AI Act legt kein bestimmtes Kompetenzniveau, Zertifikat oder Schulungsformat fest. Diese hängen vielmehr vom genutzten KI-System, der Art der Nutzung und den möglicherweise betroffenen Personen ab. KI-Praktiken, die für Schulen vollständig verboten sind Der AI Act verbietet acht KI-Praktiken vollständig (Art. 5); vier davon sind für Schulen unmittelbar relevant: Der Einsatz von KI-Systemen an Bildungseinrichtungen, um Emotionen oder Absichten aus biometrischen Daten abzuleiten (etwa aus Gesichts- oder Stimmmerkmalen von Schülerinnen und Schülern), ist grundsätzlich verboten. Es bestehen enge Ausnahmen für medizinische oder sicherheitsbezogene Zwecke (Art. 3(39); Art. 5(1)(f)). KI-Systeme, die die Schutzbedürftigkeit einer Person aufgrund ihres Alters (wie bei Kindern), einer Behinderung oder ihrer sozialen oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten in einer Weise zu verzerren, die ihr Schaden zufügt, sind unabhängig von der Absicht verboten (Art. 5(1)(b)). Der Aufbau oder die Erweiterung einer Gesichtserkennungsdatenbank durch ungezieltes Sammeln von Bildern aus dem Internet oder von Videoüberwachungsaufnahmen ist verboten. Das ist relevant, wenn eine Schule ein Gesichtserkennungswerkzeug für die Anwesenheitskontrolle oder die Prüfungsaufsicht in Betracht zieht (Art. 5(1)(e)). Die Nutzung biometrischer Daten zur Kategorisierung von Personen, um geschützte Merkmale wie Herkunft, politische Meinung, Religion oder sexuelle Orientierung abzuleiten, ist verboten. Das ist für jedes biometrische Werkzeug relevant, etwa eine Prüfungsaufsichts-Software, die über ihren angegebenen Zweck hinausgeht (Art. 5(1)(g)). Muss KI-generierter Inhalt immer gekennzeichnet werden? Wenn Schülerinnen und Schüler direkt mit einem KI-System interagieren, etwa einem Chatbot, müssen sie darüber informiert werden, dass sie mit KI interagieren. In der Regel ist der Systemanbieter dafür verantwortlich, dies deutlich zu machen (Art. 50(1)). Schulen und Lehrkräfte müssen Deepfakes oder KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen, wenn diese im Unterricht verwendet werden (Art. 50(4)). Diese Pflicht entfällt, wenn der KI-generierte Inhalt einer wirksamen menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurde und eine Person oder Einrichtung die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Ein KI-gestütztes Arbeitsblatt, das von einer Lehrkraft geprüft wurde, benötigt daher nicht automatisch eine Kennzeichnung. Wann KI in der Bildung hochriskant wird Gewöhnliche Schreib-, Übersetzungs-, Recherche- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie beruflich genutzt werden. Die Einstufung hängt vom vorgesehenen Zweck des Systems ab, nicht einfach davon, welches Produkt verwendet wird (Art. 6 · Anhang III). KI-Systeme können als hochriskant eingestuft werden, wenn sie dazu bestimmt sind: Für Lehrkräfte Für Schulen über Zugang, Zulassung oder Zuweisung von Schülerinnen und Schülern zu Bildungs- oder Ausbildungseinrichtungen und -programmen zu entscheiden; die Lernergebnisse von Schülerinnen und Schülern zu bewerten oder ihren Lernprozess zu steuern; das angemessene Bildungsniveau zu beurteilen, das eine Schülerin oder ein Schüler erhalten wird oder erreichen kann; oder verbotenes Verhalten von Schülerinnen und Schülern während Prüfungen zu erkennen. (Anhang III, Punkt 3) Lehrkräfte anzuwerben oder auszuwählen, einschließlich der Vorauswahl von Bewerbungen; über Vertragsbedingungen, Beförderung oder Beendigung eines Lehrkraft-Beschäftigungsverhältnisses zu entscheiden; Aufgaben basierend auf dem Verhalten oder persönlichen Merkmalen einer Lehrkraft zuzuweisen; oder die Leistung von Lehrkräften zu bewerten. (Anhang III, Punkt 4) Ein begrenztes Prüf- oder Vorbereitungswerkzeug kann ebenfalls außerhalb der Hochrisikokategorie liegen, wenn es eine Entscheidung nicht wesentlich beeinflusst. Ein Bildungssystem, das Personen profiliert, gilt jedoch stets als hochriskant. Was Hochrisiko-KI für Schulen und Lehrkräfte bedeutet Die Einstufung eines KI-Systems als hochriskant schließt seine Nutzung an Schulen nicht automatisch aus. Hochrisikosysteme sind jedoch mit Pflichten verbunden (Art. 26): Diese Pflichten für Hochrisiko-KI im Bildungsbereich gelten ab dem 2. Dezember 2027 — die oben genannten Verbote und die Pflicht zum Aufbau von KI-Kompetenz gelten jedoch bereits heute. Für Lehrkräfte Für Schulen es nur für seinen zugelassenen Zweck nutzen und seine Anweisungen befolgen; seine Ausgabe nicht als endgültige Entscheidung behandeln; seine wesentlichen Grenzen und wahrscheinlichen Fehlerquellen verstehen; auf ein übermäßiges Vertrauen in scheinbar überzeugende Ergebnisse achten; und bereit sein, seine Ausgabe zu verwerfen oder zu überstimmen. eine kompetente und befugte menschliche Aufsicht sicherstellen; sicherstellen, dass alle Eingabedaten, die ihrer Kontrolle unterliegen, relevant und hinreichend repräsentativ sind; das System überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren; automatisch erzeugte Protokolle mindestens sechs Monate lang aufbewahren, soweit diese Protokolle ihrer Kontrolle unterliegen; und Schülerinnen, Schüler, Lehrkräfte oder betroffene Personen im Voraus informieren, wenn das System an Entscheidungen über sie mitwirkt. Öffentliche Stellen und private Organisationen, die öffentliche Dienstleistungen erbringen, müssen vor dem Einsatz von Hochrisiko-KI möglicherweise zusätzlich eine Folgenabschätzung zu den Grundrechten durchführen (Art. 27). Öffentliche Behörden und in ihrem Auftrag handelnde Organisationen müssen das System unter Umständen zusätzlich in der EU-Datenbank registrieren (Art. 49). Ob dies in der Verantwortung der Schule oder ihres Trägers liegt, hängt vom jeweiligen nationalen Schulsystem ab. Der AI Act ist nicht das einzige relevante Recht Der AI Act ersetzt nicht die europäischen oder nationalen Regelungen zu Datenschutz, Bildung, Beschäftigung und Mitbestimmung, Kinderschutz oder Urheberrecht (Art. 2(7)). So bedeutet die Tatsache, dass ein Werkzeug nicht hochriskant ist, beispielsweise nicht, dass Sie Arbeiten oder personenbezogene Daten von Schülerinnen und Schülern dort hochladen dürfen. Ein Werkzeug kann nach dem AI Act zulässig sein und dennoch durch Datenschutzrecht oder die Regeln Ihrer Schule verboten sein. Die DSGVO Die DSGVO (Verordnung (EU) 2016/679) ist das Datenschutzrecht der EU. Sie spielt eine ergänzende Rolle neben dem AI Act: Während der AI Act fragt, ob und wie ein KI-System überhaupt genutzt werden darf, stellt die DSGVO eine engere Frage – dürfen genau diese Daten über genau diese Person auf diese Weise verarbeitet werden? Wer die eine Regelung erfüllt, hat damit nicht automatisch auch die andere erfüllt. Sie gilt, sobald personenbezogene Daten betroffen sind. Namen, schulische E-Mail-Adressen, Schülerarbeiten, Sprachaufnahmen, Mitschriften, Fotos, Noten, Anwesenheits- und Lernfortschrittsdaten zählen alle als personenbezogene Daten (Art. 4). Die meisten im Unterricht genutzten KI-Werkzeuge berühren mindestens eine dieser Datenarten. Für die Verarbeitung ist eine Rechtsgrundlage erforderlich. Schulen stützen sich in der Regel auf eine rechtliche Verpflichtung oder auf eine Aufgabe im öffentlichen Interesse; auch eine Einwilligung ist möglich, muss aber freiwillig erteilt werden und bei jüngeren Schülerinnen und Schülern von einem Elternteil oder einer erziehungsberechtigten Person stammen (Art. 6, Art. 8). Manche Daten benötigen zusätzlichen Schutz. Gesundheitsdaten, biometrische Daten sowie Daten, die Herkunft, Religion oder ähnliche Merkmale offenbaren, sind „besondere Kategorien personenbezogener Daten“ und grundsätzlich ohne eine spezifische Ausnahme unzulässig (Art. 9) — ein Grund, warum der AI Act mehrere biometrische Ableitungspraktiken an Schulen gesondert verbietet. Wissen, wer verantwortlich ist. Die Schule ist normalerweise der „Verantwortliche“; ein KI-Anbieter, der Daten im Auftrag der Schule verarbeitet, ist ein „Auftragsverarbeiter“ und benötigt eine Auftragsverarbeitungsvereinbarung, die seine Pflichten festlegt (Art. 28). Prüfen Sie dies, bevor Sie ein neues Werkzeug schulweit einführen. Daten, die die EU verlassen, benötigen eine Schutzmaßnahme. Viele beliebte KI-Werkzeuge werden außerhalb der EU gehostet. Personenbezogene Daten dürfen dorthin nur übermittelt werden, wenn ein Angemessenheitsbeschluss oder eine andere anerkannte Schutzmaßnahme, etwa Standardvertragsklauseln, vorliegt (Art. 44). Schülerinnen, Schüler und Personal behalten ihre Rechte. Sie können erfragen, welche Daten über sie gespeichert sind, deren Berichtigung oder Löschung verlangen und Entscheidungen widersprechen, die allein auf automatisierter Verarbeitung beruhen und sie erheblich betreffen (Art. 15–Art. 22) — ein Recht, das neben den Anforderungen des AI Acts an die menschliche Aufsicht bei Hochrisikosystemen besteht und diese verstärkt. In der Praxis: Bevor Sie echte Daten von Schülerinnen und Schülern oder Personal in ein KI-Werkzeug eingeben, prüfen Sie, ob Ihre Schule es freigegeben hat, geben Sie nicht mehr personenbezogene Daten preis, als die Aufgabe erfordert, und verwenden Sie bevorzugt anonymisierte oder fiktive Beispiele, wenn Sie ein Werkzeug nur ausprobieren. Wo Sie Hilfe finden Die Durchsetzung ist in jedem EU-Land unterschiedlich organisiert. Da sich nationale Zuständigkeiten ändern können, nutzen Sie die aktuelle Liste der nationalen Marktüberwachungsbehörden der Europäischen Kommission. Jede Person (eine Lehrkraft, eine Schülerin oder ein Schüler, ein Elternteil) kann bei dieser Behörde eine Beschwerde einreichen, wenn sie der Ansicht ist, dass gegen den AI Act verstoßen wurde (Art. 85). Hat ein Hochrisikosystem, etwa ein Zulassungs- oder Prüfungsaufsichtswerkzeug, zu einer Entscheidung geführt, die eine Schülerin oder einen Schüler erheblich betrifft, können diese (oder ihre Eltern) außerdem eine Erklärung zu dieser individuellen Entscheidung verlangen (Art. 86). Nationale Regelungen für Ihr Land Der AI Act gilt EU-weit, doch Durchsetzungsstellen, Schulrecht und datenschutzrechtliche Praxis unterscheiden sich von Land zu Land. Länderspezifische Hinweise für die Partnerländer des Playbooks werden hier ergänzt: Österreich Tschechien Deutschland Lettland Polen Slowakei Slowenien Spanien 1.7 Gesetzgebung Österreich Haftungsausschluss: Wir haben dieses Kapitel sorgfältig recherchiert, doch das KI-Recht entwickelt sich schnell. Die Regeln können sich seit der Veröffentlichung geändert haben. Prüfen Sie daher stets die aktuelle Rechtslage und passen Sie die Inhalte bei Bedarf an Ihr nationales Recht an. Dieses Kapitel stellt keine Rechtsberatung dar. Zentrale Botschaft Der EU AI Act ist die Rechtsgrundlage. Das EU-Regelwerk für KI ist seit August 2024 in Kraft und wird bis 2027 schrittweise eingeführt. Es gilt nicht nur für Technologieunternehmen, sondern auch für Schulen. KI-Kompetenz ist eine Pflicht, kein Kurs zum Abhaken. Schulen müssen ihr Personal beim Aufbau von KI-Kompetenz unterstützen. Mehrere KI-Anwendungen sind vollständig verboten. Darunter: das Ableiten von Emotionen von Schülerinnen und Schülern aus Gesichts- oder Stimmdaten, KI, die die Schutzbedürftigkeit von Kindern ausnutzt, um ihr Verhalten zu verzerren, sowie der Aufbau von Gesichtserkennungsdatenbanken oder das Ableiten von Merkmalen wie Herkunft oder Religion aus biometrischen Daten. Das Risiko hängt von der Entscheidung ab, nicht vom Produkt. Gewöhnliche Schreib-, Recherche-, Übersetzungs- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie in der Schule genutzt werden. Sie werden hochriskant, sobald sie Zulassung, Bildungswege, Prüfungsergebnisse oder Beschäftigungsentscheidungen beeinflussen. Nicht alles KI-Generierte braucht eine Kennzeichnung. Die Offenlegungspflicht liegt vor allem beim Anbieter; von Lehrkräften geprüftes Material mit menschlicher redaktioneller Kontrolle ist davon ausgenommen. Hochrisiko-KI braucht einen Menschen, der sie außer Kraft setzen kann. Die Ausgabe einer KI ist niemals die endgültige Entscheidung. Sie müssen ihre Grenzen verstehen und in der Lage sein, sie zu ignorieren oder zu überstimmen. Der AI Act ergänzt anderes Recht, er ersetzt es nicht. Nationales Datenschutz-, Bildungs-, Arbeits-, Kinderschutz- und Urheberrecht gelten weiterhin daneben. Die DSGVO regelt die Daten, nicht nur das Werkzeug. Selbst ein KI-System, das nach dem AI Act unbedenklich ist, kann weiterhin unzulässig sein, wenn es personenbezogene Daten von Schülerinnen, Schülern oder Personal ohne gültige Rechtsgrundlage verarbeitet. Wenn Sie sich nur einen Satz von dieser Seite merken: Nutzen Sie KI, um Ihr professionelles Urteilsvermögen zu unterstützen, nicht um es zu ersetzen – strengere Regeln gelten, sobald KI dabei hilft, Entscheidungen über Noten, Bildungswege oder Menschen zu treffen. Der EU AI Act Der EU AI Act (Verordnung (EU) 2024/1689) ist das einheitliche, risikobasierte Regelwerk der EU für künstliche Intelligenz. Statt einzelne Produkte zu regulieren, klassifiziert er KI-Systeme nach dem von ihnen ausgehenden Risiko und knüpft daran entsprechende Pflichten – von einem vollständigen Verbot für eine kleine Zahl von Praktiken über zusätzliche Pflichten für „hochriskante“ Anwendungen bis hin zu gar keinen besonderen Regeln für alltägliche Werkzeuge. Er gilt unmittelbar in jedem Mitgliedstaat, sowohl für öffentliche als auch für private Organisationen. Der AI Act wird schrittweise eingeführt. Er gilt seit dem 1. August 2024; seit dem 2. Februar 2025 sind die unten genannten verbotenen Praktiken sowie die Pflicht zum Aufbau von KI-Kompetenz (Art. 4) bereits verbindlich; ab dem 2. August 2026 gilt der Großteil seiner übrigen Bestimmungen. Abb. 1: „Die KI-Roadmap“ (KI-generiertes Bild, ...) Wer ist für den Einsatz von KI verantwortlich? Führt eine Schule ein KI-System ein und kontrolliert es, ist üblicherweise die Schule oder der Schulträger die einsetzende Stelle (Art. 3(4)). Die Lehrkraft ist bei der Nutzung des Werkzeugs nach den Vorgaben der Schule normalerweise keine eigenständige einsetzende Stelle, muss aber dennoch diese Vorgaben sowie alle einschlägigen schulischen und datenschutzrechtlichen Regeln befolgen. Lehrkräfte müssen wissen, was sie nutzen Schulen und Schulträger müssen geeignete Maßnahmen ergreifen, um den Aufbau von KI-Kompetenz bei denjenigen zu unterstützen, die in ihrem Auftrag KI-Systeme nutzen (Art. 4). Der AI Act legt kein bestimmtes Kompetenzniveau, Zertifikat oder Schulungsformat fest. Diese hängen vielmehr vom genutzten KI-System, der Art der Nutzung und den möglicherweise betroffenen Personen ab. KI-Praktiken, die für Schulen vollständig verboten sind Der AI Act verbietet acht KI-Praktiken vollständig (Art. 5); vier davon sind für Schulen unmittelbar relevant: Der Einsatz von KI-Systemen an Bildungseinrichtungen, um Emotionen oder Absichten aus biometrischen Daten abzuleiten (etwa aus Gesichts- oder Stimmmerkmalen von Schülerinnen und Schülern), ist grundsätzlich verboten. Es bestehen enge Ausnahmen für medizinische oder sicherheitsbezogene Zwecke (Art. 3(39); Art. 5(1)(f)). KI-Systeme, die die Schutzbedürftigkeit einer Person aufgrund ihres Alters (wie bei Kindern), einer Behinderung oder ihrer sozialen oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten in einer Weise zu verzerren, die ihr Schaden zufügt, sind unabhängig von der Absicht verboten (Art. 5(1)(b)). Der Aufbau oder die Erweiterung einer Gesichtserkennungsdatenbank durch ungezieltes Sammeln von Bildern aus dem Internet oder von Videoüberwachungsaufnahmen ist verboten. Das ist relevant, wenn eine Schule ein Gesichtserkennungswerkzeug für die Anwesenheitskontrolle oder die Prüfungsaufsicht in Betracht zieht (Art. 5(1)(e)). Die Nutzung biometrischer Daten zur Kategorisierung von Personen, um geschützte Merkmale wie Herkunft, politische Meinung, Religion oder sexuelle Orientierung abzuleiten, ist verboten. Das ist für jedes biometrische Werkzeug relevant, etwa eine Prüfungsaufsichts-Software, die über ihren angegebenen Zweck hinausgeht (Art. 5(1)(g)). Muss KI-generierter Inhalt immer gekennzeichnet werden? Wenn Schülerinnen und Schüler direkt mit einem KI-System interagieren, etwa einem Chatbot, müssen sie darüber informiert werden, dass sie mit KI interagieren. In der Regel ist der Systemanbieter dafür verantwortlich, dies deutlich zu machen (Art. 50(1)). Schulen und Lehrkräfte müssen Deepfakes oder KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen, wenn diese im Unterricht verwendet werden (Art. 50(4)). Diese Pflicht entfällt, wenn der KI-generierte Inhalt einer wirksamen menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurde und eine Person oder Einrichtung die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Ein KI-gestütztes Arbeitsblatt, das von einer Lehrkraft geprüft wurde, benötigt daher nicht automatisch eine Kennzeichnung. Wann KI in der Bildung hochriskant wird Gewöhnliche Schreib-, Übersetzungs-, Recherche- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie beruflich genutzt werden. Die Einstufung hängt vom vorgesehenen Zweck des Systems ab, nicht einfach davon, welches Produkt verwendet wird (Art. 6 · Anhang III). KI-Systeme können als hochriskant eingestuft werden, wenn sie dazu bestimmt sind: Für Lehrkräfte Für Schulen über Zugang, Zulassung oder Zuweisung von Schülerinnen und Schülern zu Bildungs- oder Ausbildungseinrichtungen und -programmen zu entscheiden; die Lernergebnisse von Schülerinnen und Schülern zu bewerten oder ihren Lernprozess zu steuern; das angemessene Bildungsniveau zu beurteilen, das eine Schülerin oder ein Schüler erhalten wird oder erreichen kann; oder verbotenes Verhalten von Schülerinnen und Schülern während Prüfungen zu erkennen. (Anhang III, Punkt 3) Lehrkräfte anzuwerben oder auszuwählen, einschließlich der Vorauswahl von Bewerbungen; über Vertragsbedingungen, Beförderung oder Beendigung eines Lehrkraft-Beschäftigungsverhältnisses zu entscheiden; Aufgaben basierend auf dem Verhalten oder persönlichen Merkmalen einer Lehrkraft zuzuweisen; oder die Leistung von Lehrkräften zu bewerten. (Anhang III, Punkt 4) Ein begrenztes Prüf- oder Vorbereitungswerkzeug kann ebenfalls außerhalb der Hochrisikokategorie liegen, wenn es eine Entscheidung nicht wesentlich beeinflusst. Ein Bildungssystem, das Personen profiliert, gilt jedoch stets als hochriskant. Was Hochrisiko-KI für Schulen und Lehrkräfte bedeutet Die Einstufung eines KI-Systems als hochriskant schließt seine Nutzung an Schulen nicht automatisch aus. Hochrisikosysteme sind jedoch mit Pflichten verbunden (Art. 26): Diese Pflichten für Hochrisiko-KI im Bildungsbereich gelten ab dem 2. Dezember 2027 — die oben genannten Verbote und die Pflicht zum Aufbau von KI-Kompetenz gelten jedoch bereits heute. Für Lehrkräfte Für Schulen es nur für seinen zugelassenen Zweck nutzen und seine Anweisungen befolgen; seine Ausgabe nicht als endgültige Entscheidung behandeln; seine wesentlichen Grenzen und wahrscheinlichen Fehlerquellen verstehen; auf ein übermäßiges Vertrauen in scheinbar überzeugende Ergebnisse achten; und bereit sein, seine Ausgabe zu verwerfen oder zu überstimmen. eine kompetente und befugte menschliche Aufsicht sicherstellen; sicherstellen, dass alle Eingabedaten, die ihrer Kontrolle unterliegen, relevant und hinreichend repräsentativ sind; das System überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren; automatisch erzeugte Protokolle mindestens sechs Monate lang aufbewahren, soweit diese Protokolle ihrer Kontrolle unterliegen; und Schülerinnen, Schüler, Lehrkräfte oder betroffene Personen im Voraus informieren, wenn das System an Entscheidungen über sie mitwirkt. Öffentliche Stellen und private Organisationen, die öffentliche Dienstleistungen erbringen, müssen vor dem Einsatz von Hochrisiko-KI möglicherweise zusätzlich eine Folgenabschätzung zu den Grundrechten durchführen (Art. 27). Öffentliche Behörden und in ihrem Auftrag handelnde Organisationen müssen das System unter Umständen zusätzlich in der EU-Datenbank registrieren (Art. 49). Ob dies in der Verantwortung der Schule oder ihres Trägers liegt, hängt vom jeweiligen nationalen Schulsystem ab. Der AI Act ist nicht das einzige relevante Recht Der AI Act ersetzt nicht die europäischen oder nationalen Regelungen zu Datenschutz, Bildung, Beschäftigung und Mitbestimmung, Kinderschutz oder Urheberrecht (Art. 2(7)). So bedeutet die Tatsache, dass ein Werkzeug nicht hochriskant ist, beispielsweise nicht, dass Sie Arbeiten oder personenbezogene Daten von Schülerinnen und Schülern dort hochladen dürfen. Ein Werkzeug kann nach dem AI Act zulässig sein und dennoch durch Datenschutzrecht oder die Regeln Ihrer Schule verboten sein. Die DSGVO Die DSGVO (Verordnung (EU) 2016/679) ist das Datenschutzrecht der EU. Sie spielt eine ergänzende Rolle neben dem AI Act: Während der AI Act fragt, ob und wie ein KI-System überhaupt genutzt werden darf, stellt die DSGVO eine engere Frage – dürfen genau diese Daten über genau diese Person auf diese Weise verarbeitet werden? Wer die eine Regelung erfüllt, hat damit nicht automatisch auch die andere erfüllt. Sie gilt, sobald personenbezogene Daten betroffen sind. Namen, schulische E-Mail-Adressen, Schülerarbeiten, Sprachaufnahmen, Mitschriften, Fotos, Noten, Anwesenheits- und Lernfortschrittsdaten zählen alle als personenbezogene Daten (Art. 4). Die meisten im Unterricht genutzten KI-Werkzeuge berühren mindestens eine dieser Datenarten. Für die Verarbeitung ist eine Rechtsgrundlage erforderlich. Schulen stützen sich in der Regel auf eine rechtliche Verpflichtung oder auf eine Aufgabe im öffentlichen Interesse; auch eine Einwilligung ist möglich, muss aber freiwillig erteilt werden und bei jüngeren Schülerinnen und Schülern von einem Elternteil oder einer erziehungsberechtigten Person stammen (Art. 6, Art. 8). Manche Daten benötigen zusätzlichen Schutz. Gesundheitsdaten, biometrische Daten sowie Daten, die Herkunft, Religion oder ähnliche Merkmale offenbaren, sind „besondere Kategorien personenbezogener Daten“ und grundsätzlich ohne eine spezifische Ausnahme unzulässig (Art. 9) — ein Grund, warum der AI Act mehrere biometrische Ableitungspraktiken an Schulen gesondert verbietet. Wissen, wer verantwortlich ist. Die Schule ist normalerweise der „Verantwortliche“; ein KI-Anbieter, der Daten im Auftrag der Schule verarbeitet, ist ein „Auftragsverarbeiter“ und benötigt eine Auftragsverarbeitungsvereinbarung, die seine Pflichten festlegt (Art. 28). Prüfen Sie dies, bevor Sie ein neues Werkzeug schulweit einführen. Daten, die die EU verlassen, benötigen eine Schutzmaßnahme. Viele beliebte KI-Werkzeuge werden außerhalb der EU gehostet. Personenbezogene Daten dürfen dorthin nur übermittelt werden, wenn ein Angemessenheitsbeschluss oder eine andere anerkannte Schutzmaßnahme, etwa Standardvertragsklauseln, vorliegt (Art. 44). Schülerinnen, Schüler und Personal behalten ihre Rechte. Sie können erfragen, welche Daten über sie gespeichert sind, deren Berichtigung oder Löschung verlangen und Entscheidungen widersprechen, die allein auf automatisierter Verarbeitung beruhen und sie erheblich betreffen (Art. 15–Art. 22) — ein Recht, das neben den Anforderungen des AI Acts an die menschliche Aufsicht bei Hochrisikosystemen besteht und diese verstärkt. In der Praxis: Bevor Sie echte Daten von Schülerinnen und Schülern oder Personal in ein KI-Werkzeug eingeben, prüfen Sie, ob Ihre Schule es freigegeben hat, geben Sie nicht mehr personenbezogene Daten preis, als die Aufgabe erfordert, und verwenden Sie bevorzugt anonymisierte oder fiktive Beispiele, wenn Sie ein Werkzeug nur ausprobieren. Wo Sie Hilfe finden Die Durchsetzung ist in jedem EU-Land unterschiedlich organisiert. Da sich nationale Zuständigkeiten ändern können, nutzen Sie die aktuelle Liste der nationalen Marktüberwachungsbehörden der Europäischen Kommission. Jede Person (eine Lehrkraft, eine Schülerin oder ein Schüler, ein Elternteil) kann bei dieser Behörde eine Beschwerde einreichen, wenn sie der Ansicht ist, dass gegen den AI Act verstoßen wurde (Art. 85). Hat ein Hochrisikosystem, etwa ein Zulassungs- oder Prüfungsaufsichtswerkzeug, zu einer Entscheidung geführt, die eine Schülerin oder einen Schüler erheblich betrifft, können diese (oder ihre Eltern) außerdem eine Erklärung zu dieser individuellen Entscheidung verlangen (Art. 86). Nationale Regelungen für Ihr Land Der AI Act gilt EU-weit, doch Durchsetzungsstellen, Schulrecht und datenschutzrechtliche Praxis unterscheiden sich von Land zu Land. Länderspezifische Hinweise für die Partnerländer des Playbooks werden hier ergänzt: Österreich Tschechien Deutschland Lettland Polen Slowakei Slowenien Spanien