# 1. KI in der Bildung # 1.1 Potenziale & Risiken > *Wenn Sie sich nur einen Satz von dieser Seite merken:* KI hat den Weg in die Schulen gefunden wie ein Medikament ohne Beipackzettel. Als Lehrkraft wissen Sie nicht, wann Sie KI einsetzen sollen, es fehlen Ihnen Dosierungsanweisungen, und es gibt keine Informationen über die Nebenwirkungen. Dieses Kapitel dient als Beipackzettel für das Playbook. ### Sollte KI mit einem Beipackzettel kommen wie ein Medikament? Sie kennen doch dieses kleine Faltblatt, das in jeder Medikamentenschachtel steckt? Das, das Sie vermutlich achtlos beiseitelegen, ohne einen Blick darauf zu werfen? Es mag unscheinbar wirken, aber dieses kleine Blatt ist ein stiller Triumph des vergangenen Jahrhunderts. Der Beipackzettel legt vier wesentliche Dinge offen: wogegen das Medikament wirkt, wie viel man einnehmen soll, welche Überraschungen es bereithalten könnte, und wer besser die Finger davon lässt. Hinter jeder Zeile dieses Beipackzettels steht ein ganzer Apparat: klinische Studien, Aufsichtsbehörden und die Pflicht, Fehler offenzulegen. Niemand glaubt, dass der Beipackzettel selbst heilt. Seine wahre Stärke besteht darin, das Medikament für jeden sicher zu machen. Genau diese Magie fehlt uns, wenn wir KI ohne Anleitung unterrichten lassen. Die KI-Werkzeuge, die sich derzeit still und leise in Ihrer Schule einnisten, kamen ohne Gebrauchsanweisung. In Großbritannien ergab eine Untersuchung, dass nur 7 von 100 Bildungstechnologie-Unternehmen ihre Produkte jemals in einer kontrollierten Studie getestet hatten, und nur 12 von 100 eine externe Zertifizierung angestrebt hatten. Im Klassenzimmer zeigt sich dasselbe Bild. Nur 11 von 100 Schulleitungen und Lehrkräften in 17 US-Bundesstaaten hatten jemals einen begutachteten Wirksamkeitsnachweis eingefordert, bevor sie ein neues Werkzeug einführten. Das Ergebnis ist in vielen Fällen verschwendetes Geld. In den USA verstaubten zwei Drittel der schulischen Softwarelizenzen ungenutzt, und 98 % wurden so gut wie nie eingesetzt. Das EdTech Genome Project untersuchte rund 7.000 Lehrmittel im Wert von 13 Milliarden Dollar und stellte fest, dass 85 % entweder falsch zugeordnet oder falsch eingesetzt wurden. Dieses Kapitel mag wie der trockene Pflichtteil wirken, doch es enthüllt die verborgenen Geschichten hinter den Regeln. Es erzählt, was wirklich geschah, wer betroffen war, und wirft ein Licht auf die Nebenwirkungen – auch jene, die still und leise Kinder erreichten, die sich nie dafür entschieden hatten. ### Potenziale von KI Machen wir das gleich zu Beginn klar. Die meisten Studien zum Potenzial von KI beziehen sich auf Universitätsstudierende. Schülerinnen und Schüler kommen in diesen Studien bislang eher selten vor. Die meisten Studien betreffen kurzfristige Interventionen von wenigen Stunden bis wenigen Wochen. Folglich könnte der sogenannte Neuheitseffekt die Ergebnisse positiv beeinflusst haben. Nicht zuletzt wurde der Test zur Wirksamkeitsmessung häufig von denselben Personen entwickelt, die auch den Unterricht durchgeführt haben. Auch das könnte die Daten verzerrt haben. #### (1) KI ein neues Thema erklären lassen und die Übung für den eigenen Unterricht aufheben **Stellen Sie sich vor.** Wenn morgen ein Schüler oder eine Schülerin ein Thema verpasst hat oder ein kniffliges Konzept noch einmal erklärt bekommen muss, lassen Sie eine KI-Tutorin die erste Erklärung übernehmen. Die Übung heben Sie sich für Ihren Unterricht auf, wo echtes Lernen lebendig wird. **Warum das wichtig ist.** KI kann den Erwerb von Faktenwissen unterstützen. In einer Harvard-Studie lernten 194 Physikstudierende zwei Themen. Für ein Thema nutzten sie eine eigens dafür entwickelte KI-Tutorin. Für das andere Thema lernten sie in klassischem Unterricht. Jede Person durchlief beide Ansätze, sodass niemand behaupten kann, die stärkere Gruppe habe die bessere Behandlung erhalten. In einem unmittelbar danach durchgeführten Test erzielten die durch die KI unterrichteten Studierenden deutlich höhere Ergebnisse. Die Forschenden verzeichneten eine mediane Bearbeitungszeit von 49 Minuten, verglichen mit den 60 Minuten, die im Stundenplan für die Einheit vorgesehen waren. Die Autor:innen sind bei der Interpretation dieser Ergebnisse vorsichtig: Der Stoff war neu für die Studierenden, und ein Großteil der Aufgabe bestand schlicht darin, ihn gut zu erklären. Sie weisen ausdrücklich zurück, dass dasselbe für Aufgaben gelten würde, die die Verknüpfung mehrerer Ideen erfordern. Zudem handelte es sich um Studierende, nicht um Achtklässler:innen. Eine große Übersichtsarbeit, die die Ergebnisse von 228 Studien zusammenführte, kam zu einem ähnlichen Schluss. Generative KI-Chatbots erzielten einen größeren Effekt auf das Wissen (und Verstehen) als intelligente Tutorensysteme und adaptive Übungssoftware. **Vertiefung.** Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. *Scientific Reports, 15,* Article 17458. Frei zugänglich, DOI 10.1038/s41598-025-97652-6. Der Artikel beschreibt, wie die Tutorin konzipiert und kontrolliert wurde. Das ist hilfreich für alle, die selbst eine KI-Tutorin entwickeln möchten. #### (2) Die Zeit für die Unterrichtsvorbereitung besser nutzen **Stellen Sie sich vor.** Sie sparen einen Teil der Zeit, die Sie für die Unterrichtsvorbereitung benötigen, indem Sie KI nutzen, um einen ersten Entwurf zu erstellen, den Sie anschließend gründlich überarbeiten. **Warum das wichtig ist.** Niemand bestreitet, dass die Arbeitsbelastung von Lehrkräften hoch ist. Ein möglicher Nutzen von KI besteht daher darin, die Arbeitszeit effizienter zu nutzen. Eine britische Studie untersuchte, inwieweit der gezielte Einsatz von KI bei der Unterrichtsvorbereitung die Arbeitsbelastung von Lehrkräften verringern kann. Forschende teilten 259 Naturwissenschaftslehrkräfte an 68 Schulen zufällig entweder einer Gruppe zu, die einen Chatbot zusammen mit kurzen schriftlichen Anweisungen nutzte, oder einer Gruppe, die wie bisher weiterplante. Die wöchentliche Planungszeit für den Naturwissenschaftsunterricht in den Jahrgangsstufen 7 und 8 sank von etwa 81 auf etwa 56 Minuten. Ein Gremium von Fachexpert:innen bewertete die Qualität der Unterrichtspläne, ohne zu wissen, ob diese mit oder ohne Unterstützung von KI erstellt worden waren. Die Expert:innen fanden keine Hinweise darauf, dass sich die Qualität der Pläne unterschied. Zwei Punkte sind jedoch hervorzuheben. (1) Die Lehrkräfte nutzten das Werkzeug im Laufe der Wochen immer weniger, was bedeutet, dass die Zeitersparnis nicht automatisch eintritt und sich nicht von selbst aufrechterhält. (2) Die Studie maß die von Lehrkräften für die Unterrichtsplanung aufgewendete Zeit, nicht die Lernergebnisse der Schüler:innen. **Vertiefung.** Roy, P., Poet, H., Staunton, R., Aston, K., & Thomas, D. (2024, 12. Dezember). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, im Auftrag der Education Endowment Foundation und der Hg Foundation. Frei verfügbar unter educationendowmentfoundation.org.uk. #### (3) Bessere Unterstützung für Lernende, die vom Standardunterricht nicht in vollem Umfang profitieren **Stellen Sie sich vor.** Ihre Schule entscheidet, wie sie ihre Mittel einsetzen möchte, und will einen KI-Chatbot anschaffen. Wie wahrscheinlich ist es Ihrer Meinung nach, dass die Anbieter des Chatbots Ihnen Nachweise für dessen Nutzen in verschiedenen Fächern liefern? **Warum das wichtig ist.** Der Anbieter verweist möglicherweise auf folgende Anwendung. Chatbots sind die älteste und am besten dokumentierte Anwendung von „KI" in der Bildung – und genau das wird bei der Mittelvergabe oft übersehen. In einer Analyse von 29 Studien mit 41 Gruppen von Lernenden mit Behinderungen fanden Forschende moderate Vorteile über ein breites Spektrum von Settings hinweg. Aber lesen Sie das Kleingedruckte. In sieben von zehn dieser Studien bedeutete „KI" einen Roboter: eine kleine physische Maschine auf einem Tisch, oft von einer Forschungsperson aus einem anderen Raum gesteuert. Nur in einer von fünf Studien kam Software zum Einsatz. Das ist also kein Beweis dafür, dass ein Chatbot einem autistischen Schüler oder einer autistischen Schülerin in Ihrer Klasse hilft. Auch konnten die Autor:innen der Übersichtsarbeit nicht sagen, was diese Interventionen wirksam macht. Aus ihrer Forschung ließ sich nicht ableiten, warum sich die erfolgreichen von den nicht erfolgreichen Studien unterschieden. **Vertiefung.** Zhang, L., Carter, R. A., Jr., Liu, Y., & Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. Review of Educational Research, 96 (1). DOI 10.3102/00346543241293424. Das eigentliche Highlight ist die Tabelle der eingeschlossenen Studien: Sie zeigt auf einen Blick, wie wenig sich dieses Feld tatsächlich mit den Werkzeugen beschäftigt, die derzeit an Schulen vermarktet werden. #### (4) Lernenden zeigen, wo KI versagt **Stellen Sie sich vor.** Sie lassen Ihre Klasse zehn Bilder von „einem Arzt/einer Ärztin" und zehn von „einer Pflegekraft" erstellen. Zählen Sie aus, wer in welchem Set erscheint, und entfachen Sie dann eine Diskussion: Woher kommen diese Muster, und wer hat diese Entscheidungen getroffen? [![Gemini_Generated_Image_mfaur1mfaur1mfau.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/scaled-1680-/gemini-generated-image-mfaur1mfaur1mfau.jpg) ](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/gemini-generated-image-mfaur1mfaur1mfau.jpg) Abb. 1. Bild erstellt mit NanoBanana 2, erstellt am 20. August 2026, One-Shot-Prompt: a doctor, a nurse **Warum das wichtig ist.** Die klassische Version dieser Unterrichtseinheit wirkt inzwischen überholt, und genau deshalb verdient sie Aufmerksamkeit. Jahrelang war die Demonstration vorhersehbar: Man fragte nach einem Arzt, und es erschien ein Mann. In einem systematischen Test zeigte Midjourney Ärzte fast immer als weiße Männer, während Adobe Firefly sichtbare, wenn auch unvollkommene, Versuche unternahm, mehr Vielfalt abzubilden. Probieren Sie denselben Prompt heute aus, und Sie könnten eine Ärztin oder einen männlichen Pfleger sehen (Abb. 1). Lassen Sie sich aber nicht täuschen zu glauben, die Verzerrung sei verschwunden. Eine Analyse von 1.344 Bildern aus drei populären Generatoren aus dem Jahr 2026 zeigte das Gegenteil: Bei der Anfrage nach einer „kompetenten Person" zeigte ein System keine einzige Frau. Verändert hat sich nicht die Verzerrung, sondern die Ebene, auf der sie wirkt – und genau das ist die wichtige Lektion! Hinter jedem dieser Bilder stehen menschliche Entscheidungen: womit das System trainiert wurde und was seine Entwickler:innen im Nachhinein entschieden haben, dass es zeigen soll. Die zweite Ebene ist veränderbar, unsichtbar und wird von einem Unternehmen festgelegt. Die erste Ebene menschlicher Entscheidungen ist das, was das System aufgesogen hat. Millionen von Bildern, von Menschen erstellt und beschriftet, jedes davon ein Echo der Welt, wie sie bereits war. Das ist die Ebene, die die klassische Unterrichtseinheit zu Verzerrungen offenlegt, und Schüler:innen begreifen sie leicht: Die Maschine wurde zu einem Spiegelbild dessen, womit sie gefüttert wurde. Die zweite Ebene wird davon geprägt, was ein Unternehmen als Nächstes zeigen möchte – dieser Einfluss hinterlässt jedoch keine Spur im Bild selbst. Hier spielen sich drei Dinge ab, jedes davon von den Entwickler:innen in ihren eigenen Worten beschrieben. - **Ihre Worte werden umgeschrieben, bevor das Modell sie erhält.** Aus OpenAIs eigener Entwicklerdokumentation: „we use GPT-4 to optimize all of your prompts before they're passed to DALL-E" – und „this feature isn't able to be disabled at the moment." Was Ihr Schüler oder Ihre Schülerin eingegeben hat, ist nicht das, was die Maschine gefragt wurde. - **Das Erscheinungsbild wird ergänzt, wenn der Prompt es offenlässt.** OpenAI beschreibt seine Diversitätstechnik so: „This technique is applied at the system level when DALL·E is given a prompt describing a person that does not specify race or gender, like 'firefighter.'" Danach gaben Nutzer:innen zwölfmal häufiger an, die Bilder zeigten Menschen unterschiedlicher Herkunft. „Ein Arzt" ist genau eine solche Art von Prompt. - **Und diese Feinabstimmung kann danebengehen.** Google, nachdem die Bildgenerierung von Gemini 2024 pausiert wurde: „Our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range." Wenn also ein Schüler oder eine Schülerin „ein Arzt" eingibt und eine Frau erscheint, gibt das Bild keinen Hinweis darauf, welche Ebene sie hervorgebracht hat. Diese Unsicherheit ist kein Makel der Unterrichtseinheit. Sie ist die Lektion selbst. Die alte Geschichte behauptete, die Maschine habe schlicht die Vorurteile der Gesellschaft aufgesogen. Die neue Geschichte geht tiefer und hält länger: Das Bild ist kein Spiegel, und es ist kein Zufall. Ein Unternehmen hat eine Entscheidung getroffen! Diese Entscheidung lässt sich im Ergebnis nicht erkennen, und sie kann sich an einem x-beliebigen Dienstag ändern, still und ohne Vorwarnung. Diese Wahrheit überdauert jedes neue Modell. Die klassische Stereotyp-Lektion verblasst. Das ist die Lektion, die die Aufmerksamkeit der Lernenden verdient, und sie wird das nächste Modell-Update überdauern: Das Bild ist keine einfache Widerspiegelung der Realität, und es ist nicht zufällig entstanden. Jemand hat eine Entscheidung getroffen. Diese Lektion kann früh beginnen. Als 209 finnische Schüler:innen in 12 Klassen der Jahrgangsstufen 4 und 7 sich mit diesem Thema befassten, stieg der Anteil derer, die die Verzerrung datenbasiert erklären konnten, von etwa 7 von 100 auf 44 von 100. Der ehrliche Vorbehalt: Die Studie maß, was die Kinder erklären konnten, nicht, wie sie später handeln würden. **Vertiefung.** Vartiainen, H., et al (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(9). Frei zugänglich, DOI 10.1177/14614448241252820 Weinmann, H., et al (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. New Media & Society, Online First #### Wie belastbar sind die Forschungsergebnisse zu den Potenzialen von KI im Moment? **Das Wichtigste zuerst.** Wenn Ihnen jemand eine Studie zitiert, stellen Sie zwei Fragen, bevor Sie zustimmen: „Wer waren die Lernenden, und wie lange dauerte die Studie?" **Warum das wichtig ist.** 2025 berichtete eine Metaanalyse von 51 Studien über einen signifikanten Nutzen von ChatGPT für die schulischen Leistungen von Schüler:innen. Der Artikel wurde hunderttausende Male gelesen und diente als Grundlage für zahlreiche selbstsichere Aussagen im Lehrerzimmer. Am 22. April 2026 zog die Fachzeitschrift den Artikel zurück. Eine *Rücknahme (Retraction)* bedeutet, dass eine Fachzeitschrift offiziell etwas zurückzieht, das sie veröffentlicht hat; der Artikel bleibt sichtbar, jedoch mit dem Vermerk „RETRACTED" gekennzeichnet, sodass alle, die ihn zitiert haben, dies erkennen können. Zwei externe Forschende hatten Unstimmigkeiten in der Zusammenführung der Studien entdeckt. Die verantwortliche Redakteurin der Fachzeitschrift schrieb, die Probleme „untergraben das Vertrauen der Redaktion in die Validität der Analyse". Die Autor:innen reagierten nicht auf die Korrespondenz zu diesem Thema. Das bedeutet nicht, dass KI keine Wirkung hat. Es gibt seriöse Studien, die moderate Vorteile belegen. Dieses Forschungsfeld ist zudem noch nicht klar abgegrenzt, da es relativ neu und hochdynamisch ist. Es bedeutet, dass die häufig zitierte Zahl falsch war – und dass es ein Jahr und zwei externe Fachleute brauchte, um das festzustellen. Ein weiterer erwähnenswerter Vorbehalt: Je näher die Evidenz an die Schule heranrückt, desto kleiner fällt der Effekt aus – zumindest im Moment. **Vertiefung.** Die Rücknahme selbst umfasst nur eine Seite, ist frei zugänglich und lohnt sich gerade wegen ihrer Kürze: Wang, J., & Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13, 528. DOI 10.1057/s41599-026-07310-z. Das zurückgezogene Original war HSSC 12, 621 (2025). Weiterhin gültig: Wu, X., Zhu, P., Zhang, J., Yin, M., & Wang, Y. (2026). *HSSC, 13*, 684. Frei zugänglich, DOI 10.1057/s41599-026-07019-z. Die reine Schul-Zahl: Yi, L., Liu, D., Jiang, T., & Xian, Y. (2025). *International Journal of Science and Mathematics Education, 23*(4), 1105–1126. DOI 10.1007/s10763-024-10499-7. ### Risiken von KI #### (1) Etwas zu tun ist nicht dasselbe wie zu lernen **Stellen Sie sich vor.** Bevor Sie eine Hausaufgabe stellen, die ein Chatbot erledigen kann, überlegen Sie sich, welchen Zweck die Aufgabe eigentlich verfolgt. Wäre es vielleicht sinnvoll, die Aufgabe zu ändern? **Warum das wichtig ist.** Lernt man mit einem Chatbot schneller? Rund tausend Schüler:innen der Jahrgangsstufen 9 bis 11 übten Mathematik in drei Gruppen: eine mit einem Standard-Chatbot, eine mit einer Version, die programmiert war, die Antwort zurückzuhalten und stattdessen eine Rückfrage zu stellen, und eine ohne Chatbot. Während der Nutzung bearbeitete die Gruppe mit dem Standard-Chatbot 48 Prozent mehr Übungsaufgaben als die Gruppe ohne. Anschließend schrieben alle dieselbe Prüfung ohne Chatbot. Das zunächst überraschende Ergebnis: Die Gruppe mit dem Standard-Chatbot schnitt 17 Prozent schlechter ab als die Schüler:innen ohne Chatbot. Die Gruppe, die mit dem antwortzurückhaltenden Chatbot gearbeitet hatte, zeigte im Test keinen Leistungsabfall gegenüber der Gruppe ohne Chatbot, übte aber mehr. Die Schüler:innen mit dem Standard-Chatbot waren weder faul, noch haben sie betrogen. Sie arbeiteten härter und lernten weniger, denn das Werkzeug eliminierte nicht die Anstrengung, sondern die kognitive Herausforderung, aus der Lernen besteht. **Vertiefung.** Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122, e2422633122. DOI 10.1073/pnas.2422633122. #### (2) KI-Erkennungstools bestrafen die falschen Schüler:innen **Stellen Sie sich vor.** Sie erhalten einen Aufsatz zur Bewertung. Aus Neugier über dessen Echtheit geben Sie ihn in einen KI-Detektor ein. Das Ergebnis blinkt auf: Der Aufsatz wurde nahezu sicher von KI geschrieben. **Warum es wichtig ist.** Sie setzen den KI-Detektor ein, um Fairness sicherzustellen – doch für eine bestimmte Gruppe bewirken die Detektoren genau das Gegenteil. Ein Detektor erkennt keinen maschinell erzeugten Text. Er misst, wie vorhersehbar die Wortwahl ist. Und genau darin liegt das Problem, etwa wenn eine Person in einer Fremdsprache schreibt, wenig Schreibpraxis hat oder über einen begrenzten Alltagswortschatz verfügt. Ihr Schreiben ist vorhersehbar. Als sieben kommerzielle Detektoren 91 Aufsätze von Nicht-Muttersprachler:innen in einer Englischprüfung analysierten, wurden diese Aufsätze in rund sechs von zehn Fällen fälschlich als maschinell erzeugt eingestuft. Im Gegensatz dazu wurden Aufsätze 14-jähriger Amerikaner:innen in ihrer Muttersprache Englisch fast durchweg korrekt eingestuft. Ein Werkzeug, das ausgerechnet bei einer Gruppe falsch-positive Ergebnisse liefert, ist nicht neutral. Zudem ist diese Gruppe am wenigsten in der Lage, sich dagegen zu wehren. **Vertiefung.** Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. Frei zugänglich, DOI 10.1016/j.patter.2023.100779. #### (3) Wo landen die Daten der Schüler:innen eigentlich? **Stellen Sie sich vor.** Sie nutzen ein KI-Werkzeug, das Ihre Schule anbietet. Versuchen Sie herauszufinden, wohin die Daten der Schüler:innen gehen. **Warum es wichtig ist.** Kann Ihre Schule sicherstellen, dass die Daten nicht an Dritte weitergegeben werden? Ein Dritter ist ein Unternehmen, das weder Ihre Schule noch die Entwicklerin der App ist. Typischerweise handelt es sich um Werbe- oder Analyseunternehmen, die Daten erhalten, während die Schüler:innen arbeiten. Niemand an der Schule hat dieses Unternehmen ausgewählt. Als Forschende eine technische Analyse von 163 Lernprodukten durchführten, die während der pandemiebedingten Schulschließungen von Regierungen empfohlen wurden, verarbeiteten 145 davon die Daten von Kindern auf eine Weise, die deren Rechte gefährdete oder verletzte, indem sie Daten an 196 Drittunternehmen übermittelten oder ihnen Zugriff darauf gewährten – überwiegend aus der Werbebranche. Von den 42 Regierungen, die eigene Produkte entwickelten, statt sie einzukaufen, hatten 39 Produkte mit demselben Problem entwickelt. Die Studie bezieht sich auf Produkte aus dem Jahr 2021, und einige haben sich seither möglicherweise verändert. Wir können jedoch nicht ausschließen, dass Ähnliches auch für KI-Anwendungen gilt. **Vertiefung.** Human Rights Watch (2022). „How dare they peep into my private life?": Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. Frei verfügbar unter hrw.org. In den Länderanhängen können Sie nachschlagen, was wo empfohlen wurde. #### (4) KI kommt zuletzt dort an, wo sie am dringendsten gebraucht wird **Stellen Sie sich vor.** Wie viel Fortbildung haben Sie bisher zum Thema KI oder zum fachspezifischen Unterrichten mit KI erhalten? **Warum das wichtig ist.** Erwachsenen, die ihre Ausbildung bereits abgeschlossen hatten, wurde eine KI-Assistentin zur Verfügung gestellt. Die Leistungslücke zwischen Personen mit höherer und niedrigerer formaler Bildung verringerte sich deutlich. Als die Forschenden die Assistentin anschließend wieder entzogen, tauchte die Lücke teilweise erneut auf. Die Forschenden schlossen daraus, dass die KI-Assistentin die Arbeit erledigt, den Teilnehmenden aber keine Fähigkeiten vermittelt hatte. Eine Befragung amerikanischer Schulleitungen zeigte folgendes Bild: Je benachteiligter die Schüler:innen einer Schule waren, desto geringer war der Einfluss von KI auf den Unterricht. Verbindet man die Erkenntnisse beider Studien, lässt sich Folgendes festhalten: Ein gutes Werkzeug kann eine Lücke schließen, solange es sich in den Händen einer lernenden Person befindet. Es erreicht jedoch in der Regel nicht diejenigen, die es am meisten bräuchten, und hinterlässt keine Fähigkeiten, wenn es wieder entfernt wird. Zahlen aus Deutschland zeigen dasselbe Muster. Unter 1.590 Jugendlichen im Alter von 14 bis 20 Jahren sahen 80 Prozent aus den wohlhabendsten Familien und 55 Prozent aus den einkommensschwächsten Familien KI als Chance. Und auf die Wahrnehmung folgt das Handeln: 70 Prozent der Gymnasiast:innen nutzten KI für Hausaufgaben, verglichen mit 58 Prozent an Schulen der Sekundarstufe I ohne gymnasiale Ausrichtung. Wie steht es um die Fortbildung von Lehrkräften? Eine Befragung von mehr als zehntausend Lehrkräften in England ergab, dass 45 Prozent der Lehrkräfte an Privatschulen bereits eine KI-Fortbildung erhalten hatten. Im staatlichen Schulsystem waren es dagegen 21 Prozent. Innerhalb des staatlichen Schulsystems reichten die Werte von 26 Prozent an den wohlhabendsten Schulen bis zu 18 Prozent an den ärmsten Schulen. #### (5) Was sich beim Lernen mit KI verbessert, ist nicht unbedingt das, was man sieht **Stellen Sie sich vor.** Sie führen einen neuen Chatbot in Ihrem Unterricht ein, und die Schüler:innen sind begeistert davon, das neue Werkzeug zu nutzen. **Warum das wichtig ist.** Eine große Übersichtsarbeit untersuchte vier verschiedene Aspekte des Lernens (Wissen und Verstehen, Arbeiten mit KI, Engagement/Motivation/Selbstvertrauen, sowie die Fähigkeit, die eigene Arbeit zu planen, zu überwachen und zu korrigieren). Der letzte Aspekt verbesserte sich nicht, die anderen hingegen schon. - Beim Wissen und Verstehen zeigte generative KI größere Effekte als intelligente Tutorensysteme und adaptive Übungssoftware, die bereits an Schulen im Einsatz sind. - Bei der Anwendung von Wissen sowie bei Motivation und Engagement schnitt KI nicht besser ab als bereits vorhandene Software. - Für die Selbststeuerung gibt es noch nicht genug Studien, um einen Effekt festzustellen. Eine kurze Randbemerkung: Die größten Effekte zeigen sich in den Geistes- und Kunstwissenschaften, weniger in Mathematik oder den Naturwissenschaften. **Vertiefung.** Yeo, G. H., & Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(4), article 110. DOI 10.1007/s10648-025-10085-5. # 1.2 Lehren über KI vs. Lehren mit KI ### Kernbotschaften - ***KI ist ein Navigationsgerät.*** Es rettet die Fahrerin, die die Karte bereits im Kopf hat, und hindert diejenige, die sie nicht hat, am Lernen. Die Wirkung hängt von der Person ab, nicht vom Produkt. - ***Lehren über KI ist die Voraussetzung für Lehren mit KI.*** Man kann eine Antwort nicht überprüfen, wenn man nicht weiß, wie das Werkzeug, das sie erzeugt hat, versagen kann. - **Wissen ist nicht Tun.** Lehrkräfte bewerten ihr KI-Wissen höher als ihre Fähigkeit, damit zu unterrichten, und Fortbildung allein schließt diese Lücke nicht. - ***Lehrkräfte nutzen KI hinter den Kulissen, nicht im Unterricht.*** Die Hälfte der Lehrkräfte nutzt KI regelmäßig, weniger als ein Drittel setzt sie mit Schüler:innen ein. - ***Pädagogik schlägt Technologie.*** Unterricht zu transformieren schlägt das bloße Chatten mit KI; die Arbeit zu zweit schlägt Alleinarbeit; Feedback schlägt Gamification. - ***Besseres Feedback bedeutet nicht besseres Lernen.*** Als eindeutig besser bewertete KI-Kommentare führten zu Überarbeitungen, die nicht besser waren. Entscheidend ist, ob das Feedback *aufgenommen* wird. - ***KI steigert den Output, nicht das selbstgesteuerte Lernen.*** - ***Klare Regeln und intensive Nutzung gehen Hand in Hand.*** Lehrkräfte an Schulen mit einer schriftlichen KI-Richtlinie berichten, dass sie mehr Zeit sparen, nicht weniger – das Gegenteil dessen, was die meisten erwarten. - ***Bewahren Sie Ihre eigene Landkarte.** Entlastung wird zu Dequalifizierung, wenn KI die Arbeit übernimmt, die Urteilsvermögen aufbaut und erhält.* > *Wenn Sie sich nur einen Satz von dieser Seite merken:* **KI ist ein Navigationsgerät. Es rettet die Fahrerin, die bereits eine Karte im Kopf hat, und hindert die Fahrerin, die keine hat, still und leise daran, jemals eine aufzubauen.** ### Das Navi-Problem Um ein Londoner Taxi zu fahren, muss man zunächst eine Wissensprüfung (den „Knowledge") bestehen: 320 festgelegte Routen über die 113 Quadratmeilen im Umkreis von sechs Meilen um Charing Cross, wofür Transport for London bis zu zwei Jahre Vorbereitungszeit einräumt, bevor die Prüfungen überhaupt beginnen. Auch geprüfte Fahrer:innen nutzen ein Navi, und niemand denkt deswegen schlechter von ihnen. Die Wissensprüfung wurde nicht wertlos, als das Gerät aufkam. Das Navi wurde zu dem, was die Fahrt sicher macht. Eine Fahrerin mit der Stadt im Kopf nutzt das Navi für das, was sie nicht wissen kann: den Unfall auf der Brücke oder den heutigen Verkehr. Und sie bemerkt, wenn es sie durch eine Straße lenkt, die seit April aufgerissen ist. Setzen Sie nun eine Neuling in dasselbe Taxi mit demselben Navi. Sie erreicht jede Adresse. Eine Zeit lang ist sie von der erfahrenen Fahrerin nicht zu unterscheiden. Doch indem sie den Anweisungen des Navis folgt, baut sie nichts auf. Nach einem Jahr, in dem sie auf Anweisung links abgebogen ist, kann sie die Stadt immer noch nicht ohne das Gerät durchqueren, und sie kann nicht erkennen, wann es sich irrt. [![ChatGPT Image 28. Aug. 2026, 15_16_26.png](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/scaled-1680-/chatgpt-image-28-aug-2026-15-16-26.png)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/chatgpt-image-28-aug-2026-15-16-26.png) Abb. 1. Das Ergebnis hängt vom Fahrer ab. Bild erstellt mit Google Gemini. Dasselbe Navi, zwei Fahrerinnen, gegensätzliche Ergebnisse. **Der Unterschied lag nie im Gerät.** Das ist ein Jahrzehnt an KI-Forschung in einem Bild – und es gilt auch ohne das Bild. Die Wirkung eines KI-Werkzeugs hängt weit stärker davon ab, was die nutzende Person bereits weiß, als vom Werkzeug selbst. Forschende nennen dies ein [Schema](https://playbook.dualaiteacher.eu/books/playbook-de/page/tabelle-der-fachbegriffe "Tabelle der Fachbegriffe"), das organisierte Vorwissen einer Person. Ist es vorhanden, entlastet die Abgabe von Arbeit an eine Maschine. Forschende nennen dies nützliches [kognitives Auslagern](https://playbook.dualaiteacher.eu/books/playbook-de/page/tabelle-der-fachbegriffe "Tabelle der Fachbegriffe"). Muss Wissen jedoch erst aufgebaut werden, kann derselbe Vorgang genau das verhindern. Das nennt man schädliches [kognitives Auslagern](https://playbook.dualaiteacher.eu/books/playbook-de/page/tabelle-der-fachbegriffe "Tabelle der Fachbegriffe"). Eine Studie mit rund tausend weiterführenden Schüler:innen zeigt genau das in einem Mathematikunterricht. Eine Gruppe übte mit einem uneingeschränkten Chatbot, eine andere ohne. Während der Nutzung löste die Chatbot-Gruppe **48 % mehr Übungsaufgaben!** Dann kam eine Prüfung ohne Chatbot. Nun schnitten dieselben Schüler:innen, die zuvor so gut Übungsaufgaben gelöst hatten, **17 % schlechter** ab als die Gruppe, die nie einen KI-Chatbot genutzt hatte. Eine dritte Gruppe nutzte eine KI-Version, die so gebaut war, dass sie Antworten zurückhielt und stattdessen Rückfragen stellte. Diese Gruppe verlor nichts. Diese dritte Gruppe ist die eigentliche Gestaltungsfrage. Ein Navi, das das Ziel nennt und Ihnen hilft, die Route selbst zu finden, bringt Ihnen die Stadt bei. Ein Navi, das sagt *„In 200 Metern links abbiegen"*, tut das nicht, so gut seine Daten auch sein mögen. Forschende nennen diesen Unterschied [Leitplanken (Guardrails)](https://playbook.dualaiteacher.eu/books/playbook-de/page/tabelle-der-fachbegriffe "Tabelle der Fachbegriffe"), und **die Gestaltung entscheidet, ob Sie Ihren Schüler:innen helfen, die Karte der Stadt zu lernen, oder ob sie einfach nur das Ziel finden.** Bitte denken Sie daran: **Sie haben das Wissen. Ihre Schüler:innen haben es, in dem Fach, das Sie unterrichten, noch nicht.** Diese Asymmetrie ist das ganze Kapitel. ### Zwei Stockwerke, nicht zwei Themen In der Fachliteratur gelten diese beiden Bereiche als getrennte Felder. Man kann sie sich als zwei Stockwerke eines Gebäudes vorstellen, wobei sich die meisten Lehrkräfte im Erdgeschoss befinden und keine Treppe ins erste Stockwerk führt. Auf die Bitte, ihr KI-Wissen einzuschätzen, gaben sich Lehrkräfte in Deutschland im Schnitt 3,4 von 5 Punkten. Ihre Fähigkeit, dieses Wissen im Unterricht anzuwenden, bewerteten sie hingegen deutlich niedriger, mit 2,6 von 5. Wissen und Handeln hatten sich voneinander gelöst. Eine Studie in fünf europäischen Ländern untersuchte daraufhin, ob Fortbildung diese Lücke schließen kann. In der Studie erhielten 736 Lehrkräfte in Frankreich, Irland, Italien, Luxemburg und Slowenien einen Kurs samt Begleitung. Die Ergebnisse zeigten, dass ihr Wissen und ihre Fähigkeit, die Leistungsfähigkeit eines Werkzeugs einzuschätzen, zunahmen. Ihr Unterricht änderte sich jedoch nicht. Sie probierten Dinge aus und kehrten dann zu dem zurück, was sie vorher getan hatten. Das ist die Wissen-Handlungs-Lücke. Kurse erzeugen Wissen, aber die Veränderung der Praxis braucht Begleitung, Ausprobieren und Kolleg:innen zum gemeinsamen Nachdenken. **Transfer muss gestaltet werden, nicht erhofft.** ### Was Lehrkräfte tatsächlich tun Der robusteste Befund über alle Länder hinweg ist auf leise Weise überraschend: **Lehrkräfte nutzen KI intensiv für sich selbst und kaum mit ihren Schüler:innen**. In Deutschland nutzen 52 % KI mindestens mehrmals im Monat. Nur 29 % setzen sie im Unterricht vor der Klasse ein. Die öffentliche Debatte über „KI im Klassenzimmer" dreht sich also größtenteils um etwas, das in der Fläche noch gar nicht stattfindet. [![Eisberg.png](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/scaled-1680-/chatgpt-image-28-aug-2026-15-22-38.png)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/chatgpt-image-28-aug-2026-15-22-38.png) Abb. 2: Unterschied zwischen der KI-Nutzung zur Vorbereitung und der Nutzung im Unterricht. Bild erstellt mit Google Gemini. Was **tatsächlich** passiert, ist Entlastung von der Arbeitsbelastung, und hier sind die Nachrichten gut. In einer britischen Studie erhielten 259 Lehrkräfte an 68 Schulen KI-Unterstützung für die Planung von Naturwissenschaftsunterricht für 11- bis 13-Jährige. Die Planungszeit sank **von 81 auf 56 Minuten pro Woche**. Als unabhängige Gutachter:innen die entstandenen Materialien beurteilten, ohne zu wissen, welches welches war, stellten sie keinen Qualitätsabfall fest. Die eigenen Schätzungen der Lehrkräfte zur eingesparten Zeit über alle Fächer hinweg liegen sogar noch höher, bei rund sechs Stunden pro Woche für regelmäßige Nutzer:innen. Und ein Muster verdient einen Moment Aufmerksamkeit. In einer großen amerikanischen Befragung **berichteten Lehrkräfte an Schulen mit einer klaren schriftlichen KI-Richtlinie, dass sie etwa ein Viertel mehr Zeit sparten als Lehrkräfte an Schulen ohne eine solche.** Das ist die eigene Einschätzung der Lehrkräfte und keine Messung, und eine Befragung kann nicht zeigen, in welche Richtung der Zusammenhang tatsächlich verläuft. Gut organisierte Schulen machen möglicherweise einfach beides gut. Aber es ist das Gegenteil dessen, was die meisten erwarten, und es ist bemerkenswert, dass niemand das Umgekehrte gefunden hat: Wo immer dies untersucht wurde**, gehen klare Regeln und intensive Nutzung Hand in Hand.** -> [1.4 Konformer Einsatz von KI](https://playbook.dualaiteacher.eu/books/playbook-de/page/14-konformer-einsatz-von-ki "1.4 Konformer Einsatz von KI") ### Warum es nicht auf das Werkzeug ankommt Wer sich ein Ranking der besten KI-Werkzeuge wünscht, wird von der Forschung zunächst enttäuscht – und beim zweiten Lesen davon befreit. Wenn Forschende viele einzelne Studien zusammenführen und fragen, was Klassenzimmer, in denen KI stark geholfen hat, von solchen unterscheidet, in denen sie kaum geholfen hat, lautet die Antwort nie die Marke der Software. Es ist das, was die Schüler:innen damit *tun* sollten. Es gibt drei Vergleiche, die diesen Punkt wirklich verdeutlichen. - Schüler:innen, die KI nutzten, um etwas zu transformieren – etwa einen Entwurf zu überarbeiten oder auf dem eigenen Versuch aufzubauen –, erzielten etwa zweieinhalbmal so viel Lernzuwachs wie Schüler:innen, die einfach nur mit einem Chatbot ein Gespräch führten. - Schüler:innen, die KI zu zweit nutzten, erreichten fast doppelt so viel wie diejenigen, die sie allein nutzten. - KI wurde eingesetzt, um Feedback zu Schülerarbeiten zu geben, und es ist fair zu sagen, dass dies zu einem der größten Lernzuwächse in diesem Bereich führte. Der Einsatz von KI zur Einbindung von Spielelementen in den Unterricht brachte dagegen keinerlei Nutzen. Pädagogik schlägt Technologie, und das deutlich. Das zeigt sich jedes Mal, wenn jemand die Studien danach sortiert, was die Schüler:innen tatsächlich getan haben. Zwei Einschränkungen sollten dabei gleichermaßen bedacht werden. **Gutes Feedback ist nicht dasselbe wie wirksames Feedback.** In einem Experiment schrieben 70 Studierende einen argumentativen Aufsatz und überarbeiteten ihn eine Woche später. Sie wurden zufällig drei Gruppen zugeteilt: Eine erhielt Feedback von einer erfahrenen Lehrkraft, eine von einem Chatbot mit einfacher Anweisung und eine von demselben Chatbot, der angewiesen wurde, den Aufsatz Schritt für Schritt zu durchdenken. Bewertet nach demselben Raster, lieferte der schrittweise vorgehende Chatbot das **beste Feedback der drei.** Es war besser als das des einfachen Chatbots und besser als das der Lehrkraft. Dann kamen die Überarbeitungen, und **alle drei Gruppen verbesserten sich um etwa denselben Betrag.** Das beste Feedback der Studie brachte keine größere Verbesserung als das am schlechtesten bewertete. **Bessere Kommentare führten nicht zu einem besseren Aufsatz.** Das verdient einen Moment Aufmerksamkeit, denn es stellt die verbreitete Annahme infrage, besseres Feedback führe zu besserem Lernen. Für sich genommen tut es das nicht. Feedback bewirkt nur dann etwas, wenn es **aufgenommen** wird: gelesen, verstanden, umgesetzt – und so gut verstanden, dass die Schülerin oder der Schüler es beim nächsten Mal auch ohne Hilfe richtig machen könnte. **Die Aufnahme ist der Engpass, nicht die Qualität**. Zwei Dinge scheinen dabei im Weg zu stehen, und beide lassen sich nutzen. **Mehr ist nicht immer besser.** In einer zweiten Studie mit 60 Schüler:innen der Jahrgangsstufe 11 und 240 Textstücken produzierte die KI weit mehr inhaltsbezogene Kommentare als die Lehrkräfte – 333 gegenüber 241. Es waren die Kommentare der Lehrkräfte, die die Schüler:innen häufiger umsetzten. Konfrontiert mit dreißig präzisen Korrekturen, hört eine Schülerin oder ein Schüler womöglich auf zu diagnostizieren und beginnt stattdessen zu sortieren – oder fügt sich einfach. Wer den Regeln folgt, sagt damit im Grunde, dass die Überarbeitung unnötig war. Es ist wieder das Navi, nur auf einer anderen Ebene. Es gibt einem wirklich detailliertes Feedback, wie „In 200 Metern links abbiegen" – nur für den eigenen Text. **Wer es sagt, spielt eine Rolle.** Wir wissen nicht genau, warum Kommentare von Lehrkräften häufiger aufgenommen werden. Das ist Interpretation, keine Messung, aber die wahrscheinlichste Erklärung ist, dass Feedback als etwas zwischen Menschen wahrgenommen wird. Was jemand sagt, der weiß, was man letztes Halbjahr gemacht hat, und sehen wird, was man damit macht, ist etwas anderes als derselbe Satz, auf Anfrage generiert. **Was das für die Praxis bedeutet.** Alle Belege, die wir zu automatisiertem Feedback gesehen haben, zeigen, dass es am besten wirkt, wenn Schüler:innen das in einer Aufgabe Gelernte auf eine neue Aufgabe übertragen. Am wenigsten wirksam ist es, wenn sie das Gelernte einfach direkt aus dem vorliegenden Text übernehmen. Und es ist deutlich wirksamer, wenn man es über einen längeren Zeitraum einsetzt, etwa ein ganzes Halbjahr, statt nur einmalig. **Wir sollten also nicht fragen, ob das Feedback der KI gut genug ist**. **Wir sollten fragen, ob diese Schülerin oder dieser Schüler es je wieder brauchen wird. Lautet die Antwort Nein, helfen bessere Kommentare vermutlich wenig.** **Und dieselbe Aufspaltung zeigt sich auch im großen Maßstab.** Ein Team führte 228 Studien zusammen: KI verbesserte klar und durchgängig, was Schüler:innen produzieren konnten, während jeder Zuwachs bei der Fähigkeit, das eigene Lernen zu planen, zu überwachen und zu korrigieren, klein genug war, um Zufall sein zu können. Am deutlichsten zeigt sich das beim Programmieren. Schüler:innen mit einer KI-Assistenz waren messbar schneller, und am Ende nicht besser als jene ohne. **Mehr zu schaffen und besser zu werden sind nicht dasselbe, und KI trennt die beiden voneinander.** ### Europa als Spiegel Der Anteil der KI nutzenden Lehrkräfte reicht europaweit **von 89 % in Tschechien bis 14 % in Frankreich.** Bedenken Sie, dass sich die Erhebungen in Methode und Zeitpunkt unterscheiden – lesen Sie daher die Spannweite, nicht die Einzelwerte. Frankreich ist der aufschlussreiche Fall. Das Land hat eines der ambitioniertesten staatlichen KI-Programme des Kontinents aufgebaut, ein KI-Tutoring-Programm in Mathematik und Französisch für das erste Jahr der Oberstufe, erprobt an 150 Schulen. Dennoch steht Frankreich weiterhin am Ende dieser Tabelle, da nur 9 % der französischen Lehrkräfte überhaupt eine KI-Fortbildung erhalten haben, verglichen mit rund 38 % in vergleichbaren Ländern. **Werkzeuge bereitzustellen ist die leichte Hälfte, aber die Qualifizierung ist die Hälfte, die den Unterschied macht.** Zwei Länder haben das Navi-Problem so in ihre Politik überführt, wie es eine Fahrschule tun würde: erst die Karte, dann das Gerät. Norwegen empfahl im Juni 2026, generative KI im Wesentlichen aus der Grundschule herauszuhalten und sie erst in der Sekundarstufe I zu unterrichten, wo Lehrkräfte entsprechend geschult wurden, und KI dabei als bewusst zu vermittelnde Fähigkeit zu behandeln. Luxemburg geht ähnlich stufenweise vor. Beachten Sie genau: Norwegen sprach eine **Empfehlung** aus, kein verbindliches Verbot – auch wenn die internationale Presse es so darstellte. ### Der blinde Fleck Ein Risiko von KI wird selten benannt, und auch das Bild führt dorthin: Das Wissen über die Karte der Stadt London **ist nicht von Dauer.** Eine Fahrerin, die fünf Jahre lang den Pfeilen folgt, behält die Stadt nicht im Kopf. Es verblasst, und sie bemerkt die aufgerissene Straße nicht mehr. Ihre eigene Expertise erhalten Sie, indem Sie genau die Dinge selbst tun, die KI am besten übernimmt: die Aufgabe formulieren, das Missverständnis vorausahnen und die Erklärung entwerfen. **Wo KI die Arbeit übernimmt, durch die sich Urteilsvermögen bildet, wird aus Entlastung Dequalifizierung. In einem deutschen Expertengremium benannten 65 % der Bildungsexpert:innen dieses Risiko für den Lehrberuf – ein Anstieg gegenüber 44 % im Jahr zuvor.** Nutzen Sie das Navi. Bewahren Sie sich nur die Karte. # 1.3 Verantwortungsbewusster Einsatz von KI ### Kernbotschaften - **Verantwortung ist eine Gestaltungsaufgabe, keine Kontrollaufgabe.** Die Erkennung von KI funktioniert nicht zuverlässig. - **Und KI-Erkennung ist unfair, wenn sie versagt.** Es besteht das Risiko, Antworten fälschlich als KI-generiert zu identifizieren – oder umgekehrt. Mehrere europäische Länder haben diese Werkzeuge bereits ausgeschlossen. - **Selbstsichere Erfindung und ererbte Verzerrungen ergeben sich daraus, wie diese Systeme gebaut und bewertet werden.** Die Konsequenz sollte sein: sie zu lehren, statt auf eine Reparatur zu warten. - **Das Wirkprinzip lautet: erst denken, dann KI.** Menschen dazu zu bringen, sich zunächst auf eine eigene Antwort festzulegen, schlägt das Erklären der Maschine; Grenzen in die Software einzubauen schlägt ein Verbot. - **Prompts allein halten nicht.** Ein Chatbot, der als Tutor agieren soll, neigt dazu, wieder in die Antwortvergabe zurückzufallen, was verlässliche Grenzen zu einer Beschaffungsfrage macht. - **Verstärkung ist der Normalfall; Ausgleich muss aus Zugang, Gestaltung und Lernbegleitung gemeinsam aufgebaut werden** – und das Knappste der drei ist eine geschulte Lehrkraft. - **Inklusion ist der klarste Gewinn**, und dort sehen Lehrkräfte selbst das stärkste Argument. > Wenn Sie sich nur einen Satz von dieser Seite merken: **Die Dämme brechen. Bringen Sie das Schwimmen bei.** ### Das Lesetagebuch, zweiter Blick Zurück zu unserem Neuntklässler und seinem verdächtig druckreifen Lesetagebuch. Der Instinkt ist fast universell, und es ist der Instinkt einer guten Lehrkraft: *herausfinden, ob er KI benutzt hat.* Einen besseren Damm bauen. Dieses Kapitel handelt davon, warum dieser Instinkt für sich genommen nicht weiterführt. Wir kommen dazu, was stattdessen funktioniert. Beginnen wir mit dem unbequemen Teil. **Lehrkräfte können KI-Text nicht zuverlässig von Schülertext unterscheiden.** In einer deutschen Studie erhielten 289 Lehrkräfte unterschiedlicher Erfahrung eine Mischung aus Schüler- und Chatbot-Texten und sollten diese sortieren. Keine der beiden Gruppen konnte es. Aber beide Gruppen waren zuversichtlich, dass sie es könnten. Erfahrung machte fast keinen Unterschied. Im großen Maßstab ist es noch schlimmer. An einer Universität reichten Forschende von Chatbots erzeugte Antworten über die üblichen Kanäle in das echte Prüfungssystem ein, ohne die Korrigierenden zu informieren. **94 % wurden nie hinterfragt**. Zudem wurden sie im Schnitt *besser* bewertet als die Arbeiten echter Studierender. Was folgt daraus? Wir greifen zur Maschine! Und genau hier hört der Befund auf, nur unbequem zu sein, und wird zu einem ethischen Problem! ### Der Detektor, der die Falschen im Stich lässt Forschende testeten sieben der am weitesten verbreiteten [KI-Detektoren](https://playbook.dualaiteacher.eu/books/playbook-de/page/tabelle-der-fachbegriffe "Tabelle der Fachbegriffe") an TOEFL-Aufsätzen von Schüler:innen, die Englisch als Fremdsprache lernen. Daneben legten sie Aufsätze englischer Muttersprachler:innen aus amerikanischen achten Klassen. Die Arbeiten der Muttersprachler:innen wurden fast immer korrekt eingestuft. Von den fremdsprachigen Aufsätzen wurden **mehr als sechs von zehn fälschlich als maschinell geschrieben markiert**. Der Mechanismus ist kein Geheimnis. Diese Werkzeuge erkennen nicht die Arbeit von Large Language Models, sie erkennen *Vorhersehbarkeit*. Text, der gängige Wörter in erwarteter Reihenfolge verwendet, wird als künstlich eingestuft. Wer in einer Zweitsprache schreibt, mit kleinerem Wortschatz und sichereren Satzstrukturen, erzeugt genau dieses Signal. **Die Fehler des Werkzeugs treffen systematisch die Schüler:innen, die ohnehin schon am meisten zu tragen haben.** Institutionen haben nachgerechnet. Die Vanderbilt University wies darauf hin, dass selbst wenn ein solches Werkzeug nur in 1 % der Fälle irren würde, das immer noch rund **750 zu Unrecht beschuldigte Studierende pro Jahr** bei 75.000 eingereichten Arbeiten bedeuten würde. Folglich schalteten sie es ab. Die Leitlinie des deutschen Bundesbildungsministeriums ist unmissverständlich: Die Technologie sei *„nicht zuverlässig genug, um einen rechtssicheren Nachweis zu liefern"*. Ein Großteil Europas diskutiert das nicht mehr. Frankreich, die Niederlande und die Schweiz raten von Detektoren ab oder verbieten sie. Die britische Prüfungsaufsicht hat sich bewusst für menschliches Urteilsvermögen anstelle von Software entschieden. Das niederländische Argument geht noch einen Schritt weiter und lohnt sich zu merken: **Die Arbeit einer Schülerin oder eines Schülers in einen Detektor einzufügen, ist selbst eine Verarbeitung personenbezogener Daten**, und dies ohne Erlaubnis zu tun, verstößt gegen das Datenschutzrecht. → [1.4 Konformer Einsatz von KI](https://playbook.dualaiteacher.eu/books/playbook-de/page/14-konformer-einsatz-von-ki "1.4 Konformer Einsatz von KI") Es scheint, dass die Betrugspanik dünner ist als der Lärm darum. Forschende befragten Schüler:innen an drei weiterführenden Schulen vor und nach der Einführung von ChatGPT. Das Ausmaß des Betrugs blieb weitgehend gleich. Die meisten Schüler:innen lehnten es ab, einen Chatbot einfach ihre Arbeit erledigen zu lassen, hielten es aber für fair, ihn zum Einstieg oder zur Erklärung von etwas zu nutzen. Die eigentliche Frage war nie: *„Wie erwische ich ihn?"* Sie lautet: **Was misst eine Hausaufgabe eigentlich noch, sobald sich ihr Produkt auf Abruf erzeugen lässt?** ### Zwei Dinge, die nicht behoben werden, also müssen sie gelehrt werden **Selbstsichere Erfindung ist eingebaut.** Diese Systeme erzeugen plausible Fortsetzungen eines Textes, die nicht dasselbe sind wie wahre. Forschende haben inzwischen formal gezeigt, woher das kommt: Die Standardtests zur Bewertung von Large Language Models belohnen selbstsicheres Raten gegenüber dem Eingeständnis von Unsicherheit, und solange so gemessen wird, bleibt eine gewisse Rate an flüssigen, wohlgeformten Falschaussagen bestehen. Das ist eine Eigenschaft davon, wie diese Systeme gebaut und bewertet werden, kein Fehler, der auf einen Patch wartet. **Auch die Schieflagen im Trainingsmaterial sind eingebaut.** Zudem schrumpfen sie nicht, wenn sich die Technologie verbessert. Eine europäische Studie zu Geschlechterstereotypen über verschiedene Sprachen hinweg fand, dass größere Modelle – selbst nach zusätzlichem Training, das sie sicherer und fairer machen soll – manchmal *stärker* statt schwächer stereotypisieren. Wenn sich eine Eigenschaft nicht wegentwickeln lässt, wird sie zum Lehrplan. Und sie lässt sich lehren: In einem finnischen Programm stieg der Anteil der Schüler:innen, die Verzerrungen in der Ausgabe eines KI-Systems erkennen konnten, von **7 % auf 44 %**. Die Konsequenz für den Unterricht muss sein, Fehleranalyse statt Fehlervermeidung zu trainieren. Mit anderen Worten: Die Fehler der Maschine werden zur Lektion. ### Was funktioniert: Gestaltung statt Kontrolle Die Evidenz weist auf ein einfaches, leicht zu merkendes Prinzip hin: **erst denken, dann KI.** - **Den Menschen zuerst festlegen lassen.** In einer Versuchsreihe erkannten Personen, die ihre eigene Antwort aufschreiben mussten, *bevor* sie den Vorschlag der Maschine sahen, weit mehr von deren Fehlern als Personen, denen detaillierte Erklärungen der maschinellen Argumentation gezeigt wurden. Die KI zu erklären half nicht, das Problem zu lösen, das Erzwingen des eigenen Urteils hingegen schon. Mit einem ehrlichen Vorbehalt: Die Varianten, die am besten funktionierten, waren jene, die den Teilnehmenden am wenigsten gefielen, und sie halfen am meisten jenen, die ohnehin gerne anstrengend nachdenken. Es handelt sich also um ein Phänomen, das auch als Matthäus-Effekt bekannt ist: Wer schon hat, dem wird gegeben. Sie profitieren am meisten von diesem Ansatz. - **Die Grenzen einbauen.** Der Chatbot aus [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/12-lehren-uber-ki-vs-lehren-mit-ki "1.3 Lehren über KI vs. Lehren mit KI"), der Antworten zurückhielt und stattdessen Rückfragen stellte, ist dieselbe Idee als Software: Die Schüler:innen, die ihn nutzten, verloren in der Prüfung nichts, während die mit der uneingeschränkten Version deutlich verloren. - **Den Prozess sichtbar machen, statt dem Produkt hinterherzujagen.** Entwürfe, Arbeitsnotizen, ein kurzes Gespräch über die Arbeit. Diese zeigen Ihnen, was ein Schüler oder eine Schülerin kann, ohne dass jemand beweisen muss, was er oder sie getan hat. - **Dänemark erprobt das Prinzip:** An teilnehmenden Schulen dürfen Schüler:innen KI bei der Vorbereitung auf die mündliche Englischprüfung nutzen, und die schriftliche Prüfung enthält einen handschriftlichen, hilfsmittelfreien Teil. Zwei Einschränkungen sollte man kennen, bevor man sich darauf verlässt. Die erste: Der beliebte Rat, Lehrkräfte sollten einen Chatbot einfach anweisen, als sokratischer Tutor zu agieren, übersteht kein längeres Gespräch. Zumindest derzeit neigt das System dazu, wieder in die reine Antwortvergabe zurückzufallen. Verlässliche Grenzen müssen in das System eingebaut sein, was sie zu einer Beschaffungsentscheidung macht statt zu einer Prompting-Fähigkeit. Die zweite: Eine KI ihre Argumentation erklären zu lassen, klingt wie die naheliegende Absicherung, aber Erklärungen verhindern übermäßiges Vertrauen nicht zuverlässig. In einer Studie ließen sie die Akzeptanz falscher Ratschläge unverändert, und zu technische oder zu vereinfachte Erklärungen können fehlgeleitetes Vertrauen sogar verstärken. Erklärung ist eine Voraussetzung, keine Lösung. ### Haltung: zwei Fehlermodi, nicht einer Wir sorgen uns, dass Lehrkräfte der KI zu sehr vertrauen. Wir sollten uns jedoch ebenso um das Gegenteil sorgen. Selbst erfahrene Menschen können durch übermäßiges Vertrauen hereingelegt werden. In einer Studie überprüften Lehrkräfte KI-generierte Bewertungen. Sie beurteilten 42 % des Feedbacks der Maschine als vage oder falsch, änderten aber nur 9 % davon. **Einen Fehler zu erkennen und ihn zu korrigieren sind zwei verschiedene Vorgänge.** Der gegenteilige Pol ist Verheimlichung. Lehrkräfte verbergen ihre eigene KI-Nutzung vor Kolleg:innen und Schüler:innen und verbieten diesen, was sie selbst tun: 77 % nutzen KI privat, während 57 % sagen, Schüler:innen sollten sie nie zur Ideenfindung nutzen. Zugleich fand eine Studie unter akademisch starken Schüler:innen der Klassen 6 bis 8, dass zwischen einem Drittel und zwei Fünfteln bereits sagten, die KI wisse mehr als ihre Lehrkräfte. **Ein Berufsstand, der seine Praktiken verbirgt, kann verantwortungsvolle Praxis nicht vorleben**, und Transparenz ist nicht nur eine Höflichkeit. Sie ist der Mechanismus, durch den Lernen am Vorbild funktioniert. ### Ebnet KI das Spielfeld oder kippt sie es? Bei arbeitsbezogenen Aufgaben gleicht KI Unterschiede aus. In einem Experiment schnitten Teilnehmende mit höherer Bildung deutlich besser ab als solche mit niedrigerer Bildung. Erhielt jede Person eine KI-Assistenz, verschwanden diese Unterschiede fast vollständig. Nahm man die Assistenz wieder weg, kehrte vieles davon zurück. **Was die KI schloss, war die Lücke im Output, nicht die Lücke in der Fähigkeit.** Bei Lernaufgaben ist es umgekehrt. Eine Studie fand im Schnitt gar keinen Nutzen, aber einen wachsenden Abstand zwischen Schüler:innen, die bereits viel wussten, und solchen, die es nicht taten. Eine andere untersuchte Schüler:innen, die in einer Fremdsprache schrieben: Die schwächeren Schreiber:innen erhielten *mehr* Korrekturen von der KI und setzten *weniger* davon erfolgreich um, und mehrere empfanden die Flut an Feedback als entmutigend. **Feedback ohne die Fähigkeit, es zu sortieren, hilft nicht; es begräbt.** Die Lücke besteht auch schon, bevor überhaupt jemand ein Werkzeug anfasst. In Deutschland **sehen 80 % der Schüler:innen aus den privilegiertesten Elternhäusern KI als Chance, gegenüber 55 % aus den am wenigsten privilegierten**. In Großbritannien verläuft die Trennlinie eher durchs Lehrerzimmer als durch den Geräteschrank: **45 % der Lehrkräfte an Privatschulen haben eine formale KI-Fortbildung erhalten, gegenüber 21 % an staatlichen Schulen.** Innerhalb des staatlichen Sektors liegen wohlhabendere Schulen wiederum vor ärmeren. Eine Befragung von Kindern in 20 europäischen Ländern findet dieselbe soziale Kluft darin, wie viel und wie vielfältig sie KI nutzen. Ein Satz fasst das ganze Problem besser zusammen als jede Zahl: *„Die Reichen haben Zugang zu Technologie und zu Menschen, die ihnen bei der Nutzung helfen, während die Armen nur Zugang zur Technologie haben."* Das ist das stärkste verfügbare Argument dafür, dass Lehrkräfte entscheidend sind, um diese Lücke zu schließen. Der Engpass ist also, welche Lernenden eine geschulte Lehrkraft haben. **KI gleicht aus, wenn drei Dinge zusammenkommen: sicherer Zugang, ein für das Lernen (statt für das Liefern von Antworten) gestaltetes Werkzeug, und eine Lehrkraft, die die Nutzung anleitet.** Fehlt eines davon, verstärkt sie stattdessen. Da alle drei tendenziell an denselben Schulen vorhanden bzw. an denselben Schulen abwesend sind, **ist Verstärkung der Normalfall, und Ausgleich ist etwas, das man aktiv aufbauen muss.** # 1.4 Konformer Einsatz von KI ### Zentrale Botschaft - ***Es gibt kein rechtliches Vakuum.*** Das Datenschutzrecht galt schon immer. - ***Der Zeitplan hat sich verschoben.*** Die Hochrisiko-Pflichten für KI in der Bildung beginnen am **2. Dezember 2027**, nicht im August 2026. Prüfen Sie die Merkblätter Ihrer Schule. - ***Bereits seit Februar 2025 verbindlich.*** Emotionserkennung an Schulen ist verboten, und Schulen, die KI einsetzen, müssen die Kompetenz ihres Personals sicherstellen. Die Kennzeichnungspflicht für KI-generierte Inhalte beginnt im August 2026. - ***Die schwierigste Ebene ist der Datenschutz.*** Keine personenbezogenen Daten von Schülerinnen und Schülern ohne einen Vertrag, der das Training mit Ihren Eingaben ausschließt; eine Einwilligung trägt in der Regel nicht; das Entfernen von Namen anonymisiert nicht. - ***Beim Urheberrecht ist der Upload das Problem.*** Die Unterrichts-Schranke deckt es nicht ab, geschützte Werke in eine KI einzuspeisen. - ***Detektoren halten als Beweis nicht stand.*** Eine begründete Schlussfolgerung aus konkreten Anzeichen hingegen schon. Regeln müssen im Voraus klar sein, und Kennzeichnung schlägt Verbot. - ***Noten bleiben menschlich*** — und einen KI-Vorschlag einfach durchzuwinken, ist keine menschliche Entscheidung. - ***Die Verantwortung liegt bei der Beschaffung, nicht bei Ihnen** — und* ***Regelkonformität ermöglicht.*** Die Schulen mit klaren Regeln sind diejenigen, deren Lehrkräfte die größte Zeitersparnis berichten. > Wenn Sie sich nur einen Satz von dieser Seite merken: **Regelkonformität ist ein Haus, keine Mauer.** ### Das Lesetagebuch, dritter Blick Unser Neuntklässler, sein Lesetagebuch, der Verdacht seiner Lehrkraft. In [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/12-lehren-uber-ki-vs-lehren-mit-ki "1.3 Lehren über KI vs. Lehren mit KI") ging es um eine Frage des Lernens; in [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/13-verantwortungsbewusster-einsatz-von-ki "1.3 Verantwortungsbewusster Einsatz von KI") um professionelles Urteilsvermögen. Hier ist es eine Gerichtsakte. Im Dezember 2025 entschied das Verwaltungsgericht Hamburg über einen Eilantrag in diesem Fall. Die Lehrkraft hatte bemerkt, dass das Tagebuch nicht zum Schreibstil des Jungen in einer Klassenarbeit passte. Die Schule wertete dies daraufhin als Täuschung. Es folgte ein Eilantrag, dies zu stoppen, doch das Gericht lehnte ab. Nicht offengelegte KI-Nutzung bei Schularbeiten gilt als Täuschung, auch wenn die Schule keine ausdrückliche Regel gegen KI hat. Alle Schülerinnen und Schüler müssen davon ausgehen, selbstständig arbeiten zu müssen, sofern ihnen nicht mitgeteilt wurde, welche Hilfsmittel erlaubt sind. Eine Einschränkung vorab: Es handelt sich um ein einzelnes Gericht, und die Entscheidung ist noch nicht rechtskräftig. Das ist ein guter Moment, um das verbreitetste Missverständnis in diesem Bereich anzusprechen. **Es gibt kein rechtliches Vakuum.** Das gab es nie. ### Das Haus hat drei Stockwerke Die meisten Lehrkräfte stellen sich das KI-Recht als eine einzelne Mauer vor, die irgendwo in Brüssel gebaut wird. Hilfreicher ist es jedoch, sich ein Haus vorzustellen, in dem Sie bereits wohnen. **Das Fundament ist der Datenschutz.** Es ist tragend. Es wurde vor Jahren gelegt. Es bestimmt Ihren Dienstagmorgen. **Das obere Stockwerk ist der EU AI Act,** Europas KI-Gesetz, das Systeme nach ihrem Schadenspotenzial einstuft und umso strengere Pflichten auferlegt, je höher das Risiko ist. Es ist teilweise bezogen und noch im Bau, wobei der Fertigstellungstermin gerade verschoben wurde. **Türen und Fenster sind das Urheber- und Prüfungsrecht** — klein und spezifisch, und täglich berührt, ohne dass man es bemerkt. #### Erdgeschoss: Datenschutz, klarer als viele denken Der Umgang mit personenbezogenen Daten einer Person erfordert immer eine Rechtsgrundlage. Als öffentliche Stelle ergibt sich die Erlaubnis einer Schule im Wesentlichen aus ihren gesetzlichen Aufgaben nach dem Schulrecht. Es gibt keine allgemeine Lizenz, die mit dem Lehrerberuf einhergeht. Daraus folgen drei Konsequenzen, die den praktischen Kern dieses Kapitels bilden. **Einwilligung ist keine Lösung.** Eine naheliegende Lösung wäre, einfach die Eltern zu fragen. Dieser Ansatz hat jedoch zwei Nachteile. Erstens muss eine Einwilligung freiwillig erfolgen. In einem schulischen Kontext, in dem Noten eine Rolle spielen, stellt die Bitte einer Lehrkraft keine freie Entscheidung dar. Zweitens muss die Einwilligung informiert sein, was schwer zu erreichen ist, wenn niemand weiß, wo die Daten am Ende landen. **Die Erlaubnis muss aus dem Schulrecht kommen**, nicht aus einer Unterschrift, denn dadurch verlagert sich die Verantwortung nach oben, weg von Ihnen. **Namen zu entfernen anonymisiert die Daten nicht.** Im Jahr 2024 stellten die deutschen Datenschutzbehörden gemeinsam fest, dass Daten weiterhin personenbezogen sind, wenn eine Person aus dem Kontext heraus noch identifizierbar ist. Das ist an Schulen besonders problematisch, weil gerade die Textarten, bei denen Lehrkräfte am meisten Unterstützung wünschen — etwa Aufsätze, freies Schreiben und Lerntagebücher — ihre Verfasserin oder ihren Verfasser am Schreibstil erkennen lassen. **Die Trennlinie ist der Vertrag:** Ein Anbieter darf Ihre Daten verarbeiten, wenn er dies strikt nach Ihren Weisungen tut und eine schriftliche Vereinbarung dazu besteht. Sobald er jedoch das von Ihnen Eingegebene für eigene Zwecke nutzt, bricht die Konstruktion zusammen, weil er nicht mehr in Ihrem Auftrag handelt. Der praktische Test lautet also: **Gibt es eine solche Vereinbarung, und schließt sie das Training mit Ihren Eingaben aus?** Wenn nicht, sollten keine personenbezogenen Daten eingegeben werden. Zwei Fußnoten sind erwähnenswert: Daten zu Gesundheit, Behinderung und besonderem Förderbedarf unterliegen nach EU-Recht einem noch strengeren Schutz, und mindestens ein deutsches Bundesland (Baden-Württemberg) hat deren Nutzung in KI-Systemen per Ministerialerlass ausdrücklich untersagt. Sind private Geräte betroffen, **liegt die rechtliche Verantwortung bei der Schule, nicht bei Ihnen persönlich**, was Sie entlastet und Ihre Schulleitung in die Pflicht nimmt. #### Oberes Stockwerk: Was der AI Act bereits verlangt — und was noch nicht Hier folgt die Korrektur, die die meisten bestehenden Handreichungen veralten lässt. Im Juli 2026 verschob die EU den größten Teil der AI-Act-Pflichten für den Bildungsbereich — jener, die an als **hochriskant** eingestufte Systeme geknüpft sind, also Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen — **vom August 2026 auf den 2. Dezember 2027**. Sehr viele 2025 und Anfang 2026 verfasste Handreichungen drucken noch das alte Datum. Falls ein Dokument an Ihrer Schule dies tut, braucht es eine Fußnote. Die nützlichere Korrektur verläuft in die andere Richtung: **Was bereits gilt, wird unterschätzt, und was endlos diskutiert wird, gilt noch nicht.** Zwei Dinge sind bereits seit dem **2. Februar 2025** verbindlich. - **Emotionserkennung an Schulen ist rundheraus verboten.** Systeme, die vorgeben, die Gefühle von Schülerinnen und Schülern zu lesen — Aufmerksamkeitserkennung, Stimmungsanalysen, „Engagement“-Bewertung per Webcam — sind kein Graubereich. Sie stehen auf der kurzen Liste der Praktiken, die der AI Act schlicht verbietet. - **Schulen, die KI einsetzen, müssen sicherstellen, dass ihr Personal weiß, was es damit tut.** Daran hängt kein Bußgeld, weshalb diese Pflicht häufig übersehen wird. Verbindlich ist sie trotzdem. Liest man diese zweite Pflicht zusammen mit [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/12-lehren-uber-ki-vs-lehren-mit-ki "1.3 Lehren über KI vs. Lehren mit KI"), ergibt sich ein klares Bild. Die Lücke zwischen Wissen über KI und der Fähigkeit, mit KI zu unterrichten, ist längst nicht mehr nur ein fachliches Problem. **Seit Februar 2025 ist sie eine rechtliche Verpflichtung.** Seit dem **2. August 2026** müssen KI-generierte Inhalte als solche gekennzeichnet werden. Ab dem **2. Dezember 2027** gelten Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen, als hochriskant. Wer ein solches System *einsetzt*, übernimmt die damit verbundenen Pflichten. Dazu gehört die Anforderung, dass die aufsichtführenden Personen, in den Worten des AI Acts, „*kompetent, geschult und befugt*“ sein müssen. Beachten Sie die Formulierung. Das Recht kommt hier zum selben Schluss wie die Pädagogik: **Aufsicht ohne Fachkompetenz ist keine Aufsicht.** #### Türen und Fenster: Urheberrecht und Prüfungen Wider Erwarten ist **das, was herauskommt, der einfachere Teil.** Ein von einer KI erzeugter Text oder ein Bild hat in der Regel keinen menschlichen Urheber im Sinne des Urheberrechts und ist daher meist selbst urheberrechtsfrei. Garantiert unbedenklich ist das aber nicht: In der ersten großen europäischen Entscheidung dieser Art stellte ein Münchner Gericht fest, dass ein Chatbot Songtexte auswendig gelernt und nahezu wortgleich wiedergegeben hatte. Die Haftung legte das Gericht dem **Anbieter** auf, nicht der Person, die die Anfrage eingegeben hatte. Ob eine Lehrkraft haftet, die solches Material weitergibt, ist derzeit **eine offene Frage**. Klarer ist das Problem bei dem, was hineingeht — wobei zu beachten ist, dass dies eine Frage des **Urheberrechts, nicht des AI Acts** ist. Der AI Act sagt nichts darüber aus, was Lehrkräfte in ein System einspeisen dürfen; das regelt ein älteres, völlig eigenständiges Rechtsgebiet. Die Schranke, die es Lehrkräften erlaubt, Material für ihren Unterricht zu kopieren, deckt genau das ab: das Kopieren eines begrenzten Anteils eines Werks für diesen Unterricht. **Das Hochladen eines geschützten Werks in ein kommerzielles KI-System ist ein anderer Vorgang, den die Schranke nicht erfasst.** Für den Schulunterricht bestimmtes Material — vor allem Schulbücher — ist ohnehin von der Schranke ausgenommen. Ein Kapitel einzuscannen, um es zusammenfassen zu lassen, ist somit ein alltäglicher Vorgang, den die Unterrichts-Schranke nicht eindeutig abdeckt. **Wie sehr sollte Sie das beunruhigen?** Weniger, als die Lücke vermuten lässt, und mehr als gar nicht. Die Frage ist **tatsächlich ungeklärt**: Kein höheres Gericht hat darüber entschieden, und die Fachliteratur hält die bestehenden Schranken für schlecht auf diese Situation zugeschnitten. Widerspricht eine Rechteinhaberin oder ein Rechteinhaber, wäre der Anspruch zivilrechtlicher Natur, und in der Praxis ist dies eine Sache der Schulpolitik und Beschaffung, nicht etwas, das eine einzelne Lehrkraft klären kann. Nicht ungeklärt ist hingegen der enge Fall, und das ist die Linie, die man sich merken sollte: **Schulbuch- und Verlagsmaterial sollte überhaupt nicht in KI-Werkzeuge eingegeben werden — weder gescannt noch abgetippt, nicht einmal, um ein Arbeitsblatt zu erzeugen.** Die Rechtsprechung in diesem Bereich wirkt derzeit europaweit uneinheitlich. Im Februar 2026 entschied das Verwaltungsgericht Kassel zwei Hochschulfälle auf die gleiche, klare Weise: Hat eine Studierende oder ein Studierender eine Erklärung unterschrieben, dass die Arbeit die eigene sei, ist die Grenze „bereits bei einer einzigen nicht offengelegten Nutzung generativer KI“ überschritten. Ein Pariser Verwaltungsgericht untersagte es im Februar 2026 einer Hochschule dagegen, eine Studierende oder einen Studierenden überhaupt zu sanktionieren: Es gab keine Regel zur KI-Nutzung, und ohne eine vorab festgelegte Regel ließ sich kein Disziplinarverstoß feststellen. Ein schwedisches Berufungsgericht war zuvor bei fast identischem Sachverhalt zum selben Ergebnis gekommen wie ein niederländischer Fall, der anders ausging. In diesem Fall hatte eine Studierende erfundene Quellen eingereicht, doch die Kursregeln erlaubten „alle Hilfsmittel“ bei Hausarbeiten, sodass nichts verletzt worden war. Wo eine Täuschung eindeutig nachgewiesen war und eine Regel bestand, haben Gerichte Sanktionen bestätigt. Das oberste niederländische Verwaltungsgericht tat dies 2025. Das Muster über die Rechtsordnungen hinweg ist also keine Frage der Länder. Es geht darum, **ob vorab eine Regel bestand und ob die Täuschung tatsächlich nachgewiesen wurde.** **Drei** Regeln folgen für die Praxis. 1. **Detektoren tragen nicht die Beweislast.** Was das Recht erlaubt, ist ein Schluss aus typischen Anzeichen. Dazu zählen wiederholte, auffällig geschliffene Formulierungen, eine Diskrepanz zwischen dem, was jemand schreiben und was er mündlich erklären kann, sowie Quellen, die sich als nicht existent herausstellen. Die oder der Studierende kann dies dann erläutern. Das ist ein legitimer Weg und erfordert keine Software. Die Ausgabe eines Detektors ist bestenfalls ein Indiz unter mehreren. Die in [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/13-verantwortungsbewusster-einsatz-von-ki "1.3 Verantwortungsbewusster Einsatz von KI") berichtete Fehlerquote macht das Instrument als Beweismittel unbrauchbar. 2. **Regeln müssen vor der Prüfung klar sein, nicht danach.** Weder ein pauschales Verbot noch eine pauschale Erlaubnis hält stand. Was funktioniert, ist eine Selbstständigkeitserklärung mit einer allgemeinen Klausel zu KI sowie einer Pflicht anzugeben, was verwendet wurde. In Deutschland ging Bayern 2026 am weitesten: Seine Hochschulen dürfen KI bei unbeaufsichtigten Prüfungsleistungen gar nicht verbieten, müssen aber eine Angabepflicht vorschreiben. Kennzeichnung statt Verbot. 3. **Noten bleiben menschlich.** Keine Entscheidung mit rechtlichen Folgen für eine Person darf allein von einer Maschine getroffen werden, und eine Note ist eine solche Entscheidung. Die Kultusministerkonferenz formuliert es noch deutlicher: Bewertung ist eine Aufgabe, die nur Lehrkräfte erfüllen können. Entscheidend: **Einen KI-Vorschlag formal durchzuwinken zählt nicht als menschliche Entscheidung.** Der Befund aus Kapitel 1.4 gilt also auch hier: fehlerhaftes KI-Feedback ist ebenso ein pädagogisches wie ein rechtliches Problem. Recht, Ethik und Didaktik laufen daher auf dieselbe Antwort hinaus: **Bewerten Sie den Prozess, nicht nur das Produkt.** ### Die wahre Adresse der Verantwortung Als Reaktion darauf hat Deutschland staatlich bereitgestellte schulische KI-Umgebungen eingeführt. Dabei handelt es sich um geprüfte Plattformen mit ausgehandelten Verträgen, statt Lehrkräfte sich selbst zu überlassen, sich bei irgendeinem kostenlosen Dienst anzumelden. Diese lösen zwar Probleme, die einzelne Lehrkräfte allein nicht lösen können, werden aber weiterhin dafür kritisiert, wie sie gesteuert werden, ob Lehrkräfte sie tatsächlich annehmen und ob die damit unterstützten Bewertungen belastbar sind. Da die Einführung derzeit auf eine ausgewählte Gruppe von Schulen und bestimmte Fächer begrenzt ist, wird sich in den kommenden Monaten zeigen müssen, wie Lehrkräfte mit den Plattformen zurechtkommen. Was daran wirklich besonders ist, ist enger gefasst, als es zunächst scheint, und lohnt eine genaue Betrachtung: Statt es auszuschreiben oder Zugang zu einem fremden System einzukaufen, ist Deutschland das einzige europäische System, in dem eine staatliche Stelle die Plattform selbst baut und betreibt. Auch Frankreich stellt eine Plattform für einen ganzen Jahrgang bereit, hat sie jedoch in Auftrag gegeben, und zwei private Unternehmen liefern sie: eines schrieb die Software, das andere hostet die Daten. Der Großteil des übrigen Kontinents hat schlicht eine fertige Lösung eingekauft. Die Slowakei ist am weitesten gegangen: mit 20.000 Lizenzen für Lehrerbildungseinrichtungen, die bis 2026 auf rund 80.000 Lehrkräfte an Schulen ausgeweitet werden sollen. Der Staat zahlt nur für tatsächlich genutzte Lizenzen, und dem Anbieter ist es vertraglich untersagt, mit slowakischen Schuldaten zu trainieren. Estland hat eine ähnliche Vereinbarung für seine weiterführenden Schulen ausgehandelt, und Nordirland hat 10,7 Millionen Pfund in Lizenzen für alle Lehrkräfte an allen Schulen investiert. Die vertragliche Garantie, dass Ihre Eingaben nicht zu Trainingszwecken genutzt werden — das Merkmal, für das die deutsche Plattform konzipiert wurde — lässt sich also auch einkaufen. **Es selbst zu bauen verschafft nicht automatisch mehr Kontrolle.** Die deutsche Plattform läuft, wie eine Branchenvereinigung anmerkt, auf denselben kommerziellen Sprachmodellen wie alle anderen auch, auf europäischen Servern. Das französische System dagegen wird in Frankreich unter der höchsten vom französischen Staat vergebenen Sicherheitszertifizierung gehostet. Das eine Land hat die Oberfläche gebaut und mietet die Antriebstechnik, das andere hat die Software gekauft und behält die Schlüssel zum Gebäude. Keine der beiden Optionen ist eindeutig die souveränere Wahl — das lohnt es sich zu bedenken, bevor man diesen Begriff verwendet. Die Niederlande haben einen anderen Weg gewählt, und es lohnt sich, ihn zu kennen, weil er eine ehrlichere Antwort auf dieselbe Frage bietet. Statt selbst zu bauen oder einzukaufen, haben sich niederländische Schulen und Hochschulen zusammengeschlossen und die großen Anbieter förmlich bewerten lassen. Bei der Prüfung von Microsofts KI-Assistenten stießen sie auf zwei Punkte, die sich nicht klären ließen: die Kriterien eines automatischen Inhaltsfilters, die der Anbieter nicht offenlegen wollte, sowie eine achtzehnmonatige Speicherung von Diagnosedaten, die sich nicht rechtfertigen ließ. Es wurde verhandelt. Im März 2026 lehnte der Anbieter jedoch Änderungen ab. Die Bewertung bleibt daher „gelb“, und niederländischen Schulen wird geraten, vorsichtig zu sein und von Fall zu Fall selbst zu entscheiden, statt eine generelle Freigabe zu erteilen. Das eine Land hat das Risiko durch eigenen Aufbau umgangen, das andere hat genauer hingesehen und entschieden, dass es noch nicht so weit ist. Beide Ansätze bieten Lösungen für das Problem, das zu Beginn dieses Kapitels beschrieben wurde. Der Vergleich klärt noch einen weiteren Punkt. Dass Lehrkräfte den kostenlosen Chatbot der offiziellen Lösung vorziehen, liegt nicht an einer mangelhaften Umsetzung in Deutschland. In Estland, wo der Staat den Zugang für alle Schülerinnen und Schüler der Sekundarstufe II ausgehandelt hat, nutzte nach einem Jahr kaum mehr als ein Drittel den offiziellen Chatbot wöchentlich. Es stellte sich heraus, dass die meisten von ihnen bereits vor Beginn des Programms kostenlose Werkzeuge genutzt hatten. **Überall konkurriert die geprüfte Umgebung mit der bequemeren.** Das offizielle Werkzeug bereitzustellen ist notwendig. Aber es reicht nicht aus. Der strukturelle Punkt bleibt jedoch bestehen: Regelkonformität ist eine ermöglichende Bedingung, kein Hindernis. Erinnern Sie sich, was in [Kapitel 1.3](https://playbook.dualaiteacher.eu/books/playbook-de/page/12-lehren-uber-ki-vs-lehren-mit-ki "1.3 Lehren über KI vs. Lehren mit KI") gesagt wurde? **Die Schulen mit klaren Regeln waren diejenigen, deren Lehrkräfte die größte Zeitersparnis berichteten**. Nichts in den Quellen hinter diesen Kapiteln deutet auf das Gegenteil hin. # 1.5 Aktueller Stand von KI in der Bildung ### Zentrale Botschaft - **KI wird bereits umfassend in Bildungskontexten eingesetzt.** - **Lehren mit KI.** KI wird von Lehrkräften derzeit genutzt, um Unterrichtsentwürfe vorzubereiten oder zu verbessern, für die Bewertung und um Inhalte auf unterschiedliche Lernniveaus zuzuschneiden. - **Lehren über KI.** KI wird von Schülerinnen und Schülern genutzt, obwohl ihnen oft die Grundlagen fehlen, was KI ist, wo ihre Grenzen liegen und wie man sie verantwortungsvoll einsetzt. - **Technisches Verständnis und kritisches Denken sind erforderlich.** Lehrkräfte und Schülerinnen und Schüler müssen verstehen, wie Sprachmodelle funktionieren (Training, Datenverarbeitung, vorhersagebasierte Natur), und praktische Prüffähigkeiten entwickeln – vom Erkennen erfundener Quellenangaben bis zum Faktencheck KI-generierter Inhalte. - **Verantwortungsvoller Umgang und eine ethische Haltung müssen definiert werden**. Ein Verständnis des rechtlichen und ethischen Rahmens (AI Act, DSGVO) ist notwendig, ebenso wie ein Verständnis von KI als Unterstützung und nicht als Ersatz menschlichen Denkens, das auf Transparenz und Rechenschaftspflicht beruht, sowie eine ausdrückliche Vermittlung von Prompting als lehrbarer Fähigkeit. - **Chancengleichheit und neue Bewertungsmodelle sind notwendig.** Der gleichberechtigte Zugang zu KI-Werkzeugen muss gesichert werden (öffentliche Förderung, offene Modelle, Mindestaltersregelungen), ebenso wie eine Verschiebung der Bewertung – weg von der Benotung des Endprodukts, hin zur Bewertung des Prozesses und der Fähigkeit der Schülerinnen und Schüler, sich kritisch mit KI-Ergebnissen auseinanderzusetzen. > Wenn Sie sich nur einen Satz von dieser Seite merken: **KI ist in Bildungskontexten bereits präsent, aber nicht reguliert. Strukturierte Rahmenwerke sind notwendig, um die berufliche Weiterentwicklung von Lehrkräften zu unterstützen, ihr Wissen zu verbessern und es ihnen zu ermöglichen, mit KI und über KI zu unterrichten.** ### Aktuelle Nutzung von KI in Bildungskontexten Heutzutage ist künstliche Intelligenz (KI) fest in die alltägliche Bildungspraxis eingebettet, weit über Pilotprojekte hinaus. Zu den gängigen Anwendungen zählen adaptive Lernplattformen, intelligente Tutorensysteme, automatisierte Bewertung und KI-gestützte Unterrichtsplanung für Lehrkräfte ([OECD, 2026](https://www.oecd.org/en/publications/oecd-digital-education-outlook-2026_062a7394-en.html)). Der sichtbarste Wandel ist jedoch die direkte Nutzung allgemeiner KI-Werkzeuge durch Schülerinnen, Schüler und Lehrkräfte gleichermaßen. #### Lehren mit KI KI wird von Lehrkräften zunehmend als Unterstützungswerkzeug in verschiedenen Phasen ihrer Arbeit genutzt, von der Unterrichtsplanung bis zur Bewertung. Laut der TALIS-Umfrage der OECD gaben 37 % der Lehrkräfte der Sekundarstufe I an, 2024 KI genutzt zu haben, wobei 57 % angaben, dass sie ihnen hilft, Unterrichtsentwürfe zu schreiben oder zu verbessern (OECD, 2026). Über die Unterrichtsplanung hinaus nutzen Lehrkräfte KI, um Inhalte für unterschiedliche Leistungsniveaus zu differenzieren, Übungsmaterialien zu erstellen und den Bewertungsprozess zu unterstützen. Gleichzeitig verläuft die Einführung nicht reibungslos: 72 % der Lehrkräfte äußerten die Sorge, dass KI es Schülerinnen und Schülern ermöglichen könnte, KI-generierte Arbeiten als ihre eigenen auszugeben – ein Hinweis auf ein umfassenderes Spannungsverhältnis zwischen dem praktischen Nutzen von KI für den Unterricht und ihren Auswirkungen auf die akademische Integrität (OECD, 2026). #### Lehren über KI Neben der Nutzung von KI als Unterrichtshilfsmittel wächst auch die Notwendigkeit, Schülerinnen und Schüler über KI selbst aufzuklären: wie sie funktioniert, wo ihre Grenzen liegen und wie man sie verantwortungsvoll nutzt. Dazu gehört ein grundlegendes Verständnis von Sprachmodellen als Vorhersagemaschinen statt als Datenbanken, was ihre Neigung zum „Halluzinieren“ erklärt, sowie praktische Fähigkeiten wie das Faktenchecken von KI-Ausgaben und das Erkennen erfundener Quellenangaben (UNESCO, 2024). Dazu gehört auch die Entwicklung kritischen Denkens beim Prompting – Schülerinnen und Schüler sollen nicht mehr nur Anweisungen befolgen, sondern sie selbst formulieren – sowie ein Bewusstsein für die ethischen und rechtlichen Dimensionen der KI-Nutzung, einschließlich Datenschutz und des EU AI Act. UNESCOs *AI Competency Framework for Teachers* (2024) beschreibt dies als zentrale berufliche Kompetenz und argumentiert, dass Lehrkräfte selbst entsprechend geschult werden müssen, bevor sie dies wirksam an Schülerinnen und Schüler vermitteln können. ### Was fehlt noch? Neben institutionellen Rahmenwerken und Nutzungsdaten ist es wichtig zu verstehen, wie sich diese Dynamiken in der Praxis auswirken. Im Rahmen des Projekts DUAL.AI.TEACHer wurde eine Reihe von Workshops durchgeführt. Zahlreiche Akteurinnen und Akteure aus dem Bildungsbereich wurden eingeladen, um aus erster Hand Einblicke in die aktuelle Nutzung von KI im Unterricht zu gewinnen. Diese Workshops brachten eine Reihe konkreter Bedürfnisse und Bedenken der Lehrkräfte zutage, die praktische, pädagogische und ausbildungsbezogene Aspekte betreffen. Die folgenden Abschnitte beschreiben diese Bedürfnisse im Detail. - **Verstehen, wie KI funktioniert.** Sowohl Schülerinnen und Schüler als auch Lehrkräfte müssen verstehen, wie Sprachmodelle aufgebaut und trainiert werden und was mit ihren Daten geschieht, sobald sie bereitgestellt wurden. Sie müssen außerdem verstehen, dass diese Modelle Vorhersagemaschinen und keine Datenbanken sind, was ihre Neigung zum Halluzinieren erklärt. Lehrkräfte benötigen einen einfachen, grundlegenden Kurs zu den Basics der Funktionsweise von LLMs. - **Kritisches Denken, Hinterfragen und Überprüfen von KI.** Schülerinnen, Schüler und Lehrkräfte müssen in der Lage sein, KI-generierte Antworten zu hinterfragen und erfundene Informationen zu erkennen. Praktische Prüffähigkeiten sind ebenfalls erforderlich, vom Abgleich von KI-Ausgaben mit offiziellen Quellen bis zum Erkennen KI-generierter Bilder und Videos. Schülerinnen und Schüler müssen davon wegkommen, Anweisungen nur zu befolgen, und lernen, sie selbst zu formulieren, indem sie kritisch über das gewünschte Ergebnis nachdenken. - **Ethik, Datenschutz und Regulierung.** Ein allgemeines Verständnis der ethischen und rechtlichen Aspekte der KI-Nutzung ist notwendig, einschließlich des EU AI Act und der DSGVO. Ein sicherer und verantwortungsvoller Umgang ist unerlässlich, um rechtswidrige Praktiken zu verhindern, ebenso wie ein Bewusstsein für verwandte Themen wie Verzerrungen (Bias) in Unterrichtsmaterialien und die Unzuverlässigkeit von KI-Detektoren. - **Verantwortungsvoller Einsatz.** KI muss bewusst als Unterstützung eingesetzt werden, nicht als Ersatz, sodass Raum für das eigene Denken der Schülerinnen und Schüler bleibt. Transparenz ist wichtig: Schülerinnen und Schüler sollen kenntlich machen, welche Teile von ihnen selbst stammen – ganz im Sinne des „Cyborg-Schreibens“, bei dem KI das Denken der Verfasserin oder des Verfassers erweitert, statt es zu ersetzen. Eigenverantwortung und Rechenschaftspflicht der Schülerinnen und Schüler sind ebenfalls erforderlich. - **Praktische Fähigkeiten.** Prompting muss als lehrbare Fähigkeit behandelt werden, nicht als etwas, das man sich selbstständig aneignet. Sowohl Lehrkräfte als auch Schülerinnen und Schüler benötigen ausdrückliche Anleitung zum Verfassen wirksamer Prompts, und Lehrkräfte benötigen eine Schulung im Prompt Engineering für Unterrichtsplanung, Differenzierung und Bewertung. Eine breitere Vertrautheit mit den Werkzeugen ist ebenfalls erforderlich, um die passenden Werkzeuge für die jeweiligen Fächer auszuwählen. - **Chancengleichheit und Infrastruktur.** Der Zugang zu KI steht im Mittelpunkt wachsender Bedenken hinsichtlich der Chancengleichheit, da wohlhabendere Schulbezirke sich bessere Werkzeuge leisten können, was die Kompetenzunterschiede zwischen Schulen vergrößert. Öffentliche Förderung ist notwendig, um einen gleichberechtigten Zugang unabhängig von den Ressourcen einer Schule zu gewährleisten, wobei im Rahmen dieser Bemühungen offene KI-Modelle gegenüber kommerziellen Modellen bevorzugt werden sollten. Auch ein Mindestalter für die KI-Nutzung muss festgelegt werden. - **Bewertung.** Ein anderer Ansatz für die Bewertung ist notwendig, der sich auf den Prozess statt auf das Endprodukt konzentriert, einschließlich der Reflexion der Schülerinnen und Schüler über KI-generierte Entwürfe. Auch KI-integrierte Aufgaben sind erforderlich, bei denen Schülerinnen und Schüler danach bewertet werden, wie gut sie KI-Ausgaben kritisieren, faktenprüfen und bearbeiten können – was Fragen zur menschlichen Rolle aufwirft, wenn Lehrkräfte selbst bei der Bewertung auf KI zurückgreifen. Auch konkrete unterrichtspraktische Methoden sind gefragt, etwa das Faktenchecken von KI-Texten, der Vergleich von Chatbot-Antworten, Debatten über die KI-Nutzung bei Hausaufgaben und die Einbindung nicht-digitaler Werkzeuge wie Flipcharts. # 1.6 Gesetzgebung ### Zentrale Botschaft - **Der EU AI Act ist die Rechtsgrundlage.** Das EU-Regelwerk für KI ist seit August 2024 in Kraft und wird bis 2027 schrittweise eingeführt. Es gilt nicht nur für Technologieunternehmen, sondern auch für Schulen. - **KI-Kompetenz ist eine Pflicht, kein Kurs zum Abhaken.** Schulen müssen ihr Personal beim Aufbau von KI-Kompetenz unterstützen. - **Mehrere KI-Anwendungen sind vollständig verboten.** Darunter: das Ableiten von Emotionen von Schülerinnen und Schülern aus Gesichts- oder Stimmdaten, KI, die die Schutzbedürftigkeit von Kindern ausnutzt, um ihr Verhalten zu verzerren, sowie der Aufbau von Gesichtserkennungsdatenbanken oder das Ableiten von Merkmalen wie Herkunft oder Religion aus biometrischen Daten. - **Das Risiko hängt von der Entscheidung ab, nicht vom Produkt.** Gewöhnliche Schreib-, Recherche-, Übersetzungs- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie in der Schule genutzt werden. Sie werden hochriskant, sobald sie Zulassung, Bildungswege, Prüfungsergebnisse oder Beschäftigungsentscheidungen beeinflussen. - **Nicht alles KI-Generierte braucht eine Kennzeichnung.** Die Offenlegungspflicht liegt vor allem beim Anbieter; von Lehrkräften geprüftes Material mit menschlicher redaktioneller Kontrolle ist davon ausgenommen. - **Hochrisiko-KI braucht einen Menschen, der sie außer Kraft setzen kann.** Die Ausgabe einer KI ist niemals die endgültige Entscheidung. Sie müssen ihre Grenzen verstehen und in der Lage sein, sie zu ignorieren oder zu überstimmen. - **Der AI Act ergänzt anderes Recht, er ersetzt es nicht.** Nationales Datenschutz-, Bildungs-, Arbeits-, Kinderschutz- und Urheberrecht gelten weiterhin daneben. - **Die DSGVO regelt die Daten, nicht nur das Werkzeug.** Selbst ein KI-System, das nach dem AI Act unbedenklich ist, kann weiterhin unzulässig sein, wenn es personenbezogene Daten von Schülerinnen, Schülern oder Personal ohne gültige Rechtsgrundlage verarbeitet. > Wenn Sie sich nur einen Satz von dieser Seite merken: **Nutzen Sie KI, um Ihr professionelles Urteilsvermögen zu unterstützen, nicht um es zu ersetzen – strengere Regeln gelten, sobald KI dabei hilft, Entscheidungen über Noten, Bildungswege oder Menschen zu treffen.** ### Der EU AI Act Der EU AI Act ([Verordnung (EU) 2024/1689](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727)) ist das einheitliche, risikobasierte Regelwerk der EU für künstliche Intelligenz. Statt einzelne Produkte zu regulieren, klassifiziert er KI-Systeme nach dem von ihnen ausgehenden Risiko und knüpft daran entsprechende Pflichten – von einem vollständigen Verbot für eine kleine Zahl von Praktiken über zusätzliche Pflichten für „hochriskante“ Anwendungen bis hin zu gar keinen besonderen Regeln für alltägliche Werkzeuge. Er gilt unmittelbar in jedem Mitgliedstaat, sowohl für öffentliche als auch für private Organisationen. Der AI Act wird schrittweise eingeführt. Er gilt seit dem 1. August 2024; seit dem 2. Februar 2025 sind die unten genannten verbotenen Praktiken sowie die Pflicht zum Aufbau von KI-Kompetenz ([Art. 4](https://overview.legal/laws/ai-act/art-4)) bereits verbindlich; ab dem 2. August 2026 gilt der Großteil seiner übrigen Bestimmungen. ### Wer ist für den Einsatz von KI verantwortlich? Führt eine Schule ein KI-System ein und kontrolliert es, ist üblicherweise die Schule oder der Schulträger die *einsetzende Stelle* ([Art. 3(4)](https://overview.legal/laws/ai-act/art-3)). Die Lehrkraft ist bei der Nutzung des Werkzeugs nach den Vorgaben der Schule normalerweise keine eigenständige einsetzende Stelle, muss aber dennoch diese Vorgaben sowie alle einschlägigen schulischen und datenschutzrechtlichen Regeln befolgen. ### Lehrkräfte müssen wissen, was sie nutzen Schulen und Schulträger müssen geeignete Maßnahmen ergreifen, um den Aufbau von KI-Kompetenz bei denjenigen zu unterstützen, die in ihrem Auftrag KI-Systeme nutzen ([Art. 4](https://overview.legal/laws/ai-act/art-4)). Der AI Act legt kein bestimmtes Kompetenzniveau, Zertifikat oder Schulungsformat fest. Diese hängen vielmehr vom genutzten KI-System, der Art der Nutzung und den möglicherweise betroffenen Personen ab. ### KI-Praktiken, die für Schulen vollständig verboten sind Der AI Act verbietet acht KI-Praktiken vollständig ([Art. 5](https://overview.legal/laws/ai-act/art-5)); vier davon sind für Schulen unmittelbar relevant: 1. Der Einsatz von KI-Systemen an Bildungseinrichtungen, um **Emotionen oder Absichten aus biometrischen Daten abzuleiten** (etwa aus Gesichts- oder Stimmmerkmalen von Schülerinnen und Schülern), ist grundsätzlich verboten. Es bestehen enge Ausnahmen für medizinische oder sicherheitsbezogene Zwecke ([Art. 3(39)](https://overview.legal/laws/ai-act/art-3); [Art. 5(1)(f)](https://overview.legal/laws/ai-act/art-5)). 2. KI-Systeme, die die Schutzbedürftigkeit einer Person aufgrund ihres Alters (wie bei Kindern), einer Behinderung oder ihrer sozialen oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten in einer Weise zu verzerren, die ihr Schaden zufügt, sind unabhängig von der Absicht verboten ([Art. 5(1)(b)](https://overview.legal/laws/ai-act/art-5)). 3. Der Aufbau oder die Erweiterung einer Gesichtserkennungsdatenbank durch ungezieltes Sammeln von Bildern aus dem Internet oder von Videoüberwachungsaufnahmen ist verboten. Das ist relevant, wenn eine Schule ein Gesichtserkennungswerkzeug für die Anwesenheitskontrolle oder die Prüfungsaufsicht in Betracht zieht ([Art. 5(1)(e)](https://overview.legal/laws/ai-act/art-5)). 4. Die Nutzung biometrischer Daten zur Kategorisierung von Personen, um geschützte Merkmale wie Herkunft, politische Meinung, Religion oder sexuelle Orientierung abzuleiten, ist verboten. Das ist für jedes biometrische Werkzeug relevant, etwa eine Prüfungsaufsichts-Software, die über ihren angegebenen Zweck hinausgeht ([Art. 5(1)(g)](https://overview.legal/laws/ai-act/art-5)). ### Muss KI-generierter Inhalt immer gekennzeichnet werden? Wenn Schülerinnen und Schüler direkt mit einem KI-System interagieren, etwa einem Chatbot, müssen sie darüber informiert werden, dass sie mit KI interagieren. In der Regel ist der Systemanbieter dafür verantwortlich, dies deutlich zu machen ([Art. 50(1)](https://overview.legal/laws/ai-act/art-50)). Schulen und Lehrkräfte müssen Deepfakes oder KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen, wenn diese im Unterricht verwendet werden ([Art. 50(4)](https://overview.legal/laws/ai-act/art-50)). Diese Pflicht entfällt, wenn der KI-generierte Inhalt einer wirksamen menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurde und eine Person oder Einrichtung die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Ein KI-gestütztes Arbeitsblatt, das von einer Lehrkraft geprüft wurde, benötigt daher nicht automatisch eine Kennzeichnung. ### Wann KI in der Bildung hochriskant wird Gewöhnliche Schreib-, Übersetzungs-, Recherche- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie beruflich genutzt werden. Die Einstufung hängt vom vorgesehenen Zweck des Systems ab, nicht einfach davon, welches Produkt verwendet wird ([Art. 6](https://overview.legal/laws/ai-act/art-6) · [Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3)). KI-Systeme können als hochriskant eingestuft werden, wenn sie dazu bestimmt sind:
Für LehrkräfteFür Schulen
- über Zugang, Zulassung oder Zuweisung von Schülerinnen und Schülern zu Bildungs- oder Ausbildungseinrichtungen und -programmen zu entscheiden; - die Lernergebnisse von Schülerinnen und Schülern zu bewerten oder ihren Lernprozess zu steuern; - das angemessene Bildungsniveau zu beurteilen, das eine Schülerin oder ein Schüler erhalten wird oder erreichen kann; oder - verbotenes Verhalten von Schülerinnen und Schülern während Prüfungen zu erkennen. *([Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), Punkt 3)* - Lehrkräfte anzuwerben oder auszuwählen, einschließlich der Vorauswahl von Bewerbungen; - über Vertragsbedingungen, Beförderung oder Beendigung eines Lehrkraft-Beschäftigungsverhältnisses zu entscheiden; - Aufgaben basierend auf dem Verhalten oder persönlichen Merkmalen einer Lehrkraft zuzuweisen; oder - die Leistung von Lehrkräften zu bewerten. *([Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), Punkt 4)*
Ein begrenztes Prüf- oder Vorbereitungswerkzeug kann ebenfalls außerhalb der Hochrisikokategorie liegen, wenn es eine Entscheidung nicht wesentlich beeinflusst. Ein Bildungssystem, das Personen profiliert, gilt jedoch stets als hochriskant. ### Was Hochrisiko-KI für Schulen und Lehrkräfte bedeutet Die Einstufung eines KI-Systems als hochriskant schließt seine Nutzung an Schulen nicht automatisch aus. Hochrisikosysteme sind jedoch mit Pflichten verbunden ([Art. 26](https://overview.legal/laws/ai-act/art-26)): Diese Pflichten für Hochrisiko-KI im Bildungsbereich gelten ab dem **2. Dezember 2027** — die oben genannten Verbote und die Pflicht zum Aufbau von KI-Kompetenz gelten jedoch bereits heute.
Für LehrkräfteFür Schulen
- es nur für seinen zugelassenen Zweck nutzen und seine Anweisungen befolgen; - seine Ausgabe nicht als endgültige Entscheidung behandeln; - seine wesentlichen Grenzen und wahrscheinlichen Fehlerquellen verstehen; - auf ein übermäßiges Vertrauen in scheinbar überzeugende Ergebnisse achten; und - bereit sein, seine Ausgabe zu verwerfen oder zu überstimmen. - eine kompetente und befugte menschliche Aufsicht sicherstellen; - sicherstellen, dass alle Eingabedaten, die ihrer Kontrolle unterliegen, relevant und hinreichend repräsentativ sind; - das System überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren; - automatisch erzeugte Protokolle mindestens sechs Monate lang aufbewahren, soweit diese Protokolle ihrer Kontrolle unterliegen; und - Schülerinnen, Schüler, Lehrkräfte oder betroffene Personen im Voraus informieren, wenn das System an Entscheidungen über sie mitwirkt.
Öffentliche Stellen und private Organisationen, die öffentliche Dienstleistungen erbringen, müssen vor dem Einsatz von Hochrisiko-KI möglicherweise zusätzlich eine Folgenabschätzung zu den Grundrechten durchführen ([Art. 27](https://overview.legal/laws/ai-act/art-27)). Öffentliche Behörden und in ihrem Auftrag handelnde Organisationen müssen das System unter Umständen zusätzlich in der EU-Datenbank registrieren ([Art. 49](https://overview.legal/laws/ai-act/art-49)). Ob dies in der Verantwortung der Schule oder ihres Trägers liegt, hängt vom jeweiligen nationalen Schulsystem ab. ### Der AI Act ist nicht das einzige relevante Recht Der AI Act ersetzt nicht die europäischen oder nationalen Regelungen zu Datenschutz, Bildung, Beschäftigung und Mitbestimmung, Kinderschutz oder Urheberrecht ([Art. 2(7)](https://overview.legal/laws/ai-act/art-2)). So bedeutet die Tatsache, dass ein Werkzeug nicht hochriskant ist, beispielsweise nicht, dass Sie Arbeiten oder personenbezogene Daten von Schülerinnen und Schülern dort hochladen dürfen. **Ein Werkzeug kann nach dem AI Act zulässig sein und dennoch durch Datenschutzrecht oder die Regeln Ihrer Schule verboten sein.** ### Die DSGVO Die [DSGVO](https://gdpr.eu) (Verordnung (EU) 2016/679) ist das Datenschutzrecht der EU. Sie spielt eine ergänzende Rolle neben dem AI Act: Während der AI Act fragt, ob und wie ein KI-System überhaupt genutzt werden darf, fragt die DSGVO, ob genau diese Daten über genau diese Person auf diese Weise verarbeitet werden dürfen. - **Sie gilt, sobald personenbezogene Daten betroffen sind.** Namen, schulische E-Mail-Adressen, Schülerarbeiten, Sprachaufnahmen, Mitschriften, Fotos, Noten, Anwesenheits- und Lernfortschrittsdaten zählen alle als personenbezogene Daten ([Art. 4](https://overview.legal/laws/gdpr/art-4)). - **Manche Daten benötigen zusätzlichen Schutz.** Gesundheitsdaten, biometrische Daten sowie Daten, die Herkunft, Religion oder ähnliche Merkmale offenbaren, sind „besondere Kategorien personenbezogener Daten“ und grundsätzlich ohne eine spezifische Ausnahme unzulässig ([Art. 9](https://overview.legal/laws/gdpr/art-9)) — ein Grund, warum der AI Act mehrere biometrische Ableitungspraktiken an Schulen gesondert verbietet. - **Wissen, wer verantwortlich ist.** Die Schule ist normalerweise der „Verantwortliche“; ein KI-Anbieter, der Daten im Auftrag der Schule verarbeitet, ist ein „Auftragsverarbeiter“ und benötigt eine Auftragsverarbeitungsvereinbarung, die seine Pflichten festlegt ([Art. 28](https://overview.legal/laws/gdpr/art-28)). Prüfen Sie dies, bevor Sie ein neues Werkzeug schulweit einführen. - **Daten, die die EU verlassen, benötigen eine Schutzmaßnahme.** Viele beliebte KI-Werkzeuge werden außerhalb der EU gehostet. Personenbezogene Daten dürfen dorthin nur übermittelt werden, wenn ein Angemessenheitsbeschluss oder eine andere anerkannte Schutzmaßnahme, etwa Standardvertragsklauseln, vorliegt ([Art. 44](https://overview.legal/laws/gdpr/art-44)). - **Schülerinnen, Schüler und Personal behalten ihre Rechte.** Sie können erfragen, welche Daten über sie gespeichert sind, deren Berichtigung oder Löschung verlangen und Entscheidungen widersprechen, die allein auf automatisierter Verarbeitung beruhen und sie erheblich betreffen ([Art. 15](https://overview.legal/laws/gdpr/art-15)–[Art. 22](https://overview.legal/laws/gdpr/art-22)) — ein Recht, das neben den Anforderungen des AI Acts an die menschliche Aufsicht bei Hochrisikosystemen besteht und diese verstärkt. ### Wo Sie Hilfe finden Die Durchsetzung ist in jedem EU-Land unterschiedlich organisiert. Da sich nationale Zuständigkeiten ändern können, nutzen Sie die aktuelle [Liste der nationalen Marktüberwachungsbehörden](https://digital-strategy.ec.europa.eu/en/policies/market-surveillance-authorities-under-ai-act) der Europäischen Kommission. Jede Person (eine Lehrkraft, eine Schülerin oder ein Schüler, ein Elternteil) kann bei dieser Behörde eine Beschwerde einreichen, wenn sie der Ansicht ist, dass gegen den AI Act verstoßen wurde ([Art. 85](https://overview.legal/laws/ai-act/art-85)). Hat ein Hochrisikosystem, etwa ein Zulassungs- oder Prüfungsaufsichtswerkzeug, zu einer Entscheidung geführt, die eine Schülerin oder einen Schüler erheblich betrifft, können diese (oder ihre Eltern) außerdem eine Erklärung zu dieser individuellen Entscheidung verlangen ([Art. 86](https://overview.legal/laws/ai-act/art-86)). ### Nationale Regelungen für Ihr Land Der AI Act gilt EU-weit, doch Durchsetzungsstellen, Schulrecht und datenschutzrechtliche Praxis unterscheiden sich von Land zu Land. Länderspezifische Hinweise für die Partnerländer des Playbooks werden hier ergänzt: - Österreich - Tschechien - Deutschland - Lettland - Slowakei - Slowenien - Spanien # 1.7 Gesetzgebung Österreich ### Zentrale Botschaft - **Der EU AI Act ist die Rechtsgrundlage.** Das EU-Regelwerk für KI ist seit August 2024 in Kraft und wird bis 2027 schrittweise eingeführt. Es gilt nicht nur für Technologieunternehmen, sondern auch für Schulen. - **KI-Kompetenz ist eine Pflicht, kein Kurs zum Abhaken.** Schulen müssen ihr Personal beim Aufbau von KI-Kompetenz unterstützen. - **Mehrere KI-Anwendungen sind vollständig verboten.** Darunter: das Ableiten von Emotionen von Schülerinnen und Schülern aus Gesichts- oder Stimmdaten, KI, die die Schutzbedürftigkeit von Kindern ausnutzt, um ihr Verhalten zu verzerren, sowie der Aufbau von Gesichtserkennungsdatenbanken oder das Ableiten von Merkmalen wie Herkunft oder Religion aus biometrischen Daten. - **Das Risiko hängt von der Entscheidung ab, nicht vom Produkt.** Gewöhnliche Schreib-, Recherche-, Übersetzungs- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie in der Schule genutzt werden. Sie werden hochriskant, sobald sie Zulassung, Bildungswege, Prüfungsergebnisse oder Beschäftigungsentscheidungen beeinflussen. - **Nicht alles KI-Generierte braucht eine Kennzeichnung.** Die Offenlegungspflicht liegt vor allem beim Anbieter; von Lehrkräften geprüftes Material mit menschlicher redaktioneller Kontrolle ist davon ausgenommen. - **Hochrisiko-KI braucht einen Menschen, der sie außer Kraft setzen kann.** Die Ausgabe einer KI ist niemals die endgültige Entscheidung. Sie müssen ihre Grenzen verstehen und in der Lage sein, sie zu ignorieren oder zu überstimmen. - **Der AI Act ergänzt anderes Recht, er ersetzt es nicht.** Nationales Datenschutz-, Bildungs-, Arbeits-, Kinderschutz- und Urheberrecht gelten weiterhin daneben. - **Die DSGVO regelt die Daten, nicht nur das Werkzeug.** Selbst ein KI-System, das nach dem AI Act unbedenklich ist, kann weiterhin unzulässig sein, wenn es personenbezogene Daten von Schülerinnen, Schülern oder Personal ohne gültige Rechtsgrundlage verarbeitet. > Wenn Sie sich nur einen Satz von dieser Seite merken: **Nutzen Sie KI, um Ihr professionelles Urteilsvermögen zu unterstützen, nicht um es zu ersetzen – strengere Regeln gelten, sobald KI dabei hilft, Entscheidungen über Noten, Bildungswege oder Menschen zu treffen.** ### Der EU AI Act Der EU AI Act ([Verordnung (EU) 2024/1689](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727)) ist das einheitliche, risikobasierte Regelwerk der EU für künstliche Intelligenz. Statt einzelne Produkte zu regulieren, klassifiziert er KI-Systeme nach dem von ihnen ausgehenden Risiko und knüpft daran entsprechende Pflichten – von einem vollständigen Verbot für eine kleine Zahl von Praktiken über zusätzliche Pflichten für „hochriskante“ Anwendungen bis hin zu gar keinen besonderen Regeln für alltägliche Werkzeuge. Er gilt unmittelbar in jedem Mitgliedstaat, sowohl für öffentliche als auch für private Organisationen. Der AI Act wird schrittweise eingeführt. Er gilt seit dem 1. August 2024; seit dem 2. Februar 2025 sind die unten genannten verbotenen Praktiken sowie die Pflicht zum Aufbau von KI-Kompetenz ([Art. 4](https://overview.legal/laws/ai-act/art-4)) bereits verbindlich; ab dem 2. August 2026 gilt der Großteil seiner übrigen Bestimmungen. ### Wer ist für den Einsatz von KI verantwortlich? Führt eine Schule ein KI-System ein und kontrolliert es, ist üblicherweise die Schule oder der Schulträger die *einsetzende Stelle* ([Art. 3(4)](https://overview.legal/laws/ai-act/art-3)). Die Lehrkraft ist bei der Nutzung des Werkzeugs nach den Vorgaben der Schule normalerweise keine eigenständige einsetzende Stelle, muss aber dennoch diese Vorgaben sowie alle einschlägigen schulischen und datenschutzrechtlichen Regeln befolgen. ### Lehrkräfte müssen wissen, was sie nutzen Schulen und Schulträger müssen geeignete Maßnahmen ergreifen, um den Aufbau von KI-Kompetenz bei denjenigen zu unterstützen, die in ihrem Auftrag KI-Systeme nutzen ([Art. 4](https://overview.legal/laws/ai-act/art-4)). Der AI Act legt kein bestimmtes Kompetenzniveau, Zertifikat oder Schulungsformat fest. Diese hängen vielmehr vom genutzten KI-System, der Art der Nutzung und den möglicherweise betroffenen Personen ab. ### KI-Praktiken, die für Schulen vollständig verboten sind Der AI Act verbietet acht KI-Praktiken vollständig ([Art. 5](https://overview.legal/laws/ai-act/art-5)); vier davon sind für Schulen unmittelbar relevant: 1. Der Einsatz von KI-Systemen an Bildungseinrichtungen, um **Emotionen oder Absichten aus biometrischen Daten abzuleiten** (etwa aus Gesichts- oder Stimmmerkmalen von Schülerinnen und Schülern), ist grundsätzlich verboten. Es bestehen enge Ausnahmen für medizinische oder sicherheitsbezogene Zwecke ([Art. 3(39)](https://overview.legal/laws/ai-act/art-3); [Art. 5(1)(f)](https://overview.legal/laws/ai-act/art-5)). 2. KI-Systeme, die die Schutzbedürftigkeit einer Person aufgrund ihres Alters (wie bei Kindern), einer Behinderung oder ihrer sozialen oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten in einer Weise zu verzerren, die ihr Schaden zufügt, sind unabhängig von der Absicht verboten ([Art. 5(1)(b)](https://overview.legal/laws/ai-act/art-5)). 3. Der Aufbau oder die Erweiterung einer Gesichtserkennungsdatenbank durch ungezieltes Sammeln von Bildern aus dem Internet oder von Videoüberwachungsaufnahmen ist verboten. Das ist relevant, wenn eine Schule ein Gesichtserkennungswerkzeug für die Anwesenheitskontrolle oder die Prüfungsaufsicht in Betracht zieht ([Art. 5(1)(e)](https://overview.legal/laws/ai-act/art-5)). 4. Die Nutzung biometrischer Daten zur Kategorisierung von Personen, um geschützte Merkmale wie Herkunft, politische Meinung, Religion oder sexuelle Orientierung abzuleiten, ist verboten. Das ist für jedes biometrische Werkzeug relevant, etwa eine Prüfungsaufsichts-Software, die über ihren angegebenen Zweck hinausgeht ([Art. 5(1)(g)](https://overview.legal/laws/ai-act/art-5)). ### Muss KI-generierter Inhalt immer gekennzeichnet werden? Wenn Schülerinnen und Schüler direkt mit einem KI-System interagieren, etwa einem Chatbot, müssen sie darüber informiert werden, dass sie mit KI interagieren. In der Regel ist der Systemanbieter dafür verantwortlich, dies deutlich zu machen ([Art. 50(1)](https://overview.legal/laws/ai-act/art-50)). Schulen und Lehrkräfte müssen Deepfakes oder KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen, wenn diese im Unterricht verwendet werden ([Art. 50(4)](https://overview.legal/laws/ai-act/art-50)). Diese Pflicht entfällt, wenn der KI-generierte Inhalt einer wirksamen menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurde und eine Person oder Einrichtung die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Ein KI-gestütztes Arbeitsblatt, das von einer Lehrkraft geprüft wurde, benötigt daher nicht automatisch eine Kennzeichnung. ### Wann KI in der Bildung hochriskant wird Gewöhnliche Schreib-, Übersetzungs-, Recherche- und Unterrichtsplanungswerkzeuge sind nicht allein deshalb hochriskant, weil sie beruflich genutzt werden. Die Einstufung hängt vom vorgesehenen Zweck des Systems ab, nicht einfach davon, welches Produkt verwendet wird ([Art. 6](https://overview.legal/laws/ai-act/art-6) · [Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3)). KI-Systeme können als hochriskant eingestuft werden, wenn sie dazu bestimmt sind:
Für LehrkräfteFür Schulen
- über Zugang, Zulassung oder Zuweisung von Schülerinnen und Schülern zu Bildungs- oder Ausbildungseinrichtungen und -programmen zu entscheiden; - die Lernergebnisse von Schülerinnen und Schülern zu bewerten oder ihren Lernprozess zu steuern; - das angemessene Bildungsniveau zu beurteilen, das eine Schülerin oder ein Schüler erhalten wird oder erreichen kann; oder - verbotenes Verhalten von Schülerinnen und Schülern während Prüfungen zu erkennen. *([Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), Punkt 3)* - Lehrkräfte anzuwerben oder auszuwählen, einschließlich der Vorauswahl von Bewerbungen; - über Vertragsbedingungen, Beförderung oder Beendigung eines Lehrkraft-Beschäftigungsverhältnisses zu entscheiden; - Aufgaben basierend auf dem Verhalten oder persönlichen Merkmalen einer Lehrkraft zuzuweisen; oder - die Leistung von Lehrkräften zu bewerten. *([Anhang III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), Punkt 4)*
Ein begrenztes Prüf- oder Vorbereitungswerkzeug kann ebenfalls außerhalb der Hochrisikokategorie liegen, wenn es eine Entscheidung nicht wesentlich beeinflusst. Ein Bildungssystem, das Personen profiliert, gilt jedoch stets als hochriskant. ### Was Hochrisiko-KI für Schulen und Lehrkräfte bedeutet Die Einstufung eines KI-Systems als hochriskant schließt seine Nutzung an Schulen nicht automatisch aus. Hochrisikosysteme sind jedoch mit Pflichten verbunden ([Art. 26](https://overview.legal/laws/ai-act/art-26)): Diese Pflichten für Hochrisiko-KI im Bildungsbereich gelten ab dem **2. Dezember 2027** — die oben genannten Verbote und die Pflicht zum Aufbau von KI-Kompetenz gelten jedoch bereits heute.
Für LehrkräfteFür Schulen
- es nur für seinen zugelassenen Zweck nutzen und seine Anweisungen befolgen; - seine Ausgabe nicht als endgültige Entscheidung behandeln; - seine wesentlichen Grenzen und wahrscheinlichen Fehlerquellen verstehen; - auf ein übermäßiges Vertrauen in scheinbar überzeugende Ergebnisse achten; und - bereit sein, seine Ausgabe zu verwerfen oder zu überstimmen. - eine kompetente und befugte menschliche Aufsicht sicherstellen; - sicherstellen, dass alle Eingabedaten, die ihrer Kontrolle unterliegen, relevant und hinreichend repräsentativ sind; - das System überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren; - automatisch erzeugte Protokolle mindestens sechs Monate lang aufbewahren, soweit diese Protokolle ihrer Kontrolle unterliegen; und - Schülerinnen, Schüler, Lehrkräfte oder betroffene Personen im Voraus informieren, wenn das System an Entscheidungen über sie mitwirkt.
Öffentliche Stellen und private Organisationen, die öffentliche Dienstleistungen erbringen, müssen vor dem Einsatz von Hochrisiko-KI möglicherweise zusätzlich eine Folgenabschätzung zu den Grundrechten durchführen ([Art. 27](https://overview.legal/laws/ai-act/art-27)). Öffentliche Behörden und in ihrem Auftrag handelnde Organisationen müssen das System unter Umständen zusätzlich in der EU-Datenbank registrieren ([Art. 49](https://overview.legal/laws/ai-act/art-49)). Ob dies in der Verantwortung der Schule oder ihres Trägers liegt, hängt vom jeweiligen nationalen Schulsystem ab. ### Der AI Act ist nicht das einzige relevante Recht Der AI Act ersetzt nicht die europäischen oder nationalen Regelungen zu Datenschutz, Bildung, Beschäftigung und Mitbestimmung, Kinderschutz oder Urheberrecht ([Art. 2(7)](https://overview.legal/laws/ai-act/art-2)). So bedeutet die Tatsache, dass ein Werkzeug nicht hochriskant ist, beispielsweise nicht, dass Sie Arbeiten oder personenbezogene Daten von Schülerinnen und Schülern dort hochladen dürfen. **Ein Werkzeug kann nach dem AI Act zulässig sein und dennoch durch Datenschutzrecht oder die Regeln Ihrer Schule verboten sein.** ### Die DSGVO Die [DSGVO](https://gdpr.eu) (Verordnung (EU) 2016/679) ist das Datenschutzrecht der EU. Sie spielt eine ergänzende Rolle neben dem AI Act: Während der AI Act fragt, ob und wie ein KI-System überhaupt genutzt werden darf, fragt die DSGVO, ob genau diese Daten über genau diese Person auf diese Weise verarbeitet werden dürfen. - **Sie gilt, sobald personenbezogene Daten betroffen sind.** Namen, schulische E-Mail-Adressen, Schülerarbeiten, Sprachaufnahmen, Mitschriften, Fotos, Noten, Anwesenheits- und Lernfortschrittsdaten zählen alle als personenbezogene Daten ([Art. 4](https://overview.legal/laws/gdpr/art-4)). - **Manche Daten benötigen zusätzlichen Schutz.** Gesundheitsdaten, biometrische Daten sowie Daten, die Herkunft, Religion oder ähnliche Merkmale offenbaren, sind „besondere Kategorien personenbezogener Daten“ und grundsätzlich ohne eine spezifische Ausnahme unzulässig ([Art. 9](https://overview.legal/laws/gdpr/art-9)) — ein Grund, warum der AI Act mehrere biometrische Ableitungspraktiken an Schulen gesondert verbietet. - **Wissen, wer verantwortlich ist.** Die Schule ist normalerweise der „Verantwortliche“; ein KI-Anbieter, der Daten im Auftrag der Schule verarbeitet, ist ein „Auftragsverarbeiter“ und benötigt eine Auftragsverarbeitungsvereinbarung, die seine Pflichten festlegt ([Art. 28](https://overview.legal/laws/gdpr/art-28)). Prüfen Sie dies, bevor Sie ein neues Werkzeug schulweit einführen. - **Daten, die die EU verlassen, benötigen eine Schutzmaßnahme.** Viele beliebte KI-Werkzeuge werden außerhalb der EU gehostet. Personenbezogene Daten dürfen dorthin nur übermittelt werden, wenn ein Angemessenheitsbeschluss oder eine andere anerkannte Schutzmaßnahme, etwa Standardvertragsklauseln, vorliegt ([Art. 44](https://overview.legal/laws/gdpr/art-44)). - **Schülerinnen, Schüler und Personal behalten ihre Rechte.** Sie können erfragen, welche Daten über sie gespeichert sind, deren Berichtigung oder Löschung verlangen und Entscheidungen widersprechen, die allein auf automatisierter Verarbeitung beruhen und sie erheblich betreffen ([Art. 15](https://overview.legal/laws/gdpr/art-15)–[Art. 22](https://overview.legal/laws/gdpr/art-22)) — ein Recht, das neben den Anforderungen des AI Acts an die menschliche Aufsicht bei Hochrisikosystemen besteht und diese verstärkt. ### Wo Sie Hilfe finden Die Durchsetzung ist in jedem EU-Land unterschiedlich organisiert. Da sich nationale Zuständigkeiten ändern können, nutzen Sie die aktuelle [Liste der nationalen Marktüberwachungsbehörden](https://digital-strategy.ec.europa.eu/en/policies/market-surveillance-authorities-under-ai-act) der Europäischen Kommission. Jede Person (eine Lehrkraft, eine Schülerin oder ein Schüler, ein Elternteil) kann bei dieser Behörde eine Beschwerde einreichen, wenn sie der Ansicht ist, dass gegen den AI Act verstoßen wurde ([Art. 85](https://overview.legal/laws/ai-act/art-85)). Hat ein Hochrisikosystem, etwa ein Zulassungs- oder Prüfungsaufsichtswerkzeug, zu einer Entscheidung geführt, die eine Schülerin oder einen Schüler erheblich betrifft, können diese (oder ihre Eltern) außerdem eine Erklärung zu dieser individuellen Entscheidung verlangen ([Art. 86](https://overview.legal/laws/ai-act/art-86)). ### Nationale Regelungen für Ihr Land Der AI Act gilt EU-weit, doch Durchsetzungsstellen, Schulrecht und datenschutzrechtliche Praxis unterscheiden sich von Land zu Land. Länderspezifische Hinweise für die Partnerländer des Playbooks werden hier ergänzt: - Österreich - Tschechien - Deutschland - Lettland - Slowakei - Slowenien - Spanien