1.4 Konformer Einsatz von KI
Haftungsausschluss: Wir haben dieses Kapitel sorgfältig recherchiert, doch das KI-Recht entwickelt sich schnell. Die Regeln können sich seit der Veröffentlichung geändert haben. Prüfen Sie daher stets die aktuelle Rechtslage und passen Sie die Inhalte bei Bedarf an Ihr nationales Recht an. Dieses Kapitel stellt keine Rechtsberatung dar.
Zentrale Botschaft
-
Es gibt kein rechtliches Vakuum. Das Datenschutzrecht galt schon immer.
- Der Zeitplan hat sich verschoben. Die Hochrisiko-Pflichten für KI in der Bildung beginnen am 2. Dezember 2027, nicht im August 2026. Prüfen Sie die Merkblätter Ihrer Schule (siehe auch 1.6).
- Bereits seit Februar 2025 verbindlich. Systeme, die Emotionen von Schülerinnen und Schülern aus Gesicht oder Stimme ablesen, sind verboten, und Schulen, die KI einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals aufzubauen. Ab August 2026 müssen Chatbots offenlegen, dass sie KI sind, und Deepfakes müssen gekennzeichnet werden.
- Die schwierigste Ebene ist der Datenschutz. Keine personenbezogenen Daten von Schülerinnen und Schülern ohne einen Vertrag, der das Training mit Ihren Eingaben ausschließt; eine Einwilligung trägt in der Regel nicht; das Entfernen von Namen anonymisiert nicht.
- Beim Urheberrecht ist der Upload das Problem. Die Unterrichts-Schranke deckt es nicht ab, geschützte Werke in eine KI einzuspeisen.
- Detektoren halten als Beweis nicht stand. Gerichte haben Schlussfolgerungen aus konkreten Tatsachen anerkannt. Regeln müssen im Voraus klar sein, und eine Offenlegungspflicht schlägt ein Verbot.
- Noten bleiben menschlich. Für uns offensichtlich, aber wichtig festzuhalten: Einen KI-Vorschlag einfach abzunicken, ist keine menschliche Entscheidung.
- Die Verantwortung liegt bei der Beschaffung, nicht bei Ihnen — und Regelkonformität ermöglicht. Die Schulen mit klaren Regeln sind diejenigen, deren Lehrkräfte die größte Zeitersparnis berichten.
Wenn Sie sich nur einen Satz von dieser Seite merken: Regelkonformität ist ein Haus, keine Mauer.
Was darf ich tun?
Behalten Sie diese vier Schritte im Kopf, bevor Sie etwas eintippen, einfügen oder hochladen. Bitte verstehen Sie die folgende Übersicht als allgemeine Orientierung. Die Anforderungen in Ihrem Land können von den hier genannten abweichen. Prüfen Sie daher stets die Vorschriften, die für Ihr Land und Ihre Schule gelten.
Abb. 1: „...“ (KI-generiertes Bild, ...)
„Wir wissen nicht einmal genau, was wir dürfen – am wenigsten beim Datenschutz.“
Das Lesetagebuch, dritter Blick
Unser Neuntklässler, sein Lesetagebuch, der Verdacht seiner Lehrkraft. In Kapitel 1.2 ging es um eine Frage des Lernens; in Kapitel 1.3 um professionelles Urteilsvermögen. Hier ist es eine Gerichtsakte.
Im Dezember 2025 entschied das Verwaltungsgericht Hamburg über einen Eilantrag in diesem Fall. Die Englischlehrkraft hatte bemerkt, dass das Lesetagebuch in Rechtschreibung, Grammatik und Wortschatz auf einem weit höheren Niveau geschrieben war als die Klassenarbeit des Jungen zum selben Buch. Der Junge räumte später ein, ChatGPT genutzt zu haben, und die Schule bewertete das Lesetagebuch als Täuschungsversuch. Sein Vater beantragte beim Gericht Eilrechtsschutz; das Gericht lehnte ab. Seine Begründung reicht über diesen Fall hinaus: Schülerinnen und Schüler müssen davon ausgehen, dass sie ihre Arbeit vollständig selbstständig anfertigen müssen, sofern ein Hilfsmittel nicht ausdrücklich erlaubt wurde – nicht offengelegte KI-Nutzung gilt daher auch ohne schriftliche Regel gegen KI als Täuschung. (In diesem Fall hatte die Lehrkraft der Klasse tatsächlich mitgeteilt, dass ChatGPT nicht erlaubt war.) Eine Einschränkung vorab: Es handelt sich um ein einzelnes Gericht in einem Eilverfahren, und die Entscheidung ist nicht rechtskräftig.
Das ist ein guter Moment, um das verbreitetste Missverständnis in diesem Bereich anzusprechen. Es gibt kein rechtliches Vakuum. Das gab es nie.
Das Haus hat drei Stockwerke
Die meisten Lehrkräfte stellen sich das KI-Recht als eine einzelne Mauer vor, die irgendwo in Brüssel gebaut wird. Hilfreicher ist es jedoch, sich ein Haus vorzustellen, in dem Sie bereits wohnen. Das Fundament ist der Datenschutz. Es ist tragend. Es wurde vor Jahren gelegt. Es bestimmt Ihren Dienstagmorgen. Das obere Stockwerk ist der EU AI Act, Europas KI-Gesetz, das Systeme nach ihrem Schadenspotenzial einstuft und umso strengere Pflichten auferlegt, je höher das Risiko ist. Es ist teilweise bezogen und noch im Bau, wobei der Fertigstellungstermin gerade verschoben wurde. Türen und Fenster sind das Urheber- und Prüfungsrecht — klein und spezifisch, und täglich berührt, ohne dass man es bemerkt.
Abb. 2: „Regelkonformität ist ein Haus“ (KI-generiertes Bild, ...)
Erdgeschoss: Datenschutz, klarer als viele denken
Der Umgang mit personenbezogenen Daten einer Person erfordert immer eine Rechtsgrundlage. Als öffentliche Stelle ergibt sich die Erlaubnis einer Schule im Wesentlichen aus ihren gesetzlichen Aufgaben nach dem Schulrecht. Es gibt keine allgemeine Lizenz, die mit dem Lehrerberuf einhergeht.
Daraus folgen drei Konsequenzen, die den praktischen Kern dieses Kapitels bilden.
Einwilligung ist keine Lösung. Eine naheliegende Lösung wäre, einfach die Eltern zu fragen. Dieser Ansatz hat jedoch zwei Nachteile. Erstens muss eine Einwilligung freiwillig erfolgen. In einem schulischen Kontext, in dem Noten eine Rolle spielen, stellt die Bitte einer Lehrkraft keine freie Entscheidung dar. Zweitens muss die Einwilligung informiert sein, was schwer zu erreichen ist, wenn niemand weiß, wo die Daten am Ende landen. Die Erlaubnis muss aus dem Schulrecht kommen, nicht aus einer Unterschrift, denn dadurch verlagert sich die Verantwortung nach oben, weg von Ihnen.
Namen zu entfernen anonymisiert die Daten nicht. Im Jahr 2024 stellten die deutschen Datenschutzbehörden gemeinsam fest, dass Daten weiterhin personenbezogen sind, wenn eine Person aus dem Kontext heraus noch identifizierbar ist. Das ist an Schulen besonders problematisch, weil gerade die Textarten, bei denen Lehrkräfte am meisten Unterstützung wünschen — etwa Aufsätze, freies Schreiben und Lerntagebücher — ihre Verfasserin oder ihren Verfasser am Schreibstil erkennen lassen.
Die Trennlinie ist der Vertrag: Ein Anbieter darf Ihre Daten verarbeiten, wenn er dies strikt nach Ihren Weisungen tut und eine schriftliche Vereinbarung dazu besteht. Sobald er jedoch das von Ihnen Eingegebene für eigene Zwecke nutzt, bricht die Konstruktion zusammen, weil er nicht mehr in Ihrem Auftrag handelt. Der praktische Test lautet also: Gibt es eine solche Vereinbarung, und schließt sie das Training mit Ihren Eingaben aus? Wenn nicht, sollten keine personenbezogenen Daten eingegeben werden.
Zwei Fußnoten sind erwähnenswert: Daten zu Gesundheit und Behinderung unterliegen nach EU-Recht einem noch strengeren Schutz. Sie gehören nicht in ein KI-Werkzeug. Und wo Lehrkräfte private Geräte nutzen, stellen mindestens zwei deutsche Bundesländer (Nordrhein-Westfalen und Bayern) klar, dass die datenschutzrechtliche Verantwortung bei der Schule und ihrer Leitung liegt, die die Nutzung genehmigen muss.
Oberes Stockwerk: Was der AI Act bereits verlangt — und was noch nicht
Hier folgt die Korrektur, die die meisten bestehenden Handreichungen veralten lässt. Im Juli 2026 verschob die EU mit einer Änderungsverordnung, dem sogenannten Digital Omnibus, den größten Teil der AI-Act-Pflichten für den Bildungsbereich — jener, die an als hochriskant eingestufte Systeme geknüpft sind, also Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen — vom August 2026 auf den 2. Dezember 2027. Sehr viele 2025 und Anfang 2026 verfasste Handreichungen drucken noch das alte Datum. Falls ein Dokument an Ihrer Schule dies tut, braucht es eine Fußnote.
Die nützlichere Korrektur verläuft in die andere Richtung: Was bereits gilt, wird unterschätzt, und was endlos diskutiert wird, gilt noch nicht.
Zwei Dinge sind bereits seit dem 2. Februar 2025 verbindlich.
- Emotionserkennung an Schulen ist verboten. Systeme, die vorgeben, die Gefühle von Schülerinnen und Schülern aus Gesicht, Stimme oder Körper zu lesen — Stimmungsanalysen, „Engagement“-Bewertung per Webcam —, stehen auf der kurzen Liste der Praktiken, die der AI Act schlicht verbietet, mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen. Werkzeuge, die lediglich Müdigkeit erkennen oder ob jemand auf den Bildschirm schaut, bewegen sich in einer Grauzone; das ist eine Frage der Beschaffung, nicht des Unterrichts.
- Schulen, die KI einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals aufzubauen. Seit Juli 2026 stellt das Gesetz klar, dass kein bestimmtes Niveau garantiert werden muss – doch nichts zu tun, ist keine Option. Auf EU-Ebene ist für diese Pflicht kein Bußgeld vorgesehen, weshalb sie häufig übersehen wird; nationale Behörden können sie ab August 2026 durchsetzen.
Ab dem 2. Dezember 2026 ist KI verboten, die sexualisierte Deepfakes identifizierbarer Personen erzeugt.
Liest man diese zweite Pflicht zusammen mit Kapitel 1.3, ergibt sich ein klares Bild. Die Lücke zwischen Wissen über KI und der Fähigkeit, mit KI zu unterrichten, ist längst nicht mehr nur ein fachliches Problem. Seit Februar 2025 sind Schulen gesetzlich verpflichtet, daran zu arbeiten.
Seit dem 2. August 2026 müssen Chatbots den Nutzenden mitteilen, dass sie KI sind, und Anbieter müssen KI-generierte Inhalte maschinenlesbar kennzeichnen; Schulen selbst müssen Deepfakes kennzeichnen sowie KI-generierte Texte, die sie zur Information der Öffentlichkeit veröffentlichen. Ein Arbeitsblatt, das eine Lehrkraft geprüft hat, braucht keine Kennzeichnung. Ab dem 2. Dezember 2027 gelten die Pflichten für Hochrisiko-Systeme – Systeme, die über Zulassungen entscheiden, den Lernstand von Schülerinnen und Schülern bewerten oder sie während Prüfungen überwachen. Wer ein solches System einsetzt, übernimmt dann eigene Pflichten, darunter die Aufsicht Personen zu übertragen, die, in den Worten des AI Acts, über „die erforderliche Kompetenz, Ausbildung und Befugnis“ verfügen.
Türen und Fenster: Urheberrecht und Prüfungen
Wider Erwarten ist das, was herauskommt, der einfachere Teil. Ein Text oder Bild, das eine KI eigenständig erzeugt, hat keinen menschlichen Urheber im Sinne des Urheberrechts und ist daher meist selbst urheberrechtsfrei; wo ein Mensch das Ergebnis durch eigene kreative Entscheidungen gestaltet, kann es geschützt sein. Garantiert unbedenklich ist das aber nicht: In einer viel beachteten Entscheidung stellte ein Münchner Gericht fest, dass ein Chatbot Songtexte auswendig gelernt und nahezu wortgleich wiedergegeben hatte. Die Haftung legte das Gericht dem Anbieter auf, nicht der Person, die die Anfrage eingegeben hatte. Das Urteil ist nicht rechtskräftig.
Die Schranke, die es Lehrkräften erlaubt, Material für ihren Unterricht zu kopieren, deckt genau das ab: das Kopieren eines begrenzten Anteils eines Werks für diesen Unterricht. Das Hochladen eines geschützten Werks in ein kommerzielles KI-System ist ein anderer Vorgang, den die Schranke nicht erfasst. Material, das eigens für den Schulunterricht hergestellt wurde, etwa Schulbücher und Arbeitshefte, ist von der Schranke grundsätzlich ausgenommen, sofern Lizenzen dafür leicht verfügbar sind.
Wie sehr sollte Sie das beunruhigen? Weniger, als die Lücke vermuten lässt, und mehr als gar nicht. Die Frage ist tatsächlich ungeklärt: Kein höheres Gericht hat darüber entschieden, und die Fachliteratur hält die bestehenden Schranken für schlecht auf diese Situation zugeschnitten. Widerspricht eine Rechteinhaberin oder ein Rechteinhaber, wäre der Anspruch zivilrechtlicher Natur, und in der Praxis ist dies eine Sache der Schulpolitik und Beschaffung, nicht etwas, das eine einzelne Lehrkraft klären kann. Klar ist in der Praxis der enge Fall. Es ist die Linie, die die Bildungsverlage ziehen, und die man sich merken sollte: Schulbuch- und Verlagsmaterial sollte überhaupt nicht in KI-Werkzeuge eingegeben werden — weder gescannt noch abgetippt, nicht einmal, um ein Arbeitsblatt zu erzeugen.
Die Rechtsprechung in diesem Bereich ist derzeit europaweit uneinheitlich. Im Februar 2026 entschied das Verwaltungsgericht Kassel zwei Hochschulfälle auf die gleiche, klare Weise: Obwohl die Hochschule KI nicht ausdrücklich verboten hatte, war die Grenze „bereits bei einer einzigen nicht offengelegten Nutzung generativer KI“ überschritten. Die Urteile sind nicht rechtskräftig. Im selben Monat untersagte ein Pariser Verwaltungsgericht in einem Eilverfahren einer Hochschule, einen Studierenden zu sanktionieren, weil sie vorab keine Regel zur KI-Nutzung festgelegt hatte. Ein schwedisches Berufungsgericht war zuvor zu einem ähnlichen Ergebnis gekommen: Ein Studierender hatte drei erfundene Zitate eingereicht, doch die Kursregeln erlaubten bei Hausarbeiten „alle Hilfsmittel“, sodass keine Regel verletzt worden war. In den Niederlanden bestätigte dagegen das oberste Verwaltungsgericht des Landes im Juli 2025 eine Sanktion gegen einen Jurastudenten, der vier nicht existierende Quellen eingereicht hatte: Der Betrug war zweifelsfrei nachgewiesen, und ob er täuschen wollte, spielte keine Rolle.
Das Muster über die Rechtsordnungen hinweg ist also keine Frage der Länder. Es geht darum, ob vorab eine Regel bestand und ob die Täuschung tatsächlich nachgewiesen wurde.
Drei Regeln folgen für die Praxis.
- Detektoren tragen nicht die Beweislast. Die Schule muss die Täuschung nachweisen. Gerichte haben Schlussfolgerungen aus konkreten Tatsachen anerkannt: Quellen, die sich als nicht existent herausstellen, eine deutliche Lücke zwischen dem, was jemand schreibt, und dem, was er mündlich erklären kann, plötzliche Niveausprünge innerhalb desselben Textes, ein Geständnis. Die betroffene Person kann dies dann erläutern. Der Schreibstil allein ist eine schwache Grundlage – führende deutsche Rechtskommentatoren bezweifeln, dass er einen solchen Befund überhaupt tragen kann. Die Ausgabe eines Detektors ist bestenfalls ein Anlass, genauer hinzusehen. Die in Kapitel 1.3 berichtete Fehlerquote macht sie als Beweismittel unbrauchbar.
- Regeln müssen vor der Prüfung klar sein, nicht danach. Weder ein pauschales Verbot noch eine pauschale Erlaubnis hält stand. Was funktioniert, ist eine Selbstständigkeitserklärung mit einer Klausel zu KI sowie einer Pflicht anzugeben, was verwendet wurde. Offenlegung statt Verbot.
- Noten bleiben menschlich. Menschen haben das Recht, keinen Entscheidungen mit rechtlicher Wirkung unterworfen zu werden, die allein eine Maschine trifft, und Schulen haben keine Rechtsgrundlage, solche Entscheidungen per Software zu treffen; eine Note ist eine solche Entscheidung. Die Kultusministerkonferenz formuliert es noch deutlicher: Bewertung ist eine Aufgabe, die nur Lehrkräfte erfüllen können. Entscheidend: Einen KI-Vorschlag formal durchzuwinken zählt nicht als menschliche Entscheidung. Der Befund, dass Menschen fehlerhaftem KI-Feedback oft folgen, ist also ebenso ein rechtliches wie ein pädagogisches Problem.
„Jeder experimentiert für sich, deshalb ändern sich die Regeln von einer Stunde zur nächsten.“
Recht, Ethik und Didaktik laufen daher auf dieselbe Antwort hinaus: Bewerten Sie den Prozess, nicht nur das Produkt.
Die wahre Adresse der Verantwortung
Als Reaktion darauf hat Deutschland staatlich bereitgestellte schulische KI-Umgebungen eingeführt. Dabei handelt es sich um geprüfte Plattformen mit ausgehandelten Verträgen, statt Lehrkräfte sich selbst zu überlassen, sich bei irgendeinem kostenlosen Dienst anzumelden. Diese lösen zwar Probleme, die einzelne Lehrkräfte allein nicht lösen können, werden aber weiterhin dafür kritisiert, wie sie gesteuert werden, ob Lehrkräfte sie tatsächlich annehmen und ob die damit unterstützten Bewertungen belastbar sind. Da sich die Einführung von Bundesland zu Bundesland unterscheidet, wird es Zeit brauchen, bis sich zeigt, wie Lehrkräfte mit den Plattformen zurechtkommen.
Was daran wirklich besonders ist, ist enger gefasst, als es zunächst scheint, und lohnt eine genaue Betrachtung. Deutschland ist das einzige System, das wir gefunden haben, in dem eine öffentliche Stelle – das FWU, das den Bundesländern gehört – die Plattform mit technischen Dienstleistern selbst entwickelt und betreibt. Frankreich stellt für einen ganzen Jahrgang adaptive Übungssoftware bereit, hat sie jedoch in Auftrag gegeben: Ein privates Unternehmen schrieb die Software, ein anderes hostet die Daten. Mehrere andere Länder haben Zugang zu kommerziellen Chatbots eingekauft; die meisten übrigen bieten lediglich Orientierungshilfen an.
Es selbst zu bauen verschafft nicht automatisch mehr Kontrolle. Die deutsche Plattform läuft, wie eine Branchenvereinigung anmerkt, auf denselben kommerziellen Sprachmodellen wie alle anderen auch, auf europäischen Servern. Das französische System dagegen wird in Frankreich unter der höchsten vom französischen Staat vergebenen Sicherheitszertifizierung gehostet. Das eine Land hat die Oberfläche gebaut und mietet die Antriebstechnik, das andere hat die Software gekauft und behält die Schlüssel zum Gebäude. Keine der beiden Optionen ist eindeutig die souveränere Wahl — das lohnt es sich zu bedenken, bevor man diesen Begriff verwendet.
Die Niederlande haben einen anderen Weg gewählt, und es lohnt sich, ihn zu kennen, weil er eine ehrlichere Antwort auf dieselbe Frage bietet. Statt selbst zu bauen oder einzukaufen, haben sich niederländische Schulen und Hochschulen zusammengeschlossen und die großen Anbieter förmlich bewerten lassen. Bei der Prüfung von Microsofts KI-Assistenten stießen sie auf zwei Punkte, die sich nicht klären ließen: die Kriterien eines automatischen Inhaltsfilters, die der Anbieter nicht offenlegen wollte, sowie eine achtzehnmonatige Speicherung von Diagnosedaten, die sich nicht rechtfertigen ließ. Es wurde verhandelt. Im März 2026 lehnte der Anbieter jedoch Änderungen ab. Die Bewertung bleibt daher „gelb“, und niederländischen Schulen wird geraten, vorsichtig zu sein und von Fall zu Fall selbst zu entscheiden, statt eine generelle Freigabe zu erteilen. Das eine Land hat das Risiko durch eigenen Aufbau umgangen, das andere hat genauer hingesehen und entschieden, dass es noch nicht so weit ist. Beide Ansätze bieten Lösungen für das Problem, das zu Beginn dieses Kapitels beschrieben wurde.
Der Vergleich klärt noch einen weiteren Punkt. Dass Lehrkräfte den kostenlosen Chatbot der offiziellen Lösung vorziehen, liegt nicht an einer mangelhaften Umsetzung in Deutschland. In Estland, wo der Staat den Zugang für Schülerinnen und Schüler der Sekundarstufe II ausgehandelt hat, nutzte sieben Monate nach Programmbeginn kaum mehr als ein Drittel den offiziellen Chatbot wöchentlich. Es stellte sich heraus, dass die meisten von ihnen bereits vor Beginn des Programms kostenlose Werkzeuge genutzt hatten. Überall konkurriert die geprüfte Umgebung mit der bequemeren. Das offizielle Werkzeug bereitzustellen ist notwendig. Aber es reicht nicht aus.
Der strukturelle Punkt bleibt jedoch bestehen: Regelkonformität ist eine ermöglichende Bedingung, kein Hindernis. Erinnern Sie sich, was in Kapitel 1.2 gesagt wurde? An Schulen mit klaren Regeln nutzten mehr Lehrkräfte KI – und sparten insgesamt mehr Zeit. Regeln haben die Nutzung nicht gebremst.

No comments to display
No comments to display