1.1 Potenziale & Risiken

IfWenn youSie remembersich onlynur oneeinen sentenceSatz formvon thisdieser page:Seite merken: AIKI hashat madeden itsWeg wayin intodie schoolsSchulen likegefunden awie medicineein thatMedikament comesohne withoutBeipackzettel. aAls patientLehrkraft informationwissen leaflet.Sie Asnicht, awann teacher,Sie youKI don’teinsetzen knowsollen, whenes tofehlen useIhnen AI,Dosierungsanweisungen, youund lackes dosagegibt instructions,keine andInformationen thereüber isdie noNebenwirkungen. informationDieses onKapitel thedient sideals effects.Beipackzettel Thisfür chapter serves as the patient information leaflet for thedas Playbook.

ShouldSollte AIKI comemit witheinem aBeipackzettel leafletkommen likewie aein medicine?Medikament?

und wer Anleitung unterrichten Werkzeug einführten. zugeordnet oder leise Kinder erreichten, die sich nie dafür entschieden hatten.

PotentialsPotenziale ofvon AIKI

Let'sMachen makewir thisdas cleargleich rightzu fromBeginn theklar. start.Die Mostmeisten studiesStudien onzum AI'sPotenzial potentialvon focusKI onbeziehen universitysich students.auf SchoolUniversitätsstudierende. pupilsSchülerinnen haveund soSchüler far featured relatively rarelykommen in thesediesen studies.Studien Mostbislang studieseher relateselten tovor. short-termDie interventionsmeisten lastingStudien frombetreffen akurzfristige fewInterventionen hoursvon towenigen aStunden fewbis weeks.wenigen Consequently,Wochen. theFolglich so-calledkönnte noveltyder effectsogenannte mayNeuheitseffekt havedie positivelyErgebnisse influencedpositiv thebeeinflusst results.haben. LastNicht butzuletzt notwurde least,der theTest testzur usedWirksamkeitsmessung tohäufig assessvon effectivenessdenselben wasPersonen oftenentwickelt, deviseddie byauch theden veryUnterricht peopledurchgeführt whohaben. deliveredAuch thedas lessons.könnte This,die too,Daten mayverzerrt have confounded the data.haben.

(1) LetKI AIein explainneues aThema newerklären topiclassen andund keepdie theÜbung practicefür forden youreigenen lessonUnterricht aufheben

ImagineStellen this.Sie sich vor. Tomorrow,Wenn whenmorgen aein pupilSchüler missesoder aeine topicSchülerin orein needsThema thatverpasst trickyhat conceptoder explainedein yetkniffliges again,Konzept letnoch aneinmal AIerklärt tutorbekommen handlemuss, thelassen firstSie explanation.eine ReserveKI-Tutorin thedie practiceerste forErklärung yourübernehmen. lesson,Die whereÜbung realheben learningSie comessich alive.für Ihren Unterricht auf, wo echtes Lernen lebendig wird.

WhyWarum thisdas matters.wichtig ist. AIKI cankann supportden acquisitionErwerb ofvon factualFaktenwissen knowledge.unterstützen. In aeiner HarvardHarvard-Studie study,lernten 194 physicsPhysikstudierende studentszwei learnedThemen. twoFür topics.ein ForThema onenutzten topic,sie theyeine usedeigens andafür AIentwickelte tutorKI-Tutorin. developedFür fordas thisandere purpose.Thema Forlernten the other topic, they learnedsie in aklassischem traditionalUnterricht. class.Jede EachPerson studentdurchlief completedbeide bothAnsätze, approaches,sodass soniemand nobehaupten onekann, candie claimstärkere thatGruppe thehabe strongerdie groupbessere receivedBehandlung the better treatment.erhalten. In aeinem testunmittelbar conducteddanach immediatelydurchgeführten afterward,Test theerzielten studentsdie taughtdurch bydie theKI AIunterrichteten achievedStudierenden significantlydeutlich higherhöhere results.Ergebnisse. TheDie researchersForschenden recordedverzeichneten aeine medianmediane timeBearbeitungszeit ofvon 49 minutesMinuten, toverglichen completemit the task, compared with theden 60 minutesMinuten, allocateddie forim theStundenplan lessonfür indie theEinheit timetable.vorgesehen Thewaren. authorsDie areAutor:innen cautioussind inbei theirder interpretationInterpretation ofdieser theseErgebnisse results:vorsichtig: theDer materialStoff waswar newneu tofür thedie students,Studierenden, andund muchein ofGroßteil theder taskAufgabe simplybestand involvedschlicht explainingdarin, itihn well.gut Theyzu expresslyerklären. rejectSie theweisen ideaausdrücklich thatzurück, thedass samedasselbe wouldfür applyAufgaben togelten taskswürde, requiringdie thedie integrationVerknüpfung ofmehrerer multipleIdeen ideas.erfordern. Furthermore,Zudem thesehandelte werees undergraduatesich students,um notStudierende, Yearnicht 8um pupils.Achtklässler:innen.

AEine largegroße reviewÜbersichtsarbeit, poolingdie thedie resultsErgebnisse ofvon 228 studiesStudien camezusammenführte, tokam azu similareinem conclusion.ähnlichen Schluss. Generative AI-basedKI-Chatbots chatbotserzielten producedeinen agrößeren largerEffekt effectauf ondas knowingWissen (andund understanding)Verstehen) thanals intelligentintelligente tutoringTutorensysteme systems andund adaptive practice software. Übungssoftware.

Go deeper.Vertiefung. Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, Article 17458. FreeFrei access,zugänglich, DOI 10.1038/s41598-025-97652-6. TheDer articleArtikel describesbeschreibt, howwie thedie tutorTutorin waskonzipiert designedund andkontrolliert controlled.wurde. ThisDas isist usefulhilfreich forfür anyonealle, wishingdie toselbst developeine anKI-Tutorin AIentwickeln tutor themselves.möchten.

(2) MakingDie betterZeit usefür ofdie lessonUnterrichtsvorbereitung planningbesser timenutzen

ImagineStellen this.Sie sich vor. SaveSie somesparen ofeinen theTeil timeder youZeit, needdie forSie lessonfür planningdie byUnterrichtsvorbereitung usingbenötigen, AIindem toSie draftKI yournutzen, firstum lessoneinen planersten andEntwurf thenzu reviseerstellen, itden thoroughly.Sie anschließend gründlich überarbeiten.

WhyWarum thisdas matters.wichtig ist. NoNiemand onebestreitet, disputesdass thatdie teachers’Arbeitsbelastung workloadsvon areLehrkräften heavy.hoch Therefore,ist. oneEin potentialmöglicher benefitNutzen ofvon AIKI isbesteht usingdaher workingdarin, hoursdie moreArbeitszeit efficiently.effizienter Azu UKnutzen. studyEine investigatedbritische theStudie extentuntersuchte, toinwieweit whichder thegezielte targetedEinsatz usevon ofKI AIbei forder lessonUnterrichtsvorbereitung planningdie canArbeitsbelastung helpvon toLehrkräften reduceverringern teachers’kann. workload.Forschende Researchers randomly assignedteilten 259 scienceNaturwissenschaftslehrkräfte teachers atan 68 schoolsSchulen tozufällig eitherentweder aeiner groupGruppe usingzu, adie chatboteinen alongsideChatbot briefzusammen writtenmit instructionskurzen orschriftlichen aAnweisungen groupnutzte, thatoder continuedeiner lessonGruppe, planningdie aswie before.bisher Theweiterplante. weeklyDie planningwöchentliche timePlanungszeit forfür scienceden lessonsNaturwissenschaftsunterricht in Yearsden Jahrgangsstufen 7 andund 8 fellsank fromvon aroundetwa 81 minutesauf toetwa around56 56.Minuten. AEin panelGremium ofvon subjectFachexpert:innen expertsbewertete assesseddie theQualität qualityder ofUnterrichtspläne, theohne lessonzu plans.wissen, Theyob diddiese notmit knowoder whetherohne theUnterstützung plansvon hadKI beenerstellt createdworden withwaren. orDie withoutExpert:innen thefanden aidkeine ofHinweise AI.darauf, Thedass expertssich founddie noQualität evidenceder toPläne suggestunterschied. thatZwei thePunkte qualitysind ofjedoch the lesson plans differed. However, two points must be highlighted.hervorzuheben. (1) TheDie teachersLehrkräfte usednutzten thedas toolWerkzeug lessim andLaufe lessder asWochen theimmer weeksweniger, wentwas on,bedeutet, meaningdass thatdie theZeitersparnis timenicht savedautomatisch doeseintritt notund occursich automaticallynicht andvon doesselbst not sustain itself.aufrechterhält. (2) TheDie trialStudie measuredmaß thedie timevon spentLehrkräften byfür teachersdie onUnterrichtsplanung lessonaufgewendete planning,Zeit, notnicht theirdie pupils’Lernergebnisse learningder outcomes.Schüler:innen.

GoVertiefung. deeper. Roy, P., Poet, H., Staunton, R., Aston, K., & Thomas, D. (2024, 1212. December)Dezember). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, commissionedim byAuftrag theder Education Endowment Foundation andund theder Hg Foundation. FreeFrei atverfügbar unter educationendowmentfoundation.org.uk.

(3) ProvidingBessere betterUnterstützung supportfür forLernende, learnersdie whovom doStandardunterricht notnicht benefitin fullyvollem fromUmfang standard lessonsprofitieren

ImagineStellen this.Sie sich vor.Your schoolIhre decidesSchule howentscheidet, itwie wishessie toihre spendMittel itseinsetzen funds.möchte, It wants to purchase an AI chatbot. How likely do you think it is that the chatbot providersund will provideeinen youKI-Chatbot withanschaffen. evidenceWie ofwahrscheinlich theist bot’ses benefitsIhrer forMeinung differentnach, subjects?dass die Anbieter des Chatbots Ihnen Nachweise für dessen Nutzen in verschiedenen Fächern liefern?

WhyWarum thisdas matters.wichtig ist.The providerDer mayAnbieter pointverweist outmöglicherweise theauf followingfolgende application.Anwendung. Chatbots aresind thedie oldestälteste andund best-documentedam applicationbesten ofdokumentierte ‘AI’Anwendung von „KI" in education,der andBildung this– isund preciselygenau whatdas iswird oftenbei overlookedder whenMittelvergabe allocatingoft funds.übersehen. In aneiner analysisAnalyse ofvon 29 studiesStudien involvingmit 41 groupsGruppen ofvon learnersLernenden withmit disabilities,Behinderungen researchersfanden foundForschende moderate benefitsVorteile acrossüber aein widebreites rangeSpektrum ofvon settings.Settings Buthinweg. readAber thelesen smallSie print.das Kleingedruckte. In sevensieben outvon ofzehn tendieser ofStudien thesebedeutete studies,„KI" ‘AI’einen meantRoboter: aeine robot:kleine aphysische smallMaschine physicalauf machineeinem sittingTisch, onoft avon table,einer oftenForschungsperson operatedaus byeinem aanderen researcherRaum gesteuert. Nur in anothereiner room.von Onlyfünf oneStudien kam Software zum Einsatz. Das ist also kein Beweis dafür, dass ein Chatbot einem autistischen Schüler oder einer autistischen Schülerin in fiveIhrer studiesKlasse usedhilft. software.Auch Sokonnten thisdie isAutor:innen noder proofÜbersichtsarbeit thatnicht asagen, chatbotwas willdiese helpInterventionen anwirksam autisticmacht. pupilAus inihrer yourForschung class.ließ Norsich couldnicht theableiten, reviewerswarum saysich whatdie makeserfolgreichen thesevon interventionsden effective.nicht Basederfolgreichen onStudien their research, they could not identify why the studies that worked differed from those that did not.unterschieden.

GoVertiefung. deeper. Zhang, L., Carter, R. A., Jr., Liu, Y., & Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. Review of Educational Research, 96 (1). DOI 10.3102/00346543241293424. TheDas realeigentliche gemHighlight isist thedie tableTabelle ofder includedeingeschlossenen studies:Studien: itSie instantlyzeigt revealsauf justeinen howBlick, littlewie ofwenig thissich fielddieses actuallyFeld focusestatsächlich onmit theden toolsWerkzeugen currentlybeschäftigt, beingdie marketedderzeit toan schools.Schulen vermarktet werden.

(4) TeachingLernenden learnerszeigen, howwo AIKI failsversagt

ImagineStellen this.Sie sich vor. AskSie yourlassen classIhre toKlasse createzehn tenBilder imagesvon of„einem 'aArzt/einer doctor'Ärztin" andund tenzehn ofvon 'a„einer nurse.'Pflegekraft" Tallyerstellen. upZählen whoSie appearsaus, wer in eachwelchem set,Set thenerscheint, sparkund aentfachen discussion:Sie wheredann dideine theseDiskussion: patternsWoher comekommen from,diese andMuster, whound madewer thosehat choices?diese Entscheidungen getroffen?

FigAbb. 1. ImageBild createderstellt withmit NanoBanana 2, createderstellt August,am 20,20. August 2026, One shot prompt:One-Shot-Prompt: a doctor, a nurse

WhyWarum thisdas matters.wichtig ist. TheDie classicklassische versionVersion ofdieser thisUnterrichtseinheit lessonwirkt feelsinzwischen outdated,überholt, andund thatgenau isdeshalb exactlyverdient whysie itAufmerksamkeit. deservesJahrelang attention.war Fordie years,Demonstration thevorhersehbar: demonstrationMan wasfragte predictable:nach askeinem forArzt, aund doctor,es anderschien aein man appears.Mann. In oneeinem systematicsystematischen test,Test zeigte Midjourney almostÄrzte alwaysfast picturedimmer doctorsals asweiße whiteMänner, men, whilewährend Adobe Firefly madesichtbare, visible,wenn ifauch imperfect,unvollkommene, attemptsVersuche tounternahm, diversify.mehr Vielfalt abzubilden.

TryProbieren theSie samedenselben promptPrompt today,heute andaus, youund mightSie seekönnten aeine femaleÄrztin doctoroder oreinen amännlichen malePfleger nurse appearsehen (Fig.Abb. 1). ButLassen doSie notsich beaber foolednicht intotäuschen thinkingzu theglauben, biasdie hasVerzerrung vanished.sei Averschwunden. Eine Analyse von 1.344 Bildern aus drei populären Generatoren aus dem Jahr 2026 analysiszeigte ofdas 1,344Gegenteil: imagesBei fromder threeAnfrage popularnach generatorseiner revealed„kompetenten thePerson" opposite:zeigte whenein askedSystem forkeine aeinzige 'competent person,' one system showed no women.Frau.

WhatVerändert changedhat issich notnicht thedie biasVerzerrung, butsondern thedie layerEbene, itauf livesder sie wirkt – und genau das ist die wichtige Lektion! Hinter jedem dieser Bilder stehen menschliche Entscheidungen: womit das System trainiert wurde und was seine Entwickler:innen im Nachhinein entschieden haben, dass es zeigen soll. Die zweite Ebene ist veränderbar, unsichtbar und wird von einem Unternehmen festgelegt.

Die erste Ebene menschlicher Entscheidungen ist das, was das System aufgesogen hat. Millionen von Bildern, von Menschen erstellt und beschriftet, jedes davon ein Echo der Welt, wie sie bereits war. Das ist die Ebene, die die klassische Unterrichtseinheit zu Verzerrungen offenlegt, und Schüler:innen begreifen sie leicht: Die Maschine wurde zu einem Spiegelbild dessen, womit sie gefüttert wurde.

Die zweite Ebene wird davon geprägt, was ein Unternehmen als Nächstes zeigen möchte – dieser Einfluss hinterlässt jedoch keine Spur im Bild selbst. Hier spielen sich drei Dinge ab, jedes davon von den Entwickler:innen in -ihren andeigenen thisWorten the important lesson! Human decisions stand behind any of these pictures: what the system was trained on, and what its makers afterward decided it should show. The second is adjustable, invisible, and made by a company. beschrieben.

• YourIhre wordsWorte arewerden rewrittenumgeschrieben, beforebevor thedas modelModell receivessie them.erhält. FromAus OpenAI’sOpenAIs owneigener developerEntwicklerdokumentation: documentation: “„we use GPT-4 to optimize all of your prompts before they’they're passed to DALL-E”E" —– andund “„this feature isn’isn't able to be disabled at the moment.”" WhatWas yourIhr pupilSchüler typedoder isIhre notSchülerin whateingegeben thehat, machineist nicht das, was asked.die Maschine gefragt wurde.
• AppearanceDas getsErscheinungsbild filledwird inergänzt, whenwenn theder promptPrompt leaveses it open.offenlässt. OpenAI,OpenAI describingbeschreibt itsseine diversityDiversitätstechnik technique:so: “„This technique is applied at the system level when DALL·E is given a prompt describing a person that does not specify race or gender, like ‘'firefighter.’”'" Afterwards,Danach usersgaben wereNutzer:innen twelvezwölfmal timeshäufiger morean, likelydie toBilder sayzeigten theMenschen imagesunterschiedlicher showedHerkunft. people„Ein ofArzt" diverseist backgrounds.genau “Aeine doctor”solche isArt exactlyvon that kind of prompt.Prompt.
• AndUnd thatdiese tuningFeinabstimmung cankann miss.danebengehen. Google, afternachdem pausingdie Gemini’sBildgenerierung imagevon generationGemini in2024 2024:pausiert “wurde: „Our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range.”"

This is the lesson that deserves a student's attention, and it will outlast the next model update: the image is not a simple reflection of reality, and it did not happen by chance. Someone made a choice.selbst.

ThisDie lessonalte canGeschichte startbehauptete, early.die WhenMaschine habe schlicht die Vorurteile der Gesellschaft aufgesogen. Die neue Geschichte geht tiefer und hält länger: Das Bild ist kein Spiegel, und es ist kein Zufall. Ein Unternehmen hat eine Entscheidung getroffen! Diese Entscheidung lässt sich im Ergebnis nicht erkennen, und sie kann sich an einem x-beliebigen Dienstag ändern, still und ohne Vorwarnung. Diese Wahrheit überdauert jedes neue Modell. Die klassische Stereotyp-Lektion verblasst.

Das ist die Lektion, die die Aufmerksamkeit der Lernenden verdient, und sie wird das nächste Modell-Update überdauern: Das Bild ist keine einfache Widerspiegelung der Realität, und es ist nicht zufällig entstanden. Jemand hat eine Entscheidung getroffen.

Diese Lektion kann früh beginnen. Als 209 Finnishfinnische studentsSchüler:innen in 12 classes,Klassen gradesder Jahrgangsstufen 4 and 7, explored this topic, the number who could explain the bias using data jumped from aboutund 7 outsich ofmit diesem Thema befassten, stieg der Anteil derer, die die Verzerrung datenbasiert erklären konnten, von etwa 7 von 100 toauf 44 out ofvon 100. TheDer honestehrliche reservation:Vorbehalt: theDie studyStudie measuredmaß, whatwas childrendie couldKinder explain,erklären notkonnten, whatnicht, theywie wouldsie dospäter later.handeln würden.

GoVertiefung. deeper. Vartiainen, H., et al (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(27(9). Free,Frei zugänglich, DOI 10.1177/14614448241252820

Weinmann, H., et al (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. New Media & Society, Online First

HowWie solidbelastbar aresind thedie researchForschungsergebnisse resultszu onden thePotenzialen potentialsvon ofKI AIim at this very moment?Moment?

TheDas mostWichtigste importantzuerst. thing.Wenn IfIhnen someonejemand quoteseine aStudie studyzitiert, tostellen you,Sie askzwei twoFragen, questionsbevor beforeSie agreeing:zustimmen: "Who„Wer werewaren thedie learners,Lernenden, andund howwie longlange diddauerte thedie study last?Studie?"

WhyWarum thisdas matters.wichtig ist.In 2025,2025 aberichtete meta-analysiseine ofMetaanalyse von 51 studiesStudien reportedüber aeinen significantsignifikanten benefitNutzen ofvon ChatGPT forfür pupils’die academicschulischen performance.Leistungen Thevon articleSchüler:innen. wasDer readArtikel hundredswurde ofhunderttausende thousandsMale ofgelesen timesund anddiente servedals asGrundlage thefür basiszahlreiche forselbstsichere numerousAussagen confidentim statementsLehrerzimmer. Am 22. April 2026 zog die Fachzeitschrift den Artikel zurück. Eine Rücknahme (Retraction) bedeutet, dass eine Fachzeitschrift offiziell etwas zurückzieht, das sie veröffentlicht hat; der Artikel bleibt sichtbar, jedoch mit dem Vermerk „RETRACTED" gekennzeichnet, sodass alle, die ihn zitiert haben, dies erkennen können. Zwei externe Forschende hatten Unstimmigkeiten in staffder rooms.Zusammenführung Onder 22Studien Aprilentdeckt. 2026,Die theverantwortliche journalRedakteurin retractedder theFachzeitschrift article.schrieb, Adie *retraction*Probleme means„untergraben thatdas aVertrauen journalder officially withdraws something it has published; the article remains visible, marked with the note ‘RETRACTED’, so that anyone who has cited it can recognise this. Two external researchers had identified inconsistenciesRedaktion in thedie synthesisValidität ofder the studies. The journal's editor wrote that the problems ‘undermine the editor’s confidence in the validity of the analysis’Analyse". TheDie authorsAutor:innen didreagierten notnicht respondauf todie correspondenceKorrespondenz onzu thisdiesem matter.Thema.

Das bedeutet nicht, dass KI keine Wirkung hat. Es gibt seriöse Studien, die moderate Vorteile belegen. Dieses Forschungsfeld ist zudem noch nicht klar abgegrenzt, da es relativ neu und hochdynamisch ist. Es bedeutet, dass die häufig zitierte Zahl falsch war – und dass es ein Jahr und zwei externe Fachleute brauchte, um das festzustellen.

Ein weiterer erwähnenswerter Vorbehalt: Je näher die Evidenz an die Schule heranrückt, desto kleiner fällt der Effekt aus – zumindest im Moment.

ThisVertiefung. doesDie notRücknahme meanselbst thatumfasst AInur haseine noSeite, impact.ist Therefrei arezugänglich reputableund studieslohnt thatsich demonstrategerade moderatewegen benefits.ihrer This field of research is also not yet well defined because it is relatively new and highly dynamic. It means that the figure that was frequently cited was incorrect, and that it took a year and two external experts to realise this.

Another reservation worth mentioning is: The closer the evidence gets to school, at least at the moment, the smaller the effect. 

Go deeper.  The retraction itself is one page, free, and worth reading precisely because it is short:Kürze: Wang, J., & Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13,13, 528. DOI 10.1057/s41599-026-07310-z.

TheDas retractedzurückgezogene originalOriginal waswar HSSC 12, 621 (2025). StillWeiterhin standing:gültig: Wu, X., Zhu, P., Zhang, J., Yin, M., & Wang, Y. (2026). *HSSC, 13*13, 684. Free,Frei zugänglich, DOI 10.1057/s41599-026-07019-z.
TheDie school-onlyreine figure:Schul-Zahl: Yi, L., Liu, D., Jiang, T., & Xian, Y. (2025). *International Journal of Science and Mathematics Education, 23*23(4), 1105–1126. DOI 10.1007/s10763-024-10499-7.

RisksRisiken ofvon AIKI

(1) DoingEtwas somethingzu istun notist thenicht samedasselbe aswie learningzu lernen

ImagineStellen this.Sie sich vor. BeforeBevor youSie seteine aHausaufgabe homeworkstellen, taskdie thatein aChatbot chatboterledigen cankann, complete,überlegen thinkSie aboutsich, whatwelchen theZweck purposedie ofAufgabe theeigentlich taskverfolgt. is.Wäre Mightes itvielleicht besinnvoll, adie goodAufgabe ideazu to change the task?ändern?

WhyWarum thisdas matters.wichtig ist. DoLernt youman learnmit fastereinem withChatbot aschneller? chatbot?Rund Aroundtausend aSchüler:innen thousandder pupilsJahrgangsstufen 9 bis 11 übten Mathematik in Yearsdrei 9Gruppen: toeine 11mit practisedeinem mathsStandard-Chatbot, ineine threemit groups:einer oneVersion, usingdie aprogrammiert standardwar, chatbot,die oneAntwort usingzurückzuhalten aund versionstattdessen programmedeine toRückfrage withholdzu thestellen, answerund andeine askohne aChatbot. follow-upWährend question,der andNutzung onebearbeitete withoutdie aGruppe chatbot.mit Whilstdem using the chatbot, the group with the standard chatbot completedStandard-Chatbot 48 percentProzent moremehr practiceÜbungsaufgaben exercisesals thandie theGruppe groupohne. withoutAnschließend one.schrieben Afterwards,alle everyonedieselbe satPrüfung theohne sameChatbot. examDas withoutzunächst aüberraschende chatbot.Ergebnis: TheDie result,Gruppe whichmit seemeddem surprisingStandard-Chatbot at first, was that the group using the standard chatbot performedschnitt 17 percentProzent worseschlechter thanab theals pupilsdie whoSchüler:innen hadohne notChatbot. usedDie aGruppe, chatbot.die Themit groupdem thatantwortzurückhaltenden hadChatbot workedgearbeitet withhatte, thezeigte chatbotim whichTest withheldkeinen theLeistungsabfall answergegenüber showedder noGruppe dropohne inChatbot, performanceübte inaber themehr. testDie comparedSchüler:innen tomit thedem groupStandard-Chatbot withoutwaren aweder chatbot,faul, butnoch practisedhaben more.sie Thebetrogen. pupilsSie usingarbeiteten thehärter standardund chatbotlernten wereweniger, neitherdenn lazydas norWerkzeug dideliminierte theynicht cheat.die TheyAnstrengung, workedsondern harderdie andkognitive learntHerausforderung, less,aus becauseder whatLernen the tool eliminated was not the effort, but the cognitive challenge that constitutes learning. besteht.

Go deeper.Vertiefung. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. *PNAS, 122*,122, e2422633122. DOI 10.1073/pnas.2422633122.

(2) AIKI-Erkennungstools Detectorsbestrafen punishdie thefalschen wrong pupilsSchüler:innen

ImagineStellen this.Sie sich vor. YouSie receiveerhalten aeinen student’sAufsatz essayzur toBewertung. grade.Aus CuriousNeugier aboutüber itsdessen authenticity,Echtheit yougeben feedSie itihn intoin aneinen AIKI-Detektor detector.ein. TheDas resultErgebnis flashes:blinkt theauf: essayDer wasAufsatz almostwurde certainlynahezu writtensicher byvon AI.KI geschrieben.

WhyWarum ites matters.wichtig ist. YouSie usesetzen theden AIKI-Detektor detectorein, toum ensureFairness fairness,sicherzustellen yet– fordoch afür particulareine group,bestimmte theGruppe detectorsbewirken havedie exactlyDetektoren thegenau oppositedas effect.Gegenteil. AEin detectorDetektor doeserkennt notkeinen recognisemaschinell machine-generatederzeugten text.Text. ItEr measuresmisst, howwie predictablevorhersehbar thedie wordingWortwahl is.ist. AndUnd thatgenau isdarin preciselyliegt wheredas theProblem, problemetwa lies,wenn foreine example, when a pupil is writingPerson in aeiner foreignFremdsprache language,schreibt, iswenig unpractisedSchreibpraxis hat oder über einen begrenzten Alltagswortschatz verfügt. Ihr Schreiben ist vorhersehbar. Als sieben kommerzielle Detektoren 91 Aufsätze von Nicht-Muttersprachler:innen in writing,einer orEnglischprüfung hasanalysierten, awurden limiteddiese everyday vocabulary. Their writing is predictable. When seven commercial detectors analysed 91 essays written by non-native speakers sitting an English exam, these essays were incorrectly flagged as machine-generatedAufsätze in aroundrund sixsechs outvon ofzehn tenFällen cases.fälschlich Byals contrast,maschinell essayserzeugt writteneingestuft. byIm Gegensatz dazu wurden Aufsätze 14-year-oldjähriger AmericansAmerikaner:innen in theirihrer nativeMuttersprache language,Englisch English,fast weredurchweg almostkorrekt alleingestuft. classifiedEin correctly.Werkzeug, Adas toolausgerechnet thatbei triggerseiner falseGruppe positivesfalsch-positive forErgebnisse exactlyliefert, oneist group is notnicht neutral. Furthermore,Zudem thisist groupdiese isGruppe theam leastwenigsten ablein toder defendLage, itself.sich dagegen zu wehren.

GoVertiefung. deeper. Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(4(7), 100779. Free,Frei zugänglich, DOI 10.1016/j.patter.2023.100779.

(3) WhereWo onlanden earthdie willDaten theder pupils'Schüler:innen data be?eigentlich?

ImagineStellen this.Sie sich vor. YouSie usenutzen anein AIKI-Werkzeug, tooldas yourIhre schoolSchule offers.anbietet. TryVersuchen toSie findherauszufinden, outwohin wheredie theDaten pupils'der dataSchüler:innen go.gehen.

WhyWarum ites matters.wichtig ist. CanKann yourIhre schoolSchule ensuresicherstellen, thatdass thedie dataDaten isnicht notan passedDritte onweitergegeben towerden? aEin thirdDritter party?ist Aein thirdUnternehmen, partydas isweder companyIhre thatSchule isnoch neitherdie yourEntwicklerin schoolder norApp theist. app’sTypischerweise developer.handelt Typically,es thesesich areum advertisingWerbe- oroder analyticsAnalyseunternehmen, companiesdie thatDaten receiveerhalten, datawährend whilstdie theSchüler:innen pupilarbeiten. isNiemand working.an Noder oneSchule athat thedieses schoolUnternehmen choseausgewählt. thisAls company.Forschende Wheneine researcherstechnische carriedAnalyse out a technical analysis ofvon 163 learningLernprodukten productsdurchführten, recommendeddie bywährend governmentsder duringpandemiebedingten theSchulschließungen pandemic-relatedvon schoolRegierungen closures,empfohlen wurden, verarbeiteten 145 ofdavon themdie processedDaten children’svon dataKindern inauf aeine wayWeise, thatdie jeopardisedderen orRechte infringedgefährdete theiroder rightsverletzte, byindem transmittingsie dataDaten toan 196 third-partyDrittunternehmen companyübermittelten oroder grantingihnen themZugriff access,darauf predominantlygewährten from– theüberwiegend advertisingaus industry.der OfWerbebranche. theVon den 42 governmentsRegierungen, thatdie developedeigene theirProdukte ownentwickelten, productsstatt rathersie thaneinzukaufen, purchasing them,hatten 39 hadProdukte developedmit productsdemselben withProblem theentwickelt. sameDie problem.Studie Thebezieht studysich coversauf productsProdukte fromaus dem Jahr 2021, andund someeinige mayhaben havesich changedseither sincemöglicherweise then.verändert. However,Wir wekönnen cannotjedoch rulenicht outausschließen, thatdass theÄhnliches sameauch appliesfür toKI-Anwendungen AI applications. gilt.

GoVertiefung. deeper. Human Rights Watch (2022). "„How dare they peep into my private life?": Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. FreeFrei atverfügbar unter hrw.org. TheIn countryden annexesLänderanhängen letkönnen youSie look up whatnachschlagen, was endorsedwo where.empfohlen wurde.

(4) AIKI arriveskommt lastzuletzt wheredort itan, iswo neededsie mostam dringendsten gebraucht wird

ImagineStellen this.Sie sich vor.How muchWie trainingviel didFortbildung youhaben alreadySie receivebisher onzum learningThema aboutKI AIoder orzum subject-specificfachspezifischen teachingUnterrichten withmit AI?KI erhalten?

WhyWarum thisdas matters.wichtig ist.Adults whoErwachsenen, haddie completedihre theirAusbildung educationbereits wereabgeschlossen providedhatten, withwurde eine KI-Assistentin zur Verfügung gestellt. Die Leistungslücke zwischen Personen mit höherer und niedrigerer formaler Bildung verringerte sich deutlich. Als die Forschenden die Assistentin anschließend wieder entzogen, tauchte die Lücke teilweise erneut auf. Die Forschenden schlossen daraus, dass die KI-Assistentin die Arbeit erledigt, den Teilnehmenden aber keine Fähigkeiten vermittelt hatte.

Eine Befragung amerikanischer Schulleitungen zeigte folgendes Bild: Je benachteiligter die Schüler:innen einer Schule waren, desto geringer war der Einfluss von KI auf den Unterricht.

Verbindet man die Erkenntnisse beider Studien, lässt sich Folgendes festhalten: Ein gutes Werkzeug kann eine Lücke schließen, solange es sich in den Händen einer lernenden Person befindet. Es erreicht jedoch in der Regel nicht diejenigen, die es am meisten bräuchten, und hinterlässt keine Fähigkeiten, wenn es wieder entfernt wird.

Zahlen aus Deutschland zeigen dasselbe Muster. Unter 1.590 Jugendlichen im Alter von 14 bis 20 Jahren sahen 80 Prozent aus den wohlhabendsten Familien und 55 Prozent aus den einkommensschwächsten Familien KI als Chance. Und auf die Wahrnehmung folgt das Handeln: 70 Prozent der Gymnasiast:innen nutzten KI für Hausaufgaben, verglichen mit 58 Prozent an AISchulen assistant.der TheSekundarstufe performanceI gapohne betweengymnasiale those with higher and lower levels of formal education narrowed significantly. When the researchers then withdrew the assistant, the gap partially re-emerged. The researchers concluded that the AI assistant had carried out the work, but had not helped participants develop any skills.Ausrichtung.

AWie surveysteht ofes Americanum schooldie principalsFortbildung revealedvon theLehrkräften? followingEine picture:Befragung thevon moremehr disadvantagedals azehntausend school’s pupils were, the less impact AI had on teaching.

If we combine the findings from both studies, they allow us to make the following statement: A good tool can bridge a gap as long as it is in the hands of a learner. However, it usually does not reach those who need it, and leaves no skills behind when it is removed.

German figures show the same patte. Among 1,590 young people aged 14 to 20, 80 percent in the most affluent families and 55 percent in the least affluent saw AI as an opportunity. And recognition is followed by action: 70 percent of grammar school pupils used AI for homework, compared with 58 percent at lower secondary schools.

What about teacher professional development? A survey of more than ten thousand teachersLehrkräften in England foundergab, thatdass 45 percentProzent ofder teachersLehrkräfte atan privatePrivatschulen schoolsbereits hadeine alreadyKI-Fortbildung receivederhalten traininghatten. onIm AI.staatlichen ThisSchulsystem comparedwaren withes dagegen 21 percentProzent. atInnerhalb statedes schools.staatlichen WithinSchulsystems thereichten statedie schoolWerte system, the figures ranged fromvon 26 percentProzent atan theden wealthiestwohlhabendsten schoolsSchulen tobis zu 18 percentProzent atan theden poorestärmsten schools. Schulen.

(5) WhatWas improvessich whenbeim learningLernen withmit AIKI isverbessert, notist necessarilynicht whatunbedingt youdas, seewas man sieht

ImagineStellen thisSie sich vor.. YouSie introduceführen aeinen newneuen ChatBotChatbot intoin yourIhrem teachingUnterricht andein, theund pupilsdie enthusiasticSchüler:innen aboutsind usingbegeistert thedavon, newdas tool.neue Werkzeug zu nutzen.

WhyWarum thisdas matters.wichtig Aist. largeEine reviewgroße foundÜbersichtsarbeit fouruntersuchte differentvier thingsverschiedene aboutAspekte learningdes Lernens (KnowingWissen andund understanding,Verstehen, workingArbeiten withmit AI,KI, engagement,Engagement/Motivation/Selbstvertrauen, motivation,sowie confidence,die abilityFähigkeit, todie plan,eigene monitorArbeit andzu correctplanen, theirzu ownüberwachen work)und zu korrigieren). TheDer lastletzte oneAspekt didn'tverbesserte improvesich whereasnicht, thedie othersanderen did.hingegen schon.

• ForBeim knowingWissen andund understandingVerstehen zeigte generative AIKI hadgrößere largerEffekte effectsals thanintelligente intelligentTutorensysteme tutoring systems andund adaptive practiceÜbungssoftware, softwaredie thatbereits isan alreadySchulen usedim inEinsatz schools.sind.
• ForBei applyingder knowledge,Anwendung andvon forWissen motivationsowie andbei engagement,Motivation AIund didEngagement notschnitt performKI betternicht thatbesser alreadyab existingals software.bereits vorhandene Software.
• ForFür self-steeringdie weSelbststeuerung dogibt notes havenoch enoughnicht studiesgenug toStudien, tellum anyeinen effect.Effekt festzustellen.

Here’sEine akurze quickRandbemerkung: sideDie note:größten theEffekte greatestzeigen impacts are foundsich in theden artsGeistes- andund humanities,Kunstwissenschaften, rather thanweniger in mathematicsMathematik oroder theden natural sciences.Naturwissenschaften.

GoVertiefung. deeper. Yeo, G. H., & Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(37(4), article 110. DOI 10.1007/s10648-025-10085-5.