1.3 Verantwortungsbewusster Einsatz von KI

Take Home messageKernbotschaften

• ResponsibilityVerantwortung isist aeine designGestaltungsaufgabe, task,keine not a control task.Kontrollaufgabe. DetectionDie ofErkennung AIvon doesKI notfunktioniert worknicht properly.zuverlässig.
• AndUnd AIKI-Erkennung detectionist isunfair, unfairwenn whensie it fails.versagt. ThereEs isbesteht adas riskRisiko, ofAntworten mistakenlyfälschlich identifyingals answersKI-generiert aszu AI-generated,identifizieren or– viceoder versa.umgekehrt. SeveralMehrere Europeaneuropäische countriesLänder havehaben alreadydiese ruledWerkzeuge outbereits these tools.ausgeschlossen.
• ConfidentSelbstsichere inventionErfindung andund inheritedererbte biasVerzerrungen followergeben fromsich howdaraus, thesewie systemsdiese areSysteme builtgebaut andund judged.bewertet werden. TheDie consequenceKonsequenz shouldsollte be:sein: teachsie themzu ratherlehren, thanstatt waitingauf foreine aReparatur fix. zu warten.
• TheDas workingWirkprinzip principlelautet: is:erst thinkdenken, first,dann then AI.KI. MakingMenschen peopledazu commitzu tobringen, theirsich ownzunächst answerauf beatseine explainingeigene theAntwort machine;festzulegen, buildingschlägt limitsdas intoErklären theder softwareMaschine; beatsGrenzen banningin it.die Software einzubauen schlägt ein Verbot.
• Prompts aloneallein don'thalten hold.nicht. AEin chatbotChatbot, taskedder withals actingTutor asagieren asoll, tutorneigt tendsdazu, towieder driftin backdie toAntwortvergabe givingzurückzufallen, answers,was whichverlässliche makesGrenzen reliablezu limitseiner aBeschaffungsfrage purchase question.macht.
• AmplificationVerstärkung isist theder default;Normalfall; equalizationAusgleich mustmuss beaus builtZugang, Gestaltung und Lernbegleitung gemeinsam aufgebaut werden from– access,und designdas andKnappste scaffoldingder togetherdrei —ist andeine thegeschulte scarcest of the three is a trained teacher.{{rev}}Lehrkraft.
• InclusionInklusion isist theder clearestklarste winGewinn, andund wheredort teacherssehen themselvesLehrkräfte seeselbst thedas strongeststärkste case.Argument.

IfWenn youSie remembersich onlynur oneeinen sentenceSatz fromvon thisdieser page:Seite merken: TheDie damsDämme arebrechen. breaking.Bringen TeachSie swimming.das Schwimmen bei.

TheDas readingLesetagebuch, journal,zweiter second lookBlick

BackZurück tozu ourunserem ninth-gradeNeuntklässler studentund andseinem hisverdächtig suspiciouslydruckreifen polishedLesetagebuch. readingDer journal.Instinkt Theist instinctfast isuniversell, almostund universal,es andist itder isInstinkt theeiner instinctguten of a good teacher:Lehrkraft: findherausfinden, outob whetherer heKI usedbenutzt AI.hat. BuildEinen abesseren betterDamm dam.bauen.

ThisDieses chapterKapitel ishandelt aboutdavon, whywarum thatdieser instinct,Instinkt onfür itssich own,genommen leadsnicht nowhere.weiterführt. WeWir willkommen comedazu, towas whatstattdessen works instead.funktioniert.

StartBeginnen withwir themit uncomfortabledem part. unbequemen Teil. TeachersLehrkräfte cannotkönnen reliablyKI-Text tellnicht AIzuverlässig textvon fromSchülertext student text.unterscheiden. In aeiner Germandeutschen study,Studie erhielten 289 teachersLehrkräfte ofunterschiedlicher differentErfahrung experienceeine wereMischung givenaus aSchüler- mixund ofChatbot-Texten studentund writingsollten anddiese chatbotsortieren. writingKeine andder askedbeiden toGruppen sortkonnte it.es. NeitherAber groupbeide could.Gruppen Butwaren bothzuversichtlich, groupsdass weresie confidentes theykönnten. could. ExperienceErfahrung mademachte almostfast nokeinen difference. AtUnterschied. scale,Im itgroßen isMaßstab worse.ist Ates onenoch university,schlimmer. researchersAn submittedeiner chatbot-generatedUniversität answersreichten intoForschende thevon realChatbots examinationerzeugte systemAntworten throughüber thedie normalüblichen channels,Kanäle withoutin notifyingdas theechte markers.Prüfungssystem ein, ohne die Korrigierenden zu informieren. 94 % werewurden nevernie questionedhinterfragt. Moreover,Zudem onwurden average,sie theyim were gradedSchnitt abovebesser thebewertet workals ofdie actualArbeiten students.echter So,Studierender. what'sWas thefolgt consequence?daraus? WeWir reachgreifen forzur theMaschine! machine!Und Andgenau herehier thehört findingder stopsBefund beingauf, awkwardnur andunbequem becomeszu sein, und wird zu einem ethischen Problem!

Der Detektor, der die Falschen im Stich lässt

Forschende testeten sieben der am weitesten verbreiteten KI-Detektoren an ethicalTOEFL-Aufsätzen problem!

von

TheSchüler:innen, detectordie thatEnglisch failsals theFremdsprache wronglernen. students

Daneben

Researcherslegten testedsie sevenAufsätze ofenglischer theMuttersprachler:innen mostaus widelyamerikanischen usedachten AIKlassen. detectorsDie onArbeiten TOEFLder essaysMuttersprachler:innen writtenwurden byfast studentsimmer learningkorrekt Englisheingestuft. asVon aden foreignfremdsprachigen language.Aufsätzen Alongside,wurden theymehr putals essayssechs byvon native-speakingzehn Americanfälschlich eighth-graders.als Themaschinell nativegeschrieben speakers' work was classified correctly almost every time. Of the foreign-language essays, more than six in ten were wrongly flagged as machine-writtenmarkiert.

TheDer mechanismMechanismus isist notkein mysterious.Geheimnis. TheseDiese toolsWerkzeuge doerkennen notnicht detectdie theArbeit work ofvon Large Language models,Models, theysie detect erkennen predictabilityVorhersehbarkeit. TextText, thatder usesgängige common wordsWörter in expectederwarteter ordersReihenfolge scoresverwendet, aswird artificial.als Anyonekünstlich writingeingestuft. Wer in aeiner secondZweitsprache language,schreibt, withmit akleinerem smallerWortschatz vocabularyund andsichereren saferSatzstrukturen, sentenceerzeugt structures,genau producesdieses exactly that signal.Signal. TheDie tool'sFehler mistakesdes fallWerkzeugs systematicallytreffen onsystematisch thedie studentsSchüler:innen, whodie areohnehin alreadyschon carryingam themeisten most.zu tragen haben.Institutions haveInstitutionen donehaben thenachgerechnet. arithmetic.Die Vanderbilt University pointedwies outdarauf thathin, evendass ifselbst suchwenn aein toolsolches wereWerkzeug wrongnur onlyin 1 % ofder theFälle time,irren thatwürde, woulddas stillimmer meannoch roughly rund 750 wronglyzu accusedUnrecht studentsbeschuldigte aStudierende yearpro Jahr outbei of its 75,75.000 submissions.eingereichten Consequently,Arbeiten theybedeuten switchedwürde. itFolglich off.schalteten Thesie guidancees issuedab. byDie Germany'sLeitlinie federaldes educationdeutschen ministryBundesbildungsministeriums isist blunt:unmissverständlich: theDie technologyTechnologie issei "not„nicht sufficientlyzuverlässig reliablegenug, toum provideeinen legallyrechtssicheren secureNachweis proof."zu liefern".

MuchEin ofGroßteil EuropeEuropas hasdiskutiert stoppeddas debatingnicht this.mehr. France,Frankreich, thedie NetherlandsNiederlande andund Switzerlanddie adviseSchweiz againstraten detectorsvon orDetektoren forbidab them.oder Theverbieten Unitedsie. Kingdom'sDie exambritische regulatorPrüfungsaufsicht hashat deliberatelysich chosenbewusst humanfür judgmentmenschliches overUrteilsvermögen software.anstelle Thevon DutchSoftware argumententschieden. goesDas oneniederländische stepArgument furthergeht andnoch iseinen worthSchritt carryingweiter home:und lohnt sich zu merken: pastingDie aArbeit student'seiner workSchülerin intooder aeines detectorSchülers isin itselfeinen anDetektor acteinzufügen, ofist processingselbst theireine personalVerarbeitung datapersonenbezogener Daten, andund doingdies itohne withoutErlaubnis permissionzu breakstun, dataverstößt protectiongegen law.das Datenschutzrecht. → 1.54 CompliantKonformer UseEinsatz ofvon AIKI

ItEs seemsscheint, thatdass thedie cheatingBetrugspanik panicdünner isist thinnerals thander theLärm noisedarum. aroundForschende it.befragten ResearchersSchüler:innen surveyedan studentsdrei atweiterführenden threeSchulen secondaryvor schoolsund beforenach ChatGPTder existedEinführung andvon againafterward.ChatGPT. CheatingDas stayedAusmaß broadlydes whereBetrugs itblieb was.weitgehend Mostgleich. studentsDie rejectedmeisten havingSchüler:innen alehnten chatbotes simplyab, produceeinen theirChatbot work,einfach whileihre thinkingArbeit iterledigen fairzu tolassen, usehielten onees toaber getfür startedfair, orihn tozum haveEinstieg somethingoder explained.zur Erklärung von etwas zu nutzen.

TheDie realeigentliche questionFrage waswar never,nie: „Wie erwische ich ihn?"How do I catch him"? ItSie is:lautet: whatWas doesmisst aeine homeworkHausaufgabe taskeigentlich stillnoch, measure,sobald oncesich itsihr productProdukt canauf beAbruf generatederzeugen on demand?lässt?

TwoZwei thingsDinge, thatdie willnicht notbehoben bewerden, fixed,also somüssen theysie mustgelehrt be taughtwerden

ConfidentSelbstsichere inventionErfindung isist built in.eingebaut. TheseDiese systemsSysteme generateerzeugen plausible continuationFortsetzungen ofeines aTextes, text,die whichnicht aredasselbe notsind thewie samewahre. asForschende truehaben ones.inzwischen Researchersformal havegezeigt, nowwoher formallydas shownkommt: whereDie thisStandardtests comeszur from:Bewertung the standard tests used to judgevon Large Language modelModels rewardbelohnen confidentselbstsicheres guessingRaten overgegenüber admittingdem uncertainty,Eingeständnis von Unsicherheit, und solange so asgemessen longwird, asbleibt theyeine aregewisse measuredRate thatan way,flüssigen, awohlgeformten certainFalschaussagen ratebestehen. ofDas fluent,ist well-formedeine falsehoodEigenschaft persists.davon, Itwie isdiese aSysteme propertygebaut ofund howbewertet theywerden, arekein builtFehler, andder graded,auf noteinen aPatch bug awaiting a patch.wartet.

TheAuch slantsdie Schieflagen im Trainingsmaterial sind eingebaut. Zudem schrumpfen sie nicht, wenn sich die Technologie verbessert. Eine europäische Studie zu Geschlechterstereotypen über verschiedene Sprachen hinweg fand, dass größere Modelle – selbst nach zusätzlichem Training, das sie sicherer und fairer machen soll – manchmal stärker statt schwächer stereotypisieren. Wenn sich eine Eigenschaft nicht wegentwickeln lässt, wird sie zum Lehrplan. Und sie lässt sich lehren: In einem finnischen Programm stieg der Anteil der Schüler:innen, die Verzerrungen in theder trainingAusgabe materialeines areKI-Systems builterkennen inkonnten, too.von Moreover, they do not shrink as the technology improves. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % toauf 44 %. TheDie consequenceKonsequenz forfür teachingden mustUnterricht bemuss trainingsein, errorFehleranalyse analysisstatt insteadFehlervermeidung ofzu errortrainieren. avoidance.Mit Inanderen otherWorten: words:Die theFehler machine'sder failuresMaschine becomewerden thezur lesson.Lektion.

WhatWas works:funktioniert: design,Gestaltung notstatt controlKontrolle

TheDie evidenceEvidenz pointsweist toauf oneein simpleeinfaches, principleleicht that'szu easymerkendes toPrinzip remember:hin: thinkerst first,denken, thendann AI.KI.

• MakeDen theMenschen humanzuerst commitfestlegen first.lassen. In aeiner seriesVersuchsreihe oferkannten experiments,Personen, peopledie whoihre hadeigene toAntwort writeaufschreiben down their own answermussten, beforebevor seeingsie theden machine'sVorschlag suggestionder caughtMaschine farsahen, moreweit ofmehr itsvon mistakesderen thanFehlern peopleals whoPersonen, weredenen showndetaillierte detailedErklärungen explanationsder ofmaschinellen howArgumentation thegezeigt machinewurden. reasoned.Die ExplainingKI thezu AIerklären didhalf notnicht, helpdas toProblem solvezu thatlösen, issue,das butErzwingen  forcingdes theeigenen judgementUrteils did.hingegen Withschon. oneMit honesteinem caveat:ehrlichen theVorbehalt: versionsDie thatVarianten, workeddie bestam werebesten thefunktionierten, oneswaren participantsjene, likeddie least,den andTeilnehmenden theyam helpedwenigsten mostgefielen, thoseund whosie alreadyhalfen enjoyam effortfulmeisten thinking.jenen, Sodie itohnehin isgerne aanstrengend phenomenonnachdenken. Es handelt sich also knownum asein thePhänomen, Matthewdas Effect:auch Toals thoseMatthäus-Effekt whobekannt have,ist: moreWer willschon behat, given.dem Theywird benefitgegeben. theSie mostprofitieren fromam thismeisten approach.von diesem Ansatz.
• BuildDie theGrenzen limits in.einbauen. TheDer chatbotChatbot fromaus ChapterKapitel 1.3, thatder withheldAntworten answerszurückhielt andund askedstattdessen questionsRückfragen insteadstellte, isist thedieselbe sameIdee ideaals Software: Die Schüler:innen, die ihn nutzten, verloren in software:der thePrüfung studentsnichts, whowährend useddie itmit lostder nothinguneingeschränkten onVersion thedeutlich exam, while those with the unrestricted version lost badly.verloren.
• MakeDen theProzess processsichtbar visiblemachen, insteadstatt ofdem huntingProdukt the product.hinterherzujagen. Drafts,Entwürfe, workingArbeitsnotizen, notes,ein akurzes shortGespräch conversationüber aboutdie theArbeit. work.Diese  Thesezeigen showIhnen, youwas whatein aSchüler studentoder caneine doSchülerin withoutkann, anyoneohne havingdass tojemand provebeweisen whatmuss, theywas did.er oder sie getan hat.
• DenmarkDänemark iserprobt pilotingdas the principle:Prinzip: atAn participatingteilnehmenden schools,Schulen studentsdürfen maySchüler:innen useKI AIbei whileder preparingVorbereitung forauf thedie oralmündliche EnglishEnglischprüfung examination,nutzen, andund thedie writtenschriftliche examinationPrüfung includesenthält aeinen handwritten,handschriftlichen, aid-freehilfsmittelfreien part.Teil.

TwoZwei limitsEinschränkungen aresollte worthman knowingkennen, beforebevor youman relysich ondarauf this.verlässt. TheDie first:erste: theDer popularbeliebte adviceRat, thatLehrkräfte teacherssollten shouldeinen simplyChatbot instructeinfach aanweisen, chatbotals tosokratischer actTutor aszu aagieren, Socraticübersteht tutorkein doeslängeres notGespräch. surviveZumindest contactderzeit withneigt adas longSystem conversation.dazu, Atwieder leastin atdie thereine moment,Antwortvergabe thezurückzufallen. systemVerlässliche tendsGrenzen tomüssen driftin backdas intoSystem supplyingeingebaut answers.sein, Reliablewas limitssie havezu toeiner beBeschaffungsentscheidung builtmacht intostatt thezu system,einer whichPrompting-Fähigkeit. makesDie themzweite: aEine purchasingKI decisionihre ratherArgumentation thanerklären azu promptinglassen, skill.klingt Thewie second:die makingnaheliegende anAbsicherung, AIaber explainErklärungen itsverhindern reasoningübermäßiges soundsVertrauen likenicht the obvious safeguard, but explanations do not reliably prevent over-trust.zuverlässig. In oneeiner studyStudie theyließen leftsie people'sdie acceptanceAkzeptanz offalscher wrongRatschläge adviceunverändert, unchanged,und andzu explanationstechnische thatoder arezu toovereinfachte technicalErklärungen orkönnen toofehlgeleitetes simplifiedVertrauen cansogar increaseverstärken. misplacedErklärung confidence.ist Explanationeine isVoraussetzung, akeine condition, not a solution.Lösung.

Attitude:Haltung: twozwei failureFehlermodi, modes,nicht not oneeiner

WeWir worrysorgen thatuns, teachersdass areLehrkräfte placingder tooKI muchzu trustsehr invertrauen. AI.Wir However,sollten weuns shouldjedoch beebenso equallyum concerneddas aboutGegenteil thesorgen. reverse. EvenSelbst experiencederfahrene peopleMenschen cankönnen bedurch caughtübermäßiges outVertrauen byhereingelegt over-trusting.werden. In oneeiner study,Studie teachersüberprüften reviewedLehrkräfte AI-generatedKI-generierte grades.Bewertungen. TheySie judgedbeurteilten 42%42 of% thedes machine'sFeedbacks feedbackder toMaschine beals vaguevage oroder wrong,falsch, butänderten changedaber onlynur 9%9 of% it.davon. SpottingEinen anFehler errorzu anderkennen correctingund itihn arezu differentkorrigieren processes.sind zwei verschiedene Vorgänge.

TheDer oppositegegenteilige polePol isist concealment.Verheimlichung. TeachersLehrkräfte hideverbergen theirihre owneigene useKI-Nutzung ofvor AIKolleg:innen fromund colleaguesSchüler:innen andund students,verbieten forbiddingdiesen, themwas tosie doselbst whattun: they77 do% themselves:nutzen 77%KI useprivat, AIwährend privately,57 while% 57%sagen, saySchüler:innen studentssollten shouldsie nevernie usezur itIdeenfindung tonutzen. generateZugleich ideas.fand Meanwhile,eine aStudie studyunter ofakademisch academicallystarken ableSchüler:innen studentsder Klassen 6 bis 8, dass zwischen einem Drittel und zwei Fünfteln bereits sagten, die KI wisse mehr als ihre Lehrkräfte. Ein Berufsstand, der seine Praktiken verbirgt, kann verantwortungsvolle Praxis nicht vorleben, und Transparenz ist nicht nur eine Höflichkeit. Sie ist der Mechanismus, durch den Lernen am Vorbild funktioniert.

Ebnet KI das Spielfeld oder kippt sie es?

Bei arbeitsbezogenen Aufgaben gleicht KI Unterschiede aus. In einem Experiment schnitten Teilnehmende mit höherer Bildung deutlich besser ab als solche mit niedrigerer Bildung. Erhielt jede Person eine KI-Assistenz, verschwanden diese Unterschiede fast vollständig. Nahm man die Assistenz wieder weg, kehrte vieles davon zurück. Was die KI schloss, war die Lücke im Output, nicht die Lücke in gradesder 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gap in output, not the gap in ability.Fähigkeit.

InBei learningLernaufgaben tasks,ist ites doesumgekehrt. theEine opposite.Studie Onefand studyim foundSchnitt nogar averagekeinen benefitNutzen, ataber all,einen butwachsenden aAbstand wideningzwischen distanceSchüler:innen, betweendie studentsbereits whoviel alreadywussten, knewund asolchen, lotdie andes studentsnicht whotaten. didEine not.andere Anotheruntersuchte lookedSchüler:innen, at students writingdie in aeiner foreignFremdsprache language:schrieben: theDie weakerschwächeren writersSchreiber:innen receivederhielten moremehr correctionsKorrekturen fromvon theder AIKI andund successfully acted onsetzten fewerweniger ofdavon them,erfolgreich andum, severalund foundmehrere theempfanden flooddie ofFlut feedbackan dispiriting.Feedback als entmutigend. Feedback withoutohne thedie abilityFähigkeit, toes sortzu itsortieren, doeshilft notnicht; help;es it buries.begräbt.

TheDie gapLücke alsobesteht existsauch beforeschon, anyonebevor touchesüberhaupt ajemand tool.ein Werkzeug anfasst. In Germany,Deutschland sehen 80 % ofder studentsSchüler:innen fromaus theden mostprivilegiertesten advantagedElternhäusern homesKI seeals AIChance, as an opportunity, againstgegenüber 55 % fromaus theden leastam advantagedwenigsten privilegierten. In Britain,Großbritannien theverläuft dividedie runsTrennlinie througheher thedurchs staffroomLehrerzimmer ratherals thandurch theden device cupboard:Geräteschrank: 45 % ofder teachersLehrkräfte atan privatePrivatschulen schoolshaben haveeine hadformale formalKI-Fortbildung trainingerhalten, in using AI, againstgegenüber 21 % atan statestaatlichen schools.Schulen. WithinInnerhalb thedes statestaatlichen sector,Sektors wealthierliegen schoolswohlhabendere againSchulen outpacewiederum poorervor ones.ärmeren. AEine surveyBefragung ofvon childrenKindern acrossin 20 Europeaneuropäischen countriesLändern findsfindet thedieselbe samesoziale socialKluft splitdarin, inwie howviel muchund andwie howvielfältig variedlysie theyKI usenutzen. AI. OneEin lineSatz capturesfasst thedas wholeganze problemProblem betterbesser thanzusammen anyals figure: jede Zahl: "the„Die richReichen havehaben accessZugang tozu technologyTechnologie andund peoplezu toMenschen, helpdie themihnen usebei it,der whileNutzung thehelfen, poorwährend havedie accessArmen tonur technologyZugang only.zur Technologie haben." WhichDas isist thedas strongeststärkste availableverfügbare argumentArgument thatdafür, teachersdass matterLehrkräfte toentscheidend closesind, thisum gap.diese Lücke zu schließen.

SoDer theEngpass bottleneckist isalso, whatwelche learnerLernenden haseine ageschulte teacherLehrkraft who has been trained.haben. AIKI compensatesgleicht whenaus, threewenn thingsdrei holdDinge together:zusammenkommen: securesicherer access,Zugang, aein toolfür designeddas forLernen learning(statt ratherfür thandas answering,Liefern andvon aAntworten) teachergestaltetes scaffoldingWerkzeug, itsund use.eine Lehrkraft, die die Nutzung anleitet. RemoveFehlt anyeines one,davon, andverstärkt itsie amplifiesstattdessen. instead.Da Sincealle alldrei threetendenziell tendan todenselben beSchulen presentvorhanden inbzw. thean samedenselben schoolsSchulen andabwesend absent in the same schools,sind, amplificationist isVerstärkung theder defaultNormalfall, andund equalisationAusgleich isist somethingetwas, youdas haveman toaktiv build.aufbauen muss.