1.3 Odgovorna uporaba UI

Take

Ključno Home message

sporočilo

• ResponsibilityOdgovornost isje analoga designzasnove, task,ne notnaloga anadzora. controlZaznavanje task.UI Detectionne ofdeluje AI does not work properly.zanesljivo.
• AndIn AIzaznavanje detectionUI isje unfairnepravično, whenkadar itodpove. fails.Obstaja Theretveganje, isda aodgovore risknapačno ofoznačimo mistakenlykot identifyingustvarjene answersz asUI, AI-generated,ali orobratno. viceVeč versa.evropskih Severaldržav Europeanje countriesta haveorodja alreadyže ruledizključilo outiz these tools.uporabe.
• ConfidentSamozavestno inventionizmišljanje andin inheritedpodedovana biaspristranskost followizhajata fromiz howtega, thesekako systemsso areti builtsistemi andzgrajeni judged.in Theocenjeni. consequencePosledica shouldbi be:morala teachbiti: thempoučevati rathero thantem, waitingnamesto forčakati ana fix. popravek.
• TheDelovno workingnačelo principleje: is:najprej thinkrazmisli, first,nato thenUI. AI.Zavezanost Makinglastnemu peopleodgovoru commitje toboljša theirod ownrazlage answerstroja; beatsvgrajevanje explainingomejitev thev machine;programsko buildingopremo limitsje intoboljše theod software beats banning it.prepovedi.
• PromptsZgolj alonepozivi don't(prompti) hold.ne Azadržijo. chatbotKlepetalnik, taskedki withnaj actingbi asdeloval akot tutortutor, tendsse tonagiba driftk backtemu, toda givingznova answers,začne whichkar makessam reliablepodajati limitsodgovore, azato purchaseje question.zanesljiva omejitev bolj vprašanje nakupa kot pozivov.
• AmplificationOjačanje israzlik theje default;privzeto equalizationstanje; mustizenačevanje beje builttreba fromzgraditi access,iz designdostopa, andzasnove scaffoldingin togetherpodpore —(scaffolding) andskupaj the– scarcestnajbolj ofredka theod threeteh istreh apa trainedje teacher.{{rev}}usposobljen učitelj.
• InclusionVključevanje isje thenajjasnejša clearestkorist, win,in andtam whereučitelji teacherssami themselvesvidijo seenajmočnejši the strongest case.argument.

IfČe yousi rememberzapomnite onlyle oneen sentencestavek froms thiste page:strani: TheJezovi damsse arerušijo. breaking.Naučite Teach swimming.plavati.

The

Bralni readingdnevnik, journal,drugi second look

pogled

BackNazaj k našemu devetošolcu in njegovemu sumljivo dodelanemu bralnemu dnevniku. Nagon je skoraj univerzalen, in to ourje ninth-gradenagon studentdobrega andučitelja: hisugotoviti, suspiciouslyali polishedje readinguporabil journal.UI. TheZgraditi instinctboljši is almost universal, and it is the instinct of a good teacher: find out whether he used AI. Build a better dam.jez.

ThisTo chapterpoglavje ispojasnjuje, aboutzakaj whyta thatnagon instinct,sam onpo itssebi own,ne leadspripelje nowhere.nikamor. WePrišli willbomo comedo tega, kaj deluje namesto tega.

Začnimo z neprijetnim delom. Učitelji ne znajo zanesljivo ločiti besedila UI od besedila učenca. V nemški raziskavi so 289 učiteljem z različnimi izkušnjami dali mešanico učenčevih besedil in besedil klepetalnika ter jih prosili, naj jih razvrstijo. Nobena skupina tega ni zmogla. A obe skupini sta bili prepričani, da to whatzmoreta. worksIzkušnje instead.

skoraj

Startniso withnaredile therazlike. uncomfortableV part. Teachersširšem cannotmerilu reliablyje tellše AIslabše. textNa fromeni studentuniverzi text.so Inraziskovalci aprek Germanobičajnih study,poti, 289brez teachersobvestila ofocenjevalcem, differentv experiencepravi wereizpitni givensistem aoddali mixodgovore, ofustvarjene students writingklepetalnikom. and chatbot writing and asked to sort it. Neither group could. But both groups were confident they could. Experience made almost no difference. At scale, it is worse. At one university, researchers submitted chatbot-generated answers into the real examination system through the normal channels, without notifying the markers. 94 % werejih neverni questioned.bilo Moreover,nikoli onvprašljivih. average,Poleg theytega wereso gradedbili abovev thepovprečju workocenjeni ofbolje actualkot students.delo So,dejanskih what'sštudentov. theKakšna consequence?je Wetorej reachposledica? forPosežemo thepo machine!stroju! AndIn heretu theugotovitev findingpreneha stopsbiti beingzgolj awkwardnerodna andin becomespostane an ethicaletični problem!

The

Detektor, detectorki thatkaznuje failsnapačne the wrong students

učence

ResearchersRaziskovalci testedso sevenpreizkusili ofsedem thenajbolj mostrazširjenih widelydetektorjev usedUI AI detectors onna TOEFL essaysesejih, writtenki byso studentsjih learningnapisali Englishučenci asangleščine akot foreigntujega language.jezika. Alongside,Poleg theynjih putso essayspreizkusili byeseje native-speakingameriških Americanosmošolcev, eighth-graders.ki Thejim nativeje speakers'angleščina workmaterni wasjezik. classifiedDelo correctlynaravnih almostgovorcev everyje time.bilo Ofskoraj thevedno foreign-languagepravilno essays, morerazvrščeno. thanOd sixesejev v tujem jeziku pa je bilo napačno označenih kot strojno napisanih več kot šest od desetih.

Mehanizem ni skrivnosten. Ta orodja ne zaznavajo dela velikih jezikovnih modelov, temveč zaznavajo predvidljivost. Besedilo, ki uporablja pogoste besede v pričakovanem vrstnem redu, je ocenjeno kot umetno. Kdorkoli piše v drugem jeziku, z manjšim besediščem in tenvarnejšo werestavčno wronglystrukturo, flaggedustvari asnatanko machine-written.

The mechanism is not mysterious. These tools do not detect the work of Large Language models, they detect predictability. Text that uses common words in expected orders scores as artificial. Anyone writing in a second language, with a smaller vocabulary and safer sentence structures, produces exactly thattak signal. TheNapake tool'sorodja mistakessistematično fallpadejo systematicallyna ontiste theučence, studentski whože aretako alreadynosijo carryingnajveč thebremena. most.Institucije Institutionsso haveto donepreračunale. the arithmetic.Univerza Vanderbilt Universityje pointedopozorila, outda thatbi eventako iforodje, suchtudi ače toolbi werese wrongzmotilo onlyle v 1 % ofprimerov, themed time,njenimi that75.000 wouldoddanimi stilldeli meanna roughly leto vseeno napačno obtožilo približno 750 wronglyučencev. accusedZato studentsso aga yearizklopili. outSmernice ofnemškega itszveznega 75,000ministrstva submissions.za Consequently,izobraževanje theyso switchednedvoumne: ittehnologija off.„ni Thedovolj guidancezanesljiva, issuedda bybi Germany'szagotavljala federalpravno educationvaren ministrydokaz“.

is

Velik blunt:del theEvrope technologyo istem "notne sufficientlyrazpravlja reliableveč. Francija, Nizozemska in Švica odsvetujejo detektorje ali jih prepovedujejo. Britanski izpitni regulator se je namerno odločil za človeško presojo namesto za programsko opremo. Nizozemski argument gre še korak dlje in si ga velja zapomniti: vnos učenčevega dela v detektor je sam po sebi dejanje obdelave njegovih osebnih podatkov, in če to providestorimo legallybrez securedovoljenja, proof."

kršimo

Muchzakonodajo ofo Europevarstvu has stopped debating this. France, the Netherlands and Switzerland advise against detectors or forbid them. The United Kingdom's exam regulator has deliberately chosen human judgment over software. The Dutch argument goes one step further and is worth carrying home: pasting a student's work into a detector is itself an act of processing their personal data, and doing it without permission breaks data protection law.podatkov. → 1.54 CompliantSkladna Useuporaba of AIUI

ItZdi seemsse, thatda theje cheatingpanika paniczaradi isgoljufanja thinnertanjša thanod thehrupa noiseokoli aroundnje. it.Raziskovalci Researchersso surveyedanketirali studentsučence atna threetreh secondarysrednjih schoolsšolah beforepred obstojem ChatGPT existedin andznova againafterward.po Cheatingtem. stayedGoljufanje broadlyje wherev itveliki was.meri Mostostalo studentsna rejectedisti havingravni. aVečina chatbotučencev simplyje producezavrnila, theirda work,bi whileklepetalnik thinkingpreprosto itizdelal fairnjihovo delo namesto njih, hkrati pa so menili, da je pošteno uporabiti ga za začetek dela ali za razlago česa.

Pravo vprašanje nikoli ni bilo: „Kako ga zalotim?“ Je: kaj domača naloga sploh še meri, ko je njen izdelek mogoče ustvariti na zahtevo?

Dve stvari, ki ju ne bomo popravili, zato ju je treba poučevati

Samozavestno izmišljanje je vgrajeno. Ti sistemi ustvarjajo verjetna nadaljevanja besedila, kar ni isto kot resnična nadaljevanja. Raziskovalci so zdaj formalno pokazali, od kod to useizvira: onestandardni testi, s katerimi ocenjujemo velike jezikovne modele, nagrajujejo samozavestno ugibanje bolj kot priznavanje negotovosti, zato dokler jih merimo na ta način, ostaja določena stopnja tekoče, dobro oblikovane neresnice. To je lastnost načina, kako so zgrajeni in ocenjeni, ne hrošč, ki čaka na popravek.

Tudi nagnjenja v učnem gradivu so vgrajena. Poleg tega se z izboljševanjem tehnologije ne zmanjšujejo. Evropska raziskava spolnih stereotipov v različnih jezikih je ugotovila, da večji modeli, tudi po dodatnem urjenju, namenjenem temu, da bi bili varnejši in pravičnejši, včasih stereotipizirajo bolj, ne manj. Če lastnosti ni mogoče tehnično odpraviti, postane del učnega načrta. In to getje startedmogoče orpoučevati: tov haveenem somethingfinskem explained.

programu

These realje questiondelež wasučencev, never, "How do I catch him"? It is: what does a homework task still measure, once its product can be generated on demand?

Two things that will not be fixed,ki so theyznali mustprepoznati bepristranskost taught

v

Confidentizpisu inventionsistema isUI, builtpovečal in. These systems generate plausible continuation of a text, which are not the same as true ones. Researchers have now formally shown where this comes from: the standard tests used to judge Large Language model reward confident guessing over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.

The slants in the training material are built in too. Moreover, they do not shrink as the technology improves. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % tona 44 %. ThePosledica consequenceza forpoučevanje teachingmora mustbiti beurjenje traininganalize errornapak analysisnamesto insteadizogibanja ofnapakam. errorZ avoidance.drugimi Inbesedami: othernapake words:stroja thepostanejo machine'sučna failures become the lesson.snov.

What

Kaj works:deluje: design,zasnova, notne control

nadzor

TheDokazi evidencekažejo pointsna eno preprosto načelo, ki si ga je lahko zapomniti: najprej razmisli, nato UI.

Naj se človek najprej zaveže. V vrsti poskusov so ljudje, ki so morali svoj odgovor zapisati, preden so videli predlog stroja, opazili veliko več njegovih napak kot tisti, ki so jim pokazali podrobne razlage, kako je stroj sklepal. Razlaganje delovanja UI ni pomagalo rešiti tega problema, prisilitev v lastno presojo pa je pomagala. Z eno pošteno opombo: različice, ki so delovale najbolje, so bile tiste, ki so jih udeleženci imeli najmanj radi, in pomagale so največ tistim, ki jim je naporen razmislek že tako v veselje. Gre torej za pojav, znan tudi kot Matejev učinek: tistim, ki že imajo, bo dano še več. Prav oni imajo od tega pristopa največ koristi.

Vgradite omejitve. Klepetalnik iz poglavja 1.3, ki je zadrževal odgovore in namesto tega postavljal vprašanja, je ista zamisel, prenesena v programsko opremo: učenci, ki so ga uporabljali, na izpitu niso izgubili ničesar, medtem ko so tisti z neomejeno različico izgubili precej.

Naredite proces viden, namesto da lovite izdelek. Osnutki, delovni zapiski, kratek pogovor o delu. Ti pokažejo, kaj učenec zna, ne da bi moral kdorkoli dokazovati, kaj je dejansko naredil.

Danska preizkuša to onenačelo: simplena principlesodelujočih that'sšolah easylahko toučenci remember:pri thinkpripravi first,na thenustni AI.izpit iz angleščine uporabljajo UI, pisni izpit pa vključuje ročno pisani del brez pripomočkov.

Preden

Makese thezanesete humanna committo, first.velja Inpoznati dve omejitvi. Prva: priljubljeni nasvet, naj učitelji klepetalniku preprosto naročijo, naj deluje kot sokratski tutor, ne prestane stika z dolgim pogovorom. Vsaj trenutno se sistem nagiba k temu, da znova zdrsne nazaj v podajanje odgovorov. Zanesljive omejitve je treba vgraditi v sistem, zaradi česar so bolj odločitev o nakupu kot spretnost oblikovanja pozivov. Druga: to, da UI razloži svoje sklepanje, se sliši kot očitna zaščita, a seriesrazlage ofzanesljivo experiments,ne peoplepreprečijo whoprevelikega hadzaupanja. toV writeeni downraziskavi theirniso ownspremenile answertega, beforekoliko seeingso theljudje machine'ssprejemali suggestionnapačne caughtnasvete, farprezahtevne ali preveč poenostavljene razlage pa lahko celo povečajo neupravičeno zaupanje. Razlaga je pogoj, ne rešitev.

Odnos: dva načina odpovedi, ne le eden

Skrbi nas, da učitelji preveč zaupajo UI. Vendar bi nas moralo enako skrbeti tudi obratno. Tudi izkušeni ljudje se lahko ujamejo v past prevelikega zaupanja. V eni raziskavi so učitelji pregledovali ocene, ki jih je ustvarila UI. 42 % povratnih informacij stroja so ocenili kot nejasne ali napačne, spremenili pa so jih le 9 %. Opaziti napako in jo popraviti sta različna procesa.

Nasproten pol je prikrivanje. Učitelji svojo lastno uporabo UI skrivajo pred sodelavci in učenci ter jim prepovedujejo tisto, kar sami počnejo: 77 % jo zasebno uporablja, 57 % pa jih pravi, da je učenci nikoli ne bi smeli uporabiti za ustvarjanje idej. Medtem je raziskava akademsko sposobnih učencev od 6. do 8. razreda pokazala, da med tretjino in dvema petinama že pravi, da UI ve več kot njihovi učitelji. Poklic, ki skriva svoje prakse, ne more ofbiti itszgled mistakesodgovorne than people who were shown detailed explanations of how the machine reasoned. Explaining the AI did not help to solve that issue, but  forcing the judgement did. With one honest caveat: the versions that worked best were the ones participants liked least, and they helped most those who already enjoy effortful thinking. So it is a phenomenon also known as the Matthew Effect: To those who have, more will be given. They benefit the most from this approach.

Build the limits in. The chatbot from Chapter 1.3, that withheld answers and asked questions instead is the same ideaprakse, in software:preglednost theni studentsle whovljudnost. usedJe itmehanizem, lostpo nothingkaterem ondeluje theučenje exam,z whilezgledom. those

Ali withUI theizenačuje unrestrictedrazmere versionali lostjih badly.

Make the process visible instead of hunting the product. Drafts, working notes, a short conversation about the work.  These show you what a student can do without anyone having to prove what they did. Denmark is piloting the principle: at participating schools, students may use AI while preparing for the oral English examination, and the written examination includes a handwritten, aid-free part. nagiba?

TwoPri limitsdelovnih arenalogah worthUI knowingizenačuje beforerazlike. youV relyenem onposkusu this.so Theudeleženci first:z thevišjo popularizobrazbo advicedosegli thatbistveno teachersboljše shouldrezultate simplykot instructtisti az chatbotnižjo toizobrazbo. actKo asje avsak Socraticdobil tutorUI-asistenta, doesso notte surviverazlike contactskoraj withpopolnoma aizginile. longNato conversation.so Atasistenta leastznova at the moment, the system tends to drift back into supplying answers. Reliable limits have to be built into the system, which makes them a purchasing decision rather than a prompting skill. The second: making an AI explain its reasoning sounds like the obvious safeguard, but explanations do not reliably prevent over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation is a condition, not a solution.

Attitude: two failure modes, not one

We worry that teachers are placing too much trustodvzeli, in AI.velik However,del werazlik shouldse beje equallyvrnil. concernedUI aboutje thezaprla reverse. Evenvrzel experiencedv peopleizdelku, canne bevrzeli caughtv out by over-trusting. In one study, teachers reviewed AI-generated grades. They judged 42% of the machine's feedback to be vague or wrong, but changed only 9% of it. Spotting an error and correcting it are different processes.sposobnosti.

ThePri oppositeučnih polenalogah isje concealment.ravno Teachersobratno. hideEna theirraziskava ownni useodkrila ofnobene AIpovprečne fromkoristi, colleaguestemveč andse students,je forbiddingrazlika themmed toučenci, doki whatso theyže doveliko themselves: 77% use AI privately, while 57% say students should never use it to generate ideas. Meanwhile, a study of academically able studentsznali, in gradestistimi, 6ki toniso, 8celo foundpovečala. thatDruga betweenje apreučevala thirdučence, andki two-fifthspišejo alreadyv saidtujem thejeziku: AIšibkejši knowspisci moreso thanod theirUI teachers. Aprejeli professionveč that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gappopravkov in output,jih notuspešno theupoštevali gapmanj, inmnogim ability.pa se je poplava povratnih informacij zdela potrta. Povratna informacija brez sposobnosti, da bi jo razvrstili, ne pomaga; zasuje.

InVrzel learningobstaja tasks,tudi, itpreden doeskdorkoli thesploh opposite.seže Onepo studyorodju. foundV noNemčiji average benefit at all, but a widening distance between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.

The gap also exists before anyone touches a tool. In Germany, 80 % ofučencev studentsiz fromnajbolj thepremožnih mostdružin advantagedUI homesvidi seekot AIpriložnost, asv anprimerjavi opportunity, againsts 55 % fromiz thenajmanj leastpremožnih. advantaged.V InBritaniji Britain,razkol thepoteka divideskozi runszbornico, throughne theskozi staffroomomaro ratherz thannapravami: the device cupboard: 45 % ofučiteljev teachersna atzasebnih privatešolah schoolsje havebilo hadformalno formalusposobljenih trainingza inuporabo usingUI, AI,v againstprimerjavi z 21 % atna statejavnih schools.šolah. WithinZnotraj thejavnega statesektorja sector,bogatejše wealthieršole schoolsspet againprehitevajo outpacerevnejše. poorerAnketa ones.med Aotroki survey of children acrossv 20 Europeanevropskih countriesdržavah findsodkrije theenak samedružbeni socialrazkol splitv tem, koliko in howkako muchraznoliko anduporabljajo howUI. variedlyEn theystavek usezajame AI. One line captures the wholeceloten problem betterbolje thankot anykaterakoli figure: "theštevilka: rich„bogati haveimajo accessdostop todo technologytehnologije andin peopledo toljudi, helpki themjim usepomagajo it,pri whilenjeni theuporabi, poorrevni havepa accessimajo todostop technologyle only."do Whichtehnologije.“ isTo theje strongestnajmočnejši availablerazpoložljivi argumentargument, thatda teachersso matteručitelji toključni closeza thiszapiranje gap.te vrzeli.

SoOzko thegrlo bottleneckje istorej, whatali learnerima hasučenec adostop teacherdo whoučitelja, haski beenje trained.bil AIusposobljen. compensatesUI whenkompenzira, threekadar thingsse holdhkrati together:izpolnijo securetri access,pogoji: azanesljiv tooldostop, designedorodje, forzasnovano learningza rather than answering, and a teacher scaffolding its use. Remove any one, and it amplifies instead. Since all three tend to be presentučenje in thene sameza schoolsdajanje andodgovorov, absentter učitelj, ki podpira njegovo uporabo. Odstranite katerega koli od njih, in thenamesto sameizenačevanja schools,pride amplificationdo isojačanja therazlik. defaultKer andso equalisationvsi istrije somethingpogoji youponavadi haveprisotni tona build. istih šolah in odsotni na istih šolah, je ojačanje privzeto stanje, izenačevanje pa je nekaj, kar je treba zgraditi.