Skip to main content

1.3 Odgovorna uporaba UI

Ključno sporočilo

  • Odgovornost je naloga zasnove, ne naloga nadzora. Zaznavanje UI ne deluje zanesljivo.
  • In zaznavanje UI je nepravično, kadar odpove. ObstajaDetektorji tveganje,človeško da odgovoredelo napačno označimooznačijo kot ustvarjenenapisano z UI, alidelo, obratno.napisano Večz evropskihUI, državpa jespregledajo. taŠolske orodjaoblasti žev izključiloFranciji izin uporabe.na Nizozemskem odsvetujejo njihovo uporabo.
  • Samozavestno izmišljanje in podedovana pristranskost izhajata iz tega, kako so ti sistemi zgrajeni in ocenjeni. Posledica bi morala biti: poučevati o tem, namesto čakati na popravek.
  • Delovno načelo je: najprej razmisli, nato UI. Zavezanost lastnemu odgovoru je boljša od razlage stroja;stroja, vgrajevanje omejitev v programsko opremo jepa boljšeodpravi odškodo, prepovedi.ki jo povzroča neomejen dostop.
  • Zgolj pozivi (prompti) ne zadržijo. Klepetalnik, ki naj bi deloval kot tutor, se nagiba k temu, da znova začne kar sam podajati odgovore, zato je zanesljiva omejitev bolj vprašanje nakupa kot pozivov.
  • Ojačanje razlik je privzeto stanje; izenačevanje je treba zgraditi iz dostopa, zasnove in podpore (scaffolding) skupajskupaj. –Najbolj najboljredek, redkaa najpomembnejši od teh treh papogojev je usposobljen učitelj.
  • Vključevanje je najjasnejša korist, in tam učitelji sami vidijo najmočnejši argument.

Če si zapomnite le en stavek s te strani: Jezovi se rušijo. Naučite plavati.

Bralni dnevnik, drugi pogled

Nazaj k našemu devetošolcu in njegovemu sumljivo dodelanemu bralnemu dnevniku. Nagon je skoraj univerzalen, in to je nagon dobrega učitelja: ugotoviti, ali je uporabil UI. Zgraditi boljši jez.

To poglavje pojasnjuje, zakaj ta nagon sam po sebi ne pripelje nikamor. Prišli bomo do tega, kaj deluje namesto tega.

Začnimo z neprijetnim delom. Učitelji ne znajo zanesljivo ločiti besedila UI od besedila učenca. V nemškidveh raziskaviraziskavah nemške skupine so 28989 učiteljem zpripravnikom različnimiin izkušnjami200 izkušenim učiteljem dali mešanico učenčevih besedilesejev in besedilesejev klepetalnika ter jih prosili, naj jih razvrstijo. Nobena skupina tega ni zmogla.zmogla Azanesljivo, a obe skupini sta bili prepričani, da to zmoreta. Izkušnje skorajso nisopomagale naredilele razlike.malo: Vizkušeni širšemučitelji merilu jeso še slabše.vedno spregledali večino besedil UI. Na enineki britanski univerzi so raziskovalci prek običajnih poti, brezne obvestilada ocenjevalcem,bi vobvestili praviocenjevalce, izpitnipri sistemresničnih nenadzorovanih spletnih izpitih oddali odgovore, ustvarjene s klepetalnikom.

„Lahko 94jo %uporabiš, jihvendar nimoraš bilorezultat nikoliznati vprašljivih.pojasniti Polegs tegasvojimi so bili v povprečju ocenjeni bolje kot delo dejanskih študentov. Kakšna je torej posledica? Posežemo po stroju! In tu ugotovitev preneha biti zgolj nerodna in postane etični problem!besedami.“

Detektor, ki kaznuje napačne učence

Raziskovalci so preizkusili sedem najbolj razširjenih detektorjev UI na TOEFL esejih, ki so jih napisali učenciljudje, ki se učijo angleščine kot tujega jezika.jezika, zbranih na kitajskem spletnem forumu. Poleg njih so preizkusili eseje ameriških osmošolcev, ki jim je angleščina materni jezik. Delo naravnih govorcev je bilo skoraj vedno pravilno razvrščeno. Od esejev v tujem jeziku pa je bilo napačno označenih kot strojno napisanih več kot šest od desetih.desetih.

Mehanizem ni skrivnosten. TaMnoga orodjaod teh orodij ne zaznavajo dela velikih jezikovnih modelov,modelov. temvečOrodja zaznavajomerijo predvidljivost.predvidljivost. Besedilo, ki uporablja pogoste besede v pričakovanem vrstnem redu, je ocenjeno kot umetno. KdorkoliTisti, pišeki pišejo v drugem jeziku, z manjšim besediščem in varnejšobolj togo stavčno strukturo, ustvarilahko ustvarijo natanko tak signal. Detektorji, naučeni za en določen test, in raziskave v drugih jezikih sicer kažejo manjše razlike. Vendar do zdaj na trgu ni detektorjev, ki bi bili dovolj zanesljivi, da bi koga lahko obtožili namernega zavajanja.

Napake orodja sistematično padejo na tiste učence, ki že tako nosijo največ bremena. Institucije so to preračunale. Univerza Vanderbilt je opozorila, da bi tako orodje, tudi če bi se zmotilo le v 1 % primerov, med njenimi 75.000 oddanimi deli na leto vseeno napačno obtožilooznačilo približno 750 učencev.izdelkov. Zato so ga izklopili. SmerniceVodnik, nemškegaki zveznegaso ministrstvaga raziskovalci pripravili za izobraževanjenemško sozvezno nedvoumne:ministrstvo za izobraževanje, je nedvoumen: tehnologija „ni dovolj zanesljiva, da bi zagotavljala pravno varen dokaz“. Neodvisni evropski preizkus štirinajstih detektorjev je prišel do enake sodbe: „niti natančni niti zanesljivi“.

Velik del Evrope o tem ne razpravlja več. Francija,Francosko Nizozemskaministrstvo za izobraževanje in Švicafrancoski odsvetujejoorgan detektorjeza alivarstvo podatkov šolam odsvetujeta uporabo detektorjev, agencija za IKT Kennisnet na Danskem pa jih prepovedujejo.označuje Britanskikot zelo nezanesljive. V visokem šolstvu posamezne univerze, kot je ZHAW v Zürichu, prepovedujejo njihovo uporabo pri ocenjevanju. V Angliji izpitni regulatorodbori sedovoljujejo jeprogramsko namerno odločilopremo za človeškozaznavanje presojole namestokot zaen programskoelement opremo.presoje, Nizozemskiki argumentostaja grev šerokah korakučitelja, dljeki in„svoje učence pozna najbolje“. Velja si gazapomniti veljatudi zapomniti:vidik varstva podatkov: vnos učenčevega dela v detektorspletno jeorodje sampomeni po sebi dejanje obdelaveobdelavo njegovih osebnih podatkov,podatkov. Za to sta potrebna pravna podlaga in čepogodba tos storimo brez dovoljenja, kršimo zakonodajo o varstvu podatkov.ponudnikom. → 1.4 Skladna uporaba UI

Zdi se, da je panika zaradi goljufanja tanjša od hrupa okoli nje. Raziskovalci so anketirali učence na treh ameriških srednjih šolah pred obstojem ChatGPT in znova po tem. Goljufanje je v veliki meri ostalo na isti ravni. VečinaNadaljnja učencevanketa med več kot 4.000 učenci na šestih drugih ameriških srednjih šolah leto pozneje je zavrnila,pokazala da bi klepetalnik preprosto izdelal njihovo delo namesto njih, hkrati pa so menili, da je pošteno uporabiti ga za začetek dela ali za razlago česa.enako.

Pravo vprašanje nikoli ni bilo: „Kako ga zalotim?“ Je: kaj domača naloga sploh še meri, ko je njen izdelek mogoče ustvariti na zahtevo?

„Sprva sem to videl kot goljufanje. Zdaj to vidim kot znak, da se mora spremeniti naloga sama.“

Dve stvari, ki ju ne bomobo popravili,mogoče preprosto popraviti, zato ju je treba poučevati

Samozavestno izmišljanje je vgrajeno. Ti sistemi ustvarjajo verjetna nadaljevanja besedila, karverjetno pa ni isto kot resničnaresnično. nadaljevanja.Pregledi Raziskovalciraziskav sose zdajstrinjajo, formalnoda pokazali,nobena odtehnika kodproblema todoslej izvira:ni odpravila, čeprav ga je mogoče zmanjšati in deloma zaznati. Razlog je v tem, da standardni testi, s katerimi ocenjujemo velike jezikovne modele, nagrajujejo samozavestno ugibanje bolj kot priznavanje negotovosti, zato bo, dokler jih merimo na ta način, ostajaostala določena stopnja tekoče, dobro oblikovane neresnice. To je lastnost načina, kako so zgrajeni in ocenjeni, ne hrošč, ki čaka na popravek.

Tudi nagnjenja v učnem gradivu so vgrajena. Poleg tega se z izboljševanjem tehnologijemodelov ne zmanjšujejo. Evropska raziskava spolnih stereotipov v različnih jezikih je ugotovila, da večji modeli, tudi po dodatnem urjenju, namenjenem temu, da bi bili varnejši in pravičnejši, včasih stereotipizirajo bolj,bolj, ne manj. Če lastnosti ni mogoče tehnično odpraviti, postane del učnega načrta. In to je mogoče poučevati: v enem finskem programu se je delež učencev, ki so znali prepoznatipojasniti, od kod izvira pristranskost vgeneratorja izpisu sistema UI,slik, povečal s 7 % na 44 %. Posledica za poučevanje mora biti urjenje analize napak namesto izogibanja napakam. Z drugimi besedami: napake stroja postanejo učna snov.

„Naj učenec preveri rešitev klepetalnika, kot da bi bil učitelj. Z iskanjem napak se končno nauči metode.“

Kaj deluje: zasnova, ne nadzor

Dokazi kažejo na eno preprosto načelo, ki si ga je lahko zapomniti: najprej razmisli, nato UI.

Naj se človek najprej zaveže. V vrstiposkusu poskusovs približno 200 odraslimi so ljudje, ki so morali svojsprejeti odgovorlastno zapisati,odločitev, preden so videli predlog stroja, opaziliredkeje velikosledili večnjegovim njegovihnapačnim napakpredlogom kot tisti, ki so jim pokazali podrobnekratko razlage,razlago kakosklepanja je stroj sklepal.stroja. Razlaganje delovanja UI problema ni pomagalorešilo. rešitiPomagala tegaje problema,metoda, prisilitevki vje zahtevala lastno presojo. Zahtevati lastno presojo papomeni prisiliti ljudi k razmišljanju. Ker je pomagala.razmišljanje Z eno pošteno opombo: različice, kinaporno, so delovale najbolje, so bile tiste, ki so jihimeli udeleženci imelite metode najmanj radi, inpomagale pomagalepa so največ tistim, ki jim je naporen razmislek že tako v veselje. GreTo torej zaje pojav, znanki tudiga vsi poznate kot Matejev učinek: tistim, ki že imajo, bo dano še več. Prav oni imajo od tega pristopa največ koristi.

Vgradite omejitve. Klepetalnik iz poglavja 1.3,2, ki je zadrževal odgovore in namesto tega postavljal vprašanja, je ista zamisel, prenesena v programsko opremo: učenci, ki so ga uporabljali, na izpitu niso izgubili ničesar, medtem ko so tisti z neomejeno različico izgubili precej.

Naredite proces viden, namesto da lovite izdelek. Osnutki, delovni zapiski, kratek pogovor o delu. Ti pokažejo, kaj učenec zna, ne da bi moral kdorkoli dokazovati, kaj je dejansko naredil.

Danska preizkuša to načelo: na sodelujočih šolah lahko učenci pri pripravi na ustni izpit iz angleščine uporabljajo UI, pisni izpit pa vključuje ročno pisani del brez pripomočkov.

Preden se zanesete na to, velja poznati dve omejitvi. 

Prva: priljubljeni nasvet, naj učitelji klepetalniku preprosto naročijo, naj deluje kot sokratski tutor, morda ne prestane stikadolgega zpogovora. dolgimPrvi pogovorom.dokazi Vsajiz trenutnoraziskave ses sistemsimuliranimi nagibaučenci, kki temu,še ni bila recenzirana (oktober 2026), kažejo, da takšni tutorji pod vztrajnim pritiskom znova zdrsne nazajzdrsnejo v podajanje odgovorov. Zanesljive omejitve je treba vgraditi v sistem, zaradi česar so bolj odločitev o nakupu kot spretnost oblikovanja pozivov. 

Druga: to, da UI razloži svoje sklepanje, se sliši kot očitna zaščita, a razlage zanesljivo ne preprečijo prevelikega zaupanja. V eni raziskavi niso spremenile tega, koliko so ljudje sprejemali napačne nasvete, prezahtevne ali preveč poenostavljene razlage pa lahko celo povečajo neupravičeno zaupanje. Razlaga je pogoj,le nepogoj rešitev.za učenje.

Odnos: dva načina odpovedi, ne le eden

Skrbi nas, da učitelji preveč zaupajo UI. Vendar bi nas moralo enako skrbeti tudi obratno. Tudi izkušeni ljudje se lahko ujamejo v past prevelikega zaupanja. V enimanjšem raziskavipilotnem projektu na ameriških šolah so učiteljištirje pregledovaliod ocene,desetih kianketiranih jihučiteljev jepovratne ustvarilainformacije UI.orodja 42UI %za povratnih informacij stroja soocenjevanje ocenili kot neuporabne, večinoma nejasne ali napačne,celo spremenilinapačne. paRaziskave soo jihpristranskosti leavtomatizacije 9kažejo, %.da ljudje predlogu stroja radi sledijo, tudi kadar imajo razlog za dvom. Opaziti napako in jo popraviti sta različna procesa.koraka.

Nasproten pol je prikrivanje. Učitelji svojo lastno uporabo UI skrivajo pred sodelavci in učenci ter jim prepovedujejo tisto, kar sami počnejo: 77 % jo zasebno uporablja, 57 % pa jih pravi, da je učenci nikoli ne bi smeli uporabiti za ustvarjanje idej. Medtem je raziskava akademsko sposobnih učencev od 6. do 8. razreda pokazala, da med tretjino in dvema petinama že pravi, da UI ve več kot njihovi učitelji. Poklic, ki skriva svoje prakse, ne more biti zgled odgovorne prakse, in preglednost ni le vljudnost. Je mehanizem, po katerem deluje učenje z zgledom.

Ali UI izenačuje razmere ali jih nagiba?

Pri delovnih nalogah UI izenačuje razlike. V enem poskusu so udeleženci z višjo izobrazbo dosegli bistveno boljše rezultate kot tisti z nižjo izobrazbo. KoZ UI-asistentom je vsakizginilo dobilpribližno UI-asistenta,tri sočetrtine te razlikevrzeli. skoraj popolnoma izginile. NatoKo so asistenta znova odvzeli, in velik del razlik se je precejšen del vrzeli vrnil. UI je zaprla vrzel v izdelku, ne vrzeli v sposobnosti.

Pri učnih nalogah je ravno obratno. Ena raziskava ni odkrila nobene povprečne koristi, temveč se je razlika med učenci, ki so že veliko znali, in tistimi, ki niso, celo povečala. Druga je preučevala učence, ki pišejo v tujem jeziku: šibkejši pisci so od UI prejeli več popravkov in jih uspešno upoštevali manj, mnogim pa se je poplava povratnih informacij zdela potrta. Povratna informacija brez sposobnosti, da bi jo razvrstili, ne pomaga; zasuje.

Vrzel obstaja tudi, preden kdorkoli sploh seže po orodju. V Nemčiji 80 % učencev iz najbolj premožnih družin UI vidi kot priložnost, v primerjavi s 55 % iz najmanj premožnih.premožnih. V Britaniji razkol poteka skozi zbornico, ne skozi omaro z napravami: 45 % učiteljev na zasebnih šolah je bilo formalno usposobljenih za uporabo UI, v primerjavi z 21 % na javnih šolah. Znotraj javnega sektorja bogatejše šole spet prehitevajo revnejše. Anketa iz leta 2026 med več kot 25.000 otroki v 2017 evropskih državah odkrije enak družbeni razkol v tem, koliko in kako raznoliko uporabljajo UI. EnStavek staveknekega komentatorja zajame celoten problem bolje kot katerakoli številka: „bogati imajo dostop tako do tehnologije inkot do ljudi, ki jim pomagajo pri njeni uporabi, revni pa imajo dostop le do tehnologije.“ To je najmočnejši razpoložljivi argument, da so učitelji ključni za zapiranje te vrzeli.

Ozko grlo je torej, ali ima učenec dostop do učitelja, ki je bil usposobljen. UI kompenzira, kadar se hkrati izpolnijo tri pogoji: zanesljiv dostop, orodje, zasnovano za učenje in ne za dajanje odgovorov, ter učitelj, ki podpira njegovo uporabo. Odstranite katerega koli od njih, in namesto izenačevanja pride do ojačanja razlik. Ker so vsi trije pogoji ponavadi prisotni na istih šolah in odsotni na istih šolah, je ojačanje privzeto stanje, izenačevanje pa je nekaj, kar je treba zgraditi.