1.3 Zodpovedné používanie UI
Hlavné posolstvo
- Zodpovednosť je úlohou dizajnu, nie kontroly. Detekcia UI nefunguje spoľahlivo.
- A keď detekcia UI zlyhá, je nespravodlivá.
Hrozí riziko, že odpovede budúDetektory mylneoznačenéoznačujú ľudskú prácu akovygenerovanénapísanúUI,UIaleboanaopak.prehliadajúViacerépráceeurópskenapísanékrajinyUI.tietoŠkolskénástrojeorgányužvovylúčili.Francúzsku a v Holandsku odporúčajú ich nepoužívať. - Sebavedomé vymýšľanie a zdedená zaujatosť vyplývajú z toho, ako sú tieto systémy vytvorené a hodnotené. Dôsledkom by malo byť: učiť o nich, namiesto čakania na opravu.
- Pracovný princíp znie: najprv myslieť, potom UI. Ak ľudia musia najprv sformulovať vlastnú odpoveď, funguje to lepšie než vysvetľovanie fungovania
stroja;stroja, a zabudovanie limitov do softvérufungujeodstraňujelepšieškody,nežktorézákaz.spôsobuje neobmedzený prístup. - Samotné inštrukcie (prompty) nestačia. Chatbot poverený úlohou tútora má tendenciu skĺznuť späť k poskytovaniu odpovedí, čo robí zo spoľahlivých limitov skôr otázku nákupu (výberu nástroja).
- Zosilnenie (rozdielov) je predvolený stav; vyrovnávanie treba budovať spoločne z prístupu, dizajnu a podpory (scaffoldingu).
—Najvzácnejším,anonajvzácnejšímnajdôležitejším z týchto troch je vyškolený učiteľ. - Inklúzia je najjasnejším prínosom a oblasťou, kde učitelia sami vidia najsilnejšie argumenty.
Ak si z tejto stránky zapamätáte len jednu vetu: Hrádze sa lámu. Učte plávať.
Čitateľský denník, druhý pohľad
Vráťme sa k nášmu deviatakovi a jeho podozrivo dokonalému čitateľskému denníku. Tento inštinkt je takmer univerzálny a je to inštinkt dobrého učiteľa: zistiť, či použil UI. Postaviť lepšiu hrádzu.
Táto kapitola vysvetľuje, prečo tento inštinkt sám osebe nikam nevedie. Neskôr sa dostaneme k tomu, čo naozaj funguje.
Začnime nepríjemnou časťou. Učitelia nedokážu spoľahlivo rozlíšiť text UI od textu študenta. V nemeckejdvoch štúdiištúdiách nemeckého tímu dostalo 28989 budúcich učiteľov sa rôznou200 dĺžkouskúsených praxeučiteľov zmes študentských esejí a chatbotomesejí napísaných textovchatbotom a mali ich roztriediť. NedokázalaAni jedna skupina to aninedokázala jednaspoľahlivo, skupina. Napriek tomu sino obe skupiny si boli isté, že to dokážu. Prax takmerpomohla vôbeclen nezohralatrochu: rolu.skúsení Voučitelia veľkomaj meradletak jeprehliadli toväčšinu eštetextov horšie.vytvorených UI. Na jednej britskej univerzite výskumníci bežnými kanálmi predložili do reálneho skúškového systému odpovede vygenerované chatbotom,chatbotom do reálnych online skúšok bez dozoru, bez toho, aby o tom informovali hodnotiteľov.
„Môžete 94 %ju zpoužívať, nichale nebolomusíte nikdyvedieť spochybnených.vysvetliť Navyševýsledok bolivlastnými v priemere hodnotené lepšie než práce skutočných študentov. Aký je teda dôsledok? Siahneme po stroji! A práve tu prestáva byť zistenie len trápne a stáva sa etickým problémom!slovami.“
Detektor, ktorý zlyháva u nesprávnych študentov
Výskumníci otestovali sedem najpoužívanejších detektorov UI na esejach TOEFLTOEFL, napísanýchktoré študentmi,napísali ktoríľudia učiaci sa učia angličtinu ako cudzí jazyk.jazyk a ktoré boli zozbierané z čínskeho online fóra. Popri nich zaradili aj eseje amerických ôsmakov, ktorí sú rodenými hovoriacimi. Práce rodených hovoriacich boli správne klasifikované takmer vždy. Z esejí v cudzom jazyku bolo viac ako šesť z desiatich mylne označených ako napísané strojom.
Mechanizmus nie je žiadnym tajomstvom. TietoMnohé nástrojez týchto nástrojov neodhaľujú prácu veľkých jazykových modelov,modelov. aleMerajú predvídateľnosť. Text, ktorý používa bežné slová v očakávanom poradí, je vyhodnotený ako umelý. Presne takýto signál produkujemôžu každý,produkovať kto píšepisatelia v druhom jazyku, s menšou slovnou zásobou a bezpečnejšoustrnulejšou stavbou viet. Detektory trénované na jeden konkrétny test a štúdie v iných jazykoch pritom ukazujú menšie rozdiely. Doteraz však na trhu neexistujú detektory dostatočne spoľahlivé na to, aby bolo možné niekoho obviniť z úmyselného podvodu.
Chyby nástroja tak systematicky dopadajú na študentov, ktorí už aj tak nesú najväčšiu záťaž. Inštitúcie si to prepočítali. Univerzita Vanderbilt upozornila, že aj keby sa takýto nástroj mýlil len v 1 1 % prípadov, pri 75 75 000 odovzdaných prácach by to znamenalo približne 750 nespravodlivomylne obvinenýchoznačených študentovprác ročne.ročne. V dôsledku toho ho vypli. UsmerneniePríručka, nemeckéhoktorú spolkovéhopre ministerstvanemecké spolkové ministerstvo školstva vypracovali výskumníci, je jednoznačné:jednoznačná: technológia „nie je dostatočne spoľahlivá na to, aby poskytla právne bezpečný dôkaz.“ Nezávislý európsky test štrnástich detektorov dospel k rovnakému verdiktu: „ani presné, ani spoľahlivé“.
Veľká časť Európy o tom už prestala diskutovať. Francúzsko,Francúzske Holandskoministerstvo školstva a Švajčiarskofrancúzsky odrádzajúúrad odna používaniaochranu detektorovosobných aleboúdajov odporúčajú školám detektory nepoužívať, holandská agentúra pre IKT Kennisnet ich zakazujú.považuje Britskýza skúškovýveľmi regulátornespoľahlivé. Vo vysokoškolskom vzdelávaní jednotlivé univerzity, napríklad ZHAW v Zürichu, zakazujú ich používanie pri hodnotení. V Anglicku skúšobné inštitúcie povoľujú softvér na detekciu len ako jeden z prvkov úsudku, ktorý zostáva na učiteľovi, ktorý „najlepšie pozná svojich žiakov“. Stojí za to zapamätať si aj jeden bod týkajúci sa zámerneochrany rozhodolosobných uprednostniť ľudský úsudok pred softvérom. Holandský argument ide o krok ďalej a stojí za zapamätanie:údajov: vloženie práce študenta do detektoraonline jenástroja samoznamená osebe spracovanímspracúvanie jeho osobných údajov,údajov. Na to je potrebný právny základ a robiťzmluva tos bez súhlasu porušuje zákon o ochrane osobných údajov.poskytovateľom. → 1.4 Súlad s predpismi pri používaní UI
Zdá sa, že panika okolo podvádzania je slabšia než hluk okolo nej. Výskumníci sa pýtali študentov na troch amerických stredných školách pred vznikom ChatGPT aj po ňom. Miera podvádzania zostala vo veľkej miere rovnaká. VäčšinaNadväzujúci študentovprieskum odmietalamedzi nechaťviac chatbota,ako aby4 za000 nich jednoducho vytvoril prácu, no považovali za spravodlivé použiť hoštudentmi na začatiešiestich práceďalších aleboamerických nastredných vysvetlenieškolách niečoho.o rok neskôr zistil to isté.
Skutočná otázka nikdy neznela: „Ako ho chytím?“ Znie: čo ešte domáca úloha meria, keď jej výsledok je možné vygenerovať na požiadanie?
„Najprv som to vnímal ako podvádzanie. Teraz to vnímam ako signál, že sa musí zmeniť samotná úloha.“
Dve veci, ktoré sa nedajújednoducho opraviť,neopravia, a preto sa musia učiť
Sebavedomé vymýšľanie je zabudovanou vlastnosťou. Tieto systémy generujú pravdepodobné pokračovaniepokračovania textu,textu čoa pravdepodobné nie je to isté ako pravdivépravdivé. pokračovanie.Prehľady Výskumnícivýskumu terazsa formálnezhodujú, preukázali,že odkiaľžiadna totechnika pochádza:tento problém zatiaľ neodstránila, hoci ho možno zmierniť a čiastočne odhaliť. Dôvodom je, že štandardné testy používané na hodnotenie veľkých jazykových modelov odmeňujú sebavedomésebavedomý hádanieodhad viac než priznanie neistoty, atakže pokiaľ sa modely budú takto hodnotia,hodnotiť, pretrvávabude pretrvávať určitá miera plynulých, dobre sformulovaných nepravdivých tvrdení. Je to vlastnosť spôsobu, akým sú tieto systémy vytvorené a hodnotené, nie chyba čakajúca na opravu.
Zabudované sú aj skreslenia z trénovacích dát. Navyše sa nezmenšujú s tým, ako sa technológiamodely zlepšuje.zlepšujú. Európska štúdia rodových stereotypov naprieč jazykmi zistila, že väčšie modely, aj po dodatočnom trénovaní zameranom na to, aby boli bezpečnejšie a spravodlivejšie, niekedy stereotypizujú viac, nie menej. Ak sa vlastnosť nedá odstrániť technicky, stáva sa súčasťou učiva. A dá sa naučiť: v jednom fínskom programe sa podiel študentov, ktorí dokázali rozpoznaťvysvetliť, odkiaľ pochádza zaujatosť vogenerátora výstupe systému UI,obrázkov, zvýšil zo 7 7 % na 44 44 %. Dôsledkom pre vyučovanie musí byť trénovanie analýzy chýb namiesto ich vyhýbania sa. Inými slovami: chyby stroja sa stávajú súčasťou lekcie.
„Nechajte žiaka skontrolovať riešenie chatbota, ako keby bol učiteľom. Práve hľadaním chýb sa napokon naučí danú metódu.“
Čo funguje: dizajn, nie kontrola
Dôkazy poukazujú na jeden jednoduchý a ľahko zapamätateľný princíp: najprv myslieť, potom UI.
- Najprv si vyžiadať záväzok od človeka. V
sériiexperimenteexperimentovs približne 200 dospelými ľudia, ktorísimuselinajprvurobiťzapísaťvlastnévlastnú odpoveďrozhodnutie skôr, než videli návrh stroja,odhalili oveľa viacsa jehochýbnesprávnymi návrhmi riadili menej často než ľudia, ktorýmbolibolo ukázanépodrobnékrátkevysvetleniavysvetlenietoho,uvažovaniaako stroj uvažoval.stroja. Vysvetľovanie UI problémnevyriešilo,nevyriešilo.noPomohlavynúteniemetódavlastnéhovynútenéhoúsudkuúsudku.áno.VynútiťSúsudokjednýmznamenáúprimnýmprinútiťupozornením:ľudíverzie,premýšľať.ktoréKeďžefungovalipremýšľanienajlepšie,je vyčerpávajúce, tieto metódy sa účastníkom páčilinajmenej,najmenej a najviac pomohli tým, ktorí už aj tak radi premýšľajú s väčším úsilím.IdeTotedajeoto,javčoznámyvšetciajpoznáte ako Matúšov efekt: tomu, kto má, sa ešte pridá.Práve títo z tohto prístupu profitujú najviac. - Zabudovať limity priamo do nástroja. Chatbot z Kapitoly 1.2, ktorý namiesto odpovedí kládol otázky, je tá istá myšlienka premietnutá do softvéru: študenti, ktorí ho používali, na skúške nič nestratili, zatiaľ čo tí s neobmedzenou verziou dopadli zle.
- Robiť proces viditeľným namiesto naháňania výsledku. Návrhy, pracovné poznámky, krátky rozhovor o práci. Tie ukážu, čo študent dokáže, bez toho, aby niekto musel dokazovať, čo urobil.
- Dánsko tento princíp pilotne testuje: na zúčastnených školách môžu študenti používať UI pri príprave na ústnu skúšku z angličtiny, zatiaľ čo písomná skúška obsahuje ručne písanú časť bez pomôcok.
Predtým, než sa na to spoľahnete, stojí za to poznať dve obmedzenia.
Prvé: populárna rada, že učitelia majú chatbotu jednoducho nariadiť, aby sa správal ako sokratovský tútor, neobstojínemusí obstáť pri dlhšej konverzácii. AspoňPrvé vdôkazy súčasnostizo máštúdie systémso tendenciusimulovanými skĺznuťštudentmi, ktorá zatiaľ nebola recenzovaná (október 2026), naznačujú, že pod vytrvalým tlakom takíto tútori skĺznu späť k poskytovaniu odpovedí. Spoľahlivé limity musia byť zabudované priamo do systému, čo z nich robí skôr otázku nákupu než zručnosti pri formulovaní promptov.
Druhé: aby UI vysvetlila svoje uvažovanie, znie ako samozrejmá poistka, no vysvetlenia spoľahlivo nezabraňujú nadmernej dôvere. V jednej štúdii nezmenili mieru, akou ľudia prijímali nesprávne rady, a vysvetlenia, ktoré sú príliš technické alebo príliš zjednodušené, môžu nadmernú dôveru dokonca zvýšiť. Vysvetlenie je podmienkou,len niepodmienkou riešením.učenia.
Postoj: dva režimy zlyhania, nie jeden
Obávame sa, že učitelia dôverujú UI príliš. Rovnako by nás však mal znepokojovať aj opak. Aj skúsení ľudia môžu byť chytení do pasce nadmernej dôvery. V jednejmalom štúdiipilotnom učiteliaprojekte kontrolovaliv známkyamerických vygenerovanéškolách UI.štyria 42 %z spätnejdesiatich väzbyopýtaných strojaučiteľov hodnotili spätnú väzbu nástroja UI na hodnotenie ako neužitočnú, väčšinou nejasnú alebo nesprávnu,dokonca nonesprávnu. zmeniliVýskum lenskreslenia 9 %automatizáciou z(automation nej.bias) ukazuje, že ľudia majú tendenciu riadiť sa návrhom stroja, aj keď majú dôvod pochybovať. Odhaliť chybu a opraviť ju sú dva odlišné procesy.kroky.
Opačným pólom je zatajovanie. Učitelia skrývajú svoje vlastné používanie UI pred kolegami a študentmi a zakazujú im to, čo sami robia: 77 77 % z nich používa UI súkromne, zatiaľ čo 57 57 % tvrdí, že študenti by ho nikdy nemali používať na generovanie nápadov. Zároveň štúdia akademicky nadaných študentov v 6. až 8. ročníku zistila, že medzi tretinou až dvoma pätinami z nich už tvrdí, že UI vie viac než ich učitelia. Profesia, ktorá skrýva svoje postupy, nemôže byť vzorom zodpovednej praxe, a transparentnosť nie je len zdvorilosťou. Je to mechanizmus, vďaka ktorému funguje učenie sa príkladom.
Vyrovnáva UI podmienky, alebo ich naklápa?
Pri pracovných úlohách UI vyrovnáva rozdiely. V jednom experimente dosahovali účastníci s vyšším vzdelaním výrazne lepšie výsledky než tí s nižším vzdelaním. KeďS každýasistentom dostalUI asistentazmizli UI,približne tietotri rozdielyštvrtiny takmertohto úplne zmizli.rozdielu. Keď sa asistent opäť odobral, veľkáznačná časť rozdielovrozdielu sa vrátila. To, čo UI uzavrela, bola medzera vo výstupe, nie medzera v schopnostiach.
Pri učebných úlohách je to presne naopak. Jedna štúdia nezistila v priemere žiadny prínos, ale narastajúci odstup medzi študentmi, ktorí už vedeli veľa, a tými, ktorí nevedeli. Iná štúdia sa zamerala na študentov píšucich v cudzom jazyku: slabší autori dostávali od UI viac opráv, no úspešne využili menej z nich, a mnohí považovali záplavu spätnej väzby za skľučujúcu. Spätná väzba bez schopnosti ju roztriediť nepomáha, ale zahlcuje.
Táto medzera existuje ešte predtým, než sa niekto vôbec dotkne nástroja. V Nemecku vníma UI ako príležitosť 80 80 % študentov z najviac zvýhodnených rodín, oproti 55 55 % z najmenej zvýhodnených. Vo Veľkej Británii nevedie deliaca čiara cez sklad zariadení, ale cez zborovňu: 45 45 % učiteľov na súkromných školách absolvovalo formálne školenie v používaní UI, oproti 21 21 % na štátnych školách. Aj v rámci štátneho sektora bohatšie školy opäť predbiehajú tie chudobnejšie. Prieskum z roku 2026 medzi viac ako 25 000 deťmi v 2017 európskych krajinách zisťuje rovnaké sociálne rozdelenie v tom, ako často a akým spôsobom UI používajú. JednaVýrok vetajedného komentátora vystihuje celý problém lepšie než akékoľvek číslo: „bohatí majú prístup k technológii aj k ľuďom, ktorí im pomôžu ju používať, zatiaľ čo chudobní majú prístup len k technológii.“ Je to najsilnejší dostupný argument v prospech toho, že učitelia sú kľúčoví na zmenšenie tejto medzery.
Kľúčovým obmedzujúcim faktorom teda je, či má žiak učiteľa, ktorý bol na to vyškolený. UI kompenzuje rozdiely vtedy, keď spolu fungujú tri veci: bezpečný prístup, nástroj navrhnutý na učenie, nie na poskytovanie odpovedí, a učiteľ, ktorý jeho používanie sprevádza. Ak čo i len jedno z toho chýba, UI namiesto toho rozdiely zosilňuje. Keďže všetky tri prvky sa zvyčajne vyskytujú spoločne na tých istých školách — a rovnako spoločne chýbajú na tých istých školách — zosilňovanie je predvolený stav a vyrovnávanie je niečo, čo treba aktívne vybudovať.