Skip to main content

1.3 Zodpovedné používanie UI

Hlavné posolstvo

  • Zodpovednosť je úlohou dizajnu, nie kontroly. Detekcia UI nefunguje spoľahlivo.
  • A keď detekcia UI zlyhá, je nespravodlivá. Detektory mylne označujú ľudskú prácu ako napísanú UI a prehliadajú práce napísané UI. Školské orgány vo Francúzsku a v Holandsku odporúčajú ich nepoužívať.
  • Sebavedomé vymýšľanie a zdedená zaujatosť vyplývajú z toho, ako sú tieto systémy vytvorené a hodnotené. Dôsledkom by malo byť: učiť o nich, namiesto čakania na opravu.
  • Pracovný princíp znie: najprv myslieť, potom UI. Ak ľudia musia najprv sformulovať vlastnú odpoveď, funguje to lepšie než vysvetľovanie fungovania stroja, a zabudovanie limitov do softvéru odstraňuje škody, ktoré spôsobuje neobmedzený prístup.
  • Samotné inštrukcie (prompty) nestačia. Chatbot poverený úlohou tútora má tendenciu skĺznuť späť k poskytovaniu odpovedí, čo robí zo spoľahlivých limitov skôr otázku nákupu (výberu nástroja).
  • Zosilnenie (rozdielov) je predvolený stav; vyrovnávanie treba budovať spoločne z prístupu, dizajnu a podpory (scaffoldingu). Najvzácnejším, no najdôležitejším z týchto troch je vyškolený učiteľ.
  • Inklúzia je najjasnejším prínosom a oblasťou, kde učitelia sami vidia najsilnejšie argumenty.

Ak si z tejto stránky zapamätáte len jednu vetu: Hrádze sa lámu. Učte plávať.

Čitateľský denník, druhý pohľad

Vráťme sa k nášmu deviatakovi a jeho podozrivo dokonalému čitateľskému denníku. Tento inštinkt je takmer univerzálny a je to inštinkt dobrého učiteľa: zistiť, či použil UI. Postaviť lepšiu hrádzu.

Táto kapitola vysvetľuje, prečo tento inštinkt sám osebe nikam nevedie. Neskôr sa dostaneme k tomu, čo naozaj funguje.

Začnime nepríjemnou časťou. Učitelia nedokážu spoľahlivo rozlíšiť text UI od textu študenta. V dvoch štúdiách nemeckého tímu dostalo 89 budúcich učiteľov a 200 skúsených učiteľov zmes študentských esejí a esejí napísaných chatbotom a mali ich roztriediť. Ani jedna skupina to nedokázala spoľahlivo, no obe skupiny si boli isté, že to dokážu. Prax pomohla len trochu: skúsení učitelia aj tak prehliadli väčšinu textov vytvorených UI. Na jednej britskej univerzite výskumníci bežnými kanálmi predložili odpovede vygenerované chatbotom do reálnych online skúšok bez dozoru, bez toho, aby o tom informovali hodnotiteľov.

„Môžete ju používať, ale musíte vedieť vysvetliť výsledok vlastnými slovami.“

Detektor, ktorý zlyháva u nesprávnych študentov

Výskumníci otestovali sedem najpoužívanejších detektorov UI na esejach TOEFL, ktoré napísali ľudia učiaci sa angličtinu ako cudzí jazyk a ktoré boli zozbierané z čínskeho online fóra. Popri nich zaradili aj eseje amerických ôsmakov, ktorí sú rodenými hovoriacimi. Práce rodených hovoriacich boli správne klasifikované takmer vždy. Z esejí v cudzom jazyku bolo viac ako šesť z desiatich mylne označených ako napísané strojom.

Mechanizmus nie je žiadnym tajomstvom. Mnohé z týchto nástrojov neodhaľujú prácu veľkých jazykových modelov. Merajú predvídateľnosť. Text, ktorý používa bežné slová v očakávanom poradí, je vyhodnotený ako umelý. Presne takýto signál môžu produkovať pisatelia v druhom jazyku, s menšou slovnou zásobou a strnulejšou stavbou viet. Detektory trénované na jeden konkrétny test a štúdie v iných jazykoch pritom ukazujú menšie rozdiely. Doteraz však na trhu neexistujú detektory dostatočne spoľahlivé na to, aby bolo možné niekoho obviniť z úmyselného podvodu.

Chyby nástroja tak systematicky dopadajú na študentov, ktorí už aj tak nesú najväčšiu záťaž. Inštitúcie si to prepočítali. Univerzita Vanderbilt upozornila, že aj keby sa takýto nástroj mýlil len v 1 % prípadov, pri 75 000 odovzdaných prácach by to znamenalo približne 750 mylne označených prác ročne. V dôsledku toho ho vypli. Príručka, ktorú pre nemecké spolkové ministerstvo školstva vypracovali výskumníci, je jednoznačná: technológia „nie je dostatočne spoľahlivá na to, aby poskytla právne bezpečný dôkaz.“ Nezávislý európsky test štrnástich detektorov dospel k rovnakému verdiktu: „ani presné, ani spoľahlivé“.

Veľká časť Európy o tom už prestala diskutovať. Francúzske ministerstvo školstva a francúzsky úrad na ochranu osobných údajov odporúčajú školám detektory nepoužívať, holandská agentúra pre IKT Kennisnet ich považuje za veľmi nespoľahlivé. Vo vysokoškolskom vzdelávaní jednotlivé univerzity, napríklad ZHAW v Zürichu, zakazujú ich používanie pri hodnotení. V Anglicku skúšobné inštitúcie povoľujú softvér na detekciu len ako jeden z prvkov úsudku, ktorý zostáva na učiteľovi, ktorý „najlepšie pozná svojich žiakov“. Stojí za to zapamätať si aj jeden bod týkajúci sa ochrany osobných údajov: vloženie práce študenta do online nástroja znamená spracúvanie jeho osobných údajov. Na to je potrebný právny základ a zmluva s poskytovateľom. → 1.4 Súlad s predpismi pri používaní UI

Zdá sa, že panika okolo podvádzania je slabšia než hluk okolo nej. Výskumníci sa pýtali študentov na troch amerických stredných školách pred vznikom ChatGPT aj po ňom. Miera podvádzania zostala vo veľkej miere rovnaká. Nadväzujúci prieskum medzi viac ako 4 000 študentmi na šiestich ďalších amerických stredných školách o rok neskôr zistil to isté.

Skutočná otázka nikdy neznela: „Ako ho chytím?“ Znie: čo ešte domáca úloha meria, keď jej výsledok je možné vygenerovať na požiadanie?

„Najprv som to vnímal ako podvádzanie. Teraz to vnímam ako signál, že sa musí zmeniť samotná úloha.“

Dve veci, ktoré sa jednoducho neopravia, a preto sa musia učiť

Sebavedomé vymýšľanie je zabudovanou vlastnosťou. Tieto systémy generujú pravdepodobné pokračovania textu a pravdepodobné nie je to isté ako pravdivé. Prehľady výskumu sa zhodujú, že žiadna technika tento problém zatiaľ neodstránila, hoci ho možno zmierniť a čiastočne odhaliť. Dôvodom je, že štandardné testy používané na hodnotenie veľkých jazykových modelov odmeňujú sebavedomý odhad viac než priznanie neistoty, takže pokiaľ sa modely budú takto hodnotiť, bude pretrvávať určitá miera plynulých, dobre sformulovaných nepravdivých tvrdení.

Zabudované sú aj skreslenia z trénovacích dát. Navyše sa nezmenšujú s tým, ako sa modely zlepšujú. Európska štúdia rodových stereotypov naprieč jazykmi zistila, že väčšie modely, aj po dodatočnom trénovaní zameranom na to, aby boli bezpečnejšie a spravodlivejšie, niekedy stereotypizujú viac, nie menej. Ak sa vlastnosť nedá odstrániť technicky, stáva sa súčasťou učiva. A dá sa naučiť: v jednom fínskom programe sa podiel študentov, ktorí dokázali vysvetliť, odkiaľ pochádza zaujatosť generátora obrázkov, zvýšil zo 7 % na 44 %. Dôsledkom pre vyučovanie musí byť trénovanie analýzy chýb namiesto ich vyhýbania sa. Inými slovami: chyby stroja sa stávajú súčasťou lekcie.

„Nechajte žiaka skontrolovať riešenie chatbota, ako keby bol učiteľom. Práve hľadaním chýb sa napokon naučí danú metódu.“

Čo funguje: dizajn, nie kontrola

Dôkazy poukazujú na jeden jednoduchý a ľahko zapamätateľný princíp: najprv myslieť, potom UI.

  • Najprv si vyžiadať záväzok od človeka. V experimente s približne 200 dospelými ľudia, ktorí museli urobiť vlastné rozhodnutie skôr, než videli návrh stroja, sa jeho nesprávnymi návrhmi riadili menej často než ľudia, ktorým bolo ukázané krátke vysvetlenie uvažovania stroja. Vysvetľovanie UI problém nevyriešilo. Pomohla metóda vynúteného úsudku. Vynútiť úsudok znamená prinútiť ľudí premýšľať. Keďže premýšľanie je vyčerpávajúce, tieto metódy sa účastníkom páčili najmenej a najviac pomohli tým, ktorí už aj tak radi premýšľajú s väčším úsilím. To je to, čo všetci poznáte ako Matúšov efekt: tomu, kto má, sa ešte pridá.
  • Zabudovať limity priamo do nástroja. Chatbot z Kapitoly 1.2, ktorý namiesto odpovedí kládol otázky, je tá istá myšlienka premietnutá do softvéru: študenti, ktorí ho používali, na skúške nič nestratili, zatiaľ čo tí s neobmedzenou verziou dopadli zle.
  • Robiť proces viditeľným namiesto naháňania výsledku. Návrhy, pracovné poznámky, krátky rozhovor o práci. Tie ukážu, čo študent dokáže, bez toho, aby niekto musel dokazovať, čo urobil.
  • Dánsko tento princíp pilotne testuje: na zúčastnených školách môžu študenti používať UI pri príprave na ústnu skúšku z angličtiny, zatiaľ čo písomná skúška obsahuje ručne písanú časť bez pomôcok.

Predtým, než sa na to spoľahnete, stojí za to poznať dve obmedzenia.

Prvé: populárna rada, že učitelia majú chatbotu jednoducho nariadiť, aby sa správal ako sokratovský tútor, nemusí obstáť pri dlhšej konverzácii. Prvé dôkazy zo štúdie so simulovanými študentmi, ktorá zatiaľ nebola recenzovaná (október 2026), naznačujú, že pod vytrvalým tlakom takíto tútori skĺznu späť k poskytovaniu odpovedí. Spoľahlivé limity musia byť zabudované priamo do systému, čo z nich robí skôr otázku nákupu než zručnosti pri formulovaní promptov.

Druhé: aby UI vysvetlila svoje uvažovanie, znie ako samozrejmá poistka, no vysvetlenia spoľahlivo nezabraňujú nadmernej dôvere. V jednej štúdii nezmenili mieru, akou ľudia prijímali nesprávne rady, a vysvetlenia, ktoré sú príliš technické alebo príliš zjednodušené, môžu nadmernú dôveru dokonca zvýšiť. Vysvetlenie je len podmienkou učenia.

Postoj: dva režimy zlyhania, nie jeden

Obávame sa, že učitelia dôverujú UI príliš. Rovnako by nás však mal znepokojovať aj opak. Aj skúsení ľudia môžu byť chytení do pasce nadmernej dôvery. V malom pilotnom projekte v amerických školách štyria z desiatich opýtaných učiteľov hodnotili spätnú väzbu nástroja UI na hodnotenie ako neužitočnú, väčšinou nejasnú alebo dokonca nesprávnu. Výskum skreslenia automatizáciou (automation bias) ukazuje, že ľudia majú tendenciu riadiť sa návrhom stroja, aj keď majú dôvod pochybovať. Odhaliť chybu a opraviť ju sú dva odlišné kroky.

Opačným pólom je zatajovanie. Učitelia skrývajú svoje vlastné používanie UI pred kolegami a študentmi a zakazujú im to, čo sami robia: 77 % z nich používa UI súkromne, zatiaľ čo 57 % tvrdí, že študenti by ho nikdy nemali používať na generovanie nápadov. Zároveň štúdia akademicky nadaných študentov v 6. až 8. ročníku zistila, že medzi tretinou až dvoma pätinami z nich už tvrdí, že UI vie viac než ich učitelia. Profesia, ktorá skrýva svoje postupy, nemôže byť vzorom zodpovednej praxe, a transparentnosť nie je len zdvorilosťou. Je to mechanizmus, vďaka ktorému funguje učenie sa príkladom.

Vyrovnáva UI podmienky, alebo ich naklápa?

Pri pracovných úlohách UI vyrovnáva rozdiely. V jednom experimente dosahovali účastníci s vyšším vzdelaním výrazne lepšie výsledky než tí s nižším vzdelaním. S asistentom UI zmizli približne tri štvrtiny tohto rozdielu. Keď sa asistent opäť odobral, značná časť rozdielu sa vrátila. To, čo UI uzavrela, bola medzera vo výstupe, nie medzera v schopnostiach.

Pri učebných úlohách je to presne naopak. Jedna štúdia nezistila v priemere žiadny prínos, ale narastajúci odstup medzi študentmi, ktorí už vedeli veľa, a tými, ktorí nevedeli. Iná štúdia sa zamerala na študentov píšucich v cudzom jazyku: slabší autori dostávali od UI viac opráv, no úspešne využili menej z nich, a mnohí považovali záplavu spätnej väzby za skľučujúcu. Spätná väzba bez schopnosti ju roztriediť nepomáha, ale zahlcuje.

Táto medzera existuje ešte predtým, než sa niekto vôbec dotkne nástroja. V Nemecku vníma UI ako príležitosť 80 % študentov z najviac zvýhodnených rodín, oproti 55 % z najmenej zvýhodnených. Vo Veľkej Británii nevedie deliaca čiara cez sklad zariadení, ale cez zborovňu: 45 % učiteľov na súkromných školách absolvovalo formálne školenie v používaní UI, oproti 21 % na štátnych školách. Aj v rámci štátneho sektora bohatšie školy opäť predbiehajú tie chudobnejšie. Prieskum z roku 2026 medzi viac ako 25 000 deťmi v 17 európskych krajinách zisťuje rovnaké sociálne rozdelenie v tom, ako často a akým spôsobom UI používajú. Výrok jedného komentátora vystihuje celý problém lepšie než akékoľvek číslo: „bohatí majú prístup k technológii aj k ľuďom, ktorí im pomôžu ju používať, zatiaľ čo chudobní majú prístup len k technológii.“

Kľúčovým obmedzujúcim faktorom teda je, či má žiak učiteľa, ktorý bol na to vyškolený. UI kompenzuje rozdiely vtedy, keď spolu fungujú tri veci: bezpečný prístup, nástroj navrhnutý na učenie, nie na poskytovanie odpovedí, a učiteľ, ktorý jeho používanie sprevádza. Ak čo i len jedno z toho chýba, UI namiesto toho rozdiely zosilňuje. Keďže všetky tri prvky sa zvyčajne vyskytujú spoločne na tých istých školách — a rovnako spoločne chýbajú na tých istých školách — zosilňovanie je predvolený stav a vyrovnávanie je niečo, čo treba aktívne vybudovať.