Skip to main content

1.3 Zodpovědné používání UI

Shrnutí

  • Zodpovědnost je úkolem návrhu, nikoli úkolem kontroly. Detekce UI spolehlivě nefunguje.
  • A detekce UI je nespravedlivá, když selže. Existuje riziko, že odpovědi budouDetektory mylně označenyoznačují lidskou práci jako vygenerovanénapsanou UI,UI neboa naopak.práci Několiknapsanou evropskýchUI zemípřehlížejí. tytoŠkolské nástrojeúřady jižve zcelaFrancii vyloučilo.a Nizozemsku od jejich používání odrazují.
  • Sebejisté smyšlenky a zděděné zkreslení vyplývají z toho, jak jsou tyto systémy vytvářeny a hodnoceny. Důsledkem by mělo být: učit o nich, místo čekání na opravu.
  • Pracovní zásada zní: nejprve myslet, pak UI. Přinutit lidi zavázat se k vlastní odpovědi funguje lépe než vysvětlovat postup stroje;stroje, a zabudování omezení do softwaru fungujeodstraňuje lépeškody, nežkteré jehopůsobí zákaz.neomezený přístup.
  • Samotné příkazy nevydrží. Chatbot pověřený rolí tútora má tendenci sklouzávat zpět k přímému sdělování odpovědí, což dělá ze spolehlivých omezení otázku nákupu, nikoli formulace zadání.
  • Zesilování je výchozí stav; vyrovnávání je třeba vybudovat společně z přístupu, návrhu a podpůrného vedenívedení. –Nejvzácnějším, aale nejvzácnějšímnejdůležitějším ze tří je proškolený učitel.
  • Inkluze je nejjasnějším přínosem a oblastí, kde samotní učitelé vidí nejsilnější argument.

Pokud si z této stránky máte zapamatovat jen jednu větu: Hráze se protrhávají. Učte plavat.

Čtenářský deník, druhý pohled

Vraťme se k našemu žákovi deváté třídy a jeho podezřele vybroušenému čtenářskému deníku. Instinkt je téměř univerzální a je to instinkt dobrého učitele: zjistit, zda použil UI. Postavit lepší hráz.

Tato kapitola pojednává o tom, proč tento instinkt sám o sobě nikam nevede. Dostaneme se k tomu, co funguje místo něj.

Začněme tou nepříjemnou částí. Učitelé nedokážou spolehlivě rozeznat text vytvořený UI od textu žáka. VVe německédvou studiistudiích německého týmu dostalo 28989 budoucích učitelů sa různou200 zkušenostízkušených učitelů směs žákovských textůesejí a textůesejí od chatbota a měli je roztřídit. Ani jedna skupina to nedokázala.nedokázala Přestospolehlivě, přesto si obě skupiny byly jisté, že to dokážou. Zkušenost nedělalapomohla téměřjen žádnýmálo: rozdíl.i Vezkušení většímučitelé měřítkupřehlédli jevětšinu totextů ještěvytvořených horší.UI. Na jedné britské univerzitě výzkumníci vložili odpovědi vygenerované chatbotem běžnými kanály do skutečnéhoskutečných zkouškovéhoonline systémuzkoušek běžnýmibez kanály,dozoru, aniž by o tom hodnotitele informovali.

„Můžete 94ji %používat, zale nichmusíte nebyloumět nikdyvysvětlit zpochybněno.výsledek Navícvlastními byly v průměru ohodnoceny lépe než práce skutečných studentů. Jaký je tedy důsledek? Sáhneme po stroji! A právě zde přestává být zjištění pouze trapné a stává se etickým problémem!slovy.“

Detektor, který trestá špatné žáky

Výzkumníci otestovali sedm nejrozšířenějších detektorů UI na esejích TOEFLTOEFL, napsanýchkteré žáky,napsali kteřílidé učící se učí angličtinu jako cizí jazyk.jazyk a které byly shromážděny z čínského online fóra. Vedle nich zařadili eseje rodilých amerických osmáků. Práce rodilých mluvčích byla klasifikována správně téměř pokaždé. Z esejí v cizím jazyce bylo více než šest z deseti mylně označeno jako vytvořené strojem.strojem.

Mechanismus není žádnou záhadou. TytoMnohé nástrojez těchto nástrojů nedetekují práci velkých jazykových modelů,modelů. detekujíNástroje předvídatelnost.měří předvídatelnost. Text, který používá běžná slova v očekávaném pořadí, je vyhodnocen jako umělý. KdokoliLidé píšepíšící v cizím jazyce, s menší slovní zásobou a bezpečnějšímistrnulejšími větnými strukturami, produkujemohou produkovat přesně takový signál. Detektory trénované pro jeden konkrétní test a studie v jiných jazycích přitom ukazují menší rozdíly. Dosud však na trhu neexistují detektory dostatečně spolehlivé na to, aby bylo možné kohokoli obvinit z úmyslného podvodu.

Chyby nástroje systematicky dopadají na žáky, kteří už nesou největší zátěž. Instituce si to spočítaly. Vanderbiltova univerzita upozornila, že i kdyby se takový nástroj mýlil jen v 1 % případů, stále by to znamenalo přibližně 750 nespravedlivěmylně obviněnýchoznačených žákůprací ročně z jejích 75 000 odevzdaných prací. V důsledku toho jej vypnula. VyjádřeníPříručka, německéhokterou spolkovéhopro ministerstvaněmecké spolkové ministerstvo školství napsali výzkumníci, je jednoznačné:jednoznačná: technologie „není dostatečně spolehlivá, aby poskytovala právně bezpečný důkaz“. Nezávislý evropský test čtrnácti detektorů dospěl ke stejnému verdiktu: „ani přesné, ani spolehlivé“.

Velká část Evropy o tom už přestala diskutovat. Francie,Francouzské Nizozemskoministerstvo školství a Švýcarskofrancouzský odúřad detektorůpro odrazujíochranu neboosobních údajů školám doporučují detektory nepoužívat, nizozemská agentura pro ICT ve vzdělávání Kennisnet je zakazují.označuje Britskýza vysoce nespolehlivé. Ve vysokoškolském vzdělávání jejich používání při hodnocení zakazují jednotlivé univerzity, například ZHAW v Curychu. V Anglii zkušební regulátorkomise připouštějí detekční software pouze jako jeden z prvků úsudku, který zůstává na učiteli, jenž „zná své žáky nejlépe“. Stojí za to si zapamatovat i jeden bod týkající se záměrněochrany rozhodlosobních upřednostnitúdajů: lidský úsudek před softwarem. Nizozemský argument jde o krok dál a stojí za zapamatování: vložení práce žáka do detektoruonline jenástroje samoznamená o sobě zpracovánímzpracování jeho osobních údajů,údajů. K tomu je zapotřebí právní základ a učinitsmlouva tos bez souhlasu porušuje právo na ochranu osobních údajů.poskytovatelem. → 1.4 Soulad s předpisy při používání UI

Zdá se, že panika ohledně podvádění je slabší, než by odpovídalo hluku kolem ní. Výzkumníci provedli průzkum mezi žáky tří amerických středních škol před vznikem ChatGPT a poté znovu. Podvádění zůstalo zhruba na stejné úrovni. VětšinaNavazující žákůprůzkum odmítalamezi nechatvíce chatbotanež jednoduše4 vytvořit000 celoužáky jejichšesti práci,dalších zatímcoamerických zastředních férškol považovalio použítrok jejpozději kzjistil rozjezdu práce nebo k vysvětlení něčeho.totéž.

Skutečná otázka nikdy nebyla „Jak ho chytím?“ Je jí: co domácí úkol vlastně ještě měří, když jeho výsledek lze vygenerovat na požádání?

„Nejdřív jsem to považoval za podvádění. Teď to vnímám jako signál, že se musí změnit samotný úkol.“

Dvě věci, které se nedají opravit, a proto je třeba je učit

Sebejisté smyšlenky jsou vestavěnou vlastností. Tyto systémy generují věrohodné pokračování textu, coža věrohodné není totéž jakoco pravdivépravdivé. pokračování.Přehledy Výzkumníci nyní formálně ukázali, odkudvýzkumu se toshodují, bere:že žádná technika tento problém dosud neodstranila, i když jej lze omezit a částečně odhalit. Důvodem je, že standardní testy používané k hodnocení velkých jazykových modelů odměňují sebejisté hádání více než přiznání nejistoty, a dokud budou modely takto hodnoceny, přetrvá určitá míra plynulé, dobře formulované nepravdy. Je to vlastnost způsobu, jakým jsou vytvářeny a hodnoceny, nikoli chyba čekající na opravu.

Zkreslení v trénovacích datech jsou vestavěná také. A navíc se s vylepšováním technologie nezmenšují. Evropská studie genderových stereotypů napříč jazyky zjistila, že větší modely, dokonce i po dodatečném tréninku určeném k tomu, aby byly bezpečnější a spravedlivější, někdy stereotypizují více, nikoli méně. Pokud se vlastnost nedá technicky odstranit, musí se stát součástí učiva. A lze ji učit: v jednom finském programu vzrostl podíl žáků, kteří dokázali identifikovatvysvětlit, odkud se zkreslení vegenerátoru výstupuobrázků systému UI,bere, ze 7 % na 44 %. Důsledkem pro výuku musí být trénink v analýze chyb místo jejich pouhého vyhýbání se. Jinými slovy: chyby stroje se stávají samotnou lekcí.

„Nechte žáka zkontrolovat řešení chatbota, jako by byl učitelem. Právě hledáním chyb se metodu konečně naučí.“

Co funguje: návrh, nikoli kontrola

Důkazy ukazují na jeden jednoduchý a snadno zapamatovatelný princip: nejprve myslet, pak UI.

  • Nechte člověka zavázat se jako první. V sériiexperimentu experimentůs přibližně 200 dospělými se lidé, kteří si museli nejprve zapsatučinit vlastní odpověď,rozhodnutí dříve, než uviděli návrh stroje, odhalili mnohem víceřídili jeho chybchybnými návrhy méně často než lidé, kterým bylo podrobněukázáno vysvětleno,krátké jakvysvětlení strojuvažování uvažoval.stroje. Vysvětlení UI problém nevyřešilo,nevyřešilo. alePomohla vynucenímetoda, úsudkukterá ano.vynutila Svlastní jednouúsudek. upřímnouVynutit výhradou:úsudek verze,znamená kterépřimět fungovalylidi nejlépe,přemýšlet. Protože přemýšlení je vyčerpávající, líbily se tyto metody účastníkům líbily nejméně a nejvíce pomáhaly těm, kdo už mají rádi náročné přemýšlení. JdeTo tedyje oto, jevco známývšichni takéznáte jako Matoušův efekt: Tomu,více je dáno těm, kdo má,už bude dáno více. Právě oni z tohoto přístupu těží nejvíce.mají.
  • Zabudujte omezení přímo do nástroje. Chatbot z kapitoly 1.2, který zadržoval odpovědi a místo toho kladl otázky, je stejná myšlenka přenesená do softwaru: žáci, kteří jej používali, na zkoušce nic neztratili, zatímco ti s neomezenou verzí dopadli výrazně hůře.
  • Zviditelněte proces, místo abyste honili výsledek. Koncepty, pracovní poznámky, krátký rozhovor o práci. Ty vám ukážou, co žák dokáže, aniž by kdokoli musel dokazovat, co udělal.
  • Dánsko pilotně ověřuje tento princip: na zapojených školách mohou žáci používat UI při přípravě na ústní zkoušku z angličtiny, zatímco písemná zkouška obsahuje ručně psanou část bez pomůcek.

NežDvě se na to spolehnete,omezení stojí za to znát dvědříve, omezení.než se na to spolehnete.

To první: oblíbená rada, že učitelé mají chatbotovi jednoduše nařídit, aby se choval jako sokratovský tútor, nepřežijenemusí přežít dlouhý rozhovor. SystémPrvní má,poznatky alespoňze vstudie tutose chvíli,simulovanými tendencižáky, sklouzávatkterá dosud neprošla recenzním řízením (říjen 2026), naznačují, že pod trvalým tlakem takoví tútoři sklouzávají zpět k poskytování odpovědí. Spolehlivá omezení musí být zabudována přímo do systému, což z nich dělá spíše otázku nákupního rozhodnutí než dovednosti formulovat zadání. 

To druhé: nechat UI vysvětlit své uvažování zní jako zjevná pojistka, ale vysvětlení spolehlivě nezabraňují nadměrné důvěře. V jedné studii ponechala vysvětlení míru, v jaké lidé přijímali nesprávné rady, beze změny, a vysvětlení, která jsou příliš technická nebo příliš zjednodušená, mohou mylnou důvěru dokonce zvýšit. Vysvětlení je podmínkou,pouze nikolipodmínkou řešením.učení.

Postoj: dva způsoby selhání, nejen jeden

Obáváme se, že učitelé vkládají do UI příliš mnoho důvěry. Měli bychom se však stejně obávat i opaku. I zkušení lidé mohou padnout za oběť přílišné důvěře. V jednémalém studiipilotním učiteléprojektu posuzovalina známkyamerických vygenerovanéškolách UI.označily Učtyři 42z %deseti zpětnédotázaných vazbyučitelů strojezpětnou usoudili,vazbu nástroje UI pro hodnocení za neužitečnou, většinou nejasnou, nebo dokonce nesprávnou. Výzkum zkreslení vlivem automatizace (automation bias) ukazuje, že jelidé nejasnámají nebosklon chybná,přijmout alenávrh upravilistroje, jeni 9když %mají zdůvod ní.o něm pochybovat. Odhalit chybu a opravit ji jsou dva odlišné procesy.kroky.

Opačným pólem je utajování. Učitelé skrývají vlastní používání UI před kolegy i žáky a zakazují jim to, co sami dělají: 77 % z nich používá UI soukromě, zatímco 57 % tvrdí, že žáci by ji nikdy neměli používat k vymýšlení nápadů. Studie akademicky nadaných žáků 6. až 8. ročníku mezitím zjistila, že mezi třetinou a dvěma pětinami z nich už tvrdí, že UI ví více než jejich učitelé. Profese, která skrývá vlastní praxi, nemůže být vzorem zodpovědného jednání, a transparentnost není jen zdvořilostí. Je to mechanismus, kterým funguje výuka vlastním příkladem.

Vyrovnává UI podmínky, nebo je naklání?

U pracovních úkolů UI vyrovnává rozdíly. V jednom experimentu podávali účastníci s vyšším vzděláním výrazně lepší výkony než účastníci s nižším vzděláním. KdyžS každýasistentem zUI nichzmizely dostalzhruba asistentatři UI,čtvrtiny tytotohoto rozdíly téměř úplně zmizely.rozdílu. Když jim pak byl asistent znovu odebrán, velkáznačná část rozdílu se vrátila. UI odstranila rozdíl ve výstupu, nikoli rozdíl ve schopnostech.

U učebních úkolů je tomu naopak. Jedna studie nezjistila v průměru žádný přínos, ale zjistila rostoucí propast mezi žáky, kteří už toho hodně věděli, a těmi, kteří ne. Jiná studie se zaměřila na žáky píšící v cizím jazyce: slabší pisatelé dostávali od UI více oprav a úspěšně jich uplatnili méně, a mnozí považovali záplavu zpětné vazby za skličující. Zpětná vazba bez schopnosti ji roztřídit nepomáhá; zavaluje.

Propast existuje i dřív, než se kdokoli nástroje dotkne. V Německu vnímá UI jako příležitost 80 % žáků z nejzvýhodněnějších rodin oproti 55 % z nejméně zvýhodněných.zvýhodněných. Ve Spojeném království vede dělicí čára spíše sborovnou než skladem se zařízením: 45 % učitelů na soukromých školách absolvovalo formální školení v používání UI, oproti 21 % na státních školách. V rámci státního sektoru bohatší školy opět předstihují ty chudší. Průzkum z roku 2026 mezi více než 25 000 dětmi zze 2017 evropských zemí ukazuje stejné sociální rozdělení v tom, jak moc a jak různorodě UI používají. JednaVýrok větajednoho komentátora vystihuje celý problém lépe než jakékoli číslo: „bohatí mají přístup k technologii i k lidem, kteří jim pomohou ji používat, zatímco chudí mají přístup pouze k technologii.“ To je nejsilnější dostupný argument pro to, že na učitelích při uzavírání této propasti záleží.

Úzkým hrdlem je tedy to, zda má žák učitele, který byl proškolen. UI kompenzuje nevýhody tehdy, když se spojí tři věci: zajištěný přístup, nástroj navržený pro učení, nikoli pro pouhé poskytování odpovědí, a učitel, který jeho používání podpůrně vede. Odeberte kteroukoli z nich a UI místo toho rozdíly zesiluje. Protože všechny tři podmínky bývají přítomné ve stejných školách a chybí ve stejných školách, je zesilování výchozím stavem a vyrovnávání je něco, co je třeba záměrně vybudovat.