1.3 Zodpovědné používání AI
Shrnutí
- Zodpovědnost je úkolem návrhu, nikoli úkolem kontroly. Detekce AI spolehlivě nefunguje.
- A detekce AI je nespravedlivá, když selže. Detektory mylně označují lidskou práci jako napsanou AI a práci napsanou AI přehlížejí. Školské úřady ve Francii a Nizozemsku od jejich používání odrazují.
- Sebejisté smyšlenky a zděděné zkreslení vyplývají z toho, jak jsou tyto systémy vytvářeny a hodnoceny. Důsledkem by mělo být: učit o nich, místo čekání na opravu.
- Pracovní zásada zní: nejprve myslet, pak AI. Přinutit lidi zavázat se k vlastní odpovědi funguje lépe než vysvětlovat postup stroje, a zabudování omezení do softwaru odstraňuje škody, které působí neomezený přístup.
- Samotné příkazy nevydrží. Chatbot pověřený rolí tútora má tendenci sklouzávat zpět k přímému sdělování odpovědí, což dělá ze spolehlivých omezení otázku nákupu, nikoli formulace zadání.
- Zesilování je výchozí stav; vyrovnávání je třeba vybudovat společně z přístupu, návrhu a podpůrného vedení. Nejvzácnějším, ale nejdůležitějším ze tří je proškolený učitel.
- Inkluze je nejjasnějším přínosem a oblastí, kde samotní učitelé vidí nejsilnější argument.
Pokud si z této stránky máte zapamatovat jen jednu větu: Hráze se protrhávají. Učte plavat.
Čtenářský deník, druhý pohled
Vraťme se k našemu žákovi deváté třídy a jeho podezřele vybroušenému čtenářskému deníku. Instinkt je téměř univerzální a je to instinkt dobrého učitele: zjistit, zda použil AI. Postavit lepší hráz.
Tato kapitola pojednává o tom, proč tento instinkt sám o sobě nikam nevede. Dostaneme se k tomu, co funguje místo něj.
Začněme tou nepříjemnou částí. Učitelé nedokážou spolehlivě rozeznat text vytvořený AI od textu žáka. Ve dvou studiích německého týmu dostalo 89 budoucích učitelů a 200 zkušených učitelů směs žákovských esejí a esejí od chatbota a měli je roztřídit. Ani jedna skupina to nedokázala spolehlivě, přesto si obě skupiny byly jisté, že to dokážou. Zkušenost pomohla jen málo: i zkušení učitelé přehlédli většinu textů vytvořených AI. Na jedné britské univerzitě výzkumníci vložili odpovědi vygenerované chatbotem běžnými kanály do skutečných online zkoušek bez dozoru, aniž by o tom hodnotitele informovali.
„Můžete ji používat, ale musíte umět vysvětlit výsledek vlastními slovy.“
Detektor, který trestá špatné žáky
Výzkumníci otestovali sedm nejrozšířenějších detektorů AI na esejích TOEFL, které napsali lidé učící se angličtinu jako cizí jazyk a které byly shromážděny z čínského online fóra. Vedle nich zařadili eseje rodilých amerických osmáků. Práce rodilých mluvčích byla klasifikována správně téměř pokaždé. Z esejí v cizím jazyce bylo více než šest z deseti mylně označeno jako vytvořené strojem.
Mechanismus není žádnou záhadou. Mnohé z těchto nástrojů nedetekují práci velkých jazykových modelů. Nástroje měří předvídatelnost. Text, který používá běžná slova v očekávaném pořadí, je vyhodnocen jako umělý. Lidé píšící v cizím jazyce, s menší slovní zásobou a strnulejšími větnými strukturami, mohou produkovat přesně takový signál. Detektory trénované pro jeden konkrétní test a studie v jiných jazycích přitom ukazují menší rozdíly. Dosud však na trhu neexistují detektory dostatečně spolehlivé na to, aby bylo možné kohokoli obvinit z úmyslného podvodu.
Chyby nástroje systematicky dopadají na žáky, kteří už nesou největší zátěž. Instituce si to spočítaly. Vanderbiltova univerzita upozornila, že i kdyby se takový nástroj mýlil jen v 1 % případů, stále by to znamenalo přibližně 750 mylně označených prací ročně z jejích 75 000 odevzdaných prací. V důsledku toho jej vypnula. Příručka, kterou pro německé spolkové ministerstvo školství napsali výzkumníci, je jednoznačná: technologie „není dostatečně spolehlivá, aby poskytovala právně bezpečný důkaz“. Nezávislý evropský test čtrnácti detektorů dospěl ke stejnému verdiktu: „ani přesné, ani spolehlivé“.
Velká část Evropy o tom už přestala diskutovat. Francouzské ministerstvo školství a francouzský úřad pro ochranu osobních údajů školám doporučují detektory nepoužívat, nizozemská agentura pro ICT ve vzdělávání Kennisnet je označuje za vysoce nespolehlivé. Ve vysokoškolském vzdělávání jejich používání při hodnocení zakazují jednotlivé univerzity, například ZHAW v Curychu. V Anglii zkušební komise připouštějí detekční software pouze jako jeden z prvků úsudku, který zůstává na učiteli, jenž „zná své žáky nejlépe“. Stojí za to si zapamatovat i jeden bod týkající se ochrany osobních údajů: vložení práce žáka do online nástroje znamená zpracování jeho osobních údajů. K tomu je zapotřebí právní základ a smlouva s poskytovatelem. → 1.4 Soulad s předpisy při používání AI
Zdá se, že panika ohledně podvádění je slabší, než by odpovídalo hluku kolem ní. Výzkumníci provedli průzkum mezi žáky tří amerických středních škol před vznikem ChatGPT a poté znovu. Podvádění zůstalo zhruba na stejné úrovni. Navazující průzkum mezi více než 4 000 žáky šesti dalších amerických středních škol o rok později zjistil totéž.
Skutečná otázka nikdy nebyla „Jak ho chytím?“ Je jí: co domácí úkol vlastně ještě měří, když jeho výsledek lze vygenerovat na požádání?
„Nejdřív jsem to považoval za podvádění. Teď to vnímám jako signál, že se musí změnit samotný úkol.“
Dvě věci, které se nedají opravit, a proto je třeba je učit
Sebejisté smyšlenky jsou vestavěnou vlastností. Tyto systémy generují věrohodné pokračování textu, a věrohodné není totéž co pravdivé. Přehledy výzkumu se shodují, že žádná technika tento problém dosud neodstranila, i když jej lze omezit a částečně odhalit. Důvodem je, že standardní testy používané k hodnocení velkých jazykových modelů odměňují sebejisté hádání více než přiznání nejistoty, a dokud budou modely takto hodnoceny, přetrvá určitá míra plynulé, dobře formulované nepravdy.
Zkreslení v trénovacích datech jsou vestavěná také. A navíc se s vylepšováním technologie nezmenšují. Evropská studie genderových stereotypů napříč jazyky zjistila, že větší modely, dokonce i po dodatečném tréninku určeném k tomu, aby byly bezpečnější a spravedlivější, někdy stereotypizují více, nikoli méně. Pokud se vlastnost nedá technicky odstranit, musí se stát součástí učiva. A lze ji učit: v jednom finském programu vzrostl podíl žáků, kteří dokázali vysvětlit, odkud se zkreslení generátoru obrázků bere, ze 7 % na 44 %. Důsledkem pro výuku musí být trénink v analýze chyb místo jejich pouhého vyhýbání se. Jinými slovy: chyby stroje se stávají samotnou lekcí.
„Nechte žáka zkontrolovat řešení chatbota, jako by byl učitelem. Právě hledáním chyb se metodu konečně naučí.“
Co funguje: návrh, nikoli kontrola
Důkazy ukazují na jeden jednoduchý a snadno zapamatovatelný princip: nejprve myslet, pak AI.
- Nechte člověka zavázat se jako první. V experimentu s přibližně 200 dospělými se lidé, kteří museli učinit vlastní rozhodnutí dříve, než uviděli návrh stroje, řídili jeho chybnými návrhy méně často než lidé, kterým bylo ukázáno krátké vysvětlení uvažování stroje. Vysvětlení AI problém nevyřešilo. Pomohla metoda, která vynutila vlastní úsudek. Vynutit úsudek znamená přimět lidi přemýšlet. Protože přemýšlení je vyčerpávající, líbily se tyto metody účastníkům nejméně a nejvíce pomáhaly těm, kdo už mají rádi náročné přemýšlení. To je to, co všichni znáte jako Matoušův efekt: více je dáno těm, kdo už mají.
- Zabudujte omezení přímo do nástroje. Chatbot z kapitoly 1.2, který zadržoval odpovědi a místo toho kladl otázky, je stejná myšlenka přenesená do softwaru: žáci, kteří jej používali, na zkoušce nic neztratili, zatímco ti s neomezenou verzí dopadli výrazně hůře.
- Zviditelněte proces, místo abyste honili výsledek. Koncepty, pracovní poznámky, krátký rozhovor o práci. Ty vám ukážou, co žák dokáže, aniž by kdokoli musel dokazovat, co udělal.
- Dánsko pilotně ověřuje tento princip: na zapojených školách mohou žáci používat AI při přípravě na ústní zkoušku z angličtiny, zatímco písemná zkouška obsahuje ručně psanou část bez pomůcek.
Dvě omezení stojí za to znát dříve, než se na to spolehnete.
To první: oblíbená rada, že učitelé mají chatbotovi jednoduše nařídit, aby se choval jako sokratovský tútor, nemusí přežít dlouhý rozhovor. První poznatky ze studie se simulovanými žáky, která dosud neprošla recenzním řízením (říjen 2026), naznačují, že pod trvalým tlakem takoví tútoři sklouzávají zpět k poskytování odpovědí. Spolehlivá omezení musí být zabudována přímo do systému, což z nich dělá spíše otázku nákupního rozhodnutí než dovednosti formulovat zadání.
To druhé: nechat AI vysvětlit své uvažování zní jako zjevná pojistka, ale vysvětlení spolehlivě nezabraňují nadměrné důvěře. V jedné studii ponechala vysvětlení míru, v jaké lidé přijímali nesprávné rady, beze změny, a vysvětlení, která jsou příliš technická nebo příliš zjednodušená, mohou mylnou důvěru dokonce zvýšit. Vysvětlení je pouze podmínkou učení.
Postoj: dva způsoby selhání, nejen jeden
Obáváme se, že učitelé vkládají do AI příliš mnoho důvěry. Měli bychom se však stejně obávat i opaku. I zkušení lidé mohou padnout za oběť přílišné důvěře. V malém pilotním projektu na amerických školách označily čtyři z deseti dotázaných učitelů zpětnou vazbu nástroje AI pro hodnocení za neužitečnou, většinou nejasnou, nebo dokonce nesprávnou. Výzkum zkreslení vlivem automatizace (automation bias) ukazuje, že lidé mají sklon přijmout návrh stroje, i když mají důvod o něm pochybovat. Odhalit chybu a opravit ji jsou dva odlišné kroky.
Opačným pólem je utajování. Učitelé skrývají vlastní používání AI před kolegy i žáky a zakazují jim to, co sami dělají: 77 % z nich používá AI soukromě, zatímco 57 % tvrdí, že žáci by ji nikdy neměli používat k vymýšlení nápadů. Studie akademicky nadaných žáků 6. až 8. ročníku mezitím zjistila, že mezi třetinou a dvěma pětinami z nich už tvrdí, že AI ví více než jejich učitelé. Profese, která skrývá vlastní praxi, nemůže být vzorem zodpovědného jednání, a transparentnost není jen zdvořilostí. Je to mechanismus, kterým funguje výuka vlastním příkladem.
Vyrovnává AI podmínky, nebo je naklání?
U pracovních úkolů AI vyrovnává rozdíly. V jednom experimentu podávali účastníci s vyšším vzděláním výrazně lepší výkony než účastníci s nižším vzděláním. S asistentem AI zmizely zhruba tři čtvrtiny tohoto rozdílu. Když byl asistent znovu odebrán, značná část rozdílu se vrátila. AI odstranila rozdíl ve výstupu, nikoli rozdíl ve schopnostech.
U učebních úkolů je tomu naopak. Jedna studie nezjistila v průměru žádný přínos, ale zjistila rostoucí propast mezi žáky, kteří už toho hodně věděli, a těmi, kteří ne. Jiná studie se zaměřila na žáky píšící v cizím jazyce: slabší pisatelé dostávali od AI více oprav a úspěšně jich uplatnili méně, a mnozí považovali záplavu zpětné vazby za skličující. Zpětná vazba bez schopnosti ji roztřídit nepomáhá; zavaluje.
Propast existuje i dřív, než se kdokoli nástroje dotkne. V Německu vnímá AI jako příležitost 80 % žáků z nejzvýhodněnějších rodin oproti 55 % z nejméně zvýhodněných. Ve Spojeném království vede dělicí čára spíše sborovnou než skladem se zařízením: 45 % učitelů na soukromých školách absolvovalo formální školení v používání AI, oproti 21 % na státních školách. V rámci státního sektoru bohatší školy opět předstihují ty chudší. Průzkum z roku 2026 mezi více než 25 000 dětmi ze 17 evropských zemí ukazuje stejné sociální rozdělení v tom, jak moc a jak různorodě AI používají. Výrok jednoho komentátora vystihuje celý problém lépe než jakékoli číslo: „bohatí mají přístup k technologii i k lidem, kteří jim pomohou ji používat, zatímco chudí mají přístup pouze k technologii.“
Úzkým hrdlem je tedy to, zda má žák učitele, který byl proškolen. AI kompenzuje nevýhody tehdy, když se spojí tři věci: zajištěný přístup, nástroj navržený pro učení, nikoli pro pouhé poskytování odpovědí, a učitel, který jeho používání podpůrně vede. Odeberte kteroukoli z nich a AI místo toho rozdíly zesiluje. Protože všechny tři podmínky bývají přítomné ve stejných školách a chybí ve stejných školách, je zesilování výchozím stavem a vyrovnávání je něco, co je třeba záměrně vybudovat.