Skip to main content

1.3 Zodpovědné používání AI

Shrnutí

  • ZodpovědnostOdpovědné je úkolem návrhu, nikoli úkolem kontroly. Detekce AI spolehlivě nefunguje.

A detekcevyužívání AI je nespravedlivá,otázkou kdyžsprávného selže.nastavení, nikoli kontroly. DetektoryNástroje mylněpro detekci AI nejsou spolehlivé.

Detekce AI může vést k nespravedlivému hodnocení. Nástroje chybně označují lidskou práci jakoza napsanouvýstup AI a prácinaopak. napsanou AI přehlížejí. Školské úřady ve FranciiFrancie a Nizozemsku odNizozemsko jejich používání odrazují.ve školách nedoporučují.

SebejistéAI smyšlenkymůže vytvářet nepravdivé informace a zděděnépřebírat zkreslení vyplývají z toho, jak jsou tyto systémy vytvářeny a hodnoceny.předsudky. DůsledkemŽáky byje měloproto být:nutné učit otato nich,rizika místorozpoznávat.

čekání na opravu.

PracovníNejprve zásadavlastní zní:úvaha, nejprve myslet, pakpotom AI. PřinutitSamostatné lidipřemýšlení zavázata sevhodná softwarová omezení pomáhají předcházet negativním dopadům AI.

Samotné prompty nestačí. Chatboti často přecházejí k vlastníposkytování odpovědihotových fungujeodpovědí. lépeDůležitý nežje vysvětlovatproto postupvýběr stroje,vhodných nástrojů.

AI může prohlubovat rozdíly mezi žáky. Jejich zmírnění vyžaduje dostupné technologie, vhodné nástroje a zabudovánípředevším omezeníproškolené doučitele.

softwaru odstraňuje škody, které působí neomezený přístup. Samotné příkazy nevydrží. Chatbot pověřený rolí tútora má tendenci sklouzávat zpět k přímému sdělování odpovědí, což dělá ze spolehlivých omezení otázku nákupu, nikoli formulace zadání. Zesilování je výchozí stav; vyrovnávání je třeba vybudovat společně z přístupu, návrhu a podpůrného vedení. Nejvzácnějším, ale nejdůležitějším ze tří je proškolený učitel.

Inkluze je nejjasnějšímjedním přínosemz největších přínosů AI. Právě azde oblastí, kde samotnívidí učitelé vidínejvětší nejsilnějšípotenciál argument.jejího využití.

Pokud si z této stránky máte zapamatovat jen jednu větu: Hráze se protrhávají.bortí. UčteNaučme se plavat.

Čtenářský deník, druhý pohled

Vraťme se k našemu žákovi deváté třídy a jeho čtenářskému deníku, který působí až podezřele vybroušenému čtenářskému deníku.dokonale. Instinkt je téměř univerzální a je to instinkt dobrého učitele: zjistit, zda použil AI. Postavit lepší hráz.

Tato kapitola pojednává o tom, proč tento instinkt sám o sobě nikam nevede. Dostaneme se k tomu, co funguje místo něj.

Začněme tou nepříjemnou částí. Učitelé nedokážou spolehlivě rozeznat text vytvořený AI od textu žáka. Ve dvou studiích německého týmu dostalo 89 budoucích učitelů a 200 zkušených učitelů směs žákovských esejí a esejí od chatbota a měli je roztřídit. Ani jedna skupina to nedokázala spolehlivě, přesto si obě skupiny byly jisté, že to dokážou. Zkušenost pomohla jen málo: i zkušení učitelé přehlédli většinu textů vytvořených AI. Na jedné britské univerzitě výzkumníci vložili odpovědi vygenerované chatbotem běžnými kanály do skutečných online zkoušek bez dozoru, aniž by o tom hodnotitele informovali.

„Můžete ji používat, ale musíte umět vysvětlit výsledek vlastními slovy.“

Detektor, který trestá špatné žáky

Výzkumníci otestovali sedm nejrozšířenějších detektorů AI na esejích TOEFL, které napsali lidé učící se angličtinu jako cizí jazyk a které byly shromážděny z čínského online fóra. Vedle nich zařadili eseje rodilých amerických osmáků. Práce rodilých mluvčích byla klasifikována správně téměř pokaždé. Z esejí v cizím jazyce bylo více než šest z deseti mylně označeno jako vytvořené strojem.

Mechanismus není žádnou záhadou. Mnohé z těchto nástrojů nedetekují práci velkých jazykových modelů. Nástroje měří předvídatelnost. Text, který používá běžná slova v očekávaném pořadí, je vyhodnocen jako umělý. Lidé píšící v cizím jazyce, s menší slovní zásobou a strnulejšími větnými strukturami, mohou produkovat přesně takový signál. Detektory trénované pro jeden konkrétní test a studie v jiných jazycích přitom ukazují menší rozdíly. Dosud však na trhu neexistují detektory dostatečně spolehlivé na to, aby bylo možné kohokoli obvinit z úmyslného podvodu.

Chyby nástroje systematicky dopadají na žáky, kteří už nesou největší zátěž. Instituce si to spočítaly. Vanderbiltova univerzita upozornila, že i kdyby se takový nástroj mýlil jen v 1 % případů, stále by to znamenalo přibližně 750 mylně označených prací ročně z jejích 75 000 odevzdaných prací. V důsledku toho jej vypnula. Příručka, kterou pro německé spolkové ministerstvo školství napsali výzkumníci, je jednoznačná: technologie „není dostatečně spolehlivá, aby poskytovala právně bezpečný důkaz“. Nezávislý evropský test čtrnácti detektorů dospěl ke stejnému verdiktu: „ani přesné, ani spolehlivé“.

Velká část Evropy o tom už přestala diskutovat. Francouzské ministerstvo školství a francouzský úřad pro ochranu osobních údajů školám doporučují detektory nepoužívat, nizozemská agentura pro ICT ve vzdělávání Kennisnet je označuje za vysoce nespolehlivé. Ve vysokoškolském vzdělávání jejich používání při hodnocení zakazují jednotlivé univerzity, například ZHAW v Curychu. V Anglii zkušební komise připouštějí detekční software pouze jako jeden z prvků úsudku, který zůstává na učiteli, jenž „zná své žáky nejlépe“. Stojí za to si zapamatovat i jeden bod týkající se ochrany osobních údajů: vložení práce žáka do online nástroje znamená zpracování jeho osobních údajů. K tomu je zapotřebí právní základ a smlouva s poskytovatelem. → 1.4 Soulad s předpisy při používání AI

Zdá se, že panika ohledně podvádění je slabší, než by odpovídalo hluku kolem ní. Výzkumníci provedli průzkum mezi žáky tří amerických středních škol před vznikem ChatGPT a poté znovu. Podvádění zůstalo zhruba na stejné úrovni. Navazující průzkum mezi více než 4 000 žáky šesti dalších amerických středních škol o rok později zjistil totéž.

Skutečná otázka nikdy nebyla „Jak ho chytím?“ Je jí: co domácí úkol vlastně ještě měří, když jeho výsledek lze vygenerovat na požádání?

„Nejdřív jsem to považoval za podvádění. Teď to vnímám jako signál, že se musí změnit samotný úkol.“

Dvě věci, které se nedají opravit, a proto je třeba je učit

Sebejisté smyšlenky jsou vestavěnou vlastností. Tyto systémy generují věrohodné pokračování textu, a věrohodné není totéž co pravdivé. Přehledy výzkumu se shodují, že žádná technika tento problém dosud neodstranila, i když jej lze omezit a částečně odhalit. Důvodem je, že standardní testy používané k hodnocení velkých jazykových modelů odměňují sebejisté hádání více než přiznání nejistoty, a dokud budou modely takto hodnoceny, přetrvá určitá míra plynulé, dobře formulované nepravdy.

Zkreslení v trénovacích datech jsou vestavěná také. A navíc se s vylepšováním technologie nezmenšují. Evropská studie genderových stereotypů napříč jazyky zjistila, že větší modely, dokonce i po dodatečném tréninku určeném k tomu, aby byly bezpečnější a spravedlivější, někdy stereotypizují více, nikoli méně. Pokud se vlastnost nedá technicky odstranit, musí se stát součástí učiva. A lze ji učit: v jednom finském programu vzrostl podíl žáků, kteří dokázali vysvětlit, odkud se zkreslení generátoru obrázků bere, ze 7 % na 44 %. Důsledkem pro výuku musí být trénink v analýze chyb místo jejich pouhého vyhýbání se. Jinými slovy: chyby stroje se stávají samotnou lekcí.

„Nechte žáka zkontrolovat řešení chatbota, jako by byl učitelem. Právě hledáním chyb se metodu konečně naučí.“

Co funguje: návrh, nikoli kontrola

Důkazy ukazují na jeden jednoduchý a snadno zapamatovatelný princip: nejprve myslet, pak AI.

  • Nechte člověka zavázat se jako první. V experimentu s přibližně 200 dospělými se lidé, kteří museli učinit vlastní rozhodnutí dříve, než uviděli návrh stroje, řídili jeho chybnými návrhy méně často než lidé, kterým bylo ukázáno krátké vysvětlení uvažování stroje. Vysvětlení AI problém nevyřešilo. Pomohla metoda, která vynutila vlastní úsudek. Vynutit úsudek znamená přimět lidi přemýšlet. Protože přemýšlení jevyžaduje vyčerpávající,úsilí, líbily sepatřily tyto metody účastníkůmmezi účastníky k nejméně aoblíbeným. nejvíceNejvíce však pomáhaly těm, kdokteří užjsou majíjiž rádizvyklí náročnéintenzivně přemýšlení.přemýšlet. ToJde jeo to, co všichni znáte jakotakzvaný Matoušův efekt: víceti, jekteří dánojiž těm,mají kdourčitou užvýhodu, mají.z ní získávají ještě více.
  • Zabudujte omezení přímo do nástroje. Chatbot z kapitoly 1.2, který zadržoval odpovědi a místo toho kladl otázky, je stejná myšlenka přenesená do softwaru: žáci, kteří jej používali, na zkoušce nic neztratili, zatímco ti s neomezenou verzí dopadli výrazně hůře.
  • Zviditelněte proces, místo abyste honili výsledek. Koncepty, pracovní poznámky, krátký rozhovor o práci. Ty vám ukážou, co žák dokáže, aniž by kdokoli musel dokazovat, co udělal.
  • Dánsko pilotně ověřuje tento princip: na zapojených školách mohou žáci používat AI při přípravě na ústní zkoušku z angličtiny, zatímco písemná zkouška obsahuje ručně psanou část bez pomůcek.

Dvě omezení stojí za to znát dříve, nežNež se na totento spolehnete.přístup spolehnete, je dobré znát dvě důležitá omezení.

ToPrvní první:omezení: Často oblíbenádoporučovaný rada,postup, žekdy učitelé mají chatbotoviučitel jednoduše nařídit,zadá chatbotovi, aby se choval jako sokratovský tútor,tutor a vedl žáky k odpovědím pomocí otázek, nemusí přežítpři dlouhýdelším rozhovor.rozhovoru Prvnífungovat poznatkyspolehlivě. zePředběžné výsledky studie se simulovanými žáky, která k říjnu 2026 dosud neprošla recenzním řízením (říjen 2026),řízením, naznačují, že podpři trvalýmopakovaném tlakemnaléhání takovímají tútořitito sklouzávajíAI zpěttutoři tendenci vracet se k poskytování hotových odpovědí. Spolehlivá omezení proto musí být zabudovánasoučástí přímosamotného dosystému. systému, což z nich dělá spíše otázku nákupního rozhodnutíDůležitější než dovednostisprávná formulovatformulace zadání.

Tozadání druhé:je nechattak výběr vhodného AI vysvětlitnástroje.

své

Druhé uvažováníomezení: zníPožádat AI, aby vysvětlila svůj postup, se může zdát jako zjevnájednoduchý pojistka,způsob aleověření správnosti odpovědi. Samotné vysvětlení spolehlivěvšak nezabraňujínezaručuje, nadměrnéže důvěře.uživatel Vnebude jednéAI studiipříliš ponechaladůvěřovat. Jedna ze studií ukázala, že vysvětlení míru,nesnížila vochotu jakélidí lidépřijímat přijímalinesprávné nesprávnérady. rady, beze změny, a vysvětlení, která jsou přílišPříliš technická nebo přílišnaopak zjednodušená,zjednodušená vysvětlení mohou mylnoudokonce falešnou důvěru dokonce zvýšit.posilovat. Vysvětlení jetedy pouzemůže podmínkouučení učení.podpořit, samo o sobě ho však nezaručuje.

Postoj: dva způsoby selhání, nejen jeden

Obáváme se, že učitelé vkládají do AI příliš mnoho důvěry. Měli bychom se však stejně obávat i opaku. I zkušení lidé mohou padnout za oběť přílišné důvěře. V malém pilotním projektu na amerických školách označily čtyři z deseti dotázaných učitelů zpětnou vazbu nástroje AI pro hodnocení za neužitečnou, většinou nejasnou, nebo dokonce nesprávnou. Výzkum zkreslení vlivem automatizace (automation bias) ukazuje, že lidé mají sklon přijmout návrh stroje, i když mají důvod o něm pochybovat. Odhalit chybu a opravit ji jsou dva odlišné kroky.

Opačným pólem je utajování. Učitelé skrývají vlastní používání AI před kolegy i žáky a zakazují jim to, co sami dělají: 77 % z nich používá AI soukromě, zatímco 57 % tvrdí, že žáci by ji nikdy neměli používat k vymýšlení nápadů. Studie akademicky nadaných žáků 6. až 8. ročníku mezitím zjistila, že mezi třetinou a dvěma pětinami z nich už tvrdí, že AI ví více než jejich učitelé. Profese, která skrývá vlastní praxi, nemůže být vzorem zodpovědného jednání, a transparentnost není jen zdvořilostí. Je to mechanismus, kterým funguje výuka vlastním příkladem.

VyrovnáváPomáhá AI podmínky,vyrovnávat rozdíly, nebo je naklání?naopak prohlubuje?

U pracovních úkolů AI vyrovnává rozdíly. V jednom experimentu podávali účastníci s vyšším vzděláním výrazně lepší výkony než účastníci s nižším vzděláním. S asistentem AI zmizely zhruba tři čtvrtiny tohoto rozdílu. Když byl asistenttutor znovu odebrán, značná část rozdílu se vrátila. AI odstranila rozdíl ve výstupu, nikoli rozdíl ve schopnostech.

U učebních úkolů je tomu naopak. Jedna studie nezjistila v průměru žádný přínos, ale zjistila rostoucí propast mezi žáky, kteří už toho hodně věděli, a těmi, kteří ne. Jiná studie se zaměřila na žáky píšící v cizím jazyce: slabší pisatelé dostávali od AI více oprav a úspěšně jich uplatnili méně, a mnozí považovali záplavu zpětné vazby za skličující. Zpětná vazba bez schopnosti ji roztřídit nepomáhá; zavaluje.

PropastRozdíly existujemezi ižáky dřív,existují ještě předtím, než sezačnou kdokoliAI nástrojevůbec dotkne.používat. V Německu vnímá AIumělou inteligenci jako příležitost 80 % žáků z nejzvýhodněnějšíchnejlépe rodinsocioekonomicky oprotizajištěných 55rodin, %zatímco mezi žáky z nejméně zvýhodněnýchzvýhodněného prostředí je to pouze 55 %. Ve Spojeném království vede dělicí čára spíše sborovnou než skladem se zařízením: 45 % učitelů na soukromých školách absolvovalo formální školení v používání AI, oproti 21 % na státních školách. V rámci státního sektoru bohatší školy opět předstihují ty chudší. Průzkum z roku 2026 mezi více než 25 000 dětmi ze 17 evropských zemí ukazuje stejné sociální rozdělení v tom, jak moc a jak různorodě AI používají. Výrok jednoho komentátora vystihuje celý problém lépe než jakékoli číslo: „bohatí mají přístup k technologii i k lidem, kteří jim pomohou ji používat, zatímco chudí mají přístup pouze k technologii.“

ÚzkýmRozhodujícím hrdlemfaktorem je tedy to, zda má žák k dispozici učitele, který bylje proškolen.na využívání AI kompenzujedostatečně nevýhodypřipraven. tehdy,Umělá kdyžinteligence semůže spojípomáhat vyrovnávat rozdíly mezi žáky, pokud jsou splněny tři věci:podmínky: zajištěnýdostupnost přístup,technologií, nástrojvyužívání navrženýnástrojů navržených pro podporu učení, nikoli pouze pro pouhéposkytování poskytováníhotových odpovědí, a učitel,odborné kterývedení jehoze používánístrany podpůrněučitele. vede.Pokud Odeberte kteroukoliněkterá z nichtěchto apodmínek chybí, může AI místo tohonaopak rozdíly zesiluje.prohlubovat. Protože se všechny tři podmínky bývajíčasto přítomnévyskytují vespolečně stejných školách a chybí vena stejných školách, jezatímco zesilováníjinde výchozímchybějí, stavemAI amá přirozenou tendenci existující nerovnosti prohlubovat. Jejich vyrovnávání jeproto něco,vyžaduje cocílené je třeba záměrně vybudovat.úsilí.