1.3 Zodpovědné používání UI

Take Home messageShrnutí

• ResponsibilityZodpovědnost isje aúkolem designnávrhu, task,nikoli notúkolem a control task.kontroly. DetectionDetekce ofUI AIspolehlivě does not work properly.nefunguje.
• AndA AIdetekce detectionUI isje unfairnespravedlivá, whenkdyž it fails.selže. ThereExistuje isriziko, aže riskodpovědi ofbudou mistakenlymylně identifyingoznačeny answersjako asvygenerované AI-generated,UI, ornebo vicenaopak. versa.Několik Severalevropských Europeanzemí countriestyto havenástroje alreadyjiž ruledzcela out these tools.vyloučilo.
• ConfidentSebejisté invention and inherited bias follow from how these systems are built and judged. The consequence should be: teach them rather than waiting forsmyšlenky a fix. zděděné zkreslení vyplývají z toho, jak jsou tyto systémy vytvářeny a hodnoceny. Důsledkem by mělo být: učit o nich, místo čekání na opravu.
• ThePracovní workingzásada principlezní: is:nejprve thinkmyslet, first,pak then AI.UI. MakingPřinutit peoplelidi commitzavázat tose theirk ownvlastní answerodpovědi beatsfunguje explaininglépe thenež machine;vysvětlovat buildingpostup limitsstroje; intozabudování theomezení softwaredo beatssoftwaru banningfunguje it.lépe než jeho zákaz.
• PromptsSamotné alonepříkazy don't hold.nevydrží. AChatbot chatbotpověřený taskedrolí withtútora actingmá astendenci asklouzávat tutorzpět tendsk topřímému driftsdělování backodpovědí, tocož givingdělá answers,ze whichspolehlivých makesomezení reliableotázku limitsnákupu, anikoli purchaseformulace question.zadání.
• AmplificationZesilování isje thevýchozí default;stav; equalizationvyrovnávání mustje betřeba builtvybudovat fromspolečně access,z designpřístupu, and scaffolding together — and the scarcest of the three isnávrhu a trainedpodpůrného teacher.{{rev}}vedení – a nejvzácnějším ze tří je proškolený učitel.
• InclusionInkluze isje thenejjasnějším clearestpřínosem win,a andoblastí, wherekde teacherssamotní themselvesučitelé seevidí thenejsilnější strongest case.argument.

Pokud

Ifsi youz remembertéto onlystránky onemáte sentencezapamatovat fromjen thisjednu page:větu: TheHráze damsse areprotrhávají. breaking.Učte Teach swimming.plavat.

TheČtenářský readingdeník, journal,druhý second lookpohled

BackVraťme se k našemu žákovi deváté třídy a jeho podezřele vybroušenému čtenářskému deníku. Instinkt je téměř univerzální a je to ourinstinkt ninth-gradedobrého studentučitele: andzjistit, hiszda suspiciouslypoužil polishedUI. readingPostavit journal.lepší Thehráz.

instinct

Tato iskapitola almostpojednává universal,o andtom, itproč istento theinstinkt instinctsám ofo sobě nikam nevede. Dostaneme se k tomu, co funguje místo něj.

Začněme tou nepříjemnou částí. Učitelé nedokážou spolehlivě rozeznat text vytvořený UI od textu žáka. V německé studii dostalo 289 učitelů s různou zkušeností směs žákovských textů a goodtextů teacher:od find out whether he used AI. Buildchatbota a betterměli dam.

je

Thisroztřídit. chapterAni isjedna about why that instinct, on its own, leads nowhere. We will comeskupina to whatnedokázala. worksPřesto instead.

si

Startobě withskupiny thebyly uncomfortablejisté, part. Teachers cannot reliably tell AI text from student text. In a German study, 289 teachers of different experience were given a mix of student writing and chatbot writing and askedže to sortdokážou. it.Zkušenost Neithernedělala grouptéměř could.žádný Butrozdíl. bothVe groupsvětším wereměřítku confidentje theyto could. Experienceještě madehorší. almostNa nojedné difference. Atuniverzitě scale,výzkumníci itvložili isodpovědi worse.vygenerované Atchatbotem onedo university,skutečného researcherszkouškového submittedsystému chatbot-generatedběžnými answerskanály, intoaniž theby realo examinationtom systemhodnotitele throughinformovali. the normal channels, without notifying the markers. 94 % werez nevernich questioned.nebylo Moreover,nikdy onzpochybněno. average,Navíc theybyly werev gradedprůměru aboveohodnoceny thelépe worknež ofpráce actualskutečných students.studentů. So,Jaký what'sje thetedy consequence?důsledek? WeSáhneme reachpo forstroji! theA machine!právě Andzde herepřestává thebýt findingzjištění stopspouze beingtrapné awkwarda andstává becomesse anetickým ethical problem!problémem!

TheDetektor, detectorkterý thattrestá failsšpatné the wrong studentsžáky

ResearchersVýzkumníci testedotestovali sevensedm of the most widely usednejrozšířenějších AIdetektorů detectorsUI onna esejích TOEFL essaysnapsaných writtenžáky, bykteří studentsse learningučí Englishangličtinu asjako cizí jazyk. Vedle nich zařadili eseje rodilých amerických osmáků. Práce rodilých mluvčích byla klasifikována správně téměř pokaždé. Z esejí v cizím jazyce bylo více než šest z deseti mylně označeno jako vytvořené strojem.

Mechanismus není žádnou záhadou. Tyto nástroje nedetekují práci velkých jazykových modelů, detekují předvídatelnost. Text, který používá běžná slova v očekávaném pořadí, je vyhodnocen jako umělý. Kdokoli píše v cizím jazyce, s menší slovní zásobou a foreignbezpečnějšími language.větnými Alongside,strukturami, theyprodukuje putpřesně essaystakový bysignál. native-speakingChyby Americannástroje eighth-graders.systematicky Thedopadají nativena speakers'žáky, workkteří wasuž classifiednesou correctlynejvětší almostzátěž. everyInstituce time.si Ofto thespočítaly. foreign-languageVanderbiltova essays, moreuniverzita thanupozornila, sixže ini tenkdyby werese wronglytakový flaggednástroj asmýlil machine-written.

jen

The mechanism is not mysterious. These tools do not detect the work of Large Language models, they detect predictability. Text that uses common words in expected orders scores as artificial. Anyone writing in a second language, with a smaller vocabulary and safer sentence structures, produces exactly that signal. The tool's mistakes fall systematically on the students who are already carrying the most. Institutions have done the arithmetic. Vanderbilt University pointed out that even if such a tool were wrong onlyv 1 % ofpřípadů, thestále time,by thatto wouldznamenalo stillpřibližně mean roughly 750 wronglynespravedlivě accusedobviněných studentsžáků ročně z jejích 75 000 odevzdaných prací. V důsledku toho jej vypnula. Vyjádření německého spolkového ministerstva školství je jednoznačné: technologie „není dostatečně spolehlivá, aby poskytovala právně bezpečný důkaz“.

Velká část Evropy o tom už přestala diskutovat. Francie, Nizozemsko a yearŠvýcarsko outod ofdetektorů itsodrazují 75,000nebo submissions.je Consequently,zakazují. theyBritský switchedzkušební itregulátor off.se Thezáměrně guidancerozhodl issuedupřednostnit bylidský Germany'súsudek federalpřed educationsoftwarem. ministryNizozemský isargument blunt:jde theo technologykrok isdál "nota sufficientlystojí reliableza zapamatování: vložení práce žáka do detektoru je samo o sobě zpracováním jeho osobních údajů, a učinit to providebez legallysouhlasu secureporušuje proof."

právo

Muchna ofochranu Europeosobních has stopped debating this. France, the Netherlands and Switzerland advise against detectors or forbid them. The United Kingdom's exam regulator has deliberately chosen human judgment over software. The Dutch argument goes one step further and is worth carrying home: pasting a student's work into a detector is itself an act of processing their personal data, and doing it without permission breaks data protection law.údajů. → 1.54 CompliantSoulad Uses ofpředpisy AIpři používání UI

ItZdá seemsse, thatže thepanika cheatingohledně panicpodvádění isje thinnerslabší, thannež theby noiseodpovídalo aroundhluku it.kolem Researchersní. surveyedVýzkumníci studentsprovedli atprůzkum threemezi secondaryžáky schoolstří beforestředních škol před vznikem ChatGPT existeda andpoté againafterward.znovu. CheatingPodvádění stayedzůstalo broadlyzhruba wherena itstejné was.úrovni. MostVětšina studentsžáků rejectedodmítala havingnechat chatbota jednoduše vytvořit celou jejich práci, zatímco za fér považovali použít jej k rozjezdu práce nebo k vysvětlení něčeho.

Skutečná otázka nikdy nebyla „Jak ho chytím?“ Je jí: co domácí úkol vlastně ještě měří, když jeho výsledek lze vygenerovat na požádání?

Dvě věci, které se nedají opravit, a chatbotproto simplyje producetřeba theirje work,učit

while

Sebejisté thinkingsmyšlenky itjsou fairvestavěnou vlastností. Tyto systémy generují věrohodné pokračování textu, což není totéž jako pravdivé pokračování. Výzkumníci nyní formálně ukázali, odkud se to usebere: onestandardní testy používané k hodnocení velkých jazykových modelů odměňují sebejisté hádání více než přiznání nejistoty, a dokud budou modely takto hodnoceny, přetrvá určitá míra plynulé, dobře formulované nepravdy. Je to getvlastnost startedzpůsobu, orjakým tojsou havevytvářeny somethinga explained.hodnoceny, nikoli chyba čekající na opravu.

TheZkreslení realv questiontrénovacích wasdatech never,jsou "How dovestavěná Itaké. catchA him"?navíc Itse is:s whatvylepšováním doestechnologie nezmenšují. Evropská studie genderových stereotypů napříč jazyky zjistila, že větší modely, dokonce i po dodatečném tréninku určeném k tomu, aby byly bezpečnější a homeworkspravedlivější, taskněkdy stillstereotypizují measure,více, oncenikoli itsméně. productPokud canse bevlastnost generatednedá ontechnicky demand?

odstranit,

Twomusí thingsse thatstát willsoučástí not be fixed, so they must be taught

Confident invention is built in. These systems generate plausible continuation of a text, which are not the same as true ones. Researchers have now formally shown where this comes from: the standard tests used to judge Large Language model reward confident guessing over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.

The slants in the training material are built in too. Moreover, they do not shrink as the technology improves.učiva. A Europeanlze studyji ofučit: genderv stereotypingjednom acrossfinském languagesprogramu foundvzrostl thatpodíl biggeržáků, models,kteří evendokázali afteridentifikovat thezkreslení extrave trainingvýstupu intendedsystému toUI, makeze them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % tona 44 %. TheDůsledkem consequencepro forvýuku teachingmusí mustbýt betrénink trainingv erroranalýze analysischyb insteadmísto ofjejich errorpouhého avoidance.vyhýbání Inse. otherJinými words:slovy: thechyby machine'sstroje failuresse becomestávají thesamotnou lesson.lekcí.

WhatCo works:funguje: design,návrh, notnikoli controlkontrola

TheDůkazy evidenceukazují pointsna tojeden onejednoduchý simplea principlesnadno that'szapamatovatelný easyprincip: tonejprve remember:myslet, thinkpak first, then AI.UI.

• MakeNechte thečlověka humanzavázat commitse first.jako první. InV sérii experimentů lidé, kteří si museli nejprve zapsat vlastní odpověď, než uviděli návrh stroje, odhalili mnohem více jeho chyb než lidé, kterým bylo podrobně vysvětleno, jak stroj uvažoval. Vysvětlení UI problém nevyřešilo, ale vynucení úsudku ano. S jednou upřímnou výhradou: verze, které fungovaly nejlépe, se účastníkům líbily nejméně a seriesnejvíce ofpomáhaly experiments,těm, peoplekdo whouž hadmají torádi writenáročné downpřemýšlení. theirJde owntedy answero beforejev seeingznámý thetaké machine'sjako suggestionMatoušův caughtefekt: farTomu, morekdo ofmá, itsbude mistakesdáno thanvíce. peoplePrávě whooni werez showntohoto detailedpřístupu explanationstěží of how the machine reasoned. Explaining the AI did not help to solve that issue, but  forcing the judgement did. With one honest caveat: the versions that worked best were the ones participants liked least, and they helped most those who already enjoy effortful thinking. So it is a phenomenon also known as the Matthew Effect: To those who have, more will be given. They benefit the most from this approach.nejvíce.
• BuildZabudujte theomezení limitspřímo in.do nástroje. TheChatbot chatbotz from Chapterkapitoly 1.3,2, thatkterý withheldzadržoval answersodpovědi anda askedmísto questionstoho insteadkladl isotázky, theje samestejná ideamyšlenka inpřenesená software:do thesoftwaru: studentsžáci, whokteří usedjej itpoužívali, lostna nothingzkoušce onnic theneztratili, exam,zatímco whileti thoses withneomezenou theverzí unrestricteddopadli versionvýrazně lost badly.hůře.
• MakeZviditelněte theproces, processmísto visibleabyste insteadhonili of hunting the product.výsledek. Drafts,Koncepty, workingpracovní notes,poznámky, akrátký shortrozhovor conversationo aboutpráci. theTy work.vám  Theseukážou, showco youžák whatdokáže, aaniž studentby cankdokoli domusel withoutdokazovat, anyoneco having to prove what they did.udělal.
• DenmarkDánsko ispilotně pilotingověřuje thetento principle:princip: atna participatingzapojených schools,školách studentsmohou mayžáci usepoužívat AIUI whilepři preparingpřípravě forna theústní oralzkoušku Englishz examination,angličtiny, andzatímco thepísemná writtenzkouška examinationobsahuje includesručně apsanou handwritten,část aid-freebez part.pomůcek.

TwoNež limitsse arena worthto knowingspolehnete, beforestojí youza relyto onznát this.dvě Theomezení. first:To theprvní: popularoblíbená advicerada, thatže teachersučitelé shouldmají simplychatbotovi instructjednoduše nařídit, aby se choval jako sokratovský tútor, nepřežije dlouhý rozhovor. Systém má, alespoň v tuto chvíli, tendenci sklouzávat zpět k poskytování odpovědí. Spolehlivá omezení musí být zabudována přímo do systému, což z nich dělá spíše otázku nákupního rozhodnutí než dovednosti formulovat zadání. To druhé: nechat UI vysvětlit své uvažování zní jako zjevná pojistka, ale vysvětlení spolehlivě nezabraňují nadměrné důvěře. V jedné studii ponechala vysvětlení míru, v jaké lidé přijímali nesprávné rady, beze změny, a chatbotvysvětlení, která jsou příliš technická nebo příliš zjednodušená, mohou mylnou důvěru dokonce zvýšit. Vysvětlení je podmínkou, nikoli řešením.

Postoj: dva způsoby selhání, nejen jeden

Obáváme se, že učitelé vkládají do UI příliš mnoho důvěry. Měli bychom se však stejně obávat i opaku. I zkušení lidé mohou padnout za oběť přílišné důvěře. V jedné studii učitelé posuzovali známky vygenerované UI. U 42 % zpětné vazby stroje usoudili, že je nejasná nebo chybná, ale upravili jen 9 % z ní. Odhalit chybu a opravit ji jsou dva odlišné procesy.

Opačným pólem je utajování. Učitelé skrývají vlastní používání UI před kolegy i žáky a zakazují jim to, co sami dělají: 77 % z nich používá UI soukromě, zatímco 57 % tvrdí, že žáci by ji nikdy neměli používat k vymýšlení nápadů. Studie akademicky nadaných žáků 6. až 8. ročníku mezitím zjistila, že mezi třetinou a dvěma pětinami z nich už tvrdí, že UI ví více než jejich učitelé. Profese, která skrývá vlastní praxi, nemůže být vzorem zodpovědného jednání, a transparentnost není jen zdvořilostí. Je to actmechanismus, askterým funguje výuka vlastním příkladem.

Vyrovnává UI podmínky, nebo je naklání?

U pracovních úkolů UI vyrovnává rozdíly. V jednom experimentu podávali účastníci s vyšším vzděláním výrazně lepší výkony než účastníci s nižším vzděláním. Když každý z nich dostal asistenta UI, tyto rozdíly téměř úplně zmizely. Když jim pak byl asistent znovu odebrán, velká část rozdílu se vrátila. UI odstranila rozdíl ve výstupu, nikoli rozdíl ve schopnostech.

U učebních úkolů je tomu naopak. Jedna studie nezjistila v průměru žádný přínos, ale zjistila rostoucí propast mezi žáky, kteří už toho hodně věděli, a Socratictěmi, tutorkteří doesne. notJiná survivestudie contactse withzaměřila na žáky píšící v cizím jazyce: slabší pisatelé dostávali od UI více oprav a longúspěšně conversation.jich Atuplatnili least at the moment, the system tends to drift back into supplying answers. Reliable limits have to be built into the system, which makes themméně, a purchasingmnozí decisionpovažovali ratherzáplavu thanzpětné avazby promptingza skill.skličující. TheZpětná second:vazba makingbez anschopnosti AIji explainroztřídit itsnepomáhá; reasoning sounds like the obvious safeguard, but explanations do not reliably prevent over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation is a condition, not a solution.

Attitude: two failure modes, not one

We worry that teachers are placing too much trust in AI. However, we should be equally concerned about the reverse. Even experienced people can be caught out by over-trusting. In one study, teachers reviewed AI-generated grades. They judged 42% of the machine's feedback to be vague or wrong, but changed only 9% of it. Spotting an error and correcting it are different processes.zavaluje.

ThePropast oppositeexistuje polei isdřív, concealment.než Teachersse hidekdokoli theirnástroje owndotkne. useV ofNěmecku AIvnímá fromUI colleaguesjako andpříležitost students, forbidding them to do what they do themselves: 77% use AI privately, while 57% say students should never use it to generate ideas. Meanwhile, a study of academically able students in grades 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gap in output, not the gap in ability.

In learning tasks, it does the opposite. One study found no average benefit at all, but a widening distance between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.

The gap also exists before anyone touches a tool. In Germany, 80 % ofžáků studentsz fromnejzvýhodněnějších therodin most advantaged homes see AI as an opportunity, againstoproti 55 % fromz thenejméně leastzvýhodněných. advantaged.Ve InSpojeném Britain,království thevede dividedělicí runsčára throughspíše thesborovnou staffroomnež ratherskladem thanse thezařízením: device cupboard: 45 % ofučitelů teachersna atsoukromých privateškolách schoolsabsolvovalo haveformální hadškolení formalv trainingpoužívání inUI, using AI, againstoproti 21 % atna statestátních schools.školách. WithinV therámci statestátního sector,sektoru wealthierbohatší schoolsškoly againopět outpacepředstihují poorerty ones.chudší. APrůzkum surveymezi ofdětmi children acrossz 20 Europeanevropských countrieszemí findsukazuje thestejné samesociální socialrozdělení splitv intom, howjak muchmoc anda howjak variedlyrůznorodě theyUI usepoužívají. AI. OneJedna linevěta capturesvystihuje thecelý wholeproblém problemlépe betternež thanjakékoli anyčíslo: figure: "the„bohatí richmají havepřístup accessk totechnologii technologyi andk peoplelidem, tokteří helpjim thempomohou useji it,používat, whilezatímco thechudí poormají havepřístup accesspouze tok technologytechnologii.“ only."To Whichje isnejsilnější the strongest availabledostupný argument thatpro teachersto, matterže tona closeučitelích thispři gap.uzavírání této propasti záleží.

SoÚzkým thehrdlem bottleneckje istedy whatto, learnerzda hasmá žák učitele, který byl proškolen. UI kompenzuje nevýhody tehdy, když se spojí tři věci: zajištěný přístup, nástroj navržený pro učení, nikoli pro pouhé poskytování odpovědí, a teacheručitel, whokterý hasjeho beenpoužívání trained.podpůrně AIvede. compensatesOdeberte whenkteroukoli threez things hold together: secure access,nich a toolUI designedmísto fortoho learningrozdíly ratherzesiluje. thanProtože answering,všechny andtři podmínky bývají přítomné ve stejných školách a teacherchybí scaffoldingve itsstejných use.školách, Removeje anyzesilování one,výchozím andstavem ita amplifiesvyrovnávání instead.je Sinceněco, allco threeje tendtřeba tozáměrně be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build. vybudovat.