1.3 Zodpovedné používanie SI

TakeHlavné Home messageposolstvo

• ResponsibilityZodpovednosť isje úlohou dizajnu, nie kontroly. Detekcia SI nefunguje spoľahlivo.

A keď detekcia SI zlyhá, je nespravodlivá. Hrozí riziko, že odpovede budú mylne označené ako vygenerované SI, alebo naopak. Viaceré európske krajiny tieto nástroje už vylúčili. Sebavedomé vymýšľanie a designzdedená task,zaujatosť notvyplývajú z toho, ako sú tieto systémy vytvorené a controlhodnotené. task.Dôsledkom Detectionby ofmalo AIbyť: doesučiť noto worknich, properly.namiesto čakania na opravu. AndPracovný AIprincíp detectionznie: isnajprv unfairmyslieť, whenpotom itSI. fails.Ak Thereľudia ismusia najprv sformulovať vlastnú odpoveď, funguje to lepšie než vysvetľovanie fungovania stroja; zabudovanie limitov do softvéru funguje lepšie než zákaz. Samotné inštrukcie (prompty) nestačia. Chatbot poverený úlohou tútora má tendenciu skĺznuť späť k poskytovaniu odpovedí, čo robí zo spoľahlivých limitov skôr otázku nákupu (výberu nástroja). Zosilnenie (rozdielov) je predvolený stav; vyrovnávanie treba budovať spoločne z prístupu, dizajnu a riskpodpory of(scaffoldingu) mistakenly— identifyinga answersnajvzácnejším asz AI-generated,týchto ortroch viceje versa.vyškolený Several European countries have already ruled out these tools.učiteľ. ConfidentInklúzia inventionje andnajjasnejším inherited bias follow from how these systems are built and judged. The consequence should be: teach them rather than waiting forprínosom a fix. oblasťou, Thekde workingučitelia principlesami is:vidia thinknajsilnejšie first, then AI. Making people commit to their own answer beats explaining the machine; building limits into the software beats banning it. Prompts alone don't hold. A chatbot tasked with acting as a tutor tends to drift back to giving answers, which makes reliable limits a purchase question. Amplification is the default; equalization must be built from access, design and scaffolding together — and the scarcest of the three is a trained teacher.{{rev}} Inclusion is the clearest win, and where teachers themselves see the strongest case.argumenty.

IfAk yousi rememberz onlytejto onestránky sentencezapamätáte fromlen thisjednu page:vetu: TheHrádze damssa arelámu. breaking.Učte Teach swimming.plávať.

TheČitateľský readingdenník, journal,druhý second lookpohľad

BackVráťme sa k nášmu deviatakovi a jeho podozrivo dokonalému čitateľskému denníku. Tento inštinkt je takmer univerzálny a je to ourinštinkt ninth-gradedobrého studentučiteľa: andzistiť, hisči suspiciouslypoužil polishedSI. readingPostaviť journal.lepšiu Thehrádzu.

instinct

Táto iskapitola almostvysvetľuje, universal,prečo andtento itinštinkt issám theosebe instinctnikam ofnevedie. Neskôr sa dostaneme k tomu, čo naozaj funguje.

Začnime nepríjemnou časťou. Učitelia nedokážu spoľahlivo rozlíšiť text SI od textu študenta. V nemeckej štúdii dostalo 289 učiteľov s rôznou dĺžkou praxe zmes študentských a goodchatbotom teacher:napísaných find out whether he used AI. Buildtextov a bettermali dam.

ich

Thisroztriediť. chapter is about why that instinct, on its own, leads nowhere. We will comeNedokázala to whatani worksjedna instead.

skupina.

StartNapriek withtomu thesi uncomfortableobe part. Teachersskupiny cannotboli reliablyisté, tell AI text from student text. In a German study, 289 teachers of different experience were given a mix of student writing and chatbot writing and askedže to sortdokážu. it.Prax Neithertakmer groupvôbec could.nezohrala Butrolu. bothVo groupsveľkom weremeradle confidentje theyto could. Experienceešte madehoršie. almostNa nojednej difference. Atuniverzite scale,výskumníci itbežnými iskanálmi worse.predložili Atdo onereálneho university,skúškového researcherssystému submittedodpovede chatbot-generatedvygenerované answerschatbotom, intobez thetoho, realaby examinationo systemtom throughinformovali thehodnotiteľov. normal channels, without notifying the markers. 94 % werez nevernich questioned.nebolo Moreover,nikdy onspochybnených. average,Navyše theyboli werev gradedpriemere abovehodnotené thelepšie worknež ofpráce actualskutočných students.študentov. So,Aký what'sje theteda consequence?dôsledok? WeSiahneme reachpo forstroji! theA machine!práve Andtu hereprestáva thebyť findingzistenie stopslen beingtrápne awkwarda andstáva becomessa anetickým ethical problem!problémom!

TheDetektor, detectorktorý thatzlyháva failsu thenesprávnych wrong studentsštudentov

ResearchersVýskumníci testedotestovali sevensedem of the most widely usednajpoužívanejších AIdetektorov detectorsSI onna esejach TOEFL essaysnapísaných writtenštudentmi, byktorí studentssa learningučia Englishangličtinu asako cudzí jazyk. Popri nich zaradili aj eseje amerických ôsmakov, ktorí sú rodenými hovoriacimi. Práce rodených hovoriacich boli správne klasifikované takmer vždy. Z esejí v cudzom jazyku bolo viac ako šesť z desiatich mylne označených ako napísané strojom.

Mechanizmus nie je žiadnym tajomstvom. Tieto nástroje neodhaľujú prácu veľkých jazykových modelov, ale predvídateľnosť. Text, ktorý používa bežné slová v očakávanom poradí, je vyhodnotený ako umelý. Presne takýto signál produkuje každý, kto píše v druhom jazyku, s menšou slovnou zásobou a foreignbezpečnejšou language.stavbou Alongside,viet. theyChyby putnástroja essaystak bysystematicky native-speakingdopadajú Americanna eighth-graders.študentov, Thektorí nativeuž speakers'aj worktak wasnesú classifiednajväčšiu correctlyzáťaž. almostInštitúcie everysi time.to Ofprepočítali. the foreign-language essays, more than six in ten were wrongly flagged as machine-written.

The mechanism is not mysterious. These tools do not detect the work of Large Language models, they detect predictability. Text that uses common words in expected orders scores as artificial. Anyone writing in a second language, with a smaller vocabulary and safer sentence structures, produces exactly that signal. The tool's mistakes fall systematically on the students who are already carrying the most. Institutions have done the arithmetic.Univerzita Vanderbilt Universityupozornila, pointedže outaj thatkeby evensa iftakýto suchnástroj amýlil toollen were wrong onlyv 1 % ofprípadov, thepri time,75 that000 wouldodovzdaných stillprácach meanby roughly to znamenalo približne 750 wronglynespravodlivo accusedobvinených studentsštudentov aročne. yearV outdôsledku oftoho itsho 75,000vypli. submissions.Usmernenie Consequently,nemeckého theyspolkového switchedministerstva itškolstva off.je Thejednoznačné: guidance issued by Germany's federal education ministry is blunt: the technology istechnológia "not„nie sufficientlyje reliabledostatočne tospoľahlivá providena legallyto, secureaby proof."poskytla právne bezpečný dôkaz.“

MuchVeľká ofčasť EuropeEurópy haso stoppedtom debatinguž this.prestala France,diskutovať. theFrancúzsko, NetherlandsHolandsko anda SwitzerlandŠvajčiarsko adviseodrádzajú againstod detectorspoužívania ordetektorov forbidalebo them.ich Thezakazujú. UnitedBritský Kingdom'sskúškový examregulátor regulatorsa haszámerne deliberatelyrozhodol chosenuprednostniť humanľudský judgmentúsudok overpred software.softvérom. The DutchHolandský argument goeside oneo stepkrok further and is worth carrying home: pastingďalej a student'sstojí workza intozapamätanie: vloženie práce študenta do detektora je samo osebe spracovaním jeho osobných údajov, a detectorrobiť isto itselfbez ansúhlasu actporušuje ofzákon processingo theirochrane personalosobných data, and doing it without permission breaks data protection law.údajov. → 1.54 CompliantSúlad Uses ofpredpismi AIpri používaní SI

ItZdá seemssa, thatže thepanika cheatingokolo panicpodvádzania isje thinnerslabšia thannež thehluk noiseokolo aroundnej. it.Výskumníci Researcherssa surveyedpýtali studentsštudentov atna threetroch secondarystredných schoolsškolách beforepred vznikom ChatGPT existedaj andpo againafterward.ňom. CheatingMiera stayedpodvádzania broadlyzostala wherevo itveľkej was.miere Mostrovnaká. studentsVäčšina rejectedštudentov havingodmietala nechať chatbota, aby za nich jednoducho vytvoril prácu, no považovali za spravodlivé použiť ho na začatie práce alebo na vysvetlenie niečoho.

Skutočná otázka nikdy neznela: „Ako ho chytím?“ Znie: čo ešte domáca úloha meria, keď jej výsledok je možné vygenerovať na požiadanie?

Dve veci, ktoré sa nedajú opraviť, a chatbotpreto simplysa producemusia theiručiť

work,

Sebavedomé whilevymýšľanie thinkingje itzabudovanou fairvlastnosťou. Tieto systémy generujú pravdepodobné pokračovanie textu, čo nie je to useisté oneako pravdivé pokračovanie. Výskumníci teraz formálne preukázali, odkiaľ to getpochádza: startedštandardné ortesty používané na hodnotenie veľkých jazykových modelov odmeňujú sebavedomé hádanie viac než priznanie neistoty, a pokiaľ sa modely takto hodnotia, pretrváva určitá miera plynulých, dobre sformulovaných nepravdivých tvrdení. Je to havevlastnosť somethingspôsobu, explained.akým sú tieto systémy vytvorené a hodnotené, nie chyba čakajúca na opravu.

TheZabudované realsú questionaj wasskreslenia never,z "How dotrénovacích Idát. catchNavyše him"?sa Itnezmenšujú is:s whattým, doesako sa technológia zlepšuje. Európska štúdia rodových stereotypov naprieč jazykmi zistila, že väčšie modely, aj po dodatočnom trénovaní zameranom na to, aby boli bezpečnejšie a homeworkspravodlivejšie, taskniekedy stillstereotypizujú measure,viac, oncenie itsmenej. productAk cansa bevlastnosť generatednedá onodstrániť demand?

technicky,

Twostáva thingssa thatsúčasťou will not be fixed, so they must be taught

Confident invention is built in. These systems generate plausible continuation of a text, which are not the same as true ones. Researchers have now formally shown where this comes from: the standard tests used to judge Large Language model reward confident guessing over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.

The slants in the training material are built in too. Moreover, they do not shrink as the technology improves.učiva. A Europeandá studysa ofnaučiť: genderv stereotypingjednom acrossfínskom languagesprograme foundsa thatpodiel biggerštudentov, models,ktorí evendokázali afterrozpoznať thezaujatosť extravo trainingvýstupe intendedsystému toSI, makezvýšil themzo safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % tona 44 %. TheDôsledkom consequencepre forvyučovanie teachingmusí mustbyť betrénovanie traininganalýzy errorchýb analysisnamiesto insteadich ofvyhýbania errorsa. avoidance.Inými Inslovami: otherchyby words:stroja thesa machine'sstávajú failuressúčasťou become the lesson.lekcie.

WhatČo works:funguje: design,dizajn, notnie controlkontrola

TheDôkazy evidencepoukazujú pointsna tojeden onejednoduchý simplea principleľahko that'szapamätateľný easyprincíp: tonajprv remember:myslieť, thinkpotom first, then AI.SI.

• MakeNajprv thesi humanvyžiadať commitzáväzok first.od Inčloveka. V sérii experimentov ľudia, ktorí si museli najprv zapísať vlastnú odpoveď skôr, než videli návrh stroja, odhalili oveľa viac jeho chýb než ľudia, ktorým boli ukázané podrobné vysvetlenia toho, ako stroj uvažoval. Vysvetľovanie SI problém nevyriešilo, no vynútenie vlastného úsudku áno. S jedným úprimným upozornením: verzie, ktoré fungovali najlepšie, sa účastníkom páčili najmenej, a seriesnajviac ofpomohli experiments,tým, peoplektorí whouž hadaj totak writeradi downpremýšľajú their own answer before seeing the machine's suggestionväčším caughtúsilím. farIde moreteda ofo itsjav mistakesznámy thanaj peopleako whoMatúšov wereefekt: showntomu, detailedkto explanationsmá, ofsa howešte thepridá. machinePráve reasoned.títo Explainingz thetohto AIprístupu didprofitujú not help to solve that issue, but  forcing the judgement did. With one honest caveat: the versions that worked best were the ones participants liked least, and they helped most those who already enjoy effortful thinking. So it is a phenomenon also known as the Matthew Effect: To those who have, more will be given. They benefit the most from this approach.najviac.
• BuildZabudovať thelimity limitspriamo in.do Thenástroja. chatbotChatbot fromz Kapitoly Chapter 1.32, thatktorý withheldnamiesto answersodpovedí andkládol askedotázky, questionsje insteadtá isistá themyšlienka samepremietnutá ideado insoftvéru: software:študenti, thektorí studentsho whopoužívali, usedna itskúške lostnič nothingnestratili, onzatiaľ thečo exam,tí whiles thoseneobmedzenou withverziou thedopadli unrestricted version lost badly.zle.
• MakeRobiť theproces processviditeľným visiblenamiesto insteadnaháňania ofvýsledku. huntingNávrhy, thepracovné product.poznámky, Drafts,krátky workingrozhovor notes,o apráci. shortTie conversationukážu, aboutčo theštudent work.dokáže,  Thesebez showtoho, youaby whatniekto amusel studentdokazovať, cančo do without anyone having to prove what they did.urobil.
• DenmarkDánsko istento pilotingprincíp thepilotne principle:testuje: atna participatingzúčastnených schools,školách studentsmôžu mayštudenti usepoužívať AISI whilepri preparingpríprave forna theústnu oralskúšku Englishz examination,angličtiny, andzatiaľ thečo writtenpísomná examinationskúška includesobsahuje aručne handwritten,písanú aid-freečasť part.bez pomôcok.

TwoPredtým, limitsnež aresa worthna knowingto beforespoľahnete, youstojí relyza onto this.poznať Thedve first:obmedzenia. thePrvé: popularpopulárna advicerada, thatže teachersučitelia shouldmajú simplychatbotu instructjednoducho nariadiť, aby sa správal ako sokratovský tútor, neobstojí pri dlhšej konverzácii. Aspoň v súčasnosti má systém tendenciu skĺznuť späť k poskytovaniu odpovedí. Spoľahlivé limity musia byť zabudované priamo do systému, čo z nich robí skôr otázku nákupu než zručnosti pri formulovaní promptov. Druhé: aby SI vysvetlila svoje uvažovanie, znie ako samozrejmá poistka, no vysvetlenia spoľahlivo nezabraňujú nadmernej dôvere. V jednej štúdii nezmenili mieru, akou ľudia prijímali nesprávne rady, a chatbotvysvetlenia, ktoré sú príliš technické alebo príliš zjednodušené, môžu nadmernú dôveru dokonca zvýšiť. Vysvetlenie je podmienkou, nie riešením.

Postoj: dva režimy zlyhania, nie jeden

Obávame sa, že učitelia dôverujú SI príliš. Rovnako by nás však mal znepokojovať aj opak. Aj skúsení ľudia môžu byť chytení do pasce nadmernej dôvery. V jednej štúdii učitelia kontrolovali známky vygenerované SI. 42 % spätnej väzby stroja hodnotili ako nejasnú alebo nesprávnu, no zmenili len 9 % z nej. Odhaliť chybu a opraviť ju sú dva odlišné procesy.

Opačným pólom je zatajovanie. Učitelia skrývajú svoje vlastné používanie SI pred kolegami a študentmi a zakazujú im to, čo sami robia: 77 % z nich používa SI súkromne, zatiaľ čo 57 % tvrdí, že študenti by ho nikdy nemali používať na generovanie nápadov. Zároveň štúdia akademicky nadaných študentov v 6. až 8. ročníku zistila, že medzi tretinou až dvoma pätinami z nich už tvrdí, že SI vie viac než ich učitelia. Profesia, ktorá skrýva svoje postupy, nemôže byť vzorom zodpovednej praxe, a transparentnosť nie je len zdvorilosťou. Je to actmechanizmus, asvďaka ktorému funguje učenie sa príkladom.

Vyrovnáva SI podmienky, alebo ich naklápa?

Pri pracovných úlohách SI vyrovnáva rozdiely. V jednom experimente dosahovali účastníci s vyšším vzdelaním výrazne lepšie výsledky než tí s nižším vzdelaním. Keď každý dostal asistenta SI, tieto rozdiely takmer úplne zmizli. Keď sa asistent opäť odobral, veľká časť rozdielov sa vrátila. To, čo SI uzavrela, bola medzera vo výstupe, nie medzera v schopnostiach.

Pri učebných úlohách je to presne naopak. Jedna štúdia nezistila v priemere žiadny prínos, ale narastajúci odstup medzi študentmi, ktorí už vedeli veľa, a Socratictými, tutorktorí doesnevedeli. notIná surviveštúdia contactsa withzamerala na študentov píšucich v cudzom jazyku: slabší autori dostávali od SI viac opráv, no úspešne využili menej z nich, a longmnohí conversation.považovali Atzáplavu leastspätnej atväzby theza moment,skľučujúcu. theSpätná systemväzba tendsbez toschopnosti driftju backroztriediť intonepomáha, supplyingale answers. Reliable limits have to be built into the system, which makes them a purchasing decision rather than a prompting skill. The second: making an AI explain its reasoning sounds like the obvious safeguard, but explanations do not reliably prevent over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation is a condition, not a solution.

Attitude: two failure modes, not one

We worry that teachers are placing too much trust in AI. However, we should be equally concerned about the reverse. Even experienced people can be caught out by over-trusting. In one study, teachers reviewed AI-generated grades. They judged 42% of the machine's feedback to be vague or wrong, but changed only 9% of it. Spotting an error and correcting it are different processes.zahlcuje.

TheTáto oppositemedzera poleexistuje isešte concealment.predtým, Teachersnež hidesa theirniekto ownvôbec usedotkne ofnástroja. AIV fromNemecku colleaguesvníma andSI students,ako forbiddingpríležitosť them to do what they do themselves: 77% use AI privately, while 57% say students should never use it to generate ideas. Meanwhile, a study of academically able students in grades 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gap in output, not the gap in ability.

In learning tasks, it does the opposite. One study found no average benefit at all, but a widening distance between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.

The gap also exists before anyone touches a tool. In Germany, 80 % ofštudentov studentsz fromnajviac thezvýhodnených mostrodín, advantaged homes see AI as an opportunity, againstoproti 55 % fromz thenajmenej leastzvýhodnených. advantaged.Vo InVeľkej Britain,Británii thenevedie dividedeliaca runsčiara throughcez thesklad staffroomzariadení, ratherale thancez thezborovňu: device cupboard: 45 % ofučiteľov teachersna atsúkromných privateškolách schoolsabsolvovalo haveformálne hadškolenie formalv trainingpoužívaní inSI, using AI, againstoproti 21 % atna stateštátnych schools.školách. WithinAj thev staterámci sector,štátneho wealthiersektora schoolsbohatšie againškoly outpaceopäť poorerpredbiehajú ones.tie Achudobnejšie. surveyPrieskum ofmedzi childrendeťmi acrossv 20 Europeaneurópskych countrieskrajinách findszisťuje therovnaké samesociálne socialrozdelenie splitv intom, howako muchčasto anda howakým variedlyspôsobom theySI usepoužívajú. AI. OneJedna lineveta capturesvystihuje thecelý wholeproblém problemlepšie betternež thanakékoľvek anyčíslo: figure: "the„bohatí richmajú haveprístup accessk technológii aj k ľuďom, ktorí im pomôžu ju používať, zatiaľ čo chudobní majú prístup len k technológii.“ Je to technologynajsilnejší anddostupný peopleargument v prospech toho, že učitelia sú kľúčoví na zmenšenie tejto medzery.

Kľúčovým obmedzujúcim faktorom teda je, či má žiak učiteľa, ktorý bol na to helpvyškolený. themSI usekompenzuje it,rozdiely whilevtedy, thekeď poorspolu havefungujú accesstri toveci: technologybezpečný only."prístup, Whichnástroj isnavrhnutý thena strongestučenie, availablenie argumentna thatposkytovanie teachers matter to close this gap.

So the bottleneck is what learner hasodpovedí, a teacheručiteľ, whoktorý hasjeho beenpoužívanie trained.sprevádza. AIAk compensatesčo wheni threelen thingsjedno holdz together:toho securechýba, access,SI namiesto toho rozdiely zosilňuje. Keďže všetky tri prvky sa zvyčajne vyskytujú spoločne na tých istých školách — a toolrovnako designedspoločne forchýbajú learningna rathertých thanistých answering,školách and— zosilňovanie je predvolený stav a teachervyrovnávanie scaffoldingje itsniečo, use.čo Removetreba anyaktívne one, and it amplifies instead. Since all three tend to be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build. vybudovať.