1.3 Atbildīga MI izmantošana

TakeGalvenā Home messagedoma

• ResponsibilityAtbildība isir adizaina designuzdevums, task,nevis notkontroles a control task.uzdevums. DetectionMI ofatklāšana AIpienācīgi does not work properly.nedarbojas.
• AndUn AIMI detectionatklāšana isir unfairnetaisnīga, whenkad ittā fails.kļūdās. TherePastāv isrisks akļūdaini riskatzīmēt ofatbildes mistakenlykā identifyingMI answersģenerētas asvai AI-generated,otrādi. orVairākas viceEiropas versa.valstis Severalšos Europeanrīkus countriesjau haveir alreadyizslēgušas ruledno out these tools.lietošanas.
• ConfidentPārliecinoša inventionizdomāšana andun inheritedmantotie biasaizspriedumi followizriet fromno howtā, thesekā systemsšīs aresistēmas builtir andveidotas judged.un vērtētas. TheSekas consequencejāizdara shouldšādas: be:mācīt teachpar themtiem, rathernevis thangaidīt waiting for a fix. labojumu.
• TheDarbības workingprincips principleir: is:vispirms thinkpadomā, first,tad then AI.MI. MakingLiekot peoplecilvēkiem commitapņemties tosavu theiratbildi, owntas answerpārspēj beatsskaidrojumu explainingpar themašīnas machine;darbību; buildingierobežojumu limitsiebūvēšana intoprogrammatūrā thepārspēj softwaretā beats banning it.aizliegšanu.
• PromptsVienas aloneuzvednes don'tvien hold.nepietiek. ATērzēšanas chatbotrobots, taskedkam withuzdots actingdarboties askā apasniedzējam, tutormēdz tendsatgriezties topie drifttiešu backatbilžu tosniegšanas, givingkas answers,padara whichuzticamus makesierobežojumus reliablepar limitsiegādes, anevis purchaseuzvednes question.veidošanas jautājumu.
• AmplificationPastiprināšana isir thenoklusējuma default;stāvoklis; equalizationizlīdzināšana mustjāveido bekopā builtno pieejas, dizaina un atbalsta from access, design and scaffolding together — andun theno scarcestšiem oftrim theretākais threeir isapmācīts a trained teacher.skolotājs.{{rev}}
• InclusionIekļaušana isir thevispārliecinošākais clearest winieguvums, andun wheretieši teachersšeit themselvespaši seeskolotāji thesaskata strongestvisspēcīgāko case.argumentu.

IfJa youno rememberšīs onlylapas oneatceraties sentencetikai fromvienu this page:teikumu: TheDambji damsplīst. areIemāciet breaking. Teach swimming.peldēt.

TheLasīšanas readingdienasgrāmata, journal,otrs second lookskatiens

BackAtgriezīsimies pie mūsu devītās klases skolēna un viņa aizdomīgi izslīpētās lasīšanas dienasgrāmatas. Instinkts ir gandrīz universāls, un tas ir laba skolotāja instinkts: noskaidrot, vai viņš izmantoja MI. Uzbūvēt labāku dambi.

Šī nodaļa ir par to, kāpēc šis instinkts pats par sevi nekur neaizved. Mēs nonāksim pie tā, kas patiešām darbojas.

Sāksim ar neērto daļu. Skolotāji nespēj uzticami atšķirt MI radītu tekstu no skolēna rakstīta teksta. Vācijas pētījumā 289 dažādas pieredzes skolotājiem tika dots skolēnu un tērzēšanas robota rakstītu tekstu maisījums un lūgts to oursašķirot. ninth-gradeNevienai studentgrupai andtas hisneizdevās. suspiciouslyTaču polishedabas readinggrupas journal.bija Thepārliecinātas, instinctka isspēj almostto universal,izdarīt. andPieredze itgandrīz isneko thenemainīja. instinctPlašākā ofmērogā asituācija goodir teacher:vēl findsliktāka. outVienā whetheruniversitātē hepētnieki usedcaur AI.parastajiem Buildkanāliem aiesniedza bettertērzēšanas dam.robota ģenerētas atbildes reālajā eksāmenu sistēmā, nebrīdinot vērtētājus. 94% netika pat apšaubītas. Turklāt vidēji tās tika novērtētas augstāk nekā reālo skolēnu darbi. Kādas tad ir sekas? Mēs ķeramies pie mašīnas! Un tieši šeit atklājums pārstāj būt neveikls un kļūst par ētisku problēmu!

Detektors, kas kļūdaini sodā nepareizos skolēnus

Pētnieki septiņus no visplašāk izmantotajiem MI detektoriem pārbaudīja uz TOEFL esejām, ko rakstījuši skolēni, kuriem angļu valoda ir svešvaloda. Līdzās tam viņi izmantoja esejas, ko rakstījuši angliski runājoši astotās klases amerikāņu skolēni. Dzimtās valodas runātāju darbi tika klasificēti pareizi gandrīz vienmēr. No svešvalodā rakstītajām esejām vairāk nekā sešas no desmit tika kļūdaini atzīmētas kā mašīnas rakstītas.

ThisMehānisms chapternav isnoslēpumains. aboutŠie whyrīki thatneatklāj instinct,lielo onvalodas itsmodeļu own,darbu leads— nowhere.tie Weatklāj willparedzamību. comeTeksts, kas izmanto ierastus vārdus paredzamā secībā, tiek novērtēts kā mākslīgs. Ikviens, kurš raksta otrajā valodā, ar mazāku vārdu krājumu un drošākām teikumu konstrukcijām, rada tieši šādu signālu. Rīka kļūdas sistemātiski skar tos skolēnus, kuriem jau tā ir vissmagāk. Iestādes to whatir worksizrēķinājušas. instead.

Vanderbilta

Startuniversitāte withnorādīja, theka uncomfortablepat part. Teacherstad, cannotja reliablyšāds tellrīks AIkļūdītos texttikai from1% studentgadījumu, text.tas Injoprojām anozīmētu Germanaptuveni study,750 289nepatiesi teachersapsūdzētus ofskolēnus different experience were given a mix of student writing and chatbot writing and asked to sort it. Neither group could. But both groups were confident they could. Experience made almostgadā no difference. Attās scale,75 it000 isiesniegtajiem worse.darbiem. AtTāpēc onetā university,šo researchersrīku submittedizslēdza. chatbot-generatedVācijas answersfederālās intoizglītības theministrijas realnorādījumi examinationir systemviennozīmīgi: throughtehnoloģija the"nav normalpietiekami channels,uzticama, withoutlai notifyingnodrošinātu thejuridiski markers.drošu 94 % were never questioned. Moreover, on average, they were graded above the work of actual students. So, what's the consequence? We reach for the machine! And here the finding stops being awkward and becomes an ethical problem!

The detector that fails the wrong students

Researchers tested seven of the most widely used AI detectors on TOEFL essays written by students learning English as a foreign language. Alongside, they put essays by native-speaking American eighth-graders. The native speakers' work was classified correctly almost every time. Of the foreign-language essays, more than six in ten were wrongly flagged as machine-writtenpierādījumu".

TheLiela mechanismdaļa isEiropas notpar mysterious.šo Thesevairs toolsnediskutē. doFrancija, notNīderlande detectun theŠveice workiesaka ofizvairīties Largeno Languagedetektoriem models,vai theytos detect predictability.aizliedz. TextApvienotās thatKaralistes useseksāmenu commonregulators wordsapzināti inizvēlējies expectedcilvēka ordersspriedumu, scoresnevis asprogrammatūru. artificial.Nīderlandes Anyonearguments writingiet invēl asoli secondtālāk language,un withir avērts smalleratcerēties: vocabularyskolēna anddarba saferievietošana sentencedetektorā structures,pati producespar exactlysevi thatir signal.viņa Thepersonas tool'sdatu mistakesapstrādes falldarbība, systematically on the students who are already carrying the most. Institutions have done the arithmetic. Vanderbilt University pointed out that even if such a tool were wrong only 1 % of the time, that would still mean roughly 750 wrongly accused students a year out of its 75,000 submissions. Consequently, they switched it off. The guidance issued by Germany's federal education ministry is blunt: the technology is "not sufficiently reliableun to providedarīt legallybez secureatļaujas proof."

pārkāpj

Muchdatu ofaizsardzības Europetiesību has stopped debating this. France, the Netherlands and Switzerland advise against detectors or forbid them. The United Kingdom's exam regulator has deliberately chosen human judgment over software. The Dutch argument goes one step further and is worth carrying home: pasting a student's work into a detector is itself an act of processing their personal data, and doing it without permission breaks data protection law.aktus. → 1.54 CompliantTiesību Useaktiem ofatbilstoša AIMI izmantošana

ItŠķiet, seemska thatkrāpšanās thepanika cheatingir panictrauslāka isnekā thinnerap thanto thevaldošais noisetroksnis. aroundPētnieki it.aptaujāja Researchersskolēnus surveyedtrijās studentsvidusskolās at three secondary schools beforepirms ChatGPT existedpastāvēšanas andun againafterward.vēlreiz Cheating— stayedpēc broadlytam. whereKrāpšanās itapjoms was.kopumā Mostpalika studentstāds rejectedpats. havingLielākā adaļa chatbotskolēnu simplynoraidīja producedomu, theirka work,tērzēšanas whilerobotam thinkingvienkārši itbūtu fairjāizveido viņu darbs, taču uzskatīja par godīgu to useizmantot, onelai sāktu darbu vai saņemtu skaidrojumu.

Patiesais jautājums nekad nav bijis "Kā es viņu pieķeršu?". Tas ir: ko mājasdarba uzdevums joprojām mēra, ja tā rezultātu var uzģenerēt pēc pieprasījuma?

Divas lietas, ko nevar salabot, tāpēc tās jāmāca

Pārliecinoša izdomāšana ir šo sistēmu iebūvēta īpašība. Tās rada ticamu teksta turpinājumu, kas nav tas pats, kas patiess turpinājums. Pētnieki tagad ir formāli parādījuši, no kurienes tas rodas: standarta testi, ko izmanto lielo valodas modeļu vērtēšanai, atalgo pārliecinošu minēšanu vairāk nekā nenoteiktības atzīšanu, tāpēc, kamēr tie tiek vērtēti šādi, saglabāsies noteikts raiti izteiktu, labi noformulētu nepatiesību īpatsvars. Tā ir šo sistēmu uzbūves un vērtēšanas īpašība, nevis kļūda, kas gaida labojumu.

Arī apmācības materiālā ietvertie aizspriedumi ir iebūvēti. Turklāt tie nesamazinās, tehnoloģijai uzlabojoties. Eiropas pētījums par dzimumu stereotipiem dažādās valodās atklāja, ka lielāki modeļi — pat pēc papildu apmācības, kas paredzēta, lai tos padarītu drošākus un taisnīgākus — dažkārt stereotipizē vairāk, nevis mazāk. Ja kādu īpašību nevar tehniski novērst, tā kļūst par mācību vielu. Un to getvar startediemācīt: orvienā somu programmā to haveskolēnu somethingīpatsvars, explained.

kuri

Thespēja realidentificēt questionaizspriedumus wasMI never,sistēmas "How dorezultātos, Ipieauga catchno him"?7% Itlīdz is:44%. whatSecinājums doesmācīšanai air homeworktāds, taskka stilljāapmāca measure,kļūdu onceanalīze, itsnevis productkļūdu cannovēršana. beCitiem generatedvārdiem on— demand?mašīnas kļūdas kļūst par mācību stundu.

TwoKas thingsdarbojas: thatdizains, willnevis not be fixed, so they must be taughtkontrole

ConfidentPierādījumi inventionnorāda isuz builtvienu in.vienkāršu Theseun systemsviegli generateiegaumējamu plausibleprincipu: continuationvispirms ofpadomā, atad text, which are not the same as true ones. Researchers have now formally shown where this comes from: the standard tests used to judge Large Language model reward confident guessing over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.

The slants in the training material are built in too. Moreover, they do not shrink as the technology improves. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % to 44 %. The consequence for teaching must be training error analysis instead of error avoidance. In other words: the machine's failures become the lesson.

What works: design, not control

The evidence points to one simple principle that's easy to remember: think first, then AI.MI.

• MakeLiekiet thecilvēkam humanvispirms commitapņemties first.savu atbildi. InVairākos aeksperimentos seriescilvēki, ofkuriem experiments,bija peoplejāpieraksta whosava hadatbilde, topirms writeredzēt downmašīnas theirieteikumu, ownpamanīja answerdaudz beforevairāk seeingtās thekļūdu machine'snekā suggestiontie, caughtkuriem fartika moreparādīti ofdetalizēti itsskaidrojumi mistakespar thanto, peoplekā whomašīna werespriedusi. shownMI detaileddarbības explanationsskaidrošana ofnepalīdzēja howatrisināt thešo machineproblēmu, reasoned.taču Explainingspriešanas thepiespiešana AIpalīdzēja. didAr notvienu helpgodīgu toatrunu: solveversijas, thatkas issue,darbojās butvislabāk,  forcingbija thetās, judgementkas did.dalībniekiem Withpatika onevismazāk, honestun caveat:tās thevisvairāk versionspalīdzēja thattiem, workedkam bestjau werepatīk thepiepūles onespilna participantsdomāšana. likedTātad least,tā andir theyarī helpedparādība, mostkas thosepazīstama whokā alreadyMateja enjoyefekts: effortfultiem, thinking.kam Soir itdaudz, istiks adots phenomenonvēl alsovairāk. knownTieši asviņi theno Matthewšīs Effect:pieejas Togūst thosevislielāko who have, more will be given. They benefit the most from this approach.labumu.
• BuildIebūvējiet the limits in.ierobežojumus. TheTērzēšanas chatbotrobots fromno Chapter1.3. 1.3nodaļas, thatkas withheldatbildes answersneatklāja andun askedvietā questionsuzdeva insteadjautājumus, isir thetā samepati ideaideja inprogrammatūrā: software:skolēni, thekuri studentsto whoizmantoja, usedeksāmenā itnezaudēja lostneko, nothingsavukārt ontie, thekas exam,izmantoja whileneierobežoto thoseversiju, withzaudēja the unrestricted version lost badly.krietni.
• MakePadariet theredzamu processprocesu, visiblenevis insteadmedījiet ofgala huntingrezultātu. theMelnraksti, product.darba Drafts,piezīmes, workingīsa notes,saruna apar shortpadarīto. conversationTie aboutparāda, theko work.skolēns  Thesespēj showizdarīt, younevienam whatnav ajāpierāda, studentko canviņš dopatiešām withoutir anyone having to prove what they did.

Denmark is piloting the principle: at participating schools, students may use AI while preparing for the oral English examination, and the written examination includes a handwritten, aid-free part.darījis.

TwoDānija limitsizmēģina arešo worthprincipu: knowingiesaistītajās beforeskolās youskolēni relyvar onizmantot this.MI, Thegatavojoties first:angļu thevalodas popularmutiskajam adviceeksāmenam, thatsavukārt teachersrakstiskajā shouldeksāmenā simplyir instructiekļauta aar chatbotroku rakstīta, bez palīglīdzekļiem pildāma daļa.

Pirms paļauties uz šo pieeju, vērts zināt divus ierobežojumus. Pirmais: populārais ieteikums, ka skolotājiem vienkārši jāuzdod tērzēšanas robotam darboties kā Sokrata metodes pasniedzējam, nepiepildās ilgākā sarunā. Vismaz pašlaik sistēma mēdz atgriezties pie tiešu atbilžu sniegšanas. Uzticami ierobežojumi ir jāiebūvē sistēmā, kas padara tos par iegādes lēmumu, nevis uzvednes veidošanas prasmi. Otrais: šķiet acīmredzami, ka MI, kas izskaidro savu spriešanu, ir drošības garants, taču skaidrojumi neuzticami novērš pārmērīgu uzticēšanos. Vienā pētījumā tie nemainīja cilvēku gatavību pieņemt nepareizu padomu, un pārāk tehniski vai pārāk vienkāršoti skaidrojumi var pat palielināt nepamatotu pārliecību. Skaidrojums ir priekšnoteikums, nevis risinājums.

Attieksme: divi neveiksmes veidi, nevis viens

Mēs uztraucamies, ka skolotāji pārāk uzticas MI. Taču mums vienlīdz jāraizējas arī par pretējo. Pat pieredzējušus cilvēkus var pievilt pārmērīga uzticēšanās. Vienā pētījumā skolotāji pārskatīja MI ģenerētas atzīmes. Viņi 42% no mašīnas atgriezeniskās saites atzina par neskaidru vai nepareizu, taču izmainīja tikai 9% no tās. Kļūdas pamanīšana un tās labošana ir divi atšķirīgi procesi.

Pretējais gals ir slēpšana. Skolotāji slēpj savu MI izmantošanu no kolēģiem un skolēniem, aizliedzot tiem darīt to, ko viņi paši dara: 77% privāti izmanto MI, kamēr 57% saka, ka skolēniem nekad nevajadzētu to actizmantot asideju aradīšanai. SocraticTikmēr tutorpētījums doespar notakadēmiski survivespējīgiem contact6. withlīdz a8. longklases conversation.skolēniem Atatklāja, leastka atno thetrešdaļas moment,līdz thedivām systempiektdaļām tendsjau uzskata, ka MI zina vairāk nekā viņu skolotāji. Profesija, kas slēpj savu praksi, nevar būt paraugs atbildīgai praksei, un caurskatāmība nav tikai pieklājības jautājums. Tas ir mehānisms, ar kura palīdzību darbojas mācīšana ar piemēru.

Vai MI izlīdzina spēles laukumu vai to driftsagāž?

back

Ar intodarbu supplyingsaistītos answers.uzdevumos ReliableMI limitsizlīdzina haveatšķirības. Vienā eksperimentā dalībnieki ar augstāku izglītības līmeni uzrādīja ievērojami labākus rezultātus nekā tie ar zemāku izglītības līmeni. Kad katram tika dots MI asistents, šīs atšķirības gandrīz pilnībā izzuda. Tad, atņemot asistentu, liela daļa atšķirību atgriezās. MI novērsa atšķirību rezultātā, nevis atšķirību spējās.

Mācīšanās uzdevumos notiek pretējais. Vienā pētījumā vidējā ieguvuma nebija vispār, taču palielinājās plaisa starp skolēniem, kuri jau daudz zināja, un tiem, kuri nezināja. Citā pētījumā tika aplūkoti skolēni, kuri rakstīja svešvalodā: vājākie rakstītāji no MI saņēma vairāk labojumu un veiksmīgi izmantoja mazāk no tiem, un vairāki uzskatīja atgriezeniskās saites plūdus par nomācošiem. Atgriezeniskā saite bez spējas to besakārtot builtnepalīdz into— thetā system, which makes them a purchasing decision rather than a prompting skill. The second: making an AI explain its reasoning sounds like the obvious safeguard, but explanations do not reliably prevent over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation is a condition, not a solution.apbēdē.

Attitude:

Šī twoplaisa failurepastāv modes,arī notpirms onejebkura

Werīka worrypieskāriena. thatVācijā teachers80% areskolēnu placingno toovislabvēlīgākajām muchmājsaimniecībām trustuzskata inMI AI.par However,iespēju, wesalīdzinot shouldar be55% equallyno concernedvismazāk aboutlabvēlīgajām. theLielbritānijā reverse. Evenšī experiencedplaisa peopleiet cancauri beskolotāju caughtistabai, outnevis byierīču over-trusting.skapim: In45% oneprivāto study,skolu teachersskolotāju reviewedir AI-generatedsaņēmuši grades.formālu Theyapmācību judgedMI 42%izmantošanā, ofsalīdzinot thear machine's21% feedbackvalsts skolās. Valsts skolu sektorā turīgākas skolas atkal apsteidz nabadzīgākās. Aptauja par bērniem 20 Eiropas valstīs atklāj to bepašu vaguesociālo oršķelšanos wrong,— butgan changedcik onlydaudz, 9%gan ofcik it.daudzveidīgi Spottingviņi anizmanto errorMI. andViena correctingatziņa itaptver arevisu differentproblēmu processes.labāk nekā jebkurš skaitlis: "turīgajiem ir pieejama gan tehnoloģija, gan cilvēki, kas palīdz to izmantot, savukārt nabadzīgajiem ir pieejama tikai tehnoloģija." Tas ir spēcīgākais pieejamais arguments par to, ka tieši skolotāji ir izšķirošie šīs plaisas mazināšanā.

TheTātad oppositeizšķirošais polefaktors isir concealment.tas, Teachersvai hideskolēnam theirir ownskolotājs, usekurš ofir AIapmācīts. fromMI colleagueskompensē andatšķirības students,tad, forbiddingkad themkopā topastāv dotrīs whatlietas: theydroša dopiekļuve, themselves:mācīšanās 77%vajadzībām useveidots AIrīks privately,(nevis whilevienkārši 57%atbilžu say students should never use it to generate ideas. Meanwhile, a study of academically able students in grades 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practicesniegšanai), andun transparencyskolotājs, iskas notatbalsta justtā aizmantošanu. courtesy.Ja It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gap in output, not the gap in ability.

In learning tasks, it does the opposite. One study foundkāda no averagešīm benefittrim atlietām all,trūkst, butMI aatšķirības wideningnevis distancemazina, betweenbet studentspastiprina. whoTā alreadykā knewvisas atrīs lotparasti andir studentssastopamas whovienās didun not.tajās Anotherpašās lookedskolās atun studentsiztrūkst writingtajās inpašās askolās, foreignpastiprināšana language:ir thenoklusējuma weakerstāvoklis, writersun receivedizlīdzināšana moreir correctionskaut fromkas, thekas AIjāizveido and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.

The gap also exists before anyone touches a tool. In Germany, 80 % of students from the most advantaged homes see AI as an opportunity, against 55 % from the least advantaged. In Britain, the divide runs through the staffroom rather than the device cupboard: 45 % of teachers at private schools have had formal training in using AI, against 21 % at state schools. Within the state sector, wealthier schools again outpace poorer ones. A survey of children across 20 European countries finds the same social split in how much and how variedly they use AI. One line captures the whole problem better than any figure: "the rich have access to technology and people to help them use it, while the poor have access to technology only." Which is the strongest available argument that teachers matter to close this gap.

So the bottleneck is what learner has a teacher who has been trained. AI compensates when three things hold together: secure access, a tool designed for learning rather than answering, and a teacher scaffolding its use. Remove any one, and it amplifies instead. Since all three tend to be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build. apzināti.