1.3 Atbildīga MI izmantošana
Galvenā doma
- Atbildība ir dizaina uzdevums, nevis kontroles uzdevums. MI atklāšana pienācīgi nedarbojas.
- Un MI atklāšana ir netaisnīga, kad tā kļūdās. Detektori kļūdaini atzīmē cilvēku rakstītus darbus kā MI rakstītus un nepamana MI rakstītus darbus. Izglītības pārvaldes iestādes Francijā un Nīderlandē iesaka tos neizmantot.
- Pārliecinoša izdomāšana un mantotie aizspriedumi izriet no tā, kā šīs sistēmas ir veidotas un vērtētas. Sekas jāizdara šādas: mācīt par tiem, nevis gaidīt labojumu.
- Darbības princips ir: vispirms padomā, tad MI. Likt cilvēkiem apņemties savu atbildi ir efektīvāk nekā skaidrot mašīnas darbību, un ierobežojumu iebūvēšana programmatūrā novērš kaitējumu, ko rada neierobežota piekļuve.
- Vienas uzvednes vien nepietiek. Tērzēšanas robots, kam uzdots darboties kā pasniedzējam, mēdz atgriezties pie tiešu atbilžu sniegšanas, kas padara uzticamus ierobežojumus par iegādes, nevis uzvednes veidošanas jautājumu.
- Pastiprināšana ir noklusējuma stāvoklis; izlīdzināšana jāveido kopā no pieejas, dizaina un atbalsta. Retākais, bet vissvarīgākais no šiem trim ir apmācīts skolotājs.
- Iekļaušana ir vispārliecinošākais ieguvums, un tieši šeit paši skolotāji saskata visspēcīgāko argumentu.
Ja no šīs lapas atceraties tikai vienu teikumu: Dambji plīst. Iemāciet peldēt.
Lasīšanas dienasgrāmata, otrs skatiens
Atgriezīsimies pie mūsu devītās klases skolēna un viņa aizdomīgi izslīpētās lasīšanas dienasgrāmatas. Instinkts ir gandrīz universāls, un tas ir laba skolotāja instinkts: noskaidrot, vai viņš izmantoja MI. Uzbūvēt labāku dambi.
Šī nodaļa ir par to, kāpēc šis instinkts pats par sevi nekur neaizved. Mēs nonāksim pie tā, kas patiešām darbojas.
Sāksim ar neērto daļu. Skolotāji nespēj uzticami atšķirt MI radītu tekstu no skolēna rakstīta teksta. Divos vācu pētnieku komandas pētījumos 89 topošajiem skolotājiem un 200 pieredzējušiem skolotājiem tika dots skolēnu un tērzēšanas robota rakstītu eseju maisījums un lūgts tās sašķirot. Nevienai grupai tas uzticami neizdevās, taču abas grupas bija pārliecinātas, ka spēj to izdarīt. Pieredze palīdzēja tikai nedaudz: arī pieredzējušie skolotāji neatpazina lielāko daļu MI tekstu. Kādā britu universitātē pētnieki caur parastajiem kanāliem iesniedza tērzēšanas robota ģenerētas atbildes reālos, neuzraudzītos tiešsaistes eksāmenos, nebrīdinot vērtētājus.
"Jūs drīkstat to izmantot, taču jums jāspēj izskaidrot rezultātu saviem vārdiem."
Detektors, kas kļūdaini sodā nepareizos skolēnus
Pētnieki septiņus no visplašāk izmantotajiem MI detektoriem pārbaudīja uz TOEFL esejām, ko rakstījuši cilvēki, kuri apgūst angļu valodu kā svešvalodu (esejas tika savāktas kādā ķīniešu tiešsaistes forumā). Līdzās tām viņi izmantoja esejas, ko rakstījuši angliski runājoši astotās klases amerikāņu skolēni. Dzimtās valodas runātāju darbi tika klasificēti pareizi gandrīz vienmēr. No svešvalodā rakstītajām esejām vairāk nekā sešas no desmit tika kļūdaini atzīmētas kā mašīnas rakstītas.
Rīka kļūdas sistemātiski skar tos skolēnus, kuriem jau tā ir vissmagāk. Iestādes to ir izrēķinājušas. Vanderbilta universitāte norādīja, ka pat tad, ja šāds rīks kļūdītos tikai 1% gadījumu, tas joprojām nozīmētu aptuveni 750 kļūdaini atzīmētus darbus gadā no tās 75 000 iesniegtajiem darbiem. Tāpēc tā šo rīku izslēdza. Pētnieku Vācijas federālajai izglītības ministrijai sagatavotais ceļvedis ir viennozīmīgs: tehnoloģija "nav pietiekami uzticama, lai nodrošinātu juridiski drošu pierādījumu". Neatkarīgs Eiropas tests ar četrpadsmit detektoriem nonāca pie tāda paša secinājuma: "ne precīzi, ne uzticami".
Liela daļa Eiropas par šo vairs nediskutē. Francijas izglītības ministrija un tās datu aizsardzības iestāde iesaka skolām detektorus neizmantot, Nīderlandes IKT aģentūra Kennisnet tos dēvē par ļoti neuzticamiem. Augstākajā izglītībā atsevišķas universitātes, piemēram, ZHAW Cīrihē, aizliedz tos izmantot vērtēšanā. Anglijā eksāmenu padomes atļauj izmantot atklāšanas programmatūru tikai kā vienu no elementiem spriedumā, ko pieņem skolotājs, kurš "vislabāk pazīst savus skolēnus". Vērts atcerēties arī datu aizsardzības aspektu: skolēna darba ievietošana tiešsaistes rīkā nozīmē viņa personas datu apstrādi. Šim nolūkam ir nepieciešams tiesisks pamats un līgums ar pakalpojuma sniedzēju. → 1.4 Tiesību aktiem atbilstoša MI izmantošana
Šķiet, ka krāpšanās panika ir trauslāka nekā ap to valdošais troksnis. Pētnieki aptaujāja skolēnus trijās ASV vidusskolās pirms ChatGPT parādīšanās un vēlreiz — pēc tam. Krāpšanās apjoms kopumā palika tāds pats. Turpmākā aptauja ar vairāk nekā 4000 skolēniem sešās citās ASV vidusskolās gadu vēlāk atklāja to pašu.
Patiesais jautājums nekad nav bijis "Kā es viņu pieķeršu?". Tas ir: ko mājasdarba uzdevums joprojām mēra, ja tā rezultātu var uzģenerēt pēc pieprasījuma?
"Sākumā es to uzskatīju par krāpšanos. Tagad es to redzu kā signālu, ka jāmainās pašam uzdevumam."
Divas lietas, ko nevar salabot, tāpēc tās jāmāca
Pārliecinoša izdomāšana ir šo sistēmu iebūvēta īpašība. Tās rada ticamu teksta turpinājumu, un ticams nav tas pats, kas patiess. Pētījumu pārskati ir vienisprātis, ka neviena metode šo problēmu vēl nav novērsusi, lai gan to var mazināt un daļēji atklāt. Iemesls ir tāds, ka standarta testi, ko izmanto lielo valodas modeļu vērtēšanai, atalgo pārliecinošu minējumu vairāk nekā nenoteiktības atzīšanu, tāpēc, kamēr tie tiek vērtēti šādi, saglabāsies noteikts raiti izteiktu, labi noformulētu nepatiesību īpatsvars.
Arī apmācības materiālā ietvertie aizspriedumi ir iebūvēti. Turklāt tie nesamazinās, modeļiem uzlabojoties. Eiropas pētījums par dzimumu stereotipiem dažādās valodās atklāja, ka lielāki modeļi — pat pēc papildu apmācības, kas paredzēta, lai tos padarītu drošākus un taisnīgākus — dažkārt stereotipizē vairāk, nevis mazāk. Ja kādu īpašību nevar tehniski novērst, tā kļūst par mācību vielu. Un to var iemācīt: vienā somu programmā to skolēnu īpatsvars, kuri spēja izskaidrot, no kurienes radušies attēlu ģeneratora aizspriedumi, pieauga no 7% līdz 44%. Secinājums mācīšanai ir tāds, ka jāapmāca kļūdu analīze, nevis kļūdu novēršana. Citiem vārdiem — mašīnas kļūdas kļūst par mācību stundu.
"Ļaujiet skolēnam pārbaudīt tērzēšanas robota risinājumu tā, it kā viņš būtu skolotājs. Meklējot kļūdas, viņš beidzot apgūst metodi."
Kas darbojas: dizains, nevis kontrole
Pierādījumi norāda uz vienu vienkāršu un viegli iegaumējamu principu: vispirms padomā, tad MI.
- Liekiet cilvēkam vispirms apņemties savu atbildi. Eksperimentā ar aptuveni 200 pieaugušajiem cilvēki, kuriem bija jāpieņem savs lēmums, pirms viņi redzēja mašīnas ieteikumu, retāk piekrita tās nepareizajiem ieteikumiem nekā tie, kuriem tika parādīts īss mašīnas spriešanas skaidrojums. MI darbības skaidrošana problēmu neatrisināja. Palīdzēja metode, kas piespieda pieņemt spriedumu. Piespiest pieņemt spriedumu nozīmē piespiest cilvēkus domāt. Tā kā domāšana ir nogurdinoša, dalībniekiem šīs metodes patika vismazāk, un tās visvairāk palīdzēja tiem, kam jau patīk piepūles pilna domāšana. Tas ir tas, ko jūs visi zināt kā Mateja efektu: tiem, kam ir, tiks dots vēl vairāk.
- Iebūvējiet ierobežojumus. Tērzēšanas robots no 1.2. nodaļas, kas atbildes neatklāja un vietā uzdeva jautājumus, ir tā pati ideja programmatūrā: skolēni, kuri to izmantoja, eksāmenā nezaudēja neko, savukārt tie, kas izmantoja neierobežoto versiju, zaudēja krietni.
- Padariet redzamu procesu, nevis medījiet gala rezultātu. Melnraksti, darba piezīmes, īsa saruna par padarīto. Tie parāda, ko skolēns spēj izdarīt, nevienam nav jāpierāda, ko viņš patiešām ir darījis.
Dānija izmēģina šo principu: iesaistītajās skolās skolēni var izmantot MI, gatavojoties angļu valodas mutiskajam eksāmenam, savukārt rakstiskajā eksāmenā ir iekļauta ar roku rakstīta, bez palīglīdzekļiem pildāma daļa.
Pirms paļauties uz šo pieeju, vērts zināt divus ierobežojumus.
Pirmais: populārais ieteikums, ka skolotājiem vienkārši jāuzdod tērzēšanas robotam darboties kā Sokrata metodes pasniedzējam, ilgākā sarunā var neattaisnoties. Pirmie pierādījumi no pētījuma ar simulētiem skolēniem, kas vēl nav recenzēts (2026. gada oktobris), liecina, ka pastāvīga spiediena apstākļos šādi pasniedzēji atkal sāk sniegt gatavas atbildes. Uzticami ierobežojumi ir jāiebūvē sistēmā, kas padara tos par iegādes lēmumu, nevis uzvednes veidošanas prasmi.
Otrais: šķiet acīmredzami, ka MI, kas izskaidro savu spriešanu, ir drošības garants, taču skaidrojumi neuzticami novērš pārmērīgu uzticēšanos. Vienā pētījumā tie nemainīja cilvēku gatavību pieņemt nepareizu padomu, un pārāk tehniski vai pārāk vienkāršoti skaidrojumi var pat palielināt nepamatotu pārliecību. Skaidrojums ir tikai mācīšanās priekšnoteikums.
Attieksme: divi neveiksmes veidi, nevis viens
Mēs uztraucamies, ka skolotāji pārāk uzticas MI. Taču mums vienlīdz jāraizējas arī par pretējo. Pat pieredzējušus cilvēkus var pievilt pārmērīga uzticēšanās. Nelielā izmēģinājumā ASV skolās četri no desmit aptaujātajiem skolotājiem atzina MI vērtēšanas rīka atgriezenisko saiti par nelietderīgu, pārsvarā neskaidru vai pat nepareizu. Pētījumi par automatizācijas aizspriedumu liecina, ka cilvēki mēdz piekrist mašīnas ieteikumam pat tad, ja viņiem ir iemesls par to šaubīties. Kļūdas pamanīšana un tās labošana ir divi atšķirīgi soļi.
Pretējais gals ir slēpšana. Skolotāji slēpj savu MI izmantošanu no kolēģiem un skolēniem, aizliedzot tiem darīt to, ko viņi paši dara: 77% privāti izmanto MI, kamēr 57% saka, ka skolēniem nekad nevajadzētu to izmantot ideju radīšanai. Tikmēr pētījums par akadēmiski spējīgiem 6. līdz 8. klases skolēniem atklāja, ka no trešdaļas līdz divām piektdaļām jau uzskata, ka MI zina vairāk nekā viņu skolotāji. Profesija, kas slēpj savu praksi, nevar būt paraugs atbildīgai praksei, un caurskatāmība nav tikai pieklājības jautājums. Tas ir mehānisms, ar kura palīdzību darbojas mācīšana ar piemēru.
Vai MI izlīdzina spēles laukumu vai to sagāž?
Ar darbu saistītos uzdevumos MI izlīdzina atšķirības. Vienā eksperimentā dalībnieki ar augstāku izglītības līmeni uzrādīja ievērojami labākus rezultātus nekā tie ar zemāku izglītības līmeni. Ar MI asistenta palīdzību aptuveni trīs ceturtdaļas šīs atšķirības izzuda. Kad asistentu atkal atņēma, ievērojama daļa atšķirības atgriezās. MI novērsa atšķirību rezultātā, nevis atšķirību spējās.
Mācīšanās uzdevumos notiek pretējais. Vienā pētījumā vidējā ieguvuma nebija vispār, taču palielinājās plaisa starp skolēniem, kuri jau daudz zināja, un tiem, kuri nezināja. Citā pētījumā tika aplūkoti skolēni, kuri rakstīja svešvalodā: vājākie rakstītāji no MI saņēma vairāk labojumu un veiksmīgi izmantoja mazāk no tiem, un vairāki uzskatīja atgriezeniskās saites plūdus par nomācošiem. Atgriezeniskā saite bez spējas to sakārtot nepalīdz — tā apbēdē.
Šī plaisa pastāv arī pirms jebkura rīka pieskāriena. Vācijā 80% skolēnu no vislabvēlīgākajām mājsaimniecībām uzskata MI par iespēju, salīdzinot ar 55% no vismazāk labvēlīgajām. Lielbritānijā šī plaisa iet cauri skolotāju istabai, nevis ierīču skapim: 45% privāto skolu skolotāju ir saņēmuši formālu apmācību MI izmantošanā, salīdzinot ar 21% valsts skolās. Valsts skolu sektorā turīgākas skolas atkal apsteidz nabadzīgākās. 2026. gada aptauja ar vairāk nekā 25 000 bērniem 17 Eiropas valstīs atklāj to pašu sociālo šķelšanos — gan cik daudz, gan cik daudzveidīgi viņi izmanto MI. Kāda komentētāja atziņa aptver visu problēmu labāk nekā jebkurš skaitlis: "turīgajiem ir pieejama gan tehnoloģija, gan cilvēki, kas palīdz to izmantot, savukārt nabadzīgajiem ir pieejama tikai tehnoloģija."
Tātad izšķirošais faktors ir tas, vai skolēnam ir skolotājs, kurš ir apmācīts. MI kompensē atšķirības tad, kad kopā pastāv trīs lietas: droša piekļuve, mācīšanās vajadzībām veidots rīks (nevis vienkārši atbilžu sniegšanai), un skolotājs, kas atbalsta tā izmantošanu. Ja kāda no šīm trim lietām trūkst, MI atšķirības nevis mazina, bet pastiprina. Tā kā visas trīs parasti ir sastopamas vienās un tajās pašās skolās un iztrūkst tajās pašās skolās, pastiprināšana ir noklusējuma stāvoklis, un izlīdzināšana ir kaut kas, kas jāizveido apzināti.