Skip to main content

1.3 Atbildīga MI izmantošana

Galvenā doma

  • Atbildība ir dizaina, nevis kontroles uzdevums. MI izmantošanas atklāšana pienācīgi nedarbojas.
  • Un MI izmantošanas atklāšana ir netaisnīga, kad tā ir kļūdaina. Detektori kļūdaini atzīmē cilvēku rakstītus darbus kā MI rakstītus un nepamana MI rakstītus darbus. Izglītības pārvaldes iestādes Francijā un Nīderlandē iesaka tos neizmantot.
  • Pārliecinoša izdomāšana un mantotie aizspriedumi izriet no tā, kā šīs sistēmas ir veidotas un vērtētas. Sekām būtu jābūt šadām: mācīt par šīm sistēmām, nevis gaidīt labojumus.
  • Darbības princips: vispirms padomā, tad izmanto MI. Likt cilvēkiem uzņemties atbildbu par savu atbildi ir efektīvāk nekā skaidrot mašīnas darbību, un ierobežojumu iebūvēšana programmatūrā novērš kaitējumu, ko rada neierobežota piekļuve.
  • Vienas uzvednes vien nepietiek. Sarunbots, kam uzdots darboties kā pedagogam, mēdz atgriezties pie tiešu atbilžu sniegšanas, kas padara uzticamus ierobežojumus par iegādes, nevis uzvednes veidošanas jautājumu.
  • Pastiprināšana ir noklusējuma stāvoklis; izlīdzināšana jāveido apkopojot pieeju, dizainu un atbalstu. Retākais, bet vissvarīgākais no šiem trim ir apmācīts pedagogs.
  • Iekļaušana ir vispārliecinošākais ieguvums, un tieši šeit pedagogi saskata visspēcīgāko argumentu.

Ja no šī teksta atcerēsieties tikai vienu teikumu: Dambji grūst. Iemāciet peldēt.

Lasīšanas dienasgrāmata, otrs skatiens

Atgriezīsimies pie mūsu devītās klases skolēna un viņa aizdomīgi slīpētās lasīšanas dienasgrāmatas. Instinkts ir gandrīz universāls, un tas ir laba pedagoga instinkts: noskaidrot, vai skolēns ir izmantojis MI. Uzbūvējiet labāku "dambi".

Šī nodaļa ir par to, kāpēc šis instinkts pats par sevi neko nenozīmē. Izpētīsism to, kas patiešām darbojas.

Sāksim ar neērtāko daļu. Pedagogi nespēj uzticami atšķirt MI radītu tekstu no skolēna rakstīta teksta. Divos vācu pētnieku komandas pētījumos 89 topošajiem skolotājiem un 200 pieredzējušiem skolotājiem tika dota skolēnu un sarunbota rakstītu eseju kopa un lūgts tās sašķirot. Nevienai grupai tas neizdevās, taču abas grupas bija pārliecinātas, ka spēj to izdarīt. Pieredze palīdzēja tikai nedaudz: arī pieredzējušie pedagogi nespēaj atpazīt lielāko daļu MI radīto tekstu. Kādā britu universitātē pētnieki caur parastajiem kanāliem iesniedza sarunbota ģenerētas atbildes reālos, neuzraudzītos tiešsaistes eksāmenos, nebrīdinot vērtētājus.

"Jūs drīkstat to izmantot, taču jums jāspēj saviem vārdiem izskaidrot rezultātu."

Detektors, kas kļūdaini soda skolēnus

Pētnieki pārbaudīja septiņus no visplašāk izmantotajiem MI detektoriem, pārbaudot TOEFL esejas, ko rakstījuši cilvēki, kuri apgūst angļu valodu kā svešvalodu (esejas tika savāktas kādā ķīniešu tiešsaistes forumā). Līdzās tām viņi izmantoja esejas, ko rakstījuši angliski runājoši astotās klases amerikāņu skolēni. Dzimtās valodas runātāju darbi gandrīz vienmēr tika klasificēti pareizi. No svešvalodā rakstītajām esejām vairāk nekā sešas no desmit tika kļūdaini atzīmētas kā mašīnas rakstītas esejas.

Mehānisms nav noslēpumains. Daudzi no šiem rīkiem neatklāj lielo valodas modeļu darbu. Rīki mēra paredzamību. Teksts, kurā izmantoti ierasti vārdi paredzamā secībā, tiek novērtēts kā mākslīgs. Tie, kas raksta otrajā valodā, ar mazāku vārdu krājumu un stingrākām teikumu konstrukcijām, var radīt tieši šādu signālu. Tikmēr detektori, kas apmācīti vienam konkrētam testam, kā arī pētījumi citās valodās uzrāda mazākas atšķirības. Pašlaik tirgū nav neviena detektora, kas būtu pietiekami uzticams, lai kādu apsūdzētu apzinātā maldināšanā.

Rīka kļūdas sistemātiski skar tos skolēnus, kuriem jau tā ir visgrūtāk. Iestādes to ir izrēķinājušas. Vanderbilta universitāte norādīja, ka pat tad, ja šāds rīks kļūdītos tikai 1% gadījumu, tas joprojām nozīmētu aptuveni 750 kļūdaini atzīmētus darbus gadā no 75 000 iesniegtajiem darbiem. Tāpēc tā šo rīku izslēdza. Vācijas federālajai izglītības ministrijai pētnieku sagatavotais ceļvedis ir viennozīmīgs: tehnoloģija "nav pietiekami uzticama, lai nodrošinātu juridiski drošu pierādījumu". Neatkarīgs Eiropas tests ar četrpadsmit detektoriem nonāca pie tāda paša secinājuma: "ne precīzi, ne uzticami".

Liela daļa mācibu iestāžu Eiropā par šo vairs nediskutē. Francijas izglītības ministrija un tās datu aizsardzības iestāde iesaka skolām detektorus neizmantot, Nīderlandes IKT aģentūra Kennisnet tos uzskata par ļoti neuzticamiem. Augstākajā izglītībā atsevišķas universitātes, piemēram, ZHAW Cīrihē, aizliedz tos izmantot vērtēšanā. Anglijā eksāmenu padomes atļauj izmantot atklāšanas programmatūru tikai kā vienu no elementiem spriedumā, ko pieņem pedagogs, kurš "vislabāk pazīst savus skolēnus". Vērts atcerēties arī datu aizsardzības aspektu: skolēna darba ievietošana tiešsaistes rīkā nozīmē viņa personas datu apstrādi. Šim nolūkam ir nepieciešams tiesisks pamats un līgums ar pakalpojuma sniedzēju. → 1.4 Tiesību aktiem atbilstoša MI izmantošana

Šķiet, ka krāpšanās panika ir trauslāka nekā ap to valdošais troksnis. Pētnieki aptaujāja skolēnus trijās ASV vidusskolās pirms un pēc ChatGPT parādīšanās. Krāpšanās apjoms kopumā palika nemainīgs. Turpmākā aptauja ar vairāk kā 4000 skolēniem sešās citās ASV vidusskolās gadu vēlāk atklāja to pašu.

Patiesais jautājums nekad nav bijis "Kā es viņu pieķeršu?". Tas ir: ko mājasdarba uzdevums joprojām mēra, ja tā rezultātu var uzģenerēt pēc pieprasījuma?

"Sākumā es to uzskatīju par krāpšanos. Tagad es to redzu kā signālu, ka jāmaina ir pats uzdevums."

Divas lietas, ko nevar izlabot, tāpēc tās jāmāca

Pārliecinoša izdomāšana ir šo sistēmu iebūvēta īpašība. Tās rada ticamu teksta turpinājumu, untaču ticams nav tas pats, kas patiess. Pētījumu pārskati ir vienisprātis, ka neviena metode šo problēmu vēl nav novērsusi, lai gan to var mazināt un daļēji atklāt. Iemesls ir tāds, ka standarta testi, ko izmanto lielo valodas modeļu vērtēšanai, atalgovairāk uzteic pārliecinošu minējumu vairāk nekā nenoteiktībasatzīst atzīšanu,nenoteiktību, tāpēc, kamēr tie tiek vērtētišādi šādi,vērtēti, saglabāsies noteikts raiti izteiktu, labi noformulētu nepatiesību īpatsvars.

Arī apmācības materiālā ietvertie aizspriedumimateriālos ir iebūvēti.iestrādāti Turklātaizspriedumi. tie nesamazinās,Turklāt, modeļiem uzlabojoties., tie nesamazinās.  Eiropas pētījums par dzimumu stereotipiem dažādās valodās atklāja, ka lielāki modeļi — pat pēc papildu apmācības, kas paredzēta, lai tos padarītu drošākus un taisnīgākus — dažkārt stereotipizē vairāk, nevis mazāk. Ja kādu īpašību nevar tehniski novērst, tā kļūst par mācību vielu. Un to var iemācīt: vienā somu programmā to skolēnu īpatsvars, kuri spēja izskaidrot, no kurienes radušies attēlu ģeneratora aizspriedumi, pieauga no 7% līdz 44%. Secinājums mācīšanai ir tāds, ka jāapmācajāmāca ir kļūdu analīze, nevis kļūdu novēršana. Citiem vārdiem — mašīnas kļūdas kļūst par mācību stundu.

"Ļaujiet skolēnam pārbaudīt tērzēšanas robotasarunbota risinājumu tā, it kā viņš būtu skolotājs. Meklējot kļūdas, viņš beidzotgalu galā apgūst metodi."

Kas darbojas: dizains, nevis kontrole

Pierādījumi norāda uz vienu vienkāršu un viegli iegaumējamu principu: vispirms padomā, tad MI.

  • Liekiet cilvēkam vispirms apņemties savu atbildi. Eksperimentā ar aptuveni 200 pieaugušajiem cilvēki, kuriem bija jāpieņem savs lēmums, pirms viņi redzēja mašīnas ieteikumu, retāk piekrita tās nepareizajiem ieteikumiem nekā tie, kuriem tika parādīts īss mašīnas spriešanas skaidrojums. MI darbības skaidrošana problēmu neatrisināja. Palīdzēja metode, kas piespieda pieņemt spriedumu. Piespiest pieņemt spriedumu nozīmē piespiest cilvēkus domāt. Tā kā domāšana ir nogurdinoša, dalībniekiem šīs metodes patika vismazāk, un tās visvairāk palīdzēja tiem, kam jau patīk piepūles pilna domāšana. Tas ir tas, ko jūs visi zināt kā Mateja efektu: tiem, kam ir, tiks dots vēl vairāk.
  • Iebūvējiet ierobežojumus. Tērzēšanas robots no 1.2. nodaļas, kas atbildes neatklāja un vietā uzdeva jautājumus, ir tā pati ideja programmatūrā: skolēni, kuri to izmantoja, eksāmenā nezaudēja neko, savukārt tie, kas izmantoja neierobežoto versiju, zaudēja krietni.
  • Padariet redzamu procesu, nevis medījiet gala rezultātu. Melnraksti, darba piezīmes, īsa saruna par padarīto. Tie parāda, ko skolēns spēj izdarīt, nevienam nav jāpierāda, ko viņš patiešām ir darījis.

Dānija izmēģina šo principu: iesaistītajās skolās skolēni var izmantot MI, gatavojoties angļu valodas mutiskajam eksāmenam, savukārt rakstiskajā eksāmenā ir iekļauta ar roku rakstīta, bez palīglīdzekļiem pildāma daļa.

Pirms paļauties uz šo pieeju, vērts zināt divus ierobežojumus.

Pirmais: populārais ieteikums, ka skolotājiem vienkārši jāuzdod tērzēšanas robotam darboties kā Sokrata metodes pasniedzējam, ilgākā sarunā var neattaisnoties. Pirmie pierādījumi no pētījuma ar simulētiem skolēniem, kas vēl nav recenzēts (2026. gada oktobris), liecina, ka pastāvīga spiediena apstākļos šādi pasniedzēji atkal sāk sniegt gatavas atbildes. Uzticami ierobežojumi ir jāiebūvē sistēmā, kas padara tos par iegādes lēmumu, nevis uzvednes veidošanas prasmi.

Otrais: šķiet acīmredzami, ka MI, kas izskaidro savu spriešanu, ir drošības garants, taču skaidrojumi neuzticami novērš pārmērīgu uzticēšanos. Vienā pētījumā tie nemainīja cilvēku gatavību pieņemt nepareizu padomu, un pārāk tehniski vai pārāk vienkāršoti skaidrojumi var pat palielināt nepamatotu pārliecību. Skaidrojums ir tikai mācīšanās priekšnoteikums.

Attieksme: divi neveiksmes veidi, nevis viens

Mēs uztraucamies, ka skolotāji pārāk uzticas MI. Taču mums vienlīdz jāraizējas arī par pretējo. Pat pieredzējušus cilvēkus var pievilt pārmērīga uzticēšanās. Nelielā izmēģinājumā ASV skolās četri no desmit aptaujātajiem skolotājiem atzina MI vērtēšanas rīka atgriezenisko saiti par nelietderīgu, pārsvarā neskaidru vai pat nepareizu. Pētījumi par automatizācijas aizspriedumu liecina, ka cilvēki mēdz piekrist mašīnas ieteikumam pat tad, ja viņiem ir iemesls par to šaubīties. Kļūdas pamanīšana un tās labošana ir divi atšķirīgi soļi.

Pretējais gals ir slēpšana. Skolotāji slēpj savu MI izmantošanu no kolēģiem un skolēniem, aizliedzot tiem darīt to, ko viņi paši dara: 77% privāti izmanto MI, kamēr 57% saka, ka skolēniem nekad nevajadzētu to izmantot ideju radīšanai. Tikmēr pētījums par akadēmiski spējīgiem 6. līdz 8. klases skolēniem atklāja, ka no trešdaļas līdz divām piektdaļām jau uzskata, ka MI zina vairāk nekā viņu skolotāji. Profesija, kas slēpj savu praksi, nevar būt paraugs atbildīgai praksei, un caurskatāmība nav tikai pieklājības jautājums. Tas ir mehānisms, ar kura palīdzību darbojas mācīšana ar piemēru.

Vai MI izlīdzina spēles laukumu vai to sagāž?

Ar darbu saistītos uzdevumos MI izlīdzina atšķirības. Vienā eksperimentā dalībnieki ar augstāku izglītības līmeni uzrādīja ievērojami labākus rezultātus nekā tie ar zemāku izglītības līmeni. Ar MI asistenta palīdzību aptuveni trīs ceturtdaļas šīs atšķirības izzuda. Kad asistentu atkal atņēma, ievērojama daļa atšķirības atgriezās. MI novērsa atšķirību rezultātā, nevis atšķirību spējās.

Mācīšanās uzdevumos notiek pretējais. Vienā pētījumā vidējā ieguvuma nebija vispār, taču palielinājās plaisa starp skolēniem, kuri jau daudz zināja, un tiem, kuri nezināja. Citā pētījumā tika aplūkoti skolēni, kuri rakstīja svešvalodā: vājākie rakstītāji no MI saņēma vairāk labojumu un veiksmīgi izmantoja mazāk no tiem, un vairāki uzskatīja atgriezeniskās saites plūdus par nomācošiem. Atgriezeniskā saite bez spējas to sakārtot nepalīdz — tā apbēdē.

Šī plaisa pastāv arī pirms jebkura rīka pieskāriena. Vācijā 80% skolēnu no vislabvēlīgākajām mājsaimniecībām uzskata MI par iespēju, salīdzinot ar 55% no vismazāk labvēlīgajām. Lielbritānijā šī plaisa iet cauri skolotāju istabai, nevis ierīču skapim: 45% privāto skolu skolotāju ir saņēmuši formālu apmācību MI izmantošanā, salīdzinot ar 21% valsts skolās. Valsts skolu sektorā turīgākas skolas atkal apsteidz nabadzīgākās. 2026. gada aptauja ar vairāk nekā 25 000 bērniem 17 Eiropas valstīs atklāj to pašu sociālo šķelšanos — gan cik daudz, gan cik daudzveidīgi viņi izmanto MI. Kāda komentētāja atziņa aptver visu problēmu labāk nekā jebkurš skaitlis: "turīgajiem ir pieejama gan tehnoloģija, gan cilvēki, kas palīdz to izmantot, savukārt nabadzīgajiem ir pieejama tikai tehnoloģija."

Tātad izšķirošais faktors ir tas, vai skolēnam ir skolotājs, kurš ir apmācīts. MI kompensē atšķirības tad, kad kopā pastāv trīs lietas: droša piekļuve, mācīšanās vajadzībām veidots rīks (nevis vienkārši atbilžu sniegšanai), un skolotājs, kas atbalsta tā izmantošanu. Ja kāda no šīm trim lietām trūkst, MI atšķirības nevis mazina, bet pastiprina. Tā kā visas trīs parasti ir sastopamas vienās un tajās pašās skolās un iztrūkst tajās pašās skolās, pastiprināšana ir noklusējuma stāvoklis, un izlīdzināšana ir kaut kas, kas jāizveido apzināti.