1.3 Atbildīga MI izmantošana
Galvenā doma
- Atbildība ir dizaina uzdevums, nevis kontroles uzdevums. MI atklāšana pienācīgi nedarbojas.
- Un MI atklāšana ir netaisnīga, kad tā kļūdās.
Pastāv risksDetektori kļūdainiatzīmētatzīmēatbildescilvēku rakstītus darbus kā MIģenerētasrakstītusvaiunotrādi.nepamanaVairākasMIEiropasrakstītusvalstisdarbus.šosIzglītībasrīkuspārvaldesjauiestādesirFrancijāizslēgušasunnoNīderlandēlietošanas.iesaka tos neizmantot. - Pārliecinoša izdomāšana un mantotie aizspriedumi izriet no tā, kā šīs sistēmas ir veidotas un vērtētas. Sekas jāizdara šādas: mācīt par tiem, nevis gaidīt labojumu.
- Darbības princips ir: vispirms padomā, tad MI.
LiekotLikt cilvēkiem apņemties savuatbildi,atbilditasirpārspējefektīvākskaidrojumunekāparskaidrot mašīnasdarbību;darbību, un ierobežojumu iebūvēšana programmatūrāpārspējnovērštākaitējumu,aizliegšanu.ko rada neierobežota piekļuve. - Vienas uzvednes vien nepietiek. Tērzēšanas robots, kam uzdots darboties kā pasniedzējam, mēdz atgriezties pie tiešu atbilžu sniegšanas, kas padara uzticamus ierobežojumus par iegādes, nevis uzvednes veidošanas jautājumu.
- Pastiprināšana ir noklusējuma stāvoklis; izlīdzināšana jāveido kopā no pieejas, dizaina un
atbalstaatbalsta.—Retākais,unbet vissvarīgākais no šiem trimretākaisir apmācīts skolotājs.{{rev}} - Iekļaušana ir vispārliecinošākais ieguvums, un tieši šeit paši skolotāji saskata visspēcīgāko argumentu.
Ja no šīs lapas atceraties tikai vienu teikumu: Dambji plīst. Iemāciet peldēt.
Lasīšanas dienasgrāmata, otrs skatiens
Atgriezīsimies pie mūsu devītās klases skolēna un viņa aizdomīgi izslīpētās lasīšanas dienasgrāmatas. Instinkts ir gandrīz universāls, un tas ir laba skolotāja instinkts: noskaidrot, vai viņš izmantoja MI. Uzbūvēt labāku dambi.
Šī nodaļa ir par to, kāpēc šis instinkts pats par sevi nekur neaizved. Mēs nonāksim pie tā, kas patiešām darbojas.
Sāksim ar neērto daļu. Skolotāji nespēj uzticami atšķirt MI radītu tekstu no skolēna rakstīta teksta. VācijasDivos pētījumāvācu 289pētnieku dažādaskomandas pieredzespētījumos 89 topošajiem skolotājiem un 200 pieredzējušiem skolotājiem tika dots skolēnu un tērzēšanas robota rakstītu tekstueseju maisījums un lūgts totās sašķirot. Nevienai grupai tas neizdevās.uzticami Tačuneizdevās, taču abas grupas bija pārliecinātas, ka spēj to izdarīt. Pieredze gandrīzpalīdzēja nekotikai nemainīja.nedaudz: Plašākāarī mērogāpieredzējušie situācijaskolotāji irneatpazina vēllielāko sliktāka.daļu VienāMI tekstu. Kādā britu universitātē pētnieki caur parastajiem kanāliem iesniedza tērzēšanas robota ģenerētas atbildes reālajāreālos, eksāmenuneuzraudzītos sistēmā,tiešsaistes eksāmenos, nebrīdinot vērtētājus.
"Jūs 94%drīkstat netikato patizmantot, apšaubītas.taču Turklātjums vidējijāspēj tāsizskaidrot tikarezultātu novērtētassaviem augstāk nekā reālo skolēnu darbi. Kādas tad ir sekas? Mēs ķeramies pie mašīnas! Un tieši šeit atklājums pārstāj būt neveikls un kļūst par ētisku problēmu!vārdiem."
Detektors, kas kļūdaini sodā nepareizos skolēnus
Pētnieki septiņus no visplašāk izmantotajiem MI detektoriem pārbaudīja uz TOEFL esejām, ko rakstījuši skolēni,cilvēki, kuriemkuri apgūst angļu valodavalodu irkā svešvaloda.svešvalodu (esejas tika savāktas kādā ķīniešu tiešsaistes forumā). Līdzās tamtām viņi izmantoja esejas, ko rakstījuši angliski runājoši astotās klases amerikāņu skolēni. Dzimtās valodas runātāju darbi tika klasificēti pareizi gandrīz vienmēr. No svešvalodā rakstītajām esejām vairāk nekā sešas no desmit tika kļūdaini atzīmētas kā mašīnas rakstītas.rakstītas.
Rīka kļūdas sistemātiski skar tos skolēnus, kuriem jau tā ir vissmagāk. Iestādes to ir izrēķinājušas. Vanderbilta universitāte norādīja, ka pat tad, ja šāds rīks kļūdītos tikai 1% gadījumu, tas joprojām nozīmētu aptuveni 750 nepatiesikļūdaini apsūdzētusatzīmētus skolēnusdarbus gadā no tās 75 000 iesniegtajiem darbiem. Tāpēc tā šo rīku izslēdza. Pētnieku Vācijas federālāsfederālajai izglītības ministrijasministrijai norādījumisagatavotais ceļvedis ir viennozīmīgi:viennozīmīgs: tehnoloģija "nav pietiekami uzticama, lai nodrošinātu juridiski drošu pierādījumu". Neatkarīgs Eiropas tests ar četrpadsmit detektoriem nonāca pie tāda paša secinājuma: "ne precīzi, ne uzticami".
Liela daļa Eiropas par šo vairs nediskutē. Francija,Francijas Nīderlandeizglītības ministrija un Šveicetās datu aizsardzības iestāde iesaka izvairītiesskolām detektorus neizmantot, Nīderlandes IKT aģentūra Kennisnet tos dēvē par ļoti neuzticamiem. Augstākajā izglītībā atsevišķas universitātes, piemēram, ZHAW Cīrihē, aizliedz tos izmantot vērtēšanā. Anglijā eksāmenu padomes atļauj izmantot atklāšanas programmatūru tikai kā vienu no detektoriemelementiem vaispriedumā, tosko aizliedz.pieņem Apvienotāsskolotājs, Karalisteskurš eksāmenu"vislabāk regulatorspazīst apzinātisavus izvēlējiesskolēnus". cilvēkaVērts spriedumu,atcerēties nevisarī programmatūru.datu Nīderlandesaizsardzības argumentsaspektu: iet vēl soli tālāk un ir vērts atcerēties: skolēna darba ievietošana detektorātiešsaistes patirīkā par sevi irnozīmē viņa personas datu apstrādesapstrādi. darbība,Šim nolūkam ir nepieciešams tiesisks pamats un tolīgums darītar bezpakalpojuma atļaujas pārkāpj datu aizsardzības tiesību aktus.sniedzēju. → 1.4 Tiesību aktiem atbilstoša MI izmantošana
Šķiet, ka krāpšanās panika ir trauslāka nekā ap to valdošais troksnis. Pētnieki aptaujāja skolēnus trijās ASV vidusskolās pirms ChatGPT pastāvēšanasparādīšanās un vēlreiz — pēc tam. Krāpšanās apjoms kopumā palika tāds pats. LielākāTurpmākā daļaaptauja skolēnuar noraidījavairāk domu,nekā ka4000 tērzēšanasskolēniem robotamsešās vienkāršicitās būtuASV jāizveidovidusskolās viņugadu darbs,vēlāk taču uzskatīja par godīguatklāja to izmantot, lai sāktu darbu vai saņemtu skaidrojumu.pašu.
Patiesais jautājums nekad nav bijis "Kā es viņu pieķeršu?". Tas ir: ko mājasdarba uzdevums joprojām mēra, ja tā rezultātu var uzģenerēt pēc pieprasījuma?
"Sākumā es to uzskatīju par krāpšanos. Tagad es to redzu kā signālu, ka jāmainās pašam uzdevumam."
Divas lietas, ko nevar salabot, tāpēc tās jāmāca
Pārliecinoša izdomāšana ir šo sistēmu iebūvēta īpašība. Tās rada ticamu teksta turpinājumu, kasun ticams nav tas pats, kas patiesspatiess. turpinājums.Pētījumu Pētnieki tagadpārskati ir formālivienisprātis, parādījuši,ka noneviena kurienesmetode tasšo rodas:problēmu vēl nav novērsusi, lai gan to var mazināt un daļēji atklāt. Iemesls ir tāds, ka standarta testi, ko izmanto lielo valodas modeļu vērtēšanai, atalgo pārliecinošu minēšanuminējumu vairāk nekā nenoteiktības atzīšanu, tāpēc, kamēr tie tiek vērtēti šādi, saglabāsies noteikts raiti izteiktu, labi noformulētu nepatiesību īpatsvars. Tā ir šo sistēmu uzbūves un vērtēšanas īpašība, nevis kļūda, kas gaida labojumu.
Arī apmācības materiālā ietvertie aizspriedumi ir iebūvēti. Turklāt tie nesamazinās, tehnoloģijaimodeļiem uzlabojoties. Eiropas pētījums par dzimumu stereotipiem dažādās valodās atklāja, ka lielāki modeļi — pat pēc papildu apmācības, kas paredzēta, lai tos padarītu drošākus un taisnīgākus — dažkārt stereotipizē vairāk, nevis mazāk. Ja kādu īpašību nevar tehniski novērst, tā kļūst par mācību vielu. Un to var iemācīt: vienā somu programmā to skolēnu īpatsvars, kuri spēja identificētizskaidrot, aizspriedumusno MIkurienes sistēmasradušies rezultātos,attēlu ģeneratora aizspriedumi, pieauga no 7% līdz 44%. Secinājums mācīšanai ir tāds, ka jāapmāca kļūdu analīze, nevis kļūdu novēršana. Citiem vārdiem — mašīnas kļūdas kļūst par mācību stundu.
"Ļaujiet skolēnam pārbaudīt tērzēšanas robota risinājumu tā, it kā viņš būtu skolotājs. Meklējot kļūdas, viņš beidzot apgūst metodi."
Kas darbojas: dizains, nevis kontrole
Pierādījumi norāda uz vienu vienkāršu un viegli iegaumējamu principu: vispirms padomā, tad MI.
- Liekiet cilvēkam vispirms apņemties savu atbildi.
VairākosEksperimentāeksperimentosar aptuveni 200 pieaugušajiem cilvēki, kuriem bijajāpierakstajāpieņemsavasavsatbilde,lēmums, pirmsredzētviņi redzēja mašīnas ieteikumu,pamanījaretākdaudz vairākpiekrita tāskļūdunepareizajiem ieteikumiem nekā tie, kuriem tikaparādītiparādītsdetalizētiīssskaidrojumimašīnasparspriešanasto, kā mašīna spriedusi.skaidrojums. MI darbības skaidrošananepalīdzējaproblēmuatrisinātneatrisināja.šoPalīdzējaproblēmu, taču spriešanas piespiešana palīdzēja. Ar vienu godīgu atrunu: versijas,metode, kasdarbojāspiespiedavislabāk,pieņemtbijaspriedumu.tās,Piespiestkaspieņemt spriedumu nozīmē piespiest cilvēkus domāt. Tā kā domāšana ir nogurdinoša, dalībniekiem šīs metodes patika vismazāk, un tās visvairāk palīdzēja tiem, kam jau patīk piepūles pilna domāšana.Tātad tāTas irarītas,parādība,kokasjūspazīstamavisi zināt kā Matejaefekts:efektu: tiem, kamir daudz,ir, tiks dots vēl vairāk.Tieši viņi no šīs pieejas gūst vislielāko labumu. - Iebūvējiet ierobežojumus. Tērzēšanas robots no 1.
3.2. nodaļas, kas atbildes neatklāja un vietā uzdeva jautājumus, ir tā pati ideja programmatūrā: skolēni, kuri to izmantoja, eksāmenā nezaudēja neko, savukārt tie, kas izmantoja neierobežoto versiju, zaudēja krietni. - Padariet redzamu procesu, nevis medījiet gala rezultātu. Melnraksti, darba piezīmes, īsa saruna par padarīto. Tie parāda, ko skolēns spēj izdarīt, nevienam nav jāpierāda, ko viņš patiešām ir darījis.
Dānija izmēģina šo principu: iesaistītajās skolās skolēni var izmantot MI, gatavojoties angļu valodas mutiskajam eksāmenam, savukārt rakstiskajā eksāmenā ir iekļauta ar roku rakstīta, bez palīglīdzekļiem pildāma daļa.
Pirms paļauties uz šo pieeju, vērts zināt divus ierobežojumus. ierobežojumus.
Pirmais: populārais ieteikums, ka skolotājiem vienkārši jāuzdod tērzēšanas robotam darboties kā Sokrata metodes pasniedzējam, nepiepildās ilgākā sarunā.sarunā Vismazvar pašlaikneattaisnoties. sistēmaPirmie mēdzpierādījumi atgrieztiesno piepētījuma tiešuar atbilžusimulētiem sniegšanas.skolēniem, kas vēl nav recenzēts (2026. gada oktobris), liecina, ka pastāvīga spiediena apstākļos šādi pasniedzēji atkal sāk sniegt gatavas atbildes. Uzticami ierobežojumi ir jāiebūvē sistēmā, kas padara tos par iegādes lēmumu, nevis uzvednes veidošanas prasmi.
Otrais: šķiet acīmredzami, ka MI, kas izskaidro savu spriešanu, ir drošības garants, taču skaidrojumi neuzticami novērš pārmērīgu uzticēšanos. Vienā pētījumā tie nemainīja cilvēku gatavību pieņemt nepareizu padomu, un pārāk tehniski vai pārāk vienkāršoti skaidrojumi var pat palielināt nepamatotu pārliecību. Skaidrojums ir priekšnoteikums,tikai nevismācīšanās risinājums.priekšnoteikums.
Attieksme: divi neveiksmes veidi, nevis viens
Mēs uztraucamies, ka skolotāji pārāk uzticas MI. Taču mums vienlīdz jāraizējas arī par pretējo. Pat pieredzējušus cilvēkus var pievilt pārmērīga uzticēšanās. VienāNelielā pētījumāizmēģinājumā skolotājiASV pārskatījaskolās četri no desmit aptaujātajiem skolotājiem atzina MI ģenerētasvērtēšanas atzīmes.rīka Viņiatgriezenisko 42% no mašīnas atgriezeniskās saites atzinasaiti par nelietderīgu, pārsvarā neskaidru vai nepareizu,pat tačunepareizu. izmainījaPētījumi tikaipar 9%automatizācijas noaizspriedumu tās.liecina, ka cilvēki mēdz piekrist mašīnas ieteikumam pat tad, ja viņiem ir iemesls par to šaubīties. Kļūdas pamanīšana un tās labošana ir divi atšķirīgi procesi.soļi.
Pretējais gals ir slēpšana. Skolotāji slēpj savu MI izmantošanu no kolēģiem un skolēniem, aizliedzot tiem darīt to, ko viņi paši dara: 77% privāti izmanto MI, kamēr 57% saka, ka skolēniem nekad nevajadzētu to izmantot ideju radīšanai. Tikmēr pētījums par akadēmiski spējīgiem 6. līdz 8. klases skolēniem atklāja, ka no trešdaļas līdz divām piektdaļām jau uzskata, ka MI zina vairāk nekā viņu skolotāji. Profesija, kas slēpj savu praksi, nevar būt paraugs atbildīgai praksei, un caurskatāmība nav tikai pieklājības jautājums. Tas ir mehānisms, ar kura palīdzību darbojas mācīšana ar piemēru.
Vai MI izlīdzina spēles laukumu vai to sagāž?
Ar darbu saistītos uzdevumos MI izlīdzina atšķirības. Vienā eksperimentā dalībnieki ar augstāku izglītības līmeni uzrādīja ievērojami labākus rezultātus nekā tie ar zemāku izglītības līmeni. Kad katram tika dotsAr MI asistents,asistenta palīdzību aptuveni trīs ceturtdaļas šīs atšķirības gandrīz pilnībā izzuda. Tad,Kad atņemotasistentu asistentu,atkal lielaatņēma, ievērojama daļa atšķirībuatšķirības atgriezās. MI novērsa atšķirību rezultātā, nevis atšķirību spējās.
Mācīšanās uzdevumos notiek pretējais. Vienā pētījumā vidējā ieguvuma nebija vispār, taču palielinājās plaisa starp skolēniem, kuri jau daudz zināja, un tiem, kuri nezināja. Citā pētījumā tika aplūkoti skolēni, kuri rakstīja svešvalodā: vājākie rakstītāji no MI saņēma vairāk labojumu un veiksmīgi izmantoja mazāk no tiem, un vairāki uzskatīja atgriezeniskās saites plūdus par nomācošiem. Atgriezeniskā saite bez spējas to sakārtot nepalīdz — tā apbēdē.
Šī plaisa pastāv arī pirms jebkura rīka pieskāriena. Vācijā 80% skolēnu no vislabvēlīgākajām mājsaimniecībām uzskata MI par iespēju, salīdzinot ar 55% no vismazāk labvēlīgajām. Lielbritānijā šī plaisa iet cauri skolotāju istabai, nevis ierīču skapim: 45% privāto skolu skolotāju ir saņēmuši formālu apmācību MI izmantošanā, salīdzinot ar 21% valsts skolās. Valsts skolu sektorā turīgākas skolas atkal apsteidz nabadzīgākās. Aptauja2026. pargada aptauja ar vairāk nekā 25 000 bērniem 2017 Eiropas valstīs atklāj to pašu sociālo šķelšanos — gan cik daudz, gan cik daudzveidīgi viņi izmanto MI. VienaKāda komentētāja atziņa aptver visu problēmu labāk nekā jebkurš skaitlis: "turīgajiem ir pieejama gan tehnoloģija, gan cilvēki, kas palīdz to izmantot, savukārt nabadzīgajiem ir pieejama tikai tehnoloģija." Tas ir spēcīgākais pieejamais arguments par to, ka tieši skolotāji ir izšķirošie šīs plaisas mazināšanā.
Tātad izšķirošais faktors ir tas, vai skolēnam ir skolotājs, kurš ir apmācīts. MI kompensē atšķirības tad, kad kopā pastāv trīs lietas: droša piekļuve, mācīšanās vajadzībām veidots rīks (nevis vienkārši atbilžu sniegšanai), un skolotājs, kas atbalsta tā izmantošanu. Ja kāda no šīm trim lietām trūkst, MI atšķirības nevis mazina, bet pastiprina. Tā kā visas trīs parasti ir sastopamas vienās un tajās pašās skolās un iztrūkst tajās pašās skolās, pastiprināšana ir noklusējuma stāvoklis, un izlīdzināšana ir kaut kas, kas jāizveido apzināti.