1.6 Tiesiskais regulējums

Galvenā atziņa

• ES Mākslīgā intelekta akts ir tiesiskais pamats. ES vienotais MI regulējums ir spēkā kopš 2024. gada augusta, un tā piemērošana pakāpeniski tiek ieviesta līdz 2027. gadam. Tas attiecas ne tikai uz tehnoloģiju uzņēmumiem, bet arī uz skolām.
• MI pratība ir pienākums, nevis formāli nokārtojams kurss. Skolām jāatbalsta darbinieki MI pratības apguvē.
• Vairāki MI izmantošanas veidi ir pilnībā aizliegti. Tostarp: skolēnu emociju noteikšana pēc sejas vai balss datiem, MI, kas izmanto bērnu neaizsargātību, lai deformētu viņu uzvedību, kā arī sejas atpazīšanas datubāzu veidošana vai tādu pazīmju kā rase vai reliģija noteikšana no biometriskajiem datiem.
• Risks ir atkarīgs no lēmuma, nevis no produkta. Parasti rakstīšanas, izpētes, tulkošanas un stundu plānošanas rīki nav augsta riska rīki tikai tāpēc, ka tie tiek izmantoti skolā. Tie kļūst par augsta riska rīkiem, tiklīdz tie ietekmē uzņemšanu, mācību virziena izvēli, eksāmenu rezultātus vai ar nodarbinātību saistītus lēmumus.
• Ne visam MI radītajam saturam nepieciešama marķēšana. Atklāšanas pienākums galvenokārt gulstas uz pakalpojuma sniedzēju; skolotāja pārskatīti materiāli ar cilvēka veiktu redakcionālo kontroli ir atbrīvoti no šī pienākuma.
• Augsta riska MI nepieciešams cilvēks, kas var atcelt tā lēmumu. MI sniegtais rezultāts nekad nav galīgais lēmums. Jums jāizprot tā ierobežojumi, un jums jāspēj to neievērot vai atcelt.
• MI akts papildina, nevis aizstāj citus tiesību aktus. Valstu datu aizsardzības, izglītības, nodarbinātības, bērnu aizsardzības un autortiesību normas turpina būt piemērojamas līdzās tam.
• VDAR regulē datus, nevis tikai rīku. Pat MI sistēma, kas atbilst MI akta prasībām, var būt nepieļaujama, ja tā apstrādā skolēnu vai darbinieku personas datus bez derīga tiesiskā pamata.

Ja no šīs lapas jāatceras tikai viens teikums: izmantojiet MI, lai atbalstītu, nevis aizstātu savu profesionālo spriedumu — stingrāki noteikumi stājas spēkā, tiklīdz MI palīdz pieņemt lēmumus par atzīmēm, izglītības virzienu vai cilvēkiem.

ES Mākslīgā intelekta akts

ES Mākslīgā intelekta akts (Regula (ES) 2024/1689) ir ES vienotais, uz risku balstītais mākslīgā intelekta regulējums. Tā vietā, lai regulētu konkrētus produktus, tas klasificē MI sistēmas pēc to radītā riska un attiecīgi nosaka pienākumus — sākot no pilnīga aizlieguma nelielai daļai prakšu, caur papildu pienākumiem "augsta riska" izmantošanas gadījumiem, līdz pat īpašu noteikumu neesamībai ikdienas rīkiem. Tas ir tieši piemērojams visās dalībvalstīs, gan publiskajām, gan privātajām organizācijām.

Akts tiek ieviests pakāpeniski. Tas ir piemērojams kopš 2024. gada 1. augusta; kopš 2025. gada 2. februāra jau ir saistoši turpmāk minētie aizliegtie darbību veidi un pienākums attīstīt MI pratību (Art. 4); no 2026. gada 2. augusta piemērojama lielākā daļa atlikušo noteikumu.

Kas ir atbildīgs par MI izmantošanu?

Ja skola ievieš un kontrolē MI sistēmu, skola vai izglītības iestādes pārvaldes institūcija parasti ir uzturētājs (Art. 3(4)). Skolotājs, izmantojot rīku saskaņā ar skolas norādījumiem, parasti netiek uzskatīts par atsevišķu uzturētāju, tomēr viņam tik un tā jāievēro šie norādījumi un visi attiecīgie skolas un datu aizsardzības noteikumi.

Skolotājiem jāzina, ko viņi izmanto

Skolām un izglītības iestāžu pārvaldes institūcijām jāveic atbilstoši pasākumi, lai atbalstītu MI pratības attīstību tiem, kas to vārdā izmanto MI sistēmas (Art. 4). MI akts nenosaka konkrētu kompetences līmeni, sertifikātu vai apmācības formātu. Tie drīzāk ir atkarīgi no izmantotās MI sistēmas, tās izmantošanas veida un no tā, kurus tā var ietekmēt.

MI prakses, kas skolām ir pilnībā aizliegtas

MI akts pilnībā aizliedz astoņas MI prakses (Art. 5); četras no tām ir tieši saistītas ar skolām:

• Izglītības iestādēs parasti ir aizliegts izmantot MI sistēmas, lai no biometriskajiem datiem (piemēram, skolēnu sejas vai balss īpašībām) noteiktu emocijas vai nodomus. Pastāv šauri izņēmumi medicīniskiem vai drošības nolūkiem (Art. 3(39); Art. 5(1)(f)).
• Ir aizliegtas MI sistēmas, kas izmanto kāda cilvēka neaizsargātību vecuma (piemēram, bērnu gadījumā), invaliditātes vai sociālā vai ekonomiskā stāvokļa dēļ tādā veidā, kas deformē viņa uzvedību un rada viņam kaitējumu, neatkarīgi no nodoma (Art. 5(1)(b)).
• Ir aizliegts veidot vai paplašināt sejas atpazīšanas datubāzi, neselektīvi apkopojot attēlus no interneta vai videonovērošanas ierakstiem. Tas ir aktuāli, ja skola apsver sejas atpazīšanas rīka izmantošanu apmeklējuma uzskaitei vai eksāmenu uzraudzībai (Art. 5(1)(e)).
• Ir aizliegts izmantot biometriskos datus, lai kategorizētu cilvēkus nolūkā noteikt tādas aizsargātas pazīmes kā rase, politiskie uzskati, reliģija vai seksuālā orientācija. Tas attiecas uz jebkuru biometrisku rīku, piemēram, eksāmenu uzraudzības programmatūru, kas pārsniedz tās noteikto mērķi (Art. 5(1)(g)).

Vai MI radītajam saturam vienmēr nepieciešama marķēšana?

Ja skolēni tieši mijiedarbojas ar MI sistēmu, piemēram, tērzēšanas robotu, viņi ir jāinformē, ka viņi mijiedarbojas ar MI. Parasti par šīs informācijas skaidru sniegšanu ir atbildīgs sistēmas nodrošinātājs (Art. 50(1)).

Skolām un skolotājiem jāatklāj dziļviltojumi (deepfakes) vai MI radīts teksts, kas publicēts par sabiedrības interesēm nozīmīgiem jautājumiem, ja tie tiek izmantoti mācību procesā (Art. 50(4)). Šī prasība neattiecas uz gadījumiem, kad MI radītais saturs ir izgājis efektīvu cilvēka veiktu pārskatīšanu vai redakcionālo kontroli un persona vai iestāde uzņemas redakcionālo atbildību par tā publicēšanu. Tāpēc skolotāja pārskatīta ar MI izveidota darblapa automātiski nav jāmarķē.

Kad MI izglītībā kļūst par augsta riska rīku

Parasti rakstīšanas, tulkošanas, izpētes un stundu plānošanas rīki nav augsta riska rīki tikai tāpēc, ka tie tiek izmantoti darbā. Klasifikācija ir atkarīga no sistēmas paredzētā mērķa, nevis vienkārši no tā, kurš produkts tiek izmantots (Art. 6 · Annex III).

MI sistēmas var tikt klasificētas kā augsta riska sistēmas, ja tās ir paredzētas, lai:

Ierobežotas pārbaudes vai sagatavošanās rīks var arī neietilpt augsta riska kategorijā, ja tas būtiski neietekmē lēmumu. Tomēr izglītības sistēma, kas veido personu profilus, vienmēr tiek uzskatīta par augsta riska sistēmu.

Ko augsta riska MI nozīmē skolām un skolotājiem

MI sistēmas klasificēšana kā augsta riska sistēma automātiski neizslēdz tās izmantošanu skolās. Tomēr augsta riska sistēmām ir noteikti pienākumi (Art. 26):

Šie pienākumi attiecībā uz augsta riska MI izglītībā ir piemērojami no 2027. gada 2. decembra — taču iepriekš minētie aizliegumi un MI pratības pienākums jau ir spēkā šodien.

Publiskām struktūrām un privātām organizācijām, kas sniedz sabiedriskus pakalpojumus, pirms augsta riska MI izmantošanas var būt jāveic arī pamattiesību ietekmes novērtējums (Art. 27). Publiskajām iestādēm un to vārdā rīkojošamies organizācijām var papildus būt jāreģistrē sistēma ES datubāzē (Art. 49). Vai tas ir skolas vai tās pārvaldes institūcijas pienākums, ir atkarīgs no attiecīgās valsts izglītības sistēmas.

MI akts nav vienīgais nozīmīgais tiesību akts

MI akts neaizstāj Eiropas vai valstu tiesisko regulējumu datu aizsardzības, izglītības, nodarbinātības un darbinieku līdzdalības, bērnu aizsardzības vai autortiesību jomā (Art. 2(7)). Piemēram, tas, ka rīks nav augsta riska rīks, nenozīmē, ka tajā drīkst augšupielādēt skolēnu darbus vai personas datus.

Rīks var būt pieļaujams saskaņā ar MI aktu, bet joprojām aizliegts saskaņā ar datu aizsardzības tiesību aktiem vai jūsu skolas noteikumiem.

VDAR

VDAR (Regula (ES) 2016/679) ir ES datu aizsardzības tiesību akts. Tam ir papildinoša loma līdzās MI aktam: kamēr MI akts jautā, vai un kā MI sistēmu vispār drīkst izmantot, VDAR jautā, vai konkrētus datus par konkrētu personu drīkst apstrādāt šādā veidā.

• Tā ir piemērojama, tiklīdz ir iesaistīti personas dati. Par personas datiem tiek uzskatīti vārdi, skolas e-pasta adreses, skolēnu darbi, balss ieraksti, transkripcijas, fotogrāfijas, atzīmes, apmeklējums un mācību progresa dati (Art. 4).
• Dažiem datiem nepieciešama papildu aizsardzība. Veselības informācija, biometriskie dati un dati, kas atklāj rases vai etnisko izcelsmi, reliģiju vai līdzīgas pazīmes, ir "īpašu kategoriju dati", un tie principā ir nepieļaujami bez konkrēta izņēmuma (Art. 9) — tas ir viens no iemesliem, kāpēc MI akts atsevišķi aizliedz vairākas biometriskās noteikšanas prakses skolās.
• Zināt, kas ir atbildīgs. Skola parasti ir "pārzinis"; MI pakalpojuma sniedzējs, kas apstrādā datus skolas vārdā, ir "apstrādātājs", un tam nepieciešams datu apstrādes līgums, kurā noteikti tā pienākumi (Art. 28). Pārbaudiet to, pirms ieviešat jaunu rīku visā skolā.
• Datiem, kas atstāj ES, nepieciešams aizsardzības mehānisms. Daudzi populāri MI rīki tiek uzturēti ārpus ES. Personas dati drīkst tikt nosūtīti uz turieni tikai tad, ja ir spēkā lēmums par aizsardzības līmeņa pietiekamību vai cits apstiprināts aizsardzības mehānisms, piemēram, standarta līguma klauzulas (Art. 44).
• Skolēni un darbinieki saglabā savas tiesības. Viņi var pieprasīt informāciju par to, kādi dati par viņiem tiek glabāti, pieprasīt to labošanu vai dzēšanu, kā arī iebilst pret lēmumiem, kas balstīti vienīgi uz automatizētu apstrādi un kas viņus būtiski ietekmē (Art. 15–Art. 22) — šīs tiesības papildina un stiprina MI akta prasības par cilvēka veiktu uzraudzību augsta riska sistēmām.

Kur meklēt palīdzību

Izpilde katrā ES valstī ir organizēta atšķirīgi. Tā kā valstu atbildīgās institūcijas var mainīties, izmantojiet Eiropas Komisijas aktuālo tirgus uzraudzības iestāžu sarakstu. Ikviens (skolotājs, skolēns, vecāks), kas uzskata, ka Akts ir pārkāpts, var iesniegt sūdzību attiecīgajai iestādei (Art. 85). Ja augsta riska sistēma, piemēram, uzņemšanas vai eksāmenu uzraudzības rīks, ir novedusi pie lēmuma, kas būtiski ietekmē skolēnu, viņš (vai viņa vecāki) var arī pieprasīt paskaidrojumu par šo individuālo lēmumu (Art. 86).

Valsts noteikumi jūsu valstij

MI akts ir spēkā visā ES, taču izpildiestādes, skolu tiesības un datu aizsardzības prakse dažādās valstīs atšķiras. Šeit tiks pievienotas valstīm specifiskas piezīmes par Playbook partnervalstīm:

• Austrija
• Čehija
• Vācija
• Latvija
• Slovākija
• Slovēnija
• Spānija