1.6 Tiesiskais regulējums
Atruna: Mēs esam rūpīgi izpētījuši šīs nodaļas saturu, taču MI tiesības ir strauji mainīga joma. Kopš publicēšanas noteikumi var būt mainījušies, tāpēc vienmēr pārbaudiet aktuālo tiesisko situāciju un, ja nepieciešams, ņemiet vērā savas valsts tiesību aktus. Šī nodaļa nav juridiska konsultācija.
Galvenā atziņa
- ES Mākslīgā intelekta akts ir tiesiskais pamats. ES vienotais MI regulējums ir spēkā kopš 2024. gada augusta, un tā piemērošana pakāpeniski tiek ieviesta līdz 2027. gadam. Tas attiecas ne tikai uz tehnoloģiju uzņēmumiem, bet arī uz skolām.
- MI pratība ir pienākums, nevis formāli nokārtojams kurss. Skolām jāatbalsta darbinieki MI pratības apguvē.
- Vairāki MI izmantošanas veidi ir pilnībā aizliegti. Tostarp: skolēnu emociju noteikšana pēc sejas vaibstiem vai balss datiem, MI, kas izmanto bērnu neaizsargātību, lai
deformētumainītu viņu uzvedību, kā arī sejas atpazīšanas datubāzu veidošana vai tādu pazīmju kā rase vai reliģija noteikšana no biometriskajiem datiem. - Risks ir atkarīgs no lēmuma, nevis no produkta. Parasti rakstīšanas, izpētes, tulkošanas un stundu plānošanas rīki nav augsta riska rīki tikai tāpēc, ka tie tiek izmantoti skolā. Tie kļūst par augsta riska rīkiem, tiklīdz tie ietekmē uzņemšanu, mācību virziena izvēli, eksāmenu rezultātus vai ar nodarbinātību saistītus lēmumus.
- Ne visam MI radītajam saturam nepieciešama marķēšana. Atklāšanas pienākums galvenokārt gulstas uz pakalpojuma sniedzēju;
skolotājapedagoga pārskatīti materiāli ar cilvēka veiktu redakcionālo kontroli ir atbrīvoti no šī pienākuma. - Augsta riska MI nepieciešams cilvēks, kas var atcelt tā lēmumu. MI sniegtais rezultāts nekad nav galīgais lēmums. Jums jāizprot tā ierobežojumi, un jums jāspēj to neievērot vai atcelt.
- MI akts papildina, nevis aizstāj citus tiesību aktus. Valstu datu aizsardzības, izglītības, nodarbinātības, bērnu aizsardzības un autortiesību normas turpina būt
piemērojamas līdzās tam.piemērojamas. - VDAR regulē datus, nevis tikai rīku. Pat MI sistēma, kas atbilst MI akta prasībām, var būt nepieļaujama, ja tā apstrādā skolēnu vai darbinieku personas datus bez derīga tiesiskā pamata.
Ja no
šīsšīlapastekstajāatcerasatcerēsieties tikaiviensvienuteikums:teikumu: izmantojiet MI, lai atbalstītu, nevis aizstātu savu profesionālo spriedumu — stingrāki noteikumi stājas spēkā, tiklīdz MI palīdz pieņemt lēmumus par atzīmēm, izglītības virzienu vai cilvēkiem.
ES Mākslīgā intelekta akts
ES Mākslīgā intelekta akts (Regula (ES) 2024/1689) ir ES vienotais, uz risku balstītais mākslīgā intelekta regulējums. Tā vietā, lai regulētu konkrētus produktus, tas klasificē MI sistēmas pēc to radītā riska un attiecīgi nosaka pienākumus — sākot no pilnīga aizlieguma nelielai daļai prakšu, caur papildu pienākumiem "augsta riska" izmantošanas gadījumiem, līdz pat īpašu noteikumu neesamībai ikdienas rīkiem. Tas ir tieši piemērojams visās dalībvalstīs, gan publiskajām, gan privātajām organizācijām.
Akts tiek ieviests pakāpeniski. Tas ir piemērojams kopš 2024. gada 1. augusta; kopš 2025. gada 2. februāra jau ir saistoši turpmāk minētie aizliegtie darbību veidi un pienākums attīstīt MI pratību (Art. 4); no 2026. gada 2. augusta piemērojama lielākā daļa atlikušo noteikumu.
1. att.: "MI ceļvedis" (MI ģenerēts attēls, ...)
Kas ir atbildīgs par MI izmantošanu?
Ja skola ievieš un kontrolē MI sistēmu, skola vai izglītības iestādes pārvaldes institūcija parasti ir uzturētājs (Art. 3(4)). Skolotājs,Pedagogs, izmantojot rīku saskaņā ar skolas norādījumiem, parasti netiek uzskatīts par atsevišķu uzturētāju, tomēr viņam tik un tā jāievēro šie norādījumi un visi attiecīgie skolas un datu aizsardzības noteikumi.
Skolotājiem jāzina, ko viņi izmanto
Skolām un izglītības iestāžu pārvaldes institūcijām jāveic atbilstoši pasākumi, lai atbalstītu MI pratības attīstību tiem, kas to vārdā izmanto MI sistēmas (Art. 4). MI akts nenosaka konkrētu kompetences līmeni, sertifikātu vai apmācības formātu. Tie drīzāk ir atkarīgi no izmantotās MI sistēmas, tās izmantošanas veida un no tā, kurus tā var ietekmēt.
MI prakses, kas skolām ir pilnībā aizliegtas
MI akts pilnībā aizliedz astoņas MI prakses (Art. 5); četras no tām ir tieši saistītas ar skolām:
- Izglītības iestādēs parasti ir aizliegts izmantot MI sistēmas, lai no biometriskajiem datiem (piemēram, skolēnu sejas vai balss īpašībām) noteiktu emocijas vai nodomus. Pastāv šauri izņēmumi medicīniskiem vai drošības nolūkiem (Art. 3(39); Art. 5(1)(f)).
- Ir aizliegtas MI sistēmas, kas izmanto kāda cilvēka neaizsargātību vecuma (piemēram, bērnu gadījumā), invaliditātes vai sociālā vai ekonomiskā stāvokļa dēļ tādā veidā, kas
deformēnelabvēlīgi ietekmē viņa uzvedību un rada viņam kaitējumu, neatkarīgi no nodoma (Art. 5(1)(b)). - Ir aizliegts veidot vai paplašināt sejas atpazīšanas datubāzi, neselektīvi apkopojot attēlus no interneta vai videonovērošanas ierakstiem. Tas ir aktuāli, ja skola apsver sejas atpazīšanas rīka izmantošanu apmeklējuma uzskaitei vai eksāmenu uzraudzībai (Art. 5(1)(e)).
- Ir aizliegts izmantot biometriskos datus, lai kategorizētu cilvēkus
nolūkāar nolūku noteikt tādasaizsargātaspazīmes kārase,rasi,politiskiepolitiskosuzskati,uzskatus,reliģijareliģiju vaiseksuālāseksuāloorientācija.orientāciju. Tas attiecas uz jebkuru biometrisku rīku, piemēram, eksāmenu uzraudzības programmatūru, kas pārsniedz tās noteikto mērķi (Art. 5(1)(g)).
Vai MI radītajam saturam vienmēr nepieciešama marķēšana?
Ja skolēni tieši mijiedarbojas ar MI sistēmu, piemēram, tērzēšanas robotu,sarunbotu, viņi ir jāinformē, ka viņi mijiedarbojas ar MI. Parasti par šīs informācijas skaidru sniegšanu ir atbildīgs sistēmas nodrošinātājs (Art. 50(1)).
Skolām un skolotājiempedagogiem jāatklāj dziļviltojumi (deepfakes) vai MI radīts teksts, kas publicēts par sabiedrības interesēm nozīmīgiem jautājumiem, ja tie tiek izmantoti mācību procesā (Art. 50(4)). Šī prasība neattiecas uz gadījumiem, kad MI radītais saturs ir izgājis efektīvu cilvēka veiktu pārskatīšanu vai redakcionālo kontroli un persona vai iestāde uzņemas redakcionālo atbildību par tā publicēšanu. Tāpēc skolotājapedagoga pārskatīta ar MI izveidota darblapa nav automātiski nav jāmarķē.
Kad MI izglītībā kļūst par augsta riska rīku
Parasti rakstīšanas, tulkošanas, izpētes un stundu plānošanas rīki nav augsta riska rīki tikai tāpēc, ka tie tiek izmantoti darbā. Klasifikācija ir atkarīga no sistēmas paredzētā mērķa, nevis vienkārši no tā, kurš produkts tiek izmantots (Art. 6 · Annex III).
MI sistēmas var tikt klasificētas kā augsta riska sistēmas, ja tās ir paredzētas, lai:
- lemtu par skolēnu piekļuvi, uzņemšanu vai iedalīšanu izglītības vai profesionālās izglītības iestādēs un programmās;
- vērtētu skolēnu mācīšanās rezultātus vai virzītu viņu mācību procesus;
- noteiktu skolēnam atbilstošu izglītības līmeni, ko viņš saņems vai kuram varēs piekļūt; vai
- atklātu skolēnu aizliegtu uzvedību eksāmenu laikā.
(Annex III, 3. punkts)
- pieņemtu darbā vai atlasītu
skolotājus,pedagogus, tostarp izvērtētu pieteikumus; - lemtu par darba līguma noteikumiem,
skolotājapedagoga paaugstināšanu amatā vai darba attiecību izbeigšanu; - sadalītu uzdevumus, pamatojoties uz
skolotājapedagoga uzvedību vai personiskajām īpašībām; vai - vērtētu
skolotājupedagoga sniegumu.
(Annex III, 4. punkts)
Ierobežotas pārbaudes vai sagatavošanās rīks var arī neietilpt augsta riska kategorijā, ja tas būtiski neietekmē lēmumu. Tomēr izglītības sistēma, kas veido personu profilus, vienmēr tiek uzskatīta par augsta riska sistēmu.
Ko augsta riska MI nozīmē skolām un skolotājiempedagogiem
MI sistēmas klasificēšana kā augsta riska sistēma automātiski neizslēdz tās izmantošanu skolās. Tomēr augsta riska sistēmām ir noteikti pienākumi (Art. 26):
Šie pienākumi attiecībā uz augsta riska MI izglītībā ir piemērojami no 2027. gada 2. decembra — taču iepriekš minētie aizliegumi un MI pratības pienākums jau ir spēkā šodien.
- izmantot to tikai tā apstiprinātajam mērķim un ievērot tā lietošanas instrukcijas;
- neuzskatīt tā sniegto rezultātu par galīgo lēmumu;
- izprast tā galvenos ierobežojumus un iespējamos kļūdu avotus;
- sekot līdzi, lai pārmērīgi nepaļautos uz šķietami pārliecinošiem rezultātiem; un
- būt gatavam neievērot vai atcelt tā sniegto rezultātu.
- nodrošināt kompetentu un pilnvarotu cilvēka veiktu uzraudzību;
- nodrošināt, ka jebkādi tās kontrolē esošie ievaddati ir atbilstoši un pietiekami reprezentatīvi;
- uzraudzīt sistēmu un reaģēt uz riskiem vai nopietniem incidentiem;
- glabāt automātiski ģenerētos žurnālierakstus vismaz sešus mēnešus, ja tie ir tās kontrolē; un
- iepriekš informēt skolēnus,
skolotājuspedagogus vai citasskartāsiesaistītās personas, ja sistēma palīdz pieņemt ar viņiem saistītus lēmumus.
Publiskām struktūrām un privātām organizācijām, kas sniedz sabiedriskus pakalpojumus, pirms augsta riska MI izmantošanas var būt jāveic arī pamattiesību ietekmes novērtējums (Art. 27). Publiskajām iestādēm un to vārdā rīkojošamies organizācijām var papildus būtiepējams būtu jāreģistrē sistēma ES datubāzē (Art. 49). Vai tas ir skolas vai tās pārvaldes institūcijas pienākums, ir atkarīgs no attiecīgās valsts izglītības sistēmas.
MI akts nav vienīgais nozīmīgais tiesību akts
MI akts neaizstāj Eiropas vai valstu tiesisko regulējumu datu aizsardzības, izglītības, nodarbinātības un darbinieku līdzdalības, bērnu aizsardzības vai autortiesību jomā (Art. 2(7)). Piemēram, tas, ka rīks nav augsta riska rīks, nenozīmē, ka tajā drīkst augšupielādēt skolēnu darbus vai personas datus.
Rīks var būt pieļaujams saskaņā ar MI aktu, bet joprojām aizliegts saskaņā ar datu aizsardzības tiesību aktiem vai jūsu skolas noteikumiem.
VDAR
VDAR (Regula (ES) 2016/679) ir ES datu aizsardzības tiesību akts. Tam ir papildinoša loma līdzās MI aktam: kamēr MI akts jautā, vai un kā MI sistēmu vispār drīkst izmantot, VDAR jautā, vai konkrētus datus par konkrētu personu drīkst apstrādāt šādā veidā.veidā apstrādāt. Vienas prasības izpilde automātiski nenozīmē, ka ir izpildīta arī otra.
- Tā ir piemērojama, tiklīdz ir iesaistīti personas dati. Par personas datiem tiek uzskatīti vārdi, skolas e-pasta adreses, skolēnu darbi, balss ieraksti, transkripcijas, fotogrāfijas, atzīmes, apmeklējums un mācību progresa dati (Art. 4). Lielākā daļa stundās izmantoto MI rīku skar vismaz vienu no šiem datu veidiem.
Praksē: pirms reālu skolēnu vai darbinieku datu ievadīšanas MI rīkā pārliecinieties, ka jūsu skola to ir apstiprinājusi, nekopīgojiet vairāk personas datu, nekā nepieciešams uzdevumam, un, rīku tikai izmēģinot, dodiet priekšroku anonimizētiem vai izdomātiem piemēriem.
Kur meklēt palīdzību
Izpilde katrā ES valstī ir organizēta atšķirīgi. Tā kā valstu atbildīgās institūcijas var mainīties, izmantojiet Eiropas Komisijas aktuālo tirgus uzraudzības iestāžu sarakstu. Ikviens (skolotājs,pedagogs, skolēns, vecāks), kas uzskata, ka Akts ir pārkāpts, var iesniegt sūdzību attiecīgajai iestādei (Art. 85). Ja augsta riska sistēma, piemēram, uzņemšanas vai eksāmenu uzraudzības rīks, ir novedusi pie lēmuma, kas būtiski ietekmē skolēnu, viņš (vai viņa vecāki) var arī pieprasīt paskaidrojumu par šo individuālo lēmumu (Art. 86).
Valsts noteikumi jūsu valstij
MI akts ir spēkā visā ES, taču izpildiestādes, skolu tiesības un datu aizsardzības prakse dažādās valstīs atšķiras. Šeit tiks pievienotas valstīm specifiskas piezīmes par PlaybookRokasgrāmatas partnervalstīm:
- Austrija
- Čehija
- Vācija
- Latvija
