Skip to main content

1.4 Skladna uporaba UI

Izjava o omejitvi odgovornosti: To poglavje smo skrbno raziskali, vendar je pravo na področju UI področje, ki se hitro spreminja. Pravila so se od objave morda spremenila, zato vedno preverite aktualno pravno stanje in se po potrebi prilagodite nacionalni zakonodaji. To poglavje ne predstavlja pravnega nasveta.

Ključno sporočilo

Pravne praznine ni. Zakonodaja o varstvu podatkov je veljala ves čas.

  • Roki za začetek uporabe določb so se spremenili. Obveznosti za visokotvegano UI v izobraževanju se začnejo 2. decembra 2027, ne avgusta 2026. Preverite gradiva svoje šole (glejte tudi 1.6).
  • Že zavezujoče od februarja 2025. Sistemi, ki čustva učencev razbirajo iz obraza ali glasu, so prepovedani, šole, ki uporabljajo UI, pa morajo sprejeti ukrepe za razvoj pismenosti svojega osebja na področju UI. Od avgusta 2026 morajo klepetalniki povedati, da so UI, globoki ponaredki (deepfakes) pa morajo biti označeni.
  • Najzahtevnejša plast je varstvo podatkov. Brez osebnih podatkov o učencih brez pogodbe, ki izključuje urjenje modela na vaših vnosih; privolitev običajno ne zadošča; brisanje imen ni anonimizacija.
  • Pri avtorskih pravicah je problem nalaganje. Izjema za poučevanje ne zajema vnašanja zaščitenih del v UI.
  • Detektorji ne zdržijo kot dokaz. Sodišča so sprejela sklepe, izpeljane iz konkretnih dejstev. Pravila morajo biti jasna vnaprej, zahteva po razkritju pa je boljša od prepovedi.
  • Ocene ostajajo v rokah ljudi. Za nas je to očitno, a vredno je poudariti, da zgolj formalna potrditev predloga UI ni človeška odločitev.
  • Odgovornost je pri nabavi, ne pri vas – skladnost pa omogoča delo. Šole z jasnimi pravili so tiste, katerih učitelji poročajo, da prihranijo največ časa.

Če si zapomnite le en stavek s te strani: Skladnost je hiša, ne zid.

Kaj smem narediti?

Te štiri korake imejte v mislih, preden karkoli vtipkate, prilepite ali naložite. Naslednji pregled uporabite kot splošno vodilo. Zahteve v vaši državi se lahko razlikujejo od tukaj navedenih. Zato vedno preverite predpise, ki veljajo za vašo državo in šolo.

03_1.4_odlocitveni_diagram_SL.png

Slika 1: „…“ (slika, ustvarjena z UI, …)

„Niti nismo prepričani, kaj smemo narediti, še najmanj, ko gre za varstvo podatkov.“

Bralni dnevnik, tretji pogled

Naš devetošolec, njegov bralni dnevnik, sum njegove učiteljice. V poglavju 1.2 je šlo za vprašanje učenja; v poglavju 1.3 za strokovno presojo. Tu gre za sodni spis.

Decembra 2025 je upravno sodišče v Hamburgu v Nemčiji odločalo o predlogu za nujno pravno varstvo v tej zadevi. Učiteljica angleščine je opazila, da je bil bralni dnevnik glede pravopisa, slovnice in besedišča napisan na precej višji ravni kot dečkov razredni test o isti knjigi. Deček je pozneje priznal, da je uporabil ChatGPT, šola pa je dnevnik ocenila kot poskus zavajanja. Njegov oče je pri sodišču predlagal nujno pravno varstvo; sodišče je predlog zavrnilo. Njegova utemeljitev sega onkraj tega primera: učenci morajo domnevati, da morajo svoje delo opraviti povsem samostojno, razen če je bil kakšen pripomoček izrecno dovoljen – zato neprijavljena uporaba UI šteje za zavajanje tudi brez pisnega pravila proti UI. (V tem primeru je učiteljica razredu dejansko povedala, da ChatGPT ni dovoljen.) Ena opomba, ki jo velja upoštevati že na začetku: gre za odločitev enega samega sodišča v nujnem postopku, ki ni pravnomočna.

To je pravi trenutek, da naslovimo najpogostejšo zmoto na tem področju. Pravne praznine ni. Nikoli je ni bilo.

Hiša ima tri nadstropja

Večina učiteljev si zakonodajo o UI predstavlja kot en sam zid, ki se gradi nekje v Bruslju. Vendar si je bolj koristno predstavljati hišo, v kateri že živite. Temelj je varstvo podatkov. Je nosilen. Postavljen je bil pred leti. Ureja vaš torkovo dopoldne. Zgornje nadstropje je Akt EU o umetni inteligenci, evropski zakon o UI, ki sisteme razvršča glede na njihov potencial za škodo in nalaga strožje obveznosti, višje kot je tveganje. Delno je naseljeno in še vedno v gradnji, rok dokončanja pa je bil pravkar prestavljen. Vrata in okna so avtorsko pravo in izpitno pravo – majhna in specifična, in se jih dnevno dotikamo, ne da bi to opazili.

04_1.4_hisa_skladnosti_SL.png

Slika 2: „Skladnost je hiša“ (slika, ustvarjena z UI, …)

Pritličje: varstvo podatkov, jasnejše, kot mnogi mislijo

Za obdelavo osebnih podatkov nekoga je vedno potrebna pravna podlaga. Kot javni organ šola svojo podlago v bistvu črpa iz svojih zakonsko določenih nalog po šolski zakonodaji. Splošne licence, ki bi šla z nazivom učitelja, ni.

Iz tega sledijo tri posledice, ki tvorijo praktično jedro tega poglavja.

Privolitev ne ponuja rešitve. Ena očitna rešitev bi bila preprosto vprašati starše. Vendar ima ta pristop dve pomanjkljivosti. Prvič, privolitev mora biti dana svobodno. V šolskem kontekstu, kjer so ocene dejavnik, prošnja učitelja ne pomeni svobodne izbire. Drugič, privolitev mora biti informirana, kar je težko doseči, kadar nihče ne ve, kje bodo podatki končali. Dovoljenje mora izhajati iz šolske zakonodaje, ne iz podpisa, saj se s tem odgovornost premakne navzgor, stran od vas.

Odstranitev imen ne anonimizira podatkov. Leta 2024 so nemški organi za varstvo podatkov skupno izjavili, da so podatki še vedno osebni, če je osebo iz konteksta še vedno mogoče prepoznati. To je v šolah še posebej problematično, ker vrste besedil, pri katerih si učitelji najbolj želijo pomoč – kot so eseji, prosto pisanje in učni dnevniki – avtorja razkrijejo prek sloga.

Ločnica je pogodba: ponudnik lahko obdeluje vaše podatke, če to počne strogo po vaših navodilih in obstaja pisni dogovor o tem. Vendar se dogovor sesuje v trenutku, ko ponudnik to, kar vnesete, uporabi za svoje lastne namene, saj takrat ne dela več v vašem imenu. Praktični preizkus je torej naslednji: ali tak dogovor obstaja in ali izključuje urjenje modela na vaših vnosih? Če ne, se osebni podatki ne smejo vnašati.

Dve opombi, ki ju velja omeniti: podatki o zdravju in invalidnosti so po pravu EU deležni še strožjega varstva. V orodje UI ne sodijo. Kadar pa učitelji uporabljajo zasebne naprave, vsaj dve nemški zvezni deželi (Severno Porenje - Vestfalija in Bavarska) jasno določata, da odgovornost za varstvo podatkov nosita šola in njen ravnatelj, ki mora uporabo odobriti.

Zgornje nadstropje: kaj Akt o UI že zahteva in česa še ne

Tu je popravek, zaradi katerega je večina obstoječih navodil zastarelih. Julija 2026 je EU z dopolnilno uredbo, znano kot digitalni omnibus (Digital Omnibus), preložila najtežji sklop obveznosti Akta o UI za izobraževanje – tistih, ki veljajo za sisteme, uvrščene med visokotvegane, torej sisteme, ki se uporabljajo za odločanje o sprejemu, ocenjevanje tega, kar so se učenci naučili, ali njihovo nadzorovanje med izpiti – z avgusta 2026 na 2. december 2027. Veliko gradiv, napisanih leta 2025 in v zgodnjem 2026, še vedno navaja stari datum. Če to velja za dokument na vaši šoli, potrebuje opombo.

Bolj koristen popravek gre v drugo smer: to, kar že velja, je podcenjeno, tisto, o čemer se neskončno razpravlja, pa še ne velja.

Dve stvari sta zavezujoči od 2. februarja 2025.

  • Prepoznavanje čustev v šolah je prepovedano. Sistemi, ki trdijo, da berejo občutke učencev iz obraza, glasu ali telesa – analitika razpoloženja, ocenjevanje ‘angažiranosti’ prek spletne kamere –, so uvrščeni na kratek seznam praks, ki so preprosto prepovedane, z ozkimi izjemami iz zdravstvenih ali varnostnih razlogov. Orodja, ki zaznavajo le utrujenost ali to, ali nekdo gleda v zaslon, so siva cona; to je vprašanje nabave, ne razreda.
  • Šole, ki uvajajo UI, morajo sprejeti ukrepe za razvoj pismenosti svojega osebja na področju UI. Od julija 2026 zakon določa, da ni treba zagotoviti nobene posebne ravni – a nič ne storiti ni možnost. Za to obveznost na ravni EU ni predpisane globe, zato se pogosto spregleda; nacionalni organi jo lahko uveljavljajo od avgusta 2026.

Od 2. decembra 2026 je prepovedana UI, ki ustvarja seksualizirane globoke ponaredke prepoznavnih oseb.

To drugo obveznost preberite skupaj s poglavjem 1.3, in nekaj se poveže. Vrzel med poznavanjem UI in sposobnostjo poučevanja z njo ni več le strokovni problem. Od februarja 2025 so šole zakonsko dolžne, da se z njo ukvarjajo.

Od 2. avgusta 2026 morajo klepetalniki uporabnikom povedati, da so UI, ponudniki pa morajo vsebino, ustvarjeno z UI, strojno berljivo označiti; šole same morajo označevati globoke ponaredke in z UI napisana besedila, ki jih objavijo za obveščanje javnosti. Delovni list, ki ga je učitelj preveril, ne potrebuje oznake. Od 2. decembra 2027 veljajo obveznosti za visokotvegane sisteme – sisteme, ki se uporabljajo za odločanje o tem, kdo je sprejet, za ocenjevanje tega, kar so se učenci naučili, ali za njihovo nadzorovanje med izpiti. Kdorkoli tak sistem uporablja, s tem prevzame lastne obveznosti, med drugim da nadzor dodeli osebam, ki imajo, po besedah akta, „potrebne kompetence, usposobljenost in pooblastila“.

Vrata in okna: avtorske pravice in izpiti

Presenetljivo je tisto, kar pride ven, lažji del. Besedilo ali slika, ki jo UI ustvari sama, nima človeškega avtorja v smislu, ki ga zahteva avtorsko pravo, zato je običajno sama po sebi brez avtorskih pravic; kadar jo oseba oblikuje z lastnimi ustvarjalnimi odločitvami, je rezultat lahko zaščiten. Vendar to ne pomeni zagotovila, da je ‘čisto’: v odmevni sodbi je sodišče v Münchnu ugotovilo, da si je klepetalnik zapomnil besedila pesmi in jih skoraj dobesedno reproduciral. Sodišče je odgovornost naložilo ponudniku, ne osebi, ki je vnesla poziv. Sodba ni pravnomočna.

Izjema, ki učiteljem dovoljuje kopiranje gradiva za svoj pouk, zajema natanko to: kopiranje omejenega deleža dela za ta razred. Nalaganje zaščitenega dela v komercialni sistem UI je drugačno dejanje, izjema pa ga ne obravnava. Gradivo, ustvarjeno posebej za šolski pouk, kot so učbeniki in delovni zvezki, je načeloma izključeno iz izjeme, če so licence zanj zlahka dostopne.

Koliko naj vas to skrbi? Manj, kot nakazuje vrzel, in več kot nič. Vprašanje je resnično nerešeno: nobeno višje sodišče o tem še ni odločalo, strokovna literatura pa obstoječe izjeme šteje za slabo prilagojene tej situaciji. Kadar imetnik pravic ugovarja, bi šlo za civilnopravni zahtevek, v praksi pa je to zadeva šolske politike in nabave, ne nekaj, kar bi lahko rešil posamezen učitelj. V praksi je jasen ozek primer. To je črta, ki jo postavljajo izobraževalne založbe, in to je tista, ki si jo velja zapomniti: šolski učbeniki in založniško gradivo naj sploh ne gredo v orodja UI – ne skenirano, ne prepisano, tudi ne za izdelavo delovnega lista.

Sodna praksa na tem področju je po Evropi trenutno neskladna. Februarja 2026 je upravno sodišče v Kasslu v Nemčiji o dveh univerzitetnih primerih odločilo enako, in ostro: čeprav univerza ni imela izrecne prepovedi UI, je bila meja prekoračena „že z eno samo neprijavljeno uporabo generativne UI“. Sodbi nista pravnomočni. Istega meseca je pariško upravno sodišče v nujnem postopku univerzi preprečilo sankcioniranje študenta, ker ta vnaprej ni določila nobenega pravila o uporabi UI. Švedsko pritožbeno sodišče je prej prišlo do podobnega izida: študent je oddal tri izmišljene citate, a pravila predmeta so pri domačih nalogah dovoljevala ‘vse pripomočke’, zato ni bilo pravila, ki bi ga bilo mogoče kršiti. Na Nizozemskem pa je, nasprotno, najvišje upravno sodišče v državi julija 2025 potrdilo sankcijo proti študentu prava, ki je predložil štiri neobstoječe vire: goljufija je bila dokazana onkraj razumnega dvoma, ali je nameraval zavajati, pa ni bilo pomembno.

Vzorec med jurisdikcijami torej ni stvar posameznih držav. Gre za to, ali je pravilo obstajalo vnaprej in ali je bila goljufija dejansko dokazana.

Za prakso iz tega sledijo tri pravila.

  • Detektorji ne nosijo dokaznega bremena. Šola mora zavajanje dokazati. Sodišča so sprejela sklepe, izpeljane iz konkretnih dejstev: viri, za katere se izkaže, da ne obstajajo, jasen razkorak med tem, kar učenec napiše, in tem, kar zna ustno pojasniti, nenadni skoki ravni znotraj istega besedila, priznanje. Učenec lahko nato to pojasni. Sam slog pisanja je šibka podlaga – vodilni nemški pravni komentatorji dvomijo, da lahko sploh utemelji ugotovitev. Izpis detektorja je kvečjemu razlog za podrobnejši pregled. Stopnja napak, o kateri smo poročali v poglavju 1.3, ga naredi neuporabnega kot dokaz.
  • Pravila morajo biti jasna pred ocenjevanjem, ne po njem. Niti splošna prepoved niti splošno dovoljenje ne zdržita. Deluje izjava o samostojnem delu s klavzulo o UI, skupaj z obveznostjo navesti, kaj je bilo uporabljeno. Razkritje namesto prepovedi.
  • Ocene ostajajo v rokah ljudi. Ljudje imajo pravico, da zanje ne veljajo odločitve s pravnim učinkom, ki jih sprejme zgolj stroj, šole pa nimajo pravne podlage, da bi take odločitve sprejemale s programsko opremo; ocena je taka odločitev. Nemška Stalna konferenca ministrov za izobraževanje in kulturo to pove še ostreje: ocenjevanje je naloga, ki jo lahko opravljajo le učitelji. Ključno je, da formalno potrjevanje predloga UI ne šteje za človeško odločitev. Ugotovitev, da ljudje pogosto sledijo pomanjkljivim povratnim informacijam UI, je zato tako pravni kot pedagoški problem.

„Vsak eksperimentira po svoje, zato se pravila spreminjajo od ene ure do druge.“

Pravo, etika in didaktika torej vsi vodijo do istega odgovora: ocenjujte proces, ne le izdelka.

Prava naslovljenka odgovornosti

Kot odziv je Nemčija uvedla državno zagotovljena šolska okolja za UI. To so preverjene platforme z izpogajanimi pogodbami, namesto da bi učiteljem prepustili, naj se prijavijo na karkoli je brezplačno. Čeprav te rešujejo probleme, ki jih posamezni učitelji ne morejo rešiti sami, so še vedno kritizirane zaradi tega, kako so upravljane, ali jih učitelji dejansko sprejemajo in ali so ocenjevanja, ki jih podpirajo, zanesljiva. Ker se uvajanje razlikuje od ene zvezne dežele do druge, bo trajalo nekaj časa, da bomo videli, kako se učitelji znajdejo s temi platformami.

Kar je posebno, je ožje, kot se morda sprva zdi, in vredno je to natančno povedati. Nemčija je edini sistem, ki smo ga našli, v katerem javni organ – FWU, ki je v lasti zveznih dežel – platformo sam razvija in upravlja, s tehničnimi izvajalci. Francija zagotavlja prilagodljivo vadbeno programsko opremo za celotno generacijo, vendar jo je naročila: eno zasebno podjetje je napisalo programsko opremo, drugo gosti podatke. Več drugih držav je kupilo dostop do komercialnih klepetalnikov; večina preostalih ponuja le smernice.

Da nekaj zgradite sami, vam samodejno ne da več nadzora. Nemška platforma, kot je opozorilo eno panožno združenje, teče na istih komercialnih jezikovnih modelih kot vse druge, na evropskih strežnikih. Francoski sistem je, nasprotno, gostovan v Franciji pod najvišjo varnostno certifikacijo, ki jo izdaja francoska država. Ena država je zgradila površino in najema motor, druga pa je kupila programsko opremo in obdržala ključe zgradbe. Nobena od možnosti ni jasno bolj 'suverena' izbira, kar velja upoštevati, preden ta izraz uporabimo.

Nizozemska je ubrala drugačen pristop, in vredno ga je poznati, ker ponuja bolj pošten odgovor na isto vprašanje. Namesto gradnje ali nakupa so se nizozemske šole in univerze povezale in dale glavne ponudnike formalno oceniti. Ko so preučili asistenta UI podjetja Microsoft, so odkrili dve nerešljivi težavi: merila za samodejni filter vsebine, ki jih ponudnik ni hotel razkriti, in hrambo osemnajst mesecev diagnostičnih podatkov, ki je ni bilo mogoče utemeljiti. Pogajali so se. Marca 2026 pa je ponudnik zavrnil spremembe. Ocena zato ostaja rumena oziroma opozorilna, nizozemskim šolam pa svetujejo previdnost in lastno presojo od primera do primera, namesto splošne odobritve. Ena država je tveganje odpravila tako, da je zgradila okoli njega, druga pa si je stvar podrobneje ogledala in se odločila, da še ni pripravljena. Oba pristopa ponujata rešitve za problem, predstavljen na začetku tega poglavja.

Primerjava razreši še eno stvar. Pritožba, da imajo učitelji raje brezplačnega klepetalnika kot uradnega, ni posledica neuspešnega izvajanja v Nemčiji. V Estoniji, kjer je država izpogajala dostop za dijake višje srednje šole, je sedem mesecev po začetku programa uradnega klepetalnika tedensko uporabljala komaj več kot tretjina. Izkazalo se je, da je večina od njih brezplačna orodja uporabljala že pred začetkom programa. Povsod se preverjeno okolje poteguje s tistim, ki je bolj priročno. Zagotoviti uradno orodje je potrebno. Ni pa dovolj.

Vendar strukturna ugotovitev ostaja: skladnost je omogočitveni pogoj, ne ovira. Se spomnite, kaj je bilo rečeno v poglavju 1.2? Na šolah z jasnimi pravili je UI uporabljalo več učiteljev – in skupno so prihranili več časa. Pravila uporabe niso upočasnila.