1.6 Zakonodaja

Take

Ključno Home message

sporočilo

• TheAkt EU AIo ActUI isje thepravna legalpodlaga. basis.Evropski Thepravilnik EU’sza rulebookUI forvelja AIod isavgusta 2024 in forcese sincepostopoma Augustuvaja 2024do and phasing in throughleta 2027. ItNe appliesvelja notle justza techtehnološka companies,podjetja, buttemveč alsotudi toza schools.šole.
• AIPismenost literacyna ispodročju aUI duty,je notobveznost, ane coursetečaj, toki tickga off.je treba le odkljukati. SchoolsŠole mustmorajo supportosebju staffpomagati inpri buildingrazvijanju AIpismenosti literacy.na področju UI.
• SeveralVeč AIuporab usesUI areje bannedizrecno outright.prepovedanih. AmongMed them:njimi: inferringsklepanje students’o emotionsčustvih fromučencev facializ orobraznih vocalali data,glasovnih AIpodatkov, thatUI, exploitski children’sizkorišča vulnerabilitiesranljivosti tootrok distortza theirizkrivljanje behaviour,njihovega andvedenja, buildingter facial-recognitiongradnja databasesbaz orpodatkov inferringza traitsprepoznavanje likeobrazov raceali orsklepanje religiono fromlastnostih, biometrickot data.sta rasa ali vera, iz biometričnih podatkov.
• RiskTveganje dependsje onodvisno theod decision,odločitve, notne theod product.izdelka. OrdinaryObičajna writing,orodja research,za translationpisanje, andraziskovanje, lesson-planningprevajanje toolsin arepripravo notna high-riskpouk simplyniso becausevisokotvegana theyzgolj arezato, usedker atse school.uporabljajo Theyv becomešoli. high-riskPostanejo oncevisokotvegana, theyko influencevplivajo admission,na learningsprejem, pathways,učne exampoti, outcomesizpitne orrezultate employmentali decisions.odločitve o zaposlitvi.
• NotNi everythingtreba AI-generatedoznačiti needsvsega, akar label.ustvari UI. TheObveznost disclosurerazkritja dutyje mainlypredvsem sitsna withstrani theponudnika; provider;gradivo, teacher-reviewedki materialga withpregleda humanučitelj editorials controlčloveškim isuredniškim exempt.nadzorom, je izvzeto.
• High-riskVisokotvegana AIUI needspotrebuje ačloveka, humanki whojo canlahko overrule it.preglasi. AIIzpis outputUI isnikoli neverni thedokončna finalodločitev. decision.Razumeti Youmorate mustnjegove understandomejitve itsin limitsga andmorate beznati ablezavrniti toali disregard or override it.preglasiti.
• TheAkt AIo ActUI sitsje onnadgradnja topobstoječega ofprava, otherne law,njegova it doesn’t replace it.zamenjava. NationalNacionalno datapravo protection,o education,varstvu employment,podatkov, childizobraževanju, protectionzaposlovanju, andvarstvu copyrightotrok lawin continueavtorskih topravicah applyvelja alongsideše it.naprej vzporedno z njim.
• The GDPR governsureja thepodatke, data,ne notle just the tool.orodja. EvenTudi ansistem AIUI, systemki thatje isv fineredu underpo theAktu AIo ActUI, canje stilllahko beše off-limitsvedno ifprepovedan, itče processesobdeluje personalosebne datapodatke abouto studentsučencih orali staffosebju withoutbrez aveljavne validpravne legal basis.podlage.

IfČe yousi rememberzapomnite onlyle oneen sentencestavek froms thiste page:strani: UseUporabljajte AIUI toza supportpodporo yoursvoji professionalstrokovni judgement,presoji, notne replaceza it—stricternjeno rulesnadomestitev apply– asstrožja soonpravila asveljajo AItakoj, helpsko makeUI decisionspomaga aboutsprejemati grades,odločitve educationalo pathwaysocenah, orizobraževalnih people.poteh ali ljudeh.

The

Akt EU AIo Act

umetni inteligenci

TheAkt EU AIo Actumetni inteligenci (RegulationUredba (EU) 2024/1689)1689) isje theenoten, EU’sna single,tveganju risk-basedtemelječ rulebookpravilnik forEU artificialza intelligence.umetno Insteadinteligenco. ofNamesto regulatingda specificbi products,urejal itposamezne classifiesizdelke, AIsisteme systemsUI byrazvršča theglede riskna theytveganje, poseki andga attaches obligations accordingly — from an outright ban for a small set of practices, through extra duties for “high-risk” uses, to no special rules at all for everyday tools. It applies directlypredstavljajo, in everytemu memberustrezno state,določa toobveznosti public– andod privatepopolne organisationsprepovedi alike.za majhen nabor praks, prek dodatnih obveznosti za 'visokotvegane' uporabe, do popolne odsotnosti posebnih pravil za vsakdanja orodja. Velja neposredno v vsaki državi članici, tako za javne kot za zasebne organizacije.

TheAkt Actse phasesuvaja postopoma, korak za korakom. Velja od 1. avgusta 2024; od 2. februarja 2025 sta že zavezujoča spodaj navedeni prepovedani praksi in stepobveznost byrazvijanja step.pismenosti Itna haspodročju applied since 1 August 2024; since 2 February 2025, the banned practices below and the duty to build AI literacyUI (Art.člen 4)4); areod already2. binding;avgusta from2026 2velja Augustvečina 2026,preostalih most of its remaining provisions apply. določb.

Who

Kdo isje responsibleodgovoren forza theuporabo use of AI?

UI?

IfČe ašola schooluvede introducesin andnadzoruje controlssistem anUI, AIje system,šola theoziroma schoolšolski ororgan schoolobičajno authority is usually the deployer„uvajalec“ (Art.člen 3(4)). TheUčitelj teacherpri isuporabi normallyorodja notpo anavodilih separatešole deployerobičajno whenni usingločen theuvajalec, toolmora underpa thekljub school’stemu instructions,upoštevati butta mustnavodila stillter followvsa thoseustrezna instructionsšolska and all relevant school and data-protection rules.

Teachers need to know what they are using

Schools and school authorities must take appropriate measures to support the development of AI literacy among those who use AI systems on their behalf (Art. 4). The AI Act does not specify a particular level of competence, certificate or training format. These rather depend on the AI system used, how it is used, and who may be affected.

AI practices banned outright for schools

The AI Act bans eight AI practices outright (Art. 5); four of them are directly relevant to schools:

Using AI systemspravila in educationalpravila institutionso tovarstvu inferpodatkov. emotions

Učitelji ormorajo intentionsvedeti, fromkaj biometricuporabljajo

data

Šole in šolski organi morajo sprejeti ustrezne ukrepe za podporo razvoju pismenosti na področju UI pri tistih, ki v njihovem imenu uporabljajo sisteme UI (suchčlen as4). students'Akt facialo orUI vocalne characteristics)določa isnatančne generallyravni forbidden.usposobljenosti, Narrowpotrdila exceptionsali existoblike forusposabljanja. medicalTe orso safetyodvisne purposesod uporabljenega sistema UI, načina njegove uporabe in tega, kdo bi lahko bil prizadet.

Prakse UI, ki so za šole izrecno prepovedane

Akt o UI izrecno prepoveduje osem praks UI (Art.člen 5); štiri od njih so neposredno pomembne za šole:

Uporaba sistemov UI v izobraževalnih ustanovah za sklepanje o čustvih ali namerah iz biometričnih podatkov (kot so obrazne ali glasovne značilnosti učencev) je na splošno prepovedana. Obstajajo ozke izjeme za medicinske namene ali namene varnosti (člen 3(39); Art.člen 5(1)(f)). AISistemi systemsUI, thatki exploitizkoriščajo someone’snekoga vulnerabilitiesranljivost duezaradi to agestarosti (askot withpri children)otrocih), disability,invalidnosti orali socialsocialnega oroziroma economicekonomskega situation,položaja, na način, ki izkrivlja njegovo vedenje in amu waypovzroča thatškodo, distortsso theirprepovedani behaviourne andglede causesna them harm, are banned regardless of intentnamen (Art.člen 5(1)(b)). BuildingGradnja orali expandingširjenje abaze facial-recognitionpodatkov databaseza throughprepoznavanje untargetedobrazov scrapings ofciljno imagesneusmerjenim fromzbiranjem theslik internetz orinterneta fromali CCTViz footagevideonadzora isje banned.prepovedana. ThisTo isje relevantpomembno, ifče ašola schoolrazmišlja considerso aorodju facial-recognitionza toolprepoznavanje forobrazov attendanceza orevidenco examprisotnosti monitoringali nadzor izpitov (Art.člen 5(1)(e)). UsingUporaba biometricbiometričnih datapodatkov toza categoriserazvrščanje peopleljudi inz ordernamenom tosklepanja infero protectedzaščitenih traitslastnostih, suchkot asso race,rasa, politicalpolitična opinions,prepričanja, religionvera orali sexualspolna orientationusmerjenost, isje banned.prepovedana. ThisTo isje relevantpomembno forza anyvsako biometric-basedorodje tool,na suchbiometrični asosnovi, exam-proctoringkot software,je thatprogramska goesoprema beyondza itsnadzor statedizpitov, purposeki presega svoj navedeni namen (Art.člen 5(1)(g)).

Does

Ali AI-generatedje contenttreba alwaysvsebino, needustvarjeno az label?

UI, vedno označiti?

IfČe studentsučenci interactneposredno directlykomunicirajo withs ansistemom AIUI, system,na suchprimer ass aklepetalnikom, chatbot,morajo theybiti mustobveščeni, beda informedkomunicirajo thatz theyUI. areZa interactingto withjasno AI.obvestilo Usuallyje theobičajno systemodgovoren providerponudnik is responsible for making this clearsistema (Art.člen 50(1)).

Schools and teachers must disclose deepfakes, or AI-generated text published on matters of public interest, when these are usedŠole in theučitelji classroommorajo razkriti globoke ponaredke (Art.deepfake) ali besedilo, ustvarjeno z UI in objavljeno o zadevah javnega pomena, kadar se ti uporabljajo pri pouku (člen 50(4)). ThisTa requirementzahteva doesne notvelja, applykadar whereje thevsebina, AI-generatedustvarjena contentz hasUI, undergoneprestala effectiveučinkovit humančloveški reviewpregled orali editorialuredniški control,nadzor, anduredniško aodgovornost personza ornjeno institutionobjavo assumespa editorialprevzame responsibilityoseba forali itsinstitucija. publication.Delovni Anlist, AI-assistedustvarjen worksheets reviewedpomočjo byUI, aki teacherga thereforeje doespregledal notučitelj, automaticallytorej requiresamodejno ane label.potrebuje oznake.

When

Kdaj AIUI v izobraževanju postane visokotvegana

Običajna orodja za pisanje, prevajanje, raziskovanje in educationpripravo becomesna high-riskpouk

Ordinaryniso writing,visokotvegana translation,zgolj researchzato, andker lesson-planningse toolsuporabljajo arepri notdelu. high-riskRazvrstitev simplyje becauseodvisna theyod arenamena usedsistema, forne work.zgolj Classificationod dependstega, onkateri theizdelek system'sse intended purpose, not simply on which product is useduporablja (Art.člen 66, ·Priloga Annex III)III).

AISistemi systemsUI mayso belahko classifiedrazvrščeni askot high-riskvisokotvegani, whenkadar theyso are intended to:namenjeni:

For	Za Teachersučitelje	For	Za Schoolsšole

• decideodločanju abouto students'dostopu, access,sprejemu admissionali orrazporejanju assignmentučencev tov educationalizobraževalne orali vocationalpoklicne institutionsustanove andin programmes;programe;
• evaluateocenjevanju students'učnih learningdosežkov outcomesučencev orali steerusmerjanju theirnjihovih learningučnih processes;procesov;
• assesspresoji theustrezne appropriateravni levelizobraževanja, ofki educationjo abo studentučenec willprejel receiveali ordo cankatere access;lahko ordostopa; ali
• detectzaznavanju students'prepovedanega prohibitedvedenja behaviouručencev duringmed examinations.izpiti.

(AnnexPriloga III,III, pointtočka 3)

• recruitzaposlovanju orali selectizbiri teachers,učiteljev, includingvključno screenings applications;pregledovanjem prijav;
• decideodločanju ono contractpogodbenih terms,pogojih, promotionnapredovanju orali terminationprenehanju ofzaposlitve a teacher's employment;učitelja;
• allocatedodeljevanju tasksnalog basedna onpodlagi avedenja teacher'sali behaviourosebnih orlastnosti personalučitelja; traits; orali
• evaluateocenjevanju teachers'uspešnosti performance.učiteljev.

(AnnexPriloga III,III, pointtočka 4)

AOmejeno limitedorodje checkingza orpreverjanje preparatoryali toolpripravljalno mayorodje alsolahko fallostane outsidezunaj thekategorije high-riskvisokega categorytveganja, ifče itpomembno doesne notvpliva significantlyna influenceodločitev. aVendar decision.pa However,izobraževalni ansistem, educationki systemprofilira thatposameznike, profilesvedno individualsvelja isza always considered high-risk.visokotveganega.

What

Kaj high-riskvisokotvegana AIUI meanspomeni forza schools and teachers

Classification of an AI system as high-risk does not automatically rule it out from usešole in schools.učitelje But

Razvrstitev high-risksistema systemsUI comekot withvisokotveganega obligationssamodejno ne izključuje njegove uporabe v šolah. Vendar visokotvegani sistemi prinašajo obveznosti (Art.člen 26)26):

TheseTe obligationsobveznosti forza high-riskvisokotvegano AIUI v izobraževanju veljajo od 2. decembra 2027 – zgornje prepovedi in educationobveznost applypismenosti fromna 2področju DecemberUI 2027pa —veljajo butže the prohibitions above and the AI-literacy duty already apply today.danes.

For	Za Teachersučitelje	For	Za Schoolsšole

• useuporabljajte itjo onlyle forza itsnjen approvedodobreni purposenamen andin followsledite itsnjenim instructions;navodilom;
• donjenega notizpisa treatne itsobravnavajte outputkot asdokončne a final decision;odločitve;
• understandrazumite itsnjene mainglavne limitationsomejitve andin likelyverjetne sourcesvire of error;napak;
• watchbodite forpozorni overreliancena onpretirano apparentlyzanašanje convincingna results;navidezno andprepričljive rezultate; in
• bebodite preparedpripravljeni tonjen disregardizpis orzavrniti overrideali its output.preglasiti.

• providezagotovite competentusposobljen andin authorisedpooblaščen humančloveški oversight;nadzor;
• ensurezagotovite, thatda anyso inputvhodni datapodatki underpod itsnjenim controlnadzorom isrelevantni relevantin anddovolj sufficiently representative;reprezentativni;
• monitorspremljajte thesistem systemin andse respondodzivajte tona riskstveganja orali seriousresne incidents;incidente;
• keepsamodejno automaticallyustvarjene generateddnevnike logshranite forvsaj atšest leastmesecev, sixkadar monthsso whereti thosepod logsnjenim arenadzorom; under its control; andin
• informvnaprej students,obvestite teachersučence, oručitelje affectedali peopleprizadete inosebe, advancekadar whensistem thepomaga systempri assistsodločanju decision-makingo about them.njih.

PublicJavni bodiesorgani andin privatezasebne organisationsorganizacije, providingki publicopravljajo servicesjavne maystoritve, alsobodo havemorda morali pred uporabo visokotvegane UI opraviti tudi oceno učinka na temeljne pravice (člen 27). Javni organi in organizacije, ki delujejo v njihovem imenu, bodo morda morali sistem tudi registrirati v podatkovni zbirki EU (člen 49). Ali je to completeodgovornost šole ali njenega upravnega organa, je odvisno od nacionalnega šolskega sistema.

Akt o UI ni edini pomemben zakon

Akt o UI ne nadomešča evropskih ali nacionalnih predpisov o varstvu podatkov, izobraževanju, zaposlovanju in sodelovanju delavcev, varstvu otrok ali avtorskih pravicah (člen 2(7)). Na primer, dejstvo, da orodje ni visokotvegano, ne pomeni, da smete vanj naložiti delo ali osebne podatke učencev.

Orodje je lahko sprejemljivo po Aktu o UI, a fundamentalkljub rightstemu impactprepovedano assessmentpo beforezakonodaji usingo high-riskvarstvu AIpodatkov ali pravilih vaše šole.

GDPR

GDPR (Art. 27). Public authorities and organisations acting on their behalf may additionally have to register the system in the EU database (Art. 49). Whether this is the responsibility of the school or its governing authority depends on the national school system.

The AI Act is not the only law that matters

The AI Act does not replace european or national regulations on data protection, education, employment and worker participation, child protection or copyright (Art. 2(7)). For example, the fact that a tool is not high-risk does not mean that you may upload students' work or personal data to it.

A tool may be acceptable under the AI Act but still prohibited by data-protection law or your school's rules.

The GDPR

The GDPR (RegulationUredba (EU) 2016/679) isje thezakonodaja EU’sEU lawo onvarstvu datapodatkov. protection.Ima Itpodporno playsvlogo aob supportingAktu roleo alongsideUI: themedtem AIko Act:se whileAkt theo AIUI Actsprašuje, asksali whetherin andkako howje ansistem AIUI systemsploh maymogoče beuporabljati, used at all, these GDPR askssprašuje, whetherali thisje particularte datakonkretne aboutpodatke thiso particulartej personkonkretni mayosebi bedovoljeno processedobdelovati thisna way?ta način.

• ItVelja, appliestakoj asko soonso asvpleteni personalosebni datapodatki. isImena, involved.šolski Names,e-poštni schoolnaslovi, emaildelo addresses,učencev, studentglasovni work,posnetki, voiceprepisi, recordings,fotografije, transcripts,ocene, photos, grades, attendance and learning-progress data all count as personal data (Art. 4). 

Some data needs extra protection. Health information, biometric data and data revealing racial or ethnic origin, religion or similar traits are “special category data” and are,prisotnost in principle,podatki off-limitso withoutučnem anapredku specific– exceptionvse to šteje za osebne podatke (Art.člen 9) — one reason the AI Act separately bans several biometric-inference practices in schools. Know who is responsible. The school is normally the “controller”; an AI provider processing data on the school’s behalf is a “processor” and needs a data-processing agreement that spells out its obligations (Art. 28). Check this before rolling a new tool out school-wide. Data leaving the EU needs a safeguard. Many popular AI tools are hosted outside the EU. Personal data may only travel there if an adequacy decision or another approved safeguard, such as standard contractual clauses, is in place (Art. 44)4). StudentsNekateri andpodatki staffpotrebujejo keepdodatno theirzaščito. rights.Podatki Theyo canzdravju, askbiometrični whatpodatki ister heldpodatki, aboutki them,razkrivajo haverasni itali correctedetnični orizvor, deleted,vero andali objectpodobne lastnosti, so „posebne vrste podatkov“ in so načeloma prepovedani brez posebne izjeme (člen 9) – to decisionsje basedtudi solelyeden onod automatedrazlogov, processingzakaj thatAkt significantlyo affectsUI themv šolah ločeno prepoveduje več praks biometričnega sklepanja. Vedite, kdo je odgovoren. Šola je običajno „upravljavec“; ponudnik UI, ki obdeluje podatke v imenu šole, je „obdelovalec“ in potrebuje pogodbo o obdelavi podatkov, ki natančno opredeli njegove obveznosti (Art.člen 1528). To preverite, preden novo orodje uvedete v celotni šoli. Podatki, ki zapustijo EU, potrebujejo zaščitni ukrep. Veliko priljubljenih orodij UI gostuje zunaj EU. Osebni podatki lahko tja potujejo le, če obstaja sklep o ustreznosti ali drug odobren zaščitni ukrep, kot so standardne pogodbene klavzule (člen 44). Učenci in osebje ohranijo svoje pravice. Lahko zahtevajo vpogled v to, kaj je shranjeno o njih, popravek ali izbris teh podatkov, in ugovarjajo odločitvam, ki temeljijo izključno na avtomatizirani obdelavi in ki nanje pomembno vplivajo (členi 15–22) –Art. 22)ta —pravica adopolnjuje rightin thatkrepi runszahteve alongside,Akta ando reinforces,UI thepo AIčloveškem Act’snadzoru human-oversightpri requirementsvisokotveganih for high-risk systems.sistemih.

Where

Kje tonajti find help

pomoč

EnforcementIzvrševanje isje organisedv differentlyvsaki državi EU organizirano drugače. Ker se nacionalne pristojnosti lahko spremenijo, uporabite trenutni seznam nacionalnih organov za nadzor trga Evropske komisije. Vsakdo (učitelj, učenec, starš), ki meni, da je bil Akt kršen, lahko pri tem organu vloži pritožbo (člen 85). Kadar je visokotvegan sistem, na primer orodje za sprejem ali nadzor izpitov, privedel do odločitve, ki pomembno vpliva na učenca, lahko ta (ali njegovi starši) zahtevajo tudi obrazložitev te posamezne odločitve (člen 86).

Nacionalna pravila za vašo državo

Akt o UI velja po vsej EU, vendar se izvršilni organi, šolsko pravo in eachpraksa EUvarstva country.podatkov Becauserazlikujejo nationalod responsibilitiesdržave maydo change,države. useTukaj thebodo Europeandodane Commission'sdržavno currentspecifične listopombe ofza nationalpartnerske market-surveillancedržave authorities.tega Anyone (a teacher, a student, a parent) can lodge a complaint with that authority if they believe the Act has been breached (Art. 85). Where a high-risk system, such as an admission or exam-monitoring tool, has led to a decision that significantly affects a student, they (or their parents) can also ask for an explanation of that individual decision (Art. 86).

National rules for your country

The AI Act is EU-wide, but enforcement bodies, school law and data-protection practice differ by country. Country-specific notes for the Playbook's partner countries will be added here:priročnika:

• AustriaAvstrija
• CzechiaČeška
• GermanyNemčija
• LatviaLatvija
• SlovakiaSlovaška
• SloveniaSlovenija
• SpainŠpanija