Skip to main content

1.6 Legislativa

Take Home messageShrnutí

  • ThePrávním základem je Akt o UI Evropské unie. Pravidla EU AIpro ActUI isplatí theod legal basis. The EU’s rulebook for AI is in force since Augustsrpna 2024 anda phasingpostupně innabývají throughúčinnosti až do roku 2027. ItVztahují appliesse notnejen justna techtechnologické companies,společnosti, butale alsoi tona schools.školy.
  • AIGramotnost literacyv isoblasti aUI duty,je notpovinností, ane coursekurzem tok tick off.odškrtnutí. SchoolsŠkoly mustmusí supportsvým staffzaměstnancům inpomáhat buildingbudovat AIgramotnost literacy.v oblasti UI.
  • SeveralNěkolik AIzpůsobů usespoužití areUI bannedje outright.zcela zakázáno. AmongMimo them:jiné: inferringodvozování students’emocí emotionsžáků fromz facialmimiky ornebo vocalhlasových data,dat, AIUI thatzneužívající exploitszranitelnost children’sdětí vulnerabilitieske tozkreslení distortjejich theirchování behaviour,a andbudování buildingdatabází facial-recognitionpro databasesrozpoznávání orobličejů inferringnebo traitsodvozování likeznaků, racejako orje religionrasa fromči biometricnáboženství, data.z biometrických údajů.
  • RiskRiziko dependszávisí onna therozhodnutí, decision,nikoli notna the product.produktu. OrdinaryBěžné writing,nástroje pro psaní, research, translationpřeklad anda lesson-planningpřípravu toolshodin arenejsou notvysoce high-riskrizikové simplyjen becauseproto, theyže arese usedpoužívají atve school.škole. TheyVysoce becomerizikovými high-riskse oncestávají theyve influencechvíli, admission,kdy learningovlivňují pathways,přijetí, examvzdělávací outcomesdráhu, orvýsledky employmentzkoušek decisions.nebo pracovní rozhodnutí.
  • NotNe everythingvšechno, AI-generatedco needsvytvoří aUI, label.musí být označeno. ThePovinnost disclosureinformovat dutyleží mainlypředevším sitsna withposkytovateli; themateriál provider;zkontrolovaný teacher-reviewedučitelem materials withlidskou humanredakční editorialkontrolou controlje isz exempt.této povinnosti vyňat.
  • High-riskVysoce AIrizikové needssystémy UI vyžadují člověka, který je může přehlasovat. Výstup UI nikdy není konečným rozhodnutím. Musíte rozumět jeho omezením a humanbýt whoschopni canjej overruleodmítnout it.nebo AI output is never the final decision. You must understand its limits and be able to disregard or override it.přehlasovat.
  • TheAkt AIo ActUI sitsstojí onnad topostatními ofzákony, othernenahrazuje law, it doesn’t replace it.je. NationalVnitrostátní dataprávo protection,na education,ochranu employment,osobních childúdajů, protectionškolské, andpracovní copyrightprávo, lawprávo continuena toochranu applydětí alongsidea it.autorské právo platí i nadále souběžně s ním.
  • The GDPR governs theupravuje data, notnikoli justjen the tool.nástroj. EvenI ansystém AIUI, systemkterý thatje isv finepořádku underpodle theAktu AIo ActUI, canmůže stillbýt benadále off-limitsnepřípustný, ifpokud itzpracovává processesosobní personalúdaje datažáků aboutnebo studentszaměstnanců orbez staffplatného withoutprávního a valid legal basis.základu.

Pokud

Ifsi youz remembertéto onlystránky onemáte sentencezapamatovat fromjen thisjednu page:větu: UsePoužívejte AIUI tona supportpodporu yoursvého professionalodborného judgement,úsudku, notnikoli replacejako it—stricterjeho rulesnáhradu apply– aspřísnější soonpravidla asplatí, AIjakmile helpsUI makepomáhá decisionsrozhodovat abouto grades,známkách, educationalvzdělávací pathwaysdráze ornebo people.o lidech.

TheAkt EU AIo Actumělé inteligenci

TheAkt EU AIo Actumělé inteligenci (Regulationnařízení (EU) 2024/1689)1689) isje thejednotný, EU’sna single,riziku risk-basedzaložený rulebookpředpisový forrámec artificialEU intelligence.pro Insteadumělou ofinteligenci. regulatingNamísto specificregulace products,konkrétních itproduktů classifiesklasifikuje AIsystémy systemsUI bypodle therizika, riskkteré they pose and attaches obligations accordingly — from an outright ban forpředstavují, a smallpodle settoho ofk practices,nim throughpřiřazuje extrapovinnosti duties– forod “high-risk”naprostého uses,zákazu u malé skupiny praktik, přes dodatečné povinnosti pro „vysoce rizikové“ použití, až po žádná zvláštní pravidla pro běžné nástroje. Platí přímo ve všech členských státech, a to nojak specialpro rulesveřejné, attak allpro forsoukromé everyday tools. It applies directly in every member state, to public and private organisations alike.subjekty.

TheAkt Actnabývá phasesúčinnosti inpostupně. stepPlatí byod step.1. It has applied since 1 Augustsrpna 2024; sinceod 22. Februaryúnora 2025,2025 thejsou bannedjiž practiceszávazné belowníže anduvedené thezakázané dutypraktiky toa buildpovinnost AIbudovat literacygramotnost v oblasti UI (Art.čl. 4); areod already2. binding;srpna from2026 2se Augustuplatní 2026,většina mostjeho ofzbývajících its remaining provisions apply. ustanovení.

WhoKdo isodpovídá responsibleza forpoužívání the use of AI?UI?

IfPokud škola zavádí a schoolřídí introducessystém andUI, controlsje anzpravidla AIzavádějícím system,subjektem theškola schoolnebo orškolský school authority is usually the deployerorgán (Art.čl. 3(4)).3 The teacher is normally not a separate deployer when using the tool under the school’s instructions, but must still follow those instructions and all relevant school and data-protection rules.

Teachers need to know what they are using

Schools and school authorities must take appropriate measures to support the development of AI literacy among those who use AI systems on their behalf (Art.odst. 4). TheUčitel AIobvykle Actnení doessamostatným notzavádějícím specifysubjektem, pokud nástroj používá podle pokynů školy, musí se však i tak řídit těmito pokyny a particularvšemi levelpříslušnými ofškolními competence,pravidly certificatea orpravidly trainingochrany format.osobních These rather depend on the AI system used, how it is used, and who may be affected.údajů.

AIUčitelé practicesmusí bannedvědět, outrightco for schoolspoužívají

TheŠkoly AIa Actškolské bansorgány eightmusí AIpřijmout practicesvhodná outrightopatření na podporu rozvoje gramotnosti v oblasti UI u osob, které jejich jménem systémy UI používají (Art.čl. 4). Akt o UI nestanovuje konkrétní úroveň způsobilosti, certifikát ani formu školení. Ty spíše závisí na použitém systému UI, způsobu jeho použití a na tom, koho se to může dotknout.

Praktiky UI zcela zakázané pro školy

Akt o UI zcela zakazuje osm praktik v oblasti UI (čl. 5); fourčtyři ofz themnich arese directlypřímo relevanttýkají to schools:škol:

  1. UsingPoužívání AIsystémů systemsUI inve educationalvzdělávacích institutionsinstitucích tok inferodvozování emotionsemocí ornebo intentionszáměrů fromz biometricbiometrických dataúdajů (suchjako asjsou students'mimika facialnebo orhlasové vocalcharakteristiky characteristics)žáků) isje generallyobecně forbidden.zakázáno. NarrowExistují exceptionsúzké existvýjimky forpro medicallékařské orúčely safetynebo purposesúčely bezpečnosti (Art.čl. 3(39)3 odst. 39; Art.čl. 5(1)(f)5 odst. 1 písm. f).
  2. AISystémy systemsUI, thatkteré exploitzneužívají someone’sněčí vulnerabilitieszranitelnost duedanou to agevěkem (asjako withu children)dětí), disability,zdravotním orpostižením socialnebo orsociální economicči situation,ekonomickou insituací, způsobem, který zkresluje jejich chování a wayzpůsobuje thatjim distortsújmu, theirjsou behaviourzakázány andbez causesohledu themna harm, are banned regardless of intentzáměr (Art.čl. 5(1)(b)5 odst. 1 písm. b).
  3. BuildingBudování ornebo expandingrozšiřování adatabáze facial-recognitionpro databaserozpoznávání throughobličejů untargetednecíleným scrapingstahováním ofobrázků imagesz frominternetu thenebo internetz orkamerových fromzáznamů CCTVje footagezakázáno. isTo banned.je Thisrelevantní, ispokud relevantškola ifzvažuje anástroj schoolpro considersrozpoznávání aobličejů facial-recognitionpro toolúčely fordocházky attendancenebo ordohledu exampři monitoringzkouškách (Art.čl. 5(1)(e)5 odst. 1 písm. e).
  4. UsingPoužívání biometricbiometrických dataúdajů toke categorisekategorizaci peopleosob inza orderúčelem toodvození inferchráněných protectedznaků, traitsjako suchje asrasa, race,politické politicalnázory, opinions,náboženství religionnebo orsexuální sexualorientace, orientationje iszakázáno. banned.To Thisje isrelevantní relevantpro forjakýkoli anynástroj biometric-basedzaložený tool,na suchbiometrii, asnapříklad exam-proctoringsoftware software,pro thatdohled goesnad beyondzkouškami, itskterý statedjde purposenad rámec svého deklarovaného účelu (Art.čl. 5(1)(g)5 odst. 1 písm. g).

DoesMusí AI-generatedbýt contentobsah alwaysvytvořený needUI avždy label?označen?

IfPokud studentsžáci interactkomunikují directlypřímo withse ansystémem AIUI, system,například suchs aschatbotem, amusí chatbot,být theyinformováni, mustže bekomunikují informeds thatUI. theyZa arejasné interactingsdělení withtéto AI.skutečnosti Usuallyobvykle theodpovídá systemposkytovatel provider is responsible for making this clearsystému (Art.čl. 50(1)50 odst. 1).

SchoolsŠkoly anda teachersučitelé mustmusí discloseoznačit deepfakes,deepfake orobsah AI-generatednebo text publishedvytvořený onUI matterspublikovaný ofk publiczáležitostem interest,veřejného whenzájmu, thesepokud arejsou usedtyto inmateriály thepoužity classroomve výuce (Art.čl. 50(4)50 odst. 4). ThisTento requirementpožadavek doesse notneuplatní applytam, wherekde theobsah AI-generatedvytvořený contentUI hasprošel undergoneúčinnou effectivelidskou humankontrolou reviewnebo orredakčním editorial control, anddohledem a personza orjeho institutionzveřejnění assumespřebírá editorialredakční responsibilityodpovědnost forkonkrétní itsosoba publication.nebo Aninstituce. AI-assistedPracovní worksheetlist reviewedvytvořený bys pomocí UI a teacherzkontrolovaný thereforeučitelem doestedy notautomaticky automaticallyoznačení requirenevyžaduje.

Kdy se UI ve vzdělávání stává vysoce rizikovou

Běžné nástroje pro psaní, překlad, research a label.

přípravu

Whenhodin AInejsou invysoce educationrizikové becomesjen high-risk

proto,

Ordinaryže writing,se translation,používají researchv andrámci lesson-planningpráce. toolsKlasifikace arezávisí notna high-riskzamýšleném simplyúčelu becausesystému, theynikoli arejen usedna fortom, work.o Classificationjaký dependsprodukt on the system's intended purpose, not simply on which product is usedjde (Art.čl. 6 · AnnexPříloha III).

AISystémy systemsUI maymohou bebýt classifiedklasifikovány asjako high-riskvysoce whenrizikové, theypokud arejsou intendedurčeny to:k tomu, aby:

ForPro Teachersučitele ForPro Schoolsškoly
  • deciderozhodovaly abouto students'přístupu, access,přijetí admissionnebo orzařazení assignmentžáků todo educationalvzdělávacích ornebo vocationalodborných institutionsinstitucí anda programmes;programů;
  • evaluatehodnotily students'výsledky learningučení outcomesžáků ornebo steerřídily theirjejich learningvzdělávací processes;postup;
  • assessposuzovaly theodpovídající appropriateúroveň levelvzdělání, ofkterou educationžák aobdrží studentnebo willke receivekteré ormůže canmít access;přístup; ornebo
  • detectodhalovaly students'zakázané prohibitedchování behaviouržáků duringběhem examinations.zkoušek.

(AnnexPříloha III, pointbod 3)
  • recruitnajímaly ornebo selectvybíraly teachers,učitele, includingvčetně screeningprověřování applications;žádostí o zaměstnání;
  • deciderozhodovaly ono contractsmluvních terms,podmínkách, promotionpovýšení ornebo terminationukončení ofpracovního apoměru teacher's employment;učitele;
  • allocatepřidělovaly tasksúkoly basedna onzákladě achování teacher'snebo behaviourosobních orvlastností personalučitele; traits; ornebo
  • evaluatehodnotily teachers'výkon performance.učitelů.

(AnnexPříloha III, pointbod 4)

AOmezený limitedkontrolní checkingnebo orpřípravný preparatorynástroj toolmůže mayspadat alsomimo fallkategorii outsidevysoce therizikových high-riski categorytehdy, ifpokud itnemá doesvýznamný notvliv significantlyna influencerozhodnutí. Vzdělávací systém, který profiluje jednotlivce, je však vždy považován za vysoce rizikový.

Co vysoce rizikové UI znamená pro školy a decision. However, an education system that profiles individuals is always considered high-risk.

What high-risk AI means for schools and teachersučitele

ClassificationKlasifikace ofsystému anUI AIjako systemvysoce asrizikového high-riskautomaticky doesnevylučuje notjeho automaticallypoužití ruleve itškolách. outVysoce fromrizikové usesystémy ins schools.sebou Butale high-risknesou systems come with obligationspovinnosti (Art.čl. 26):

TheseTyto obligationspovinnosti forpro high-riskvysoce AIrizikovou inUI educationve applyvzdělávání fromse 2uplatní Decemberod 2. prosince 2027 —– butvýše theuvedené prohibitionszákazy abovea andpovinnost thegramotnosti AI-literacyv dutyoblasti alreadyUI applyvšak today.platí už dnes.

ForPro Teachersučitele ForPro Schoolsškoly
  • usepoužívat itjej onlypouze forpro itsschválený approvedúčel purposea andřídit followse itsjeho instructions;pokyny;
  • donezacházet nots treatjeho itsvýstupem outputjako ass konečným rozhodnutím;
rozumět jeho hlavním omezením a finalpravděpodobným decision;zdrojům chyb; understanddávat itspozor mainna limitationsnadměrné andspoléhání likelyse sourcesna ofzdánlivě error;přesvědčivé výsledky; a watchbýt forpřipraveni overreliancejeho onvýstup apparentlyodmítnout convincingnebo results; and be prepared to disregard or override its output.přehlasovat.
  • providezajistit competentodborný anda authorisedoprávněný humanlidský oversight;dohled;
  • ensurezajistit, thataby anyveškerá inputvstupní data underpod itsjejich controlkontrolou isbyla relevantrelevantní anda sufficientlydostatečně representative;reprezentativní;
  • monitormonitorovat thesystém systema andreagovat respondna torizika risksnebo orzávažné serious incidents;incidenty;
  • keepuchovávat automaticallyautomaticky generatedgenerované logszáznamy forpo atdobu leastnejméně sixšesti monthsměsíců wheretam, thosekde logsjsou aretyto underzáznamy itspod control;jejich andkontrolou; a
  • informpředem students,informovat teachersžáky, oručitele affectednebo peopledotčené inosoby, advancepokud whensystém thenapomáhá systemrozhodování, assistskteré decision-makingse aboutjich them.týká.

PublicVeřejné bodies and private organisations providing public services may also have to completesubjekty a fundamentalsoukromé rightsorganizace impactposkytující assessmentveřejné beforeslužby usingmohou high-riskbýt AIrovněž povinny provést před použitím vysoce rizikové UI posouzení dopadu na základní práva (Art.čl. 27). PublicOrgány authoritiesveřejné andmoci organisationsa actingorganizace onjednající theirjejich behalfjménem maymohou additionallybýt havenavíc topovinny registerzaregistrovat thesystém systemv in thedatabázi EU database (Art.čl. 49). WhetherZda thisje isto theodpovědností responsibilityškoly, ofnebo thejejího schoolzřizovatele, orzávisí itsna governingkonkrétním authorityvnitrostátním dependsškolském on the national school system.systému.

TheAkt AIo ActUI isnení notjediným therozhodným onlyprávním law that matterspředpisem

TheAkt AIo ActUI doesnenahrazuje notevropské replaceani europeanvnitrostátní orpředpisy nationalo regulationsochraně onosobních dataúdajů, protection,vzdělávání, education,zaměstnanosti employmenta andparticipaci workerzaměstnanců, participation,ochraně childdětí protectionnebo orautorském copyrightprávu (Art.čl. 2(7)2 odst. 7). ForSkutečnost, example,že thenástroj factnení thatvysoce rizikový, například neznamená, že do něj smíte nahrávat práci nebo osobní údaje žáků.

Nástroj může být přípustný podle Aktu o UI, a toolpřesto isbýt notzakázán high-riskprávem doesna notochranu meanosobních thatúdajů younebo maypravidly uploadvaší students' work or personal data to it.

A tool may be acceptable under the AI Act but still prohibited by data-protection law or your school's rules.školy.

The GDPR

The GDPR (Regulationnařízení (EU) 2016/679) isje theprávní EU’spředpis lawEU ono dataochraně protection.osobních Itúdajů. playsHraje doplňkovou roli vedle Aktu o UI: zatímco Akt o UI se ptá, zda a supportingjak rolesmí alongsidebýt thesystém AIUI Act:vůbec while the AI Act asks whether and how an AI system may be used at all, thepoužit, GDPR asksse whetherptá, thiszda particularsmí databýt aboutprávě thistento particularkonkrétní personúdaj mayo betéto processedkonkrétní thisosobě way?takto zpracován.

  • ItUplatní appliesse, asjakmile soonjsou aszapojeny personalosobní dataúdaje. isZa involved.osobní Names,údaje schoolse emailpovažují addresses,jména, studentškolní work,e-mailové voiceadresy, recordings,žákovské transcripts,práce, photos,hlasové grades,nahrávky, attendancepřepisy, andfotografie, learning-progressznámky, datadocházka alli countúdaje aso personalvzdělávacím datapokroku (Art.čl. 4). 
  • SomeNěkterá data needsvyžadují extrazvláštní protection.ochranu. HealthInformace information,o biometriczdraví, databiometrické and data revealing racial or ethnic origin, religion or similar traits are “special category data” and are, in principle, off-limits withoutúdaje a specificúdaje exceptionodhalující rasový nebo etnický původ, náboženství či podobné znaky jsou „zvláštní kategorií údajů“ a jejich zpracování je v zásadě nepřípustné bez konkrétní výjimky (Art.čl. 9) —– oneto reasonje thei AIjeden Actz separatelydůvodů, bansproč severalAkt biometric-inferenceo practicesUI insamostatně schools.zakazuje několik praktik biometrického odvozování ve školách.
  • KnowVězte, whokdo isza responsible.co Theodpovídá. schoolŠkola isje normallyzpravidla the “controller”„správcem“; anposkytovatel AIUI, providerkterý processingzpracovává data onjejím thejménem, school’sje behalf is„zpracovatelem“ a “processor”potřebuje andsmlouvu needso azpracování data-processingúdajů, agreementkterá thatjasně spellsstanoví outjeho its obligationspovinnosti (Art.čl. 28). CheckOvěřte thissi beforeto rollingpředtím, anež newnový toolnástroj outzavedete school-wide.v celé škole.
  • Data leaving theopouštějící EU needspotřebují azáruku. safeguard.Mnoho Manyoblíbených popularnástrojů AIUI toolsje arehostováno hosted outside themimo EU. PersonalOsobní dataúdaje maytam onlysmí travelputovat therepouze iftehdy, anpokud adequacyexistuje decisionrozhodnutí oro anotherodpovídající approvedochraně safeguard,nebo suchjiná asschválená standardzáruka, contractualjako clauses,jsou isstandardní insmluvní placedoložky (Art.čl. 44).
  • StudentsŽáci andi staffzaměstnanci keepsi theirzachovávají rights.svá Theypráva. canMohou askse whatzeptat, isjaké heldúdaje aboutjsou them,o havenich itvedeny, correctednechat orsi deleted,je andopravit objectnebo tovymazat decisionsa basedvznést solelynámitku onproti automatedrozhodnutím processingzaloženým thatvýhradně significantlyna affectsautomatizovaném themzpracování, která se jich významně dotýkají (Art.čl. 15– až Art.čl. 22) —– toto právo funguje souběžně s požadavky Aktu o UI na lidský dohled u vysoce rizikových systémů a righttyto thatpožadavky runs alongside, and reinforces, the AI Act’s human-oversight requirements for high-risk systems.posiluje.

WhereKde tohledat find helppomoc

EnforcementVymáhání isje organisedv differentlyjednotlivých in eachzemích EU country.organizováno Becauseodlišně. nationalProtože responsibilitiesse mayvnitrostátní change,odpovědnosti usemohou theměnit, European Commission's currentpoužívejte listaktuální ofseznam nationalvnitrostátních market-surveillanceorgánů authoritiesdohledu nad trhem vedený Evropskou komisí. AnyoneKdokoli (aučitel, teacher,žák, arodič) student,může au parent)tohoto canorgánu lodgepodat astížnost, complaintpokud withse thatdomnívá, authorityže ifbyl theyAkt believe the Act has been breachedporušen (Art.čl. 85). WherePokud avysoce high-riskrizikový system,systém, suchnapříklad asnástroj anpro admissionpřijímací orřízení exam-monitoringnebo tool,dohled haspři ledzkouškách, tovedl ak decisionrozhodnutí, thatkteré significantlyžáka affectsvýznamně aovlivňuje, student,může theyon (ornebo theirjeho parents)rodiče) canrovněž alsopožádat asko forvysvětlení antohoto explanationkonkrétního of that individual decisionrozhodnutí (Art.čl. 86).

NationalVnitrostátní rulespravidla forpro yourvaši countryzemi

TheAkt AIo ActUI isplatí EU-wide,v butcelé enforcementEU, bodies,ale schoolorgány lawdohledu, andškolské data-protectionprávo practicea differpraxe byochrany country.osobních Country-specificúdajů notesse forv thejednotlivých Playbook'szemích partnerliší. countriesZde willbudou bepostupně addeddoplněny here:poznámky specifické pro partnerské země Playbooku:

  • AustriaRakousko
  • CzechiaČesko
  • GermanyNěmecko
  • LatviaLotyšsko
  • SlovakiaSlovensko
  • SloveniaSlovinsko
  • SpainŠpanělsko
Back to top