Skip to main content

1.6 Lexislación

Aviso: Investigamos este capítulo con coidado, pero o dereito da IA é un ámbito que cambia rapidamente. As normas poden ter cambiado desde a publicación, polo que debe comprobar sempre a situación xurídica vixente e adaptala á lexislación nacional cando sexa necesario. Este capítulo non constitúe asesoramento xurídico.

TakeMensaxe Home messageclave

  • TheO EURegulamento AIde ActIA isda theUE legalé basis.a base xurídica. TheO EU’smarco rulebooknormativo forda AIUE ispara ina forceIA sinceestá Augusten vigor desde agosto de 2024 ande phasingaplícase inde throughforma progresiva ata 2027. ItNon appliessó notafecta justás techempresas companies,tecnolóxicas, butsenón alsotamén toaos schools.centros educativos.
  • AIA literacyalfabetización isen aIA duty,é notunha aobriga, coursenon toun tickcurso off.que marcar como feito. SchoolsOs mustcentros supportdeben staffapoiar ino buildingseu AIpersoal literacy.no desenvolvemento da alfabetización en IA.
  • SeveralVarios AIusos usesda areIA bannedestán outright.directamente prohibidos. AmongEntre them:eles: inferringinferir students’as emotionsemocións fromdo alumnado a partir de datos faciais ou de voz, a IA que explota as vulnerabilidades dos menores para distorsionar o seu comportamento, e crear bases de datos de recoñecemento facial orou vocalinferir data,trazos AIcomo thata exploitsraza children’sou vulnerabilitiesa torelixión distorta theirpartir behaviour,de anddatos building facial-recognition databases or inferring traits like race or religion from biometric data.biométricos.
  • RiskO dependsrisco ondepende theda decision,decisión, notnon thedo product.produto. OrdinaryAs writing,ferramentas research,habituais translationde andescritura, lesson-planninginvestigación, toolstradución aree notplanificación high-riskde simplyclases becausenon theyson arede usedalto atrisco school.simplemente Theyporque becomese high-riskusen oncenun theycentro influenceeducativo. admission,Pasan learninga pathways,selo examcando outcomesinflúen orna employmentadmisión, decisions.nos itinerarios de aprendizaxe, nos resultados dos exames ou en decisións laborais.
  • NotNon everythingtodo AI-generatedo needsque xera a label.IA necesita unha etiqueta. TheA disclosureobriga dutyde mainlyinformación sitsrecae withprincipalmente theno provider;provedor; teacher-reviewedo material withrevisado humanpolo profesorado con control editorial controlhumano isestá exempt.exento.
  • High-riskA AIIA needsde alto risco necesita unha persoa que poida invalidala. O resultado da IA nunca é a humandecisión whofinal. canVostede overruledebe it.comprender AIos outputseus islímites nevere theser finalcapaz decision.de Youdesatendelo mustou understand its limits and be able to disregard or override it.anulalo.
  • TheO AIRegulamento Actde sitsIA onsúmase topao ofresto otherda law,lexislación, itnon doesn’ta replace it.substitúe. NationalA datanormativa protection,nacional education,de employment,protección childde protectiondatos, andeducación, copyrightemprego, lawprotección continueda toinfancia applye alongsidedereitos it.de autor segue aplicándose xunto a el.
  • TheO GDPRRXPD governsregula theos data,datos, notnon just the tool. Even an AI system that is fine under the AI Act can still be off-limits if it processes personal data about students or staff withoutsó a validferramenta. legalMesmo basis.un sistema de IA que cumpra o Regulamento de IA pode estar vetado se trata datos persoais do alumnado ou do persoal sen unha base xurídica válida.

IfSe yousó rememberlembra onlyunha onefrase sentencedesta from this page:páxina: Useuse AIa toIA supportpara yourapoiar professionalo judgement,seu notcriterio replaceprofesional, it—stricternon rulespara applysubstituílo; asaplícanse soonnormas asmáis AIestritas helpsen makecanto decisionsa aboutIA grades,axuda educationala pathwaystomar ordecisións people.sobre cualificacións, itinerarios educativos ou persoas.

TheO EURegulamento AIde ActIA da UE

TheO EURegulamento AIde ActIA da UE (RegulationRegulamento (EU)UE) 2024/1689) isé theo EU’smarco single,normativo risk-basedúnico rulebookda forUE artificial intelligence. Instead of regulating specific products, it classifies AI systems by the risk they pose and attaches obligations accordingly — from an outright ban forpara a smallintelixencia setartificial, of practices, through extra duties for “high-risk” uses, tobaseado no specialrisco. rulesEn atlugar allde forregular everydayprodutos tools.concretos, Itclasifica appliesos directlysistemas inde everyIA membersegundo state,o torisco publicque andsupoñen privatee organisationsasígnalles alike.as obrigas correspondentes: desde a prohibición directa dun pequeno conxunto de prácticas, pasando por obrigas adicionais para os usos de “alto risco”, ata ningunha norma especial para as ferramentas cotiás. Aplícase directamente en todos os Estados membros, tanto a organizacións públicas como privadas.

TheO ActRegulamento phasesaplícase inde stepforma byprogresiva. step.Está Iten hasvigor applieddesde sinceo 1 Augustde agosto de 2024; sincedesde o 2 Februaryde 2025,febreiro thede banned2025 practicesxa belowson andvinculantes theas dutyprácticas toprohibidas buildque AIse literacydescriben máis abaixo e a obriga de desenvolver a alfabetización en IA (Art.art. 4); aredesde already binding; fromo 2 Augustde 2026,agosto mostde of2026 itsaplícanse remaininga provisionsmaior apply.parte das disposicións restantes.

Fig1_1_6.jpg

Fig. 1.1: The“A "AIfolla roadmap"de ruta da IA” (imaxe xerada con IA, ...)

WhoQuen isé responsibleresponsable fordo theuso useda of AI?IA?

IfSe un centro introduce e controla un sistema de IA, o centro ou a schooladministración introduceseducativa andadoita controlsser an AI system, the school or school authority is usually theo deployerresponsable do despregamento (Art.art. 3(4)).3, The teacher is normally not a separate deployer when using the tool under the school’s instructions, but must still follow those instructions and all relevant school and data-protection rules.

Teachers need to know what they are using

Schools and school authorities must take appropriate measures to support the development of AI literacy among those who use AI systems on their behalf (Art.punto 4). TheO AIdocente Actnormalmente doesnon noté specifyun responsable do despregamento independente cando usa a particularferramenta levelsegundo ofas competence,instrucións certificatedo orcentro, trainingpero format.debe Theseseguir ratheresas dependinstrucións one thetodas AIas systemnormas used,aplicables howdo itcentro ise used,de andprotección whode may be affected.datos.

AIO practicesprofesorado banneddebe outrightsaber forque schoolsestá a usar

TheOs AIcentros Acte bansas eightadministracións AIeducativas practicesdeben outrightadoptar medidas axeitadas para apoiar o desenvolvemento da alfabetización en IA das persoas que usan sistemas de IA no seu nome (Art.art. 4). O Regulamento de IA non especifica un nivel de competencia, un certificado nin un formato de formación concretos. Estes dependen máis ben do sistema de IA empregado, de como se usa e de a quen pode afectar.

Prácticas de IA directamente prohibidas nos centros educativos

O Regulamento de IA prohibe directamente oito prácticas de IA (art. 5); fourcatro ofdelas themson aredirectamente directlyrelevantes relevantpara toos schools:centros educativos:

  1. UsingO AIuso systemsde insistemas educationalde institutionsIA tonas institucións educativas para inferinferir emotionsemocións orou intentionsintencións froma biometricpartir datade datos biométricos (suchcomo as students'características facialfaciais orou vocalde characteristics)voz isdo generallyalumnado) forbidden.está Narrowen exceptionsxeral existprohibido. forExisten medicalexcepcións orlimitadas safetypor purposesmotivos médicos ou de seguridade (Art.art. 3(39)3, punto 39; Art.art. 5(1)(f)5, apartado 1, letra f).
  2. AIOs systemssistemas thatde exploitIA someone’sque vulnerabilitiesexplotan dueas tovulnerabilidades agedunha persoa derivadas da súa idade (ascomo withno children)caso dos menores), disability,dunha ordiscapacidade ou da súa situación social orou economiceconómica, situation,de inmodo aque waydistorsionan thato distortsseu theircomportamento behavioure andlle causescausan themun harm,prexuízo, areestán bannedprohibidos regardlesscon ofindependencia intentda intención (Art.art. 5(1)(b)5, apartado 1, letra b).
  3. BuildingEstá orprohibido expandingcrear ou ampliar bases de datos de recoñecemento facial mediante a facial-recognitionextracción databasenon throughselectiva untargetedde scrapingimaxes of images from thede internet orou fromde CCTVgravacións footagede iscámaras banned.de Thisvideovixilancia. isIsto relevanté ifrelevante se un centro se propón usar unha ferramenta de recoñecemento facial para controlar a schoolasistencia considersou asupervisar facial-recognition tool for attendance or exam monitoringexames (Art.art. 5(1)(e)5, apartado 1, letra e).
  4. UsingEstá biometricprohibido datausar todatos categorisebiométricos peoplepara incategorizar orderpersoas toco inferfin protectedde traitsinferir suchtrazos protexidos como a raza, as race,opinións politicalpolíticas, opinions,a religionrelixión orou sexuala orientationorientación issexual. banned.Isto Thisé isrelevante relevantpara forcalquera anyferramenta biometric-basedbaseada tool,en suchdatos asbiométricos, exam-proctoringcomo software,o thatsoftware goesde beyondsupervisión itsde statedexames, purposeque vaia máis alá da súa finalidade declarada (Art.art. 5(1)(g)5, apartado 1, letra g).

DoesO AI-generatedcontido contentxerado alwayspola needIA necesita sempre unha etiqueta?

Se o alumnado interactúa directamente cun sistema de IA, como un chatbot, debe ser informado de que está a label?interactuar

Ifcunha studentsIA. interactNormalmente directlyé witho anprovedor AIdo system,sistema sucho asresponsable ade chatbot,deixalo they must be informed that they are interacting with AI. Usually the system provider is responsible for making this clearclaro (Art.art. 50(1)50, apartado 1).

SchoolsOs andcentros teacherse musto discloseprofesorado deepfakes,deben orrevelar AI-generatedas textultrafalsificacións published(deepfakes) onou mattersos oftextos publicxerados interest,por whenIA thesepublicados aresobre usedasuntos inde theinterese classroompúblico cando se usen na aula (Art.art. 50(4)50, apartado 4). ThisEste requirementrequisito doesnon notse applyaplica wherecando theo AI-generatedcontido contentxerado haspor undergoneIA effectivefoi humansometido reviewa orunha revisión humana efectiva ou a control editorial control,e andunha persoa ou institución asume a person or institution assumesresponsabilidade editorial responsibilityda forsúa itspublicación. publication.Por Aniso, AI-assistedunha worksheetficha reviewedde bytraballo elaborada con axuda da IA e revisada por un docente non require automaticamente unha etiqueta.

Cando a teacherIA thereforena doeseducación not automatically requirepasa a label.ser

Whende AIalto in education becomes high-riskrisco

OrdinaryAs writing,ferramentas translation,habituais researchde andescritura, lesson-planningtradución, toolsinvestigación aree notplanificación high-riskde simplyclases becausenon theyson arede usedalto forrisco work.simplemente Classificationporque dependsse onusen theno system'straballo. intendedA purpose,clasificación notdepende simplyda onfinalidade whichprevista productdo issistema, usednon simplemente de que produto se use (Art.art. 6 · AnnexAnexo III).

AIOs systemssistemas mayde beIA classifiedpoden asclasificarse high-riskcomo whende theyalto arerisco intendedcando to:están destinados a:

ForPara Teacherso profesorado ForPara Schoolsos centros
  • decidedecidir aboutsobre students'o access,acceso, admissiona oradmisión assignmentou toa educationalasignación ordo vocationalalumnado institutionsa andinstitucións programmes;e programas educativos ou de formación profesional;
  • evaluateavaliar students'os learningresultados outcomesde oraprendizaxe steerdo theiralumnado learningou processes;orientar os seus procesos de aprendizaxe;
  • assessdeterminar theo appropriatenivel leveleducativo ofadecuado educationque arecibirá studentun willalumno receiveou orao canque access;poderá oracceder; ou
  • detectdetectar students'comportamentos prohibitedprohibidos behaviourdo duringalumnado examinations.durante os exames.

(AnnexAnexo III, pointpunto 3)

  • recruitcontratar orou selectseleccionar teachers,docentes, includingincluída screeninga applications;criba de candidaturas;
  • decidedecidir onsobre contractas terms,condicións promotiondo or termination ofcontrato, a teacher'spromoción employment;ou a extinción da relación laboral dun docente;
  • allocateasignar taskstarefas baseden onfunción ado teacher'scomportamento behaviourou ordos personaltrazos traits;persoais ordun docente; ou
  • evaluateavaliar teachers'o performance.rendemento do profesorado.

(AnnexAnexo III, pointpunto 4)

AUnha limitedferramenta checkinglimitada orde preparatorycomprobación toolou maypreparación alsotamén fallpode outsidequedar thefóra high-riskda categorycategoría ifde italto doesrisco notse significantlynon influenceinflúe de maneira significativa nunha decisión. Porén, un sistema educativo que elabora perfís de persoas considérase sempre de alto risco.

Que significa a decision.IA However,de analto educationrisco systempara thatos profilescentros individualse iso always considered high-risk.

What high-risk AI means for schools and teachersprofesorado

ClassificationQue ofun ansistema AIde systemIA asse high-riskclasifique doescomo notde automaticallyalto rulerisco itnon outexclúe fromautomaticamente useo inseu schools.uso Butnos high-riskcentros systemseducativos. comePero withos obligationssistemas de alto risco levan consigo obrigas (Art.art. 26):

TheseEstas obligationsobrigas forpara high-riska AIIA inde educationalto applyrisco fromna educación aplícanse desde o 2 Decemberde decembro de 2027, —pero butas theprohibicións prohibitionsanteriores abovee anda theobriga AI-literacyde dutyalfabetización alreadyen applyIA today.xa se aplican hoxe.

ForPara Teacherso profesorado ForPara Schoolsos centros
  • useusalo itsó onlypara fora itssúa approvedfinalidade purposeautorizada ande followseguir itsas instructions;súas instrucións;
  • donon nottratar treato itsseu outputresultado como unha decisión final;
comprender as asúas finalprincipais decision;limitacións e as fontes de erro máis probables; understandevitar itsa maindependencia limitationsexcesiva andde likelyresultados sourcesaparentemente ofconvincentes; error;e watchestar fordisposto overreliancea ondesatender apparentlyou convincinganular results;o andseu be prepared to disregard or override its output.resultado.
  • providegarantir competentunha andsupervisión authorisedhumana humancompetente oversight;e autorizada;
  • ensureasegurarse thatde anyque inputos datadatos underde itsentrada que estean baixo o seu control issexan relevantpertinentes ande sufficientlysuficientemente representative;representativos;
  • monitorsupervisar theo systemsistema ande respondresponder toaos risksriscos orou seriousincidentes incidents;graves;
  • keepconservar automaticallydurante generatedpolo logsmenos forseis atmeses leastos sixrexistros monthsxerados whereautomaticamente, thosecando logsestean arebaixo undero itsseu control; ande
  • informinformar students,con teachersantelación oro affectedalumnado, peopleo inprofesorado advanceou whenas thepersoas systemafectadas assistscando decision-makingo aboutsistema them.axude a tomar decisións sobre eles.

PublicOs bodiesorganismos andpúblicos privatee organisationsas providingentidades publicprivadas servicesque mayprestan alsoservizos havepúblicos totamén completepoden ater fundamentalque rightsrealizar impactunha assessmentavaliación beforede usingimpacto high-risksobre AIos dereitos fundamentais antes de usar IA de alto risco (Art.art. 27). PublicAs authoritiesautoridades andpúblicas organisationse actingas onentidades theirque behalfactúan mayno additionallyseu havenome topoden registerter theque systemrexistrar inademais theo EUsistema databasena base de datos da UE (Art.art. 49). WhetherQue thisisto iscorresponda theao responsibilitycentro ofou theá schoolsúa oradministración itseducativa governingdepende authoritydo dependssistema oneducativo thede nationalcada school system.país.

TheO AIRegulamento Actde isIA notnon theé onlya lawúnica thatlei mattersque importa

TheO AIRegulamento Actde doesIA notnon replacesubstitúe europeana ornormativa nationaleuropea regulationsnin ona datanacional protection,sobre education,protección employmentde anddatos, workereducación, participation,emprego childe protectionparticipación ordos copyrighttraballadores, protección da infancia ou dereitos de autor (Art.art. 2(7)2, apartado 7). ForPor example,exemplo, theo factfeito thatde que unha ferramenta non sexa de alto risco non significa que poida subir a toolela istraballos notou high-riskdatos doespersoais notdo mean that you may upload students' work or personal data to it.alumnado.

AUnha toolferramenta maypode beser acceptableaceptable undersegundo theo AIRegulamento Actde butIA stille, prohibitedaínda byasí, data-protectionestar lawprohibida orpola yournormativa school'sde rules.protección de datos ou polas normas do seu centro.

TheO GDPRRXPD

TheO GDPRRXPD (RegulationRegulamento xeral de protección de datos, Regulamento (EU)UE) 2016/679) is the EU’s law on data protection. It playsé a supportinglei roleda alongsideUE thesobre AIprotección Act:de whiledatos. theDesempeña AIun Actpapel askscomplementario whetherao anddo howRegulamento ande AIIA: systemmentres mayque beeste usedpregunta atse all,un thesistema GDPRde asksIA apode narrowerusarse questione —como, mayo thisRXPD particularformula dataunha aboutpregunta thismáis particularconcreta: personpoden betratarse processeddeste thisxeito way?estes Meetingdatos oneconcretos doessobre notesta automaticallypersoa meanconcreta? youCumprir haveun metnon thesignifica other.automaticamente cumprir o outro.

  • ItAplícase appliesen canto hai datos persoais en xogo. Os nomes, os enderezos de correo electrónico do centro, os traballos do alumnado, as soongravacións de voz, as personal data is involved. Names, school email addresses, student work, voice recordings, transcripts, photos, grades, attendance and learning-progress data all counttranscricións, as personalfotografías, dataas cualificacións, a asistencia e os datos de progreso na aprendizaxe son datos persoais (Art.art. 4). MostA AImaioría toolsdas usedferramentas inde classIA touchque atse leastusan onena ofaula these.afectan polo menos a un deles.
  • YouNecesítase needunha base xurídica para tratalos. Unha obriga legal ou o cumprimento dunha misión de interese público son as bases nas que adoitan apoiarse os centros; o consentimento tamén é posible, pero debe ser libre e, no caso do alumnado máis novo, debe outorgalo a lawfulnai, basiso topai processou it.o Atitor legal obligation or a task carried out in the public interest are the bases schools usually rely on; consent is also possible but must be freely given and, for younger students, given by a parent or guardian (Art.art. 6, Art.art. 8).
  • SomeAlgúns datadatos needsnecesitan extraprotección protection.adicional. HealthA information,información biometricsobre dataa andsaúde, dataos revealingdatos biométricos e os datos que revelan a orixe racial orou ethnic origin, religion or similar traits are “special category data” and are, in principle, off-limits withoutétnica, a specificrelixión exceptionou trazos semellantes son “categorías especiais de datos” e, en principio, están vetados salvo que se aplique unha excepción específica (Art.art. 9); —este oneé reasonun thedos AImotivos Actpolos separatelyque banso severalRegulamento biometric-inferencede practicesIA inprohibe schools.por separado varias prácticas de inferencia biométrica nos centros educativos.
  • KnowSaiba whoquen isé responsible.o responsable. TheO schoolcentro isadoita normallyser theo “controller”responsable do tratamento”; anun AIprovedor providerde processingIA dataque ontrata thedatos school’spor behalfconta isdo acentro é un “processor”encargado anddo needstratamento” ae data-processingnecesita agreementun thatcontrato spellsde outencargo itsdo obligationstratamento que detalle as súas obrigas (Art.art. 28). CheckCompróbeo thisantes beforede rollingimplantar aunha newnova toolferramenta outen school-wide.todo o centro.
  • DataOs leavingdatos theque EUsaen needsda aUE safeguard.necesitan garantías. ManyMoitas popularferramentas AIde toolsIA arepopulares hostedestán outsidealoxadas thefóra EU.da PersonalUE. dataOs maydatos onlypersoais travelsó therepoden iftransferirse analí adequacyse decisionexiste orunha anotherdecisión approvedde safeguard,adecuación suchou outra garantía aprobada, como as standardcláusulas contractualcontractuais clauses, is in placetipo (Art.art. 44).
  • StudentsO andalumnado staffe keepo theirpersoal rights.conservan os seus dereitos. TheyPoden canpreguntar askque whatdatos isse heldgardan aboutsobre them,eles, havesolicitar ita correctedsúa orrectificación deleted,ou andsupresión objecte toopoñerse decisionsa baseddecisións solelybaseadas onunicamente automatednun processingtratamento thatautomatizado significantlyque affectsos themafecten significativamente (Art.art. 15–Art.art. 22); —trátase adun rightdereito thatque runsse alongside,suma andaos reinforces,requisitos thede AIsupervisión Act’shumana human-oversightdo requirementsRegulamento forde high-riskIA systems.para os sistemas de alto risco e que os reforza.

InNa practice:práctica: beforeantes feedingde realintroducir studentdatos orreais staffdo dataalumnado intoou ando AIpersoal tool,nunha checkferramenta thatde yourIA, schoolcomprobe hasque approvedo it,seu share no more personal data than the task needs, and prefer anonymised or fictional examples when just tryingcentro a toolaprobou, out.non comparta máis datos persoais dos que require a tarefa e, cando só estea a probar unha ferramenta, prefira exemplos anonimizados ou ficticios.

WhereOnde toatopar find helpaxuda

EnforcementA issupervisión organiseddo differentlycumprimento inorganízase eachde EUforma country.diferente Becauseen nationalcada responsibilitiespaís mayda change,UE. useComo theas Europeancompetencias Commission'snacionais currentpoden listcambiar, of national market-surveillance authorities. Anyone (a teacher,consulte a student,lista aactualizada parent)de canautoridades lodgenacionais ade complaintvixilancia withdo thatmercado authorityda ifComisión theyEuropea. believeCalquera thepersoa Act(un hasdocente, beenun breachedalumno, unha nai ou un pai) pode presentar unha reclamación ante esa autoridade se considera que se infrinxiu o Regulamento (Art.art. 85). WhereCando un sistema de alto risco, como unha ferramenta de admisión ou de supervisión de exames, deu lugar a high-riskunha system,decisión suchque asafecta an admission or exam-monitoring tool, has led tosignificativamente a decisionun thatalumno, significantlyeste affects(ou a student,súa theyfamilia) (ortamén theirpode parents)solicitar canunha alsoexplicación askdesa for an explanation of thatdecisión individual decision (Art.art. 86).

NationalNormas rulesnacionais fordo yourseu countrypaís

TheO AIRegulamento Actde isIA EU-wide,aplícase buten enforcementtoda bodies,a schoolUE, lawpero andos data-protectionorganismos practicede differsupervisión, bya country.normativa Country-specificeducativa notese fora thepráctica Playbook'sen partnermateria countriesde willprotección bede addeddatos here:varían segundo o país. Aquí engadiranse notas específicas para os países socios do Playbook:

  • Austria
  • CzechiaChequia
  • GermanyAlemaña
  • LatviaLetonia
  • PolandPolonia
  • SlovakiaEslovaquia
  • SloveniaEslovenia
  • SpainEspaña