Skip to main content

1.6 Legislación

TakeMensaje Home messageclave

  • TheLa EULey AIde ActIA isde thela legalUE basis.es la base legal.The EU’sEl rulebookreglamento forde AIla isUE insobre forceIA sinceestá Augusten vigor desde agosto de 2024 andy phasingse inimplementa throughprogresivamente hasta 2027. ItSe appliesaplica notno justsolo techa companies,las butempresas alsotecnológicas, tosino schools.también a los centros educativos.
  • AILa literacyalfabetización isen IA es una obligación, no un curso que marcar como hecho. Los centros educativos deben apoyar a duty,su notpersonal aen courseel todesarrollo tickde off.la Schoolsalfabetización musten support staff in building AI literacy.IA.
  • SeveralVarios AIusos usesde arela bannedIA outright.están prohibidos por completo. AmongEntre them:ellos: inferringinferir students’las emotionsemociones fromdel alumnado a partir de datos faciales o de voz, IA que explota las vulnerabilidades de los menores para distorsionar su comportamiento, y la creación de bases de datos de reconocimiento facial oro vocalla data,inferencia AIde thatrasgos exploitscomo children’sla vulnerabilitiesraza too distortla theirreligión behaviour,a andpartir buildingde facial-recognitiondatos databases or inferring traits like race or religion from biometric data.biométricos.
  • RiskEl dependsriesgo ondepende thede decision,la notdecisión, theno product.del producto. OrdinaryLas writing,herramientas research,habituales translationde andredacción, lesson-planninginvestigación, toolstraducción arey notplanificación high-riskde simplyclases becauseno theyson arede usedalto atriesgo school.por Theyel becomemero high-riskhecho oncede theyusarse influenceen admission,el learningámbito pathways,escolar. examSe outcomesconvierten oren employmentde decisions.alto riesgo en cuanto influyen en la admisión, las trayectorias educativas, los resultados de los exámenes o las decisiones de empleo. Hay que comprender sus límites y estar en condiciones de ignorar o anular su resultado.
  • NotLa everythingLey AI-generatedde needsIA se suma a label.otras leyes, no las sustituye. TheLa disclosurenormativa dutynacional mainlyde sitsprotección withde thedatos, provider;educación, teacher-reviewedempleo, materialprotección withde humanla editorialinfancia controly isderechos exempt.de autor sigue aplicándose junto a ella.
  • High-riskEl AIRGPD needsregula alos humandatos, whono cansolo overrulela it.herramienta. AIIncluso outputun issistema neverde theIA finalque decision.cumpla Youcon mustla understandLey itsde limitsIA andpuede beseguir ableestando toprohibido disregardsi ortrata overridedatos it.
personales Thedel AIalumnado Acto sits on top of other law, it doesn’t replace it. National data protection, education, employment, child protection and copyright law continue to apply alongside it. The GDPR governs the data, not just the tool. Even an AI system that is fine under the AI Act can still be off-limits if it processesdel personal datasin aboutuna students or staff without a validbase legal basis.válida.

IfSi yousolo rememberrecordáis onlyuna onefrase sentencede fromesta this page:página: Useusad AIla toIA supportpara yourapoyar professionalvuestro judgement,criterio notprofesional, replaceno it—stricterpara rulessustituirlo: applyse asaplican soonnormas asmás AIestrictas helpsen makecuanto decisionsla aboutIA grades,ayuda educationala pathwaystomar ordecisiones people.sobre calificaciones, trayectorias educativas o personas.

TheLa EULey AIde ActIA de la UE

TheLa EULey AIde ActIA de la UE (RegulationReglamento (EU)UE) 2024/1689) ises theel EU’sreglamento single,único risk-basedde rulebookla forUE, artificialbasado intelligence.en Insteadel ofriesgo, regulatingpara specificla products,inteligencia itartificial. classifiesEn AIlugar systemsde byregular theproductos riskconcretos, theyclasifica poselos andsistemas attachesde obligationsIA accordinglysegún —el fromriesgo anque outrightsuponen bany forles asigna obligaciones en consecuencia: desde la prohibición total de un pequeño conjunto de prácticas, pasando por obligaciones adicionales para los usos «de alto riesgo», hasta la ausencia de normas especiales para las herramientas cotidianas. Se aplica directamente en todos los Estados miembros, tanto a smallorganizaciones setpúblicas ofcomo practices, through extra duties for “high-risk” uses, to no special rules at all for everyday tools. It applies directly in every member state, to public and private organisations alike.privadas.

TheLa Actnormativa phasesse inimplementa steppor byfases. step.Está Iten hasvigor applieddesde sinceel 1 Augustde agosto de 2024; sincedesde el 2 Februaryde 2025,febrero thede banned2025 practicesya belowson andvinculantes thelas dutyprácticas toprohibidas buildque AIse literacydescriben más abajo y la obligación de desarrollar la alfabetización en IA (Art. 4); area alreadypartir binding; fromdel 2 Augustde 2026,agosto mostde of2026 itsse remainingaplicará provisionsla apply.mayoría de sus disposiciones restantes.

Who¿Quién ises responsibleresponsable fordel theuso usede ofla AI?IA?

IfSi aun schoolcentro introduceseducativo andintroduce controlsy ancontrola AIun system,sistema thede schoolIA, orel schoolcentro authorityo isla usuallyautoridad theeducativa suele ser el deployerresponsable del despliegue (Art. 3(4)). ThePor teacherlo isgeneral, normallyel notdocente ano separatees deployerun whenresponsable usingdel thedespliegue toolindependiente undercuando theusa school’sla instructions,herramienta butsiguiendo mustlas stillinstrucciones followdel thosecentro, instructionspero anddebe allseguir relevantesas schoolinstrucciones andy data-protectiontoda rules.la normativa pertinente en materia escolar y de protección de datos.

TeachersEl needprofesorado tonecesita knowsaber whatqué theyestá are usingusando

SchoolsLos andcentros schooleducativos authoritiesy mustlas takeautoridades appropriateeducativas measuresdeben toadoptar supportlas themedidas developmentoportunas ofpara AIapoyar literacyel amongdesarrollo thosede whola usealfabetización AIen systemsIA onentre theirquienes behalfusan sistemas de IA en su nombre (Art. 4). TheLa AILey Actde doesIA notno specifyespecifica un nivel concreto de competencia, certificado o formato de formación. Estos dependen más bien del sistema de IA utilizado, de cómo se use y de a particularquién levelpueda of competence, certificate or training format. These rather depend on the AI system used, how it is used, and who may be affected.afectar.

AIPrácticas practicesde bannedIA outrightprohibidas forpor schoolscompleto para los centros educativos

TheLa AILey Actde bansIA eightprohíbe AIpor practicescompleto outrightocho prácticas de IA (Art. 5); fourcuatro ofde themellas areson directlydirectamente relevantrelevantes topara schools:los centros educativos:

  1. UsingEl AIuso systemsde insistemas educationalde institutionsIA toen centros educativos para inferinferir emotionsemociones oro intentionsintenciones froma biometricpartir datade datos biométricos (suchcomo aslas students'características facialfaciales oro vocalde characteristics)voz isdel generallyalumnado) forbidden.está Narrowgeneralmente exceptionsprohibido. existExisten forexcepciones medicallimitadas orpor safetymotivos purposesmédicos o de seguridad (Art. 3(39); Art. 5(1)(f)).
  2. AIEstán systemsprohibidos, thatcon exploitindependencia someone’sde vulnerabilitiesla dueintención, tolos agesistemas de IA que exploten las vulnerabilidades de una persona debidas a la edad (ascomo withen children)el caso de los menores), disability,la ordiscapacidad o su situación social oro economiceconómica, situation,de informa aque waydistorsionen thatsu distortscomportamiento theiry behaviourles andcausen causes them harm, are banned regardless of intentdaño (Art. 5(1)(b)).
  3. BuildingEstá orprohibido expandingcrear ao facial-recognitionampliar databaseuna throughbase untargetedde scrapingdatos ofde imagesreconocimiento fromfacial themediante el rastreo indiscriminado de imágenes de internet oro fromde CCTVcircuitos footagecerrados isde banned.televisión This(CCTV). isEsto relevantes ifrelevante asi schoolun considerscentro aeducativo facial-recognitionse toolplantea forusar attendanceuna orherramienta examde monitoringreconocimiento facial para el control de asistencia o la vigilancia de exámenes (Art. 5(1)(e)).
  4. UsingEstá biometricprohibido datausar todatos categorisebiométricos peoplepara incategorizar ordera tolas inferpersonas protectedcon traitsel suchfin asde race,inferir politicalrasgos opinions,protegidos religioncomo orla sexualraza, orientationlas isopiniones banned.políticas, Thisla isreligión relevanto forla anyorientación biometric-basedsexual. tool,Esto suches asrelevante exam-proctoringpara software,cualquier thatherramienta goesbasada beyonden itsdatos statedbiométricos, purposecomo el software de supervisión de exámenes, que vaya más allá de su finalidad declarada (Art. 5(1)(g)).

Does¿El AI-generatedcontenido contentgenerado alwayspor needIA asiempre label?necesita una etiqueta?

IfSi studentsel interactalumnado directlyinteractúa withdirectamente ancon AIun system,sistema suchde asIA, acomo un chatbot, theydebe mustser beinformado informedde thatque theyestá areinteractuando interactingcon withIA. AI.Normalmente Usuallyes theel systemproveedor providerdel issistema responsiblequien fordebe makingdejarlo this clearclaro (Art. 50(1)).

SchoolsLos andcentros teacherseducativos musty discloseel deepfakes,profesorado ordeben AI-generatedseñalar textlos publisheddeepfakes ono matterslos oftextos publicgenerados interest,por whenIA thesepublicados aresobre usedasuntos inde theinterés classroompúblico, cuando se usen en el aula (Art. 50(4)). ThisEste requirementrequisito doesno notse applyaplica wherecuando theel AI-generatedcontenido contentgenerado haspor undergoneIA effectiveha humansido reviewobjeto orde una revisión humana efectiva o de control editorial, y una persona o institución asume la responsabilidad editorial control,de andsu apublicación. personPor ortanto, institutionuna assumesficha editorialde responsibilitytrabajo forasistida itspor publication.IA Any AI-assistedrevisada worksheetpor reviewedun bydocente ano teacherrequiere thereforeautomáticamente doesuna not automatically require a label.etiqueta.

WhenCuándo AIla inIA educationen becomesla high-riskeducación se convierte en alto riesgo

OrdinaryLas writing,herramientas translation,habituales researchde andredacción, lesson-planningtraducción, toolsinvestigación arey notplanificación high-riskde simplyclases becauseno theyson arede usedalto forriesgo work.por Classificationel dependsmero onhecho thede system'susarse intendeden purpose,el nottrabajo. simplyLa onclasificación whichdepende productde isla usedfinalidad prevista del sistema, no simplemente del producto que se use (Art. 6 · AnnexAnexo III).

AILos systemssistemas mayde beIA classifiedpueden asclasificarse high-riskcomo whende theyalto areriesgo intendedcuando to:están destinados a:

ForPara Teachersel profesorado ForPara Schoolslos centros educativos
  • decidedecidir aboutsobre students'el access,acceso, admissionla oradmisión assignmento tola educationalasignación ordel vocationalalumnado institutionsa andcentros programmes;o programas educativos o de formación profesional;
  • evaluateevaluar students'los learningresultados outcomesde oraprendizaje steerdel theiralumnado learningo processes;dirigir sus procesos de aprendizaje;
  • assessvalorar theel appropriatenivel leveleducativo ofadecuado educationque aun studentalumno willo receivealumna orrecibirá cano access;al orque podrá acceder; o
  • detectdetectar students'comportamientos prohibitedprohibidos behaviourdel duringalumnado examinations.durante los exámenes.

(AnnexAnexo III, pointpunto 3)
  • recruitcontratar oro selectseleccionar teachers,docentes, includingincluida screeningla applications;selección de candidaturas;
  • decidedecidir onsobre contractlas terms,condiciones promotioncontractuales, orla terminationpromoción ofo ala teacher'sfinalización employment;de la relación laboral de un docente;
  • allocateasignar taskstareas baseden onfunción adel teacher'scomportamiento behaviouro orlos personalrasgos traits;personales orde un docente; o
  • evaluateevaluar teachers'el performance.desempeño del profesorado.

(AnnexAnexo III, pointpunto 4)

AUna limitedherramienta checkingde orcomprobación preparatoryo toolpreparación maylimitada alsotambién fallpuede outsidequedar thefuera high-riskde categoryla ifcategoría itde doesalto notriesgo significantlysi influenceno ainfluye decision.de However,forma ansignificativa educationen systemuna thatdecisión. profilesSin individualsembargo, isun alwayssistema considerededucativo high-risk.que elabora perfiles de personas se considera siempre de alto riesgo.

WhatQué high-riskimplica AIla meansIA forde schoolsalto andriesgo teacherspara los centros educativos y el profesorado

ClassificationQue ofun ansistema AIde systemIA asse high-riskclasifique doescomo notde automaticallyalto ruleriesgo itno outexcluye fromautomáticamente usesu inuso schools.en Butlos high-riskcentros systemseducativos. comePero withlos obligationssistemas de alto riesgo conllevan obligaciones (Art. 26):

TheseEstas obligationsobligaciones forpara high-riskla AIIA inde educationalto applyriesgo fromen el ámbito educativo se aplican a partir del 2 Decemberde diciembre de 2027, —aunque butlas theprohibiciones prohibitionsanteriores abovey andla theobligación AI-literacyde dutyalfabetización alreadyen applyIA today.ya se aplican hoy.

ForPara Teachersel profesorado ForPara Schoolslos centros educativos
  • useusarla itsolo onlypara forsu itsfinalidad approvedaprobada purposey andseguir followsus its instructions;instrucciones;
  • dono nottratar treatsu itsresultado outputcomo asuna decisión definitiva;
comprender sus principales limitaciones y las fuentes de error más probables; estar atentos a finalla decision;dependencia excesiva de resultados aparentemente convincentes; y understandestar itspreparados mainpara limitationsignorar ando likelyanular sourcessu of error; watch for overreliance on apparently convincing results; and be prepared to disregard or override its output.resultado.
  • provideproporcionar competentuna andsupervisión authorisedhumana humancompetente oversight;y autorizada;
  • ensuregarantizar thatque anylos inputdatos datade underentrada itsbajo su control issean relevantpertinentes andy sufficientlysuficientemente representative;representativos;
  • monitorsupervisar theel systemsistema andy respondresponder toante risksriesgos oro seriousincidentes incidents;graves;
  • keepconservar automaticallylos generatedregistros logsgenerados forautomáticamente atdurante leastal sixmenos monthsseis wheremeses thosecuando logsdichos areregistros underestén itsbajo su control; andy
  • informinformar students,con teachersantelación oral affectedalumnado, peopleal inprofesorado advanceo whena thelas systempersonas assistsafectadas decision-makingcuando aboutel them.sistema contribuya a tomar decisiones sobre ellas.

PublicLos bodiesorganismos andpúblicos privatey organisationslas providingorganizaciones publicprivadas servicesque mayprestan alsoservicios havepúblicos totambién completepueden atener fundamentalque rightsrealizar impactuna assessmentevaluación beforede usingimpacto high-risksobre AIlos derechos fundamentales antes de usar IA de alto riesgo (Art. 27). PublicLas authoritiesautoridades andpúblicas organisationsy actinglas onorganizaciones theirque behalfactúen mayen additionallysu havenombre topueden registerademás thetener systemque inregistrar theel EUsistema databaseen la base de datos de la UE (Art. 49). WhetherLa thisresponsabilidad isde thehacerlo, responsibilityya ofsea thedel schoolcentro oreducativo itso governingde authoritysu dependsautoridad oneducativa, thedepende nationaldel schoolsistema system.escolar nacional.

TheLa AILey Actde isIA notno thees onlyla lawúnica thatnormativa mattersrelevante

TheLa AILey Actde doesIA notno replacesustituye europeana orla nationalnormativa regulationseuropea ono datanacional protection,en education,materia employmentde andprotección workerde participation,datos, childeducación, protectionempleo ory copyrightparticipación de los trabajadores, protección de la infancia o derechos de autor (Art. 2(7)). ForPor example,ejemplo, theque factuna thatherramienta no sea de alto riesgo no significa que se puedan subir a toolella istrabajos notdel high-riskalumnado doeso notdatos mean that you may upload students' work or personal data to it.personales.

AUna toolherramienta maypuede beser acceptableaceptable underconforme thea AIla ActLey butde stillIA prohibitedy, byaun data-protectionasí, lawestar orprohibida yourpor school'sla rules.normativa de protección de datos o por las normas de vuestro centro.

TheEl GDPRRGPD

TheEl GDPRRGPD (RegulationReglamento (EU)UE) 2016/679) ises thela EU’snormativa lawde onla dataUE protection.en Itmateria playsde protección de datos. Desempeña un papel complementario junto a supportingla roleLey alongsidede theIA: AImientras Act:la whileLey thede AIIA Actse askspregunta whethersi andy howcómo anpuede AIusarse systemun maysistema bede usedIA aten all,general, theel GDPRRGPD asksse whetherpregunta thissi particularestos datadatos aboutconcretos thissobre particularesta personpersona mayconcreta bepueden processedtratarse thisde way?esta manera.

  • ItSe appliesaplica asen sooncuanto asintervienen personaldatos data is involved.personales. Names,Nombres, schooldirecciones emailde addresses,correo studentelectrónico work,escolares, voicetrabajos recordings,del transcripts,alumnado, photos,grabaciones grades,de attendancevoz, andtranscripciones, learning-progressfotografías, datacalificaciones, allasistencia county asdatos personalde dataprogreso de aprendizaje son todos datos personales (Art. 4). 
  • SomeAlgunos datadatos needsnecesitan extraprotección protection.adicional. HealthLos information,datos biometricde datasalud, andlos datadatos revealingbiométricos y los datos que revelen el origen racial oro ethnicétnico, origin,la religionreligión oro similarrasgos traitssimilares areson “special«categorías categoryespeciales data”de anddatos» are,y inestán, principle,en off-limitsprincipio, withoutprohibidos asin specificuna exceptionexcepción específica (Art. 9) — oneuna reasonde thelas AIrazones Actpor separatelylas bansque severalla biometric-inferenceLey practicesde inIA schools.prohíbe además, por separado, varias prácticas de inferencia biométrica en los centros educativos.
  • KnowHay whoque issaber responsible.quién es responsable. TheEl schoolcentro iseducativo normallysuele theser “controller”el «responsable del tratamiento»; anun AIproveedor providerde processingIA dataque ontrate thedatos school’spor behalfcuenta isdel acentro “processor”es andun needs«encargado adel data-processingtratamiento» agreementy thatnecesita spellsun outacuerdo itsde obligationstratamiento de datos que detalle sus obligaciones (Art. 28). CheckConviene thiscomprobar beforeesto rollingantes ade newimplantar tooluna outnueva school-wide.herramienta en todo el centro.
  • DataLos leavingdatos theque EUsalen needsde ala safeguard.UE necesitan una salvaguarda. ManyMuchas popularherramientas AIde toolsIA arepopulares hostedestán outsidealojadas thefuera EU.de Personalla dataUE. mayLos onlydatos travelpersonales theresolo ifpueden anviajar adequacyallí decisionsi orexiste anotheruna approveddecisión safeguard,de suchadecuación asu standardotra contractualsalvaguarda clauses,aprobada, iscomo incláusulas placecontractuales tipo (Art. 44).
  • StudentsEl andalumnado staffy keepel theirpersonal rights.conservan sus derechos. TheyPueden cansolicitar askinformación whatsobre islo heldque aboutse them,conserva havesobre itellos, correctedpedir orsu deleted,corrección ando objecteliminación, toy decisionsoponerse baseda solelydecisiones onbasadas automatedúnicamente processingen thatel significantlytratamiento affectsautomatizado themque les afecten de forma significativa (Art. 15–Art. 22) — aun rightderecho thatque runsse alongside,suma andy reinforces,refuerza thelos AIrequisitos Act’sde human-oversightsupervisión requirementshumana forde high-riskla systems.Ley de IA para los sistemas de alto riesgo.

WhereDónde toencontrar find helpayuda

EnforcementLa isaplicación organisedde differentlyla innormativa eachse EUorganiza country.de Becauseforma nationaldistinta responsibilitiesen maycada change,país usede thela EuropeanUE. Commission'sDado currentque las responsabilidades nacionales pueden cambiar, consultad la lista actualizada de la Comisión Europea de listautoridades ofnacionales nationalde market-surveillancevigilancia authoritiesdel mercado. AnyoneCualquier persona (aun teacher,docente, aun student,alumno, aun parent)progenitor) canpuede lodgepresentar auna complaintreclamación withante thatesa authorityautoridad ifsi theyconsidera believeque these Actha hasincumplido beenla breachedLey de IA (Art. 85). WhereCuando un sistema de alto riesgo, como una herramienta de admisión o de vigilancia de exámenes, ha llevado a high-riskuna system,decisión suchque asafecta an admission or exam-monitoring tool, has led tosignificativamente a decisionun thatalumno significantlyo affectsalumna, a student, theyeste (oro theirsus parents)progenitores) cantambién alsopuede asksolicitar foruna anexplicación explanationde ofesa thatdecisión individual decisionconcreta (Art. 86).

NationalNormativa rulesnacional forde yourvuestro countrypaís

TheLa AILey Actde isIA EU-wide,es butde enforcementaplicación bodies,en schooltoda lawla andUE, data-protectionpero practicelos differorganismos byde country.aplicación, Country-specificla notesnormativa forescolar they Playbook'sla partnerpráctica countriesen willmateria bede addedprotección here:de datos varían según el país. Aquí se añadirán notas específicas de cada país socio del Playbook:

  • Austria
  • CzechiaChequia
  • GermanyAlemania
  • LatviaLetonia
  • SlovakiaEslovaquia
  • SloveniaEslovenia
  • SpainEspaña
Back to top