1.6 Lexislación
Aviso: Investigamos este capítulo con coidado, pero o dereito da IA é un ámbito que cambia rapidamente. As normas poden ter cambiado desde a publicación, polo que debe comprobar sempre a situación xurídica vixente e adaptala á lexislación nacional cando sexa necesario. Este capítulo non constitúe asesoramento xurídico.
Mensaxe clave
- O Regulamento de IA da UE é a base xurídica. O marco normativo da UE para a IA está en vigor desde agosto de 2024 e aplícase de forma progresiva ata 2027. Non só afecta ás empresas tecnolóxicas, senón tamén aos centros educativos.
- A alfabetización en IA é unha obriga, non un curso que marcar como feito. Os centros deben apoiar o seu persoal no desenvolvemento da alfabetización en IA.
- Varios usos da IA están directamente prohibidos. Entre eles: inferir as emocións do alumnado a partir de datos faciais ou de voz, a IA que explota as vulnerabilidades dos menores para distorsionar o seu comportamento, e crear bases de datos de recoñecemento facial ou inferir trazos como a raza ou a relixión a partir de datos biométricos.
- O risco depende da decisión, non do produto. As ferramentas habituais de escritura, investigación, tradución e planificación de clases non son de alto risco simplemente porque se usen nun centro educativo. Pasan a selo cando inflúen na admisión, nos itinerarios de aprendizaxe, nos resultados dos exames ou en decisións laborais.
- Non todo o que xera a IA necesita unha etiqueta. A obriga de información recae principalmente no provedor; o material revisado polo profesorado con control editorial humano está exento.
- A IA de alto risco necesita unha persoa que poida invalidala. O resultado da IA nunca é a decisión final. Vostede debe comprender os seus límites e ser capaz de desatendelo ou anulalo.
- O Regulamento de IA súmase ao resto da lexislación, non a substitúe. A normativa nacional de protección de datos, educación, emprego, protección da infancia e dereitos de autor segue aplicándose xunto a el.
- O RXPD regula os datos, non só a ferramenta. Mesmo un sistema de IA que cumpra o Regulamento de IA pode estar vetado se trata datos persoais do alumnado ou do persoal sen unha base xurídica válida.
Se só lembra unha frase desta páxina: use a IA para apoiar o seu criterio profesional, non para substituílo; aplícanse normas máis estritas en canto a IA axuda a tomar decisións sobre cualificacións, itinerarios educativos ou persoas.
O Regulamento de IA da UE
O Regulamento de IA da UE (Regulamento (UE) 2024/1689) é o marco normativo único da UE para a intelixencia artificial, baseado no risco. En lugar de regular produtos concretos, clasifica os sistemas de IA segundo o risco que supoñen e asígnalles as obrigas correspondentes: desde a prohibición directa dun pequeno conxunto de prácticas, pasando por obrigas adicionais para os usos de “alto risco”, ata ningunha norma especial para as ferramentas cotiás. Aplícase directamente en todos os Estados membros, tanto a organizacións públicas como privadas.
O Regulamento aplícase de forma progresiva. Está en vigor desde o 1 de agosto de 2024; desde o 2 de febreiro de 2025 xa son vinculantes as prácticas prohibidas que se describen máis abaixo e a obriga de desenvolver a alfabetización en IA (art. 4); desde o 2 de agosto de 2026 aplícanseaplícase a maior parte das disposicións restantes.
Fig. 1: “A folla de ruta da IA” (imaxe xerada con IA, ...)
Quen é responsable do uso da IA?
Se un centro introduce e controla un sistema de IA, o centro ou a administración educativa adoita ser o responsable do despregamento (art. 3, punto 4). O docente normalmente non é un responsable do despregamento independente cando usa a ferramenta segundo as instrucións do centro, pero debe seguir esas instrucións e todas as normas aplicables do centro e de protección de datos.
O profesorado debe saber que está a usar
Os centros e as administracións educativas deben adoptar medidas axeitadas para apoiar o desenvolvemento da alfabetización en IA das persoas que usan sistemas de IA no seu nome (art. 4). O Regulamento de IA non especifica un nivel de competencia, un certificado nin un formato de formación concretos. Estes dependen máis ben do sistema de IA empregado, de como se usa e de a quen pode afectar.
Prácticas de IA directamente prohibidas nos centros educativos
O Regulamento de IA prohibe directamente oito prácticas de IA (art. 5); catro delas son directamente relevantes para os centros educativos:
- O uso de sistemas de IA nas institucións educativas para inferir emocións ou intencións a partir de datos biométricos (como as características faciais ou de voz do alumnado) está en xeral prohibido. Existen excepcións limitadas por motivos médicos ou de seguridade (art. 3, punto 39; art. 5, apartado 1, letra f).
- Os sistemas de IA que explotan as vulnerabilidades dunha persoa derivadas da súa idade (como no caso dos menores), dunha discapacidade ou da súa situación social ou económica, de modo que distorsionan o seu comportamento e lle causan un prexuízo, están prohibidos con independencia da intención (art. 5, apartado 1, letra b).
- Está prohibido crear ou ampliar bases de datos de recoñecemento facial mediante a extracción non selectiva de imaxes de internet ou de gravacións de cámaras de videovixilancia. Isto é relevante se un centro se propón usar unha ferramenta de recoñecemento facial para controlar a asistencia ou supervisar exames (art. 5, apartado 1, letra e).
- Está prohibido usar datos biométricos para categorizar persoas co fin de inferir trazos protexidos como a raza, as opinións políticas, a relixión ou a orientación sexual. Isto é relevante para calquera ferramenta baseada en datos biométricos, como o software de supervisión de exames, que vaia máis alá da súa finalidade declarada (art. 5, apartado 1, letra g).
O contido xerado pola IA necesita sempre unha etiqueta?
Se o alumnado interactúa directamente cun sistema de IA, como un chatbot, debe ser informado de que está a interactuar cunha IA. Normalmente é o provedor do sistema o responsable de deixalo claro (art. 50, apartado 1).
Os centros e o profesorado deben revelar as ultrafalsificacións (deepfakes) ou os textos xerados por IA publicados sobre asuntos de interese público cando se usen na aula (art. 50, apartado 4). Este requisito non se aplica cando o contido xerado por IA foi sometido a unha revisión humana efectiva ou a control editorial e unha persoa ou institución asume a responsabilidade editorial da súa publicación. Por iso, unha ficha de traballo elaborada con axuda da IA e revisada por un docente non require automaticamente unha etiqueta.
Cando a IA na educación pasa a ser de alto risco
As ferramentas habituais de escritura, tradución, investigación e planificación de clases non son de alto risco simplemente porque se usen no traballo. A clasificación depende da finalidade prevista do sistema, non simplemente de que produto se use (art. 6 · Anexo III).
Os sistemas de IA poden clasificarse como de alto risco cando están destinados a:
| Para o profesorado | Para os centros |
(Anexo III, punto 3) |
(Anexo III, punto 4) |
Unha ferramenta limitada de comprobación ou preparación tamén pode quedar fóra da categoría de alto risco se non inflúe de maneira significativa nunha decisión. Porén, un sistema educativo que elabora perfís de persoas considérase sempre de alto risco.
Que significa a IA de alto risco para os centros e o profesorado
Que un sistema de IA se clasifique como de alto risco non exclúe automaticamente o seu uso nos centros educativos. Pero os sistemas de alto risco levan consigo obrigas (art. 26):
Estas obrigas para a IA de alto risco na educación aplícanse desde o 2 de decembro de 2027, pero as prohibicións anteriores e a obriga de alfabetización en IA xa se aplican hoxe.
| Para o profesorado | Para os centros |
|
|
Os organismos públicos e as entidades privadas que prestan servizos públicos tamén poden ter que realizar unha avaliación de impacto sobre os dereitos fundamentais antes de usar IA de alto risco (art. 27). As autoridades públicas e as entidades que actúan no seu nome poden ter que rexistrar ademais o sistema na base de datos da UE (art. 49). Que isto corresponda ao centro ou á súa administración educativa depende do sistema educativo de cada país.
O Regulamento de IA non é a única lei que importa
O Regulamento de IA non substitúe a normativa europea nin a nacional sobre protección de datos, educación, emprego e participación dos traballadores, protección da infancia ou dereitos de autor (art. 2, apartado 7). Por exemplo, o feito de que unha ferramenta non sexa de alto risco non significa que poida subir a ela traballos ou datos persoais do alumnado.
Unha ferramenta pode ser aceptable segundo o Regulamento de IA e, aínda así, estar prohibida pola normativa de protección de datos ou polas normas do seu centro.
O RXPD
O RXPD (Regulamento xeral de protección de datos, Regulamento (UE) 2016/679) é a lei da UE sobre protección de datos. Desempeña un papel complementario ao do Regulamento de IA: mentres que este pregunta se un sistema de IA pode usarse e como, o RXPD formula unha pregunta máis concreta: poden tratarse deste xeito estes datos concretos sobre esta persoa concreta? Cumprir un non significa automaticamente cumprir o outro.
- Aplícase en canto hai datos persoais en xogo. Os nomes, os enderezos de correo electrónico do centro, os traballos do alumnado, as gravacións de voz, as transcricións, as fotografías, as cualificacións, a asistencia e os datos de progreso na aprendizaxe son datos persoais (art. 4). A maioría das ferramentas de IA que se usan na aula afectan polo menos a un deles.
- Necesítase unha base xurídica para tratalos. Unha obriga legal ou o cumprimento dunha misión de interese público son as bases nas que adoitan apoiarse os centros; o consentimento tamén é posible, pero debe ser libre e, no caso do alumnado máis novo, debe outorgalo a nai, o pai ou o titor legal (art. 6, art. 8).
- Algúns datos necesitan protección adicional. A información sobre a saúde, os datos biométricos e os datos que revelan a orixe racial ou étnica, a relixión ou trazos semellantes son “categorías especiais de datos” e, en principio, están vetados salvo que se aplique unha excepción específica (art. 9); este é un dos motivos polos que o Regulamento de IA prohibe por separado varias prácticas de inferencia biométrica nos centros educativos.
- Saiba quen é o responsable. O centro adoita ser o “responsable do tratamento”; un provedor de IA que trata datos por conta do centro é un “encargado do tratamento” e necesita un contrato de encargo do tratamento que detalle as súas obrigas (art. 28). Compróbeo antes de implantar unha nova ferramenta en todo o centro.
- Os datos que saen da UE necesitan garantías. Moitas ferramentas de IA populares están aloxadas fóra da UE. Os datos persoais só poden transferirse alí se existe unha decisión de adecuación ou outra garantía aprobada, como as cláusulas contractuais tipo (art. 44).
- O alumnado e o persoal conservan os seus dereitos. Poden preguntar que datos se gardan sobre eles, solicitar a súa rectificación ou supresión e opoñerse a decisións baseadas unicamente nun tratamento automatizado que os afecten significativamente (art. 15–art. 22); trátase dun dereito que se suma aos requisitos de supervisión humana do Regulamento de IA para os sistemas de alto risco e que os reforza.
Na práctica: antes de introducir datos reais do alumnado ou do persoal nunha ferramenta de IA, comprobe que o seu centro a aprobou, non comparta máis datos persoais dos que require a tarefa e, cando só estea a probar unha ferramenta, prefira exemplos anonimizados ou ficticios.
Onde atopar axuda
A supervisión do cumprimento organízase de forma diferente en cada país da UE. Como as competencias nacionais poden cambiar, consulte a lista actualizada de autoridades nacionais de vixilancia do mercado da Comisión Europea. Calquera persoa (un docente, un alumno, unha nai ou un pai) pode presentar unha reclamación ante esa autoridade se considera que se infrinxiu o Regulamento (art. 85). Cando un sistema de alto risco, como unha ferramenta de admisión ou de supervisión de exames, deu lugar a unha decisión que afecta significativamente a un alumno, este (ou a súa familia) tamén pode solicitar unha explicación desa decisión individual (art. 86).
Normas nacionais do seu país
O Regulamento de IA aplícase en toda a UE, pero os organismos de supervisión, a normativa educativa e a práctica en materia de protección de datos varían segundo o país. Aquí engadiranse notas específicas para os países socios do Playbook:
- Austria
- Chequia
- Alemaña
- Letonia
- Polonia
- Eslovaquia
- Eslovenia
- España
