# 1. La IA en la Educación

# 1.1 Potencial y Riesgos

> *Si solo recordáis una frase de esta página:* la IA ha llegado a las escuelas como un medicamento que viene sin prospecto. Como docente, no sabéis cuándo usar la IA, os faltan las instrucciones de dosificación y no hay información sobre los efectos secundarios. Este capítulo sirve como el prospecto del Playbook.


### ¿Debería la IA venir con un prospecto, como un medicamento?

<div id="bkmrk-%C2%BFconoc%C3%A9is-ese-papeli">¿Conocéis ese papelito que va dentro de cada caja de medicamentos? Ese que probablemente descartáis sin mirarlo siquiera. Puede parecer aburrido, pero ese pequeño papel es un triunfo silencioso del siglo pasado. Ese prospecto detalla cuatro elementos esenciales: qué trata el medicamento, cuánto tomar, las sorpresas que puede traer y quién debe evitarlo.</div><div id="bkmrk--1">  
</div><div id="bkmrk-detr%C3%A1s-de-cada-l%C3%ADnea">Detrás de cada línea de ese prospecto hay toda una maquinaria: ensayos clínicos, reguladores y una responsabilidad de revelar los errores. Nadie cree que el prospecto en sí cure. Su verdadero poder es hacer que el medicamento sea seguro para cualquiera. Esa es la magia que nos falta cuando dejamos que la IA enseñe sin orientación.</div><div id="bkmrk--2"></div><div id="bkmrk-las-herramientas-de-">Las herramientas de IA que ahora se instalan silenciosamente en vuestra escuela heredan un problema más antiguo que la propia IA: la tecnología educativa rara vez ha venido con instrucciones. En el Reino Unido, una revisión encontró que solo 7 de cada 100 empresas de tecnología educativa habían sometido sus productos a un ensayo aleatorizado, y solo 12 de cada 100 habían buscado una certificación externa. Las escuelas rara vez piden más. En una encuesta realizada en 17 estados estadounidenses, solo 11 de cada 100 docentes y miembros de equipos directivos habían solicitado pruebas revisadas por pares antes de adoptar una nueva herramienta.</div><div id="bkmrk--3"></div><div id="bkmrk-el-resultado%2C-en-muc">El resultado, en muchos casos, es dinero desperdiciado. En EE. UU., por término medio, dos tercios de las licencias de software educativo quedaron sin usar, y 98 de cada 100 nunca se utilizaron de forma intensiva. El EdTech Genome Project, también en EE. UU., analizó unas 7000 herramientas educativas con un valor de 13 000 millones de dólares y descubrió que 85 de cada 100 o bien no eran adecuadas o bien se habían implantado de forma incorrecta.</div><div id="bkmrk--4"></div><div id="bkmrk-este-cap%C3%ADtulo-puede-">Este capítulo puede parecer la sección árida y necesaria, pero revela las historias ocultas detrás de las normas. Cuenta lo que realmente ocurrió, a quién afectó, y arroja luz sobre los efectos secundarios, incluso aquellos que llegaron silenciosamente a niños que nunca dieron su consentimiento.</div><div id="bkmrk--5"></div>### Potencial de la IA

**La mayoría de los estudios sobre el potencial de la IA se centran en estudiantes universitarios. El alumnado escolar ha aparecido hasta ahora relativamente poco en estos estudios. Y la mayoría de los estudios se refieren a intervenciones a corto plazo, que duran desde unas horas hasta unas semanas.** En consecuencia, el llamado efecto novedad puede haber influido positivamente en los resultados. Una amplia revisión de 68 experimentos encontró exactamente este patrón: cuanto más corto era el estudio y menor el número de participantes, mayor era el beneficio de la IA del que se informaba.

#### (1) Dejad que la IA explique un tema nuevo y reservad la práctica para vuestra clase

Imaginad esto. Mañana, cuando un alumno o alumna se pierda un tema o necesite que le expliquen de nuevo ese concepto complicado, dejad que un tutor de IA se encargue de la primera explicación. Reservad la práctica para vuestra clase, donde cobra vida el aprendizaje real.

Por qué es importante. En un ensayo bien controlado, un tutor de IA enseñó contenidos nuevos al menos tan bien como una buena clase. En un estudio de Harvard, 194 estudiantes de física aprendieron dos temas. Para uno de los temas, usaron un tutor de IA desarrollado para este fin. Para el otro tema, aprendieron en una clase de aprendizaje activo bien llevada, con debate y resolución de problemas por parejas, no una clase magistral. Cada estudiante completó ambos enfoques, de modo que nadie puede alegar que el grupo más fuerte recibió el mejor tratamiento. En una prueba realizada inmediatamente después, los estudiantes enseñados por la IA obtuvieron resultados significativamente más altos. Los investigadores registraron un tiempo mediano de 49 minutos para completar la tarea, frente a los 60 minutos asignados para la clase en el horario. Los autores son cautelosos al interpretar estos resultados: el material era nuevo para los estudiantes, y gran parte de la tarea consistía simplemente en explicarlo bien. Se niegan expresamente a extender su resultado a tareas que exigen relacionar varias ideas. Y se trataba de estudiantes universitarios, no de alumnado de 2.º de la ESO.

Una amplia revisión que combinó los resultados de 228 estudios apunta en la misma dirección, con un límite importante. La IA generativa produjo mayores avances en conocer y comprender que formas más antiguas de IA, como los sistemas de tutoría inteligente y el software de práctica adaptativa. Pero este fue el único de los cuatro resultados medidos por la revisión en el que la IA generativa obtuvo ventaja.

Para profundizar. Kestin, G., Miller, K., Klales, A., Milbourne, T., y Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, artículo 17458. Acceso libre, DOI 10.1038/s41598-025-97652-6. El artículo describe cómo se diseñó y controló el tutor. Esto resulta útil para quien desee desarrollar su propio tutor de IA.

#### (2) Aprovechar mejor el tiempo de planificación de las clases

Imaginad esto. Ahorrad parte del tiempo que necesitáis para planificar las clases utilizando la IA para redactar un primer borrador de vuestra planificación y luego revisarlo a fondo.

Por qué es importante. Nadie discute que la carga de trabajo del profesorado es alta. Por ello, uno de los posibles beneficios de la IA es aprovechar mejor las horas de trabajo. Un ensayo realizado en Inglaterra investigó si el uso específico de la IA para planificar clases puede reducir la carga de trabajo docente. Los investigadores asignaron aleatoriamente a 259 profesores de ciencias de 68 escuelas a un grupo que usaba ChatGPT junto con una guía en línea sobre cómo usarlo bien, o a un grupo al que se pidió que no usara IA generativa en absoluto. **El profesorado del grupo de ChatGPT dedicó unos 56 minutos semanales a planificar las clases de ciencias de los dos primeros cursos de secundaria (alumnado de 11 a 13 años), frente a unos 81 minutos en el grupo de comparación.** Un panel de especialistas en la materia evaluó la calidad de las planificaciones, sin saber si estas se habían creado con o sin ayuda de la IA. Los especialistas no encontraron pruebas de que la calidad de las planificaciones difiriera. Sin embargo, deben destacarse dos puntos. (1) **El profesorado utilizó la herramienta cada vez menos a medida que pasaban las semanas.** Los evaluadores lo interpretan como el paso de una fase de aprendizaje a la rutina; pero también puede significar que el ahorro de tiempo no se mantiene por sí solo sin apoyo. (2) El ensayo midió el tiempo que el profesorado dedicaba a planificar las clases, no los resultados de aprendizaje del alumnado.

«Todo se reduce al tiempo. Incluso el profesorado que ve el valor de la IA rara vez tiene tiempo para aprender a usarla».

Para profundizar. Roy, P., Poet, H., Staunton, R., Aston, K., y Thomas, D. (2024, 12 de diciembre). ChatGPT in lesson preparation: A Teacher Choices Trial. NFER, encargado por la Education Endowment Foundation y la Hg Foundation. Gratuito en educationendowmentfoundation.org.uk.

#### (3) Ofrecer mejor apoyo al alumnado que no se beneficia plenamente de las clases estándar

Imaginad esto. Vuestra escuela decide cómo quiere gastar sus fondos. Quiere comprar un chatbot de IA. ¿Qué probabilidad creéis que hay de que los proveedores del chatbot os aporten pruebas de los beneficios del bot para las distintas materias?

Por qué es importante. El proveedor puede remitirse a la investigación sobre alumnado con discapacidad, uno de los campos de la IA en educación estudiados desde hace más tiempo y que con facilidad se pasa por alto al asignar fondos. En un análisis de 29 estudios con 41 grupos de alumnado con discapacidad, los investigadores encontraron beneficios moderados en una amplia variedad de contextos. Pero leed la letra pequeña. En siete de cada diez de estos estudios, «IA» significaba un robot, normalmente humanoide, a menudo manejado por un investigador fuera de la vista del niño o la niña. Solo uno de cada cinco estudios utilizó software. Por tanto, esto no es prueba de que un chatbot vaya a ayudar a un alumno autista en vuestra clase. Tampoco pudieron los revisores determinar qué hace que estas intervenciones sean eficaces. A partir de su investigación, no pudieron identificar por qué los estudios que funcionaron diferían de los que no lo hicieron.

Para profundizar. Zhang, L., Carter, R. A., Jr., Liu, Y., y Peng, P. (2026). Let's CHAT about artificial intelligence for students with disabilities: A systematic literature review and meta-analysis. *Review of Educational Research, 96*(1), 215–257. Gratuito, DOI 10.3102/00346543241293424. La verdadera joya es la tabla de estudios incluidos: revela de inmediato lo poco que este campo se centra realmente en las herramientas que hoy se comercializan para las escuelas.

#### (4) Enseñar al alumnado cómo falla la IA

Imaginad esto. Pedid a vuestra clase que cree diez imágenes de «un médico» y diez de «una enfermera». Contad quién aparece en cada conjunto y luego iniciad un debate: ¿de dónde vienen estos patrones y quién tomó esas decisiones?

[![Gemini&#95;Generated&#95;Image&#95;mfaur1mfaur1mfau.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/scaled-1680-/gemini-generated-image-mfaur1mfaur1mfau.jpg)  ](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-08/gemini-generated-image-mfaur1mfaur1mfau.jpg)

Fig. 1: «Prompt de un solo intento: a doctor, a nurse (un médico, una enfermera)» (imagen generada con IA, NanoBanana 2)

Por qué es importante. La versión clásica de esta lección puede parecer anticuada, y precisamente por eso merece atención. Durante años, la demostración era predecible: pedir un médico y aparecía un hombre. En una prueba de la organización sin ánimo de lucro AlgorithmWatch, Midjourney representaba casi siempre a los médicos como hombres blancos, mientras que Adobe Firefly hacía intentos visibles, aunque imperfectos, de diversificar. Un estudio revisado por pares de 2400 imágenes de cirujanos generadas con IA encontró la misma división entre productos: dos de tres generadores populares casi no mostraban mujeres, mientras que el tercero se acercaba a la proporción real de mujeres en la cirugía.

Probad hoy el mismo prompt y puede que aparezca una médica o un enfermero (Fig. 1). Pero no os dejéis engañar pensando que el sesgo ha desaparecido. Un análisis de 2026 de 1344 imágenes de tres generadores populares reveló lo contrario: al pedir una «persona competente», un sistema no mostró ninguna mujer.

Lo que ha cambiado no es el sesgo, sino la capa en la que vive, ¡y esa es la lección importante! Detrás de todas estas imágenes hay decisiones humanas: con qué se entrenó el sistema y qué decidieron después sus creadores que debía mostrar. Esta segunda decisión es ajustable, invisible y la toma una empresa.

<div id="bkmrk-la-primera-capa-de-d">La primera capa de decisiones humanas es lo que el sistema ha absorbido. Millones de imágenes, creadas y etiquetadas por personas, cada una reflejando el mundo tal como ya era. Esta es la capa que revela la lección clásica sobre el sesgo, y el alumnado la comprende con facilidad: la máquina se convirtió en un reflejo de lo que se le dio de comer.</div><div id="bkmrk-la-segunda-capa-est%C3%A1">La segunda capa está determinada por lo que una empresa decide mostraros a continuación, aunque esta influencia no deja rastro alguno en la propia imagen. Aquí ocurren tres cosas, cada una descrita por sus creadores en sus propias palabras.</div>

- **Vuestras palabras se reescriben antes de que el modelo las reciba.** Según la propia documentación para desarrolladores de OpenAI: «usamos GPT-4 para optimizar todos vuestros prompts antes de pasarlos a DALL-E» — y «esta función no se puede desactivar por el momento». Lo que escribió vuestro alumno no es lo que se le pidió a la máquina.
- **El aspecto se completa cuando el prompt lo deja abierto.** OpenAI, describiendo su técnica de diversidad: «Esta técnica se aplica a nivel de sistema cuando se le da a DALL·E un prompt que describe a una persona sin especificar raza o género, como “bombero”». Después de aplicarla, los usuarios tenían doce veces más probabilidades de decir que las imágenes mostraban personas de orígenes diversos. «Un médico» es exactamente ese tipo de prompt.
- **Y ese ajuste puede fallar.** Google, tras pausar la generación de imágenes de Gemini en 2024: «Nuestro ajuste para garantizar que Gemini mostrara una variedad de personas no tuvo en cuenta los casos en los que claramente no debía mostrarse esa variedad».

<div id="bkmrk-as%C3%AD-que-cuando-un-al">Así que cuando un alumno o alumna escribe «un médico» y aparece una mujer, la imagen no ofrece ninguna pista sobre qué capa la hizo aparecer. Esa incertidumbre no es un defecto de la lección. Es la lección misma.</div><div id="bkmrk--7"></div><div id="bkmrk-la-vieja-narrativa-a">La vieja narrativa afirmaba que la máquina simplemente absorbía los prejuicios de la sociedad. La nueva narrativa va más al fondo y perdura más: ¡una empresa tomó una decisión! No podéis detectar esa decisión en el resultado, y puede cambiar un martes cualquiera, en silencio, sin previo aviso. Esa verdad perdura a través de cada nuevo modelo. La lección del estereotipo se desvanece.</div>Esta es la lección que merece la atención del alumnado, y perdurará más allá de la próxima actualización del modelo: la imagen no es un simple reflejo de la realidad, y no ocurrió por casualidad. Alguien tomó una decisión.

[![Zeichenfläche 1-100.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/srBzeichenflache-1-100.jpg)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/srBzeichenflache-1-100.jpg)

Fig. 2: «Por qué la imagen generada a partir de un prompt como “dibuja un médico” tiene el aspecto que tiene y por qué la propia imagen no os lo dirá» (imagen generada con IA, NanoBanana 2)

Esta lección puede empezar pronto. Cuando 209 estudiantes finlandeses de 12 clases de 6.º y 7.º curso exploraron este tema, el porcentaje que podía explicar el sesgo usando datos pasó de unos 7 de cada 100 a 44 de cada 100. La reserva honesta: el estudio midió lo que los niños y niñas podían explicar, no lo que harían más adelante.

«El sesgo no es exclusivo de la IA. Incluso los libros de texto pueden contenerlo. Lo importante es saber sobre el azar, sobre los datos que hay detrás de una respuesta y sobre las posibles distorsiones».

Para profundizar. Vartiainen, H., Kahila, J., Tedre, M., López-Pernas, S., &amp; Pope, N. (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. *New Media &amp; Society, 27*(9), 5342–5368. Gratuito, DOI 10.1177/14614448241252820. El estudio no tenía grupo de comparación: leedlo como un diseño de aula prometedor, no como una prueba.

Weinmann, H., Messingschlager, T. V., &amp; Appel, M. (2026). Gender bias in text-to-image generative artificial intelligence: Neglect and stereotypical presentations across three popular platforms. *New Media &amp; Society*. Online first. Gratuito, DOI 10.1177/14614448261435197.

Ali, R., et al. (2024). Demographic representation in 3 leading artificial intelligence text-to-image generators. *JAMA Surgery, 159*(1), 87–95. DOI 10.1001/jamasurg.2023.5695.

Las declaraciones de los propios fabricantes: OpenAI (2022), *Reducing bias and improving safety in DALL·E 2*; Depue, W. (2023), *What’s new with DALL·E 3?*, OpenAI Cookbook; Raghavan, P. (2024), *Gemini image generation got it wrong. We’ll do better*, Google.

#### ¿Qué solidez tienen en este momento los resultados de la investigación sobre el potencial de la IA?

Lo más importante. Si alguien os cita un estudio, haced dos preguntas antes de dar por válida su conclusión: «¿Quiénes eran los participantes y cuánto duró el estudio?»

Por qué es importante. En 2025, un metaanálisis de 51 estudios informó de un gran beneficio de ChatGPT en el rendimiento académico del alumnado. El artículo se leyó cientos de miles de veces y sirvió de base para numerosas afirmaciones seguras en las salas de profesores. El 22 de abril de 2026, la revista retiró el artículo. Una *retractación* significa que una revista retira oficialmente algo que ha publicado; el artículo sigue siendo visible, marcado con la nota «RETRACTED» (retractado), para que cualquiera que lo haya citado pueda reconocerlo. Dos investigadores que no habían participado en el estudio habían detectado discrepancias en el análisis. El editor de la revista escribió que los problemas «socavan la confianza del editor en la validez del análisis». Los autores no respondieron a la correspondencia sobre este asunto.

Esto no significa que la IA no tenga ningún impacto. Existen estudios reputados que demuestran beneficios moderados. Este campo de investigación tampoco está aún bien definido, porque es relativamente nuevo y muy dinámico. Significa que la cifra que se citaba con frecuencia era incorrecta, y que hicieron falta un año y dos expertos externos para darse cuenta de ello.

Otra reserva merece mencionarse. Al menos en matemáticas, cuanto más se acerca la evidencia al contexto escolar, menor es el efecto. En el conjunto de las materias el panorama es desigual: algunas revisiones recientes encuentran efectos mayores en las escuelas que en las universidades, pero los estudios escolares siguen siendo pocos y pequeños.

Para profundizar. La propia retractación tiene una página, es gratuita y merece la pena leerla precisamente por ser breve: Wang, J., y Fan, W. (2026). Retraction note: The effect of ChatGPT on students' learning performance, learning perception, and higher-order thinking. Humanities and Social Sciences Communications, 13, 528. DOI 10.1057/s41599-026-07310-z.

El original retractado era *HSSC 12,* 621 (2025). Sigue vigente: Wu, X., Zhu, P., Zhang, J., Yin, M., y Wang, Y. (2026). ChatGPT's impact on student learning outcomes: A meta-analysis of 35 experimental studies. *Humanities and Social Sciences Communications, 13*, 684. Gratuito, DOI 10.1057/s41599-026-07019-z.

La cifra referida solo al ámbito escolar en matemáticas: Yi, L., Liu, D., Jiang, T., y Xian, Y. (2025). The effectiveness of AI on K-12 students' mathematics learning: A systematic review and meta-analysis. *International Journal of Science and Mathematics Education, 23*(4), 1105–1126. DOI 10.1007/s10763-024-10499-7.

Un análisis combinado más amplio y más reciente: Han, X., Peng, H., y Liu, M. (2025). The impact of GenAI on learning outcomes: A systematic review and meta-analysis of experimental studies. *Educational Research Review, 48*, 100714. DOI 10.1016/j.edurev.2025.100714.

### Riesgos de la IA

#### (1) Hacer algo no es lo mismo que aprender

Imaginad esto. Antes de poner una tarea que un chatbot pueda completar, pensad cuál es el propósito de esa tarea. ¿Podría ser buena idea cambiarla?

Por qué es importante. ¿Se aprende más rápido con un chatbot? Cerca de mil alumnos y alumnas de secundaria (13 a 16 años) practicaron matemáticas en tres grupos: uno con un chatbot estándar, otro con una versión programada para no dar la respuesta directamente y hacer una pregunta de seguimiento, y otro sin chatbot. Mientras usaba el chatbot, el grupo con el chatbot estándar completó un 48 % más de ejercicios de práctica que el grupo sin chatbot. Después, todos hicieron el mismo examen sin chatbot. El resultado, que al principio pareció sorprendente, fue que el grupo que usó el chatbot estándar obtuvo un 17 % peor rendimiento que el alumnado que no había usado ningún chatbot. El grupo que había trabajado con el chatbot que no daba la respuesta directamente no mostró ninguna caída de rendimiento en la prueba en comparación con el grupo sin chatbot, y además practicó más. El alumnado que usó el chatbot estándar no fue ni perezoso ni hizo trampas. Trabajaron más y aprendieron menos, porque lo que la herramienta eliminó no fue el esfuerzo, sino el desafío cognitivo que constituye el aprendizaje.

«La IA hace que sea muy fácil obtener una solución sin entenderla».

Para profundizar. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., y Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122, e2422633122. DOI 10.1073/pnas.2422633122.

#### (2) Los detectores de IA castigan al alumnado equivocado

Imaginad esto. Recibís la redacción de un estudiante para corregir. Con curiosidad sobre su autenticidad, la introducís en un detector de IA. El resultado aparece: la redacción fue casi con toda seguridad escrita por IA.

Por qué es importante. Usáis el detector de IA para garantizar la equidad, pero para un grupo en concreto, los detectores tienen exactamente el efecto contrario. Un detector no reconoce texto generado por máquina. Mide cuán predecible es la redacción. Y precisamente ahí está el problema, por ejemplo, cuando un alumno escribe en una lengua extranjera, tiene poca práctica escribiendo o dispone de un vocabulario cotidiano limitado. Su escritura es predecible. Cuando siete detectores de uso extendido analizaron 91 redacciones escritas por hablantes no nativos para el examen de inglés TOEFL, recopiladas en un foro chino en línea, las señalaron erróneamente como generadas por máquina en alrededor de seis de cada diez casos. Las redacciones de alumnado estadounidense de octavo curso escritas en su lengua materna, el inglés, se clasificaron casi todas correctamente. Una herramienta que genera falsos positivos exactamente para un grupo no es neutral. Además, ese grupo es el que menos capacidad tiene de defenderse.

Para profundizar. Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., y Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. Gratuito, DOI 10.1016/j.patter.2023.100779.

#### (3) ¿Dónde diablos acabarán los datos del alumnado?

Imaginad esto. Usáis una herramienta de IA que ofrece vuestra escuela. Intentad averiguar adónde van los datos del alumnado.

Por qué es importante. ¿Puede vuestra escuela garantizar que los datos no se transmiten a un tercero? Un tercero es una empresa que no es ni vuestra escuela ni el desarrollador de la aplicación. Normalmente son empresas de publicidad o analítica que reciben datos mientras el alumno trabaja. Nadie en la escuela eligió a esa empresa. Cuando los investigadores realizaron un análisis técnico de 163 productos educativos recomendados por gobiernos durante los cierres escolares relacionados con la pandemia, 145 de ellos procesaban los datos de menores de un modo que ponía en peligro o vulneraba sus derechos, al transmitir datos a 196 terceras empresas o concederles acceso, principalmente del sector publicitario. De los 42 gobiernos que desarrollaron sus propios productos en lugar de comprarlos, 39 habían desarrollado productos con el mismo problema. El estudio abarca productos de 2021, y es posible que algunos hayan cambiado desde entonces. Sin embargo, no podemos descartar que ocurra lo mismo con las aplicaciones de IA.

Para profundizar. Human Rights Watch (2022). «How dare they peep into my private life?»: Children's rights violations by governments that endorsed online learning during the Covid-19 pandemic. Gratuito en hrw.org. Los anexos por país permiten consultar qué se recomendó en cada lugar.

#### (4) La IA llega la última donde más se necesita

Imaginad esto. ¿Cuánta formación habéis recibido ya sobre aprender acerca de la IA o sobre enseñar con IA en vuestra materia?

Por qué es importante. En un experimento, personas adultas con y sin formación universitaria resolvieron una tarea empresarial similar a las del mundo laboral. Con un asistente de IA, desaparecieron aproximadamente tres cuartas partes de la brecha entre ambos grupos. Cuando los investigadores retiraron después el asistente, una parte considerable de la brecha volvió a aparecer. Los autores concluyen que la IA hizo gran parte del trabajo y que solo una parte de la mejora se mantuvo una vez retirada.

Una encuesta a directores de escuelas estadounidenses añade la segunda mitad del panorama: cuanto más desfavorecido era el alumnado de una escuela, menos había hecho la escuela para integrar la IA (menos normativas, menos formación del profesorado, menos orientación sobre el uso por parte del alumnado). Se trata de una correlación, no de una prueba de causalidad.

En conjunto: una buena herramienta puede reducir una brecha mientras esté en manos del alumno. Pero tiende a llegar a las escuelas que menos la necesitan, y solo una parte de su beneficio permanece cuando se retira.

Las cifras alemanas muestran el mismo patrón. Entre 1590 jóvenes de 14 a 20 años, el 80 % de las familias más acomodadas, pero solo el 55 % de las menos acomodadas, veían la IA como una oportunidad para la escuela. El uso sigue la misma pendiente: entre los jóvenes que usan herramientas de IA, el 70 % del alumnado del Gymnasium (secundaria de orientación académica) las usa para la escuela o los deberes, frente al 58 % en otros centros de secundaria.

¿Y la formación profesional del profesorado? Una encuesta a más de diez mil docentes en Inglaterra reveló que el 45 % del profesorado de escuelas privadas ya había recibido formación reglada sobre IA, frente al 21 % en escuelas públicas. Dentro del sistema público, la cifra oscilaba entre el 26 % en las escuelas con alumnado más acomodado y el 18 % en las de alumnado menos acomodado.

Para profundizar. Cruces, G., Fernández Meijide, D., Galiani, S., Gálvez, R. H., y Lombardi, M. (2026). *Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment* (NBER Working Paper 34851). Documento de trabajo, aún sin revisión por pares. Campos, C., y Singleton, J. D. (2026). *AI diffusion gaps: Unequal integration of AI across K-12 schools* (NBER Working Paper 35347). Latham, K., y Montacute, R. (2025). *Artificial advantage? AI in the classroom and the inequality gap*. The Sutton Trust. Gratuito en [suttontrust.com](http://suttontrust.com). Vodafone Stiftung Deutschland (2024), *Pioniere des Wandels*; mpfs (2024), *JIM-Studie 2024*. Ambos gratuitos, en alemán.

#### (5) Lo que mejora al aprender con IA no es necesariamente lo que se ve

Imaginad esto. Introducís un nuevo chatbot en vuestra docencia y el alumnado se muestra entusiasmado por usarlo.

Por qué es importante. Una amplia revisión de 228 estudios analizó cuatro aspectos distintos que la IA podría mejorar: conocer y comprender; aplicar lo que se sabe; el lado afectivo, como la motivación y la implicación; y la capacidad de planificar, supervisar y corregir el propio aprendizaje. Tres de los cuatro mejoraron. El último no, hasta donde los estudios permitían saber.

- En cuanto a conocer y comprender, la IA generativa obtuvo mejores resultados que formas más antiguas de IA, como los sistemas de tutoría inteligente y el software de práctica adaptativa.
- En cuanto a aplicar el conocimiento y al lado afectivo, la IA generativa no obtuvo mejores resultados que el software más antiguo del que ya disponen muchas escuelas.
- En cuanto a la autorregulación, el efecto combinado fue pequeño y podría deberse al azar; además, había demasiado pocos estudios para preguntarse qué tipo de IA podría ayudar.

Solo un puñado de los resultados procedía de ensayos aleatorizados, y el entusiasmo que veis en las primeras semanas es justo lo que mejor captan los estudios cortos.

Una breve nota al margen: en esta revisión, los mayores avances se encontraron en las artes y las humanidades.

Para profundizar. Yeo, G. H., y Lansford, J. E. (2025). Effects of artificial intelligence on educational functioning: A review and meta-analysis. Educational Psychology Review, 37(4), artículo 110. DOI 10.1007/s10648-025-10085-5.

# 1.2 Enseñar Sobre la IA vs. Enseñar con IA

### Mensaje clave

- ***La IA es un GPS.*** Beneficia al conductor que ya lleva el mapa en la cabeza y frena, a quien no lo tiene, de llegar a aprenderlo. El efecto depende de la persona, no del producto.
- ***Sostenemos que enseñar sobre la IA es la condición previa para enseñar con IA.*** Hay que conocer la máquina para poder comprobar la respuesta que ha producido.
- **Saber no es lo mismo que hacer.** El profesorado valora su conocimiento sobre IA por encima de su capacidad para enseñar con ella, y la formación por sí sola no cierra esa brecha.
- ***El profesorado usa la IA entre bastidores, no en clase.*** En Alemania, la mitad del profesorado usa la IA varias veces al mes o más; de ellos, menos de un tercio deja que el alumnado trabaje con ella en clase.
- ***La pedagogía vence a la tecnología.*** Usar la IA para reelaborar el propio trabajo y construir sobre él vence a usarla solo para practicar o consultar; trabajar en grupo vence a trabajar solo; la retroalimentación vence a la gamificación.
- ***Una retroalimentación mejor no es un aprendizaje mejor.*** En un experimento, unos comentarios de la IA valorados como mejores que los de un docente dieron lugar a revisiones que no fueron mejores. Lo que decide es si la retroalimentación se pone en *práctica.*
- ***La IA aumenta la producción, no el aprendizaje autodirigido.***
- ***Unas reglas claras y un uso intensivo aparecen juntos.*** En una amplia encuesta estadounidense, las escuelas con una política de IA tenían más docentes que usaban la IA y, por tanto, ahorraban más tiempo en total, no menos.
- ***Proteged vuestro propio mapa.** El alivio se convierte en pérdida de competencia cuando la IA absorbe el trabajo que construye y mantiene el criterio.*

> *Si solo recordáis una frase de esta página:* **la IA es un GPS. Beneficia al conductor que ya lleva el mapa en la cabeza y frena, silenciosamente, a quien no lo tiene, de llegar a construirlo alguna vez.**




### El problema del GPS

Para conducir un taxi en Londres, primero hay que aprobar un examen de conocimiento: 320 rutas establecidas dentro de las 113 millas cuadradas en un radio de seis millas desde Charing Cross, para el cual Transport for London concede hasta dos años antes de que empiecen siquiera los exámenes.

Los conductores examinados también usan GPS, y nadie piensa peor de ellos por ello. El examen de conocimiento no perdió su valor cuando llegó el dispositivo. El GPS se convirtió en lo que hace que la conducción sea segura. Una conductora que lleva la ciudad en la cabeza usa el GPS para lo que no puede saber: el accidente en el puente o el tráfico de esta noche. Y se da cuenta cuando la desvía por una calle que llevan meses reparando desde abril.

Ahora poned a una recién llegada en el mismo taxi con el mismo GPS. Llega a todas las direcciones. Durante un tiempo, es indistinguible de la conductora experimentada. Pero al seguir las instrucciones del GPS, no está construyendo nada. Después de un año girando a la izquierda cuando se lo indican, sigue sin poder cruzar la ciudad sin el dispositivo, y no sabe reconocer cuándo se equivoca.

[![C1&#95;2&#95;Fig&#95;1.png](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/c1-2-fig-1.png)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/c1-2-fig-1.png)

Fig. 1: «El resultado depende de quien conduce» (imagen generada con IA, Google Gemini)

A la izquierda, la conducción empieza con un mapa en la cabeza. El GPS añade lo que la conductora no puede saber. Esto se llama «externalización beneficiosa». A la derecha, la conductora no tiene ningún mapa en la cabeza. El dispositivo es su única orientación. Esto se llama «externalización perjudicial».

El mismo GPS, dos conductoras, resultados opuestos. **La diferencia nunca estuvo en el dispositivo.** Hablamos de algo más que de una imagen. Los estudios con conductores muestran que quienes dependen mucho del GPS se forman un mapa mental más pobre de su entorno. Un estudio de tres años mostró que un uso más intensivo iba acompañado de un deterioro más pronunciado de la memoria espacial. Y la psicología sabe desde hace dos décadas que el mismo apoyo que ayuda a un principiante puede estorbar a quien ya domina la materia. Lo mismo ocurre a la inversa. El efecto de una herramienta de IA depende mucho más de lo que la persona usuaria ya sabe que de la propia herramienta.

Esto es lo que los investigadores llaman un [esquema](https://playbook.dualaiteacher.eu/books/playbook-es/page/62-glosario-y-terminos-clave "6.2 Glosario y Términos Clave"), el conocimiento previo organizado de una persona. Cuando ya está presente, delegar el trabajo en una máquina os libera. Los investigadores llaman a esto [externalización cognitiva](https://playbook.dualaiteacher.eu/books/playbook-es/page/62-glosario-y-terminos-clave "6.2 Glosario y Términos Clave") beneficiosa. Sin embargo, cuando el conocimiento aún debe desarrollarse, el mismo proceso puede impedir que se forme. Esto se llama [externalización cognitiva](https://playbook.dualaiteacher.eu/books/playbook-es/page/62-glosario-y-terminos-clave "6.2 Glosario y Términos Clave") perjudicial.

Un estudio con cerca de mil estudiantes de secundaria muestra esto ocurriendo en una clase de matemáticas. Un grupo practicó con un chatbot sin restricciones, otro sin él. Mientras lo tuvo, el grupo con chatbot obtuvo una puntuación un 48 % más alta en los problemas de práctica. Luego llegó un examen sin el chatbot. Ahora, los mismos estudiantes que habían resuelto tan bien los problemas de práctica obtuvieron un 17 % peor resultado que el grupo que nunca había usado el chatbot de IA. Un tercer grupo usó una versión de IA diseñada para no dar las respuestas directamente y, en su lugar, hacer preguntas. Ese grupo no perdió nada.

Ese tercer grupo es toda la cuestión de diseño. Un GPS que nombra el destino y os ayuda a encontrar la ruta os enseña la ciudad. Un GPS que dice *gira a la izquierda en 200 metros* no lo hace, por buenos que sean sus datos. Los investigadores llaman a esta diferencia [barreras de seguridad](https://playbook.dualaiteacher.eu/books/playbook-es/page/62-glosario-y-terminos-clave "6.2 Glosario y Términos Clave"), y **el diseño decide si ayudáis a vuestro alumnado a aprender el mapa de la ciudad o simplemente a encontrar el destino.**

Recordad esto: vosotros tenéis el conocimiento. Vuestro alumnado, en la materia que impartís, todavía no. Esa asimetría es todo el capítulo.

«Ahora mismo, las herramientas a las que recurre el alumnado están hechas para resolver problemas, no para enseñar, y esa es actualmente la principal dificultad de mi trabajo».

### Dos plantas, no dos temas

En la literatura académica, estas dos áreas se consideran campos distintos. Podéis pensar en ellas como dos plantas de un edificio, con la mayoría del profesorado en la planta baja y sin escalera que lleve a la primera planta.

En un estudio con 90 docentes de centros de formación profesional de Baviera que se habían inscrito en una formación sobre IA, el profesorado valoró su conocimiento sobre IA con una media de 3,4 sobre 5, pero su capacidad para usarla en su docencia mucho más baja, con un 2,6. El saber y el hacer se habían desconectado. Un ensayo en cinco países europeos puso a prueba después si la formación podía cerrar esa brecha. Participaron 736 docentes de Francia, Irlanda, Italia, Luxemburgo y Eslovenia, divididos en dos grupos. Un grupo recibió un curso en línea y apoyo durante el ensayo; el otro recibió el mismo curso en línea una vez finalizado el ensayo. Los resultados mostraron que aumentaron el conocimiento y la capacidad para juzgar lo que una herramienta podía hacer. Pero en la mayoría de los países el uso habitual de la IA en el aula no cambió: probaron herramientas y volvieron a lo que hacían antes.

Esta es la brecha entre saber y actuar. Los cursos generan conocimiento, pero cambiar la práctica requiere acompañamiento, experimentación y compañeros con quienes pensar. La transferencia hay que diseñarla, no esperar a que ocurra.

«El único inconveniente de este webinar es que no podemos probarlo directamente».

### Lo que el profesorado hace en realidad

El hallazgo más sólido entre países es sorprendente, aunque de forma discreta: **el profesorado usa la IA intensamente para sí mismo y casi nada con su alumnado**. En Alemania, el 52 % del profesorado usa herramientas de IA varias veces al mes o más. Pero, de quienes usan la IA, solo el 29 % deja que su alumnado trabaje con ella en clase. Así que el debate público sobre «la IA en el aula» es, en gran medida, un debate sobre algo que todavía no ocurre a gran escala.

[![C1&#95;2&#95;Fig&#95;21.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/c1-2-fig-21.jpg)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/c1-2-fig-21.jpg)

Fig. 2: «Diferencia entre el uso de la IA para preparar las clases y su uso en el aula» (imagen generada con IA, Google Gemini)

Lo que **sí** está ocurriendo es un alivio de la carga de trabajo, y aquí las noticias son buenas. En un ensayo realizado en Inglaterra, 259 docentes de 68 escuelas recibieron ChatGPT y una guía para planificar clases de ciencias para alumnado de 11 a 13 años. Dedicaron **unos 56 minutos semanales a planificar, frente a 81** en el grupo de comparación. Evaluadores independientes que no sabían de qué grupo procedía cada clase no encontraron indicios de una diferencia de calidad. En una amplia encuesta estadounidense, el profesorado que usa la IA al menos una vez por semana estimó un ahorro de casi seis horas semanales; se trata de su propia estimación, no de una medición.

Y hay un patrón que merece detenerse a considerar. En la misma encuesta estadounidense, **las escuelas con una política de IA tenían más docentes que usaban la IA (siete de cada diez frente a seis de cada diez) y, por tanto, ahorraban en total alrededor de un cuarto más de tiempo docente.** Para el docente individual que usa la IA cada semana, la diferencia era pequeña. Se trata del relato del propio profesorado, no de una medición, y una encuesta no puede mostrar en qué dirección va la flecha causal: puede que las escuelas bien organizadas simplemente hagan bien ambas cosas. Pero es lo contrario de lo que la mayoría esperaría: **unas reglas claras y un uso intensivo aparecen juntos, no enfrentados. [1.4 Uso Conforme de la IA](https://playbook.dualaiteacher.eu/books/playbook-es/page/14-uso-conforme-de-la-ia "1.4 Uso Conforme de la IA")**

«Es importante tenerla como complemento, pero desde luego no dejar que ChatGPT dirija toda la clase».

### Por qué la herramienta no es lo importante

Si buscabais un ranking de las mejores herramientas de IA, la investigación os decepcionará y luego, en una segunda lectura, os liberará. Cuando los investigadores reúnen muchos estudios separados y preguntan qué diferencia a las aulas donde la IA ayudó mucho de aquellas donde apenas ayudó, la respuesta nunca es la marca del software. Es lo que se pidió al alumnado que *hiciera* con ella. Los siguientes puntos resumen resultados de investigación importantes. Pero todos se basan en pocos estudios.

- En matemáticas, el alumnado que usó la IA para reelaborar una solución o construir sobre su propio intento ganó aproximadamente dos veces y media más que el alumnado que la usó solo para enriquecer tareas habituales, como practicar o comprobar respuestas.
- El alumnado que usó la IA en grupo ganó alrededor de un 70 % más que quienes la usaron en solitario.
- Cuando la IA se usó para dar retroalimentación sobre el trabajo del alumnado, las mejoras estuvieron entre las mayores. Usar la IA para gamificar las clases produjo una mejora demasiado pequeña como para considerarla demostrada.

La pedagogía es más importante que la tecnología utilizada. Cuando los investigadores han clasificado los estudios según lo que el alumnado hacía realmente, la actividad importó más que la herramienta. Curiosamente, se observó el mismo patrón con la generación anterior de herramientas digitales en secundaria. Los resultados dependen en gran medida de si el profesorado había recibido formación para usarlas.

Una buena retroalimentación no es lo mismo que una retroalimentación que funciona. En un experimento, 70 estudiantes universitarios escribieron un ensayo argumentativo y lo revisaron una semana después. Se les asignó al azar a tres grupos: uno recibió retroalimentación de un profesor experimentado, otro de un chatbot con una instrucción sencilla, y otro del mismo chatbot instruido para razonar el ensayo paso a paso. Evaluada con la misma rúbrica, la retroalimentación del chatbot paso a paso fue la mejor de las tres. Fue mejor que la del chatbot sencillo y mejor que la del profesor. Luego llegaron las revisiones, y los tres grupos mejoraron aproximadamente lo mismo. La mejor retroalimentación del estudio no produjo más mejora que la peor valorada. Unos mejores comentarios no produjeron un mejor ensayo.

Este resultado desafía una suposición común: que una mejor retroalimentación produce un mejor aprendizaje. Evidentemente, por sí sola no lo hace. La retroalimentación solo sirve de algo si se pone en práctica: se lee, se entiende, se actúa en consecuencia y se comprende lo bastante bien como para que el estudiante pueda acertar sin ayuda la próxima vez. El cuello de botella es la puesta en práctica, no la calidad.

Más no siempre es mejor. En un segundo estudio, con 60 estudiantes de 4.º de la ESO y 240 textos escritos, la IA produjo muchos más comentarios relacionados con el contenido que el profesorado. Pero el alumnado puso en práctica más a menudo los comentarios del profesorado. Ante treinta correcciones precisas, un estudiante puede dejar de diagnosticar y empezar a priorizar, o simplemente obedecer. Si un estudiante sigue las reglas al pie de la letra, básicamente está diciendo que la revisión era innecesaria. Es el GPS otra vez, pero en otro nivel. Os da una retroalimentación muy detallada, como «gira a la izquierda en 200 metros», aplicada a vuestro propio texto.

Quién lo dice importa. No sabemos con certeza por qué los comentarios del profesorado se ponen en práctica más a menudo. Esto es cuestión de interpretación, no de medición, pero la explicación más probable es que la retroalimentación se percibe como un acto entre personas. Lo que dice alguien que sabe lo que hicisteis el trimestre pasado y verá lo que hacéis con ello es diferente de la misma frase generada bajo demanda.

Qué implica esto para la práctica. Un análisis combinado de estudios sobre retroalimentación automatizada de textos, realizado antes de que existieran los chatbots actuales, llegó a resultados similares. La retroalimentación tuvo más efecto cuando el alumnado tenía que aplicarla a un texto nuevo que cuando solo revisaba el texto que tenía delante, y más cuando se usó a lo largo de varias sesiones que una sola vez. Y hay que decir una cosa más con justicia: en comparación con no recibir ninguna retroalimentación, la retroalimentación de la IA sí ayuda. En un estudio de un equipo alemán con 459 estudiantes de bachillerato, la retroalimentación generada por IA mejoró moderadamente sus revisiones y su motivación.

Y la misma división aparece a gran escala. Un equipo combinó 228 estudios: la IA mejoró clara y consistentemente lo que el alumnado podía producir, mientras que cualquier ganancia en su capacidad de planificar, supervisar y corregir su propio aprendizaje fue lo bastante pequeña como para deberse al azar. La programación lo muestra con más claridad. El alumnado con un asistente de IA fue medible más rápido, y no mejor al final que quienes no lo tenían. Hacer más y mejorar no son lo mismo, y la IA los separa.

### Europa como espejo

En toda Europa, las encuestas sobre el uso de la IA por parte del profesorado van desde **unos nueve de cada diez en una muestra checa hasta aproximadamente uno de cada siete en Francia.** Las encuestas difieren en método y momento: la cifra checa procede de una pequeña encuesta de 2025 a 317 docentes y cuenta cualquier experiencia con la IA, mientras que la cifra francesa procede de la encuesta internacional de la OCDE al profesorado TALIS 2024, en la que algo menos de la mitad del profesorado checo declaró usar la IA en su docencia.

Francia construyó uno de los mayores programas estatales de IA del continente: un software de práctica adaptativa en matemáticas y francés, gratuito para todo el alumnado del primer curso de bachillerato. Sin embargo, el profesorado francés usa poco la IA y solo el 9 % ha recibido alguna formación en IA, frente al 38 % de media en los países de la OCDE.

Noruega ha plasmado el problema del GPS en su política (al menos como recomendación) tal como lo haría una autoescuela de taxistas: primero aprender con el mapa y después añadir el dispositivo. En junio de 2026, Noruega recomendó que, por norma general, el alumnado de 1.º a 7.º curso no tenga acceso a la IA. Entre 8.º y 10.º curso, la IA puede introducirse de forma gradual y cuidadosa, una vez que el profesorado tenga la competencia necesaria para guiarla. En la educación secundaria superior, el alumnado debe aprender a usar la IA con un propósito.

### El punto ciego

Rara vez se nombra un riesgo de la IA, y la imagen también lo alcanza: el conocimiento del mapa de la ciudad de Londres **no es permanente.** Una conductora que sigue las flechas durante cinco años no conserva la ciudad en la cabeza. Se desvanece, y deja de notar la calle en obras. Vuestra pericia se mantiene haciendo precisamente aquello que la IA mejor absorbe: redactar la tarea, anticipar el error conceptual y elaborar la explicación. **Cuando la IA se hace cargo del trabajo mediante el cual se forma el criterio, el alivio se convierte en pérdida de competencia.** En un panel alemán de expertos en e-learning, 65 de cada 100 esperaban que la IA generativa hiciera perder a las personas competencias importantes, frente a 44 el año anterior. En medicina, el efecto ya se ha medido: después de que el apoyo de la IA se generalizara en las colonoscopias, los médicos que trabajaban sin ella detectaban menos lesiones precancerosas que antes.

Usad el GPS. Pero conservad el mapa.

# 1.3 Uso Responsable de la IA

### Mensaje clave

- **La responsabilidad es una cuestión de diseño, no de control.** La detección de IA no funciona correctamente.
- **Y la detección de IA es injusta cuando falla.** Los detectores señalan erróneamente trabajos humanos como escritos por IA y pasan por alto trabajos escritos por IA. Las autoridades educativas de Francia y los Países Bajos desaconsejan su uso.
- **La invención con aparente seguridad y los sesgos heredados se derivan de cómo se construyen y evalúan estos sistemas.** La consecuencia debería ser: enseñarlos, en lugar de esperar una solución.
- **El principio de trabajo es: pensar primero, luego la IA.** Hacer que las personas se comprometan con su propia respuesta vence a explicar la máquina, e incorporar límites en el software elimina el daño que causa el acceso sin restricciones.
- **Los prompts por sí solos no bastan.** Un chatbot al que se le pide actuar como tutor tiende a volver a dar las respuestas directamente, lo que convierte los límites fiables en una cuestión de compra.
- **La amplificación es lo predeterminado; la equiparación debe construirse** a partir del acceso, el diseño y el acompañamiento juntos. Lo más escaso, pero también lo más importante de los tres, es un docente formado.
- **La inclusión es la ganancia más clara**, y donde el propio profesorado ve el argumento más convincente.

> Si solo recordáis una frase de esta página: los diques se están rompiendo. Enseñad a nadar.

### El diario de lectura, una segunda mirada

Volvamos a nuestro estudiante de 3.º de la ESO y su diario de lectura sospechosamente pulido. El instinto es casi universal, y es el instinto de un buen docente: averiguar si usó IA. Construir un dique mejor.

Este capítulo trata de por qué ese instinto, por sí solo, no lleva a ninguna parte. Veremos a continuación qué funciona en su lugar.

Empecemos por la parte incómoda. **El profesorado no puede distinguir de forma fiable un texto de IA de un texto del alumnado.** En dos estudios de un equipo alemán, se dio a 89 docentes en formación y a 200 docentes con experiencia una mezcla de redacciones de estudiantes y de chatbot y se les pidió que las clasificaran. Ningún grupo lo logró de forma fiable, pero ambos estaban seguros de poder hacerlo. La experiencia ayudó solo un poco: el profesorado con experiencia siguió sin detectar la mayoría de los textos de IA. En una universidad británica, los investigadores enviaron respuestas generadas por chatbot a exámenes en línea reales y sin supervisión a través de los canales normales, sin avisar a quienes corregían.

«Podéis usarla, pero tenéis que ser capaces de explicar el resultado con vuestras propias palabras».

### El detector que falla con el alumnado equivocado

Los investigadores probaron siete de los [detectores de IA](https://playbook.dualaiteacher.eu/books/playbook-es/page/62-glosario-y-terminos-clave "6.2 Glosario y Términos Clave") más usados con redacciones del examen TOEFL escritas por personas que aprendían inglés como lengua extranjera, recopiladas en un foro chino en línea. Junto a ellas, colocaron redacciones de estudiantes estadounidenses nativos de 8.º curso. El trabajo de los hablantes nativos se clasificó correctamente casi siempre. De las redacciones en lengua extranjera, **más de seis de cada diez fueron señaladas erróneamente como escritas por máquina**.

El mecanismo no es ningún misterio. Muchas de estas herramientas no detectan el trabajo de los grandes modelos de lenguaje. Lo que miden es la *previsibilidad*. Un texto que usa palabras comunes en el orden esperado puntúa como artificial. Quienes escriben en una segunda lengua, con un vocabulario más reducido y estructuras de frase más rígidas, pueden producir exactamente esa señal. Por otro lado, los detectores entrenados para una prueba concreta, así como los estudios en otros idiomas, muestran diferencias menores. Hasta ahora no hay en el mercado ningún detector lo bastante fiable como para acusar a nadie de engaño intencionado.

**Los errores de la herramienta recaen sistemáticamente sobre el alumnado que ya carga con más dificultades.** Las instituciones han hecho los números. La Universidad de Vanderbilt señaló que, aunque una herramienta así se equivocara solo el 1 % de las veces, eso seguiría significando unos **750 trabajos señalados erróneamente al año** de entre sus 75 000 entregas. En consecuencia, la desactivaron. Una guía elaborada por investigadores para el ministerio federal de educación de Alemania es tajante: la tecnología *«no es lo bastante fiable como para aportar una prueba jurídicamente segura»*. Una prueba europea independiente de catorce detectores llegó al mismo veredicto: *«ni precisos ni fiables»*.

Buena parte de Europa ya ha dejado de debatir esto. El ministerio de educación de Francia y su autoridad de protección de datos aconsejan a las escuelas no usar detectores, y la agencia neerlandesa de TIC Kennisnet los considera muy poco fiables. En la educación superior, algunas universidades, como la ZHAW de Zúrich, prohíben usarlos para calificar. En Inglaterra, los organismos examinadores solo permiten el software de detección como un elemento más de un juicio que corresponde al docente, que es quien *«mejor conoce a su alumnado»*. También merece la pena llevarse a casa una cuestión de protección de datos: **pegar el trabajo de un estudiante en una herramienta en línea supone tratar sus datos personales.** Para ello se necesita una base jurídica y un contrato con el proveedor. → [1.4 Uso Conforme de la IA](https://playbook.dualaiteacher.eu/books/playbook-es/page/14-uso-conforme-de-la-ia "1.4 Uso Conforme de la IA")

Parece que el pánico por las trampas es más liviano que el ruido que lo rodea. Los investigadores encuestaron a estudiantes de tres institutos estadounidenses antes de que existiera ChatGPT y de nuevo después. Las trampas se mantuvieron, en líneas generales, donde estaban. Una encuesta de seguimiento a más de 4000 estudiantes de otros seis institutos estadounidenses, un año después, llegó al mismo resultado.

La verdadera pregunta nunca fue «¿cómo lo pillo?». Es: ¿qué sigue midiendo una tarea para casa una vez que su producto puede generarse a demanda?

«Al principio lo veía como hacer trampas. Ahora lo veo como una señal de que la propia tarea tiene que cambiar».

### Dos cosas que no se van a arreglar sin más, así que hay que enseñarlas

**La invención con aparente seguridad viene integrada de serie.** Estos sistemas generan continuaciones plausibles de un texto, y plausible no es lo mismo que verdadero. Las revisiones de la investigación coinciden en que ninguna técnica ha eliminado todavía el problema, aunque puede reducirse y detectarse en parte. La razón es que las pruebas estándar usadas para evaluar los grandes modelos de lenguaje premian una suposición hecha con seguridad por encima de admitir incertidumbre, así que, mientras se midan así, persistirá una cierta tasa de falsedades fluidas y bien formadas.

Los sesgos del material de entrenamiento también vienen integrados. Y además no se reducen a medida que mejoran los modelos. Un estudio europeo sobre estereotipos de género en distintos idiomas encontró que los modelos más grandes, incluso tras el entrenamiento adicional pensado para hacerlos más seguros y justos, a veces estereotipan *más*, no menos. Si una propiedad no se puede eliminar mediante ingeniería, se convierte en materia de enseñanza. Y puede enseñarse: en un programa finlandés, el porcentaje de estudiantes capaces de explicar de dónde procedía el sesgo de un generador de imágenes pasó del 7 % al 44 %. La consecuencia para la enseñanza debe ser formar en el análisis del error en lugar de en evitar el error. Dicho de otro modo: los fallos de la máquina se convierten en la lección.

«Dejad que el alumno compruebe la solución del chatbot como si fuera el profesor. Buscando los errores es como por fin aprende el método».

### Qué funciona: diseño, no control

La evidencia apunta a un principio sencillo y fácil de recordar: pensar primero, luego la IA.

- **Haced que la persona se comprometa primero.** En un experimento con unas 200 personas adultas, quienes tenían que tomar su propia decisión *antes* de ver la sugerencia de la máquina aceptaron sus sugerencias erróneas con menos frecuencia que quienes veían una breve explicación del razonamiento de la máquina. Explicar la IA no resolvió el problema. Lo que ayudó fue forzar el juicio propio. Forzar el juicio significa obligar a pensar. Como pensar cansa, a los participantes estos métodos fueron los que menos les gustaron, y ayudaron sobre todo a quienes ya disfrutaban del pensamiento esforzado. Es lo que todos conocéis como el efecto Mateo: a quien más tiene, más se le da.
- **Incorporad los límites al sistema.** El chatbot del [Capítulo 1.2](https://playbook.dualaiteacher.eu/books/playbook-es/page/12-ensenar-sobre-la-ia-vs-ensenar-con-ia "1.2 Enseñar Sobre la IA vs. Enseñar con IA"), que no daba las respuestas directamente y en su lugar hacía preguntas, es la misma idea llevada al software: el alumnado que lo usó no perdió nada en el examen, mientras que quienes usaron la versión sin restricciones salieron mal parados.
- **Haced visible el proceso en lugar de perseguir el producto.** Borradores, notas de trabajo, una breve conversación sobre el trabajo.  Esto os muestra lo que un estudiante es capaz de hacer sin que nadie tenga que demostrar qué hizo.

Dinamarca está poniendo a prueba este principio: en las escuelas participantes, el alumnado puede usar IA mientras se prepara para el examen oral de inglés, y el examen escrito incluye una parte manuscrita sin ayudas.

**Dos límites** merecen conocerse antes de confiar en esto.

**El primero:** el consejo popular de que el profesorado simplemente indique a un chatbot que actúe como tutor socrático puede no sobrevivir a una conversación larga. Las primeras pruebas, procedentes de un estudio con estudiantes simulados que aún no ha sido revisado por pares (octubre de 2026), sugieren que, bajo una presión persistente, estos tutores vuelven a dar las respuestas directamente. Los límites fiables tienen que estar incorporados al sistema, lo que los convierte en una decisión de compra más que en una habilidad de prompting.

**El segundo:** hacer que una IA explique su razonamiento suena como la salvaguarda obvia, pero las explicaciones no evitan de forma fiable el exceso de confianza. En un estudio, dejaron sin cambios la aceptación de consejos *erróneos* por parte de las personas, y las explicaciones demasiado técnicas o demasiado simplificadas pueden aumentar la confianza mal depositada. La explicación es solo una condición para el aprendizaje.

### Actitud: dos modos de fallo, no uno

Nos preocupa que el profesorado deposite demasiada confianza en la IA. Sin embargo, deberíamos preocuparnos igual por lo contrario. Incluso las personas con experiencia pueden dejarse llevar por el exceso de confianza. En un pequeño piloto en escuelas estadounidenses, cuatro de cada diez docentes encuestados consideraron que la retroalimentación de una herramienta de calificación con IA no era útil, era mayoritariamente vaga o incluso incorrecta. La investigación sobre el sesgo de automatización muestra que las personas tienden a aceptar la sugerencia de una máquina incluso cuando tienen motivos para dudar de ella. **Detectar un error y corregirlo son pasos distintos.**

El polo opuesto es la ocultación. El profesorado esconde su propio uso de la IA de sus colegas y de su alumnado, prohibiéndoles hacer lo que ellos mismos hacen: el 77 % usa la IA en privado, mientras que el 57 % dice que el alumnado nunca debería usarla para generar ideas. Mientras tanto, un estudio con estudiantes académicamente destacados de 1.º a 3.º de la ESO encontró que entre un tercio y dos quintas partes ya afirmaban que la IA sabe más que sus profesores. Una profesión que oculta sus prácticas no puede servir de modelo de una práctica responsable, y la transparencia no es solo una cortesía. Es el mecanismo por el que funciona la enseñanza con el ejemplo.

### ¿La IA nivela el terreno de juego o lo inclina?

En tareas relacionadas con el trabajo, la IA iguala las diferencias. En un experimento, los participantes con niveles educativos más altos rindieron significativamente mejor que los de niveles más bajos. Con un asistente de IA, desaparecieron aproximadamente tres cuartas partes de esa brecha. Al retirar de nuevo el asistente, una parte considerable de la brecha volvió a aparecer. **Lo que la IA cerró fue la brecha en la producción, no la brecha en la capacidad.**

En tareas de aprendizaje, ocurre lo contrario. Un estudio no encontró ningún beneficio medio en absoluto, sino una distancia creciente entre el alumnado que ya sabía mucho y el que no. Otro observó a estudiantes que escribían en una lengua extranjera: quienes escribían peor recibieron más correcciones de la IA y consiguieron aplicar con éxito menos de ellas, y varios encontraron desalentadora la avalancha de retroalimentación. La retroalimentación sin la capacidad de priorizarla no ayuda; sepulta.

La brecha ya existe antes de que nadie toque una herramienta. En Alemania, el 80 % del alumnado de los hogares más favorecidos ve la IA como una oportunidad, frente al 55 % de los menos favorecidos. En Gran Bretaña, la división pasa por la sala de profesores más que por el armario de dispositivos: el 45 % del profesorado de escuelas privadas ha recibido formación formal en el uso de la IA, frente al 21 % en las públicas. Dentro del sector público, las escuelas más ricas vuelven a superar a las más pobres. Una encuesta de 2026 a más de 25 000 menores de 17 países europeos encuentra la misma división social en cuánto y de qué forma tan variada usan la IA. Una frase de un comentarista resume todo el problema mejor que cualquier cifra: *«los ricos tienen acceso tanto a la tecnología como a personas que les ayudan a usarla, mientras que los pobres solo tienen acceso a la tecnología»*.

Así que el cuello de botella es qué alumno tiene un docente que ha recibido formación. La IA compensa cuando tres cosas se sostienen juntas: acceso seguro, una herramienta diseñada para aprender en lugar de para responder, y un docente que acompaña su uso. Quitad cualquiera de las tres, y en su lugar amplifica. Como las tres tienden a estar presentes en las mismas escuelas y ausentes en las mismas escuelas, la amplificación es lo predeterminado, y la equiparación es algo que hay que construir.

# 1.4 Uso Conforme de la IA

<p class="callout info">**Aviso:** Hemos investigado este capítulo con cuidado, pero el derecho de la IA es un ámbito que cambia con rapidez. Las normas pueden haber cambiado desde su publicación, así que comprobad siempre la situación jurídica actual y adaptadla a vuestra legislación nacional cuando sea necesario. Este capítulo no constituye asesoramiento jurídico.</p>

### Mensaje clave

- ***No existe un vacío legal.*** El derecho de protección de datos siempre ha sido aplicable.
- ***El calendario se movió.*** Las obligaciones de alto riesgo para la IA educativa empiezan el **2 de diciembre de 2027**, no en agosto de 2026. Comprobad los materiales de vuestra escuela (véase también [1.6](https://playbook.dualaiteacher.eu/books/playbook-es/page/16-legislacion "1.6 Legislación")).
- ***Ya vinculante desde febrero de 2025.*** Los sistemas que leen las emociones del alumnado a partir de su cara o su voz están prohibidos, y las escuelas que usan IA deben tomar medidas para desarrollar la alfabetización en IA de su personal. Desde agosto de 2026, los chatbots deben indicar que son IA y los deepfakes deben etiquetarse.
- ***La capa más difícil es la protección de datos.*** Ningún dato personal del alumnado sin un contrato que excluya el entrenamiento con vuestros datos; el consentimiento normalmente no es válido; eliminar los nombres no anonimiza.
- ***En derechos de autor, el problema es lo que subís.*** La excepción docente no cubre introducir obras protegidas en una IA.
- ***Los detectores no sirven como prueba.*** Los tribunales han aceptado conclusiones extraídas de hechos concretos. Las reglas deben ser claras de antemano, y pedir que se declare el uso vence a prohibir.
- ***Las calificaciones siguen siendo humanas.*** Nos parece obvio, pero es importante señalarlo: aprobar automáticamente la sugerencia de una IA no es una decisión humana.
- ***La responsabilidad recae en la contratación, no en vosotros** — y* ***el cumplimiento normativo habilita.*** Las escuelas con reglas claras son aquellas cuyo profesorado declara ahorrar más tiempo.

> Si solo recordáis una frase de esta página: el cumplimiento normativo es una casa, no un muro.
> 
> ### ¿Qué puedo hacer?
> 
> Tened presentes estos cuatro pasos antes de escribir, pegar o subir nada. Usad el siguiente esquema como guía general. Los requisitos de vuestro país pueden diferir de los que se indican aquí. **Por eso, comprobad siempre la normativa específica de vuestro país y de vuestro centro.**
> 
> [![Fig 1&#95;4&#95;1.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/fig-1-4-1.jpg)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/fig-1-4-1.jpg)
> 
> Fig. 1: «...» (imagen generada con IA, ...)
> 
> «Ni siquiera tenemos claro qué podemos hacer, y menos aún en lo que respecta a la protección de datos».

### El diario de lectura, una tercera mirada

Nuestro estudiante de 3.º de la ESO, su diario de lectura, la sospecha de su profesor. En el [Capítulo 1.2](https://playbook.dualaiteacher.eu/books/playbook-es/page/12-ensenar-sobre-la-ia-vs-ensenar-con-ia "1.2 Enseñar Sobre la IA vs. Enseñar con IA"), era una cuestión de aprendizaje; en el [Capítulo 1.3](https://playbook.dualaiteacher.eu/books/playbook-es/page/13-uso-responsable-de-la-ia "1.3 Uso Responsable de la IA"), de criterio profesional. Aquí es un expediente judicial.

En diciembre de 2025, el Tribunal Administrativo de Hamburgo, Alemania, resolvió sobre una solicitud urgente en este caso. El profesor de inglés había notado que el diario de lectura estaba escrito con un nivel de ortografía, gramática y vocabulario muy superior al del examen de clase del chico sobre el mismo libro. Más tarde, el alumno admitió haber usado ChatGPT, y la escuela calificó el diario como un intento de engaño. Su padre solicitó al tribunal medidas urgentes; el tribunal las rechazó. Su razonamiento va más allá de este caso: el alumnado debe asumir que tiene que hacer su trabajo completamente solo, salvo que se haya permitido expresamente una ayuda, por lo que el uso no declarado de IA cuenta como engaño incluso sin una norma escrita contra la IA. (En este caso, de hecho, el profesor había dicho a la clase que no se permitía ChatGPT). Una salvedad que conviene tener presente desde el principio: se trata de un único tribunal, en un procedimiento de urgencia, y la decisión no es firme.

Este es un buen momento para abordar el malentendido más común en este campo. No existe un vacío legal. Nunca lo ha habido.

### La casa tiene tres plantas

La mayoría del profesorado imagina el derecho sobre la IA como un único muro en construcción en algún lugar de Bruselas. Sin embargo, es más útil imaginar una casa en la que ya vivís. Los cimientos son la protección de datos. Son estructurales. Se colocaron hace años. Rigen vuestra mañana de martes. La planta superior es la Ley de IA de la UE, la ley europea sobre IA, que clasifica los sistemas según su potencial de daño e impone obligaciones más estrictas cuanto mayor es el riesgo. Está parcialmente ocupada y todavía en construcción, con la fecha de finalización recién retrasada. Las puertas y ventanas son el derecho de autor y la normativa de exámenes: pequeños y específicos, y en contacto diario sin que os deis cuenta.

[![Fig 1&#95;4&#95;2.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/fig-1-4-2.jpg)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/fig-1-4-2.jpg)

Fig. 2: «El cumplimiento normativo es una casa» (imagen generada con IA, ...)

#### Planta baja: la protección de datos, más clara de lo que muchos piensan

Tratar los datos personales de alguien siempre requiere una base legal. Como organismo público, el permiso de una escuela procede esencialmente de sus obligaciones legales conforme a la normativa escolar. No existe una licencia general que venga incluida con ser docente.

De ahí se derivan tres consecuencias, que forman el núcleo práctico de este capítulo.

El consentimiento no es una solución. Una solución obvia sería simplemente pedírselo a las familias. Sin embargo, este enfoque tiene dos inconvenientes. Primero, el consentimiento debe darse libremente. En un contexto escolar donde las calificaciones son un factor, la petición de un docente no constituye una elección libre. Segundo, el consentimiento debe ser informado, algo difícil de lograr cuando nadie sabe dónde acabarán los datos. El permiso debe proceder de la normativa escolar, no de una firma, ya que esto traslada la responsabilidad hacia arriba, lejos de vosotros.

Eliminar los nombres no anonimiza los datos. En 2024, las autoridades alemanas de protección de datos declararon conjuntamente que, si alguien todavía puede ser identificado a partir del contexto, el dato sigue siendo personal. Esto es especialmente problemático en las escuelas porque los tipos de texto con los que el profesorado más quiere ayuda —como redacciones, escritura libre y diarios de aprendizaje— identifican a su autor por el estilo.

La línea divisoria es el contrato: un proveedor puede tratar vuestros datos si lo hace estrictamente según vuestras instrucciones y existe un acuerdo por escrito a tal efecto. Sin embargo, en el momento en que usa lo que escribís para sus propios fines, el arreglo se derrumba, porque ya no trabaja en vuestro nombre. Así que la prueba práctica es esta: ¿existe tal acuerdo, y excluye el entrenamiento con vuestros datos? Si no, no debería introducirse ningún dato personal.

Dos notas al margen que merece la pena señalar: los datos relativos a la salud y la discapacidad están sujetos a una protección aún más estricta según el derecho de la UE. No deben introducirse en una herramienta de IA. Y cuando el profesorado usa dispositivos privados, al menos dos estados alemanes (Renania del Norte-Westfalia y Baviera) dejan claro que **la responsabilidad en materia de protección de datos recae en la escuela y en su dirección**, que debe autorizar ese uso.

#### Planta superior: lo que la Ley de IA exige ya y lo que todavía no

He aquí la corrección que deja obsoletas la mayoría de las guías existentes. En julio de 2026, mediante un reglamento modificativo conocido como Digital Omnibus, la UE aplazó el conjunto más pesado de obligaciones de la Ley de IA para la educación, las correspondientes a los sistemas clasificados como de alto riesgo, es decir, los sistemas usados para decidir admisiones, evaluar lo que ha aprendido el alumnado o vigilarlo durante los exámenes, de agosto de 2026 al 2 de diciembre de 2027. Muchos materiales escritos en 2025 y principios de 2026 todavía imprimen la fecha antigua. Si un documento de vuestra escuela lo hace, necesita una nota a pie de página.

La corrección más útil va en el sentido contrario: lo que ya se aplica se subestima, y lo que se discute sin parar todavía no se aplica.

Dos cosas son vinculantes desde el 2 de febrero de 2025.

- **El reconocimiento de emociones en las escuelas está prohibido.** Los sistemas que afirman leer los sentimientos del alumnado a partir de su cara, su voz o su cuerpo —análisis del estado de ánimo, puntuación del «compromiso» a partir de una cámara web— están en la breve lista de prácticas que la Ley simplemente prohíbe, con excepciones limitadas por motivos médicos o de seguridad. Las herramientas que solo detectan el cansancio o si alguien está mirando la pantalla son una zona gris; es una cuestión de contratación, no del aula.
- **Las escuelas que despliegan IA deben tomar medidas para desarrollar la alfabetización en IA de su personal.** Desde julio de 2026, la ley establece que no hay que garantizar ningún nivel concreto, pero no hacer nada no es una opción. Esta obligación no lleva aparejada ninguna multa a escala de la UE, por lo que se pasa por alto ampliamente; las autoridades nacionales pueden exigir su cumplimiento desde agosto de 2026.

**A partir del 2 de diciembre de 2026, queda prohibida la IA que crea deepfakes sexualizados de personas identificables.**

Leed esa segunda obligación junto al [Capítulo 1.2](https://playbook.dualaiteacher.eu/books/playbook-es/page/12-ensenar-sobre-la-ia-vs-ensenar-con-ia "1.2 Enseñar Sobre la IA vs. Enseñar con IA") y algo encaja. La brecha entre saber sobre la IA y ser capaz de enseñar con ella ya no es solo un problema profesional. **Desde febrero de 2025, las escuelas están legalmente obligadas a trabajar en ello.**

Desde el **2 de agosto de 2026**, los chatbots deben informar a los usuarios de que son IA, y los proveedores deben marcar el contenido generado por IA de forma legible por máquina; las propias escuelas deben etiquetar los deepfakes y los textos escritos por IA que publiquen para informar al público. Una ficha de trabajo revisada por un docente no necesita etiqueta. A partir del **2 de diciembre de 2027**, se aplican las obligaciones para los sistemas de alto riesgo: los sistemas usados para decidir quién es admitido, evaluar lo que ha aprendido el alumnado o vigilarlo durante los exámenes. Quien *use* un sistema así asume entonces obligaciones propias, entre ellas la de encomendar la supervisión a personas que tengan, en palabras de la Ley, *«la competencia, la formación y la autoridad necesarias»*.

#### Puertas y ventanas: derechos de autor y exámenes

Contraintuitivamente, **lo que sale es la parte fácil.** Un texto o una imagen que una IA genera por sí sola no tiene autor humano en el sentido que exige el derecho de autor, así que suele estar libre de derechos de autor; cuando una persona le da forma mediante sus propias decisiones creativas, el resultado puede quedar protegido. Sin embargo, eso no garantiza que esté «limpio»: en una sentencia muy comentada, un tribunal de Múnich determinó que un chatbot había memorizado letras de canciones y las había reproducido casi palabra por palabra. El tribunal situó la responsabilidad en el **proveedor**, no en la persona que escribió la petición. La sentencia no es firme.

La excepción que permite al profesorado copiar material para sus clases cubre exactamente eso: copiar una parte limitada de una obra, para esa clase. **Subir una obra protegida a un sistema de IA comercial es un acto diferente, y la excepción no lo contempla.** El material elaborado específicamente para la enseñanza escolar, como los libros de texto y los cuadernos de trabajo, queda en principio excluido de la excepción, siempre que haya licencias fácilmente disponibles para él.

¿Cuánto debería preocuparos esto? Menos de lo que sugiere la brecha, y más que nada. La cuestión es genuinamente incierta: ningún tribunal superior se ha pronunciado sobre ella, y la literatura especializada considera que las excepciones existentes encajan mal con la situación. Cuando un titular de derechos presenta objeciones, la reclamación sería civil y, en la práctica, es un asunto de política escolar y contratación pública más que algo que un docente individual pueda resolver. Lo que está claro en la práctica es el caso concreto. Es la línea que trazan las editoriales educativas, y es la que merece la pena recordar: el material de libros de texto escolares y de editoriales no debería introducirse en herramientas de IA en absoluto, ni escaneado ni retecleado, ni siquiera para generar una ficha de trabajo.

La jurisprudencia en este campo es actualmente inconsistente en toda Europa. En febrero de 2026, el Tribunal Administrativo de Kassel, Alemania, resolvió dos casos universitarios de la misma manera, y con contundencia: aunque la universidad no tenía una prohibición explícita de la IA, la línea se cruzó *«ya con un único uso no declarado de IA generativa»*. Las sentencias no son firmes. Ese mismo mes, un tribunal administrativo de París, en un procedimiento de urgencia, impidió que una universidad sancionara a un estudiante porque no había establecido de antemano ninguna norma sobre el uso de la IA. Un tribunal de apelación sueco había llegado antes a un resultado similar: un estudiante había entregado tres citas inventadas, pero las normas del curso permitían «todas las ayudas» en el trabajo para casa, así que no había ninguna norma que infringir. En los Países Bajos, en cambio, el tribunal administrativo supremo del país confirmó en julio de 2025 una sanción contra un estudiante de Derecho que había presentado cuatro fuentes inexistentes: el fraude quedó probado más allá de toda duda razonable, y no importaba si había tenido intención de engañar.

Así que el patrón entre jurisdicciones no depende de los países. Depende de si existía una norma de antemano, y de si el engaño quedó realmente demostrado.

De la práctica se derivan tres reglas.

1. **Los detectores no cargan con la prueba.** Es la escuela la que tiene que demostrar el engaño. Los tribunales han aceptado conclusiones extraídas de hechos concretos: fuentes que resultan no existir, una clara diferencia entre lo que un estudiante escribe y lo que es capaz de explicar oralmente, saltos repentinos de nivel dentro de un mismo texto, una confesión. El estudiante puede entonces explicarse. El estilo de escritura por sí solo es una base débil: destacados comentaristas jurídicos alemanes dudan de que pueda sostener una conclusión. La salida de un detector es, en el mejor de los casos, un motivo para mirar con más atención. La tasa de fallos recogida en el [Capítulo 1.3](https://playbook.dualaiteacher.eu/books/playbook-es/page/13-uso-responsable-de-la-ia "1.3 Uso Responsable de la IA") lo hace inutilizable como prueba.
2. **Las reglas deben ser claras antes de la evaluación, no después.** Ni una prohibición total ni un permiso total se sostienen. Lo que funciona es una declaración de trabajo independiente con una cláusula sobre la IA, más el deber de declarar qué se usó. Declarar en lugar de prohibir.
3. **Las calificaciones siguen siendo humanas.** Las personas tienen derecho a no ser objeto de decisiones con efectos jurídicos tomadas únicamente por una máquina, y las escuelas no tienen base jurídica para tomar tales decisiones mediante software; una calificación es una de ellas. La Conferencia Permanente de Ministros de Educación y Cultura de Alemania lo formula con más fuerza todavía: la evaluación es una tarea que solo el profesorado puede realizar. Fundamentalmente, **dar el visto bueno formalmente a la sugerencia de una IA no cuenta como una decisión humana.** Así que el hallazgo de que las personas a menudo aceptan una retroalimentación de IA defectuosa es un problema jurídico además de pedagógico.

«Cada uno experimenta por su cuenta, así que las reglas cambian de una clase a otra».

Derecho, ética y didáctica convergen, por tanto, en la misma respuesta: evaluar el proceso, no solo el producto.

### La verdadera dirección de la responsabilidad

En respuesta, Alemania ha introducido entornos escolares de IA provistos por el Estado. Son plataformas evaluadas con contratos negociados, en lugar de dejar que el profesorado se registre en lo que sea gratuito. Aunque esto resuelve problemas que el profesorado individual no puede resolver por sí solo, siguen siendo criticadas por cómo se gobiernan, si el profesorado realmente las acepta y si las evaluaciones que sustentan son sólidas. Como el despliegue difiere de un estado federado a otro, hará falta tiempo para ver cómo le va al profesorado con las plataformas.

Lo distintivo es más limitado de lo que podría parecer al principio, y merece la pena precisarlo. Alemania es el único sistema que hemos encontrado en el que un organismo público —el FWU, propiedad de los estados federados— desarrolla y gestiona la plataforma él mismo, con contratistas técnicos. Francia proporciona un software de práctica adaptativa para toda una promoción, pero lo encargó: una empresa privada escribió el software y otra aloja los datos. Varios otros países han comprado acceso a chatbots comerciales; la mayoría de los demás solo ofrece orientaciones.

Construirla vosotros mismos no os da automáticamente más control. La plataforma alemana funciona con los mismos modelos de lenguaje comerciales que todas las demás, en servidores europeos, como ha señalado una asociación del sector. En cambio, el sistema francés está alojado en Francia bajo la certificación de seguridad más alta emitida por el Estado francés. Un país construyó la superficie y alquila el motor, mientras que el otro compró el software y conserva las llaves del edificio. Ninguna de las dos opciones es claramente la más soberana, algo que conviene tener presente antes de usar ese término.

Los Países Bajos adoptaron un enfoque diferente, y merece la pena conocerlo porque ofrece una respuesta más honesta a la misma pregunta. En lugar de construir o comprar, las escuelas y universidades neerlandesas unieron fuerzas e hicieron evaluar formalmente a los principales proveedores. Cuando examinaron el asistente de IA de Microsoft, encontraron dos problemas que no pudieron resolverse: los criterios de un filtro de contenido automático que el proveedor no quiso revelar, y la retención de dieciocho meses de datos de diagnóstico que no podía justificarse. Negociaron. En marzo de 2026, sin embargo, el proveedor se negó a cambiar. La evaluación sigue por tanto en ámbar, y se aconseja a las escuelas neerlandesas actuar con cautela y usar su propio criterio caso por caso, en lugar de dar el visto bueno. Un país eliminó el riesgo construyendo a su alrededor, mientras que otro lo examinó de cerca y decidió que aún no estaba listo. Ambos enfoques ofrecen soluciones al problema planteado al principio de este capítulo.

La comparación también zanja una cosa más. La queja de que el profesorado prefiere el chatbot gratuito al oficial no se debe a un fallo de implementación en Alemania. En Estonia, donde el Estado negoció el acceso para el alumnado de secundaria superior, apenas algo más de un tercio usaba el chatbot oficial semanalmente siete meses después del inicio del programa. Resultó que la mayoría ya usaba herramientas gratuitas antes de que empezara. **En todas partes, el entorno evaluado compite con el más cómodo.** Proporcionar la herramienta oficial es necesario. Pero no es suficiente.

Sin embargo, el argumento estructural se mantiene: el cumplimiento normativo es una condición habilitadora, no un obstáculo. ¿Recordáis lo que se dijo en el [Capítulo 1.2](https://playbook.dualaiteacher.eu/books/playbook-es/page/12-ensenar-sobre-la-ia-vs-ensenar-con-ia "1.2 Enseñar Sobre la IA vs. Enseñar con IA")? **Las escuelas con reglas claras tenían más docentes que usaban la IA y ahorraban más tiempo en total.** Las reglas no frenaron el uso.

# 1.5 Estado Actual de la IA en la Educación

### Mensaje clave

- **La IA ya se usa ampliamente en contextos educativos.**
    - **Enseñar con IA.** La IA la usa actualmente el profesorado para preparar o mejorar planificaciones de clase, para evaluar y para diferenciar contenido según los distintos niveles educativos.
    - **Enseñar sobre la IA.** El alumnado usa la IA aunque no tiene ninguna base sobre qué es la IA, cuáles son sus limitaciones y cómo usarla de forma responsable.
- **Se necesita comprensión técnica y pensamiento crítico.** El profesorado y el alumnado necesitan entender cómo funcionan los modelos de lenguaje (entrenamiento, tratamiento de datos, naturaleza predictiva) y desarrollar habilidades prácticas de verificación, desde detectar citas inventadas hasta comprobar los hechos del contenido generado por IA.
- **Hay que definir el uso responsable y la postura ética**. Se necesita una comprensión del panorama legal y ético (Ley de IA, RGPD), junto con un enfoque de la IA como apoyo y no como sustituto del pensamiento humano, basado en la transparencia y la rendición de cuentas, además de una instrucción explícita en el uso de prompts como competencia enseñable.
- **Se necesitan equidad y nuevos modelos de evaluación.** Hay que salvaguardar el acceso equitativo a las herramientas de IA (financiación pública, modelos abiertos, políticas de edad mínima), junto con un cambio en la evaluación: de calificar el producto final a evaluar el proceso y la capacidad del alumnado de interactuar críticamente con la salida de la IA.

> Si solo recordáis una frase de esta página: la IA ya está presente en los contextos educativos, pero no está regulada. Se necesitan marcos estructurados que apoyen el desarrollo profesional del profesorado, mejorando su conocimiento y permitiéndoles enseñar con IA y sobre la IA.

### Usos Actuales de la IA en Contextos Educativos

Hoy en día, la inteligencia artificial (IA) está integrada en la práctica educativa cotidiana, mucho más allá de los proyectos piloto. Las aplicaciones habituales incluyen plataformas de aprendizaje adaptativo, sistemas de tutoría inteligente, calificación automatizada y planificación de clases asistida por IA para el profesorado (OCDE, 2026). Sin embargo, el cambio más visible es el uso directo de herramientas de propósito general tanto por parte del alumnado como del profesorado.

#### Enseñar con IA

El profesorado usa cada vez más la IA como herramienta de apoyo en múltiples etapas de su trabajo, desde la planificación de clases (OCDE, 2026). Más allá del diseño de las clases, el profesorado usa la IA para diferenciar contenido según distintos niveles de competencia, generar materiales de práctica y apoyar el proceso de calificación. Al mismo tiempo, la adopción no está exenta de fricciones: el 72 % del profesorado expresó preocupación por que la IA pudiera permitir al alumnado presentar como propio un trabajo generado por IA, lo que refleja una tensión más amplia entre los beneficios prácticos de la IA para la enseñanza y sus implicaciones para la integridad académica (OCDE, 2026).

#### Enseñar sobre la IA

Además de usar la IA como herramienta docente, existe una necesidad creciente de enseñar al alumnado sobre la propia IA: cómo funciona, sus limitaciones y cómo usarla de forma responsable. Esto incluye construir una comprensión básica de los modelos de lenguaje como motores de predicción y no como bases de datos, lo que explica su tendencia a las alucinaciones, así como habilidades prácticas como comprobar los hechos de la salida de la IA y reconocer citas inventadas (UNESCO, 2024). También implica desarrollar el pensamiento crítico en torno al uso de prompts, pasando de seguir instrucciones a formularlas, e inculcar conciencia sobre las dimensiones éticas y legales del uso de la IA, incluida la privacidad de los datos y la Ley de IA de la UE. El Marco de Competencias en IA para Docentes de la UNESCO (2024) plantea esto como una competencia profesional central, argumentando que el propio profesorado necesita formación en estas áreas antes de poder enseñarlas eficazmente al alumnado.

### ¿Qué falta?

Además de los marcos institucionales y los datos de adopción, es importante entender cómo se desarrollan estas dinámicas en la práctica. En el marco del proyecto DUAL.AI.TEACHer se llevó a cabo una serie de talleres. Se convocó a numerosos actores del ámbito educativo para recabar perspectivas de primera mano sobre el uso actual de la IA en la enseñanza. Estos talleres sacaron a la luz un conjunto de necesidades e inquietudes concretas expresadas por los educadores, que abarcan aspectos prácticos, pedagógicos y de formación. Las siguientes secciones describen estas necesidades en detalle.

- **Comprender cómo funciona la IA.** Tanto el alumnado como el profesorado necesitan entender cómo se construyen y entrenan los modelos de lenguaje, y qué ocurre con sus datos una vez proporcionados. También necesitan comprender la naturaleza de estos modelos como motores de predicción y no como bases de datos, lo que explica su tendencia a las alucinaciones. El profesorado necesita un curso sencillo de nivel general que cubra los fundamentos de cómo funcionan los LLM.
- **Pensamiento crítico, cuestionamiento y verificación de la IA.** El alumnado y el profesorado necesitan poder cuestionar las respuestas generadas por IA y reconocer información inventada. También se necesitan habilidades prácticas de verificación, desde comprobar la salida de la IA contra fuentes oficiales hasta detectar imágenes y vídeos generados por IA. El alumnado necesita pasar de seguir instrucciones a formularlas, pensando de forma crítica sobre el resultado deseado.
- **Ética, protección de datos y regulación.** Se necesita una comprensión general de los aspectos éticos y legales del uso de la IA, incluidas la Ley de IA de la UE y el RGPD. Un uso seguro y responsable es esencial para prevenir prácticas ilegales, junto con conciencia sobre cuestiones relacionadas como el sesgo en los materiales didácticos y la falta de fiabilidad de los detectores de IA.
- **Uso responsable.** La IA debe usarse con criterio, como apoyo y no como sustituto, dejando espacio para el pensamiento propio del alumnado. La transparencia importa, y se espera que el alumnado señale qué partes son suyas, en línea con el pensamiento de la «escritura ciborg». También se necesitan la apropiación y la rendición de cuentas por parte del alumnado.
- **Habilidades prácticas.** El uso de prompts debe tratarse como una competencia enseñable, no como algo que se adquiere de forma autónoma. Tanto el profesorado como el alumnado necesitan instrucción explícita en la redacción de prompts eficaces, y el profesorado necesita formación en ingeniería de prompts para la planificación de clases, la diferenciación y la calificación. También se necesita una familiaridad más amplia con las herramientas para adecuarlas a cada materia.
- **Equidad e infraestructura.** El acceso a la IA está en el centro de una preocupación creciente por la equidad, ya que los distritos más ricos pueden permitirse mejores herramientas, ampliando las brechas de competencia entre escuelas. Se necesita financiación pública para garantizar un acceso equitativo con independencia de los recursos de cada escuela, priorizando los modelos de IA abiertos frente a los corporativos como parte de este esfuerzo. También hay que definir una edad mínima para el uso de la IA.
- **Evaluación.** Se necesita un enfoque distinto de la evaluación, centrado en el proceso más que en el producto final, incluyendo las reflexiones del alumnado sobre los borradores generados por IA. También se necesitan tareas que integren la IA, calificando al alumnado por su capacidad de criticar, comprobar los hechos y editar la salida de la IA, lo que plantea preguntas sobre el papel humano cuando el propio profesorado depende de la IA para calificar. También se necesitan métodos concretos de aula, como comprobar los hechos de un texto de IA, comparar respuestas de chatbots, debatir el uso de la IA en los deberes e incorporar herramientas no digitales como los rotafolios.

«Quien enseña con IA tiene que poder verificar cada respuesta que da, porque los errores ocurren. Sin un conocimiento sólido de la materia no los detectaréis».

# 1.6 Legislación

<p class="callout info">**Aviso:** Hemos investigado este capítulo con cuidado, pero el derecho de la IA es un ámbito que cambia con rapidez. Las normas pueden haber cambiado desde su publicación, así que comprobad siempre la situación jurídica actual y adaptadla a vuestra legislación nacional cuando sea necesario. Este capítulo no constituye asesoramiento jurídico.</p>

### Mensaje clave

- **La Ley de IA de la UE es la base legal.** El reglamento de la UE sobre IA está en vigor desde agosto de 2024 y se implementa progresivamente hasta 2027. Se aplica no solo a las empresas tecnológicas, sino también a los centros educativos.
- **La alfabetización en IA es una obligación, no un curso que marcar como hecho.** Los centros educativos deben apoyar a su personal en el desarrollo de la alfabetización en IA.
- **Varios usos de la IA están prohibidos por completo.** Entre ellos: inferir las emociones del alumnado a partir de datos faciales o de voz, IA que explota las vulnerabilidades de los menores para distorsionar su comportamiento, y la creación de bases de datos de reconocimiento facial o la inferencia de rasgos como la raza o la religión a partir de datos biométricos.
- **El riesgo depende de la decisión, no del producto.** Las herramientas habituales de redacción, investigación, traducción y planificación de clases no son de alto riesgo por el mero hecho de usarse en el ámbito escolar. Se convierten en de alto riesgo en cuanto influyen en la admisión, las trayectorias educativas, los resultados de los exámenes o las decisiones de empleo.
- **No todo lo generado por IA necesita una etiqueta.** La obligación de transparencia recae principalmente en el proveedor; el material revisado por un docente con control editorial humano está exento.
- **La IA de alto riesgo necesita una persona que pueda anularla.** El resultado de la IA nunca es la decisión definitiva. Hay que comprender sus límites y estar en condiciones de ignorar o anular su resultado.
- **La Ley de IA se suma a otras leyes, no las sustituye.** La normativa nacional de protección de datos, educación, empleo, protección de la infancia y derechos de autor sigue aplicándose junto a ella.
- **El RGPD regula los datos, no solo la herramienta.** Incluso un sistema de IA que cumpla con la Ley de IA puede seguir estando prohibido si trata datos personales del alumnado o del personal sin una base legal válida.

> Si solo recordáis una frase de esta página: **usad la IA para apoyar vuestro criterio profesional, no para sustituirlo: se aplican normas más estrictas en cuanto la IA ayuda a tomar decisiones sobre calificaciones, trayectorias educativas o personas.**

### La Ley de IA de la UE

La Ley de IA de la UE ([Reglamento (UE) 2024/1689](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727)) es el reglamento único de la UE, basado en el riesgo, para la inteligencia artificial. En lugar de regular productos concretos, clasifica los sistemas de IA según el riesgo que suponen y les asigna obligaciones en consecuencia: desde la prohibición total de un pequeño conjunto de prácticas, pasando por obligaciones adicionales para los usos «de alto riesgo», hasta la ausencia de normas especiales para las herramientas cotidianas. Se aplica directamente en todos los Estados miembros, tanto a organizaciones públicas como privadas.

La normativa se implementa por fases. Está en vigor desde el 1 de agosto de 2024; desde el 2 de febrero de 2025 ya son vinculantes las prácticas prohibidas que se describen más abajo y la obligación de desarrollar la alfabetización en IA ([Art. 4](https://overview.legal/laws/ai-act/art-4)); a partir del 2 de agosto de 2026 se aplicará la mayoría de sus disposiciones restantes.

[![Fig1&#95;1&#95;6.jpg](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/scaled-1680-/9q1fig1-1-6.jpg)](https://playbook.dualaiteacher.eu/uploads/images/gallery/2026-10/9q1fig1-1-6.jpg)

Fig. 1: «La hoja de ruta de la IA» (imagen generada con IA, ...)

### ¿Quién es responsable del uso de la IA?

Si un centro educativo introduce y controla un sistema de IA, el centro o la autoridad educativa suele ser el *responsable del despliegue* ([Art. 3(4)](https://overview.legal/laws/ai-act/art-3)). Por lo general, el docente no es un responsable del despliegue independiente cuando usa la herramienta siguiendo las instrucciones del centro, pero debe seguir esas instrucciones y toda la normativa pertinente en materia escolar y de protección de datos.

### El profesorado necesita saber qué está usando

Los centros educativos y las autoridades educativas deben adoptar las medidas oportunas para apoyar el desarrollo de la alfabetización en IA entre quienes usan sistemas de IA en su nombre ([Art. 4](https://overview.legal/laws/ai-act/art-4)). La Ley de IA no especifica un nivel concreto de competencia, certificado o formato de formación. Estos dependen más bien del sistema de IA utilizado, de cómo se use y de a quién pueda afectar.

### Prácticas de IA prohibidas por completo para los centros educativos

La Ley de IA prohíbe por completo ocho prácticas de IA ([Art. 5](https://overview.legal/laws/ai-act/art-5)); cuatro de ellas son directamente relevantes para los centros educativos:

1. El uso de sistemas de IA en centros educativos para **inferir emociones o intenciones a partir de datos biométricos** (como las características faciales o de voz del alumnado) está generalmente prohibido. Existen excepciones limitadas por motivos médicos o de seguridad ([Art. 3(39)](https://overview.legal/laws/ai-act/art-3); [Art. 5(1)(f)](https://overview.legal/laws/ai-act/art-5)).
2. Están prohibidos, con independencia de la intención, los sistemas de IA que exploten las vulnerabilidades de una persona debidas a la edad (como en el caso de los menores), la discapacidad o su situación social o económica, de forma que distorsionen su comportamiento y les causen daño ([Art. 5(1)(b)](https://overview.legal/laws/ai-act/art-5)).
3. Está prohibido crear o ampliar una base de datos de reconocimiento facial mediante el rastreo indiscriminado de imágenes de internet o de circuitos cerrados de televisión (CCTV). Esto es relevante si un centro educativo se plantea usar una herramienta de reconocimiento facial para el control de asistencia o la vigilancia de exámenes ([Art. 5(1)(e)](https://overview.legal/laws/ai-act/art-5)).
4. Está prohibido usar datos biométricos para categorizar a las personas con el fin de inferir rasgos protegidos como la raza, las opiniones políticas, la religión o la orientación sexual. Esto es relevante para cualquier herramienta basada en datos biométricos, como el software de supervisión de exámenes, que vaya más allá de su finalidad declarada ([Art. 5(1)(g)](https://overview.legal/laws/ai-act/art-5)).

### ¿El contenido generado por IA siempre necesita una etiqueta?

Si el alumnado interactúa directamente con un sistema de IA, como un chatbot, debe ser informado de que está interactuando con IA. Normalmente es el proveedor del sistema quien debe dejarlo claro ([Art. 50(1)](https://overview.legal/laws/ai-act/art-50)).

Los centros educativos y el profesorado deben señalar los deepfakes o los textos generados por IA publicados sobre asuntos de interés público, cuando se usen en el aula ([Art. 50(4)](https://overview.legal/laws/ai-act/art-50)). Este requisito no se aplica cuando el contenido generado por IA ha sido objeto de una revisión humana efectiva o de control editorial, y una persona o institución asume la responsabilidad editorial de su publicación. Por tanto, una ficha de trabajo asistida por IA y revisada por un docente no requiere automáticamente una etiqueta.

### Cuándo la IA en la educación se convierte en alto riesgo

Las herramientas habituales de redacción, traducción, investigación y planificación de clases no son de alto riesgo por el mero hecho de usarse en el trabajo. La clasificación depende de la finalidad prevista del sistema, no simplemente del producto que se use ([Art. 6](https://overview.legal/laws/ai-act/art-6) · [Anexo III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3)).

Los sistemas de IA pueden clasificarse como de alto riesgo cuando están destinados a:

<table id="bkmrk-para-el-profesorado-" style="width:100%;"><colgroup><col style="width:48.333333%;"></col><col style="width:51.547619%;"></col></colgroup><tbody><tr><td style="border:1px solid rgb(68,68,68);padding:10px 14px;background-color:rgba(0,151,178,0.12);color:rgb(0,151,178);font-weight:600;vertical-align:top;">Para el profesorado</td><td style="border:1px solid rgb(68,68,68);padding:10px 14px;background-color:rgba(0,151,178,0.12);color:rgb(0,151,178);font-weight:600;vertical-align:top;">Para los centros educativos</td></tr><tr><td style="border:1px solid rgb(68,68,68);padding:10px 14px;vertical-align:top;">

- decidir sobre el acceso, la admisión o la asignación del alumnado a centros o programas educativos o de formación profesional;
- evaluar los resultados de aprendizaje del alumnado o dirigir sus procesos de aprendizaje;
- valorar el nivel educativo adecuado que un alumno o alumna recibirá o al que podrá acceder; o
- detectar comportamientos prohibidos del alumnado durante los exámenes.

*([Anexo III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), punto 3)*

</td><td style="border:1px solid rgb(68,68,68);padding:10px 14px;vertical-align:top;">

- contratar o seleccionar docentes, incluida la selección de candidaturas;
- decidir sobre las condiciones contractuales, la promoción o la finalización de la relación laboral de un docente;
- asignar tareas en función del comportamiento o los rasgos personales de un docente; o
- evaluar el desempeño del profesorado.

*([Anexo III](https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3), punto 4)*

</td></tr></tbody></table>

Una herramienta de comprobación o preparación limitada también puede quedar fuera de la categoría de alto riesgo si no influye de forma significativa en una decisión. Sin embargo, un sistema educativo que elabora perfiles de personas se considera siempre de alto riesgo.

### Qué implica la IA de alto riesgo para los centros educativos y el profesorado

Que un sistema de IA se clasifique como de alto riesgo no excluye automáticamente su uso en los centros educativos. Pero los sistemas de alto riesgo conllevan obligaciones ([Art. 26](https://overview.legal/laws/ai-act/art-26)):

Estas obligaciones para la IA de alto riesgo en el ámbito educativo se aplican a partir del **2 de diciembre de 2027**, aunque las prohibiciones anteriores y la obligación de alfabetización en IA ya se aplican hoy.

<table id="bkmrk-para-el-profesorado--1" style="width:100%;"><colgroup><col style="width:49.166667%;"></col><col style="width:50.714286%;"></col></colgroup><tbody><tr><td style="border:1px solid rgb(68,68,68);padding:10px 14px;background-color:rgba(0,151,178,0.12);color:rgb(0,151,178);font-weight:600;vertical-align:top;">Para el profesorado</td><td style="border:1px solid rgb(68,68,68);padding:10px 14px;background-color:rgba(0,151,178,0.12);color:rgb(0,151,178);font-weight:600;vertical-align:top;">Para los centros educativos</td></tr><tr><td style="border:1px solid rgb(68,68,68);padding:10px 14px;vertical-align:top;">

- usarla solo para su finalidad aprobada y seguir sus instrucciones;
- no tratar su resultado como una decisión definitiva;
- comprender sus principales limitaciones y las fuentes de error más probables;
- estar atentos a la dependencia excesiva de resultados aparentemente convincentes; y
- estar preparados para ignorar o anular su resultado.

</td><td style="border:1px solid rgb(68,68,68);padding:10px 14px;vertical-align:top;">

- proporcionar una supervisión humana competente y autorizada;
- garantizar que los datos de entrada bajo su control sean pertinentes y suficientemente representativos;
- supervisar el sistema y responder ante riesgos o incidentes graves;
- conservar los registros generados automáticamente durante al menos seis meses cuando dichos registros estén bajo su control; y
- informar con antelación al alumnado, al profesorado o a las personas afectadas cuando el sistema contribuya a tomar decisiones sobre ellas.

</td></tr></tbody></table>

Los organismos públicos y las organizaciones privadas que prestan servicios públicos también pueden tener que realizar una evaluación de impacto sobre los derechos fundamentales antes de usar IA de alto riesgo ([Art. 27](https://overview.legal/laws/ai-act/art-27)). Las autoridades públicas y las organizaciones que actúen en su nombre pueden además tener que registrar el sistema en la base de datos de la UE ([Art. 49](https://overview.legal/laws/ai-act/art-49)). La responsabilidad de hacerlo, ya sea del centro educativo o de su autoridad educativa, depende del sistema escolar nacional.

### La Ley de IA no es la única normativa relevante

La Ley de IA no sustituye a la normativa europea o nacional en materia de protección de datos, educación, empleo y participación de los trabajadores, protección de la infancia o derechos de autor ([Art. 2(7)](https://overview.legal/laws/ai-act/art-2)). Por ejemplo, que una herramienta no sea de alto riesgo no significa que se puedan subir a ella trabajos del alumnado o datos personales.

<span style="text-decoration:underline;">**Una herramienta puede ser aceptable conforme a la Ley de IA y, aun así, estar prohibida por la normativa de protección de datos o por las normas de vuestro centro.**</span>

### El RGPD

El [RGPD](https://gdpr.eu) (Reglamento (UE) 2016/679) es la normativa de la UE en materia de protección de datos. Desempeña un papel complementario junto a la Ley de IA: mientras la Ley de IA se pregunta si y cómo puede usarse un sistema de IA en general, el RGPD se plantea una pregunta más concreta: ¿pueden tratarse de esta manera estos datos concretos sobre esta persona concreta? Cumplir una de las dos normas no significa automáticamente que se cumpla la otra.

- **Se aplica en cuanto intervienen datos personales.** Nombres, direcciones de correo electrónico escolares, trabajos del alumnado, grabaciones de voz, transcripciones, fotografías, calificaciones, asistencia y datos de progreso de aprendizaje son todos datos personales ([Art. 4](https://overview.legal/laws/gdpr/art-4)). La mayoría de las herramientas de IA que se usan en clase afectan al menos a uno de ellos.
- **Se necesita una base jurídica para tratarlos.** Las bases en las que suelen apoyarse los centros educativos son una obligación legal o una misión realizada en interés público; el consentimiento también es posible, pero debe darse libremente y, en el caso del alumnado de menor edad, debe darlo un progenitor o tutor legal ([Art. 6](https://overview.legal/laws/gdpr/art-6), [Art. 8](https://overview.legal/laws/gdpr/art-8)).
- **Algunos datos necesitan protección adicional.** Los datos de salud, los datos biométricos y los datos que revelen el origen racial o étnico, la religión o rasgos similares son «categorías especiales de datos» y están, en principio, prohibidos sin una excepción específica ([Art. 9](https://overview.legal/laws/gdpr/art-9)) — una de las razones por las que la Ley de IA prohíbe además, por separado, varias prácticas de inferencia biométrica en los centros educativos.
- **Hay que saber quién es responsable.** El centro educativo suele ser el «responsable del tratamiento»; un proveedor de IA que trate datos por cuenta del centro es un «encargado del tratamiento» y necesita un acuerdo de tratamiento de datos que detalle sus obligaciones ([Art. 28](https://overview.legal/laws/gdpr/art-28)). Conviene comprobar esto antes de implantar una nueva herramienta en todo el centro.
- **Los datos que salen de la UE necesitan una salvaguarda.** Muchas herramientas de IA populares están alojadas fuera de la UE. Los datos personales solo pueden viajar allí si existe una decisión de adecuación u otra salvaguarda aprobada, como cláusulas contractuales tipo ([Art. 44](https://overview.legal/laws/gdpr/art-44)).
- **El alumnado y el personal conservan sus derechos.** Pueden solicitar información sobre lo que se conserva sobre ellos, pedir su corrección o eliminación, y oponerse a decisiones basadas únicamente en el tratamiento automatizado que les afecten de forma significativa ([Art. 15](https://overview.legal/laws/gdpr/art-15)–[Art. 22](https://overview.legal/laws/gdpr/art-22)) — un derecho que se suma y refuerza los requisitos de supervisión humana de la Ley de IA para los sistemas de alto riesgo.

<span style="text-decoration:underline;">**En la práctica: antes de introducir datos reales del alumnado o del personal en una herramienta de IA, comprobad que vuestro centro la ha autorizado, no compartáis más datos personales de los que requiera la tarea y, cuando solo estéis probando una herramienta, utilizad preferentemente ejemplos anonimizados o ficticios.**</span>

### Dónde encontrar ayuda

La aplicación de la normativa se organiza de forma distinta en cada país de la UE. Dado que las responsabilidades nacionales pueden cambiar, consultad la lista actualizada de la Comisión Europea de [autoridades nacionales de vigilancia del mercado](https://digital-strategy.ec.europa.eu/en/policies/market-surveillance-authorities-under-ai-act). Cualquier persona (un docente, un alumno, un progenitor) puede presentar una reclamación ante esa autoridad si considera que se ha incumplido la Ley de IA ([Art. 85](https://overview.legal/laws/ai-act/art-85)). Cuando un sistema de alto riesgo, como una herramienta de admisión o de vigilancia de exámenes, ha llevado a una decisión que afecta significativamente a un alumno o alumna, este (o sus progenitores) también puede solicitar una explicación de esa decisión concreta ([Art. 86](https://overview.legal/laws/ai-act/art-86)).

### Normativa nacional de vuestro país

La Ley de IA es de aplicación en toda la UE, pero los organismos de aplicación, la normativa escolar y la práctica en materia de protección de datos varían según el país. Aquí se añadirán notas específicas de cada país socio del Playbook:

- Austria
- Chequia
- Alemania
- Letonia
- Polonia
- Eslovaquia
- Eslovenia
- España