Skip to main content

1.3 Uso responsable da IA

Mensaxe clave

  • A responsabilidade é unha tarefa de deseño, non de control. A detección da IA non funciona correctamente.
  • E a detección da IA é inxusta cando falla. Os detectores marcan erroneamente traballos humanos como escritos por IA e non detectan traballos escritos por IA. As autoridades educativas de Francia e dos Países Baixos desaconsellan o seu uso.

  • A invención con aparente seguridade e os nesgos herdados derivan do modo en que se constrúen e avalían estes sistemas. A consecuencia debería ser ensinalos en lugar de agardar unha solución.
  • O principio de traballo é: primeiro pensar, despois a IA. Facer que as persoas se comprometan coa súa propia resposta funciona mellor ca explicar a máquina, e incorporar límites ao software elimina o dano que causa o acceso sen restricións.

  • Os prompts por si sós non abondan. Un chatbot ao que se lle encarga actuar como titor tende a volver dar respostas, o que converte os límites fiables nunha cuestión de compra.
  • A amplificación é o efecto por defecto; a igualación hai que construíla combinando acceso, deseño e andamiaxe. O máis escaso, pero o máis importante dos tres, é un docente formado.
  • A inclusión é a vantaxe máis clara, e o ámbito no que o propio profesorado ve os argumentos máis sólidos.

Se só lembra unha frase desta páxina: os diques están a romper. Ensine a nadar.

O diario de lectura, segunda ollada

Volvamos ao noso alumno de 9.º curso e ao seu diario de lectura sospeitosamente pulido. O instinto é case universal, e é o instinto dun bo docente: descubrir se usou a IA. Construír un dique mellor.

Este capítulo trata de por que ese instinto, por si só, non leva a ningures. Despois veremos o que funciona no seu lugar.

Comecemos pola parte incómoda. O profesorado non é capaz de distinguir de forma fiable os textos da IA dos textos do alumnado. En dous estudos dun equipo alemán, 89 docentes en formación e 200 docentes con experiencia recibiron unha mestura de redaccións de alumnado e de redaccións de chatbot e tiveron que clasificalas. Ningún dos dous grupos foi capaz de facelo de forma fiable, pero ambos estaban convencidos de podelo facer. A experiencia axudou só un pouco: os docentes experimentados seguiron sen detectar a maioría dos textos da IA. Nunha universidade británica, uns investigadores entregaron respostas xeradas por chatbot en exames reais en liña sen supervisión, polas canles habituais e sen informar os correctores.

Voices from the field

“Pode usala, pero ten que ser capaz de explicar o resultado coas súas propias palabras.”

O detector que falla co alumnado equivocado

Uns investigadores probaron sete dos detectores de IA máis empregados con redaccións do TOEFL escritas por persoas que aprenden inglés como lingua estranxeira, recompiladas nun foro chinés en liña. Xunto a elas, incluíron redaccións de alumnado estadounidense de 13 ou 14 anos con inglés como lingua materna. Os traballos dos falantes nativos clasificáronse correctamente case sempre. Das redaccións en lingua estranxeira, máis de seis de cada dez foron marcadas erroneamente como escritas por unha máquina.

O mecanismo non ten misterio. Moitas destas ferramentas non detectan o traballo dos grandes modelos de linguaxe, senón que miden a previsibilidade. Un texto que emprega palabras habituais en ordes esperables puntúa como artificial. Quen escribe nunha segunda lingua, cun vocabulario máis reducido e estruturas sintácticas máis ríxidas, pode producir exactamente ese sinal. Mentres tanto, os detectores adestrados para unha proba concreta e os estudos noutras linguas mostran diferenzas menores. Ata agora non hai no mercado ningún detector o suficientemente fiable como para acusar alguén de engano deliberado.

Os erros da ferramenta recaen sistematicamente no alumnado que xa carga co maior peso. As institucións fixeron as contas. A Universidade de Vanderbilt sinalou que, aínda que unha ferramenta deste tipo só se equivocase o 1 % das veces, iso suporía aproximadamente 750 traballos marcados erroneamente cada ano dos seus 75 000 envíos. En consecuencia, desactivouna. Unha guía elaborada por investigadores para o Ministerio Federal de Educación de Alemaña é contundente: a tecnoloxía “non é suficientemente fiable para proporcionar unha proba xuridicamente segura”. Unha proba europea independente de catorce detectores chegou ao mesmo veredicto: “nin precisos nin fiables”.

Boa parte de Europa xa deixou atrás este debate. O Ministerio de Educación de Francia e a súa autoridade de protección de datos aconsellan aos centros que non usen detectores, e a axencia TIC neerlandesa Kennisnet considéraos moi pouco fiables. No ensino superior, algunhas universidades, como a ZHAW de Zúric, prohiben empregalos para cualificar. En Inglaterra, os organismos examinadores só permiten o software de detección como un elemento máis dun xuízo que recae no docente, quen “mellor coñece o seu alumnado”. Tamén paga a pena levar para a casa unha cuestión de protección de datos: pegar o traballo dun alumno nunha ferramenta en liña supón tratar os seus datos persoais. Para iso cómpre unha base xurídica e un contrato co provedor. → 1.4 Uso da IA conforme á normativa

Parece que o pánico ás trampas é menor ca o ruído que o rodea. Uns investigadores enquisaron o alumnado de tres centros de secundaria estadounidenses antes de que existise ChatGPT e de novo despois. As trampas mantivéronse, en liñas xerais, no mesmo nivel. Unha enquisa posterior a máis de 4000 estudantes doutros seis centros de secundaria estadounidenses, un ano despois, chegou ao mesmo resultado.

A verdadeira pregunta nunca foi: “Como o pillo?” É: que mide aínda unha tarefa para a casa cando o seu produto se pode xerar a petición?

Voices from the field

“Ao principio vino como unha trampa. Agora véxoo como un sinal de que é a propia tarefa a que ten que cambiar.”

Dúas cousas que non se van arranxar sen máis, así que hai que ensinalas

A invención con aparente seguridade forma parte do sistema. Estes sistemas xeran continuacións plausibles dun texto, e plausible non é o mesmo que verdadeiro. As revisións da investigación coinciden en que ningunha técnica eliminou aínda o problema, aínda que se pode reducir e detectar en parte. O motivo é que as probas estándar empregadas para avaliar os grandes modelos de linguaxe premian unha suposición feita con seguridade antes ca recoñecer a incerteza; así, mentres se avalíen dese modo, persistirá unha certa proporción de falsidades fluídas e ben construídas.

Os nesgos do material de adestramento tamén forman parte do sistema. Ademais, non diminúen a medida que melloran os modelos. Un estudo europeo sobre os estereotipos de xénero en distintas linguas descubriu que os modelos máis grandes, mesmo despois do adestramento adicional destinado a facelos máis seguros e xustos, ás veces estereotipan máis en lugar de menos. Se unha propiedade non se pode eliminar mediante a enxeñaría, convértese en contido curricular. E pódese ensinar: nun programa finlandés, a proporción de alumnado capaz de explicar de onde procedía o nesgo dun xerador de imaxes pasou do 7 % ao 44 %. A consecuencia para o ensino ten que ser adestrar a análise de erros en lugar de evitar os erros. Noutras palabras: os fallos da máquina convértense na lección.

Voices from the field

“Deixe que o alumno comprobe a solución do chatbot coma se fose o docente. Buscando os erros é como por fin aprende o método.”

O que funciona: deseño, non control

A evidencia apunta a un principio sinxelo e fácil de lembrar: primeiro pensar, despois a IA.

  • Faga que a persoa se comprometa primeiro. Nun experimento con arredor de 200 persoas adultas, quen tiña que tomar a súa propia decisión antes de ver a suxestión da máquina aceptou con menos frecuencia as suxestións erróneas ca quen recibía unha breve explicación do razoamento da máquina. Explicar a IA non resolveu o problema. O método que axudou foi obrigar a emitir un xuízo propio, é dicir, obrigar a pensar. Como pensar esgota, a estes métodos foron os que menos lles gustaron aos participantes, e axudaron sobre todo a quen xa goza co esforzo intelectual. É o que todos coñecemos como efecto Mateo: dáselle máis a quen xa ten.

  • Incorpore os límites. O chatbot do capítulo 1.2, que non daba as respostas e formulaba preguntas no seu lugar, é a mesma idea levada ao software: o alumnado que o usou non perdeu nada no exame, mentres que o que usou a versión sen restricións perdeu moito.
  • Faga visible o proceso en lugar de perseguir o produto. Borradores, notas de traballo, unha breve conversa sobre o traballo. Todo isto móstralle o que un alumno é capaz de facer sen que ninguén teña que demostrar o que fixo.
  • Dinamarca está a pilotar este principio: nos centros participantes, o alumnado pode usar a IA mentres prepara o exame oral de inglés, e o exame escrito inclúe unha parte manuscrita sen ningún tipo de axuda.

Paga a pena coñecer dous límites antes de confiar nisto.

O primeiro: o consello popular de que o profesorado simplemente lle indique a un chatbot que actúe como titor socrático pode non resistir unha conversa longa. As primeiras evidencias, procedentes dun estudo con alumnado simulado aínda non revisado por pares (outubro de 2026), suxiren que, baixo unha presión persistente, eses titores volven proporcionar respostas. Os límites fiables teñen que estar integrados no sistema, o que os converte nunha decisión de compra máis ca nunha habilidade para redactar prompts.

O segundo: facer que unha IA explique o seu razoamento parece a salvagarda obvia, pero as explicacións non impiden de forma fiable o exceso de confianza. Nun estudo non modificaron a aceptación de consellos erróneos, e as explicacións demasiado técnicas ou demasiado simplificadas poden aumentar unha confianza inxustificada. A explicación é só unha condición para a aprendizaxe.

Actitude: dous modos de fallo, non un

Preocúpanos que o profesorado confíe demasiado na IA. Con todo, deberiamos preocuparnos igualmente polo contrario. Mesmo as persoas con experiencia poden caer no exceso de confianza. Nun pequeno proxecto piloto en centros estadounidenses, catro de cada dez docentes enquisados consideraron que a retroalimentación dunha ferramenta de cualificación con IA non era útil, que era maioritariamente vaga ou mesmo incorrecta. A investigación sobre o nesgo de automatización mostra que as persoas tenden a aceptar a suxestión dunha máquina mesmo cando teñen motivos para dubidar dela. Detectar un erro e corrixilo son pasos distintos.

O polo oposto é a ocultación. Hai docentes que ocultan o seu propio uso da IA a colegas e ao alumnado, e prohíbenlles facer o que eles mesmos fan: o 77 % usa a IA no ámbito privado, mentres que o 57 % opina que o alumnado nunca debería usala para xerar ideas. Mentres tanto, un estudo con alumnado de altas capacidades de 6.º a 8.º curso concluíu que entre un terzo e dous quintos xa afirmaban que a IA sabe máis ca os seus docentes. Unha profesión que oculta as súas prácticas non pode servir de modelo de práctica responsable, e a transparencia non é só unha cortesía: é o mecanismo polo que funciona o ensino co exemplo.

A IA nivela o terreo de xogo ou incrínao?inclínao?

Nas tarefas de aprendizaxe, sucede o contrario. Un estudo non atopou ningún beneficio medio, pero si unha distancia crecente entre o alumnado que xa sabía moito e o que non. Outro analizou alumnado que escribía nunha lingua estranxeira: quen escribía peor recibiu máis correccións da IA e aplicou con éxito menos delas, e varios consideraron desalentadora a avalancha de retroalimentación. A retroalimentación sen capacidade para ordenala non axuda: sepulta.

A fenda existe mesmo antes de que alguén toque unha ferramenta. En Alemaña, o 80 % do alumnado dos fogares máis favorecidos ve a IA como unha oportunidade, fronte ao 55 % dos menos favorecidos. No Reino Unido, a división atravesa a sala de profesorado máis ca o armario dos dispositivos: o 45 % do profesorado dos centros privados recibiu formación formal sobre o uso da IA, fronte ao 21 % nos centros públicos. Dentro do sector público, os centros con máis recursos volven adiantarse aos máis pobres. Unha enquisa de 2026 a máis de 25 000 nenos e nenas de 17 países europeos atopa a mesma división social na intensidade e na variedade cocoas que usan a IA. Unha frase dun comentarista resume todo o problema mellor ca calquera cifra: “os ricos teñen acceso tanto á tecnoloxía como a persoas que os axudan a usala, mentres que os pobres só teñen acceso á tecnoloxía”.

Así, o pescozo de botella é que alumnado ten un docente que recibiu formación. A IA compensa cando se dan tres condicións á vez: acceso seguro, unha ferramenta deseñada para aprender e non só para responder, e un docente que acompaña o seu uso con andamiaxe. Se falta calquera delas, amplifica as diferenzas. Como as tres adoitan estar presentes nos mesmos centros e ausentes nos mesmos centros, a amplificación é o efecto por defecto e a igualación é algo que hai que construír.