Skip to main content

1.3 Uso responsable da IA

TakeMensaxe Home messageclave

  • ResponsibilityA isresponsabilidade aé designunha task,tarefa notde adeseño, controlnon task.de control. DetectionA ofdetección AIda doesIA notnon workfunciona properly.correctamente.
  • AndE AIa detectiondetección isda unfairIA whené itinxusta fails.cando falla. DetectorsOs wronglydetectores flagmarcan humanerroneamente worktraballos ashumanos AI-written,como andescritos misspor AI-writtenIA work.e Educationnon authoritiesdetectan intraballos Franceescritos andpor theIA. NetherlandsAs adviseautoridades againsteducativas usingde them.Francia e dos Países Baixos desaconsellan o seu uso.

  • ConfidentA inventioninvención andcon inheritedaparente biasseguridade followe fromos hownesgos theseherdados systemsderivan aredo builtmodo anden judged.que se constrúen e avalían estes sistemas. TheA consequenceconsecuencia shoulddebería be:ser teachensinalos themen ratherlugar thande waitingagardar forunha a fix. solución.
  • TheO workingprincipio principlede is:traballo thinké: first,primeiro thenpensar, AI.despois a IA. MakingFacer peopleque commitas topersoas theirse owncomprometan answercoa beatssúa explainingpropia theresposta machinefunciona andmellor buildingca limitsexplicar intoa themáquina, e incorporar límites ao software removeselimina theo harmdano thatque unrestrictedcausa accesso does.acceso sen restricións.

  • PromptsOs aloneprompts don'tpor hold.si sós non abondan. AUn chatbot taskedao withque actingse aslle encarga actuar como titor tende a tutorvolver tendsdar torespostas, drifto backque toconverte givingos answers,límites whichfiables makesnunha reliablecuestión limitsde a purchase question.compra.
  • AmplificationA isamplificación theé default;o equalizationefecto mustpor be built from access, design and scaffolding together. The scarcest but most important of the three isdefecto; a trainedigualación teacher.hai que construíla combinando acceso, deseño e andamiaxe. O máis escaso, pero o máis importante dos tres, é un docente formado.
  • InclusionA isinclusión theé clearesta winvantaxe máis clara, ande whereo teachersámbito themselvesno seeque theo strongestpropio case.profesorado ve os argumentos máis sólidos.

IfSe yousó rememberlembra onlyunha onefrase sentencedesta from this page:páxina: Theos damsdiques areestán breaking.a Teachromper. swimming.Ensine a nadar.

TheO readingdiario journal,de secondlectura, looksegunda ollada

BackVolvamos toao ournoso ninth-gradealumno studentde and9.º hiscurso suspiciouslye polishedao readingseu journal.diario Thede instinctlectura issospeitosamente almostpulido. O instinto é case universal, ande ité iso instinto dun bo docente: descubrir se usou a IA. Construír un dique mellor.

Este capítulo trata de por que ese instinto, por si só, non leva a ningures. Despois veremos o que funciona no seu lugar.

Comecemos pola parte incómoda. O profesorado non é capaz de distinguir de forma fiable os textos da IA dos textos do alumnado. En dous estudos dun equipo alemán, 89 docentes en formación e 200 docentes con experiencia recibiron unha mestura de redaccións de alumnado e de redaccións de chatbot e tiveron que clasificalas. Ningún dos dous grupos foi capaz de facelo de forma fiable, pero ambos estaban convencidos de podelo facer. A experiencia axudou só un pouco: os docentes experimentados seguiron sen detectar a maioría dos textos da IA. Nunha universidade británica, uns investigadores entregaron respostas xeradas por chatbot en exames reais en liña sen supervisión, polas canles habituais e sen informar os correctores.

Voices from the instinctfield of

“Pode usala, pero ten que ser capaz de explicar o resultado coas súas propias palabras.”

O detector que falla co alumnado equivocado

Uns investigadores probaron sete dos detectores de IA máis empregados con redaccións do TOEFL escritas por persoas que aprenden inglés como lingua estranxeira, recompiladas nun foro chinés en liña. Xunto a goodelas, teacher:incluíron findredaccións outde whetheralumnado heestadounidense usedde AI.13 Buildou a14 betteranos dam.

con

Thisinglés chaptercomo islingua aboutmaterna. whyOs thattraballos instinct,dos onfalantes itsnativos own,clasificáronse leadscorrectamente nowhere.case Wesempre. willDas comeredaccións toen whatlingua works instead.

Start with the uncomfortable part. Teachers cannot reliably tell AI text from student text. In two studies by a German team, 89 trainee teachers and 200 experienced teachers were given a mix of student essays and chatbot essays and asked to sort them. Neither group could do so reliably but both groups were confident they were able to. Experience helped only a little: the experienced teachers still missed most of the AI texts. At one British university, researchers submitted chatbot-generated answers to real unsupervised online exams through the normal channels, without telling the markers.

The detector that fails the wrong students

Researchers tested seven of the most widely used AI detectors on TOEFL essays written by people learning English as a foreign language, collected from a Chinese online forum. Alongside, they put essays by native-speaking American eighth-graders. The native speakers' work was classified correctly almost every time. Of the foreign-language essays,estranxeira, moremáis thande sixseis inde tencada weredez wronglyforon flaggedmarcadas aserroneamente machine-writtencomo escritas por unha máquina.

TheO mechanismmecanismo isnon notten mysterious.misterio. ManyMoitas ofdestas theseferramentas toolsnon dodetectan noto detecttraballo thedos workgrandes ofmodelos largede languagelinguaxe, models.senón Theque toolsmiden measurea predictabilityprevisibilidade. TextUn thattexto usesque commonemprega wordspalabras inhabituais expecteden ordersordes scoresesperables aspuntúa como artificial. WritersQuen inescribe anunha secondsegunda language,lingua, withcun avocabulario smallermáis vocabularyreducido ande moreestruturas rigidsintácticas sentencemáis structures,ríxidas, canpode produceproducir exactlyexactamente thatese signal.sinal. Meanwhile,Mentres detectorstanto, trainedos fordetectores oneadestrados specificpara test,unha andproba studiesconcreta ine otheros languages,estudos shownoutras smallerlinguas differences.mostran Updiferenzas tomenores. nowAta thereagora arenon hai no detectorsmercado onningún thedetector marketo thatsuficientemente arefiable reliablecomo enoughpara toacusar accusealguén anyonede ofengano willful deception.deliberado.

TheOs tool'serros mistakesda fallferramenta systematicallyrecaen onsistematicamente theno studentsalumnado whoque arexa alreadycarga carryingco themaior most. peso. InstitutionsAs haveinstitucións donefixeron theas arithmetic. contas. A Universidade de Vanderbilt Universitysinalou pointedque, outaínda thatque evenunha ifferramenta suchdeste atipo toolsó werese wrongequivocase onlyo 1 % ofdas theveces, time,iso thatsuporía would still mean roughlyaproximadamente 750 paperstraballos marcados erroneamente cada ano dos seus 75 000 envíos. En consecuencia, desactivouna. Unha guía elaborada por investigadores para o Ministerio Federal de Educación de Alemaña é contundente: a year wrongly flagged out of its 75,000 submissions. Consequently, they switched it off. A guide written by researchers for Germany's federal education ministry is blunt: the technology istecnoloxía "not“non sufficientlyé reliablesuficientemente tofiable providepara legallyproporcionar secureunha proof."proba xuridicamente segura”. AnUnha independentproba Europeaneuropea testindependente ofde fourteencatorce detectorsdetectores reachedchegou theao samemesmo verdict:veredicto: "neither“nin accurateprecisos nornin reliable."fiables”.

MuchBoa ofparte Europede hasEuropa movedxa ondeixou fromatrás thiseste debate. France'sO educationMinisterio ministryde andEducación itsde dataFrancia protectione authoritya advisesúa schoolsautoridade notde toprotección usede detectors,datos theaconsellan ICTaos agencycentros que non usen detectores, e a axencia TIC neerlandesa Kennisnet inconsidéraos Denmarkmoi callspouco themfiables. highlyNo unreliable.ensino Insuperior, higheralgunhas educationuniversidades, individualcomo universities, such as thea ZHAW inde Zurich,Zúric, forbidprohiben usingempregalos thempara forcualificar. grading.En InInglaterra, England,os theorganismos examexaminadores boardssó allowpermiten detectiono software onlyde asdetección onecomo elementun ofelemento máis dun xuízo que recae no docente, quen “mellor coñece o seu alumnado”. Tamén paga a judgementpena thatlevar rests on the teacher, who "knows their students best". A data-protection point is worth carrying home as well: pastingpara a student'scasa workunha intocuestión ande onlineprotección toolde meansdatos: processingpegar theiro personaltraballo data.dun alumno nunha ferramenta en liña supón tratar os seus datos persoais.  ForPara thisiso purpose,cómpre aunha legalbase basisxurídica ande aun contractcontrato withco the provider is required.provedor. →  1.54 CompliantUso Useda ofIA AIconforme á normativa

ItParece seemsque thato pánico ás trampas é menor ca o ruído que o rodea. Uns investigadores enquisaron o alumnado de tres centros de secundaria estadounidenses antes de que existise ChatGPT e de novo despois. As trampas mantivéronse, en liñas xerais, no mesmo nivel. Unha enquisa posterior a máis de 4000 estudantes doutros seis centros de secundaria estadounidenses, un ano despois, chegou ao mesmo resultado.

A verdadeira pregunta nunca foi: “Como o pillo?” É: que mide aínda unha tarefa para a casa cando o seu produto se pode xerar a petición?

Voices from the cheatingfield panic

“Ao isprincipio thinnervino thancomo theunha noisetrampa. aroundAgora it. Researchersvéxoo surveyedcomo studentsun atsinal threede USque high schools before ChatGPT existed and again afterward. Cheating stayed broadly where it was. A follow-up survey of more than 4,000 students at six other US high schoolsé a yearpropia later found the same.

The real question was never, "How do I catch him"? It is: what doestarefa a homeworkque taskten stillque measure, once its product can be generated on demand?cambiar.”

TwoDúas thingscousas thatque willnon notse simplyvan bearranxar fixed,sen somáis, theyasí mustque behai taughtque ensinalas

ConfidentA inventioninvención iscon builtaparente in.seguridade forma parte do sistema. TheseEstes systemssistemas generatexeran continuacións plausibles dun texto, e plausible continuationsnon ofé o mesmo que verdadeiro. As revisións da investigación coinciden en que ningunha técnica eliminou aínda o problema, aínda que se pode reducir e detectar en parte. O motivo é que as probas estándar empregadas para avaliar os grandes modelos de linguaxe premian unha suposición feita con seguridade antes ca recoñecer a text,incerteza; andasí, plausiblementres isse notavalíen thedese samemodo, aspersistirá true.unha Reviewscerta ofproporción thede researchfalsidades agreefluídas thate noben technique has yet removed the problem, although it can be reduced and partly detected. The reason is, that the standard tests used to judge large language models reward a confident guess over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood will persist. construídas.

TheOs slantsnesgos in the trainingdo material arede builtadestramento intamén too.forman Moreover, theyparte do notsistema. shrinkAdemais, asnon the models improve. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. Ifdiminúen a propertymedida cannotque bemelloran engineeredos away,modelos. itUn becomesestudo curriculum.europeo Andsobre itos canestereotipos bede taught:xénero inen onedistintas Finnishlinguas programme, thedescubriu shareque ofos studentsmodelos whomáis couldgrandes, explainmesmo wheredespois ando imageadestramento generator'sadicional biasdestinado camea fromfacelos rosemáis fromseguros e xustos, ás veces estereotipan máis en lugar de menos. Se unha propiedade non se pode eliminar mediante a enxeñaría, convértese en contido curricular. E pódese ensinar: nun programa finlandés, a proporción de alumnado capaz de explicar de onde procedía o nesgo dun xerador de imaxes pasou do 7 % toao 44 %. The consequenceA forconsecuencia teachingpara musto beensino trainingten errorque analysisser insteadadestrar ofa erroranálise avoidance.de Inerros otheren words:lugar de evitar os erros. Noutras palabras: os fallos da máquina convértense na lección.

Voices from the machine'sfield failures

“Deixe becomeque theo lesson.alumno comprobe a solución do chatbot coma se fose o docente. Buscando os erros é como por fin aprende o método.”

WhatO works:que design,funciona: notdeseño, non control

TheA evidenceevidencia pointsapunta toa oneun simpleprincipio principlesinxelo that'se easyfácil tode remember:lembrar: thinkprimeiro first,pensar, thendespois AI.a IA.

  • MakeFaga theque humana commitpersoa first.se comprometa primeiro. InNun anexperimento experimentcon witharredor aboutde 200 adults,persoas peopleadultas, whoquen hadtiña toque make their own decision before seeing the machine's suggestion went along with its wrong suggestions less often than people who were showntomar a shortsúa explanationpropia ofdecisión theantes machine'sde reasoning.ver Explaininga thesuxestión AIda didmáquina notaceptou solvecon themenos problem. The method that helped was forcing the judgement. Forcing judgement means forcing people to think. Since thinking is exhausting the participants liked these methods least, and they helped most those who already enjoy effortful thinking. That is what your all knowfrecuencia as thesuxestións Matthewerróneas effect:ca Morequen isrecibía giveunha tobreve thoseexplicación whodo alreadyrazoamento have. da máquina. Explicar a IA non resolveu o problema. O método que axudou foi obrigar a emitir un xuízo propio, é dicir, obrigar a pensar. Como pensar esgota, a estes métodos foron os que menos lles gustaron aos participantes, e axudaron sobre todo a quen xa goza co esforzo intelectual. É o que todos coñecemos como efecto Mateo: dáselle máis a quen xa ten.

  • BuildIncorpore theos limits in.límites. TheO chatbot fromdo Chaptercapítulo 1.2 , thatque withheldnon answersdaba andas askedrespostas questionse insteadformulaba ispreguntas theno sameseu lugar, é a mesma idea inlevada ao software: theo studentsalumnado whoque usedo itusou lostnon nothingperdeu onnada theno exam,exame, whilementres thoseque witho theque unrestrictedusou versiona lostversión badly.sen restricións perdeu moito.
  • Make the processFaga visible insteado ofproceso huntingen thelugar product.de perseguir o produto. Drafts,Borradores, workingnotas notes,de atraballo, shortunha conversationbreve aboutconversa thesobre work.o  Thesetraballo. showTodo youisto whatmóstralle ao studentque canun doalumno withouté anyonecapaz havingde tofacer provesen whatque theyninguén did.teña que demostrar o que fixo.
  • DenmarkDinamarca isestá pilotinga thepilotar principle:este principio: atnos participatingcentros schools,participantes, studentso mayalumnado usepode AIusar whilea preparingIA formentres theprepara o exame oral Englishde examination,inglés, ande theo writtenexame examinationescrito includesinclúe aunha handwritten,parte aid-freemanuscrita part.sen ningún tipo de axuda.

Paga a pena coñecer Twodous limitslímites areantes worthde knowingconfiar before you rely on this. nisto.

TheO first: primeiro: theo consello popular advicede thatque teacherso shouldprofesorado simplysimplemente instructlle indique a un chatbot toque actactúe ascomo atitor Socraticsocrático tutorpode maynon notresistir surviveunha aconversa longlonga. conversation.As Earlyprimeiras evidence,evidencias, fromprocedentes adun studyestudo withcon simulatedalumnado studentssimulado thataínda hasnon notrevisado yetpor been peer-reviewedpares (Octoberoutubro de 2026), suggestssuxiren thatque, underbaixo persistentunha pressurepresión suchpersistente, tutorseses drifttitores backvolven intoproporcionar supplyingrespostas. answers. ReliableOs limitslímites havefiables toteñen beque builtestar intointegrados theno system,sistema, whicho makesque themos aconverte purchasingnunha decisiondecisión ratherde thancompra amáis promptingca skill.nunha habilidade para redactar prompts.

TheO second:segundo: makingfacer anque AIunha explainIA itsexplique reasoningo soundsseu likerazoamento the obvious safeguard, but explanations do not reliably prevent over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation is onlyparece a conditionsalvagarda forobvia, learning.pero as explicacións non impiden de forma fiable o exceso de confianza. Nun estudo non modificaron a aceptación de consellos erróneos, e as explicacións demasiado técnicas ou demasiado simplificadas poden aumentar unha confianza inxustificada. A explicación é só unha condición para a aprendizaxe.

Attitude:Actitude: twodous failuremodos modes,de notfallo, onenon un

WePreocúpanos worryque thato teachersprofesorado areconfíe placingdemasiado toona muchIA. trustCon intodo, AI.deberiamos However,preocuparnos weigualmente shouldpolo becontrario. equallyMesmo concernedas aboutpersoas thecon reverse.experiencia Evenpoden experiencedcaer peopleno canexceso bede caughtconfianza. outNun bypequeno over-trusting.proxecto Inpiloto en centros estadounidenses, catro de cada dez docentes enquisados consideraron que a smallretroalimentación pilotdunha inferramenta USde schools,cualificación fourcon inIA tennon ofera theútil, teachersque surveyedera judgedmaioritariamente anvaga AIou gradingmesmo tool'sincorrecta. feedbackA notinvestigación useful,sobre mostlyo vague,nesgo orde evenautomatización incorrect.mostra Researchque onas automationpersoas bias shows that people tend to go along withtenden a machine'saceptar suggestiona evensuxestión whendunha theymáquina havemesmo reasoncando toteñen doubtmotivos it.para dubidar dela. SpottingDetectar anun errorerro ande correctingcorrixilo itson arepasos different steps.distintos.

TheO oppositepolo poleoposto isé concealment.a Teachersocultación. hideHai theirdocentes ownque useocultan ofo AIseu frompropio colleaguesuso andda students,IA forbiddinga themcolegas toe doao whatalumnado, theye doprohíbenlles themselves:facer 77%o useque AIeles privately,mesmos whilefan: 57%o say77 students% shouldusa nevera useIA itno toámbito generateprivado, mentres que o 57 % opina que o alumnado nunca debería usala para xerar ideas. Meanwhile,Mentres tanto, un estudo con alumnado de altas capacidades de 6.º a study8.º ofcurso academicallyconcluíu ableque studentsentre inun gradesterzo 6e todous 8quintos foundxa thatafirmaban betweenque a thirdIA andsabe two-fifthsmáis alreadyca saidos theseus AIdocentes. knowsUnha moreprofesión thanque theiroculta teachers. Aas professionsúas thatprácticas hidesnon itspode practicesservir cannotde modelmodelo responsiblede practicepráctica responsable, and transparency is not juste a courtesy.transparencia Itnon isé thesó mechanismunha bycortesía: whiché teachingo bymecanismo examplepolo works. que funciona o ensino co exemplo.

DoesA AIIA levelnivela theo fieldterreo orde tiltxogo it?ou incrínao?

InNas learningtarefas tasks,de itaprendizaxe, doessucede theo opposite.contrario. OneUn studyestudo foundnon noatopou averageningún benefitbeneficio atmedio, all,pero butsi unha distancia crecente entre o alumnado que xa sabía moito e o que non. Outro analizou alumnado que escribía nunha lingua estranxeira: quen escribía peor recibiu máis correccións da IA e aplicou con éxito menos delas, e varios consideraron desalentadora a wideningavalancha distancede between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting.retroalimentación. FeedbackA withoutretroalimentación thesen abilitycapacidade topara sortordenala itnon doesaxuda: not help; it buries.sepulta.

TheA gapfenda alsoexiste existsmesmo beforeantes anyonede touchesque aalguén tool.toque Inunha Germany,ferramenta. En Alemaña, o 80 % ofdo studentsalumnado fromdos thefogares mostmáis advantagedfavorecidos homesve seea AIIA ascomo anunha opportunity,oportunidade, againstfronte ao 55 % fromdos themenos least advantagedfavorecidos. InNo Britain,Reino theUnido, dividea runsdivisión throughatravesa thea staffroomsala ratherde thanprofesorado themáis deviceca cupboard:o armario dos dispositivos: o 45 % ofdo teachersprofesorado atdos privatecentros schoolsprivados haverecibiu hadformación formal trainingsobre ino usinguso AI,da againstIA, fronte ao 21 % atnos statecentros schools.públicos. WithinDentro thedo statesector sector,público, wealthieros schoolscentros againcon outpacemáis poorerrecursos ones.volven Aadiantarse aos máis pobres. Unha enquisa de 2026 surveya ofmáis morede than25 25,000 childrennenos acrosse nenas de 17 Europeanpaíses countrieseuropeos findsatopa thea samemesma división social splitna inintensidade howe muchna andvariedade howco variedlyque theyusan usea AIIA. [PRÜFEN:Unha SES-Befundfrase amdun Bericht].comentarista Oneresume commentator'stodo lineo capturesproblema themellor wholeca problemcalquera better than any figure:cifra: "the“os richricos haveteñen accessacceso totanto bothá technologytecnoloxía andcomo peoplea topersoas helpque themos useaxudan it,a whileusala, thementres poorque haveos accesspobres tosó technologyteñen only."acceso á tecnoloxía”.

SoAsí, theo bottleneckpescozo isde whichbotella learneré hasque alumnado ten un docente que recibiu formación. A IA compensa cando se dan tres condicións á vez: acceso seguro, unha ferramenta deseñada para aprender e non só para responder, e un docente que acompaña o seu uso con andamiaxe. Se falta calquera delas, amplifica as diferenzas. Como as tres adoitan estar presentes nos mesmos centros e ausentes nos mesmos centros, a amplificación é o efecto por defecto e a teacherigualación whoé hasalgo beenque trained.hai AIque compensates when three things hold together: secure access, a tool designed for learning rather than answering, and a teacher scaffolding its use.construír. Remove any one, and it amplifies instead. Since all three tend to be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build.