1.3 Uso Responsable de la IA

TakeMensaje Home messageclave

• ResponsibilityLa isresponsabilidad aes designuna task,cuestión notde adiseño, controlno task.de control. DetectionLa ofdetección AIde doesIA notno workfunciona properly.correctamente.
• AndY AIla detectiondetección isde unfairIA whenes itinjusta fails.cuando falla. ThereExiste isel ariesgo riskde ofidentificar mistakenlyerróneamente identifyingrespuestas answerscomo asgeneradas AI-generated,por orIA, viceo versa.viceversa. SeveralVarios Europeanpaíses countrieseuropeos haveya alreadyhan ruleddescartado outestas these tools.herramientas.
• ConfidentLa inventioninvención andcon inheritedaparente biasseguridad followy fromlos howsesgos theseheredados systemsse arederivan builtde andcómo judged.se construyen y evalúan estos sistemas. TheLa consequenceconsecuencia shoulddebería be:ser: teachenseñarlos, themen ratherlugar thande waitingesperar foruna a fix. solución.
• TheEl workingprincipio principlede is:trabajo thinkes: first,pensar thenprimero, AI.luego la IA. MakingHacer peopleque commitlas topersonas theirse owncomprometan answercon beatssu explainingpropia therespuesta machine;vence buildinga limitsexplicar intola themáquina; incorporar límites en el software beatsvence banninga it.prohibirlo.
• PromptsLos aloneprompts don'tpor hold.sí solos no bastan. AUn chatbot taskedal withque actingse asle pide actuar como tutor tiende a tutor tends to drift back to giving answers, which makes reliable limitsvolver a purchasedar question.las respuestas directamente, lo que convierte los límites fiables en una cuestión de compra.
• AmplificationLa isamplificación thees default;lo equalizationpredeterminado; mustla beequiparación builtdebe construirse from access, design and scaffolding together — and the scarcest of the three is a trainedpartir teacher.{{rev}}del acceso, el diseño y el acompañamiento juntos, y lo más escaso de los tres es un docente formado.
• InclusionLa isinclusión thees clearestla winganancia más clara, andy wheredonde teachersel themselvespropio seeprofesorado theve strongestel case.argumento más convincente.

IfSi yousolo rememberrecordáis onlyuna onefrase sentencede fromesta thispágina: page:los Thediques damsse areestán breaking.rompiendo. TeachEnseñad swimming.a nadar.

TheEl readingdiario journal,de secondlectura, lookuna segunda mirada

BackVolvamos toa ournuestro ninth-gradeestudiante studentde and3.º hisde suspiciouslyla polishedESO readingy journal.su Thediario instinctde islectura almostsospechosamente pulido. El instinto es casi universal, andy ites isel theinstinto instinctde ofun buen docente: averiguar si usó IA. Construir un dique mejor.

Este capítulo trata de por qué ese instinto, por sí solo, no lleva a goodninguna teacher:parte. find out whether he used AI. BuildVeremos a bettercontinuación dam.qué funciona en su lugar.

ThisEmpecemos chapterpor isla aboutparte whyincómoda. thatEl instinct,profesorado onno itspuede own,distinguir leadsde nowhere.forma Wefiable willun cometexto tode whatIA worksde instead.

un

Starttexto withdel thealumnado. uncomfortableEn part. Teachersun cannotestudio reliablyalemán, tellse AI text from student text. Indio a German study, 289 teachersdocentes ofcon differentdistinta experienceexperiencia wereuna givenmezcla de textos de estudiantes y de chatbot y se les pidió que los clasificaran. Ningún grupo lo logró. Pero ambos grupos estaban seguros de poder hacerlo. La experiencia apenas marcó diferencia. A gran escala, es peor. En una universidad, los investigadores enviaron respuestas generadas por chatbot al sistema real de exámenes a mixtravés ofde studentlos writingcanales andnormales, chatbotsin writingavisar anda askedquienes tocorregían. sortEl it. Neither group could. But both groups were confident they could. Experience made almost no difference. At scale, it is worse. At one university, researchers submitted chatbot-generated answers into the real examination system through the normal channels, without notifying the markers. 94 % werenunca neverfueron questioned.cuestionadas. Moreover,Es onmás, average,de theymedia, werese gradedcalificaron abovepor theencima workdel oftrabajo actualdel students.alumnado So,real. what'sEntonces, the¿cuál consequence?es Wela reachconsecuencia? for¡Recurrimos thea machine!la Andmáquina! hereY theaquí findingel stopshallazgo beingdeja awkwardde andser becomesincómodo anpara ethicalconvertirse problem!en un problema ético.

TheEl detector thatque failsfalla thecon wrongel studentsalumnado equivocado

ResearchersLos testedinvestigadores sevenprobaron ofsiete thede most widely usedlos AIdetectores detectorsde IA onmás usados con redacciones del examen TOEFL essaysescritas writtenpor byestudiantes studentsque learningaprendían Englishinglés ascomo lengua extranjera. Junto a foreignellas, language.colocaron Alongside,redacciones theyde putestudiantes essaysestadounidenses bynativos native-speakingde American8.º eighth-graders.curso. TheEl nativetrabajo speakers'de worklos washablantes classifiednativos correctlyse almostclasificó everycorrectamente time.casi Ofsiempre. theDe foreign-languagelas essays, redacciones en lengua extranjera, moremás thande sixseis inde tencada werediez wronglyfueron flaggedseñaladas aserróneamente machine-writtencomo escritas por máquina.

TheEl mechanismmecanismo isno notes mysterious.ningún Thesemisterio. toolsEstas doherramientas notno detectdetectan theel worktrabajo ofde Largelos Languagegrandes models,modelos theyde detect predictability.lenguaje, Textdetectan thatla usesprevisibilidad. commonUn wordstexto inque expectedusa orderspalabras scorescomunes asen el orden esperado puntúa como artificial. AnyoneCualquiera writingque inescriba aen seconduna language,segunda withlengua, acon smallerun vocabularyvocabulario andmás saferreducido sentencey structures,estructuras producesde exactlyfrase thatmás signal.seguras, Theproduce tool'sexactamente mistakesesa fallseñal. systematicallyLos onerrores thede studentsla whoherramienta arerecaen alreadysistemáticamente carryingsobre theel most.alumnado Institutionsque haveya donecarga thecon arithmetic.más dificultades. Las instituciones han hecho los números. La Universidad de Vanderbilt Universityseñaló pointedque, outaunque thatuna evenherramienta ifasí suchse aequivocara toolsolo were wrong onlyel 1 % ofde thelas time,veces, thateso wouldseguiría stillsignificando meanunos roughly 750 wronglyestudiantes accusedacusados studentsinjustamente al año de entre sus 75 000 entregas. En consecuencia, la desactivaron. Las directrices del ministerio federal de educación de Alemania son tajantes: la tecnología «no es lo bastante fiable como para aportar una prueba jurídicamente segura».

Buena parte de Europa ya ha dejado de debatir esto. Francia, los Países Bajos y Suiza desaconsejan o prohíben los detectores. El regulador de exámenes del Reino Unido ha optado deliberadamente por el criterio humano frente al software. El argumento neerlandés va un paso más allá y merece la pena llevárselo a year out of its 75,000 submissions. Consequently, they switched it off. The guidance issued by Germany's federal education ministry is blunt: the technology is "not sufficiently reliable to provide legally secure proof."

Much of Europe has stopped debating this. France, the Netherlands and Switzerland advise against detectors or forbid them. The United Kingdom's exam regulator has deliberately chosen human judgment over software. The Dutch argument goes one step further and is worth carrying home:casa: pastingpegar ael student'strabajo workde intoun aestudiante en un detector ises itselfen ansí actmismo ofun processingacto theirde personaltratamiento datade sus datos personales, andy doinghacerlo itsin withoutpermiso permissionvulnera breaksla datalegislación protectionde law.protección de datos. → 1.54 CompliantUso UseConforme ofde AIla IA

ItParece seemsque thatel thepánico cheatingpor paniclas istrampas thinneres thanmás theliviano noiseque aroundel it.ruido Researchersque surveyedlo studentsrodea. atLos threeinvestigadores secondaryencuestaron schoolsa beforeestudiantes de tres escuelas secundarias antes de que existiera ChatGPT existedy andde againafterward.nuevo Cheatingdespués. stayedLas broadlytrampas wherese itmantuvieron, was.en Mostlíneas studentsgenerales, rejecteddonde havingestaban. La mayoría del alumnado rechazaba que un chatbot simplemente produjera su trabajo, aunque consideraba justo usarlo para empezar o para que le explicara algo.

La verdadera pregunta nunca fue «¿cómo lo pillo?». Es: ¿qué sigue midiendo una tarea para casa una vez que su producto puede generarse a chatbotdemanda?

simply

Dos producecosas theirque work,no whilese thinkingvan ita fairarreglar, toasí useque onehay toque getenseñarlas

started

La orinvención tocon haveaparente somethingseguridad explained.viene integrada de serie. Estos sistemas generan continuaciones plausibles de un texto, que no son lo mismo que continuaciones verdaderas. Los investigadores ya han demostrado formalmente de dónde viene esto: las pruebas estándar usadas para evaluar los grandes modelos de lenguaje premian adivinar con seguridad por encima de admitir incertidumbre, así que, mientras se midan así, persistirá una cierta tasa de falsedades fluidas y bien formadas. Es una propiedad de cómo se construyen y evalúan, no un fallo a la espera de un parche.

TheLos realsesgos questiondel wasmaterial never,de "How doentrenamiento Itambién catchvienen him"?integrados. ItY is:además whatno doesse reducen a homeworkmedida taskque stillmejora measure,la oncetecnología. itsUn productestudio caneuropeo besobre generatedestereotipos onde demand?

género

Twoen thingsdistintos thatidiomas willencontró notque belos fixed,modelos somás theygrandes, mustincluso betras taught

el

Confidententrenamiento inventionadicional ispensado builtpara in.hacerlos Thesemás systemsseguros generatey plausible continuation ofjustos, a text,veces whichestereotipan aremás, notno themenos. sameSi asuna truepropiedad ones.no Researchersse havepuede noweliminar formallymediante showningeniería, wherese thisconvierte comesen from:materia thede standardenseñanza. testsY usedpuede toenseñarse: judgeen Largeun Languageprograma modelfinlandés, rewardel confidentporcentaje guessingde overestudiantes admittingcapaces uncertainty,de soidentificar assesgos longen asla theysalida arede measuredun thatsistema way,de aIA certainpasó ratedel of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.

The slants in the training material are built in too. Moreover, they do not shrink as the technology improves. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % toal 44 %. TheLa consequenceconsecuencia forpara teachingla mustenseñanza bedebe trainingser formar en el análisis del error analysisen insteadlugar ofde erroren avoidance.evitar Inel othererror. words:Dicho thede machine'sotro failuresmodo: becomelos thefallos lesson.de la máquina se convierten en la lección.

WhatQué works:funciona: design,diseño, notno control

TheLa evidenceevidencia pointsapunta toa oneun simpleprincipio principlesencillo that'sy easyfácil tode remember:recordar: thinkpensar first,primero, thenluego AI.la IA.

• MakeHaced theque humanla commitpersona first.se comprometa primero. InEn una serie de experimentos, las personas que tenían que anotar su propia respuesta antes de ver la sugerencia de la máquina detectaron muchos más de sus errores que las personas a serieslas ofque experiments,se peopleles whomostraban hadexplicaciones todetalladas writede downcómo theirhabía ownrazonado answerla beforemáquina. seeingExplicar thela machine'sIA suggestionno caught far more of its mistakes than people who were shown detailed explanations of how the machine reasoned. Explaining the AI did not help to solve that issue, but  forcing the judgement did. With one honest caveat: the versions that worked best were the ones participants liked least, and they helped most those who already enjoy effortful thinking. So it isayudó a phenomenonresolver alsoese knownproblema, aspero theforzar Matthewel Effect:juicio Topropio thosesí. whoCon have,una moresalvedad willhonesta: belas given.versiones Theyque benefitmejor thefuncionaron mostfueron fromlas thisque approach.menos gustaron a los participantes, y ayudaron más a quienes ya disfrutaban del pensamiento esforzado. Es, por tanto, un fenómeno también conocido como el efecto Mateo: a quien tiene, se le dará más. Son quienes más se benefician de este enfoque.
• BuildIncorporad thelos limitslímites in.al sistema. TheEl chatbot fromdel ChapterCapítulo 1.3, thatque withheldno answersdaba andlas askedrespuestas questionsdirectamente insteady isen thesu samelugar hacía preguntas, es la misma idea inllevada al software: theel studentsalumnado whoque usedlo itusó lostno nothingperdió onnada theen exam,el whileexamen, thosemientras withque thequienes unrestrictedusaron versionla lostversión badly.sin restricciones salieron mal parados.
• Make the processHaced visible insteadel ofproceso huntingen thelugar product.de perseguir el producto. Drafts,Borradores, workingnotas notes,de atrabajo, shortuna conversationbreve aboutconversación thesobre work.el  Thesetrabajo.  showEsto youos whatmuestra alo studentque canun doestudiante withoutes anyonecapaz havingde tohacer provesin whatque theynadie did.

tenga Denmarkque isdemostrar pilotingqué the principle: at participating schools, students may use AI while preparing for the oral English examination, and the written examination includes a handwritten, aid-free part.hizo.

TwoDinamarca limitsestá areponiendo wortha knowingprueba beforeeste youprincipio: relyen onlas this.escuelas Theparticipantes, first:el thealumnado puede usar IA mientras se prepara para el examen oral de inglés, y el examen escrito incluye una parte manuscrita sin ayudas.

Merece la pena conocer dos límites antes de confiar en esto. El primero: el consejo popular advicede thatque teachersel shouldprofesorado simplysimplemente instructindique a un chatbot toque actactúe ascomo tutor socrático no sobrevive al contacto con una conversación larga. Al menos por ahora, el sistema tiende a Socratic tutor does not survive contact withvolver a longdar conversation.las Atrespuestas leastdirectamente. atLos thelímites moment,fiables thetienen systemque tendsestar toincorporados driftal backsistema, intolo supplyingque answers.los Reliableconvierte limitsen haveuna todecisión bede builtcompra intomás theque system,en whichuna makeshabilidad themde prompting. El segundo: hacer que una IA explique su razonamiento suena como la salvaguarda obvia, pero las explicaciones no evitan de forma fiable el exceso de confianza. En un estudio, dejaron sin cambios la aceptación de consejos erróneos por parte de las personas, y las explicaciones demasiado técnicas o demasiado simplificadas pueden aumentar la confianza mal depositada. La explicación es una condición, no una solución.

Actitud: dos modos de fallo, no uno

Nos preocupa que el profesorado deposite demasiada confianza en la IA. Sin embargo, deberíamos preocuparnos igual por lo contrario. Incluso las personas con experiencia pueden dejarse llevar por el exceso de confianza. En un estudio, el profesorado revisó calificaciones generadas por IA. Consideraron que el 42 % de la retroalimentación de la máquina era vaga o incorrecta, pero solo modificaron el 9 %. Detectar un error y corregirlo son procesos distintos.

El polo opuesto es la ocultación. El profesorado esconde su propio uso de la IA de sus colegas y de su alumnado, prohibiéndoles hacer lo que ellos mismos hacen: el 77 % usa la IA en privado, mientras que el 57 % dice que el alumnado nunca debería usarla para generar ideas. Mientras tanto, un estudio con estudiantes académicamente destacados de 1.º a purchasing3.º decisionde ratherla thanESO encontró que entre un tercio y dos quintas partes ya afirmaban que la IA sabe más que sus profesores. Una profesión que oculta sus prácticas no puede servir de modelo de una práctica responsable, y la transparencia no es solo una cortesía. Es el mecanismo por el que funciona la enseñanza con el ejemplo.

¿La IA nivela el terreno de juego o lo inclina?

En tareas relacionadas con el trabajo, la IA iguala las diferencias. En un experimento, los participantes con niveles educativos más altos rindieron significativamente mejor que los de niveles más bajos. Cuando se dio a promptingcada skill.persona Theun second:asistente makingde anIA, AIesas explaindiferencias itscasi reasoningdesaparecieron soundspor likecompleto. theLuego, obviousal safeguard,retirar butde explanationsnuevo doel notasistente, reliablybuena preventparte over-trust. In one study they left people's acceptance of wrong advice unchanged, and explanations that are too technical or too simplified can increase misplaced confidence. Explanation isvolvió a condition,aparecer. notLo que la IA cerró fue la brecha en la producción, no la brecha en la capacidad.

En tareas de aprendizaje, ocurre lo contrario. Un estudio no encontró ningún beneficio medio en absoluto, sino una distancia creciente entre el alumnado que ya sabía mucho y el que no. Otro observó a solution.

estudiantes

Attitude:que twoescribían failureen modes,una notlengua one

extranjera:

Wequienes worryescribían thatpeor teachersrecibieron aremás placingcorrecciones toode muchla trustIA iny AI.consiguieron However,aplicar wecon shouldéxito bemenos equallyde concernedellas, abouty thevarios reverse. Evenencontraron experienceddesalentadora peoplela canavalancha bede caughtretroalimentación. outLa byretroalimentación over-trusting.sin Inla onecapacidad study,de teacherspriorizarla reviewedno AI-generatedayuda; grades. They judged 42% of the machine's feedback to be vague or wrong, but changed only 9% of it. Spotting an error and correcting it are different processes.sepulta.

TheLa oppositebrecha poleya isexiste concealment.antes Teachersde hideque theirnadie owntoque useuna ofherramienta. AIEn fromAlemania, colleaguesel and students, forbidding them to do what they do themselves: 77% use AI privately, while 57% say students should never use it to generate ideas. Meanwhile, a study of academically able students in grades 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. 

Does AI level the field or tilt it?

For work-related tasks, AI evens out differences. In one experiment, participants with higher levels of education performed significantly better than those with lower levels of education. When each person was given an AI assistant, these differences disappeared almost entirely. Then take the assistant away again, and much of it came back. What the AI closed was the gap in output, not the gap in ability.

In learning tasks, it does the opposite. One study found no average benefit at all, but a widening distance between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.

The gap also exists before anyone touches a tool. In Germany, 80 % ofdel studentsalumnado fromde thelos mosthogares advantagedmás homesfavorecidos seeve AIla asIA ancomo opportunity,una againstoportunidad, frente al 55 % fromde thelos leastmenos advantaged.favorecidos. InEn Britain,Gran theBretaña, dividela runsdivisión throughpasa thepor staffroomla rathersala thande theprofesores devicemás cupboard:que por el armario de dispositivos: el 45 % ofdel teachersprofesorado atde privateescuelas schoolsprivadas haveha hadrecibido formación formal trainingen inel usinguso AI,de againstla IA, frente al 21 % aten statelas schools.públicas. WithinDentro thedel statesector sector,público, wealthierlas schoolsescuelas againmás outpacericas poorervuelven ones.a Asuperar surveya oflas childrenmás acrosspobres. Una encuesta a menores de 20 Europeanpaíses countrieseuropeos findsencuentra thela samemisma división social spliten incuánto howy muchde andqué howforma variedlytan theyvariada useusan AI. Onela lineIA. capturesUna thefrase wholeresume problemtodo betterel thanproblema anymejor figure: "theque richcualquier havecifra: access«los toricos technologytienen andacceso peoplea tola helptecnología themy usea it,personas whileque theles poorayudan havea accessusarla, tomientras technologyque only."los Whichpobres issolo thetienen strongestacceso availablea argumentla thattecnología». teachersLo mattercual toes closeel thisargumento gap.más sólido disponible de que el profesorado importa para cerrar esta brecha.

SoAsí theque bottleneckel iscuello whatde learnerbotella hases qué alumno tiene un docente que ha recibido formación. La IA compensa cuando tres cosas se sostienen juntas: acceso seguro, una herramienta diseñada para aprender en lugar de para responder, y un docente que acompaña su uso. Quitad cualquiera de las tres, y en su lugar amplifica. Como las tres tienden a teacherestar whopresentes hasen beenlas trained.mismas AIescuelas compensatesy whenausentes threeen thingslas holdmismas together:escuelas, securela access,amplificación aes toollo designedpredeterminado, fory learningla ratherequiparación thanes answering,algo andque ahay teacherque scaffolding its use. Remove any one, and it amplifies instead. Since all three tend to be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build. construir.