1.3 Odpowiedzialne wykorzystanie SI
TakeNajważniejsze Home messageprzesłanie
ResponsibilityOdpowiedzialnośćisto zadanie projektowe, adesignnietask, not a control task.kontrolne.DetectionWykrywanieofSIAIniedoesdziałanot work properly.poprawnie.AndAAIwykrywaniedetectionSIisjestunfairniesprawiedliwe,whengdyit fails.zawodzi.ThereIstniejeisryzykoabłędnegoriskuznaniaofodpowiedzimistakenlyzaidentifyingwygenerowanąanswersprzezasSIAI-generated,luborodwrotnie.viceKilkaversa.europejskichSeveralkrajówEuropeanjużcountrieszrezygnowałohavezalreadytychruled out these tools.narzędzi.ConfidentPewneinventionsiebieandzmyślanieinheritedibiasodziedziczonefollowuprzedzeniafromwynikająhowzthesetego,systemsjakaretebuiltsystemyandsąjudged.budowane i oceniane.TheKonsekwencjąconsequencepowinnoshouldbyć:be:uczyćteachothemnich,ratherzamiastthanczekaćwaitingnafor a fix.naprawę.TheZasadaworkingdziałaniaprinciplebrzmi:is:najpierwthinkmyśl,first,potemthen AI.SI.MakingZobowiązaniepeopleludzicommitdotowłasnejtheirodpowiedziownbijeanswerwyjaśnianiebeatsdziałaniaexplainingmaszyny;thewbudowaniemachine;ograniczeńbuildingwlimitsoprogramowanieintobijethejegosoftware beats banning it.zakazywanie.PromptsSamealonepoleceniadon't(prompty)hold.nie wystarczą.AChatbotchatbotmającytaskedpełnićwithrolęactingkorepetytoraasma tendencję do powracania do podawania gotowych odpowiedzi, co sprawia, że niezawodne ograniczenia stają się kwestią zakupu narzędzia, atutornietendsumiejętnościtoformułowaniadrift back to giving answers, which makes reliable limits a purchase question.poleceń.AmplificationWzmacnianieisróżnicthejestdefault;domyślne;equalizationwyrównywaniemusttrzebabe builtzbudowaćfromzaccess,dostępu,designprojektuandiscaffoldingwsparciatogetherrazem— and the scarcest of the three is– atrainednajrzadszymteacher.{{rev}}z tych trzech elementów jest przeszkolony nauczyciel.InclusionWłączanieis(inkluzja)thetoclearestnajwyraźniejszawinkorzyść,andiwheretoteacherswłaśniethemselvestuseesamithenauczycielestrongestwidzącase.najmocniejsze argumenty.
Jeśli
Ifzapamiętaszyouzremembertejonlystronyonetylkosentencejednofromzdanie:thisTamypage:pękają.TheNauczdams are breaking. Teach swimming.pływania.
TheDziennik readinglektur, journal,drugie second lookspojrzenie
BackWróćmy do naszego ucznia z dziewiątej klasy i jego podejrzanie dopracowanego dziennika lektur. Ten odruch jest niemal powszechny i jest to ourodruch ninth-gradedobrego studentnauczyciela: andsprawdzić, hisczy suspiciouslyużył polishedSI. readingZbudować journal.lepszą Thetamę.
Ten isrozdział almostopowiada universal,o andtym, itdlaczego isten theodruch, instinctsam ofw sobie, donikąd nie prowadzi. Dojdziemy do tego, co działa zamiast tego.
Zacznijmy od niewygodnej części. Nauczyciele nie potrafią wiarygodnie odróżnić tekstu SI od tekstu ucznia. W niemieckim badaniu 289 nauczycieli o różnym doświadczeniu otrzymało mieszankę tekstów napisanych przez uczniów i przez chatbota i poproszono ich o posortowanie. Żadna z grup sobie z tym nie poradziła. Ale obie grupy były pewne, że potrafią. Doświadczenie niemal nie miało znaczenia. W większej skali jest jeszcze gorzej. Na jednym uniwersytecie badacze przesłali odpowiedzi wygenerowane przez chatbota do prawdziwego systemu egzaminacyjnego zwykłymi kanałami, bez informowania osób sprawdzających. 94% nigdy nie wzbudziło wątpliwości. Co więcej, średnio oceniano je wyżej niż prace prawdziwych studentów. Jaka więc jest konsekwencja? Sięgamy po maszynę! I w tym momencie odkrycie przestaje być tylko niezręczne, a goodstaje teacher:się findproblemem outetycznym!
Detektor, hektóry usedzawodzi AI.wobec Buildniewłaściwych auczniów
Badacze dam.przetestowali siedem najczęściej używanych detektorów SI na esejach TOEFL napisanych przez uczniów uczących się angielskiego jako języka obcego. Obok nich umieścili eseje amerykańskich ósmoklasistów mówiących po angielsku jako języku ojczystym. Prace rodzimych użytkowników języka były klasyfikowane poprawnie niemal za każdym razem. Spośród esejów obcojęzycznych ponad sześć na dziesięć zostało błędnie oznaczonych jako napisane przez maszynę.
ThisMechanizm chapternie isjest abouttajemnicą. whyTe thatnarzędzia instinct,nie onwykrywają itspracy own,dużych leadsmodeli nowhere.językowych, Wewykrywają willprzewidywalność. comeTekst używający powszechnych słów w oczekiwanym porządku jest oceniany jako sztuczny. Każdy, kto pisze w drugim języku, dysponując mniejszym słownictwem i bezpieczniejszymi konstrukcjami zdań, wytwarza dokładnie taki sygnał. Błędy narzędzia systematycznie spadają na uczniów, którzy i tak dźwigają już najwięcej. Instytucje policzyły to whatdokładnie. worksUniwersytet instead.
Startzwrócił withuwagę, theże uncomfortablenawet part. Teachersgdyby cannottakie reliablynarzędzie tellmyliło AIsię texttylko fromw student1% text.przypadków, In a German study, 289 teachers of different experience were given a mix of student writing and chatbot writing and askedoznaczałoby to sortwciąż it.około Neither750 groupniesłusznie could.oskarżonych Butstudentów bothrocznie groupsspośród were75 confident000 theyprzesłanych could. Experienceprac. madeW almostzwiązku noz difference. Attym scale,je itwyłączono. isWytyczne worse.wydane Atprzez oneniemieckie university,federalne researchersministerstwo submittededukacji chatbot-generatedsą answersjednoznaczne: intotechnologia thejest real„niewystarczająco examination system through the normal channels, without notifying the markers. 94 % were never questioned. Moreover, on average, they were graded above the work of actual students. So, what's the consequence? We reach for the machine! And here the finding stops being awkward and becomes an ethical problem!
The detector that fails the wrong students
Researchers tested seven of the most widely used AI detectors on TOEFL essays writtenwiarygodna, by studentsdostarczyć learningprawnie Englishpewny as a foreign language. Alongside, they put essays by native-speaking American eighth-graders. The native speakers' work was classified correctly almost every time. Of the foreign-language essays, more than six in ten were wrongly flagged as machine-writtendowód”.
TheZnaczna mechanismczęść isEuropy notprzestała mysterious.już Theseo toolstym dyskutować. Francja, Holandia i Szwajcaria odradzają stosowanie detektorów albo je zakazują. Brytyjski regulator egzaminów świadomie wybrał ludzki osąd zamiast oprogramowania. Holenderski argument idzie o krok dalej i warto go zapamiętać: wklejenie pracy ucznia do notdetektora detectsamo thew worksobie ofstanowi Largeprzetwarzanie Languagejego models,danych they detect predictability. Text that uses common words in expected orders scores as artificial. Anyone writing inosobowych, a secondrobienie language,tego withbez azgody smallerłamie vocabularyprawo andochrony safer sentence structures, produces exactly that signal. The tool's mistakes fall systematically on the students who are already carrying the most. Institutions have done the arithmetic. Vanderbilt University pointed out that even if such a tool were wrong only 1 % of the time, that would still mean roughly 750 wrongly accused students a year out of its 75,000 submissions. Consequently, they switched it off. The guidance issued by Germany's federal education ministry is blunt: the technology is "not sufficiently reliable to provide legally secure proof."
Much of Europe has stopped debating this. France, the Netherlands and Switzerland advise against detectors or forbid them. The United Kingdom's exam regulator has deliberately chosen human judgment over software. The Dutch argument goes one step further and is worth carrying home: pasting a student's work into a detector is itself an act of processing their personal data, and doing it without permission breaks data protection law.danych. → 1.54 CompliantZgodne Usewykorzystanie of AISI
ItWygląda seemsna thatto, theże cheatingpanika paniczwiązana isz thinnerściąganiem thanjest thecieńsza noiseniż aroundszum it.wokół Researchersniej. surveyedBadacze studentsprzepytali atuczniów threetrzech secondaryszkół schoolsśrednich beforeprzed powstaniem ChatGPT existedi andponownie againafterward.po Cheatingnim. stayedŚciąganie broadlypozostało wherew itdużej was.mierze Mostna studentstym rejectedsamym havingpoziomie. Większość uczniów odrzucała pomysł, by chatbot po prostu wykonał za nich pracę, uważając jednocześnie za uczciwe użycie go do rozpoczęcia pracy albo do uzyskania wyjaśnienia.
Prawdziwe pytanie nigdy nie brzmiało: „Jak go złapać?”. Brzmi ono: co właściwie mierzy zadanie domowe, skoro jego produkt można wygenerować na żądanie?
Dwie rzeczy, których nie da się naprawić, więc trzeba ich nauczać
Pewne siebie zmyślanie jest wbudowane w system. Te systemy generują prawdopodobną kontynuację tekstu, co nie jest tym samym, co prawdę. Badacze formalnie wykazali już, skąd się to bierze: standardowe testy służące do oceny dużych modeli językowych nagradzają pewne siebie zgadywanie bardziej niż przyznanie się do niepewności, więc dopóki są oceniane w ten sposób, utrzymuje się pewien odsetek płynnych, dobrze sformułowanych nieprawd. To cecha sposobu, w jaki są budowane i oceniane, a chatbotnie simplybłąd produceczekający theirna work, while thinking it fair to use one to get started or to have something explained.łatkę.
TheSkrzywienia realw questionmateriale wastreningowym never,również "How dosą wbudowane. Co więcej, nie maleją wraz z rozwojem technologii. Europejskie badanie stereotypów płciowych w różnych językach wykazało, że większe modele, nawet po dodatkowym treningu mającym uczynić je bezpieczniejszymi i sprawiedliwszymi, czasem stereotypizują bardziej, a nie mniej. Jeśli jakiejś cechy nie da się zaprojektować na nowo, staje się ona materiałem programowym. I catchmożna him"?jej Itnauczać: is:w whatjednym doesfińskim aprogramie homeworkodsetek taskuczniów stillpotrafiących measure,rozpoznać onceuprzedzenie itsw productwyniku candziałania besystemu generatedSI onwzrósł demand?z 7% do 44%. Konsekwencją dla nauczania musi być trenowanie analizy błędów zamiast ich unikania. Innymi słowy: błędy maszyny stają się lekcją.
TwoCo thingsdziała: thatprojektowanie, willnie not be fixed, so they must be taughtkontrola
ConfidentDowody inventionwskazują isna builtjedną in.prostą Thesezasadę, systems generate plausible continuation of a text, which are not the same as true ones. Researchers have now formally shown where this comes from: the standard tests used to judge Large Language model reward confident guessing over admitting uncertainty, so as long as they are measured that way, a certain rate of fluent, well-formed falsehood persists. It is a property of how they are built and graded, not a bug awaiting a patch.
The slants in the training material are built in too. Moreover, theyłatwą do notzapamiętania: shrinknajpierw asmyśl, thepotem technology improves. A European study of gender stereotyping across languages found that bigger models, even after the extra training intended to make them safer and fairer, sometimes stereotype more rather than less. If a property cannot be engineered away, it becomes curriculum. And it can be taught: in one Finnish programme, the share of students who could identify bias in an AI system's output rose from 7 % to 44 %. The consequence for teaching must be training error analysis instead of error avoidance. In other words: the machine's failures become the lesson.
What works: design, not control
The evidence points to one simple principle that's easy to remember: think first, then AI.SI.
MakeSpraw,thebyhumanczłowiekcommitzobowiązałfirst.się jako pierwszy.InWaseriiserieseksperymentówofosoby,experiments,którepeoplemusiaływhozapisaćhadwłasną odpowiedź, zanim zobaczyły sugestię maszyny, wychwytywały znacznie więcej jej błędów niż osoby, którym pokazano szczegółowe wyjaśnienia toku rozumowania maszyny. Wyjaśnianie działania SI nie pomogło rozwiązać tego problemu, ale wymuszenie własnego osądu – tak. Z jednym uczciwym zastrzeżeniem: wersje, które działały najlepiej, były tymi, które uczestnicy lubili najmniej, i pomagały najbardziej tym, którzy i tak już lubią wysiłek poznawczy. Jest towritewięcdownzjawiskotheirznaneownteżanswerjakobeforeefektseeingMateusza:thetemu,machine'sktosuggestionma,caughtbędziefar more of its mistakes than people who were shown detailed explanations of how the machine reasoned. Explaining the AI did not help to solve that issue, but forcing the judgement did. With one honest caveat: the versions that worked best were the ones participants liked least, and they helped most those who already enjoy effortful thinking. So it is a phenomenon also known as the Matthew Effect:dodane. Tothoseoniwhokorzystająhave,zmoretegowillpodejściabe given. They benefit the most from this approach.najbardziej.BuildWbudujtheograniczenialimitswin.system.TheChatbotchatbot fromzChapterrozdziału 1.32,thatktórywithheldnieanswerspodawałandodpowiedzi,askedleczquestionszadawałinsteadpytania,istothetensamesamideapomysłinzrealizowanysoftware:wtheoprogramowaniu:studentsuczniowie,whoktórzyusedzitniegolostkorzystali,nothingniconniethestraciliexam,nawhileegzaminie,thosepodczaswithgdytheciunrestrictedzversionnieograniczonąlostwersjąbadly.stracili bardzo dużo.MakeUczyńtheprocesprocesswidocznym,visiblezamiastinsteadtropićof hunting the product.produkt.Drafts,Szkice,workingnotatkinotes,robocze,akrótkashortrozmowaconversationoaboutpracy.thePokazująwork.one,Thesecoshowuczeńyoupotrafi,whatbezakoniecznościstudentudowadniania,cancododokładniewithout anyone having to prove what they did.zrobił.DenmarkDaniaispilotujepilotingtęthe principle:zasadę:atwparticipatinguczestniczącychschools,szkołachstudentsuczniowiemaymogąusekorzystaćAIzwhileSIpreparingpodczasforprzygotowańthedooralustnegoEnglishegzaminuexamination,zand the written examination includesangielskiego, ahandwritten,egzaminaid-freepisemnypart.obejmuje część odręczną, bez pomocy.
TwoWarto limitsznać aredwa worthograniczenia, knowingzanim beforesię youna relytym onoprzesz. this.Pierwsze: Thepopularna first:rada, theby popularnauczyciele advicepo thatprostu teacherspolecili shouldchatbotowi simplypełnić instructrolę tutora sokratejskiego, nie wytrzymuje próby dłuższej rozmowy. Przynajmniej obecnie system ma tendencję do powracania do podawania gotowych odpowiedzi. Niezawodne ograniczenia trzeba wbudować w system, co czyni z nich decyzję zakupową, a chatbotnie umiejętność formułowania poleceń. Drugie: sprawienie, by SI wyjaśniała swój tok rozumowania, brzmi jak oczywiste zabezpieczenie, ale wyjaśnienia niezawodnie nie zapobiegają nadmiernemu zaufaniu. W jednym badaniu nie zmieniły one wcale skłonności ludzi do akceptowania błędnych porad, a wyjaśnienia zbyt techniczne albo zbyt uproszczone mogą wręcz zwiększać nieuzasadnioną pewność. Wyjaśnienie jest warunkiem, nie rozwiązaniem.
Postawa: dwa tryby zawodności, nie jeden
Obawiamy się, że nauczyciele pokładają w SI zbyt duże zaufanie. Powinniśmy jednak równie mocno martwić się sytuacją odwrotną. Nawet doświadczone osoby mogą dać się złapać na nadmierne zaufanie. W jednym badaniu nauczyciele sprawdzali oceny wygenerowane przez SI. Uznali 42% informacji zwrotnej maszyny za niejasną lub błędną, ale zmienili tylko 9% z nich. Dostrzeżenie błędu i jego poprawienie to actdwa asróżne procesy.
Przeciwnym biegunem jest ukrywanie. Nauczyciele ukrywają własne korzystanie z SI przed kolegami i uczniami, zabraniając im robić to, co sami robią: 77% korzysta z SI prywatnie, podczas gdy 57% twierdzi, że uczniowie nigdy nie powinni jej używać do generowania pomysłów. Tymczasem badanie zdolnych uczniów klas 6–8 wykazało, że od jednej trzeciej do dwóch piątych z nich już teraz twierdzi, że SI wie więcej niż ich nauczyciele. Zawód, który ukrywa swoje praktyki, nie może dawać przykładu odpowiedzialnego postępowania, a Socraticprzejrzystość tutorto doesnie nottylko survivekurtuazja. contactTo withmechanizm, dzięki któremu działa nauczanie przez przykład.
Czy SI wyrównuje szanse, czy je pogłębia?
W zadaniach zawodowych SI wyrównuje różnice. W jednym eksperymencie osoby z wyższym wykształceniem radziły sobie znacząco lepiej niż osoby z niższym wykształceniem. Gdy każda z nich otrzymała asystenta SI, te różnice niemal całkowicie zniknęły. Gdy następnie odebrano asystenta, znaczna ich część powróciła. To, co SI zamknęła, to luka w wynikach, a longnie conversation.luka Atw leastumiejętnościach.
W thezadaniach moment,związanych thez systemuczeniem tendssię dzieje się odwrotnie. Jedno badanie nie wykazało żadnej przeciętnej korzyści, za to driftujawniło backrosnący intodystans supplyingmiędzy answers.uczniami, Reliablektórzy limitsjuż havedużo to be built into the system, which makes themwiedzieli, a purchasingtymi, decisionktórzy ratherwiedzieli thanmało. Inne badanie przyjrzało się uczniom piszącym w języku obcym: słabsi autorzy otrzymywali od SI więcej poprawek i skutecznie wykorzystywali mniejszą ich część, a promptingwielu skill.uznało Thezalew second:informacji makingzwrotnej anza AIzniechęcający. explainInformacja itszwrotna reasoningbez soundsumiejętności likejej theposortowania obviousnie safeguard,pomaga but– explanationsona przytłacza.
Ta różnica istnieje jeszcze zanim ktokolwiek dotknie narzędzia. W Niemczech 80% uczniów z najbardziej uprzywilejowanych domów postrzega SI jako szansę, wobec 55% z domów najmniej uprzywilejowanych. W Wielkiej Brytanii podział przebiega raczej przez pokój nauczycielski niż przez szafkę z urządzeniami: 45% nauczycieli w szkołach prywatnych przeszło formalne szkolenie z korzystania z SI, wobec 21% w szkołach publicznych. W obrębie sektora publicznego zamożniejsze szkoły ponownie wyprzedzają biedniejsze. Badanie dzieci z 20 krajów europejskich pokazuje ten sam społeczny podział w tym, jak często i jak różnorodnie korzystają z SI. Jedno zdanie ujmuje cały problem lepiej niż jakakolwiek liczba: „bogaci mają dostęp do nottechnologii reliablyi preventdo over-trust.ludzi, Inktórzy onepomagają studyim theyz leftniej people'skorzystać, acceptancepodczas ofgdy wrongbiedni advicemają unchanged,dostęp andjedynie explanationsdo thattechnologii”. areTo toonajmocniejszy technicaldostępny orargument tooza simplifiedtym, canże increasenauczyciele misplacedmają confidence.znaczenie Explanationdla iszamknięcia tej luki.
Wąskim gardłem jest więc to, czy dany uczeń ma nauczyciela, który przeszedł szkolenie. SI kompensuje różnice, gdy spełnione są jednocześnie trzy warunki: pewny dostęp, narzędzie zaprojektowane do uczenia się, a condition,nie notdo udzielania odpowiedzi, oraz nauczyciel wspierający jego wykorzystanie. Usuń choć jeden z tych elementów, a solution.
Attitude:zacznie twowzmacniać failureróżnice modes,zamiast notje one
wyrównywać. WePonieważ worrywszystkie thattrzy teacherselementy arezwykle placingwystępują toorazem muchw trusttych insamych AI.szkołach However,i werazem shouldsą benieobecne equallyw concernedtych aboutsamych theszkołach, reverse. Evenwzmacnianie experiencedróżnic peoplejest canwariantem be caught out by over-trusting. In one study, teachers reviewed AI-generated grades. They judged 42% of the machine's feedback to be vague or wrong, but changed only 9% of it. Spotting an error and correcting it are different processes.
The opposite pole is concealment. Teachers hide their own use of AI from colleagues and students, forbidding them to do what they do themselves: 77% use AI privately, while 57% say students should never use it to generate ideas. Meanwhile,domyślnym, a studywyrównywanie oftrzeba academicallysamodzielnie able students in grades 6 to 8 found that between a third and two-fifths already said the AI knows more than their teachers. A profession that hides its practices cannot model responsible practice, and transparency is not just a courtesy. It is the mechanism by which teaching by example works. zbudować.
Does AI level the field or tilt it?
In learning tasks, it does the opposite. One study found no average benefit at all, but a widening distance between students who already knew a lot and students who did not. Another looked at students writing in a foreign language: the weaker writers received more corrections from the AI and successfully acted on fewer of them, and several found the flood of feedback dispiriting. Feedback without the ability to sort it does not help; it buries.
The gap also exists before anyone touches a tool. In Germany, 80 % of students from the most advantaged homes see AI as an opportunity, against 55 % from the least advantaged. In Britain, the divide runs through the staffroom rather than the device cupboard: 45 % of teachers at private schools have had formal training in using AI, against 21 % at state schools. Within the state sector, wealthier schools again outpace poorer ones. A survey of children across 20 European countries finds the same social split in how much and how variedly they use AI. One line captures the whole problem better than any figure: "the rich have access to technology and people to help them use it, while the poor have access to technology only." Which is the strongest available argument that teachers matter to close this gap.
So the bottleneck is what learner has a teacher who has been trained. AI compensates when three things hold together: secure access, a tool designed for learning rather than answering, and a teacher scaffolding its use. Remove any one, and it amplifies instead. Since all three tend to be present in the same schools and absent in the same schools, amplification is the default and equalisation is something you have to build.