1.6 Przepisy prawne

Zastrzeżenie: Ten rozdział został starannie opracowany, ale prawo dotyczące SI to szybko zmieniająca się dziedzina. Przepisy mogły zmienić się od czasu publikacji, dlatego zawsze sprawdzaj aktualną sytuację prawną i w razie potrzeby uwzględniaj przepisy krajowe. Ten rozdział nie stanowi porady prawnej.

Najważniejsze przesłanie

Jeśli zapamiętasz z tej strony tylko jedno zdanie: Używaj SI, by wspierać swój profesjonalny osąd, a nie go zastępować – surowsze zasady obowiązują, gdy tylko SI zaczyna pomagać w podejmowaniu decyzji o ocenach, ścieżkach edukacyjnych lub ludziach.

Unijny AI Act

Unijny AI Act (Rozporządzenie (UE) 2024/1689) to jednolity, oparty na ryzyku zbiór przepisów UE dotyczących sztucznej inteligencji. Zamiast regulować konkretne produkty, klasyfikuje systemy SI według ryzyka, jakie stwarzają, i nakłada odpowiednie obowiązki – od całkowitego zakazu dla niewielkiej grupy praktyk, przez dodatkowe obowiązki dla zastosowań „wysokiego ryzyka”, aż po brak szczególnych zasad dla narzędzi codziennego użytku. Obowiązuje bezpośrednio w każdym państwie członkowskim, zarówno w organizacjach publicznych, jak i prywatnych.

Rozporządzenie wchodzi w życie etapami. Obowiązuje od 1 sierpnia 2024 r.; od 2 lutego 2025 r. wiążące są już zakazane praktyki opisane niżej oraz obowiązek budowania kompetencji w zakresie SI (Art. 4); od 2 sierpnia 2026 r. zastosowanie znajdzie większość pozostałych przepisów.

Fig1_1_6.jpg

Rys. 1: „Mapa drogowa SI” (obraz wygenerowany przez SI, ...)

Kto odpowiada za wykorzystanie SI?

Jeśli szkoła wprowadza i kontroluje system SI, to zazwyczaj to szkoła lub organ prowadzący szkołę jest „podmiotem stosującym” (Art. 3(4)). Nauczyciel zwykle nie jest odrębnym podmiotem stosującym, gdy korzysta z narzędzia zgodnie z instrukcjami szkoły, ale nadal musi przestrzegać tych instrukcji oraz wszystkich odnośnych zasad szkolnych i dotyczących ochrony danych.

Nauczyciele muszą wiedzieć, z czego korzystają

Szkoły i organy prowadzące muszą podjąć odpowiednie działania, by wspierać rozwój kompetencji w zakresie SI wśród osób korzystających w ich imieniu z systemów SI (Art. 4). AI Act nie określa konkretnego poziomu kompetencji, certyfikatu ani formy szkolenia. Zależą one raczej od konkretnego systemu SI, sposobu jego użycia i tego, kto może zostać nim dotknięty.

Praktyki SI całkowicie zakazane w szkołach

AI Act całkowicie zakazuje ośmiu praktyk związanych z SI (Art. 5); cztery z nich bezpośrednio dotyczą szkół:

Czy treść wygenerowana przez SI zawsze wymaga oznaczenia?

Jeśli uczniowie wchodzą w bezpośrednią interakcję z systemem SI, takim jak chatbot, muszą zostać poinformowani, że wchodzą w interakcję z SI. Zwykle odpowiedzialność za jasne poinformowanie o tym spoczywa na dostawcy systemu (Art. 50(1)).

Szkoły i nauczyciele muszą ujawniać deepfake'i lub tekst wygenerowany przez SI publikowany w sprawach interesu publicznego, gdy są one wykorzystywane na lekcji (Art. 50(4)). Ten wymóg nie ma zastosowania, gdy treść wygenerowana przez SI przeszła efektywną weryfikację i kontrolę redakcyjną człowieka, a dana osoba lub instytucja przyjmuje odpowiedzialność redakcyjną za jej publikację. Karta pracy wspomagana SI, zweryfikowana przez nauczyciela, nie wymaga więc automatycznie oznaczenia.

Kiedy SI w edukacji staje się wysokiego ryzyka

Zwykłe narzędzia do pisania, tłumaczenia, wyszukiwania i planowania lekcji nie są wysokiego ryzyka tylko dlatego, że są wykorzystywane w pracy. Klasyfikacja zależy od zamierzonego celu systemu, a nie po prostu od tego, jaki produkt jest używany (Art. 6 · Annex III).

Systemy SI mogą zostać zaklasyfikowane jako wysokiego ryzyka, gdy są przeznaczone do:

Dla nauczycieliDla szkół
  • decydowania o dostępie, przyjęciu lub przydziale uczniów do placówek i programów edukacyjnych lub zawodowych;
  • oceniania wyników nauczania uczniów lub sterowania ich procesami uczenia się;
  • oceniania odpowiedniego poziomu kształcenia, jaki uczeń otrzyma lub do jakiego może uzyskać dostęp; lub
  • wykrywania zakazanych zachowań uczniów podczas egzaminów.

(Annex III, pkt 3)

  • rekrutacji lub selekcji nauczycieli, w tym przeglądania zgłoszeń;
  • decydowania o warunkach umowy, awansie lub rozwiązaniu stosunku pracy nauczyciela;
  • przydzielania zadań na podstawie zachowania lub cech osobistych nauczyciela; lub
  • oceniania wyników pracy nauczycieli.

(Annex III, pkt 4)

Ograniczone narzędzie sprawdzające lub przygotowawcze może również nie zostać zaklasyfikowane jako wysokiego ryzyka, jeśli nie wpływa istotnie na decyzję. Jednak system edukacyjny profilujący osoby zawsze jest uznawany za wysokiego ryzyka.

Co SI wysokiego ryzyka oznacza dla szkół i nauczycieli

Zaklasyfikowanie systemu SI jako wysokiego ryzyka nie wyklucza automatycznie jego wykorzystania w szkołach. Systemy wysokiego ryzyka wiążą się jednak z obowiązkami (Art. 26):

Te obowiązki dla SI wysokiego ryzyka w edukacji zaczną obowiązywać od 2 grudnia 2027 r. – natomiast wymienione wyżej zakazy i obowiązek budowania kompetencji w zakresie SI obowiązują już dziś.

Dla nauczycieliDla szkół
  • korzystać z niego wyłącznie w zatwierdzonym celu i przestrzegać jego instrukcji;
  • nie traktować jego wyniku jako decyzji ostatecznej;
  • rozumieć jego główne ograniczenia i prawdopodobne źródła błędów;
  • uważać na nadmierne poleganie na pozornie przekonujących wynikach; oraz
  • być przygotowanym, by zignorować lub uchylić jego wynik.
  • zapewnić kompetentny i upoważniony nadzór ludzki;
  • zapewnić, by wszelkie dane wejściowe pod jej kontrolą były trafne i wystarczająco reprezentatywne;
  • monitorować system i reagować na zagrożenia lub poważne incydenty;
  • przechowywać automatycznie generowane dzienniki zdarzeń przez co najmniej sześć miesięcy, gdy pozostają pod jej kontrolą; oraz
  • z wyprzedzeniem informować uczniów, nauczycieli lub osoby dotknięte skutkami, gdy system wspomaga podejmowanie decyzji ich dotyczących.

Podmioty publiczne oraz organizacje prywatne świadczące usługi publiczne mogą być również zobowiązane do przeprowadzenia oceny skutków dla praw podstawowych przed zastosowaniem SI wysokiego ryzyka (Art. 27). Organy publiczne oraz organizacje działające w ich imieniu mogą dodatkowo być zobowiązane do zarejestrowania systemu w unijnej bazie danych (Art. 49). To, czy odpowiada za to szkoła, czy jej organ prowadzący, zależy od krajowego systemu oświaty.

AI Act to nie jedyne prawo, które ma znaczenie

AI Act nie zastępuje europejskich ani krajowych przepisów dotyczących ochrony danych, oświaty, zatrudnienia i partycypacji pracowniczej, ochrony dzieci czy prawa autorskiego (Art. 2(7)). Na przykład fakt, że narzędzie nie jest wysokiego ryzyka, nie oznacza, że wolno przesyłać do niego prace uczniów czy ich dane osobowe.

Narzędzie może być dopuszczalne na gruncie AI Act, a mimo to zakazane przez prawo ochrony danych lub zasady obowiązujące w Twojej szkole.

RODO

RODO (Rozporządzenie (UE) 2016/679) to unijne prawo o ochronie danych osobowych. Pełni rolę uzupełniającą wobec AI Act: podczas gdy AI Act pyta, czy i jak dany system SI wolno w ogóle stosować, RODO stawia węższe pytanie – czy te konkretne dane o tej konkretnej osobie wolno przetwarzać w ten sposób? Spełnienie wymogów jednego z tych aktów nie oznacza automatycznie spełnienia wymogów drugiego.

W praktyce: zanim wprowadzisz prawdziwe dane uczniów lub personelu do narzędzia SI, sprawdź, czy Twoja szkoła je zatwierdziła, nie udostępniaj więcej danych osobowych, niż wymaga zadanie, a gdy tylko wypróbowujesz narzędzie, korzystaj raczej z przykładów zanonimizowanych lub fikcyjnych.

Gdzie szukać pomocy

Egzekwowanie przepisów jest zorganizowane w każdym kraju UE inaczej. Ponieważ odpowiedzialności krajowe mogą się zmieniać, korzystaj z aktualnej list of national market-surveillance authorities Komisji Europejskiej [lista krajowych organów nadzoru rynku]. Każdy (nauczyciel, uczeń, rodzic) może złożyć skargę do takiego organu, jeśli uzna, że doszło do naruszenia przepisów rozporządzenia (Art. 85). Gdy system wysokiego ryzyka, taki jak narzędzie do decyzji o przyjęciu lub nadzoru egzaminu, doprowadził do decyzji istotnie wpływającej na ucznia, uczeń (lub jego rodzice) mogą również zażądać wyjaśnienia tej indywidualnej decyzji (Art. 86).

Zasady krajowe dla Twojego kraju

AI Act obowiązuje w całej UE, ale organy egzekwujące, prawo oświatowe i praktyka ochrony danych różnią się w zależności od kraju. Uwagi dotyczące poszczególnych krajów partnerskich Playbooka zostaną tu dodane:


Revision #3
Created 2026-09-01 09:14:31 UTC by Alexander
Updated 2026-10-20 15:33:05 UTC by Alexander