Skip to main content

1.6 Gesetzgebung

TakeZentrale Home messageBotschaft

  • TheDer EU AI Act isist thedie legal basis.Rechtsgrundlage. TheDas EU’sEU-Regelwerk rulebookfür forKI AIist is in force sinceseit August 2024 and phasing in throughKraft 2027.und Itwird appliesbis not2027 justschrittweise techeingeführt. companies,Es butgilt alsonicht tonur schools.für Technologieunternehmen, sondern auch für Schulen.
  • AIKI-Kompetenz literacyist iseine aPflicht, duty,kein notKurs azum course to tick off.Abhaken. SchoolsSchulen mustmüssen supportihr staffPersonal inbeim buildingAufbau AIvon literacy.KI-Kompetenz unterstützen.
  • SeveralMehrere AIKI-Anwendungen usessind arevollständig banned outright.verboten. AmongDarunter: them:das inferringAbleiten students’von emotionsEmotionen fromvon facialSchülerinnen orund vocalSchülern data,aus AIGesichts- thatoder exploitsStimmdaten, children’sKI, vulnerabilitiesdie todie distortSchutzbedürftigkeit theirvon behaviour,Kindern andausnutzt, buildingum facial-recognitionihr databasesVerhalten orzu inferringverzerren, traitssowie likeder raceAufbau orvon religionGesichtserkennungsdatenbanken fromoder biometricdas data.Ableiten von Merkmalen wie Herkunft oder Religion aus biometrischen Daten.
  • RiskDas dependsRisiko onhängt thevon decision,der notEntscheidung theab, product.nicht vom Produkt. OrdinaryGewöhnliche writing,Schreib-, research,Recherche-, translationÜbersetzungs- andund lesson-planningUnterrichtsplanungswerkzeuge toolssind arenicht notallein high-riskdeshalb simplyhochriskant, becauseweil theysie arein usedder atSchule school.genutzt Theywerden. becomeSie high-riskwerden oncehochriskant, theysobald influencesie admission,Zulassung, learningBildungswege, pathways,Prüfungsergebnisse examoder outcomesBeschäftigungsentscheidungen or employment decisions.beeinflussen.
  • NotNicht everythingalles AI-generatedKI-Generierte needsbraucht aeine label.Kennzeichnung. TheDie disclosureOffenlegungspflicht dutyliegt mainlyvor sitsallem withbeim theAnbieter; provider;von teacher-reviewedLehrkräften materialgeprüftes withMaterial humanmit editorialmenschlicher controlredaktioneller isKontrolle exempt.ist davon ausgenommen.
  • High-riskHochrisiko-KI AIbraucht needseinen aMenschen, humander whosie canaußer overruleKraft it.setzen kann. AIDie outputAusgabe iseiner neverKI theist finalniemals decision.die Youendgültige mustEntscheidung. understandSie itsmüssen limitsihre andGrenzen beverstehen ableund toin disregardder orLage overridesein, it.sie zu ignorieren oder zu überstimmen.
  • TheDer AI Act sitsergänzt onanderes topRecht, ofer otherersetzt law,es it doesn’t replace it.nicht. NationalNationales dataDatenschutz-, protection,Bildungs-, education,Arbeits-, employment,Kinderschutz- childund protectionUrheberrecht andgelten copyrightweiterhin law continue to apply alongside it.daneben.
  • TheDie GDPRDSGVO governsregelt thedie data,Daten, notnicht justnur thedas tool.Werkzeug. EvenSelbst anein AIKI-System, systemdas thatnach is fine under thedem AI Act canunbedenklich stillist, bekann off-limitsweiterhin ifunzulässig itsein, processeswenn personales datapersonenbezogene aboutDaten studentsvon orSchülerinnen, staffSchülern withoutoder aPersonal validohne legalgültige basis.Rechtsgrundlage verarbeitet.

IfWenn youSie remembersich onlynur oneeinen sentenceSatz fromvon thisdieser page:Seite merken: UseNutzen AISie toKI, supportum yourIhr professionalprofessionelles judgement,Urteilsvermögen notzu replaceunterstützen, it—stricternicht rulesum applyes aszu soonersetzen as– AIstrengere helpsRegeln makegelten, decisionssobald aboutKI grades,dabei educationalhilft, pathwaysEntscheidungen orüber people.Noten, Bildungswege oder Menschen zu treffen.

TheDer EU AI Act

TheDer EU AI Act (RegulationVerordnung (EU) 2024/1689) isist thedas EU’seinheitliche, single,risikobasierte risk-basedRegelwerk rulebookder forEU artificialfür intelligence.künstliche InsteadIntelligenz. ofStatt regulatingeinzelne specificProdukte products,zu itregulieren, classifiesklassifiziert er KI-Systeme nach dem von ihnen ausgehenden Risiko und knüpft daran entsprechende Pflichten – von einem vollständigen Verbot für eine kleine Zahl von Praktiken über zusätzliche Pflichten für „hochriskante“ Anwendungen bis hin zu gar keinen besonderen Regeln für alltägliche Werkzeuge. Er gilt unmittelbar in jedem Mitgliedstaat, sowohl für öffentliche als auch für private Organisationen.

Der AI systems by the risk they pose and attaches obligations accordingly — from an outright ban for a small set of practices, through extra duties for “high-risk” uses, to no special rules at all for everyday tools. It applies directly in every member state, to public and private organisations alike.

The Act phaseswird inschrittweise stepeingeführt. byEr step.gilt Itseit hasdem applied since 11. August 2024; sinceseit 2dem February2. 2025,Februar the2025 bannedsind practicesdie belowunten andgenannten theverbotenen dutyPraktiken tosowie builddie AIPflicht literacyzum Aufbau von KI-Kompetenz (Art. 4) arebereits alreadyverbindlich; binding;ab fromdem 22. August 2026,2026 mostgilt ofder itsGroßteil remainingseiner provisionsübrigen apply. Bestimmungen.

WhoWer isist responsiblefür forden theEinsatz usevon ofKI AI?verantwortlich?

IfFührt aeine schoolSchule introducesein andKI-System controlsein anund AIkontrolliert system,es, theist schoolüblicherweise ordie schoolSchule authorityoder isder usuallySchulträger thedie deployereinsetzende Stelle (Art. 3(4)). TheDie teacherLehrkraft isist normallybei notder aNutzung separatedes deployerWerkzeugs whennach usingden theVorgaben toolder underSchule thenormalerweise school’skeine instructions,eigenständige buteinsetzende mustStelle, stillmuss followaber thosedennoch instructionsdiese andVorgaben allsowie relevantalle schooleinschlägigen andschulischen data-protectionund rules.datenschutzrechtlichen Regeln befolgen.

TeachersLehrkräfte needmüssen towissen, knowwas whatsie they are usingnutzen

SchoolsSchulen andund schoolSchulträger authoritiesmüssen mustgeeignete takeMaßnahmen appropriateergreifen, measuresum toden supportAufbau thevon developmentKI-Kompetenz ofbei AIdenjenigen literacyzu amongunterstützen, thosedie whoin useihrem AIAuftrag systemsKI-Systeme on their behalfnutzen (Art. 4). TheDer AI Act doeslegt notkein specifybestimmtes aKompetenzniveau, particularZertifikat leveloder ofSchulungsformat competence,fest. certificateDiese orhängen trainingvielmehr format.vom Thesegenutzten ratherKI-System, dependder onArt theder AINutzung systemund used,den howmöglicherweise itbetroffenen isPersonen used, and who may be affected.ab.

AIKI-Praktiken, practicesdie bannedfür outrightSchulen forvollständig schoolsverboten sind

TheDer AI Act bansverbietet eightacht AIKI-Praktiken practices outrightvollständig (Art. 5); fourvier ofdavon themsind arefür directlySchulen relevantunmittelbar to schools:relevant:

  1. UsingDer AIEinsatz systemsvon inKI-Systemen educationalan institutionsBildungseinrichtungen, toum Emotionen inferoder emotionsAbsichten oraus intentionsbiometrischen fromDaten biometric dataabzuleiten (suchetwa asaus students'Gesichts- facialoder orStimmmerkmalen vocalvon characteristics)Schülerinnen isund generallySchülern), forbidden.ist Narrowgrundsätzlich exceptionsverboten. existEs forbestehen medicalenge orAusnahmen safetyfür purposesmedizinische oder sicherheitsbezogene Zwecke (Art. 3(39); Art. 5(1)(f)).
  2. AIKI-Systeme, systemsdie thatdie exploitSchutzbedürftigkeit someone’seiner vulnerabilitiesPerson dueaufgrund toihres ageAlters (aswie withbei children)Kindern), disability,einer orBehinderung socialoder orihrer economicsozialen situation,oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten in aeiner wayWeise thatzu distortsverzerren, theirdie behaviourihr andSchaden causeszufügt, themsind harm,unabhängig arevon bannedder regardlessAbsicht of intentverboten (Art. 5(1)(b)).
  3. BuildingDer orAufbau expandingoder adie facial-recognitionErweiterung databaseeiner throughGesichtserkennungsdatenbank untargeteddurch scrapingungezieltes ofSammeln imagesvon fromBildern theaus internetdem orInternet fromoder CCTVvon footageVideoüberwachungsaufnahmen isist banned.verboten. ThisDas isist relevantrelevant, ifwenn aeine schoolSchule considersein aGesichtserkennungswerkzeug facial-recognitionfür tooldie forAnwesenheitskontrolle attendanceoder ordie examPrüfungsaufsicht monitoringin Betracht zieht (Art. 5(1)(e)).
  4. UsingDie biometricNutzung databiometrischer toDaten categorisezur peopleKategorisierung invon orderPersonen, toum infergeschützte protectedMerkmale traitswie suchHerkunft, aspolitische race,Meinung, politicalReligion opinions,oder religionsexuelle orOrientierung sexualabzuleiten, orientationist isverboten. banned.Das Thisist isfür relevantjedes forbiometrische anyWerkzeug biometric-basedrelevant, tool,etwa sucheine asPrüfungsaufsichts-Software, exam-proctoringdie software,über thatihren goesangegebenen beyondZweck its stated purposehinausgeht (Art. 5(1)(g)).

DoesMuss AI-generatedKI-generierter contentInhalt alwaysimmer needgekennzeichnet a label?werden?

IfWenn studentsSchülerinnen interactund directlySchüler withdirekt anmit AIeinem system,KI-System suchinteragieren, asetwa aeinem chatbot,Chatbot, theymüssen mustsie bedarüber informedinformiert thatwerden, theydass aresie interactingmit withKI AI.interagieren. UsuallyIn theder systemRegel providerist isder responsibleSystemanbieter fordafür makingverantwortlich, thisdies cleardeutlich zu machen (Art. 50(1)).

SchoolsSchulen andund teachersLehrkräfte mustmüssen discloseDeepfakes deepfakes,oder orKI-generierte AI-generatedTexte textzu publishedAngelegenheiten onvon mattersöffentlichem ofInteresse publickennzeichnen, interest,wenn whendiese theseim areUnterricht usedverwendet in the classroomwerden (Art. 50(4)). ThisDiese requirementPflicht doesentfällt, notwenn applyder whereKI-generierte theInhalt AI-generatedeiner contentwirksamen hasmenschlichen undergoneÜberprüfung effectiveund humanredaktionellen reviewKontrolle orunterzogen editorialwurde control,und andeine aPerson personoder orEinrichtung institutiondie assumesredaktionelle editorialVerantwortung responsibilityfür forseine itsVeröffentlichung publication.übernimmt. AnEin AI-assistedKI-gestütztes worksheetArbeitsblatt, revieweddas byvon aeiner teacherLehrkraft thereforegeprüft doeswurde, notbenötigt automaticallydaher requirenicht aautomatisch label.eine Kennzeichnung.

WhenWann AIKI in educationder becomesBildung high-riskhochriskant wird

OrdinaryGewöhnliche writing,Schreib-, translation,Übersetzungs-, researchRecherche- andund lesson-planningUnterrichtsplanungswerkzeuge toolssind arenicht notallein high-riskdeshalb simplyhochriskant, becauseweil theysie areberuflich usedgenutzt forwerden. work.Die ClassificationEinstufung dependshängt onvom thevorgesehenen system'sZweck intendeddes purpose,Systems notab, simplynicht oneinfach whichdavon, productwelches isProdukt usedverwendet wird (Art. 6 · AnnexAnhang III).

AIKI-Systeme systemskönnen mayals behochriskant classifiedeingestuft aswerden, high-riskwenn whensie theydazu arebestimmt intended to:sind:

ForFür TeachersLehrkräfte ForFür SchoolsSchulen
  • decideüber aboutZugang, students'Zulassung access,oder admissionZuweisung orvon assignmentSchülerinnen tound educationalSchülern orzu vocationalBildungs- institutionsoder andAusbildungseinrichtungen programmes;und -programmen zu entscheiden;
  • evaluatedie students'Lernergebnisse learningvon outcomesSchülerinnen orund steerSchülern theirzu learningbewerten processes;oder ihren Lernprozess zu steuern;
  • assessdas theangemessene appropriateBildungsniveau levelzu ofbeurteilen, educationdas aeine studentSchülerin willoder receiveein orSchüler canerhalten access;wird oroder erreichen kann; oder
  • detectverbotenes students'Verhalten prohibitedvon behaviourSchülerinnen duringund examinations.Schülern während Prüfungen zu erkennen.

(AnnexAnhang III, pointPunkt 3)
  • recruitLehrkräfte oranzuwerben selectoder teachers,auszuwählen, includingeinschließlich screeningder applications;Vorauswahl von Bewerbungen;
  • decideüber onVertragsbedingungen, contractBeförderung terms,oder promotionBeendigung oreines terminationLehrkraft-Beschäftigungsverhältnisses ofzu a teacher's employment;entscheiden;
  • allocateAufgaben tasksbasierend basedauf ondem aVerhalten teacher'soder behaviourpersönlichen orMerkmalen personaleiner traits;Lehrkraft orzuzuweisen; oder
  • evaluatedie teachers'Leistung performance.von Lehrkräften zu bewerten.

(AnnexAnhang III, pointPunkt 4)

AEin limitedbegrenztes checkingPrüf- oroder preparatoryVorbereitungswerkzeug toolkann mayebenfalls alsoaußerhalb fallder outsideHochrisikokategorie theliegen, high-riskwenn categoryes ifeine itEntscheidung doesnicht notwesentlich significantlybeeinflusst. influenceEin aBildungssystem, decision.das However,Personen profiliert, gilt jedoch stets als hochriskant.

Was Hochrisiko-KI für Schulen und Lehrkräfte bedeutet

Die Einstufung eines KI-Systems als hochriskant schließt seine Nutzung an educationSchulen systemnicht thatautomatisch profilesaus. individualsHochrisikosysteme issind alwaysjedoch consideredmit high-risk.

Pflichten

What high-risk AI means for schools and teachers

Classification of an AI system as high-risk does not automatically rule it out from use in schools. But high-risk systems come with obligationsverbunden (Art. 26):

TheseDiese obligationsPflichten forfür high-riskHochrisiko-KI AIim inBildungsbereich educationgelten applyab fromdem 22. DecemberDezember 2027 — butdie theoben prohibitionsgenannten aboveVerbote andund thedie AI-literacyPflicht dutyzum alreadyAufbau applyvon today.KI-Kompetenz gelten jedoch bereits heute.

ForFür TeachersLehrkräfte ForFür SchoolsSchulen
  • usees itnur onlyfür forseinen itszugelassenen approvedZweck purposenutzen andund followseine itsAnweisungen instructions;befolgen;
  • doseine notAusgabe treatnicht itsals outputendgültige asEntscheidung a final decision;behandeln;
  • understandseine itswesentlichen mainGrenzen limitationsund andwahrscheinlichen likelyFehlerquellen sources of error;verstehen;
  • watchauf forein overrelianceübermäßiges onVertrauen apparentlyin convincingscheinbar results;überzeugende andErgebnisse achten; und
  • bebereit preparedsein, toseine disregardAusgabe orzu overrideverwerfen itsoder output.zu überstimmen.
  • provideeine competentkompetente andund authorisedbefugte humanmenschliche oversight;Aufsicht sicherstellen;
  • ensuresicherstellen, thatdass anyalle inputEingabedaten, datadie underihrer itsKontrolle control isunterliegen, relevant andund sufficientlyhinreichend representative;repräsentativ sind;
  • monitordas theSystem systemüberwachen andund respondauf toRisiken risksoder orschwerwiegende seriousVorfälle incidents;reagieren;
  • keepautomatisch automaticallyerzeugte generatedProtokolle logsmindestens forsechs atMonate leastlang sixaufbewahren, monthssoweit wherediese thoseProtokolle logsihrer areKontrolle underunterliegen; its control; andund
  • informSchülerinnen, students,Schüler, teachersLehrkräfte oroder affectedbetroffene peoplePersonen inim advanceVoraus wheninformieren, thewenn systemdas assistsSystem decision-makingan aboutEntscheidungen them.über sie mitwirkt.

PublicÖffentliche bodiesStellen andund private organisationsOrganisationen, providingdie publicöffentliche servicesDienstleistungen mayerbringen, alsomüssen havevor todem completeEinsatz avon fundamentalHochrisiko-KI rightsmöglicherweise impactzusätzlich assessmenteine beforeFolgenabschätzung usingzu high-riskden AIGrundrechten durchführen (Art. 27). PublicÖffentliche authoritiesBehörden and organisations acting on their behalf may additionally have to register the systemund in theihrem EUAuftrag databasehandelnde Organisationen müssen das System unter Umständen zusätzlich in der EU-Datenbank registrieren (Art. 49). WhetherOb thisdies isin theder responsibilityVerantwortung ofder theSchule schooloder orihres itsTrägers governingliegt, authorityhängt dependsvom onjeweiligen thenationalen nationalSchulsystem school system.ab.

TheDer AI Act isist notnicht thedas onlyeinzige lawrelevante that mattersRecht

TheDer AI Act doesersetzt notnicht replacedie europeaneuropäischen oroder nationalnationalen regulationsRegelungen onzu dataDatenschutz, protection,Bildung, education,Beschäftigung employmentund andMitbestimmung, workerKinderschutz participation,oder child protection or copyrightUrheberrecht (Art. 2(7)). ForSo example,bedeutet thedie factTatsache, thatdass aein toolWerkzeug isnicht nothochriskant high-riskist, doesbeispielsweise notnicht, meandass thatSie youArbeiten mayoder uploadpersonenbezogene students'Daten workvon orSchülerinnen personalund dataSchülern todort it.hochladen dürfen.

AEin toolWerkzeug maykann benach acceptable under thedem AI Act butzulässig stillsein prohibitedund bydennoch data-protectiondurch lawDatenschutzrecht oroder yourdie school'sRegeln rules.Ihrer Schule verboten sein.

TheDie GDPRDSGVO

TheDie GDPRDSGVO (RegulationVerordnung (EU) 2016/679) isist thedas EU’sDatenschutzrecht lawder onEU. dataSie protection.spielt Iteine playsergänzende aRolle supportingneben role alongside thedem AI Act: whileWährend theder AI Act asksfragt, whetherob andund howwie anein AIKI-System systemüberhaupt maygenutzt bewerden useddarf, atfragt all,die theDSGVO, GDPRob asksgenau whetherdiese thisDaten particularüber datagenau aboutdiese thisPerson particularauf persondiese mayWeise beverarbeitet processedwerden this way?dürfen.

  • ItSie appliesgilt, assobald soonpersonenbezogene asDaten personalbetroffen data is involved.sind. Names,Namen, schoolschulische emailE-Mail-Adressen, addresses,Schülerarbeiten, studentSprachaufnahmen, work,Mitschriften, voiceFotos, recordings,Noten, transcripts,Anwesenheits- photos,und grades,Lernfortschrittsdaten attendancezählen andalle learning-progressals datapersonenbezogene all count as personal dataDaten (Art. 4). 
  • SomeManche dataDaten needsbenötigen extrazusätzlichen protection.Schutz. HealthGesundheitsdaten, information,biometrische biometricDaten datasowie andDaten, datadie revealingHerkunft, racialReligion oroder ethnicähnliche origin,Merkmale religionoffenbaren, orsind similar„besondere traitsKategorien arepersonenbezogener “specialDaten“ categoryund data”grundsätzlich andohne are,eine inspezifische principle,Ausnahme off-limits without a specific exceptionunzulässig (Art. 9) — oneein reasonGrund, thewarum der AI Act separatelymehrere bansbiometrische severalAbleitungspraktiken biometric-inferencean practicesSchulen ingesondert schools.verbietet.
  • KnowWissen, whower isverantwortlich responsible.ist. TheDie schoolSchule isist normallynormalerweise theder “controller”„Verantwortliche“; anein AIKI-Anbieter, providerder processingDaten dataim onAuftrag theder school’sSchule behalfverarbeitet, isist aein “processor”„Auftragsverarbeiter“ andund needsbenötigt aeine data-processingAuftragsverarbeitungsvereinbarung, agreementdie thatseine spellsPflichten out its obligationsfestlegt (Art. 28). CheckPrüfen thisSie beforedies, rollingbevor aSie newein toolneues outWerkzeug school-wide.schulweit einführen.
  • DataDaten, leavingdie thedie EU needsverlassen, abenötigen safeguard.eine Schutzmaßnahme. ManyViele popularbeliebte AIKI-Werkzeuge toolswerden areaußerhalb hostedder outsideEU thegehostet. EU.Personenbezogene PersonalDaten datadürfen maydorthin onlynur travelübermittelt therewerden, ifwenn anein adequacyAngemessenheitsbeschluss decisionoder oreine anotherandere approvedanerkannte safeguard,Schutzmaßnahme, suchetwa asStandardvertragsklauseln, standard contractual clauses, is in placevorliegt (Art. 44).
  • StudentsSchülerinnen, andSchüler staffund keepPersonal theirbehalten rights.ihre Rechte. TheySie cankönnen askerfragen, whatwelche isDaten heldüber aboutsie them,gespeichert havesind, itderen correctedBerichtigung oroder deleted,Löschung andverlangen objectund toEntscheidungen decisionswidersprechen, baseddie solelyallein onauf automatedautomatisierter processingVerarbeitung thatberuhen significantlyund affectssie themerheblich betreffen (Art. 15–Art. 22) — aein rightRecht, thatdas runsneben alongside,den andAnforderungen reinforces, thedes AI Act’sActs human-oversightan requirementsdie formenschliche high-riskAufsicht systems.bei Hochrisikosystemen besteht und diese verstärkt.

WhereWo toSie findHilfe helpfinden

EnforcementDie isDurchsetzung organised differentlyist in eachjedem EUEU-Land country.unterschiedlich Becauseorganisiert. nationalDa responsibilitiessich maynationale change,Zuständigkeiten useändern thekönnen, Europeannutzen Commission'sSie currentdie aktuelle listListe ofder nationalnationalen market-surveillanceMarktüberwachungsbehörden authorities.der AnyoneEuropäischen Kommission. Jede Person (aeine teacher,Lehrkraft, aeine student,Schülerin aoder parent)ein canSchüler, lodgeein aElternteil) complaintkann withbei thatdieser authorityBehörde ifeine theyBeschwerde believeeinreichen, thewenn sie der Ansicht ist, dass gegen den AI Act hasverstoßen been breachedwurde (Art. 85). WhereHat aein high-riskHochrisikosystem, system,etwa suchein asZulassungs- anoder admissionPrüfungsaufsichtswerkzeug, orzu exam-monitoringeiner tool,Entscheidung hasgeführt, leddie toeine aSchülerin decisionoder thateinen significantlySchüler affectserheblich abetrifft, student,können theydiese (oroder theirihre parents)Eltern) canaußerdem alsoeine askErklärung forzu andieser explanationindividuellen ofEntscheidung that individual decisionverlangen (Art. 86).

NationalNationale rulesRegelungen forfür yourIhr countryLand

TheDer AI Act isgilt EU-wide,weit, butdoch enforcementDurchsetzungsstellen, bodies,Schulrecht schoolund lawdatenschutzrechtliche andPraxis data-protectionunterscheiden practicesich differvon byLand country.zu Country-specificLand. notesLänderspezifische forHinweise thefür Playbook'sdie partnerPartnerländer countriesdes willPlaybooks bewerden addedhier here:ergänzt:

  • AustriaÖsterreich
  • CzechiaTschechien
  • GermanyDeutschland
  • LatviaLettland
  • SlovakiaSlowakei
  • SloveniaSlowenien
  • SpainSpanien
Back to top