1.6 Legislation

European Legislation

Verboten: KI zur "flächendeckenden" bzw. klassenübergreifenden Emotionserkennung in Schulen grundsätzlich verboten (ausgenommen sind medizinische oder sicherheitstechnische Gründe) 

Hochrisikosysteme: sobald KI-Systeme einen Einfluss auf Benotung oder Bewertung jeglicher Art nehmen (und damit den Bildungszugang potenziell beeinflussen), gelten sie als Hochrisikosysteme - Dafür muss sichergestellt werden, dass sie (1) Strikt nach Betriebsanleitung verwendet werden, (2) jegliche Ausgabe des Systems unter qualifizierter menschlicher Aufsicht (durch die Lehrkraft) geprüft wird und (3) die SchülerInnen über den Einsatz der Systeme akiv informiert werden.

Transparenzpflicht: Bei der Interaktion mit KI-Systemen (z.B. Chatbot) oder KI-generierten Inhalten (z.B. bei Lehr-Lernmaterialien) muss der KI-Hintergrund klar offengelegt werden.

Zusammenspiel mit nationalem Recht: Der EU AI Act)Act lässt bestehende nationale Gesetze ausdrücklich unberührt und verweist auf diese. Das bedeutet, dass nationale Rechtsvorschriften (z.B. zum Datenschutz, Schutz von Minderjährigen oder Arbeitnehmerschutzrechte für Lehrkräfte) weiterhin zu berücksichtigen sind. Hier verlinken bzw. verweisen auf die nationalen Erweiterungen

 

Austria

Czechia

Germany

 

Latvia