KI in der Bildung: Der AI-Act als Regulierungsrahmen

AI Act der EU (KI Gesetz)

Seit August 2024 ist in der Europäischen Union das weltweit erste umfassende Gesetz zur Künstlichen Intelligenz (AI-Act) in Kraft getreten.

Ziel der Verordnung ist es, Vertrauen in die KI-Technologie zu schaffen und die Grundrechte der Menschen zu schützen. Die meisten Bestimmungen gelten ab dem 2. August 2026, einige treten jedoch schon früher in Kraft.

Welche Folgen und spezielle Verpflichtungen sich aus dem AI-Act für Bildungsanbieter und Lehrende ergeben, hat Susanne Witt vom DIE für das Portal wb-web zusammengestellt.

Wir haben die wesentlichen Punkte dieses Artikels aufgegriffen und geben sie hier in einer verkürzten Fassung wieder. Bei darüber hinausgehendem Interesse empfehlen wir die Lektüre des Volltextes.

Der AI-Act und seine Auswirkungen auf Bildungsanbieter und Lehrende

Der AI-Act der Europäischen Union zielt darauf ab, den Einsatz von Künstlicher Intelligenz (KI) in Europa zu regulieren.

Dieses Gesetz teilt KI-Anwendungen in vier Risikokategorien ein: unvertretbares Risiko (verbotene Systeme), hohes Risiko (strenge Regulierung), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (weitgehend unreguliert).

Verpflichtungen für Bildungsanbieter und Lehrende

  1. Ausbildung und KI-Kompetenzen
    Bildungsanbieter müssen sicherstellen, dass ihre Mitarbeiterinnen und Mitarbeiter über die notwendigen KI-Kompetenzen verfügen, um KI-Systeme sachkundig einsetzen und Chancen und Risiken erkennen zu können.
  2. Transparenzpflichten
    Beim Einsatz von KI müssen Bildungsanbieter transparent machen, ob Inhalte von Menschen oder mit Hilfe von KI erstellt wurden. Dies erfordert eine klare Kennzeichnung der Inhalte.
  3. Technische Dokumentation
    Anbieter von KI-Modellen müssen eine technische Dokumentation erstellen und auf Anfrage zur Verfügung stellen. Dies gilt jedoch nicht für Modelle, die unter freien und quelloffenen Lizenzen stehen, sofern keine systemischen Risiken bestehen.
  4. Urheberrechtlicher Schutz
    Es ist wichtig, bestehende Rechte wie Urheberrechte zu sichern und sicherzustellen, dass der Einsatz von KI nicht zu rechtlichen Konflikten führt.

Praktische Umsetzung in der Bildung

  • Einsatz von KI in der Bildung
    KI kann in der Bildung eingesetzt werden, um Verwaltungsprozesse zu unterstützen, die Entscheidungsfindung zu verbessern und Dienstleistungen zu optimieren. Beispiele sind Chatbots oder automatisierte Dokumentenanalysen.
  • Qualifizierungsbedarf
    Bildungsanbieter sollten den Schulungsbedarf ihres Personals ermitteln, indem sie die Anforderungen und den Einsatz von KI analysieren. Dazu gehört die Definition der Ziele, der eingesetzten KI-Tools und der Risikokategorien.

Ermittlung des Qualifizierungsbedarfs

Der Qualifizierungsbedarf des Personals sollte anhand der spezifischen KI-Anwendungsbereiche und der damit verbundenen Risiken analysiert werden.
Wichtige Fragen für die Bedarfsermittlung sind:

  • Zweckbestimmung
    Welche Aufgaben soll die KI übernehmen?
  • Werkzeugauswahl
    Welche KI-Software soll eingesetzt werden?
  • Risikokategorie
    Welcher Risikokategorie nach dem KI-Gesetz unterliegt die Anwendung?
  • Anwendergruppe
    Wer soll mit der KI arbeiten?
  • Kompetenzniveau
    Welche Vorkenntnisse haben die Mitarbeitenden oder Lehrenden?

KI in Bildungseinrichtungen

Für Schulen, Hochschulen und Weiterbildungseinrichtungen bietet KI zahlreiche Anwendungsmöglichkeiten:

  • Automatisierung administrativer Aufgaben
    KI kann Prozesse wie Terminplanung, Dokumentenverwaltung und Anfragenbearbeitung effizienter gestalten.
  • Generative KI für Lehre und Forschung
    Texte zusammenfassen, wissenschaftliche Analysen unterstützen und neue Inhalte generieren.
  • Unterstützung der Lehre
    Lehrende können KI für die Unterrichtsplanung nutzen oder KI-Anwendungen als Lehrinhalte integrieren.

Unternehmenskultur und KI

Unternehmen können ihre Unternehmenskultur durch Richtlinien prägen, die den Umgang mit KI-Systemen definieren. Dazu gehören ethische Fragen, Datenschutz und Urheberrecht. Eine zentrale Anlaufstelle kann helfen, Schulungen zu koordinieren und die Einhaltung der Standards zu überwachen,


Ähnliche Themen in dieser Kategorie

16.04.2025

KI-Tools als Lernbegleiter in der Prüfungszeit Mit Beginn der schriftlichen Abiturprüfungen in Deutschland steigt der Druck auf Schüler*innen und Studierende. Digitale Helfer wie ChatGPT, Perplexity oder DeepL gewinnen in dieser Phase zunehmend an Bedeutung. Die IU …

08.04.2025

Digitalisierung als Chance: 100 Empfehlungen für bessere Schulen Das deutsche Bildungssystem steht vor tiefgreifenden Veränderungen. Internationale Studien zeigen regelmäßig Defizite, während die gesellschaftlichen Anforderungen an Schulen und Kitas steigen. Die …

07.04.2025

BAW veröffentlicht Positionen zur Weiterbildung 2025 Die Bundesarbeitsgemeinschaft Andere Weiterbildung (BAW) hat ein umfangreiches Positionspapier veröffentlicht, das zentrale Herausforderungen und Lösungsansätze für die Bildungspolitik in Deutschland während der …

07.04.2025

Industrieunternehmen investieren in digitale Kompetenzen Die Mehrheit der deutschen Industrieunternehmen investiert verstärkt in die Weiterbildung ihrer Mitarbeitenden, um den Anforderungen der Industrie 4.0 gerecht zu werden. Laut einer repräsentativen Umfrage des …

.
Oft gelesen...