KI in der Bildung: Der AI-Act als Regulierungsrahmen

AI Act der EU (KI Gesetz)

Seit August 2024 ist in der Europäischen Union das weltweit erste umfassende Gesetz zur Künstlichen Intelligenz (AI-Act) in Kraft getreten.

Ziel der Verordnung ist es, Vertrauen in die KI-Technologie zu schaffen und die Grundrechte der Menschen zu schützen. Die meisten Bestimmungen gelten ab dem 2. August 2026, einige treten jedoch schon früher in Kraft.

Welche Folgen und spezielle Verpflichtungen sich aus dem AI-Act für Bildungsanbieter und Lehrende ergeben, hat Susanne Witt vom DIE für das Portal wb-web zusammengestellt.

Wir haben die wesentlichen Punkte dieses Artikels aufgegriffen und geben sie hier in einer verkürzten Fassung wieder. Bei darüber hinausgehendem Interesse empfehlen wir die Lektüre des Volltextes.

Der AI-Act und seine Auswirkungen auf Bildungsanbieter und Lehrende

Der AI-Act der Europäischen Union zielt darauf ab, den Einsatz von Künstlicher Intelligenz (KI) in Europa zu regulieren.

Dieses Gesetz teilt KI-Anwendungen in vier Risikokategorien ein: unvertretbares Risiko (verbotene Systeme), hohes Risiko (strenge Regulierung), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (weitgehend unreguliert).

Verpflichtungen für Bildungsanbieter und Lehrende

  1. Ausbildung und KI-Kompetenzen
    Bildungsanbieter müssen sicherstellen, dass ihre Mitarbeiterinnen und Mitarbeiter über die notwendigen KI-Kompetenzen verfügen, um KI-Systeme sachkundig einsetzen und Chancen und Risiken erkennen zu können.
  2. Transparenzpflichten
    Beim Einsatz von KI müssen Bildungsanbieter transparent machen, ob Inhalte von Menschen oder mit Hilfe von KI erstellt wurden. Dies erfordert eine klare Kennzeichnung der Inhalte.
  3. Technische Dokumentation
    Anbieter von KI-Modellen müssen eine technische Dokumentation erstellen und auf Anfrage zur Verfügung stellen. Dies gilt jedoch nicht für Modelle, die unter freien und quelloffenen Lizenzen stehen, sofern keine systemischen Risiken bestehen.
  4. Urheberrechtlicher Schutz
    Es ist wichtig, bestehende Rechte wie Urheberrechte zu sichern und sicherzustellen, dass der Einsatz von KI nicht zu rechtlichen Konflikten führt.

Praktische Umsetzung in der Bildung

  • Einsatz von KI in der Bildung
    KI kann in der Bildung eingesetzt werden, um Verwaltungsprozesse zu unterstützen, die Entscheidungsfindung zu verbessern und Dienstleistungen zu optimieren. Beispiele sind Chatbots oder automatisierte Dokumentenanalysen.
  • Qualifizierungsbedarf
    Bildungsanbieter sollten den Schulungsbedarf ihres Personals ermitteln, indem sie die Anforderungen und den Einsatz von KI analysieren. Dazu gehört die Definition der Ziele, der eingesetzten KI-Tools und der Risikokategorien.

Ermittlung des Qualifizierungsbedarfs

Der Qualifizierungsbedarf des Personals sollte anhand der spezifischen KI-Anwendungsbereiche und der damit verbundenen Risiken analysiert werden.
Wichtige Fragen für die Bedarfsermittlung sind:

  • Zweckbestimmung
    Welche Aufgaben soll die KI übernehmen?
  • Werkzeugauswahl
    Welche KI-Software soll eingesetzt werden?
  • Risikokategorie
    Welcher Risikokategorie nach dem KI-Gesetz unterliegt die Anwendung?
  • Anwendergruppe
    Wer soll mit der KI arbeiten?
  • Kompetenzniveau
    Welche Vorkenntnisse haben die Mitarbeitenden oder Lehrenden?

KI in Bildungseinrichtungen

Für Schulen, Hochschulen und Weiterbildungseinrichtungen bietet KI zahlreiche Anwendungsmöglichkeiten:

  • Automatisierung administrativer Aufgaben
    KI kann Prozesse wie Terminplanung, Dokumentenverwaltung und Anfragenbearbeitung effizienter gestalten.
  • Generative KI für Lehre und Forschung
    Texte zusammenfassen, wissenschaftliche Analysen unterstützen und neue Inhalte generieren.
  • Unterstützung der Lehre
    Lehrende können KI für die Unterrichtsplanung nutzen oder KI-Anwendungen als Lehrinhalte integrieren.

Unternehmenskultur und KI

Unternehmen können ihre Unternehmenskultur durch Richtlinien prägen, die den Umgang mit KI-Systemen definieren. Dazu gehören ethische Fragen, Datenschutz und Urheberrecht. Eine zentrale Anlaufstelle kann helfen, Schulungen zu koordinieren und die Einhaltung der Standards zu überwachen,


Ähnliche Themen in dieser Kategorie

26.02.2025

Der wachsende Markt für berufliche Weiterbildung Die Journalistin Gudrun Porath hat auf dem Portal heise.de die Lünendonk®-Studie 2024 »Der Markt für berufliche Weiterbildung in Deutschland« eingehend analysiert und gibt in ihrer Rezension …

18.02.2025

Ein Jahr Zukunftsmission Bildung Die Zukunftsmission Bildung ist eine breit angelegte Gemeinschaftsinitiative des Stifterverbandes mit dem Ziel, das Bildungssystem in Deutschland zukunftsfähig zu machen. Sie wurde 2024 ins Leben gerufen und hat …

13.02.2025

Der »Preis für Innovation in der Erwachsenenbildung 2025« prämiert Projekte und Bildungsformate, die Künstliche Intelligenz (KI) nutzen, um Bildungsbarrieren zu überwinden, Teilhabe zu ermöglichen oder Erwachsene zu befähigen, kompetent mit KI …

13.02.2025

Ergebnisse einer Interviewstudie zur Programmplanung Digitale Medien nehmen eine immer größere Rolle im Bildungsbereich ein – auch in der frühkindlichen Bildung. Dennoch sind Weiterbildungsangebote für frühpädagogische Fachkräfte in diesem Bereich …

.
Oft gelesen...