In einer gemeinsamen Initiative haben der Softwarekonzern Microsoft sowie die US-Lehrergewerkschaften American Federation of Teachers (AFT) und United Federation of Teachers (UFT) einen nationalen Standard für Sicherheit und Datenschutz beim Einsatz Künstlicher Intelligenz (KI) an Schulen vorgestellt.
Die Vereinbarung zielt darauf ab, verbindliche Leitplanken für den Einsatz technologischer Neuerungen in Bildungseinrichtungen zu schaffen und den Schutz von Schülerdaten rechtlich abzusichern.
Ab dem 1. November 2026 sollen die neuen Standards für sämtliche Schulverträge von Microsoft in den Vereinigten Staaten gelten. Ein Kernpunkt der Vereinbarung ist der strikte Schutz personenbezogener Informationen: Daten von Schülern und Lehrkräften dürfen demnach grundsätzlich nicht für das Training von KI-Modellen verwendet werden.
Ausgenommen von dieser Regelung ist lediglich der explizite Schutz von Minderjährigen vor Schaden. Darüber hinaus ist es untersagt, diese Daten zu verkaufen, für Werbezwecke zu nutzen oder sie für die allgemeine Produktentwicklung wiederzuverwenden.
Fokus auf Kinderschutz und ethische KI-Nutzung
Die Richtlinien enthalten zudem spezifische Verbote für bestimmte Arten von KI-Anwendungen. So ist die Implementierung von sogenannten KI-Begleitern untersagt, die darauf ausgelegt sind, eine emotionale Abhängigkeit oder Bindung bei Schülern zu fördern. Auch ein Tracking oder eine Überwachung der Lernenden durch KI-Systeme wird ausgeschlossen.
Ein weiterer wesentlicher Aspekt der Vereinbarung betrifft die menschliche Entscheidungshoheit. KI-Systeme dürfen laut dem Regelwerk keine automatisierten Entscheidungen treffen, ohne dass eine menschliche Aufsicht erfolgt. Die Schulen behalten dabei die volle Kontrolle über die Nutzung, Speicherung und Löschung der Daten sowie über den konkreten Einsatz der KI-Werkzeuge im Unterricht.
Der Einsatz von Künstlicher Intelligenz in Organisationen erfordert klare Regeln, um Verantwortung und Rechtsstaatlichkeit zu wahren. Dieser kostenlose Leitfaden bietet einen Alltags-Schutz-Check für den verantwortungsvollen Umgang mit KI-Systemen. Vier Fragen vor KI-Fehlern im öffentlichen Dienst bewahren
Um die Einhaltung dieser Vorgaben zu gewährleisten, sieht die Vereinbarung regelmäßige Prüfungen durch unabhängige Dritte vor. Zudem soll eine klare und verständliche Kommunikation gegenüber den Familien sichergestellt werden.
Rechtliche Durchsetzbarkeit und finanzielle Förderung
Die neuen Schutzregeln zeichnen sich durch ihre juristische Bindung aus. Schulbezirke erhalten die Möglichkeit, diese Standards direkt in ihre Verträge mit Microsoft aufzunehmen. Damit werden die Vorgaben rechtlich durchsetzbar; bei Verstößen gegen die vereinbarten Sicherheits- und Datenschutzregeln ist die Zahlung von Schadensersatz vorgesehen.
Randi Weingarten, Präsidentin der AFT, bezeichnete die Übereinkunft als die erste ihrer Art und betonte deren Durchsetzbarkeit. Auch Michael Mulgrew, Präsident der UFT, die rund 200.000 Mitglieder vertritt, verwies auf die Bedeutung verbindlicher Regeln. Die Vereinbarung folgt auf bestehende Beschränkungen in den öffentlichen Schulen von New York City, wo bereits Verbote für Mobiltelefone und bestimmte KI-Anwendungen gelten.
Wer den Einsatz von KI-Systemen rechtssicher gestalten möchte, muss die geltenden Fristen, Pflichten und Risikoklassen genau kennen. Ein kostenloser Download verschafft Ihnen den notwendigen Überblick über die Anforderungen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Microsoft-Präsident Brad Smith kündigte an, dass eine Ausweitung dieser Standards auf alle Schulbezirke angestrebt werde. Parallel dazu investiert das Unternehmen gemeinsam mit OpenAI und Anthropic in die Ausbildung: Die AFT National Academy for AI Instruction erhält eine Fördersumme von 23 Mio. USD (entspricht R374,2 Mio.), um Lehrkräfte im Umgang mit der neuen Technologie zu schulen.
Marktumfeld und regionale Moratorien
Die Initiative von Microsoft setzt andere Branchenteilnehmer unter Zugzwang. Während OpenAI und Anthropic Berichten zufolge bereits über ähnliche Pakte verhandeln, bleibt die Position von Google, dessen Dienst Classroom rund 150 Mio. Nutzer zählt, in Bezug auf vergleichbare Standards derzeit noch unklar.
Der Vorstoß erfolgt vor dem Hintergrund einer kritischen Debatte über KI im Bildungssektor. In Metropolen wie New York City und Los Angeles wurden bereits einjährige Moratorien für den Einsatz von KI beschlossen, die in New York die Grund- und Mittelschulen und in Los Angeles alle Stufen bis zur Highschool betreffen.
Die nun getroffene Vereinbarung zwischen Microsoft und den Gewerkschaften könnte als Modell dienen, um das Vertrauen in digitale Bildungswerkzeuge wiederherzustellen.
