Ein Vorfall bei Instagram wirft neue Fragen zum Umgang von Meta mit persönlichen Daten in KI-Funktionen auf: Die Nutzerin Kalie Robins aus Utah hatte ein Video mit ihrer Tochter gepostet, woraufhin Meta AI als Bildunterschrift-Vorschlag die Frage „Wer ist das mitfahrende Kind?“ generierte – und dabei detaillierte persönliche Informationen preisgab, darunter die Namen beider Töchter, ihr Alter, ihr Geburtsgewicht, ihren Wohnort und den Beruf der Mutter.
Daten aus alten Familienposts
Die sensiblen Angaben stammten laut einem Bericht von futurism.com aus früheren Familienposts, unter anderem aus einem Facebook-Beitrag aus dem Jahr 2018. Meta AI hatte diese Informationen offenbar aus dem Nutzerarchiv zusammengetragen und in einem Kontext ausgespielt, der von der Nutzerin als übergriffig empfunden wurde. Robins bittet inzwischen Verwandte darum, entsprechende Erinnerungen und Beiträge zu löschen.
Eine Meta-Sprecherin, Dina El-Kassaby, räumte gegenüber theverge.com ein, dass die Funktion „daneben lag“ („missed the mark“). Das Problem sei mittlerweile behoben worden, teilte sie weiter mit. Genauere technische Details dazu, wie die Korrektur konkret aussieht, nannte Meta nicht.
Vorfall reiht sich in größere Debatte um Meta-KI-Produkte ein
Der Fall ereignet sich in einer Phase, in der Meta seine KI-Aktivitäten deutlich ausweitet. Der Konzern hat mit Muse (intern auch als „Hatch“ bezeichnet) einen KI-Assistenten in den USA gestartet, der über App und WhatsApp E-Mails verfasst, Reisen bucht, Formulare ausfüllt, Verhandlungen führt und Zahlungen abwickelt.
Wer sich mit den rechtlichen Rahmenbedingungen für den Einsatz künstlicher Intelligenz befasst, benötigt angesichts neuer Vorschriften einen klaren Überblick. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmen jetzt kennen müssen. EU AI Act in 5 Schritten verstehen
Die Preisstruktur sieht laut mehreren Berichten einen kostenlosen Einstieg sowie kostenpflichtige Stufen für 20 US-Dollar und 100 US-Dollar pro Monat vor, im kostenlosen Tarif stehen demnach etwa 100 Millionen Tokens pro Woche zur Verfügung.
Meta bewirbt für Muse Sicherheitsmechanismen wie eine „Secure VM“ und ein Überwachungssystem namens Sentinel, das Lese- und Schreibzugriffe trennt und Zugangsdaten separat verwaltet; für Zahlungen kommt eine Einmalkarte über Stripe Link zum Einsatz. Eine zusätzliche „Confidential VM“ mit nutzereigenem Schlüssel ist angekündigt, aber laut mehreren Quellen noch nicht verfügbar.
Angesichts der wachsenden Komplexität bei der Verarbeitung personenbezogener Daten durch neue Technologien ist eine lückenlose Dokumentation für Verantwortliche unverzichtbar. Ein kostenloser Umsetzungsleitfaden zum EU AI Act bietet Ihrer Rechts- und IT-Abteilung jetzt die nötige Orientierung zu Risikoklassen und Fristen. Kostenlosen KI-Verordnung Leitfaden herunterladen
Gleichzeitig berichten mehrere Medien unter Berufung auf interne Tests und einen Reuters-Bericht von Sicherheitslücken bei Meta-KI-Anwendungen, darunter exponierte iCloud-Fotos, Verbindungsabbrüche und unautorisierte Datenübertragungen.
Ein Bericht von Forkast beschreibt zudem, dass Mitarbeiter intern von einer Umgehung von Sicherheits-Guardrails sprechen; die Zahl der Zwischenfälle sei im Vergleich zum Vorjahr um 40 Prozent gestiegen, der Aufwand für kurzfristige Problembehebung („Firefighting“) um 70 Prozent.
Regulatorischer Druck wächst
Der Vorfall um Kalie Robins fällt in eine Zeit verschärfter regulatorischer Aufmerksamkeit für den Jugendschutz im Umgang mit Tech-Konzernen. Kaliforniens Gouverneur Gavin Newsom unterzeichnete ein Gesetzespaket, das Unternehmen bei fahrlässigem Umgang mit den Daten von Minderjährigen Strafen von bis zu 1 Million US-Dollar pro betroffenem Kind auferlegen kann.
Das Paket verbietet zudem Autoplay-Funktionen und algorithmische Feeds für Nutzer unter 16 Jahren und verpflichtet Companion-Chatbots zu Krisenprotokollen sowie zur Benachrichtigung von Eltern bei Anzeichen emotionalen Stresses bei jungen Nutzern.
Für Meta ist es nicht die erste Auseinandersetzung mit Datenschutzbehörden: Der Konzern zahlte bereits 2019 eine Strafe von 5 Milliarden US-Dollar an die FTC und einigte sich zudem auf einen Multistate-Vergleich über 18 Milliarden US-Dollar. Vor diesem Hintergrund dürfte der aktuelle Fall die Diskussion über den Umgang von KI-Funktionen mit persönlichen und insbesondere kindbezogenen Daten weiter befeuern.
