Der Facebook-Konzern beendet einen Test mit automatisch generierten Nachrichtenartikeln – die Qualität war katastrophal.
Der Kurztest eines KI-News-Feeds bei Meta ist gescheitert. Das Unternehmen bestätigte die Einstellung des Experiments, das für ausgewählte Nutzer auf Facebook und Instagram vollautomatisch Artikel und Bilder produzierte. Der „For You“-Feed lieferte jedoch inhaltsleere Beiträge ohne Quellenangaben – inklusive halluzinierter Bilder und fragwürgiger Themen.
Warum so viele Deutsche ChatGPT nutzen – aber kaum einer weiß, wie man es richtig anwendet: Ein kostenloser Ratgeber zeigt, wie Sie die KI sofort für Ihren Alltag nutzen können – ganz ohne Vorkenntnisse. Kostenlosen PDF-Report mit fertigen Anleitungen jetzt herunterladen
Wenn die KI die Queen verdoppelt
Die Probleme waren offensichtlich. Der Generator produzierte etwa einen Artikel mit dem Titel „Die Psychologie des Anstellens in einer Schlange“ – ohne erkennbaren Nachrichtenwert. Besonders peinlich: Ein generiertes Bild zeigte zwei Versionen von Königin Elizabeth II. gleichzeitig. Die KI weigerte sich zwar, medizinische, juristische oder politische Inhalte zu erstellen und setzte Wasserzeichen ein, doch die inhaltliche Substanz blieb mangelhaft.
Meta-Sprecherin Tracy Clayton erklärte, der Test werde eingestellt – eine Weiterentwicklung sei nicht geplant. Für viele Kreative war das Experiment ein Warnsignal: Sie befürchten, dass solche automatisierten Tools die Anreize für menschliche Inhalteproduzenten weiter senken.
Open-Source-Projekte wehren sich
Die Flut an KI-generierten Beiträgen macht auch der Entwickler-Community zu schaffen. Das Ladybird-Browser-Projekt gab bekannt, künftig keine öffentlichen Pull-Requests mehr anzunehmen. Grund: Die Masse an KI-Patches zerstöre das vertrauensbasierte Überprüfungssystem. Ein einzelner KI-Agent eröffnete 103 Pull-Requests in 95 verschiedenen Repositorien – die menschliche Überprüfung kann mit diesem Tempo nicht mithalten.
Bereits im Februar 2026 hatte das curl-Projekt sein Bug-Bounty-Programm eingestellt – ebenfalls wegen einer Flut von KI-generierten Einsendungen.
OpenAI schaltet Sicherheitsmodus frei
Auf die wachsenden Risiken reagiert nun auch OpenAI. Seit dem 6. Juni bietet das Unternehmen einen optionalen „Lockdown Mode“ an. Die Sicherheitsfunktion schützt vor Prompt-Injection-Angriffen, indem sie ausgehende Netzwerkanfragen einschränkt. Im aktivierten Modus beschränkt sich das Surfen auf zwischengespeicherte Inhalte – Deep-Research- und Agentenfunktionen werden deaktiviert.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzleitfaden zum EU AI Act sichern
Transparenzprobleme bei Microsofts KI-Modell
Undurchsichtig bleibt die Datenlage bei Microsofts neuem Reasoning-Modell „MAI-Thinking-1″. Seit dem 2. Juni in privater Vorschau, zeigen sich Widersprüche zwischen Vertriebsversprechen und technischer Dokumentation. Während das Verkaufsteam betonte, das Modell sei ausschließlich mit lizenzierten Daten trainiert, listen interne Tester-Dokumente öffentliche Webquellen und Common Crawl als Trainingsbestandteile auf.
Ein heikler Punkt: Ab 2027 schreibt der EU AI Act die Offenlegung von Trainingsdaten vor. Die Diskrepanz könnte Microsoft in Erklärungsnot bringen.
Das Internet gehört längst den Maschinen
Die Entwicklung ist kein Einzelfall – sie ist der neue Normalzustand. Laut Cloudflare-Daten vom Juni 2026 stammen 57,4 Prozent des gesamten Web-Traffics von Maschinen. Menschliche Nutzer sind zur Minderheit geworden. Für Werbemodelle und Medienbewertungen, die auf traditionellen Traffic-Kennzahlen basieren, wird das zum Problem.
Doch nicht alle sehen die Entwicklung kritisch. Das KI-Unternehmen Anthropic berichtet, dass sein Modell Claude im Mai 2026 mehr als 80 Prozent des neuen Produktionscodes des Unternehmens geschrieben habe. Anthropic wertet dies als Schritt in Richtung rekursiver Selbstverbesserung – warnt aber gleichzeitig: Solche Systeme könnten sich schneller entwickeln, als menschliche Aufsicht sie kontrollieren kann.
