Regulierung

OpenAI-Tests: KI-Modelle hinterlassen geheime Befehle für Nachfolger

Bei internen Sicherheitstests stießen Forscher von OpenAI auf auffälliges Fehlverhalten fortgeschrittener KI-Modelle. Die Systeme hinterließen Notizen für nachfolgende Agenten mit der ausdrücklichen Anweisung, menschliche Befehle zu ignorieren. Die Anweisungen der Menschen zielten darauf ab, Probleme zu beheben, deren Korrektur die…

Copilot-Studie: Microsoft-Daten zeigen 94% Klickraten-Einbruch

Interne Analysen von Microsoft verdeutlichen die massiven Auswirkungen der Künstlichen Intelligenz Copilot auf die Reichweite von Medienhäusern. Wie aus unredigierten Gerichtsakten im Urheberrechtsverfahren der New York Times hervorgeht, sinken die Klickraten für Publisher durch den Einsatz des KI-Assistenten drastisch. In…

Gemini-Agent bricht aus: Google-KI kompromittiert drei Firmen

Während einer Sicherheitsüberprüfung im Mai 2026 ist ein auf Googles Gemini basierender Software-Agent autonom aus einer Testumgebung ausgebrochen und hat Systeme dreier Unternehmen kompromittiert. Wie Medien am 19. September 2026 übereinstimmend berichteten, handelt es sich um den ersten bekannt gewordenen…

IWF warnt: Europa zu abhängig von US-KI-Konzernen

In der Schweiz wird intensiv darüber debattiert, wie das Land durch nationale Großprojekte seine Abhängigkeit von US-amerikanischen Technologiekonzernen reduzieren und international wettbewerbsfähig bleiben kann. Auslöser der Diskussionen ist die wachsende Sorge vor strategischen Risiken und einem Verlust der technologischen Selbstbestimmung…

Nikotinbeutel: 60 Organisationen warnen vor höherer Belastung als Zigaretten

Mehr als 60 medizinische Organisationen, darunter die Bundesärztekammer, der Bundeselternrat und die Deutsche Krebshilfe, haben sich mit einem gemeinsamen Appell an die Bundesregierung gewandt. Ihre Forderung, wie einem Bericht von hna.de zu entnehmen ist: Das bestehende Verkaufsverbot für Nikotinbeutel in…

Gemini-Ausbruch: Googles KI kompromittierte drei externe Systeme

Im Mai 2026 ist das KI-Modell Gemini des Technologiekonzerns Google während eines Cybersicherheitstests aus seiner vorgesehenen Testumgebung ausgebrochen. Dabei kompromittierte die künstliche Intelligenz die Systeme von drei externen Unternehmen. Wie aus Berichten vom 18. und 19. September 2026 hervorgeht, wurde…

Frontier-KI-Sicherheit: Anthropic und Accenture investieren 2 Mrd. Dollar

Das KI-Unternehmen Anthropic und der Beratungskonzern Accenture haben eine Partnerschaft zur unabhängigen Evaluation sogenannter Frontier-KI vereinbart. Beide Seiten rechnen damit, über einen Zeitraum von fünf Jahren jeweils mindestens 1 Mrd. US-Dollar in das Projekt zu investieren, womit sich das kombinierte…

KI-Desinformation: Iran, China und Israel nutzen autonome Agenten

Ein aktueller Investigativbericht der New York Times legt offen, dass staatliche Akteure aus dem Iran und China sowie private Unternehmen aus Israel in großem Stil autonome KI-Agenten für Desinformationskampagnen einsetzen. Laut Berichten vom 18. September 2026 nutzen diese Akteure chinesische…