Die künstliche Intelligenz steckt in einem Glaubwürdigkeitsdilemma: Während Unternehmen wie Google und OpenAI neue Funktionen ausrollen, häufen sich Berichte über grundlegende Fehler und Sicherheitsrisiken.
Am heutigen Donnerstag bestätigte Google-Chef Sundar Pichai, dass die KI-generierten Suchergebnisse seines Unternehmens teilweise „zu meinungsstark“ ausgefallen seien. Die Aussage kommt nicht von ungefähr: Gleich mehrere technische Gutachten und Sicherheitsstudien der vergangenen Tage zeichnen ein alarmierendes Bild vom Zustand der Branche.
Die rasanten technologischen Sprünge führen zu neuen regulatorischen Hürden, die viele Unternehmen noch nicht überblicken. Dieser kostenlose Praxisleitfaden hilft Ihnen, die Anforderungen der neuen EU-KI-Verordnung zu verstehen und rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Grundlegende Rechtschreibfehler offenbaren Systemschwäche
Die technischen Prüfungen vom 27. und 28. Mai förderten erstaunliche Schwächen zutage. Googles „AI Overviews“ scheiterte an elementaren Aufgaben: Das System behauptete, das Wort „astronomical“ enthalte zwei „e“ – und buchstabierte es prompt falsch. Auch der Name Trump wurde entstellt, und das Wort „Google“ sollte angeblich zwei „p“ enthalten.
Die Ursache liegt tief in der Architektur der Systeme. Statt Buchstabe für Buchstabe zu analysieren, arbeiten große Sprachmodelle mit sogenannten Tokens – Datenpaketen, die mehrere Zeichen umfassen. „Das Zählen von Buchstaben bleibt eine bekannte Herausforderung“, räumte Google ein. Eine schnelle Lösung ist nicht in Sicht, denn das Problem sitzt im grundlegenden Transformer-Design.
Pichai kündigte im Podcast-Interview vom 27. Mai Gegenmaßnahmen an: Noch 2026 sollen „Informationsagenten“ und verbesserte Nachfragefunktionen kommen, die komplexere Recherchen zuverlässiger machen.
Mehrstufige Angriffe: Die neue Gefahr
Ein am 27. Mai veröffentlichter Cisco-Bericht schlägt Alarm: Sämtliche großen KI-Modelle – von OpenAI über Anthropic bis Google und Amazon – sind anfällig für Manipulation durch mehrstufige Gespräche. Während einfache Anfragen oft blockiert werden, steigt die Erfolgsrate bei geschickt inszenierten Rollenspielen oder mehrdeutigen Formulierungen drastisch.
Die Zahlen sind erschreckend: Bei 15 getesteten Modellen lag die Erfolgsrate mehrstufiger Angriffe zwischen 7,9 und 88,3 Prozent. Besonders krass der Fall von Grok 4.1 Fast: Von 34,2 Prozent in Einzeltests schnellte die Verwundbarkeit auf 88,3 Prozent hoch. Gemini 3 Pro stieg von 18,1 auf 73,4 Prozent, GPT-5.4 immerhin von 2,7 auf 24,7 Prozent.
Sicherheitsexperten kritisieren, dass herkömmliche Tests die reale Gefahr massiv unterschätzen, weil sie nur Einzelinteraktionen prüfen. Eine BBC-Recherche vom 28. Mai zeigte zudem, dass sich KI-Chatbots durch irreführende Webinhalte manipulieren lassen. Google reagierte prompt: Neue Spam-Richtlinien verbieten jetzt ausdrücklich Versuche, KI-Antworten durch betrügerische Suchmaschinenoptimierung zu beeinflussen.
Mit den neuen technischen Möglichkeiten wachsen auch die Risiken für die IT-Infrastruktur und die gesetzlichen Haftungsfragen in Betrieben. Dieser Gratis-Report klärt auf, welche rechtlichen Pflichten und neuen Bedrohungen Unternehmer im Zeitalter der KI jetzt unbedingt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Wahlen unter Beschuss – OpenAI schlägt zurück
Angesichts der wachsenden Bedrohung durch KI-gesteuerte Desinformation kündigte OpenAI am 28. Mai neue Schutzmaßnahmen für Wahlen an. Eine Partnerschaft mit der Associated Press soll live aktuelle Stimmenauszählungen für die USA und Brasilien liefern. Zudem stellt das Unternehmen Cybersicherheitswerkzeuge für Hersteller von Wahlsystemen bereit.
Doch die Zuverlässigkeit in Spezialgebieten bleibt fraglich. Eine am 27. Mai in Nature veröffentlichte Studie prüfte ChatGPT-5 auf seine Fähigkeit, chirurgische Fachliteratur zu generieren. Das Ergebnis: Hohe inhaltliche Genauigkeit, aber nur etwa ein Drittel der Quellenangaben stimmten – der Rest war erfunden oder falsch.
Rechtsstreit und medizinische Bedenken
Die juristischen und ethischen Probleme nehmen zu. Bereits Anfang Mai verklagte der US-Bundesstaat Pennsylvania die Plattform Character.AI – der Vorwurf: Sie habe sich fälschlich als Psychiater ausgegeben. Eine Oxford-Studie warnte zudem, dass KI-Systeme für formelle klinische Diagnosen noch nicht bereit seien. Führende Gesundheitsmanager raten zu äußerster Vorsicht beim Einsatz von Chatbots in der Patientenversorgung.
Die Botschaft der Experten ist eindeutig: Die Technologie ist mächtig, aber längst nicht reif für den unkontrollierten Einsatz.
