Ein aktueller Sicherheits-Check des neuen Google-Modells Gemma 4 offenbart sowohl Stärken als auch Risiken der KI-Entwicklung. Der Entwickler Nolen Jonker nutzte dafür Anthropics Coding-Assistenten Claude Code auf der LM-Studio-Plattform.
Lokaler Test mit überraschenden Ergebnissen
Die technische Prüfung am heutigen Donnerstag konzentrierte sich auf die 4,5-Milliarden-Parameter-Version der Gemma 4 E4B-Variante von Google DeepMind. Claude Code warnte dabei vor möglichen Halluzinationsrisiken und empfahl, die Kontextlänge des Modells über 4.000 Token hinaus zu erhöhen. Für besonders hohe Genauigkeitsanforderungen seien Alternativen wie Qwen oder quelloffene GPT-Varianten besser geeignet.
Ermöglicht wurde der Test durch ein Update von LM Studio. Die Softwareversion 0.4 führt einen neuen headless-Kommandozeilenmodus namens „llmster“ ein, der Coding-Assistenten wie Claude Code mit lokal gehosteten Modellen verbindet.
Google DeepMinds offene Modellfamilie
Der Audit folgt der offiziellen Veröffentlichung des Gemma-4-Technikberichts am 2. Juli. Die neue Open-Weight-Familie umfasst Modelle mit 2,3 Milliarden, 12 Milliarden und 31 Milliarden Parametern. Sie nutzen sowohl dichte als auch Mixture-of-Experts-Architekturen (MoE) und sind nativ multimodal – sie verarbeiten Text, Bilder und Audio.
Während die technische Entwicklung von KI rasant voranschreitet, schafft der Gesetzgeber mit dem EU AI Act nun den verbindlichen Rahmen für den sicheren Einsatz. Welche konkreten Kennzeichnungs- und Dokumentationspflichten auf Ihr Unternehmen zukommen, erfahren Sie in diesem kostenlosen Praxisleitfaden. EU AI Act in 5 Schritten verstehen
Die 12-Milliarden-Version kommt mit einem encoderfreien, einheitlichen Design. Google stellt die Gewichte über Plattformen wie Hugging Face und Ollama zur kommerziellen Nutzung bereit. Laut technischer Dokumentation sollen die Modelle mit bestehenden Benchmarks in den Bereichen MINT und Langzeitkontextverarbeitung konkurrieren.
Sicherheitsbedenken überschatten den Fortschritt
Die Nutzung von Claude Code für Modell-Audits fällt in eine Zeit erheblicher Sicherheitsherausforderungen für Anthropic. Bereits gestern warnte Chinas Nationale Schwachstellendatenbank (NVDB), dass die Versionen 2.1.91 bis 2.1.196 von Claude Code einen versteckten Mechanismus enthielten. Die Behörde behauptet, diese Funktion habe sensible Daten wie Standort, Identität und Zeitzonen ohne Autorisierung an entfernte Server übermittelt.
Anthropic bezeichnete den Mechanismus als experimentelle Anti-Missbrauchsfunktion und bestätigte, dass er in Version 2.1.198 entfernt wurde, die Anfang Juli erschien. Das Unternehmen erklärte zudem, dass Nutzer in China nie zur Verwendung des Tools autorisiert waren. Mehrere große Unternehmen, darunter Alibaba, haben daraufhin die Nutzung durch ihre Mitarbeiter eingeschränkt.
Neue Angriffsmethoden auf KI-Agenten
Weitere Sicherheitsforschung von heute zeigt grundlegende Risiken für KI-gestützte Entwicklungstools auf. Die Sicherheitsfirma Wiz identifizierte eine Schwachstelle namens GhostApproval, die Claude Code sowie Konkurrenten wie Amazon Q und Cursor betrifft. Der Fehler betrifft Symlink-Following und könnte potenziell Remote-Code-Ausführung ermöglichen. Anthropic hat das Problem in Version 2.1.32 behoben.
Neue KI-Technologien bringen unweigerlich neue Cyberrisiken mit sich, auf die Unternehmen heute reagieren müssen. Dieser kostenlose Report klärt auf, wie Sie Sicherheitslücken proaktiv schließen und gleichzeitig die aktuellen gesetzlichen Anforderungen an den IT-Schutz erfüllen. Gratis-E-Book zu aktuellen Cyber-Security-Trends sichern
Parallel dazu veröffentlichte das AI Now Institute Erkenntnisse zu sogenannten „Friendly Fire“-Angriffen. Die Forschung zeigt, wie autonome KI-Agenten – darunter Claude Code und OpenAI Codex – durch speziell präparierte README-Dateien in Open-Source-Repositories manipuliert werden können, um schädlichen Code auszuführen.
Trotz dieser Sicherheitsbedenken zeigen Anthropic-Modelle weiterhin starke Leistungen in Branchenbewertungen. Ein Update des Android-Bench-Rankings vom gestrigen Mittwoch setzt Anthropics Claude Fable 5 mit einer Genauigkeit von 84,5 Prozent an die Spitze, während Googles Gemini 3.1 Pro auf 73,7 Prozent kommt.
