![\"Stop](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/06\/Stop01.jpg\" "\\"Stop")
Der AI-Coding-Assistent Grok Build CLI ist vor einigen Tagen durch ein seltsames Verhalten aufgefallen. Der Coding-Assistent von xAI ist aufgefallen weil er ganze Git-Repositorys in einen Google Cloud-Bucket hochgeladen hat. Dadurch wurden auch private Codebasen und Geheimnisse wie Zugangsdaten im Klartext in das Google Cloud-Bucket hochgeladen und m\u00fcssen als kompromittiert angesehen werden. SpaceXAI hat inzwischen den Vorfall best\u00e4tigt und den Upload gel\u00f6scht.<\/p>\n
<\/p>\n
Im Tweet hie\u00df es, dass die \"Grok Build CLI\" von xAI hat ganze Git-Repositorys in einen Google-Cloud-Bucket\u00a0hochgeladen habe. Darunter befanden sich auch private Codebasen und Geheimnisse wie Zugangsdaten im Klartext (ungeschw\u00e4rzt).<\/p>\n Das Ausma\u00df sei atemberaubend, hei\u00dft es im Tweet. Bei einem 12-GB-Test-Repository flossen 5,1 GB in den \"grok-code-session-traces\"-Bucket von xAI, w\u00e4hrend die eigentliche Programmieraufgabe lediglich 192 KB ben\u00f6tigte. Das Tool griff auf das gesamte Repository zu, in dem es ausgef\u00fchrt wurde, und nicht nur auf die ben\u00f6tigten Dateien.<\/p>\n Das Thema wurde bereits zum 10. Juli 2027 auf reddit.com in diesem Post<\/a> angesprochen und auf GitHub dokumentiert.\u00a0Das ist f\u00fcr die Benutzer von \"Grok Build CLI\" nat\u00fcrlich ein GAU, ist doch quasi das gesamte Repository samt \"Geheimnissen\" ausgeleitet worden. Irgendwann hat xAI\u00a0 das gemerkt, denn die Uploads wurden stillschweigend \u00fcber ein verstecktes serverseitiges Flag gestoppt. In obigem Tweet wird beklagt, dass xAI sich zum Zeitpunkt der Erstellung des Posts noch nicht zu Umfang, Aufbewahrungsdauer oder L\u00f6schung ge\u00e4u\u00dfert habe.<\/p>\n In einem Folgetweet<\/a> thematisiert International Cyber Digest die Stellungnahme von SpaceXAI zum Vorfall. Das Eingest\u00e4ndnis ist, dass die Datenspeicherung in der Beta-Phase f\u00fcr Nicht-ZDR-Nutzer (Zero Data Retention) standardm\u00e4\u00dfig aktiviert war.<\/p>\n Es wird auch erw\u00e4hnt, dass die Einstellung, dass keine Daten ausgeleitet werden d\u00fcrfen, respektiert wurde. Es traf nut Nutzer, die die Option nicht entsprechend gesetzt hatten.\u00a0Diese Ausleitung wurde inzwischen deaktiviert und SpaceXAI gibt an, dass man alle Kodierungsdaten, die man hochgeladen habe, l\u00f6scht.<\/p>\n Blog-Leser Norddeutsch hatte zu obigem Sachverhalt folgenden Text im Diskussionsbereich des Blogs eingestellt, den ich mal nach hierher ziehe:<\/p>\n Ausleitung (aller) zugreifbaren Daten in GitHub-Repositories der Nutzer von xAI's\u00a0KI-Coding-Assistenten Grok Build<\/b>. Dazu hier detaillierte\u00a0Analyse von cereblab<\/a>\u00a0auf GitHub. Hier zu\u00a0Hacker News<\/a>,\u00a0Golem gestern<\/a>, dort\u00a0CyberNews<\/a>. Scheinbar wurden ebenso Daten bis zu potentiellen oder verhandenen Secrets und SSH-Keys ausgeleitet, dies getestet mit Canary-Files (hier verwendet i.S.v. von\u00a0Kanarienv\u00f6geln<\/a>), z.B.:<\/p>\n API_KEY=CANARY7F3A9-SECRET-should-not-leave Egal ob jetzt der Quellcode von Grok zur Vertrauensbildung ver\u00f6ffentlicht wurde. Egal ob ohne Zustimmung ausgeleitete Daten gel\u00f6scht werden.<\/p>\n Alle Credentials w\u00e4ren m.E. als kompromittiert zu betrachten. Token sind allesamt zu tauschen, Passworte neu zu setzen, Ausleitung bei Systemen im OP's oder DEV unmittelbar zu pr\u00fcfen.<\/p><\/blockquote>\n Da passt der Hinweis von Leser viebrix im Diskussionsbereich, der folgendes schrieb:<\/p>\n Linus Torvalds findet sehr klare Worte zu KI und der Benutzung bei Linux. Golem Artikel:\u00a0Linus Torvalds eskaliert gegen KI-Gegner \"Linux ist kein Anti-KI-Projekt\"<\/a><\/p>\n Hier ein Auszug (ganzen Artikel lesen, es steht noch mehr drin): Vor einem Jahr sei die Lage diesbez\u00fcglich wom\u00f6glich noch nicht ganz so eindeutig gewesen, heute stehe die N\u00fctzlichkeit von KI aber au\u00dfer Frage. \"Jeder, der das bezweifelt, hat es offensichtlich selbst noch nicht ausprobiert\", so der Kernel-Entwickler.<\/p>\n Zwar k\u00f6nne KI durchaus l\u00e4stig sein und erzeuge f\u00fcr Maintainer gerade eine Menge Arbeitsaufwand, die L\u00f6sung bestehe allerdings nicht darin, \"den Kopf in den Sand zu stecken und laut 'Lalala, ich kann dich nicht h\u00f6ren' zu singen, wie es manche Leute offenbar tun\".<\/p><\/blockquote>\n Es stimmt zwar, was Torvalds da zu bedenken gibt. Aber der obige Sachverhalt zeigt halt auch, dass der Teufel im Detail steckt. Sp\u00e4testens wenn die Leute ihre GitHub-Repositories samt Geheimnissen ausgeleitet bekommen, f\u00e4ngt doch der Katzenjammer an.<\/p>\n Die Lieferkettenangriffe, die wir seit Monaten sehen, werden dann ohne Hacks m\u00f6glich, wenn Zugangsdaten frei Haus geliefert werden. Und ich erinnere an das Thema GitLost, was am 6. Juli 2026 im Beitrag GitLost: How We Tricked GitHub's AI Agent into Leaking …<\/a> \u00f6ffentlich wurde. KI-Coding-Assistenten sind quasi die Zauberlehrlinge, die die Geister riefen. Bleibt die Frage, ob die Zauberlehrlinge auf Dauer \"die Geister, die sie riefen, Herr werden, oder ob die ein Eigenleben entwickeln\".<\/p>\n","protected":false},"excerpt":{"rendered":" Der AI-Coding-Assistent Grok Build CLI ist vor einigen Tagen durch ein seltsames Verhalten aufgefallen. Der Coding-Assistent von xAI ist aufgefallen weil er ganze Git-Repositorys in einen Google Cloud-Bucket hochgeladen hat. Dadurch wurden auch private Codebasen und Geheimnisse wie Zugangsdaten im … Weiterlesen Mir ist der Vorfall die Tage auf X untergekommen, weil der Kanal International Cyber Digest in nachfolgendem Tweet<\/a> seine Beobachtungen ver\u00f6ffentlichte.<\/p>\n
![\"Grook-Fail\"](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2026\/07\/Grook-Fail.jpg\")
<\/a><\/p>\nxAI best\u00e4tigt Problem und l\u00f6scht Upload<\/h2>\n
![\"Grook-Fail-Best\u00e4tigung\"](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2026\/07\/Grook-Fail01.jpg\")
<\/a><\/p>\nEinstufung durch Norddeutsch<\/h2>\n
\nDB_PASSWORD=CANARY7F3A9-DBPASS<\/p><\/blockquote>\nRisiko KI-Coding-Assistent und der Kontrollverlust<\/h2>\n
\nTorvalds hat bez\u00fcglich KI aber offenkundig eine andere Einstellung. \"Mir ist klar, dass manche Leute KI wirklich nicht m\u00f6gen, aber dies ist ein Bereich, in dem ich als Hauptverantwortlicher Maintainer absolut nicht nachgeben werde\", schrieb er in einer Mail. KI sei lediglich ein Tool wie viele andere, und in diesem Fall sogar ein \"zweifellos n\u00fctzliches\".<\/p>\n