{"id":322558,"date":"2026-03-14T00:05:51","date_gmt":"2026-03-13T23:05:51","guid":{"rendered":"https:\/\/borncity.com\/blog\/?p=322558"},"modified":"2026-03-13T12:56:04","modified_gmt":"2026-03-13T11:56:04","slug":"nachlese-mckinsey-ki-plattform-lilli-von-ki-geknackt-die-huette-ist-am-brennen","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2026\/03\/14\/nachlese-mckinsey-ki-plattform-lilli-von-ki-geknackt-die-huette-ist-am-brennen\/","title":{"rendered":"Nachlese: McKinsey KI-Plattform Lilli von KI geknackt, die H\u00fctte ist am Brennen"},"content":{"rendered":"<p><img decoding=\"async\" style=\"float: left; margin: 0px 10px 0px 0px; display: inline;\" title=\"Stop - Pixabay\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/06\/Stop01.jpg\" alt=\"Stop - Pixabay\" align=\"left\" \/>Ich greife nochmals den Vorfall als Wochenend-Thema auf, den ich die Woche in einem Beitrag am Rande mit erw\u00e4hnt hatte. Unternehmensberater McKinsey hat seit ca. drei Jahren eine interne AI-Plattform f\u00fcr seine Berater aufgesetzt. Die sind \"f\u00fchrend\" dabei, wenn es darum geht, Beh\u00f6rden und Unternehmen den \"sicheren\" Einsatz von KI gegen Geld und gute Worte zu erkl\u00e4ren. Dann hat jemand einen KI-Agenten losgelassen, und der hat ohne Vorwissen binnen 2 Stunden die McKinsey-AI-Plattform Lilli gehackt &#8230;<\/p>\n<p><!--more--><\/p>\n<h2>McKinsey AI-Plattform Lilli<\/h2>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/vg04.met.vgwort.de\/na\/21e10cd12b334c1881451947b29db066\" alt=\"\" width=\"1\" height=\"1\" \/>Ich musste ziemlich suchen, bis ich auf <a href=\"https:\/\/fox-romeo.de\/blog\/strategieberatung-mit-chatgpt-wie-ki-zum-mckinsey-klon-wird\/\" target=\"_blank\" rel=\"noopener\">diesen Artikel<\/a> aus August 2025 stie\u00df, der sich u.a. mit Lilli aus \"Vor-Incident-Sicht\" befasst. Dort findet sich die Aussage, dass das Beratungsunternehmen\u00a0McKinsey seit 2023 eine interne KI namens Lilli\" verwendet. \u00dcber die KI-Plattform l\u00e4sst sich auf \u00fcber 100.000 firmeninterne Dokumente zugreifen.<\/p>\n<p>Die Aussage lautete, dass die AI-Plattform mittlerweile von 75 % der Belegschaft regelm\u00e4\u00dfig genutzt wird. Diese KI spare Zeit bei Recherche und Strukturierung \u2013 und zeige, wie Beratung k\u00fcnftig aussieht: als Kombination aus Erfahrung, Methode und Maschine.<\/p>\n<p>Die McKinsey-Berater pr\u00e4sentieren sich dabei als Speerspitze, wenn es um den Einsatz von KI in Beh\u00f6rden und Unternehmen geht. Wobei es von den Kunden zwei Fraktionen gibt: Die Kunden, deren Management annimmt, dass McKinsey-Berater wissen, wie sich KI sicher im Unternehmen oder in der Beh\u00f6rde einsetzen l\u00e4sst. Und die Fraktion, dessen Management auf der Position beharrt: \"Ich will etwas durchsetzen, und brauche jetzt einen externen Berater, der das testiert. Wenn es schief geht, kann ich dem Berater die Schuld geben.\" Die Meinung der von solchen Projekten Betroffen, die sich oft auf \"die Berater haben keine Ahnung, pr\u00e4sentieren einige Folien und sind schnell wieder weg\" zur\u00fcckziehen, ber\u00fccksichtige ich mal nicht weiter.<\/p>\n<h2>Der \"KI hackt KI\"-Vorfall<\/h2>\n<p>Microsoft hatte die Tage seinen neuen Microsoft 365 E7-Plan f\u00fcr Unternehmen, die auf AI setzen, vorgestellt. Microsoft will ab Mai 2026 f\u00fcr 99 US-Dollar pro Nutzer und Monat alles, was rund um Microsoft 365 und AI kriecht, lizenzieren. Ich hatte das zum 10. M\u00e4rz 2026 im Blog-Beitrag <a href=\"https:\/\/borncity.com\/blog\/2026\/03\/10\/microsoft-365-e7-the-frontier-suite-ab-1-mai-2026-fuer-99-us-pro-nutzer\/\">Microsoft 365 E7 (The Frontier Suite) ab 1. Mai 2026 f\u00fcr 99 US-$ pro Nutzer<\/a> thematisiert, und am Rande auf die Risiken der \"AI-Begl\u00fcckung\" hingewiesen.<\/p>\n<p>Dazu hatte ich u.a. den KI-Vorfall bei McKinsey benutzt. Sicherheitsforscher haben sich die interne KI-Plattform Lilli der Unternehmensberatung von McKinsey vorgenommen.\u00a0 Dazu haben die Sicherheitsforscher ihren eigenen \"Offensiv-Agenten\" auf die McKinsey AI-Plattform angesetzt.<\/p>\n<ul>\n<li>Der Agent hatte keine Zugangsdaten f\u00fcr die Plattform und keine Insiderkenntnisse \u00fcber die Implementierung von Lili.<\/li>\n<li>Es gab auch kein menschliches Eingreifen der Sicherheitsforscher, dem KI-Bot war lediglich der \u00f6ffentliche Domainname der McKinsey KI-Plattform bekannt.<\/li>\n<\/ul>\n<p>Der AI-Bot begann dann die KI-Plattform Lili zu analysieren und f\u00fchrte dabei auch einen Scan \u00fcber ca. 150 API-Schnittstellen durch. Dabei stellte der KI-Bot fest, dass 20 dieser API-Schnittstellen ungesichert waren und Zugriffe auf die Plattform ohne vorherige Authentifizierung erm\u00f6glichten.<\/p>\n<p>Binnen zwei Stunden hatte sich der KI-Agent \u00fcber SQL Injection einen vollst\u00e4ndigen Lese- und Schreibzugriff auf die gesamte Produktionsdatenbank verschafft. Das Ganze war mir kurz vor dem Verfassen des obigen Beitrags untergekommen, weil die Sicherheitsforscher von Codewall den Vorgang im Beitrag <a href=\"https:\/\/codewall.ai\/blog\/how-we-hacked-mckinseys-ai-platform\" target=\"_blank\" rel=\"noopener\">How We Hacked McKinsey's AI Platform<\/a> offen gelegt hatten.<\/p>\n<h2>Vertrauen in McKinsey-AI pulverisiert, machen\u00a0wir\u00a0weiter?<\/h2>\n<p>An der Stelle stellt sich die Frage nach den Folgen. Im Grunde m\u00fcsste das Vertrauen von Auftraggebern in McKinsey in Bezug auf AI und Sicherheit oder die Frage \"die wissen, wie es sicher geht\" geradezu pulverisiert worden sein. Folgender <a href=\"https:\/\/xcancel.com\/m_t_mask\/status\/2032033664918262142\" target=\"_blank\" rel=\"noopener\">Tweet<\/a> greift das nochmals auf.<\/p>\n<p><a href=\"https:\/\/xcancel.com\/m_t_mask\/status\/2032033664918262142\" target=\"_blank\" rel=\"noopener\"><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-322562\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2026\/03\/McKinseyHack.jpg\" alt=\"McKinsey Hack\" width=\"590\" height=\"666\" srcset=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2026\/03\/McKinseyHack.jpg 590w, https:\/\/borncity.com\/blog\/wp-content\/uploads\/2026\/03\/McKinseyHack-266x300.jpg 266w\" sizes=\"auto, (max-width: 590px) 100vw, 590px\" \/><\/a><\/p>\n<p>Im aktuellen Fall waren es Sicherheitsforscher, die nur ihren Job gemacht und die M\u00f6glichkeiten eines Bots ausgelotet haben. Cyberangreifer haben die gleichen M\u00f6glichkeiten. Und wer sagt denn, dass diese den Ansatz nicht l\u00e4ngst genutzt haben? Ich gehe davon aus, dass die McKinsey AI-Plattform Lilli sehr viele spezielle Dokumente \u00fcber Kunden enth\u00e4lt. In obigem Tweet hei\u00dft es, dass McKinsey intern nicht das umsetzt, was seine Berater bei Kunden predigen.<\/p>\n<p>Und dann stellt man die Frage, was wohl w\u00e4re, wenn Beh\u00f6rden, Regierungen oder Gro\u00dfkonzerne mit einer Plattform arbeiten, die so leicht angreifbar ist? Ich formuliere es mal so: Meinem Gef\u00fchl nach ist es gelebte Praxis, dass die gro\u00dfen Lenker in Unternehmen und Beh\u00f6rden genau diesen Mist zelebrieren. Die Vorf\u00e4lle, die ich hier im Blog behandele, sind ja nur die Spitze des Eisberges &#8211; und ich gewinne den Eindruck, dass wir so langsam die \"Schmelze\" des Ganzen erleben werden.<\/p>\n<p>Die Cyberangriffe der letzten Wochen und Monate lassen erahnen, wo die Reise hin geht. Und dabei ist die (Schatten)-AI noch nicht in alle Bereiche von Unternehmen oder Organisationen vorgedrungen. Mir stellt sich die Frage: Ist der obige Vorfall nun Weckruf, oder macht man weiter, als w\u00e4re nichts geschehen? Ich glaube zu erkennen, dass es keine Konsequenzen hat.\u00a0Man arbeitet flei\u00dfig weiter, als w\u00e4re nichts passiert &#8211; und will auch\u00a0 jegliche Regulierung in diesem Bereich m\u00f6glichst schleifen, da es die AI-Journey beeintr\u00e4chtigen k\u00f6nnte. Oder wie seht ihr das?<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ich greife nochmals den Vorfall als Wochenend-Thema auf, den ich die Woche in einem Beitrag am Rande mit erw\u00e4hnt hatte. Unternehmensberater McKinsey hat seit ca. drei Jahren eine interne AI-Plattform f\u00fcr seine Berater aufgesetzt. Die sind \"f\u00fchrend\" dabei, wenn es &hellip; <a href=\"https:\/\/borncity.com\/blog\/2026\/03\/14\/nachlese-mckinsey-ki-plattform-lilli-von-ki-geknackt-die-huette-ist-am-brennen\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426,7459],"tags":[8382,15561,4328,3836],"class_list":["post-322558","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","category-software","tag-ai","tag-mckinsey","tag-sicherheit","tag-software"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/322558","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=322558"}],"version-history":[{"count":7,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/322558\/revisions"}],"predecessor-version":[{"id":322567,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/322558\/revisions\/322567"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=322558"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=322558"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=322558"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}