Es gibt Tage, da fällt einem die Kinnlade herunter. Seit über einem Jahr warne ich hier im Blog, dass Unternehmen, die KI einsetzen, darauf achten sollen, dass die Firmeninterna intern bleiben. Nun hat Satya Nadella, Microsofts Chef, in einem längeren Post auf X daran erinnert, dass Unternehmen bei KI ihre "Intellectual Property" (geistiges Eigentum, Geschäftsgeheimnisse und Wissen) schützen müssen. Vorher hat der Palantir CEO, Alex Karp, vor dem Raub des geistigen Eigentums durch KI-Anbieter gewarnt.
Erst Palantir CEO Alex Karp zum Thema
Ich hole mal etwas aus, denn das Thema liegt schon einige Tag bei mir auf dem Tisch. Der Chef von Palantir, Alex Karp, hatte bereits Ende Juli 2026 deutlich gemacht, was er von einigen AI-Riesen wie Anthropic und OpenAI hält. Nachfolgender Tweet enthält eine TV-Interview-Aufzeichnung von CNBC.
Die Zusammenfassung: Innerhalb von zwei Minuten hat Alex Karp die gesamte KI-Branche im CNBC-Beitrag auseinandergenommen. Der Palantir CEO habe Sam Altman und Dario Amodei dabei entlarvt, wie sie jedes Fortune-500-Unternehmen ausnehmen. Im Tweet wird Karp mit folgender Aussage zitiert:
"Every single enterprise in this country, these people are LIVID. They are paying for tokens that create no value. These people are stealing the weights and alpha of my business."
Übersetzt merkt Karp an, dass "die Leute in jedem einzelnen Unternehmen in diesem Land [USA] wütend sind. Sie zahlen für Token, die keinen Wert schaffen. Diese Leute [aus der AI-Industrie] stehlen die Gewichte und den Alpha-Faktor 'meines Geschäfts'." Karp sagte laut obigem Tweet wörtlich, das gesamte Geschäftsmodell der Pionier-KI sei die Ausbeutung geistigen Eigentums, getarnt als Abonnement.
Dann zerlegte Karp auch noch das Preismodell der großen AI-Anbieter mit einer einzigen Frage, die das Silicon Valley bzw. die KI-Branche nach wie vor nicht beantworten will:
"If it was so valuable, let's say I can make you $1 billion tomorrow. Wouldn't I say I'll make you $1 billion and I want 30 percent? Why are they charging for tokens if it's so valuable?"
Die Übersetzung: Wenn [KI] so wertvoll wäre – nehmen wir mal an, ich könnte Ihnen morgen 1 Milliarde Dollar einbringen. Würde ich dann nicht sagen: "Ich bringe Ihnen 1 Milliarde Dollar ein, und dafür will ich 30 Prozent?" Warum verlangen die KI-Anbieter Geld für Tokens, wenn die KI an sich so wertvoll ist, lautet die Frage von Karp?
Wenn die Modelle von OpenAI und Anthropic wirklich die Produktivitätssteigerungen liefern würden, die die KI-Protagonisten behaupten, so Karp, würden sie Anteile am Unternehmen oder einen Anteil am erwirtschafteten Gewinn verlangen. Sie würden den Zugang nicht in Form von Millionen von Token verkaufen.
Die Preisgestaltung für Token ist laut Karp an sich schon das Eingeständnis, dass die angebotenen KI-Produkte in großem Maßstab keinen verlässlichen Wert erzeugen können. Karp argumentiert: "Wenn es das täte, würden sie den Preis entsprechend dem Wert festlegen. Aber sie berechnen den Preis für die Rechenleistung, denn das ist es, was sie tatsächlich verkaufen."
Karp bezeichnete das gesamte Konstrukt als "eine Vermögenssteuer, die den Armen nicht hilft, sondern auch noch bestraft nur." Der Tweet fasst die Quintessenz des Karp-Interviews so zusammen: Amerikanische Unternehmen übertragen den Kern ihrer Geschäftstätigkeit – also die Arbeitsabläufe, die Kundendaten, die Strategiememos und die internen Modelle, die ihre Wettbewerbsfähigkeit ausmachen – direkt in die Trainingspipelines einer Handvoll KI-Anbieter im Silicon Valley. Sobald diese Firmen die KI-Modelle neu trainiert haben, wird der eigene Wettbewerbsvorteil des Kunden zum nächsten Unternehmensprodukt, das an seine Konkurrenten zurück verkauft wird.
Und der Aspekt, über den die KI-Branche nicht möchte, dass irgendjemand nachdenkt, ist laut Karp: Jedes Unternehmen, das seine vertraulichen Dokumente, seine Kundengespräche und seine Finanzmodelle durch ein innovatives Modell laufen lässt, bringt diesem Modell potenziell bei, wie es das Unternehmen ersetzen kann. Der AI-Anbieter kassiert die symbolische (Token) Gebühr und sammelt dabei immer mehr Informationen über das Geschäft dieses Kunden. Das ist der Mechanismus den Alex Kark mit dem Begriff "stehlen" belegt.
Karp sagt, dass jede Führungskraft, die er trifft, hinter verschlossenen Türen wütend über die Situation sei, aber in der Öffentlichkeit schweigt. Niemand möchte der CEO sein, der die KI-Branche öffentlich kritisiert hat und dann feststellen musste, dass sein nächster Konkurrent auf den eigenen, durchgesickerten Arbeitsabläufen aufgebaut wurde, heißt es vom Palantir CEO. Die gesamte KI-Branche basiere auf einer einzigen Prämisse: Die führenden AI-Anbieter schaffen einen "dauerhaften, verteidigungsfähigen Wert", der unbegrenzte Ausgaben für Rechenleistung rechtfertigt. Karp deutet an, dass die Kunden dieser Annahme nicht mehr glauben. Sie glauben, dass sie ohne Gegenleistung zur Kasse gebeten, ohne ihre Zustimmung überwacht und die geistigen Güter ohne Rechtsmittel kopiert werden. Mit diesen Aussagen gerät die gesamte Bewertungsstruktur der KI-Branche ins Wanken.
Satya Nadella haut in die gleiche Kerbe
Zum Wochenende hat der Chef von Microsoft, Satya Nadella, mal wieder einen seiner längeren Tweets The Reverse Information Paradox auf X los gelassen. Dort fragt er, wie Unternehmen im Zeitalter der künstlichen Intelligenz ihr zentrales geistiges Eigentum schützen sollten?
Nadella zitiert den Nobelpreisträger für Wirtschaftswissenschaften Kenneth Arrow , der ein Paradoxon auf dem Informationsmarkt beschrieb. "Sein Wert für den Käufer ist erst bekannt, wenn dieser die Information besitzt, doch dann hat er sie faktisch ohne Kosten erworben." In Arrows "Informationsparadoxon" geht der Verkäufer das Risiko ein, Wissen preiszugeben, um es zu verkaufen.
Laut Nadella schafft KI das umgekehrte Problem, denn der Käufer der KI-Leistungen läuft Gefahr, sein Wissen preiszugeben, nur um das Gekaufte nutzen zu können. Im Grunde bezahlt man zweimal für die gebuchte KI-Leistung: einmal mit Geld (für das Abo und die Tokens) und ein weiteres Mal mit etwas noch Wertvollerem – nämlich dem firmeneigenen Wissen, das man preisgeben muss, damit diese KI-Leistung nutzbar wird.
Je besser die Leistung des Modells sein soll, desto mehr von diesem Wissen muss man ihm zuführen, schreibt Nadella. Mit der Zeit verschiebt sich das Informationsungleichgewicht immer weiter. Der Verkäufer erfährt immer mehr über einen, während man das Gekaufte nutzt, während man selbst nur sehr wenig darüber erfährt, was der Verkäufer im Gegenzug darüber lernt, lautet die nicht neue Argumentation des Microsoft Chefs.
The Register, die das Thema in diesem Beitrag aufgegriffen haben, schreibt, dass Satya Nadella offenbar keine Ahnung von Ironie habe. Er warne Unternehmen, die KI einsetzen, darauf zu achten, dass sie ihre Geschäftsgeheimnisse nicht zusammen mit den riesigen Geldsummen preisgeben, die sie jeden Monat an KI-Firmen zahlen. Dabei hat Microsoft Milliarden in die führenden KI-Firmen gepumpt und will mit dem Verkauf von KI-Leistungen eigentlich groß kassieren. Und nun die Warnung?
Alex Karp warnt in obigem Interview, dass Firmen die Kontrolle über KI zurück gewinnen müssen. Sprich: KI-Modelle müssen im Hause laufen, so dass das Firmenwissen im Hause und unter Kontrolle bleibt. Etwas gänzlich anderes als Cloud-first und KI-Modelle von irgendwelchen Firmen mieten.
Bei Nadella heißt es zum Reverse Information Paradoxon, dass der Einsatz von KI mehr mehr als nur Datenschutz erfordert (also der Schutz, dass Daten unbefugt abgerufen werden). Modelle lernen aus den Eingabeaufforderungen der Mitarbeiter von Firmen, den benutzten Werkzeugen und Agenten. Und vor allem lernen die Modelle aus den vorgenommenen Korrekturen, wenn das Modell falsch liegt. Jede Korrektur wird zu institutionellem Know-how verdichtet. Es ist die Art von Wissen, die ein Konkurrent niemals kaufen könnte, welches aber über den KI-Einsatz "fast unmerklich nach außen dringt", schreibt Nadella.
Dann zitiert er Alex Karp: "Was die technischen Kunden wollen, ist die Kontrolle über ihre Rechenleistung, ihre Modelle, ihren Daten-Stack und ihren Alpha. Sie wollen die Gewissheit haben, dass ihnen die Produktionsmittel gehören und diese nicht an jemand anderen übertragen werden." Das derzeitige System bewirkt genau jene Übertragung, die Karp und andere Unternehmen befürchten.
Nadella wirbt dafür, dass Unternehmen deshalb eine echte "Vertrauensgrenze" brauchen, damit sich ihr Humankapital und ihr Token-Kapital vermehren können. Dort sammeln sich die Daten, Spuren, Auswertungen, angepassten Gewichte und Erinnerungen einer Organisation an und verbessern sich gemeinsam, so Nadella. Und es ist eine feste Grenze, die ohne Zustimmung von nichts überschritten werden darf, nicht einmal von den Datenresten.
Nadella glaubt, Unternehmen werden das Recht einfordern, Ausgaben der LLMs ausschließlich zur Feinabstimmung und/oder zum Training ihrer eigenen Modelle zu nutzen. Das ist fundamental etwas anderes als das, was heute läuft, wo jedes Unternehmen das Recht einfordert, die Daten zum Modell-Training zu verwenden.
Im Zeitalter der Cloud hätten Unternehmen Daten gesammelt. Im Zeitalter der KI sammeln sie Wissen. Es gibt einige Maßnahmen, die jedes Unternehmen ergreifen muss, um sicherzustellen, dass das Wissen geschützt bleibt. Nadella nennt in seinem Post folgends:
- Kontrolle: Erstellen Sie Ihre eigenen privaten Bewertungskriterien, denn diese definieren, was innerhalb der Organisation als "gut" (essentiell oder wichtig) gilt. Behalten Sie außerdem die Kontrolle über das Gedächtnis (sprich Wissen und Erfahrungen), die Abläufe, Rückmeldungen, Entscheidungen und den institutionellen Kontext Ihres Unternehmens sowie über die Fähigkeit, die Ergebnisse von Modellen für Ihre eigenen Aufgaben und Abfragen zu nutzen.
- Fähigkeit: Bauen Sie innerhalb der Tenant-Grenzen Ihre eigenen proprietären Lernumgebungen auf, um Modelle zu trainieren oder zu optimieren, in denen Modelle anhand realer Arbeitsabläufe lernen, ohne das Wissen des Unternehmens preiszugeben.
- Entscheidung: Stellen Sie sicher, dass die Orchestrierungsschicht von jedem einzelnen Modell entkoppelt ist. Fragen Sie sich: Wenn ein einzelnes der von Ihnen verwendeten Modelle wegfällt, sind Sie dann immer noch in der Lage, Ihre Auswertungen mit anderen Modellen durchzuführen und zu optimieren? Bleibt die Expertenkompetenz Ihres Unternehmens erhalten, selbst wenn ein bestimmtes Generalistenmodell wegfällt?
- Kosten: Durch die Entkopplung der Orchestrierungsebene können Sie zudem Kontext, Modelle und Aufgaben auf die effizienteste und kostengünstigste Weise zusammenführen, ohne dabei Abstriche bei der Qualität zu machen.
- Synergieeffekt: Wenn Sie diese vier Aspekte zusammenführen, schaffen Sie Ihren eigenen kontinuierlichen Lernkreislauf (d. h. eine "Hill-Climbing-Maschine"), der es Ihren KI-Investitionen ermöglicht, den Wert Ihres Unternehmens zu steigern.
Nadella fasst seine obigen Punkte so zusammen: "Ein Unternehmen sollte in der Lage sein, ein Modell zu nutzen, ohne das Wissen aufzugeben, das es einzigartig macht. Das ist das umgekehrte Informationsparadoxon, mit dem wir uns auseinandersetzen müssen." Natürlich hat Microsoft (unausgesprochen) entsprechende Pläne und Produkte, um diesen Weg seiner "Kunden" zu unterstützen.
Abschließende Gedanken
Ist natürlich Teufelszeug, und genau das Gegenteil von dem, was jahrelang gepredigt wurde. "Geh in die Cloud, und Du brauchst keine eigene IT mehr, der Anbieter macht. Wir müssen AI nutzen, sonst verlieren wir den Anschluss und die Konkurrenz eilt uns davon. Wir kaufen ein wenig AI, dann wird das schon." Und jetzt soll man wieder selbst denken, eigene IT- und KI-Kompetenz aufbauen und sich dann selbst durchwurschteln? Das kann nur eine Ketzerschrift sein …
The Register hat Recht, Satya Nadella muss jede Spur von Ironie fremd sein. Andererseits haben Alex Karp und Satya Nadella in den letzten 14 Tagen brutal das gesamte Geschäftsmodell, auf dem der AI-Hype basiert, zerlegt und gezeigt, dass da eine riesige Blase mit AI-Rechenzentren und Investitionen im Billionen-Dollar-Umfang (also nicht mehr Milliarden) gefüttert wurde, die eine einzige Fehlentwicklung ist. Die Frage ist, wann das Ganze kippt und die KI-Blase platzt? Und was dann passiert?
Ergänzung: Ist mir im Nachgang eingefallen, es hängt alles mit allem zusammen. Sonntag, den 5. Juli 2026 hatte ich im Blog-Beitrag Digital Independence Day: Exchange/Outlook ersetzen; grommunio 2026.06.1 ist da auf einen "HR1-Talk" hingewiesen. Am 5.7.2026 lief im Programm HR1 der Talk mit Sarah Spiekermann-Hoff. Spiekermann-Hoff ist Professorin für Wirtschaftsinformatik in Wien und befasst sich mit Digitalisierung. Frau Spiekermann hat in diesem Talk die 10 Gebote der Digitalisierung vorgestellt. In dem sehr hörenswerten Talk (ich habe den Podcast, der vom SWR aufgezeichnet wurde, im Blog-Beitrag verlinkt) äußerte die Wissenschaftlerin viele Gedanken, die die beiden oben genannten Herren jetzt plötzlich auch entdecken. Frau Spiekermann arbeitet allerdings seit vielen Jahren an diesem Thema – war halt nur "old school" und Elfenbein-Turm für Unternehmenslenker, die auf den KI-Hype hüpfen wollten.
PS: Derzeit lese ich ein Rezensionsexemplar "KI-Elite: Was die Köpfe hinter der KI-Revolution denken" (ISBN: 978-3-98674-213-3). Dort kommen Sam Altman, Elon Musk & Co. mit Aussagen, teilweise bis zum Jahr 2016 zurück, zu Wort. Es sind teilweise recht interessante Gedanken, die die Leute geäußert haben. Aber in der Gesamtschau erscheint mir bereits jetzt vieles äußerst "unausgegoren" und nur auf den schmalen Tunnel des Startups/Investors ausgerichtet, der seine Agenda verfolgt und vergisst, wie die Welt nebenan, um die Ecke tickt. Wenn ich die Rezension durch bin, schreibe ich vielleicht einige Zeilen hier im Blog dazu.
MVP: 2013 – 2016
Satja labert viel, wenn der Tag lang ist…
Erinnert sich noch jemand an "Secure Future Initiative (SFI)" oder dem grenzwertigen "Sicherheit über alles" Nazi-Claim "Security above all"?
https://blogs.microsoft.com/blog/2024/05/03/prioritizing-security-above-all-else/
Nachfolgend nur ein Quote, klang damals schon wie Hohn.
Ist es heute, 2 Jahre später, umso mehr:
—
We will commit the entirety of our organization to SFI, as we double down on this initiative with an approach grounded in three core principles:
– Secure by Design: Security comes first when designing any product or service.
– Secure by Default: Security protections are enabled and enforced by default, require no extra effort, and are not optional.
– Secure Operations: Security controls and monitoring will continuously be improved to meet current and future threats.
—
Davon sieht man in den heutigen Produkten und Services genau NULL!
An den Taten muss man diese Typen messen, nicht an den Worten!
Das ganze kann man mehrschichtig anschauen.
Ich nehme jetzt mal eine Teilbetrachtung vor.
a) Sind mir meine "wertvollen" Daten bekannt?
b) Habe ich die Daten entsprechend markiert "VSNfD", "Vertraulich", "Intern", "Öffentlich" …
c) Weiß ich, was mit den Daten erlaub ist?
Dann kann ich mir Gedanken machen, wie ich diese Daten schütze.
a) Arbeitsanweisung.
b) Technisch – Zuweisung von Markierungen.
c) Abgrenzung was erlaubt ist und wo.
Dann geht es um die Werkzeuge, welche darf ich wofür nutzen?
a) Öffentliche Webseite, Postings. Nutzung auf irgendeinem Rechner.
b) Interner SharePoint mit normaler Verschlüsselung, ggf. kategorisiert in "Vertraulich", "Intern", "Kunden", "Externe", "Öffentlich". Firmengerät mit entsprechenden Richtlinien an erlaubten Orten.
c) Weiteres Sicherheitstool für sehr vertrauliche Informationen, z.B. ein SharePoint mit Double Key Encryption. Speziell gesicherte Rechner, ggf. nur an bestimmten Orten.
Bei KI sieht das ähnlich aus.
a) "kostenlose" KI – die Schatten-KI, wenn man selbst nichts macht. Daten werden in jedem Fall für Training verwendet.
b) "privat gezahlte" KI – die Schatten-KI, wenn man selbst nichts macht. Datenschutz prüfen.
c) Firmen/Enterprise KI – KI der Wahl für Unternehmen, Datenschutz ist schriftlich und vertraglich fixiert.
Bei KI kann man dann noch unterscheiden, welche Daten man an die KI "ausliefert". Läuft sie in einem Kontext, in dem man seine Daten bereits speichert? z.B. M365, Workspace o.ä. und wird dann in diesem Kontext bearbeitet?
Muss ich meine Daten "ausliefern" um KI nutzen zu können?
Passiert nur Interferrencing oder sind die kompletten Daten verarbeitet worden?
Läuft die Websuche (Web Grounding) in meiner Region, Datensparsam oder nicht?
Erlaube ich überhaupt Websuche (Spoiler: Wenn nein, dann Schatten KI)?
Wie erfolgt das Web Grounding – mit meiner vollen Anfrage oder nur mit Suchbegriffen auf Basis meiner Anfrage?
All das ist die Frage die sich mir hier stellt.
Es ist nur eine Teilbetrachtung, aber wichtig für alle die KI einsetzen.
Sonst geht es euch wie Samsung, wo Mitarbeitende komplette Dokumente in öffentliche consumer KI geladen haben und man sich wunderte, dass diese Daten später auch für andere abrufbar sind.
Oder ihr findet euch im Google-Suchindex, weil ihr eben keinen Datenschutz bei Suchanfragen habt. Gibt es von Google und Microsoft gegen Geld – bei Microsoft Bing mit jeder M365 Lizenz inkl..
Ersetze KI im Text durch M365 und schicke den Text so mal Satya Nadella zurück…
Die Argumentation von Karp mit dem prozentualen Anteil kann ich nicht ansatzweise nachvollziehen, aus 2 Gründen.
1. Wie sollte die Einsparung bzw. Mehrgewinn messbar sein? Kein Unternehmen kann eine bestimmte Summe von Gewinn auf EINE Ursache zurückführen und selbst wenn, dann würden Sie natürlich niemals zugeben, dass es ein Produkt war, welches prozentualen Anteil will.
2. Das würde für ausnahmslos jedes Investitionsgut gelten. Warum verlangt sein Palantir nicht prozentual Geld für die gesparten Stunden die ein Polizist jetzt weniger in Akten suchen muss? Na genau aus Grund 1. Es ist a) nicht messbar und b) würde es niemand zugeben.
Weiterhin: Ob und wie gut eine Ware funktioniert, hängt ja auch sehr stark von der Bedienung ab. Wenn ich AI nur nutze um Bilder zu generieren um das Büro zu tapezieren, dann habe ich es genutzt aber es hat Verlust generiert. Daran hat aber weder mein Produkt schuld, noch kann ich das beeinflussen.
Der "neue heiße Scheiß" produziert eben eine Menge heiße Luft, sprichwörtlich, aber zugeben, dass die wenigsten etwas davon haben, kann man eben nicht. Viele wollen eben "dazu gehören" und kapieren viel zu spät, durch davonlaufende Kosten, dass sie nur finanzierende Schafe für die Techbros sind.
lustig. also ob das bei microsoft nicht genau gleich wäre. Oder merkt er schon, dass KI nichts wird, er abspringen wird und hofft, die Kundschaft so halten zu können?
Ein wirklich bizarrer Tweet vom MS Chef und dem Argument dass die Modelle lernen. Ja eigentlich hat er es nicht verstanden. Die Modelle lernen eben nicht direkt in einer Session von dem User. Das Gespräch wird im Kontext aufgehoben. Diese Kontext wird von Session zu Session geleert. Dieser Kontext fließt nicht in das Modell hinein. Zumindest so weit ich weiß ist das bei aktuellen Modellen so, da diese nicht nach-trainiert werden.
hab jetzt zig Kommentare im Papierkorb gefunden. Möglicherweise schlägt ein Filter zur SPAM-Abwehr zu. Ich kann bei Gelegenheit mal in meiner Filterliste schauen, aber es gibt ein Plugin, was dynamisch interne Filterlisten nutz.
Danke!
Bitte die Nachrichten nicht aus dem Papierkorb wiederherstellen. Die sind jetzt aufgeteilt (weil ich dachte es wäre zu lang) in dem "Thread" sowieso neu verteilt gepostet.
Haarsträubend was hier so berühmte Leute (ich wäre sogar versucht – für Schwachsinn – zu sagen) verzapfen.
Nicht das manche Warnungen nicht stimmen würden. Aber der gesamte Kontext ihrer Positionen und der Orientierung ihres von Ihnen gesteuerten Business lässt mich fragen, ob sie gerade eine Saulus Paulus Transformation durchgemacht haben, oder die Leute wirklich für sooo dämlich halten. Das eine zu tun und das andere auch noch zu sagen.
Alex Karp macht sich scheinbar alles sehr einfach. Plötzlich nimmt er die Sicht des Kunden an und schreibt so etwas von vereinfachten Dingen, dass einem schlecht wird.
Ja es mag Unternehmen geben, die für einen Gewinnanteil ein Service einholen, aber bei wieviel Unternehmen geht dies wirklich durch und wie soll ein OpenAi oder Antrophic, diese Verträge alle individuell abschließen? Auch mit Kleinstunternehmen oder Privatpersonen? Abgesehen davon ist eine Verrechnung per Token zwar schmerzhaft, aber im Angesicht des Strom- und Wasserverbrauchs und der Umweltbelastung, der einzige realistische Weg um die Verbraucher auch an den "KOSTEN" zu beteiligen.
Das andere Thema, die KI lernt aus meinem Wissen. Das mag so stimmen. Aber wenn ich mir ein (Wirtschafts-)Beratungsunternehmen, eine Softwarebude als Berater hinzuziehe, dann kommt auch niemand auf die Idee, diese am Gewinn meines Unternehmens zu beteiligen. Schließlich lernen diese in diesem Projekt, aus meinem Know How und meinen Abläufen, bauen sich intern Libraries und eigenes Know How auf und können dies dann für meine Konkurrenz verwenden. Auch ist nicht gewiss, ob das Projekt erfolgreich sein wird. Meist wird so etwas auch eher auf Stundenbasis verrechnet. Ob es da üblicherweise Erfolgsklauseln gibt, weiß ich nicht genau. Aber Erfahrung habe ich schon gemacht mit externen Unternehmen die Know How aufgebaut haben, nicht fähig waren und aufgrund der ausufernden Kosten, dann das Projekt abgebrochen wurde.
Die Unternehmen haben ihre Daten doch eh schon alle in der Cloud. Was soll also noch gecloud werden?
KI besteht aber zu 100% aus Daten und Daten sind immer aus der Vergangenheit, also Dinge die jemand geschaffen hat. Deshalb kann KI auch keine Lösungen für neue/ungelöste Probleme liefern sondern nur Lösungen die jemand anderes bereits erarbeitet hat.
Das wird schnell zum Problem wenn man z.B. bei der Softwareentwicklung Code geliefert bekommt der von Dritten geschrieben wurde und auf den sie folglich auch einen rechtlichen Anspruch haben. Das ist das alte „Verdorbener Code/Verdorbener Entwickler"-Problem das es schon vor KI gab.
Besonders auffällig ist dieses Problem wenn Buchtexte, die klar vor KI geschrieben wurden, als mit KI erstellt markiert werden. Die KI hat hier nicht ein Plagiat aufgedeckt sondern die Quelle gefunden.
Was gerade passiert ist, das durch „vibe coding" ganz viel Code in Applikationen wandert dessen rechtliche Ansprüche freundlich ausgedrückt „ungeklärt" sind.
[Aluhut] Das ist auch der Grund warum Rust so gepushed wird. Eine neue Sprache die erst mit KI so richtig populär wurde, da kann man übermorgen jegliche Binaries des Diebstahls bezichtigen ohne das man den Quellcode gesehen hat.[/Aluhut]
In ein paar Jahren werden wir eine Phase haben wo die alten Entwickler, gegen fürstliche Entlohnung, ganze Applikationen neu schreiben bzw. von KI-Code säubern werden, damit die Unternehmen wieder in der Lage sind Geschäfte zu machen ohne ständig vor Gericht zu stehen.
Ein aktuelles LLM mit Reasoning kopiert die Daten doch nicht 1:1 aus der Quelle. Das ist auch nicht die Vorgehensweise eines LLMs.
Es gibt auch mathematische Beispiele die zeigen, dass eine aktuelle KI sehr wohl Schlüsse ziehen kann, die so in den Trainingsdaten nicht vorgekommen sind. ZB durch lösen von mathematischen Rätseln, die bisher nicht gelöst werden konnten.
Auch wenn man mit einer LLM programmiert und diverse Vorgaben gibt, sieht man wie flexibel und variable der Code ist, der geliefert wird.
Kein LLM kopiert Daten 1:1 aus der Quelle sondern sucht sich jeweils das zu den bisherigen Worten höchstwahrscheinliche passende Wort anhand der vertorisierten Quelldaten.
Wenn die Quelle einzigartig oder sehr häufig in den Trainingsdaten ist, sieht es dann so aus, als wäre das 1:1 kopiert, ist es aber nicht wirklich, es gab nur keine ähnlichen Alternativen dort.
Spannend wird es dann, wenn es viele inhaltlich unterschiedliche Vectoren mit sehr ähnlicher Nähewahrscheinlichkeit zum vorherigen Wort gibt, oder auch gar keine, dann fängt die Halluzination an.
Mit der sog. "Temperatur" kann man in vielen LLMs die "Kreativität" steuern, das ist nichts anderes als die Festlegung der maximal erlaubten Wahrscheinlichkeitsdifferenz zum vorherigen Wort.
Je niedriger die Temperatur eingestellt wird, desto genauer passend ist das nächste Wort, es kann dann aber ggf. aber auch gar kein passendes geben, je höher die Temperatur, desto mehr durch ähnliche Distanz der Wahrscheinlichkeitsvectoren passende Ergebnisse, die dann aber auch inhaltlich unpassend sein können.
Gute Erklärung!
Ich finde es problematisch, einer Person wie Karp so viel Raum zu geben, ohne seine Aussagen kritisch zu hinterfragen.
Natürlich hat Karp seine eigene Agenda. Wie oben bereits von einigen angemerkt, nutzt er sehr stark vereinfachte Argumente. So z.B. die Gewinnbeteiligung: Wie will er das sauber messen? Dazu müsste man OpenAI & Co extrem tiefe Einblicke in die eigenen Geschäfte geben. Karp ist nicht dumm, er weiß, dass er hier mit unzulässigen Argumenten arbeitet.
Und natürlich ist seine folgende Argumentation absolut schwachsinnig:
"Amerikanische Unternehmen übertragen den Kern ihrer Geschäftstätigkeit – also die Arbeitsabläufe, die Kundendaten, die Strategiememos und die internen Modelle, die ihre Wettbewerbsfähigkeit ausmachen – direkt in die Trainingspipelines einer Handvoll KI-Anbieter im Silicon Valley"
Gibt es eine Firma die noch dreister beim Daten- und Geheimnisklau ist wie Palantir? Deren Tools fischen so tief in vertraulichsten Daten jeglicher Organisation.
Und ganz abgesehen von dem Blödsinn den der Typ verbreitet, muss man einem Typ mit so (rechts-)radikalen und unterdrückerischen Weltherrschaftsphantasien einfach keinen Raum geben.
Ein wirklich sonderbarer Tweet vom MS Chef und dem Argument dass die Modelle lernen. Ja eigentlich hat er es nicht verstanden. Die Modelle lernen eben nicht direkt in einer Session von dem User. Das Gespräch wird im Kontext aufgehoben. Diese Kontext wird von Session zu Session geleert. Dieser Kontext fließt nicht in das Modell hinein. Zumindest so weit ich weiß ist das bei aktuellen Modellen so, da diese nicht nachtrainiert werden.
Wenn jetzt Microsoft, als nicht Modell-Betreiber im Copilot, diesen Kontext z.B. im Teams, aber in einer Datenbank mitschreibt – mit allen Unterhaltungen und Reaktionen. Dieses dann für das Training eines eigenen Modells verwendet, dann ist das ganz etwas anderes. Das aktuelle Modell lernt dies nicht, sondern die Daten aus der Korrespondenz mit dem Modell werden abgezapft und für das Training eines neuen anderen Modells verwendet. So wie MS das als "Zwischenhändler" machen kann, können das natürlich auch die großen KI Betreiber machen. Allerdings kann das auch jeder Mailprovider und jedes Social Media Unternehmen und jedes Telekom und jedes Coud-Unternehmen machen. Wenn sie sich dafür in ihren Datenschutzerklärungen die Erlaubnis holen.
Oder er hat es sehr gut verstanden und es wird selbstverständlich standardmässig alles aus jedem Kontext und jeder Session zum Training verwendet, egal was einzelne zu wissen glauben.
Bei ChatGPT muss man z.B. explizit "Chat history & training > Improve the model for everyone" abschalten…
Ja das mag sein, dass alles für das Training eines neuen Modells verwendet wird. Genauso wie wahrscheinlich auch jeder Kommentar in den diversen MS Foren und das halbe Internet. Allerdings wird es nicht für das Training des selben Modells verwendet – sondern für die nächste Generation.
Ob E-Mail-Inhalte "kostenloser" Anbieter für Trainings verwendet werden ist ja auch umstritten. Nun wird ja behauptet, dass z.B. gmail das nicht macht. Mich würde auch interessieren, ob die Telemetrie von Windows für ein Training verwendet wird….
man muss das diffenziert sehen: niemals würde ich im Unternehmen KI Tools/Agenten einsetzen, außer, man verkauft Brötchen oder Döner.
Für den Zugriff auf Allgemein- und Spezialwissen aber, das durchaus detailreich sein kann, aber bereits zigfach geschrieben und wiederholt gelehrt wurde, kann und wird KI ein Segen sein.
Man sollte nicht nur die negativen Seiten immer wieder aufs Tablet holen.
Schützenswertes Unternehmenswissen oder auch bei hoheitlichen Daten muss der KI ein Riegel vorgeschoben werden.
Für bereits Bekanntes soll und muss es erlaubt sein: Demokratisierung und Zugang für alle.
Den größten Sprung werden ohnehin humanoide und lernfähige Roboter auslösen, das, was man so in Unternehmen oft sieht ist doch wirklich Geld- und Zeitverschwendung (außer Coding für noobs, die aber auch nur gelegentlich etwas benötigen in dieser Hinsicht). Als Noob habe ich da schon einiges gemacht und viel Zeit und damit Geld gespart.
KI wird der Renner, nur nicht am Desktop bei alltäglichen Arbeiten in Standardanwendungen.
Wenn jemand seine Mails weder in einem Stück lesen noch sauber beantworten kann, dann ist vorher schon was schief gelaufen – da hilft auch keine KI
Wenn zwei Räuber "Haltet den Dieb" rufen.
Woran erkennt man den amerikanischen Hacker? An der chinesischen IP-Adresse.
Was Karp angeht: Palantir hat KI im Einsatz, aber es ist nicht die klassische LLM-KI der Marktführer (einschließlich Microsoft). Der sieht schlicht seine Felle davon schwimmen, weil er da nicht mitspielen kann.
Bei Nadella sehe ich das anders als hier dargestellt und kommentiert. Ihr alle habt schlicht die Kernbotschaft nicht verstanden, sie ist aber in Borns Zusammenfassung nicht herausgearbeitet, da muss man schon das Original lesen. Ich kann mit dem Hintergrundwissen, wie ein M365 E Vertrag mit einem größeren Unternehmen usw. aussieht, das aber entsprechend bewerten. Klar, es gibt den Cloud-Act usw., der 3-Buchtsaben-Diensten unter gewissen Vorraussetzungen (!!!) Zugriff auf Daten von Cloud-Kunden bei US-Unternehmen gewähren soll, praktisch wird wird das aber wegen dem individuellen Encryprion-Key des M365-Ex-Kunden für den Tenant aber schon (/hoffentlich) nicht klappen. Es waren in diversen IT-Portalen zwar schon Fälle zu lesen, wo es Angreifern gelang, einzudringen, aber es standen zu wenige Details zu dem jeweiligen Tenant drin, um die Brisanz wirklich bewerten zu können, der gehackte Test-Tenant von MS war wohl nicht verschlüsselt. Der Lizenzschutzvertrag von Microsoft für den M365 Ex Nutzungsvertrag beinhaltet auch sehr strenge Datenschutzangaben. Also, es ist eine zugesischrte Eigenschaft in diesem Vertrag mit Microsoft, dass die Daten, egal in welcher Funktion von M365 einschließlich M365-Copilot-Chat einkippt werden, dass diese den Tenant niemals verlassen. Wäre das nicht so, wäre das Vertragsbruch, und stellt euch vor, ein globales Unternehmen und M365 Kunden würde sowas passieren, die würden Microsoft in Grund und Boden verklagen, ich glaube, solche Nachrichten will Microsoft nicht riskieren. Natürlich gehört da Vertrauen dazu. Ausnahmen sind, ein dazu berechtigter Mitarbeiter erstellt selbst aktiv eine Freigabe an einen externen M365 Account. Im eigenen Onedrive kann das jeder M365 Nutzer tun, sofern es zentral erlaubt wurde, das lässt sich in Intune in mehreren Stufen regeln, bis hin zur kompletten Verweigerung dieser Funktion. Wenn man dies berücksichtigt, ist Nadellas Aussage Werbung für den eigenen M365 Copilot und eine Warnung vor der Nutzung anderer KI-Dienste (einschließlich der freien Copilot-Version). Die Kurzaussage von Nadella ist, wenn ihr schon Internas in KI bearbeiten wollt, dann nutzt M365 Copilot, da sind eure Daten vor Mitbewerbern, der Öffentlichkeit usw. sicher. Auf dieser Basis nutzen alle M365-Kunden diese Dienste, die sind ja auch nicht blöd, schütteln höchstens verwundert den Kopf über die Kommentare hier.
Es gibt möglicherweise einige Leute, die den Kopf über die Form des obigen Kommentars schütteln.
BTW: Ich habe keine Probleme, Kommentare unter dem früheren Nick freizuschalten, wenn diese sachlich sind und nicht in Dutzender-Packungen den Blog hier fluten.
Natürlich wird das klappen. Egal was da irgendwo in irgendwelchen Datenschutztexten steht. Microsoft wird bei entsprechendem Verlangen von US Behörden den Zugang zu allem direkt bereitstellen. Es ist da auch kein Hack nötig. Was soll diese Relativierung bzw. schon fast Vernebelung der Tatsachen.
"Encryprion-Key des M365-Ex-Kunden"
Und was sichert der Key ab?
"wie ein M365 E Vertrag mit einem größeren Unternehmen usw. aussieht"
"eine zugesischrte Eigenschaft in diesem Vertrag"
Papier ist geduldig, wir hatten hier ja auch schon den Fall das MS Produkte den Status auf Datenschutzkonform gesetzt bekommen haben, nur weil irgendwelche Textpassagen in den AGBs angepasst wurden. Was aber null Komma null an der technischen Sicherstellung geändert hat die weiterhin für den Anwender weder zu 100% Transparent nachvollzieh- oder Steuerbar waren.
Wie konnte, vor noch nicht allzu langer Zeit, jemand aus seinen Tenant heraus, aus Versehen mittels eines ChatGPT Befehls, Mails in anderen Tenants löschen?
Das hat doch eindeutig gezeigt das es Tenatübergreifende Funktionen gibt, die anscheinend nicht auf bestimmte Personen beschränkt waren oder das Token oder Credentials im LLM gelandet sind. Was nutzt mir in so einem Konstrukt der individuellen Encryprion-Key wenn es anscheinend Master Keys gibt.