Neues zu Sam Altman und OpenAI

Kleiner Nachtrag zum "Beben" was die Tage die IT-Welt erschüttert hat. Der Gründer und CEO von OpenAI, Sam Altman, wurde ja vor einer Woche von jetzt auf gleich gefeuert. Dann hieß es, er kommt zurück, er wurde bei Microsoft angeheuert und nun er ist bei OpenAI wieder eingestellt – die Änderungen kamen im Minutentakt. Ich habe das Thema daher "mal abhängen lassen", um sicher zu sein, dass nicht zwei Minuten später wieder eine neue Nachricht durch dieses Internet schießt. Heute ist es Zeit, für einen kleinen Überblick, was in dieser Causa so "bewegt".

Was ist passiert, warum interessiert das?

Falls jemand nicht so ganz in dieser kleinteiligen Geschichte drin sein sollte, ein paar Informationshäppchen zusammen gefegt. Es geht um eine Art Startup, welches aktuell mit 83 Milliarden US-Dollar bewertet wird, aber eigentlich ein non-profit-Unternehmen sein möchte. Und es geht um Microsoft, die mit einem Winkelzug einen argen Hype entfesselt haben.

Die (un-)bekannte Firma OpenAI

In den USA gibt es eine Firma mit dem Namen OpenAI, die sich seit Ende 2015 mit der Erforschung von künstlicher Intelligenz (KI, englisch Artificial Intelligence, AI) beschäftigt. Das Unternehmen wurde vorerst als Non-Profit geführt und verfolgte ursprünglich das Ziel, künstliche Intelligenz (LLMs) auf Open-Source-Basis zu entwickeln. 2019 wurde die gewinnorientierte Tochtergesellschaft OpenAI Global, LLC gegründet.

OpenAI ist vor allem bekannt für Softwareprodukte wie ChatGPT oder DALL-E aus dem Bereich der Generativen Künstlichen Intelligenz – kurz GenAI. Das erklärte Fernziel von OpenAI ist die Entwicklung einer künstlichen allgemeinen Intelligenz (Artificial General Intelligence (AGI)), einer fortgeschrittenen Form der KI, die in der Lage sein soll, intellektuelle Aufgaben nicht nur auf einem menschenähnlichen, sondern potenziell darüber hinaus gehenden Niveau zu bewältigen.

Zu den Gründern von OpenAI gehören zwei Köpfe: Sam Altman und Greg Brockman. Speziell Sam Altman ist als Gesicht von OpenAI omnipräsent in den Medien. Es geht einerseits darum, OpenAI in der Öffentlichkeit zu vertreten, etwas vor den Gefahren der AI-Modelle zu warnen, aber auch zu verhindern, dass dieser Bereich allzu stark reguliert wird. Und es geht darum, viel Geld für OpenAI einzuwerben, denn das Trainieren der LLMs kosten richtig Rechenleistung und damit Geld.

Microsoft kommt mit Geld ins Spiel

Die Geschichte von OpenAI hätte noch Jahre vor sich hin dümpeln können, wenn Microsoft nicht deren LLMs entdeckt und als potentiell hilfreich für eigene Produkte eingestuft hätte. Am Anfang war eine Finanzspritze von mehreren Milliarden US-Dollar, mit der Microsoft sich den (exklusiven) Zugriff auf ChatGPT sowie DALL-E und das jeweils zugrunde liegende LLM gesichert hat.

Seit Frühjahr 2023 hört man von Microsoft ja, dass die die LLMs (ChatGPT und DALL-E) in eigenen Produkten integrieren. DALL-E unterstützt die Bildbearbeitung in diverser Grafiksoftware, und ChatGPT ging in Bing-Chat ein. Im Artikel Ignite 2023: Microsofts Zukunftsvision: Copilot in allen Produkten hatte ich kürzlich die Pläne Microsofts umrissen, diese Technologie unter dem Begriff "Copilot" allumfassend in Produkte von Bing über Office 365 bis hin zu Windows einzusetzen.

KI-Fieber und Diskussionen

Seit den ersten Ankündigungen Microsofts und Freigabe von ChatGPT in Bing ist "die Welt, oder die, die sich dafür hält, im KI-Fieber". Wobei die Diskussion zwischen "wird alles verändern" bis "KI ist das Ende der Menschheit" wogt. Die Chancen der AI-Modelle werden in meinen Augen oft naiv überbewertet, die Risiken eines Einsatzes oft ausgeblendet.

In Fachkreisen gibt es durchaus ernsthafte Warnungen, dass die AI-Entwicklung zu dramatischen Verwerfungen in der Gesellschaft führen können (wer kann noch Fake-Texte, Fake-Reden, Fake-Bilder und Fake-Videos, die per AI generiert wurden, von echten Informationen, die von Menschen stammen, unterscheiden?). Auch ist bekannt, dass Cyberkriminelle sich die Fähigkeiten von AI-Modellen zunutze machen, um ihre Schadsoftware zu entwickeln.

Und es gibt noch einige unschöne Punkte: So basieren die Fähigkeiten heutiger Large Language Modelle (LLMs) drauf, riesige Datenmengen auszuwerten und für ihre Aussagen zu verwenden. Das führt zu zwei gravierenden Problemen: Die Datenmengen konnten zu großen Teilen nur benutzt werden, weil Copyright auf Texte oder Werke bei der Verwendung der Daten ignoriert werden. Gleiches gibt für Datenbanken mit Gesichtern, die zur Personenerkennung genutzt werden. Entsprechend gibt es einige juristische Verfahren in den USA, die diesen Gesichtspunkt klären sollen.

Das zweite Problem: Die bisherigen LLMs arbeiten mit Wahrscheinlichkeiten, um passende Texte oder Informationen aus der Datenbasis über ein neuronales Netzwerk zu einer Aussage zusammen zu fügen. Wie das Ganze genau funktioniert, wissen selbst die Schöpfer nicht genau. Aber die Ergebnisse sehen oft sehr plausibel aus, können aber einer Faktenprüfung (oft) nicht stand halten. Es gilt der alte Ingenieurspruch "wer Mist misst, misst Mist" – sprich: Wenn die Datenbasis Fakten nicht her gibt, kann das LLM diese auch nicht liefern. Der Begriff des "Konfabulierens" hat sich eingebürgert – die AI-Modelle liefern mit Inbrunst "zusammen fabulierte Inhalte", die eigentlich von Menschen überprüft und verworfen werden müssten.

Sam Altman und "das Gänseblümchen"

Zu obigen Sachverhalten hatte ich ja diverse Artikel – auch mit eigenen Gedanken – hier im Blog. "Feuer unterm Kessel" kam in die ganze Geschichte, als der OpenAI CEO Sam Altman am letzten Freitag, den 17. Nov. 2023, Knall auf Fall gefeuert wurde. Ich hatte im Beitrag Schock: Sam Altman bei OpenAI gefeuert, und Greg Brockman kündigt auch berichtet und auch thematisiert, dass der Co-Gründer Greg Brockmann seinen Posten auch zur Verfügung stellte.

Das Ganze sendete "Schockwellen" durch die Branche und löste ein regelrechtes Erdbeben aus. Speziell Microsofts Chef Satya Nadella muss wohl ziemlich erbost gewesen sein, weil er quasi eine Minute vor der Öffentlichkeit von diesem Coup des OpenAI Board (Verwaltungsrats) erfuhr. Hatte zwei Implikationen: Microsoft wurde extrem kalt erwischt, Milliarden Investitionen wackelten, auch wenn das Unternehmen schnell versicherte, dass man langfristige Abkommen mit OpenAI habe, die man weiter verfolge.

Spekulationen über Abgang

Und im Internet schossen die Spekulationen ins Kraut, was wohl die Altman-Kündigung ausgelöst haben könnte. Das reicht von Zerwürfnissen mit dem Verwaltungsrat über den Kurs des Unternehmens bis hin zu persönlichen Verfehlungen des Ex-CEO. Bis Stand heute ist mir nicht so ganz klar, was wirklich die Beweggründe waren – im persönlichen Umfeld von Altman scheinen die Gründe nicht zu liegen.

The Information, die gewöhnlich über Interna ganz gut informiert sind, schreibt hier, dass OpenAI einen technischen Fortschritt bei den LLMs gemacht habe, die es erlauben, mathematische Problemstellungen anzugehen und Lösungen zu finden (das können bisherige Modelle nicht). Der technische Durchbruch, der von OpenAI-Chefwissenschaftler Ilya Sutskever angeführt wurde, löste bei einigen OpenAI-Mitarbeitern die Besorgnis aus, dass das Unternehmen nicht über angemessene Sicherheitsvorkehrungen verfügte, um solche fortschrittlichen KI-Modelle zu kommerzialisieren, wird bei The Information einen Quelle zitiert.

Diese Information wurde bei OpenAI wohl einen Tag, bevor Sam Altman entlassen wurde, breiter bekannt. Es kann darüber spekuliert werden, ob das der Grund dafür war, dass das "Board" Altman vorwarf, "nicht immer aufrichtig gegenüber den Mitgliedern des Verwaltungsrats gewesen zu sein und dass das Board das Vertrauen in Altman verloren habe".

Er kommt zurück, er kommt nicht, er kommt zurück

Die Gründe für die Entlassung Altmans könnten im Dunkel bleiben. Aber dessen Abgang und die Kündigung von Greg Brockman lösten Schockwellen aus. Das führte so weit, dass die OpenAI-Belegschaft in einem offenen Brief den Rücktritt des "Boards" und die Rückkehr von Altman fordert und mit Kündigung drohte.

Das führte zum Gänseblümchen-Effekt "er kommt zurück, er kommt doch nicht, er macht was neues, er kommt zurück". Die "Tinte unter dem Artikel" Schock: Sam Altman bei OpenAI gefeuert, und Greg Brockman kündigt auch war noch nicht trocken, da berichteten US-Medien, dass der OpenAI-Verwaltungsrat Verhandlungen mit Sam Altman führe, ihn wieder in das Unternehmen zurückzuholen. Der Druck von Investoren, speziell Microsoft, muss wohl riesig gewesen sein. Meldungen der Art "wir sind kurz vor einer Einigung mit Altman über eine Rückkehr", "nein, er zaudert noch" jagten im Minutentakt durch das Internet.

Dann schlug die Nachricht über eine Coup von Microsofts CEO, Satya Nadella, wie eine Bombe ein, dass er schlicht Altman, Brockman und weitere Experten von OpenAI für eine eigene AI-Gruppen eingestellt habe (siehe meine Beitrag Microsoft heuert Altman, Brockman und weitere OpenAI-Experten für eigen AI-Gruppe an). War also nichts mit den angeblichen Plänen Altmans, eine neue Firma zu gründen. Mir ging dann "ob Altman bei Microsoft glücklich wird" durch den Kopf, aber weiß weiß denn ein kleiner Blogger von so was. Für OpenAI war das Ganze eine Katastrophe, vor allem, weil hunderte Mitarbeiter mit Kündigung und Wechsel zu Microsoft drohten.

Und dann ging die Woche die Meldung über den Ticker, dass Sam Altman doch zu OpenAI zurückkehre. Axíos formulierte es so, dass man einen grundsätzlichen Deal mit Altman über die Rückkehr erreicht habe. Das war der Punkt, wo ich beschlossen habe, nicht sofort über die Entwicklung zu berichten. Denn meine Beiträge musste ich binnen weniger Stunden immer wieder aktualisieren, weil – na ja, das Gänseblümchen noch eine Menge Blätter hatte.

Und die Moral von der Geschichte?

So langsam scheint nun doch so etwas wie "Ruhe" in die Angelegenheit einzukehren. Die Mitarbeiter von OpenAI können sich freuen, scheint sich der "geschätzte Unternehmenswert" wieder zu stabilisieren und Aktienoptionen behalten ggf. ihren Wert. Zudem sollen die Ex-Chefs Altman und Brockman zurückkehren, Microsoft kooperiert weiterhin und alles wird gut?

Lehnt man sich aber mal zurück und denkt etwas nach, ist eigentlich nichts gut. Beim OpenAI-Verwaltungsrat wird man jetzt die Scherben auf dem Hof zusammen kehren und zerbrochenes Porzellan reparieren oder entsorgen müssen. Die Diskussionen über Fluch und Segen der AI wird weiter gehen und könnte an Schärfe zunehmen – speziell, wenn sich die Berichte über Fortschritte bei OpenAI bestätigen.

Was aber mehr zählt – ist mir beim Lesen eines kurzen Kommentars diese Woche bewusst geworden: Die Branche ist arg kaputt, weil sie sich nur noch um Personenkult dreht und zu massiven Übertreibungen neigt. Im Kommentar wurde Steve Jobs als Chef von Apple angeführt, der auch für Aufs und Abs stand. Und es wurde Elon Musk genannt, der bei SpaceX, Tesla und bei Twitter/X die Geschicke maßgeblich beeinflusst und ebenfalls für Aufs und Abs steht.

Und nun kommt Sam Altman von OpenAI dazu. Der wurde durch seine Omnipräsenz zum Synonym für OpenAI, und mit dem Rauswurf wurde das Unternehmen in der öffentlichen Sicht bzw. aus Branchensicht gerade zu pulverisiert. Obwohl die Leitung durch zahllose AI-Forscher und Mitarbeiter erbracht wird. Wenn es aber an "einem Kopf hängt", ist das eine ungute Entwicklung und eigentlich ein Zeichen für einen Hype, der von "Erwartungen und Hoffnungen", denn von "Erfahrungen und Gewissheiten" gespeist wird. Das Ding könnte also gut zusammenfallen, sobald sich das Interesse auf den nächsten heißen Scheiß richtet.

Ähnliche Artikel:
Schock: Sam Altman bei OpenAI gefeuert, und Greg Brockman kündigt auch
Microsoft heuert Altman, Brockman und weitere OpenAI-Experten für eigen AI-Gruppe an
Ignite 2023: Microsofts Zukunftsvision: Copilot in allen Produkten