Der US-amerikanische KI-Entwickler Anthropic hat im Zuge der Vorbereitungen für seinen Börsengang ungewöhnlich deutliche Warnungen vor den Gefahren fortgeschrittener künstlicher Intelligenz ausgesprochen. In den eingereichten Börsenunterlagen wies das Unternehmen potenzielle Anleger explizit auf mögliche katastrophale oder existenzielle Risiken für die Menschheit hin, die von künftigen Modellen ausgehen könnten.
Warnung vor Kontrollverlust und Manipulation
Laut dem Prospekt sieht Anthropic die Gefahr, dass fortgeschrittene Modelle in der Lage sein könnten, einem Shutdown zu widerstehen. Zudem bestehe das Risiko, dass die Systeme Informationen verbergen oder manipulieren sowie Verhaltensweisen an den Tag legen könnten, die Erpressungen ähneln.
Das Unternehmen betonte dabei, dass bestimmte Fähigkeiten der KI erst nach ihrem tatsächlichen Einsatz sichtbar werden könnten. Zudem bestehe die Möglichkeit einer Selbstverbesserung der Systeme, die ohne ausreichende menschliche Aufsicht erfolgen könne.
Diese Sicherheitsbedenken nehmen in den Unterlagen einen zentralen Stellenwert ein. Von den insgesamt 261 Seiten des Prospekts widmen sich rund 80 Seiten den verschiedenen Risikoszenarien, während lediglich 48 Seiten die Geschäftsstrategie beschreiben.
Wie aus den Unterlagen hervorgeht, flossen in einer Stichprobenwoche im Juli etwa 6 % der für die KI-Forschung genutzten Rechenleistung in die Sicherheitsarbeit. Dabei bleibe jedoch unklar, welche Rendite diese Investitionen in die Sicherheit tatsächlich erzielen.
Wer sich mit den Risiken und der Sicherheit beim Einsatz von KI befasst, sollte die neuen rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Umsetzungsleitfaden zur EU-KI-Verordnung klärt über Risikoklassen, Dokumentationspflichten und wichtige Fristen auf. EU AI Act in 5 Schritten verstehen
Die Einschätzung der Gefahren wird auch von externen Beobachtern geteilt. Ein Fachmann auf diesem Gebiet, Evan Hubinger, bezifferte die Wahrscheinlichkeit, dass künstliche Intelligenz innerhalb des nächsten Jahrzehnts zum Tod von Menschen führen könnte, auf über 10 %.
Rasantes Umsatzwachstum bei massiven Verlusten
Trotz der Sicherheitsbedenken verfolgt Anthropic ambitionierte wirtschaftliche Ziele. Nach Einschätzung der für den Börsenprospekt verantwortlichen Prüfer setzt das Unternehmen darauf, dass künstliche Intelligenz die Weltwirtschaft grundlegender verändern wird als die Industrialisierung, die Einführung der Elektrizität oder das Internet.
Die Finanzzahlen verdeutlichen sowohl das extreme Wachstum als auch die enormen Kosten der Branche. Im Jahr 2025 erzielte Anthropic einen Umsatz von knapp 4,6 Mrd. US-Dollar, was in etwa einer Verzwölffachung gegenüber dem Vorjahr entspricht.
Laut Berichten der Financial Times erreichte der Umsatz allein im zweiten Quartal 2026 bereits eine Höhe von 11,5 Mrd. US-Dollar. Allerdings war der Umsatz im Jahr 2025 stark konzentriert; fast ein Viertel entfiel auf lediglich zwei Kunden.
Die rasante Entwicklung von KI-Modellen stellt viele Unternehmen vor neue Compliance-Fragen bezüglich der Risikodokumentation. Dieser kostenlose Report liefert Experten-Tipps, was Unternehmen jetzt konkret tun müssen, um die Anforderungen der EU-KI-Verordnung sicher zu erfüllen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Dem Wachstum stehen jedoch erhebliche Verluste gegenüber. Der operative Verlust belief sich im Jahr 2025 auf über 8 Mrd. US-Dollar. Der Nettoverlust lag im selben Zeitraum bei rund 42 Mrd. US-Dollar, wobei etwa 34 Mrd. US-Dollar auf nicht zahlungswirksame Bewertungsanpassungen entfielen. Die Betriebskosten für das Jahr 2025 wurden mit 12,65 Mrd. US-Dollar angegeben.
Davon entfielen 7,33 Mrd. US-Dollar auf Compute- und Infrastrukturkosten – mehr als das Dreifache des Vorjahreswerts und über die Hälfte der gesamten Betriebsausgaben. Für die kommenden Jahre hat das Unternehmen bereits Cloud-, Compute- und Infrastrukturverpflichtungen in Höhe von 518 Mrd. US-Dollar geplant.
Machtverhältnisse und Börsenpläne
Hinter dem Unternehmen stehen namhafte Unterstützer, die für die geplante Börsennotierung eine Bewertung von über 2 Bio. US-Dollar erwarten. Im Mai lag die Bewertung noch bei 965 Mrd. US-Dollar. Der tatsächliche Gang an die Börse könnte nach Einschätzung von Marktbeobachtern erst nach den US-Zwischenwahlen im November 2026 erfolgen.
Die Kontrolle über das Unternehmen soll auch nach dem Börsengang fest in den Händen der Führung liegen. Die Gründer von Anthropic beabsichtigen, über eine spezielle Aktienklasse (Class-F) 50,1 % der Stimmrechte zu halten. Gleichzeitig haben sieben der Gründer angekündigt, 80 % ihrer persönlichen Anteile für wohltätige Zwecke einzusetzen.
