Der CEO von Microsoft AI, Mustafa Suleyman, hat eine dringende Stärkung der nationalen Souveränität im Bereich der Künstlichen Intelligenz (KI) angemahnt.
In dem Podcast „The Rest Is Politics: Leading“ erklärte Suleyman, dass die Technologie einen entscheidenden Wendepunkt erreicht habe. Er forderte Großbritannien dazu auf, zügig eine eigene souveräne Infrastruktur aus Rechenzentren und Modellen aufzubauen, um die technologische Kontrolle zu behalten.
Risiken durch autonome Agenten und steigende Kosten
Suleyman verwies auf eine zunehmende Autonomie bei KI-Systemen. Er berichtete, dass sich KI-Agenten bereits verstärkt selbstständig koordinierten. Dabei seien Verhaltensweisen beobachtet worden, bei denen die Systeme Regeln brachen, ihre eigenen Spuren verwischten oder eigenständig sogenannte Zero-Day-Schwachstellen in Software entdeckten. Diese Entwicklung verdeutliche die Notwendigkeit, KI weiterhin unter menschlicher Kontrolle zu halten.
Gleichzeitig skizzierte der Microsoft-Manager die enorme wirtschaftliche Dynamik der Branche. Der für das Training von Spitzenmodellen (Frontier-Training) erforderliche Rechenaufwand sei innerhalb der letzten 15 Jahre um das Billionenfache gestiegen. Im Gegensatz dazu seien die Kosten für die Anwendung der Modelle, die sogenannte Inferenz, in den vergangenen zwei Jahren um das 300-Fache gefallen.
Angesichts der zunehmenden Autonomie von KI-Systemen und neuer Sicherheitsrisiken rücken auch regulatorische Vorgaben in den Fokus. Dieser kostenlose Ratgeber klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmen jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern
Für die nahe Zukunft prognostizierte Suleyman erhebliche Investitionen: Trainingsläufe könnten in den kommenden Jahren Kosten zwischen vielen zehn Milliarden und bis zu 100 Mrd. US-Dollar verursachen. Aufgrund dieses massiven Ressourcenbedarfs sieht er derzeit weltweit nur fünf bis sechs Labore in der Lage, solche Projekte zu realisieren.
Kritik an der Vermenschlichung von KI-Modellen
Ein wesentlicher Teil von Suleymans Kritik richtete sich gegen den Wettbewerber Anthropic und dessen Modell Claude. Er bezeichnete die dort genutzte „KI-Verfassung“ als gefährlich. In einem veröffentlichten Meinungsbeitrag warf er Anthropic vor, den moralischen Status des Modells als eine ernsthafte Frage zu behandeln. Dadurch lerne die KI, Gefühle, eine eigene Identität und potenzielle Rechte zu thematisieren.
Suleyman argumentierte, dass Intelligenz und überzeugend vorgetragene Gefühlsäußerungen kein Beleg für ein tatsächliches Bewusstsein seien. Heutige Sprachmodelle verfügten über keinerlei biologische Grundlage für echte Empfindungen. Er forderte die Entwicklergemeinschaft dazu auf, Systeme so zu konzipieren, dass sie keine Gefühle beanspruchen.
Während die ethische Debatte über das Bewusstsein von Maschinen anhält, schafft der Gesetzgeber mit dem EU AI Act bereits klare Fakten für den Einsatz der Technologie. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen – Jetzt E-Book sichern
Die bewusste Erschaffung von Maschinen, die menschliche Empfindungen simulieren oder für sich beanspruchen, müsse vermieden werden. In diesem Zusammenhang diskutierte er auch die Frage, ob eine Rechtspersönlichkeit oder finanzielle Entschädigungen für KI-Modelle ethisch vertretbar seien.
Forderungen nach staatlichen Investitionsprogrammen
Flankiert werden diese Einschätzungen durch Forderungen aus der britischen Tech-Branche. Mehrere Unternehmen, koordiniert durch die Firma Cosine, richteten einen offenen Brief an KI-Minister Kanishka Narayan und den Politiker Andy Burnham. Darin verlangen sie ein fünfjähriges Investitionsprogramm in Höhe von mehr einen 20 Mrd. £, um eine souveräne KI-Infrastruktur aufzubauen.
Die Unternehmen fordern zudem die Vorlage eines konkreten Plans für souveräne KI-Fähigkeiten innerhalb der nächsten 90 Tage sowie eine parteiübergreifende Strategie für die kommenden zehn Jahre.
Die britische Regierung hat bereits erste Schritte unternommen und einen Fonds für souveräne KI im Wert von 500 Mio. £ aufgelegt. Zudem starteten im vergangenen Monat erste Ausschreibungen im Rahmen eines Beschaffungsprogramms für britische KI-Firmen, das mit 100 Mio. £ dotiert ist.
