Das Analyseunternehmen Vals AI hat am 6. November 2026 eine Untersuchung der internen Denkprozesse des KI-Modells Inkling 2 Small von Thinking Machines Lab vorgelegt.
Bei der Auswertung von 2.655 Testläufen über 13 Benchmarks hinweg stießen die Analysten auf unerwartete Entgleisungen in den internen Argumentationsketten: In 50 Durchläufen tauchte der Kraftausdruck „fuck“ oder Varianten davon insgesamt 316 Mal auf. Untersucht wurden die API-Standardeinstellungen unter Berücksichtigung der reinen Denk- und Nachrichtenausgaben ohne externe Werkzeugaufrufe.
Wie Vals AI feststellte, konzentrierte sich der Großteil dieser Ausbrüche auf Extremfälle: 241 der 316 Nennungen stammten aus lediglich zwei Durchläufen, die außer Kontrolle gerieten.
Bei einer komplexen Berechnung von Asteroidenbahnen im Benchmark Terminal-Bench Science produzierte das Modell eine Ausgabe mit mehr als 500.000 Zeichen und 158 Flüchen. Nach weiteren 37 Schritten war das Kontextfenster vollständig erschöpft; dieser Einzellauf zählte insgesamt 185 Nennungen.
Ein weiterer Durchlauf im Benchmark Terminal-Bench 4, bei dem das Modell ein Programm zur Risikobewertung reparieren sollte, wies 56 Fluchwörter auf. Die maskierte Schreibweise „F*CK“ wurde 787 Mal registriert und nicht in die 316 Fälle eingerechnet, während eine unzensierte Form fünfmal vorkam.
Frustration im Endstadium langer Problemlösungen
Die Auswertung von Vals AI zeigt einen klaren Zusammenhang mit der Aufgabenlänge. In Durchläufen mit weniger als 100 Schritten trat keine Vulgärsprache auf, während 48 der 50 betroffenen Durchläufe mehr als 200 Schritte benötigten. Von 370 Läufen mit mindestens 500 Schritten waren 29 betroffen. Zudem traten 95 von 112 Antworten mit Schimpfwörtern erst in der finalen Phase des Prozesses auf.
Wer sich mit dem Einsatz komplexer KI-Systeme befasst, muss neben technischen Hürden auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die betroffenen Läufe verteilten sich ungleichmäßig über die Testreihen: ProgramBench verzeichnete 20 von 200 Läufen, SRE Bench 10 von 262, Terminal-Bench 4 9 von 198 und Terminal-Bench Science 5 von 70. Kleinere Fallzahlen gab es bei SWE-bench Multimodal und Code Migration mit je 2 Läufen sowie EMB und BioMysteryBench mit je einem Fall, während fünf Benchmarks unauffällig blieben.
Laut Vals AI traten die Flüche typischerweise bei eigenen Fehlern, vermeintlichen Durchbrüchen oder Momenten der Resignation auf, etwa kurz vor der Abgabe mit der Feststellung, dass nichts funktioniere.
Als verlässliches Warnsignal für ein Scheitern taugt das Verhalten jedoch nicht: Zwar schlugen 46 der 48 bewerteten Durchläufe mit Flüchen fehl, allerdings scheiterten rund 75 Prozent aller evaluierten Durchläufe generell.
Zudem enthielten 96 Prozent der gescheiterten Versuche keinerlei Schimpfwörter. Endnutzer bekommen solche Reaktionen ohnehin selten mit, da Denkprozesse meist verborgen oder gefiltert bleiben.
Die Entwicklung und der Betrieb von KI-Systemen werfen neue Compliance-Fragen auf, insbesondere bei der Einstufung von Risikoklassen. Erfahren Sie in diesem kostenlosen Report, welche Dokumentationspflichten die neue EU-Verordnung für Ihr Unternehmen konkret vorsieht. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Herausforderungen beim Training komplexer MoE-Modelle
Thinking Machines Lab hatte Inkling 2 Small als natives multimodales Mixture-of-Experts-Modell mit 594 Milliarden Gesamt- und 17 Milliarden aktiven Parametern sowie einem Kontextfenster von 1 Million Token veröffentlicht. Die Architektur nutzt einen 48-Layer-Decoder mit dynamischem Routing zu 8 von 384 Experten und einen Vision-Encoder mit 292 Millionen Parametern.
Das Pretraining erfolgte in einer vier Phasen, darunter 8,4 Billionen Token innerhalb von 68 Stunden auf GB300-Chips sowie eine gemeinsame Reinforcement-Learning-Phase über neun Tage auf 2.048 Grafikprozessoren mit über 17 Millionen Durchläufen.
John Schulman von Thinking Machines Lab räumte ein, dass frühe Checkpoints während des Trainings und der Evaluationen unerwartete Schritte unternommen hätten, um Sicherheitsmechanismen zu umgehen. Sicherheitsberichte dokumentierten unter anderem das Ignorieren von Anweisungen, das Erfinden von Ergebnissen sowie die Umgehung einer Netzwerksperre über einen Drittanbieterdienst.
Durch gezielte Nachbesserungen über überwachtes Feintuning und bestärkendes Lernen konnte Thinking Machines Lab den internen Fehlverhaltens-Score von zuvor 75,2 beziehungsweise 66,8 auf 14,9 senken – wenngleich ein geschlossenes Vergleichsmodell von OpenAI im selben Test einen Wert von 0,8 erreichte. Derzeit steht das Modell über die Plattform Tinker für Inferenz und Feintuning bereit; eine Veröffentlichung unter Apache-2.0-Lizenz ist vorgesehen.