Arm SME2: Streaming-Spracherkennung läuft auf einem Thread 2,12-mal schneller

Messungen zeigen, wie Mikroarchitektur, Cache und SME2 die Effizienz von KI- und Server-Workloads beeinflussen.

•

Technische Berichte heben die reale Recheneffizienz unterschiedlicher Architekturen auf Basis von Arm hervor und legen Diskrepanzen zwischen reiner Taktfrequenz und dem tatsächlichen Durchsatz offen.

Wie mehrere Auswertungen Ende Oktober 2026 verdeutlichen, hängt die Ausführungsgeschwindigkeit moderner Workloads – von Streaming-Spracherkennung bis hin zu Server-Anwendungen – maßgeblich von Mikroarchitektur, Caches und spezialisierten Befehlssatzerweiterungen ab.

Streaming-KI und Beschleunigung durch SME2

Besonders im Bereich der künstlichen Intelligenz an Netzwerk-Endpunkten zeigen sich die Auswirkungen spezifischer Erweiterungen. In einer Studie zur Streaming-Spracherkennung mit ExecuTorch auf Edge-Geräten erzielte das Modell Qwen3-ASR-1.7B zwar die höchste Genauigkeit im Batch-Betrieb, verzeichnete jedoch bei Chunks von 2,4 Sekunden eine Verschlechterung der Wortfehlerrate um +77 Prozent.

NVIDIA erreichte demgegenüber mit Nemotron Speech Streaming 0.6B bei Chunks von 560 Millisekunden die niedrigste durchschnittliche Wortfehlerrate. Auf dem Google Pixel 11 lag die Wortfehlerrate von NVIDIA Nemotron 3.5 bei FP16 zwischen 15,2 Prozent bei 80 Millisekunden und 11,5 Prozent bei 1.120 Millisekunden. Bei der quantisierten Variante QC8W bewegte sie sich zwischen 15,5 Prozent und 11,7 Prozent.

Der Einsatz der Erweiterung SME2 von Arm bewirkte bei einer Aufnahme von 24,9 Sekunden mit 1.120-Millisekunden-Chunks auf einem einzelnen Thread signifikante Laufzeitverkürzungen: Unter FP16 sank die Ausführungszeit von 9,79 Sekunden ohne SME2 auf 4,61 Sekunden mit SME2, was einer Beschleunigung um den Faktor 2,12 entspricht.

Anzeige

Während die technische Effizienz von KI-Architekturen rasant steigt, rücken auch die regulatorischen Leitplanken für den Einsatz solcher Systeme in den Fokus. Dieser kostenlose Leitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der aktuellen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Bei QC8W verkürzte sich die Dauer von 5,20 Sekunden auf 3,24 Sekunden, was einem Faktor von 1,61 entspricht. Der Real-Time-Faktor verbesserte sich dabei auf 0,19 für FP16 beziehungsweise 0,13 für QC8W. Bei Matrix-Multiplikationen ging die Rechenzeit unter FP16 von 8,2 Sekunden auf 3,1 Sekunden zurück, bei QC8W von 4,1 Sekunden auf 2,0 Sekunden.

In der Mikroarchitektur Arm C1-SME2 fungiert SME2 als eng gekoppelter Matrix-Coprozessor mit eigener Pipeline sowie ZA- und SSVE-Registern. Analysen zeigten, dass eine gezielte Anpassung der Matrix-Blockgrößen die Trefferrate im L1D-Cache von 65 Prozent auf 92 Prozent steigerte und die Gesamtleistung um das 2,3-Fache anhob.

Kernarchitekturen und Grenzen der Taktfrequenz

Die Gegenüberstellung unterschiedlicher Kernarchitekturen verdeutlicht, dass die Taktfrequenz allein kaum Rückschlüsse auf die Gesamtleistung erlaubt. Während ein Cortex-M0 lediglich 0,87 bis 0,95 DMIPS pro Megahertz bereitstellt, erreicht ein Cortex-A55 2,7 DMIPS pro Megahertz, ein Cortex-A78 5,2 und ein Cortex-X4 mehr als 7,5 DMIPS pro Megahertz.

Anzeige

Wer sich professionell mit der Entwicklung oder dem Einsatz von KI-Systemen befasst, muss neben der Rechenleistung auch die rechtliche Absicherung der Infrastruktur im Blick behalten. Der kostenlose Report klärt auf, welche KI-Anwendungen als Hochrisiko gelten und was IT-Verantwortliche jetzt konkret unternehmen müssen. Umsetzungsleitfaden zum EU AI Act kostenlos sichern

Bei einer einheitlichen Taktung von 2,0 Gigahertz erzielt ein Cortex-A53 rechnerisch 4600 DMIPS, während ein Cortex-X4 auf 15000 DMIPS kommt. Zudem zeigt sich der Einfluss des Speichersystems: Ein Cortex-M7 arbeitet mit Cache rund 40 Prozent schneller als ohne, und ein Cortex-A55 liegt bei identischem Code etwa 25 Prozent vor einem Cortex-A53.

Messungen mit SPEC CPU 2006 auf einem Cortex-A72 mit 2,0 Gigahertz unter Ubuntu 20.04 ergaben einen SPECint_base2006-Wert von 35,2. Im Plattformvergleich erzielte ein x86-Skylake-System bei 400.perlbench 42,1 Punkte gegenüber 34,3 Punkten auf dem ARM64-System und 28,7 Punkten bei einem MIPS64 P6600.

Neue Messmethoden für agentische KI-Workloads

Im Oktober 2026 stellte Arm ein Weißbuch zur Leistungsbewertung von Server-CPUs für agentische KI vor, das Komponenten-Benchmarks mit Tests wie SWE-bench kombiniert.

Laut einem Bericht von Signal65 erzielt eine AGI-CPU von Arm bei identischem Leistungsbudget etwa die 1,99-fache Rack-Leistung im Vergleich zu einem AMD EPYC 9755. Ravi Malhotra, Director Cloud AI Solutions Architecture bei Arm, unterstrich in diesem Kontext, dass unzureichend dimensionierte CPUs teure Grafikprozessoren ausbremsen können. Zugleich haben auch AMD und Intel eigene Messrahmen für agentische KI-Anwendungen präsentiert.