Die Optimierung von künstlicher Intelligenz für Apple-Hardware hat einen weiteren Entwicklungsschritt vollzogen. Mit der Veröffentlichung der Version 0.6.0rc1 von oMLX am 15. August 2026 wurde eine experimentelle Funktion für das verteilte Serving über mehrere Mac-Systeme hinweg eingeführt.
Diese Neuerung erlaubt es, die Rechenlast großer Sprachmodelle (LLMs) auf mehrere Endgeräte aufzuteilen, was insbesondere bei speicherintensiven Modellen zu deutlichen Leistungssprüngen führt.
Signifikante Performance-Steigerung durch Multi-Mac-Cluster
Die nun verfügbare Version demonstriert das Potenzial von Clustern aus Apple-Silicon-Rechnern. In ersten Tests erreichte das Modell Qwen3.6-27B eine Geschwindigkeit von 28,6 Tokens pro Sekunde, wenn es auf zwei Macs verteilt betrieben wurde. Im Vergleich dazu kam das gleiche Modell auf einem einzelnen Mac lediglich auf 16,1 Tokens pro Sekunde.
Diese Verteilung der Arbeitslast ermöglicht zudem den Betrieb von Modellen, deren Speicherbedarf die Kapazität einzelner Geräte übersteigt. So wurde im Rahmen der Veröffentlichung dokumentiert, dass ein MiniMax-M3-Modell mit einer Größe von 225 GB erfolgreich über einen Verbund aus zwei Macs mit 128 GB und 256 GB Arbeitsspeicher geladen werden konnte.
Bereits am Vortag der aktuellen Veröffentlichung wurden Details zur Entwicklerversion oMLX v0.6.0.dev1 bekannt. Diese Version integriert experimentelles verteiltes Serving unter Nutzung von Metal- und CUDA-Schnittstellen. Ein besonderer Fokus lag hierbei auf der sogenannten Dekodierungs-Fairness auf Systemen mit M3 Ultra-Chips, bei der eine 43-fache Verbesserung erzielt werden konnte.
Wer das volle Potenzial seines Apple-Rechners für anspruchsvolle Aufgaben ausschöpfen möchte, findet in diesem kostenlosen Ratgeber die entscheidenden Kniffe für den Start. Erfahren Sie, wie Sie Ihren Mac von Beginn an optimal konfigurieren und für maximale Leistung vorbereiten. Kostenloses Mac-Starterpaket jetzt herunterladen
Effizienzsteigerungen beim Caching und optimierter Speicherverbrauch
Neben der Rechenleistung adressiert das Update die Effizienz der Speichernutzung. Durch den Einsatz eines SSD-Caches konnte der Speicherbedarf für ein GLM-5.2-Modell mit 12K-Token massiv gesenkt werden: Statt der bisherigen 6,5 GB werden nun lediglich 1,17 GB benötigt.
Zudem wurde die Verwaltung der Cache-Listen von einer quadratischen auf eine lineare Skalierung umgestellt. Dies führt bei langen Kontexten zu drastischen Einsparungen beim Ressourcenverbrauch.
Während für 84K Tokens zuvor 282,7 GB veranschlagt werden mussten, benötigt das System nach der Optimierung für 94K Tokens nur noch 15,3 GB. Diese Effizienzsteigerung ist ein wesentlicher Faktor für den Einsatz von Modellen mit großen Kontextfenstern auf Hardware mit begrenztem Unified Memory.
Zeitersparnis ist bei der Arbeit mit komplexen Systemen ein entscheidender Faktor, den auch erfahrene Anwender oft durch einfache Tastenkombinationen noch steigern können. Ein Apple-Experte hat die 19 effizientesten Shortcuts zusammengestellt, mit denen Sie im digitalen Alltag deutlich flüssiger navigieren. Die 19 besten Mac-Tastenkombinationen kostenlos sichern
Erweiterte Modellunterstützung und verbesserte Verarbeitungsgeschwindigkeiten
Die Version 0.6.0rc1 erweitert die Liste der kompatiblen Modelle erheblich. Neu unterstützt werden unter anderem Qwen3.8-27B im FP8-Format, Ling 3.0 Flash sowie Muse Glimmer 30B VLM.
Auch spezialisierte Modelle wie der Jina Reranker v3.5 sind nun integriert. Für die Vorfüll-Phase (Prefill) von DeepSeek V4 wurde eine Leistungssteigerung um 23 bis 28 Prozent gemeldet.
Parallel zu den Entwicklungen bei oMLX zeigen Berichte vom 14. August 2026 Fortschritte bei mlx-serve. In Vergleichen mit LM Studio erreichte mlx-serve eine um 26 Prozent höhere Dekodierungs-Geschwindigkeit beim Einsatz des DeepSeek V4 Flash-Modells mit 284 Milliarden Parametern.
Zusätzlich zu den Kernoptimierungen bei der Modellverarbeitung enthält das oMLX-Update funktionale Erweiterungen für die Nutzeroberfläche. Der Admin-Chat wurde um Funktionen für die Web-Suche sowie eine Sprache-zu-Text-Funktion (STT) ergänzt, was die Interaktionsmöglichkeiten mit den lokal oder verteilt gehosteten Modellen erweitert.
