Das Heidelberger KI-Unternehmen Aleph Alpha hat ein neues Sprachmodell namens Kolibri herausgebracht. Das System richtet sich gezielt an Kunden aus der öffentlichen Verwaltung sowie der Industrie, die das Modell auf eigener, selbst kontrollierter Infrastruktur betreiben können.
Architektur mit bis zu einer Million Tokens Kontext
Bei Kolibri handelt es sich um ein zweisprachiges Modell für Deutsch und Englisch, das auf einer Mixture-of-Experts-Architektur basiert. Von den insgesamt 78 Milliarden Parametern sind bei der Verarbeitung jeweils 3 Milliarden aktiv. Damit erweitert Aleph Alpha die Kapazitäten im Vergleich zum Vorgängermodell Kolibri Origin deutlich: Dieses kam bei ebenfalls 3 Milliarden aktiven Parametern auf eine Gesamtgröße von 30 Milliarden Parametern und ein Kontextfenster von 65.000 Tokens.
Kolibri unterstützt nach Unternehmensangaben nun Eingaben von bis zu 1 Million Tokens Kontext. Zudem verfügt das System über vier Reasoning-Stufen sowie Fähigkeiten zum Tool-Aufruf. Die Modellgewichte stellt Aleph Alpha unter der Open-Source-Lizenz Apache 2.0 auf der Plattform Hugging Face bereit.
Hoher Anteil an deutschen Trainingsdaten
Das Training umfasste nach Angaben von Aleph Alpha 20 Billionen Tokens, für deren Zusammenstellung mehr als 200 Billionen Rohdatentokens gefiltert wurden. Ein Bericht beziffert das Training alternativ auf rund 24 Billionen Tokens und verweist auf eine Hardware-Basis von 768 NVIDIA-B200-Grafikprozessoren an Standorten in Deutschland und Finnland.
Besonderes Augenmerk lag auf dem deutschsprachigen Raum: Nach Unternehmensangaben entfielen 21,3 Prozent der Pretraining-Tokens auf deutsche Inhalte, während Übersetzungen insgesamt 6 Prozent ausmachten. Samuel Weinbach, Mitgründer von Aleph Alpha, hob hervor, dass das Modell auf deutschsprachige Anwendungen zugeschnitten sei und auf Deutsch argumentieren könne.
Wer sich mit dem Einsatz neuer KI-Systeme in der Verwaltung befasst, sollte die rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Leitfaden bietet Führungskräften im öffentlichen Dienst einen praktischen Selbsttest und wertvolle Tipps für den verantwortungsvollen Umgang mit der Technologie. So nutzen Verwaltungen KI 2026, ohne Rechtsstaatlichkeit zu gefährden
Berichten zufolge benötigt der Tokenizer des Modells für deutschen Text 11,2 Prozent weniger Tokens als der GPT-5-Tokenizer. Im deutschen AIME-2025-Test erreichte Kolibri demnach ein Ergebnis von 87,5 Punkten.
Konformität mit europäischen Vorgaben und Ausblick
Aleph Alpha entwickelte das Sprachmodell nach eigenen Angaben mit Blick auf die regulatorischen Anforderungen des europäischen AI Acts sowie den GPAI Code of Practice. Neben der Bereitstellung des Modells verfolgt das Unternehmen breitere strategische Initiativen im europäischen Markt.
Die neuen europäischen Vorgaben stellen Unternehmen beim Einsatz von KI-Systemen vor komplexe Herausforderungen bezüglich Risikoklassen und Dokumentationspflichten. Ein kostenloser Umsetzungsleitfaden zum EU AI Act verschafft Ihrer IT- und Rechtsabteilung jetzt den notwendigen Überblick über alle relevanten Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Gemeinsam mit Cohere ist ein Gemeinschaftsunternehmen geplant, das souveräne KI-Lösungen für Bereiche wie Verwaltung, Finanzen, Verteidigung, Energie, Telekommunikation und das Gesundheitswesen entwickeln soll. In Kooperation mit der Schwarz Gruppe sind zudem entsprechende Angebote auf der Cloud-Plattform STACKIT vorgesehen.
Mehr zum Thema bei WirtschaftsWoche: „Aleph Alpha Kolibri: Neues KI“