Cognition hat eine strategische Partnerschaft mit Amazon Web Services (AWS) geschlossen, um die KI-gestützte Softwareentwicklungsumgebung Devin für den Einsatz in Unternehmensumgebungen bereitzustellen. Parallel dazu hat Unsloth ein lokales Studio für das Training offener Modelle in einer Beta-Phase veröffentlicht.
Diese Entwicklungen markieren einen weiteren Schritt bei der Integration von Künstlicher Intelligenz in den professionellen Programmieralltag, wie aktuelle Projektergebnisse von Cognizant und Odyssey Logistics verdeutlichen.
Effizienzsteigerung in der Softwareentwicklung
Cognizant gab Ergebnisse aus dem umfassenden Einsatz von Devin bekannt. Das Unternehmen hat bereits mehr als 3.000 Mitarbeitende im Umgang mit der KI-Lösung geschult.
Interne Analysen zeigen, dass die Zeit bis zur Bereitstellung von releasefähigem Code durch die Unterstützung der KI um mehr als 50 Prozent gesenkt werden konnte. Besonders bei der Neuentwicklung von Anwendungen, der sogenannten Greenfield-Entwicklung, wurde eine Beschleunigung um das 5- bis 6-Fache beobachtet.
Im Rahmen der Kooperation mit Cognition wurden die gemeinsamen Angebote auf spezialisierte Bereiche wie Modernisierung, Quality Engineering und Frontier AI Cyber Defense ausgeweitet.
Ein konkretes Projekt bei Odyssey Logistics liefert zusätzliche Kennzahlen: Ein siebenköpfiges Team von Cognizant konnte den Durchsatz um rund ein Drittel steigern. Dabei wurde eine Netto-Kosteneinsparung von 37 Prozent im Vergleich zum konventionellen Entwicklungsansatz erzielt.
Wer KI-Systeme professionell einsetzt, muss auch die neuen rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Ein Pilotprojekt zur Überarbeitung einer Legacy-Anwendung konnte zudem bereits 21 Tage nach dem Projektstart abgeschlossen werden. Nach Angaben von Cognizant ist derzeit bereits ein Anteil von 40 Prozent der Softwareentwicklung KI-unterstützt.
Lokale Modelloptimierung mit Unsloth Studio
Ergänzend zu den Cloud-basierten Lösungen wie Devin gewinnen Werkzeuge für das lokale Training von KI-Modellen an Bedeutung. Unsloth hat mit Unsloth Studio eine Open-Source-No-Code-Oberfläche als Beta-Version gestartet, die das lokale Trainieren, Ausführen und Exportieren offener Modelle ermöglicht.
Die Plattform unterstützt laut Anbieterangaben über 500 Modelle und verspricht eine Verdopplung der Trainingsgeschwindigkeit bei einer gleichzeitigen Reduzierung des benötigten Grafikspeichers (VRAM) um 70 Prozent.
Das Studio unterstützt Formate wie GGUF und Safetensors auf den Betriebssystemen Mac, Windows und Linux. Das Anwendungsspektrum umfasst Text-, Bild-, TTS-Audio- und Embedding-Modelle. Während das Training auf GPUs von NVIDIA, Intel, Apple und AMD erfolgt, bleibt die CPU-Unterstützung auf Chat-Inferenz und die Verarbeitung von Datensätzen beschränkt.
Mit dem verstärkten Einsatz von KI in Unternehmen wachsen auch die Anforderungen an die IT-Sicherheit. Dieser kostenlose Report klärt auf, welche neuen Cyberrisiken und rechtlichen Pflichten Unternehmer jetzt kennen müssen. Gratis-E-Book zu Cyber Security Trends herunterladen
Anforderungen an die Hardware-Infrastruktur
Bereits im August wurde Unsloth Desktop als kostenlose Open-Source-Beta eingeführt. Diese bietet eine lokale Arbeitsumgebung für die Modellverwaltung und unterstützt Techniken wie QLoRA, LoRA sowie vollständiges Fine-Tuning. Tests haben gezeigt, dass für das QLoRA-Verfahren bei kleineren Modellen eine Grafikkarte vom Typ RTX 3070 mit 8 GB VRAM ausreicht, während größere 27B-Modelle höhere Kapazitäten erfordern.
Ein 7B-Modell erreichte in Testumgebungen auf einer GPU mit 24 GB VRAM eine Geschwindigkeit von etwa 40 bis 50 Token pro Sekunde. Bei einer Reduzierung auf 8 GB VRAM sank dieser Wert auf 20 bis 30 Token pro Sekunde.
Für den Betrieb von 7B-Modellen mit Q4-Quantisierung werden etwa 5 bis 6 GB VRAM benötigt, wobei für eine stabile Performance 16 GB oder mehr empfohlen werden. Zudem wurde demonstriert, dass das Bildgenerierungsmodell Qwen-Image-2.1 mit entsprechenden Quantisierungen lokal auf Systemen mit 12 GB VRAM betrieben werden kann, wobei die Leistung mit der von Nano Banana 2.0 vergleichbar sei.
Experten raten bei begrenzten Hardware-Ressourcen dazu, zunächst die Kontextlänge und die Quantisierung zu reduzieren. Zudem sollten lokale Programmierschnittstellen (APIs) aus Sicherheitsgründen nicht ungeschützt in Netzwerken freigegeben werden.
