Der praktische Einsatz moderner Sprachmodelle und autonomer Softwaresysteme stand im Mittelpunkt einer Fachtagung an der Hochschule Offenburg. Rund 40 Teilnehmer vor Ort sowie 30 zugeschaltete Online-Gäste verfolgten die Diskussionen über Chancen und Hürden von großen Sprachmodellen und Agenten-Systemen in Unternehmen, wie ein Branchenbericht vom 26. Oktober 2026 darlegt.
Im Zentrum der Veranstaltung standen die Erkenntnisse des vom BMFTR geförderten Forschungsprojekts „LLM-Praxis“. Sechs Referenten aus Forschungseinrichtungen und Unternehmen präsentierten konkrete Anwendungsfelder und methodische Ansätze. Das thematische Spektrum reichte von Dokument Parsing und der Vorhersage multimodaler strukturierter Ausgaben über Chat-Agenten und Tonalitätssteuerung mittels ACT bis hin zu rekursiven Sprachmodellen.
Zudem wurden die Steuerung von ERP- und CRM-Systemen über künstliche Intelligenz sowie die Sicherheitsanforderungen an Sprachmodelle vertieft. Die Ergebnisse des Projekts sind über das Onlineportal llm-praxis.de zugänglich.
Hürden bei Einführung und Rentabilität
Prof. Dr. Janis Keuper, Leiter des Institut for Machine Learning and Analytics an der Hochschule Offenburg, ordnete den Verlauf der Technologieadaption ein.
Dass die Nutzung erst in den vergangenen anderthalb Jahren sprunghaft angestiegen sei, liege an anfänglichen technischen und rechtlichen Herausforderungen. Hinzu kämen hohe Betriebskosten bei einem oft schwer messbaren betriebswirtschaftlichen Nutzen sowie ungelöste Sicherheits- und Abhängigkeitsfragen.
Wer sich mit dem Einsatz moderner Sprachmodelle befasst, muss heute auch die rechtlichen Leitplanken kennen. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Diese praktischen Vorbehalte spiegeln sich in aktuellen Erhebungen zur KI-Nutzung in der Wirtschaft wider. Zwar zeigt der Microsoft Work Trend Index 2026, dass 66 Prozent der KI-Nutzer dank der Technologie mehr Zeit für wertschöpfende Tätigkeiten gewinnen und 58 Prozent Aufgaben bewältigen können, zu denen sie ein Jahr zuvor noch nicht in der Lage waren.
Allerdings berichten lediglich 26 Prozent der Beschäftigten, dass ihre Führungskräfte eine klare und konsistente Ausrichtung beim KI-Einsatz verfolgen. Gleichzeitig gaben 50 Prozent der Befragten die Qualitätskontrolle von KI-Ergebnissen und 46 Prozent kritisches Denken als essenzielle Kernkompetenzen an.
Auch auf Führungsebene bleibt der Nachweis messbarer Erfolge eine Hürde. Laut dem Bericht „State of AI Report 2026“ von McKinsey haben zwar 49 Prozent der befragten Unternehmen in Deutschland künstliche Intelligenz bereits breitflächig im Betrieb skaliert. Allerdings können 43 Prozent der Organisationen den konkreten Beitrag der Technologie zum Unternehmensergebnis bislang nicht beziffern.
Skalierung und Sicherheitsanforderungen
Mit dem Übergang von assistierenden Werkzeugen zu eigenständig agierenden Systemen wachsen zudem die Anforderungen an die betriebliche Infrastruktur. Wie IT-Experten im Rahmen von Fachgesprächen zur Systemskalierung hervorhoben, reichen isolierte Pilotstrukturen nicht mehr aus, sobald Agenten selbstständig E-Mails versenden oder Bestellungen auslösen.
Die zunehmende Automatisierung durch KI-Systeme stellt Unternehmen vor neue Herausforderungen bei der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret für die Compliance tun müssen. Kostenlosen Report zur KI-Verordnung anfordern
Ohne verbindliche Regelwerke drohten isolierte Teillösungen sowie steigende Compliance-Risiken. Für einen verlässlichen Betrieb seien eindeutige Identitäten für Software-Agenten, eng umgrenzte Zugriffsrechte, lückenlose Protokolle und Not-Aus-Mechanismen erforderlich.
Analysen des Marktforschungsunternehmens Gartner verdeutlichen zudem die betriebswirtschaftlichen Risiken: Während singuläre Agenten primär einfache Routinen übernehmen, erfordern komplexe Aufgabenstellungen koordinierte Multi-Agenten-Systeme.
Zudem schalteten Unternehmen im Sommer 2026 vereinzelt Agenten wegen ungeplant explodierender Token-Kosten wieder ab, woraufhin Technologieanbieter begonnen haben, integrierte Kontrollmechanismen für den Token-Verbrauch bereitzustellen.