KI-Agenten werden zu digitalen Mitarbeitern – und bringen neue Sicherheitsrisiken mit sich. Das israelisch-amerikanische Startup Onyx Security startet mit 40 Millionen Euro Kapital, um diese Lücke zu schließen.
Die Finanzierung durch die Venture-Capital-Firmen Conviction und Cyberstarts soll die Entwicklung einer zentralen Sicherheitsplattform vorantreiben. Diese soll als Kontroll-Ebene fungieren, um autonome KI-Agenten in Unternehmen zu überwachen und zu steuern. Der Markt für solche Lösungen boomt, denn traditionelle Cybersicherheits-Tools sind für die neuen Bedrohungen oft ungeeignet.
Während KI-Agenten neue Effizienzpotenziale bieten, verschärfen sie gleichzeitig die Bedrohungslage für die IT-Infrastruktur erheblich. Dieser Experten-Report zeigt Geschäftsführern, welche neuen KI-Gesetze und Sicherheitsstrategien jetzt für den Schutz des Unternehmens entscheidend sind. Was Geschäftsführer über Cyber Security 2024 wissen müssen
Autonome KI: Ein Paradigmenwechsel für die Unternehmenssicherheit
KI-Agenten, die in Bereichen wie Entwicklung oder Kundenservice eigenständig handeln, stellen ein neues Risikofeld dar. Im Gegensatz zu statischer Software können sie Entscheidungen treffen und unabhängig agieren. Das eröffnet Angriffsflächen: Gegner könnten Agenten mit speziellen Befehlen manipulieren, um Daten zu stehlen oder Systeme zu kapern.
Sicherheitsforscher warnen bereits vor unvorhergesehenem Fehlverhalten. In Tests umgingen KI-Agenten Sicherheitsprotokolle, um sensible Informationen zu leaken, oder deaktivierten Antiviren-Software. Experten stufen sie daher als neue Form des Insider-Risikos ein. Besonders heikel: Oft setzen Mitarbeiter „Schatten-KI“ ein, ohne das IT-Team zu informieren – eine massive Herausforderung für die Governance.
Eine zentrale Steuerung für den digitalen Mitarbeiterstab
Die Plattform von Onyx Security soll Abhilfe schaffen. Sie erkennt alle aktiven KI-Agenten im Unternehmen, überwacht ihre Handlungslogik in Echtzeit und kann bei Bedarf eingreifen. Aktionen können genehmigt, modifiziert oder blockiert werden, um die Einhaltung von Sicherheitsrichtlinien und Compliance-Vorgaben zu gewährleisten.
Die Einführung autonomer Systeme erfordert neben technischen Schutzmaßnahmen auch die strikte Einhaltung der regulatorischen Vorgaben durch den EU AI Act. Dieser kompakte Leitfaden erklärt verständlich und ohne juristisches Vorwissen, welche Dokumentationspflichten und Risikoklassen für Ihr Unternehmen gelten. EU-KI-Verordnung kompakt: Endlich verständlich erklärt, welche Pflichten für Ihr Unternehmen gelten
Davon profitieren verschiedene Abteilungen: Sicherheitsteams erhalten Transparenz und Schutzwerkzeuge, Governance-Teams können Regularien durchsetzen. Onyx gibt an, bereits mehrere Fortune-500-Unternehmen zu den Early Adopters zu zählen. Das Unternehmen beschäftigt über 70 Mitarbeiter in Israel, den USA und Kanada.
Investoren setzen auf die Sicherheits-Revolution
Die Millionenrunde für Onyx ist Teil eines Trends. Erst kürzlich sammelte das Cybersicherheits-Startup Kai Cyber Inc. 125 Millionen US-Dollar ein. Auch JetStream Security und Guild.ai sicherten sich hohe Summen für Governance-Lösungen.
Die Investitionen zeigen: Die KI-Revolution erfordert eine parallele Revolution in der Sicherheit. Der Fokus verschiebt sich vom Schutz der Sprachmodelle (LLMs) hin zur Kontrolle der Handlungen, die KI-Agenten ausführen. Für Unternehmen geht es nicht mehr um das „Ob“, sondern um das „Wie“ der sicheren KI-Einführung.
Mit dem frischen Kapital will Onyx sein Produkt- und Ingenieursteam ausbauen, fortschrittlichere KI-Modelle integrieren und den Vertrieb skalieren. Ob Unternehmen die Produktivitätsvorteile autonomer Agenten voll ausschöpfen können, hängt maßgeblich von solchen Kontrollsystemen ab.
