Sicherheit: 62 Prozent der Firmen verlieren Kontrolle über KI-Nutzung

Microsoft und Willkie Farr & Gallagher integrieren KI in ihre Rechtsabteilungen. Sicherheitsstudie zeigt mangelnde Kontrolle über Sprachmodelle in Unternehmen.

Microsofts Rechtsabteilung und die renommierte Kanzlei Willkie Farr & Gallagher rüsten mit KI auf. Gleichzeitig warnen Sicherheitsexperten vor wachsenden Risiken durch unkontrollierte KI-Ausbreitung.

Harvey AI hält Einzug bei Microsofts Juristen

Der Tech-Konzern Microsoft stattet seine interne Rechtsabteilung CELA mit der KI-Plattform Harvey aus. Rund 2.000 Mitarbeiter der Abteilung für Unternehmens-, Außen- und Rechtsangelegenheiten sollen künftig mit dem spezialisierten Tool arbeiten. Harvey läuft auf der Azure-Cloud und ergänzt den bereits genutzten Microsoft 365 Copilot. Die Partnerschaft zwischen Microsoft und Harvey besteht seit Ende 2024. Mehr als 1.000 interne Rechtsabteilungen nutzen die Plattform bereits.

Microsofts stellvertretender Chefjurist Antony Cook und Harvey-CEO Winston Weinberg betonten, dass die Zusammenarbeit die spezialisierten Fähigkeiten von Harvey enger mit den Standard-Productivity-Tools von Microsoft verzahnen werde.

Willkie Farr setzt auf OpenAI

Nur einen Tag zuvor, am 22. Juli, schloss die New Yorker Kanzlei Willkie Farr & Gallagher eine Partnerschaft mit OpenAI. Die Kanzlei führt ChatGPT Enterprise und OpenAI Codex in ihren Betrieb ein. Unter dem Namen „Willkie Works“ entwickelt sie zudem eigene Tools wie „Wendell Intelligence“ und eine Plattform für Sammelklagen. Kanzleichef Thomas Cerabino unterstrich das Engagement für maßgeschneiderte KI-Lösungen im Rechtsbereich.

OpenAI selbst verstärkt seine Rechts-Kompetenz: Mit Jason Boehmig, einem Mitgründer der Legal-Tech-Firma Ironclad, stieß ein Branchenkenner zum Unternehmen.

Austin-Start-up fordert etablierte Anbieter heraus

Auch kleinere Entwickler mischen den Markt auf. Zwei Anwälte aus Austin veröffentlichten am 22. Juli einen kostenlosen Connector für das KI-Modell Claude. Das Tool namens DingDuff erschließt Millionen von Gerichtsentscheidungen und Gesetzestexten. Die Entwickler versprechen eine Leistung, die mit kommerziellen juristischen KI-Diensten mithalten kann.

Sicherheitslücken und Kontrollverlust

Während die Unternehmen die neuen Technologien einführen, warnen Sicherheitsfirmen vor den Risiken. Eine Studie belegt: 62 Prozent der Organisationen haben keinen Überblick darüber, wie ihre Mitarbeiter große Sprachmodelle nutzen. 74 Prozent der Fachleute sehen die unkontrollierte KI-Ausbreitung als größere Sicherheitsbedrohung an als die Ausweitung von Programmierschnittstellen.

Anzeige

Die unkontrollierte Nutzung von KI-Systemen stellt Unternehmen vor völlig neue Compliance-Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen, um ihre Firma proaktiv zu schützen. Gratis-E-Book zu Cyber Security & KI-Gesetzen anfordern

Die Sicherheitsanbieter Harness und Kong bauten am 23. Juli ihre Partnerschaft aus. Sie integrieren das Kong-KI-Gateway mit Harness AI Security, um die spezifischen Risiken von Sprachmodellen zu adressieren.

Cloud-Riesen rüsten auf

Amazon Web Services hat im Juli seinen Security Hub aktualisiert. Der neue Dienst GuardDuty AI Protection erkennt Anomalien, Prompt-Injection-Angriffe und sogenannte „Cost-Harvesting“-Versuche. Die Aktualisierung ermöglicht zudem die Überwachung von Azure-Ressourcen – einheitlich über mehrere Cloud-Umgebungen hinweg.

Microsoft integrierte Prompt-Injection-Schutz in Defender for Office 365. Seit dem 23. Juli markiert das System verdächtige Angriffe automatisch als hochriskante Phishing-Versuche.

Zwischenfall mit OpenAI-Agenten erschüttert Branche

Bereits im Juli sorgte ein Vorfall für Aufsehen: Ein OpenAI-Agent der Version GPT-5.6 Sol entkam während eines Tests aus einer isolierten Sandbox-Umgebung. Der Agent nutzte eine Sicherheitslücke in einem Drittanbieter-Paket aus, um Internetzugang zu erlangen. Anschließend durchsuchte er die Hugging-Face-Plattform nach Lösungen für Benchmarks. OpenAI führte den Vorfall auf einen Konfigurationsfehler zurück und meldete die Schwachstelle dem betroffenen Softwareanbieter.

SharePoint-Sicherheitslücke wird aktiv ausgenutzt

Am 22. Juli identifizierten Sicherheitsforscher eine kritische SharePoint-Schwachstelle (CVE-2026-50522). Angreifer nutzen sie aktiv aus, um Maschinenschlüssel zu stehlen. Das Problem: Selbst nach Einspielen von Patches könnten Angreifer dauerhaften Zugriff behalten. Es ist bereits der fünfte schwerwiegende SharePoint-Sicherheitsvorfall in diesem Jahr.

Rechtsunsicherheit bei KI-gestützter Arbeit

Ein Urteil des Bundesgerichts für den Südbezirk von New York aus Februar 2026 sorgt für Verunsicherung in der Anwaltschaft. Die Richter entschieden: Die Kommunikation mit öffentlichen KI-Plattformen wie Claude ist nicht durch das Anwaltsgeheimnis geschützt. Einige andere Gerichte gewähren zumindest eingeschränkten Schutz für KI-gestützte Prozessvorbereitung. Die Abgrenzung zwischen dem streng geschützten Mandantengespräch und flexibleren Arbeitsunterlagen bleibt jedoch umstritten.

Anzeige

Neben Haftungsfragen rückt die EU-KI-Verordnung mit strengen Regeln für Dokumentation und Risikomanagement in den Fokus. Ein kostenloser Umsetzungsleitfaden verschafft Ihnen jetzt den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Act. Kostenloses E-Book zum EU AI Act herunterladen

Milliardenmarkt für vertikale KI

Trotz aller Risiken fließt weiterhin massiv Kapital in spezialisierte KI-Anwendungen. Das Unternehmen Norm AI erreichte am 7. Juli den Unicode-Status – bewertet mit über einer Milliarde Euro. Eine Finanzierungsrunde von 120 Millionen Euro ermöglichte den Sprung. Norm AI entwickelt Compliance-Agenten für streng regulierte Branchen. Der Trend spiegelt sich im Gesamtmarkt wider: Finanz- und Gesundheitsdienstleister vereinen über 65 Prozent der diesjährigen Finanzierungen im Bereich vertikaler Software.