Anfang September kündigte der Generalstaatsanwalt von Florida, James Uthmeier, eine weitreichende Gesetzesvorlage an, die die Branche der künstlichen Intelligenz (KI) unter verstärkten regulatorischen Druck setzt.
Das Vorhaben sieht vor, Chatbot-Unternehmen künftig strafrechtlich zu belangen, wenn deren Software die Begehung von Verbrechen ermöglicht oder erleichtert. Der Fokus liegt dabei auf einer klaren Zuweisung der Verantwortung an die Hersteller der Technologie.
Haftung bei praktischer Kontrolle über KI-Produkte
Der Gesetzesentwurf sieht vor, dass eine Haftung dann greifen soll, wenn Firmen die praktische Kontrolle über jene KI-Produkte ausüben, die an einer Straftat beteiligt sind. Die Liste der vorgesehenen Sanktionen für solche Fälle ist umfassend: Neben hohen Geldstrafen sollen verpflichtende Zahlungen an Opfer der betreffenden Taten eingeführt werden.
Zudem sieht die Vorlage eine gerichtliche Aufsicht für die betroffenen Unternehmen vor. In schwerwiegenden Fällen beinhaltet der Entwurf die Möglichkeit, den Betrieb der entsprechenden Dienste innerhalb des Bundesstaates Florida vollständig auszusetzen. Damit reagiert die Justizbehörde auf die wachsende Sorge vor einem unkontrollierten Einsatz mächtiger Sprachmodelle.
Der Anlass: Die Schüsse an der Florida State University
Direkter Anlass für diesen legislativen Vorstoß sind die Ermittlungen zu einem Gewaltverbrechen an der Florida State University (FSU) im Frühjahr des vergangenen Jahres. Bei der Tat am 17. April 2025 kamen zwei Menschen ums Leben. Die Angaben zur Zahl der Verletzten variieren in den vorliegenden Berichten zwischen fünf und sechs Personen.
Im Zentrum der Untersuchungen stehen Chatprotokolle des Täters Phoenix Ikner. Dieser soll vor den Schüssen den Dienst ChatGPT genutzt haben. James Uthmeier untersucht OpenAI im Zusammenhang mit diesem Vorfall bereits intensiv.
Während die internationale Regulierung von KI-Systemen zunimmt, müssen Unternehmen die komplexen Anforderungen an Haftung und Risikomanagement verstehen. Dieser kostenlose Leitfaden bietet einen fundierten Überblick über Risikoklassen und Dokumentationspflichten für einen rechtssicheren Einsatz. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Der Generalstaatsanwalt gilt als Kritiker der aktuellen Praxis in der KI-Entwicklung und hat in der Vergangenheit bereits rechtliche Schritte gegen OpenAI sowie gegen dessen CEO Sam Altman eingeleitet. Mit dem neuen Gesetz will die Justizbehörde eine festere rechtliche Grundlage für die Bestrafung von Nachlässigkeiten bei der Absicherung von Chatbots schaffen.
Zeitplan und technologische Herausforderungen
Ein sofortiges Inkrafttreten der neuen Regelungen ist jedoch nicht zu erwarten. Der parlamentarische Prozess in Florida lässt eine formelle Gesetzgebung erst ab der im März beginnenden Sitzungsperiode zu. Bis dahin bleibt das Vorhaben eine Ankündigung, die den Rahmen für künftige Regulierungen absteckt.
Wer sich mit der Einführung neuer Technologien befasst, sollte auch die damit verbundenen Sicherheitsrisiken und gesetzlichen Pflichten genau im Blick behalten. Erfahren Sie in diesem kostenlosen Report, wie Sie Ihr Unternehmen proaktiv vor neuen Bedrohungen schützen können. Gratis-E-Book: Cyber Security Bedrohungen abwenden und Ihr Unternehmen schützen
Uthmeier unterstrich die Bedeutung des Vorhabens mit einem Hinweis auf die technische Dynamik der Branche. Er betonte, dass die künstliche Intelligenz in ihrer Entwicklung nicht stehen bleiben, sondern stetig fortschrittlicher werden wird.
Angesichts dieser Entwicklung sieht die Justizbehörde in Florida einen dringenden Handlungsbedarf, um die strafrechtliche Verantwortlichkeit der Softwarehersteller für die potenziellen Auswirkungen ihrer Produkte sicherzustellen.
