Der Oberste Gerichtshof von New Mexico hat den Anwalt Stephen D. Aarons aus Santa Fe wegen Missachtung des Gerichts zu einer Geldstrafe in Höhe von 5.000 US-Dollar verurteilt. Grund für die Sanktion war ein Berufungsschriftsatz in einem Mordfall, der durch den Einsatz von Künstlicher Intelligenz (KI) fingierte Inhalte enthielt.
Neben der Geldstrafe wurde der Jurist an eine Disziplinarkommission verwiesen und bis zum Abschluss des Verfahrens von der Zulassung vor dem Obersten Gerichtshof des Bundesstaates ausgeschlossen.
Der betroffene Schriftsatz bezog sich auf das Verfahren gegen Oscar Renee Sandoval, der im Jahr 2025 wegen des Mordes an Shiereen Al-Jibury zu lebenslanger Haft verurteilt worden war.
Aarons räumte ein, das Programm OpenAI o3 genutzt zu haben, um die umfangreichen Prozessprotokolle zusammenzufassen. Wie sich im Rahmen der gerichtlichen Prüfung herausstellte, enthielt das Dokument jedoch zahlreiche „Halluzinationen“ der Software, die der Anwalt ungeprüft übernahm.
Besonders schwer wog dabei der Umstand, dass die KI nicht nur Personen erfand, sondern auch Aussagen von tatsächlich am Prozess beteiligten Zeugen verfälschte. Betroffen von diesen unzutreffenden Zuschreibungen waren die Zeugen Danny Stanton, Linda Stanton und Mariah Chavez.
Zusätzlich führte der Schriftsatz vier vollständig fiktive Zeugen auf, darunter Namen wie Officer Michelle Amarillo, Officer Sanchez sowie Manal Al-Jibury und Teresa Marquez. Ferner enthielt das Dokument falsche Angaben über die Kleidung des Schützen, die als dunkle Hose und weißes Hemd beschrieben wurde.
Fälle wie dieser zeigen, wie riskant der unkontrollierte Einsatz von KI-Systemen in rechtlichen Belangen sein kann. Welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu sein, erfahren Sie in diesem kostenlosen Report. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen
In einer Anhörung, die bereits im August stattfand, hinterfragte Justice C. Shannon Bacon, weshalb sich Aarons der Risiken beim Einsatz von generativer KI nicht bewusst gewesen sei. Der Anwalt gab an, er habe nicht gewusst, dass die Software Fakten frei erfinden könne.
Das Gericht stellte in seiner Entscheidung fest, dass der Jurist keine Reue gezeigt habe. Infolge der Vorfälle wurde der Fall an die öffentliche Verteidigerin Kim Chavez Cook übertragen. Der Software-Entwickler OpenAI gab zu dem Sachverhalt keine Stellungnahme ab.
Mit der neuen EU-KI-Verordnung kommen auf Unternehmen und Fachabteilungen strikte neue Regeln für den Technologieeinsatz zu. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. Kostenloses E-Book zum EU AI Act sichern
Parallel zu den Entwicklungen in New Mexico sieht sich der Technologiekonzern Meta Platforms mit rechtlichen Herausforderungen hinsichtlich seiner KI-Trainingsmethoden konfrontiert. In Illinois wurde Anfang September eine Sammelklage eingereicht, die dem Unternehmen vorwirft, biometrische Daten aus Facebook- und Instagram-Fotos ohne Einwilligung extrahiert zu haben.
Die Kläger, darunter Francisco Alvarez aus Illinois und Jeremy Wahl aus Kalifornien, machen geltend, dass diese Daten zum Training der Gesichtserkennungsfunktion NameTag sowie der Bildgenerierungsmodelle Emu und Muse Image genutzt wurden.
Die Klage stützt sich auf den Illinois Biometric Information Privacy Act (BIPA) und fordert neben einer Unterlassung auch Schadensersatz. Nach BIPA drohen Strafen von bis zu 5.000 US-Dollar pro vorsätzlicher Verletzung. Meta wies die Vorwürfe als unbegründet zurück und erklärte, es existiere keine zentrale Gesichtsdatenbank.
Zudem bezeichnete das Unternehmen die Darstellungen in der Klageschrift als unzutreffend. Die betroffene Klasse der Kläger könnte Schätzungen zufolge Millionen von Nutzern umfassen, deren Daten seit September 2021 verarbeitet wurden.
