Deepfakes vor Gericht: OpenAI und Meta warnen vor kaum erkennbaren Fälschungen

OpenAI und Meta warnen vor schwer erkennbaren KI-Medien; der US-Ausschuss prüft mögliche Beweisregeln weiter.

•

Führende Technologiekonzerne haben die US-Justiz vor erheblichen Schwierigkeiten bei der Beurteilung digitaler Beweismittel gewarnt. Bei einer Anhörung des US-Beraterausschusses für Beweisregeln der Justizkonferenz am 15. Oktober 2026 in Boston machten OpenAI-Policy-Counsel Shira Anderson und Metas Produktmanagement-Direktor Devin Norder deutlich, dass künstlich generierte Bild-, Audio- und Videoinhalte mittlerweile kaum noch von authentischem Material unterschieden werden können.

Fehlende Standards und verlässliche Erkennung

Anderson betonte vor dem Ausschuss, dass es voraussichtlich keine wissenschaftliche Methode geben werde, mit der sich alle Fälschungen lückenlos erkennen ließen. Bestehende Erkennungswerkzeuge und digitale Wasserzeichen seien niemals vollständig verlässlich.

Zudem fehle trotz gesetzlicher Verpflichtungen zu Wasserzeichen in der Europäischen Union und im US-Bundesstaat Kalifornien ein übergreifender Industriestandard, da jedes Technologieunternehmen bislang ein eigenes System einsetze.

Norder erklärte für Meta, dass die neuesten Modelle Medien erzeugen, die für menschliche Betrachter nicht mehr als Fälschung identifizierbar seien. Gleichzeitig seien sowohl der zeitliche Aufwand als auch die finanziellen Hürden für die Erstellung synthetischer Inhalte bereits sehr niedrig.

Experten warnen vor diesem Hintergrund davor, dass fehlende Standards die forensische Bewertung von Ton- und Videoaufnahmen zunehmend unsicher machen. Gerichte könnten dadurch künftig vor großen Problemen stehen, wenn es um die Echtheit vorgelegter Beweismittel geht.

Anzeige

Wer sich mit der rechtssicheren Implementierung von KI befasst, muss die neuen regulatorischen Anforderungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Pflichten, Fristen und Risikoklassen der aktuellen EU-Gesetzgebung. EU AI Act in 5 Schritten verstehen

US-Justiz zögert bei neuen Sonderregeln

Trotz der deutlichen Warnungen aus der Industrie entschied sich der US-Beraterausschuss für Beweisregeln vorerst gegen unmittelbare regulatorische Anpassungen. Die Juristen berieten in Boston über einen Entwurf für eine Regel 901(c) zu Deepfakes sowie über eine Überarbeitung der Regel 707 für Beweise durch künstliche Intelligenz. Beide Initiativen wurden vorerst nicht verabschiedet.

Der Entwurf für Regel 901(c) sieht vor, dass eine anfechtende Partei zunächst konkrete Anhaltspunkte für eine Fälschung vorlegen muss. Erst danach läge die Pflicht bei der einbringenden Partei, die überwiegende Echtheit des Materials darzulegen.

Zudem war eine angemessene Vorankündigung vor dem eigentlichen Prozess vorgesehen. Der Ausschuss gab den Entwurf jedoch nicht für die öffentliche Kommentierung frei. Wie der Ausschussvorsitzende Richter Jesse Furman anmerkte, tritt eine entsprechende Regelung frühestens am 1. Dezember 2028 in Kraft.

Anzeige

Die rechtlichen Rahmenbedingungen für künstliche Intelligenz stellen Unternehmen vor neue Herausforderungen bei der Dokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Einhaltung der neuen Regeln sicherstellen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen

Auch bei der Regel 707 bleibt das Vorgehen abwartend. Nachdem die Regel im Mai 2025 zurückgezogen und zur Überarbeitung zurückverwiesen worden war, lag eine Fassung im August 2025 vor.

Bis zum 16. Februar 2026 gingen dazu 59 schriftliche Rückmeldungen ein, während die Agenda mehr als 70 Kommentare umfasste. Anstatt neue Regeln zu erzwingen, setzte der Ausschuss nun eine Untergruppe zur vertieften Prüfung ein. Richterin Valerie Caproni warnte in diesem Zusammenhang vor voreiligen Sonderregeln für künstliche Intelligenz.

Bisher spiegeln sich die technologischen Risiken nur vereinzelt im Gerichtssaal wider: In einer Erhebung des Federal Judicial Center aus dem März 2026 gaben lediglich 15 von 931 befragten Richtern an, bereits mit Streitigkeiten über mutmaßlich KI-gefälschte Beweise konfrontiert gewesen zu sein.