Sachverständige vor Gericht müssen den Einsatz von künstlicher Intelligenz bei der Erstellung ihrer Gutachten künftig offenlegen. Auf der Bond-Solon-Konferenz im Londoner Westminster Church House wies Richterin Joanna Smith vom britischen High Court gerichtliche Gutachter an, eine entsprechende Nutzung gegenüber dem Gericht und den beteiligten Anwälten transparent zu machen.
Die Aufforderung gilt insbesondere dann, wenn KI-Systeme den inhaltlichen Kern einer Begutachtung erzeugen oder maßgeblich beeinflussen – und dies unabhängig davon, ob bereits eine ausdrückliche Verfahrensregel existiert.
Smith, die als kommissarische stellvertretende Präsidentin der Abteilung für Wirtschafts- und Eigentumsrecht am High Court fungiert und eine Arbeitsgruppe des Civil Justice Council mitleitete, betonte, dass es nicht um generelle Technologieverbote gehe.
Dennoch berge der Einsatz generativer Modelle handfeste Risiken für Gerichtsverfahren. Dazu zählten erfundene Quellenangaben, ein verzerrter Kontext, ungenaue Analysen sowie der schleichende Verlust der unabhängigen Urteilskraft der Gutachter.
Verhältnismäßiger Ansatz statt neuer Großregulierungen
Die Richterin stützte sich bei ihren Ausführungen auf den Abschlussbericht des Civil Justice Council nach einer achtmonatigen Konsultationsphase zum Einsatz von künstlicher Intelligenz in gerichtlichen Dokumenten. Das Beratungsgremium plädiert darin für einen verhältnismäßigen, risikobasierten Ansatz mit gezielten Schutzmaßnahmen anstelle umfassender Neuregulierungen.
Wer sich mit den rechtlichen Rahmenbedingungen für den Einsatz von Algorithmen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Anforderungen. Dieser kostenlose Umsetzungsleitfaden erklärt kompakt alle Fristen, Pflichten und Risikoklassen des EU AI Act für die Praxis. EU AI Act in 5 Schritten verstehen
Der Rat empfiehlt unter anderem eine spezifische Erklärung für Gutachten, in der Sachverständige ihre Methodik, die Angemessenheit der KI-Verwendung und in Ausnahmefällen auch das konkret genutzte System angeben. Zudem schlägt der Bericht vor, dass Zeugen bezüglich tatsächlicher Begebenheiten förmlich erklären sollen, dass ihre Aussagen weder durch künstliche Intelligenz erzeugt noch beeinflusst wurden.
Anwälte blieben nach den Empfehlungen weiterhin in der vollen Verantwortung für eingereichte Schriftsätze. Der ehemalige Vorsitzende des Gremiums, Sir Geoffrey Vos, der Ende Oktober in den Ruhestand trat, unterstrich in diesem Zusammenhang, dass der Einsatz technischer Hilfsmittel weder die Genauigkeit noch die Verlässlichkeit und Integrität der Rechtsprechung gefährden dürfe.
Der Präsident der britischen Rechtsanwaltskammer Law Society, Brett Dixon, begrüßte die Empfehlungen des Rates und forderte praxisnahe Leitlinien für die juristische Arbeit.
Pflichten zur Unabhängigkeit bleiben unverändert
Die Kernpflichten von Gerichtssachverständigen – Unabhängigkeit, Objektivität, Transparenz und fachliche Kompetenz – bleiben nach Smiths Ausführungen unverändert gültig. Als warnendes Beispiel verwies sie auf den britischen Familienrechtsfall Cornwall Council gegen M und andere.
Während Gerichte weltweit Transparenzregeln festlegen, stellt die EU-KI-Verordnung bereits konkrete Anforderungen an die Dokumentation und Kennzeichnung von Systemen auf. Erfahren Sie in diesem kostenlosen Report, welche KI-Anwendungen als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Report zur KI-Verordnung anfordern
In dem Verfahren hatte ein Sozialarbeiter das Programm Microsoft Copilot zur Erstellung einer behördlichen Elternbewertung verwendet. In der Folge sah sich das Gericht außerstande, der vorgelegten Expertise ein maßgebliches Gewicht beizumessen.
Auch außerhalb des Vereinigten Königreichs rückt die Regulierung digitaler Werkzeuge in den Fokus. So befasst sich der Hauptverband der Gerichtssachverständigen in Österreich Mitte November mit den Grenzen von KI-Anwendungen.
Dessen Präsident Kurt Peter Judmann stellte bereits klar, dass Software in Gutachten zwar nicht verboten sei, die Ausarbeitungen jedoch zwingend von menschlichen Experten verfasst, überprüft und verantwortet werden müssen.
Die eigenständige Beurteilung durch generative Programme bleibe in der Regel unzulässig, während Hilfsdienste wie Vorrecherchen oder Plausibilitätsprüfungen unter strikter Wahrung der Verschwiegenheitspflichten denkbar seien. Sachverständige haften nach den geltenden Standesregeln weiterhin persönlich für ihre Arbeitsergebnisse.