Die australische Fair Work Commission (FWC) hat in einer aktuellen Entscheidung die Risiken automatisierter Rechtsberatung verdeutlicht. Ein ehemaliger Mitarbeiter des Einzelhandelskonzerns ALDI, Sadnan Khan, wurde dazu verpflichtet, Anwaltskosten in Höhe von 1.230 Dollar zu tragen. Hintergrund der Entscheidung ist ein gescheitertes Verfahren, in dem der Kläger auf fehlerhafte Informationen einer künstlichen Intelligenz (KI) vertraut hatte.
Nachdem Khan im Rahmen einer rechtlichen Auseinandersetzung mit seinem früheren Arbeitgeber unterlegen war, prüfte die Kommission die Umstände seiner Antragsstellung. Dabei stellte sich heraus, dass der Kläger ChatGPT als eine Art Quasi-Rechtsberater genutzt hatte.
Die von der Software generierten Ratschläge wurden von der zuständigen Kommission als eindeutig falsch eingestuft. Diese fehlerhafte Grundlage habe dazu geführt, dass Khan einen von vornherein aussichtslosen Fall verfolgte, was letztlich die Verurteilung zur Kostentragung nach sich zog.
Wachsender Trend zu KI-generierten Anträgen
Der Fall Khan ist kein isoliertes Ereignis, sondern spiegelt eine breitere Entwicklung in der australischen Rechtslandschaft wider. Den Daten der Fair Work Commission zufolge ist die Zahl der Fälle, die einen direkten Bezug zur Nutzung von künstlicher Intelligenz aufweisen, zuletzt um 40 % gestiegen.
Die zunehmende Zugänglichkeit von Sprachmodellen verleitet offenbar immer mehr Privatpersonen dazu, komplexe juristische Schriftsätze ohne professionelle menschliche Expertise zu erstellen.
Wer sich mit dem Einsatz von künstlicher Intelligenz im professionellen Umfeld befasst, muss die rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Compliance-Leitfaden zur KI-Verordnung jetzt kostenlos herunterladen
Die Kommission betonte in diesem Zusammenhang die Gefahren, die von solchen Systemen ausgehen, wenn sie als Ersatz für qualifizierte Rechtsberatung dienen.
Da KI-Modelle dazu neigen, Fakten oder rechtliche Präzedenzfälle falsch darzustellen – ein Phänomen, das in Fachkreisen oft als Halluzination bezeichnet wird –, entstehen für die Antragsteller erhebliche finanzielle und rechtliche Risiken. Im aktuellen Fall führte die Fehlberatung durch die KI direkt zu der Sanktionierung durch die Justizbehörde.
Neue Offenlegungspflichten für juristische Verfahren
Als Reaktion auf die steigende Zahl KI-bezogener Vorfälle verschärft die australische Arbeitskommission die regulatorischen Anforderungen. Ab dem 20. Oktober 2026 tritt eine neue Regelung in Kraft, die eine strikte Offenlegungspflicht für die Nutzung von künstlicher Intelligenz vorsieht.
Antragsteller müssen dann explizit angeben, ob und in welchem Umfang KI-Tools bei der Erstellung von Dokumenten oder der Vorbereitung ihrer Argumentation zum Einsatz kamen.
Die rechtssichere Nutzung von KI-Systemen erfordert die Einhaltung komplexer Dokumentationspflichten und Übergangsfristen. Ein kostenloser Download verschafft Ihnen den notwendigen Überblick über alle Anforderungen des EU AI Acts für Ihre Abteilung. EU AI Act in 5 Schritten verstehen – Zum kostenlosen E-Book
Diese Maßnahme soll die Transparenz erhöhen und den Kommissaren ermöglichen, eingereichte Unterlagen kritischer auf KI-typische Fehlerquellen zu prüfen. Die Behörde reagiert damit auf die Herausforderung, die Integrität rechtlicher Prozesse in einer Zeit zu wahren, in der automatisierte Texte kaum noch von menschlichen Schriftsätzen zu unterscheiden sind, inhaltlich jedoch gravierende Mängel aufweisen können.
Trotz der jüngsten Niederlage und der verhängten Geldstrafe zeigt sich der Betroffene Sadnan Khan uneinsichtig hinsichtlich der technologischen Unterstützung. Er erwäge derzeit, Berufung gegen die Entscheidung der Fair Work Commission einzulegen. Dabei plant Khan nach eigenen Angaben, erneut auf verschiedene KI-Werkzeuge zurückzugreifen.
Neben ChatGPT wolle er für das weitere Verfahren auch das Modell Claude einsetzen, um seine rechtliche Position zu untermauern. Ob die erneute Nutzung automatisierter Tools in einem möglichen Berufungsverfahren zu einem anderen Ergebnis führen wird, bleibt angesichts der klaren Positionierung der Kommission zweifelhaft.
