Ein Senatsausschuss in Australien hat die Anhörungen zu einem Gesetzentwurf für eine digitale Sorgfaltspflicht begonnen. Die geplante Regelung soll Plattformbetreiber dazu verpflichten, systemische Risiken durch Algorithmen sowie Anwendungen künstlicher Intelligenz systematisch zu identifizieren und abzuschwächen. Bei schwerwiegenden Verstößen sieht das Gesetzesvorhaben Strafen von bis zu A$109 Mio. vor.
Gesetzgeber plant weitreichende Pflichten für Tech-Konzerne
Die Digital Duty of Care Bill erfasst ein breites Spektrum digitaler Angebote, darunter soziale Netzwerke, Suchmaschinen, mobile Applikationen, Online-Spiele sowie KI-basierte Chatbots. Zu den vorgesehenen Maßnahmen gehört unter anderem die Vorgabe, dass Nutzerinnen und Nutzer ab einem Alter von 16 Jahren eigenständig zwischen einem algorithmenbasierten Feed und einer reinen Chronik gefolgter Profile wählen können müssen.
Australiens Kommunikationsministerin Anika Wells verteidigte die Gesetzesinitiative als entschlossenen Schritt. Sie betonte, dass Algorithmen und KI-Werkzeuge verbindliche Vorgaben benötigten. Wer Systeme entwickle, trage auch die Verantwortung für die davon ausgehenden Risiken. Nach Angaben von Wells hätten zuletzt fast vier von zehn australischen Kindern schädliche Erfahrungen auf der Plattform YouTube gemacht.
Das Gesetzespaket war am 15.10.2026 ins Parlament eingebracht worden und passierte das Unterhaus am 28.10.2026. Um Rechtskraft zu erlangen, benötigt die Regierung nun eine parteiübergreifende Mehrheit im Senat, wofür bis zum Jahresende lediglich noch eine Sitzungswoche verbleibt.
Bedenken der Branche vor Überregulierung und Sperren
In der parlamentarischen Anhörung schilderten betroffene Eltern schwerwiegende Vorfälle aus dem familiären Umfeld, darunter Fälle von Suizid nach der massenhaften Verbreitung gefälschter nacktbilder an fast 3.000 Empfänger sowie Fälle digitaler Erpressung mit intimen Inhalten.
Große Technologieunternehmen wie Meta, Google, TikTok Australia und Snap signalisierten grundsätzliche Zustimmung zum Schutzgedanken, äußerten jedoch erhebliche Vorbehalte gegen den vorliegenden Entwurf. Vertreter der Konzerne bemängelten vage Rechtsbegriffe, weitgehende Durchgriffsrechte der Behörden sowie eine aus ihrer Sicht überstürzte Konsultationsphase.
Wer sich mit der zunehmenden Regulierung von KI-Systemen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden erklärt die wichtigsten Fristen, Pflichten und Risikoklassen für Unternehmen kompakt und verständlich. EU AI Act in 5 Schritten verstehen
Unklare Schadenskategorien schafften Rechtsunsicherheit und könnten Betreiber dazu verleiten, vorsorglich auch rechtmäßige Inhalte zu entfernen. Kleinere Unternehmen forderten zudem Ausnahmeregelungen für risikoarme Internetdienste.
Rachel Lord, Politikchefin für Australien und Neuseeland bei Google, warnte im Rahmen der Anhörung vor konkreten Auswirkungen bestimmter Klauseln. Eine Bestimmung verlange Maßnahmen zur Altersverifikation, sobald ein vernünftigerweise vorhersehbares Risiko bezüglich pornografischer oder fetischbezogener Inhalte bestehe. Dies könne Google dazu zwingen, Personen unter 18 Jahren den Zugriff auf Dienste wie Gmail, Messaging-Funktionen und privaten Cloud-Speicher vorsorglich zu verwehren. Google plädiere daher dafür, derartige Prüfpflichten auf Plattformen zu beschränken, deren Hauptzweck in solchen Inhalten liege.
Angesichts neuer technologischer Bedrohungen und strengerer Gesetze stehen viele Verantwortliche vor der Herausforderung, ihre Sicherheitsstrategie anzupassen. Ein kostenloser Report klärt auf, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Entwicklungen jetzt wirklich auf Unternehmen zukommen. Gratis-E-Book zu Cyber Security Trends herunterladen
Unternehmen wie Meta, TikTok und Snap kritisierten zudem behördliche Eingriffsbefugnisse, die ohne parlamentarische Kontrolle greifen könnten, sowie Pläne für verdeckte behördliche Testkonten. Meta forderte darüber hinaus den ausdrücklichen Schutz starker Ende-zu-Ende-Verschlüsselung.
Der Konzern verzeichnete im Jahr 2026 in den Vereinigten Staaten bereits zwei Multimilliarden-Vergleiche und Strafen im Zusammenhang mit Kindersicherheit, Plattformsucht und Datenschutz, darunter eine Strafe über 25 Mrd. US-Dollar (A$36 Mrd.) nach einem Geschworenenurteil.
Diskussion über private Klagerechte und KI-Einschränkungen
Auch Politiker und Interessengruppen brachten Einwände vor. Senatorin Sarah Henderson warnte vor Gefahren für die Meinungsfreiheit und kritisierte unpräzise Formulierungen wie feindselige Haltungen gegenüber Frauen. Die Free-Speech-Union merkte an, dass eine flächendeckende KI-gestützte Inhaltskontrolle australischer Beiträge rund 2% des nationalen Energieverbrauchs binden könnte.
Parallel dazu forderten mehr als 80 von einer zivilgesellschaftlichen Denkfabrik organisierte Gruppen, darunter jüdische und islamische Verbände, die Einführung eines privaten Klagerechts, das auch Hassrede aufgrund von Rasse und Religion umfassen solle. Unterstützung für ein Klagerecht und am globalen Umsatz bemessene Strafen kam von der Initiative Teach Us Consent.
Senatorin Hanson-Young gab zu bedenken, dass bisherige Regelungen Betroffenen keine direkten Rechtsmittel böten. Juristische Experten verwiesen darauf, dass die Regulierungsbehörde eSafety im letzten Jahr über 100.000 Beschwerden erhalten, jedoch nur in 2% der Fälle gehandelt habe.
Google verwies seinerseits auf das Modell des australischen Arbeitsschutzgesetzes, welches individuelle Klagerechte explizit ausschließt. Ministerin Wells zeigte sich gegenüber solchen Rechtswegen jedoch gesprächsbereit.
Die eSafety-Kommissarin Julie Inman Grant empfahl in ihrer Stellungnahme klarere Mindeststandards für Plattformen. Gleichzeitig legten Vertreter der Grünen sowie parteiunabhängige Abgeordnete Änderungsvorschläge vor, um KI-Chatbots zu verbieten, die emotionale Bindungen simulieren und Abhängigkeiten bei Kindern verstärken können.
Gegen solche Verbote regte sich jedoch bereits Widerstand aus Teilen der Opposition, die auf mangelnde Durchsetzbarkeit und unverhältnismäßige Staatseingriffe verwiesen.