Genf. UN-Generalsekretär António Guterres hat die internationale Gemeinschaft zum entschlossenen Handeln gegen die rasante Entwicklung künstlicher Intelligenz aufgerufen. Zum Auftakt des ersten globalen Dialogs zur KI-Regulierung in Genf warnte er am heutigen Montag, dass die Technologie häufig schneller ausgerollt werde, als Institutionen notwendige Schutzmaßnahmen etablieren könnten. Die heutige Generation sei womöglich die letzte, die die Bedingungen für ein Zusammenleben von Mensch und Maschine festlegen könne.
Mächtige KI-Konzerne und schwache Regierungen
Ein Bericht des unabhängigen internationalen Wissenschaftsgremiums für KI, dem 40 Experten unter dem Vorsitz von Yoshua Bengio und Maria Ressa angehören, offenbart ein strukturelles Missverhältnis. Während das Internet 15 Jahre brauchte, um eine Milliarde Nutzer zu erreichen, gelang der KI dieser Sprung in nur zwei Jahren. Die Geschwindigkeit der technologischen Entwicklung überfordere die Fähigkeit von Regierungen, Standards zu setzen oder Technologien zu bewerten.
Die Machtkonzentration in der Branche ist enorm. Von den 500 leistungsstärksten KI-Supercomputern weltweit entfallen 75 Prozent auf die USA, China hält 15 Prozent. Besonders dramatisch ist das Gefälle bei der digitalen Infrastruktur: Vertreter Libyens wiesen darauf hin, dass in Afrika, wo zehn Prozent der Weltbevölkerung leben, weniger als zwei Prozent der globalen Rechenzentren stehen.
Schon heute sichtbare Schäden
Die Wissenschaftler identifizierten mehrere Risiken, die sich bereits jetzt realisieren: Sicherheitslücken in der Cybersicherheit, betrügerisches Verhalten automatisierter Systeme und emotionale Abhängigkeiten, die bei Minderjährigen bereits zu tragischen Folgen geführt haben. Guterres betonte, dass Kinder vor den Gefahren der Technologie besonders geschützt werden müssten.
Die rasante Entwicklung der Künstlichen Intelligenz bringt nicht nur Chancen, sondern auch neue rechtliche Verpflichtungen für Unternehmen mit sich. Dieser kostenlose Ratgeber hilft Ihnen, die komplexen Anforderungen des EU AI Act und die damit verbundenen Risikoklassen schnell zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Kinder schützen – drei klare Regeln
Der UN-Chef schlug einen neuen „KI-Kindersicherheitspakt“ vor. Drei Kernregeln sollen für Technologiekonzerne verbindlich werden:
- KI-Systeme müssen nachweislich kindersicher sein, bevor sie freigegeben werden.
- Null Toleranz bei der Erstellung von Material über sexuellen Kindesmissbrauch.
- In Not geratene Kinder, die mit KI interagieren, müssen sofort an menschliche Unterstütungsdienste weitergeleitet werden.
Hintergrund sind dokumentierte Fälle, in denen automatisierte Systeme Minderjährige zur Selbstverletzung ermutigt haben.
Vier Prioritäten für die Weltgemeinschaft
Die Vereinten Nationen haben vier Handlungsfelder definiert: gemeinsame Sicherheitsstandards, verbindliche Menschenrechtsgrenzen, ein globaler KI-Fonds zur Unterstützung von Entwicklungsländern sowie eine Initiative zur Offenlegung der Umweltauswirkungen.
Guterres forderte zudem, dass alle Rechenzentren bis 2030 mit erneuerbarer Energie betrieben werden. Erneute Unterstützung erhielt sein Aufruf für ein internationales Verbot autonomer Waffensysteme – sogenannter „Killerroboter“.
Während die Weltgemeinschaft über globale Standards debattiert, müssen Unternehmen bereits heute konkrete Anforderungen der EU-KI-Verordnung umsetzen. Compliance-Experten informieren in diesem kostenlosen Umsetzungsleitfaden über alle relevanten Übergangsfristen und drohende Strafen bei Verstößen. Jetzt kostenlos herunterladen: Der Umsetzungsleitfaden zum EU AI Act
Bedenken aus aller Welt
Mehr als 170 Länder nehmen an dem Dialog in Genf teil, der Teil einer größeren Digitalwoche ist. Während KI-Assistenten bereits von über einer Milliarde Menschen wöchentlich genutzt werden, äußerten viele Delegierte politische und gesellschaftliche Sorgen. Vertreter Georgiens warnten davor, dass KI zu einem Instrument totalitärer Kontrolle werden könnte. Andere Länder betonten die Notwendigkeit einer inklusiven Beteiligung an der Regulierung.
Ein erster Bericht des Wissenschaftsgremiums wurde bereits am 1. Juli veröffentlicht. Eine umfassendere Bewertung und ein zweites globales Treffen sind für nächstes Jahr in New York geplant.
