Die katholische Kirche und Menschenrechtsorganisationen schlagen Alarm: Künstliche Intelligenz bedrohe Menschenwürde, Privatsphäre und Arbeitsrechte – und brauche dringend internationale Kontrolle.
„Magnifica Humanitas“ – Ein Manifest gegen die KI-Euphorie
Am 25. Mai veröffentlichte der Vatikan mit „Magnifica Humanitas“ die erste Enzyklika der Kirchengeschichte, die sich ausschließlich mit Künstlicher Intelligenz befasst. Das rund 42.300 Wörter umfassende theologische Manifest wurde am 15. Mai unterzeichnet – dem 135. Jahrestag der Sozialenzyklika „Rerum Novarum“. Papst Leo XIV. präsentierte den Text gemeinsam mit Christopher Olah, Mitgründer des KI-Unternehmens Anthropic.
Anzeige: Die Vatikan-Enzyklika „Magnifica Humanitas“ fordert eine Verlangsamung der KI-Entwicklung und verbindliche ethische Rahmenbedingungen. Wer als Entwickler oder Investor die neuen Anforderungen verstehen will, findet in diesem Report eine Ethik-Checkliste, einen Regulierungsleitfaden und konkrete Prinzipien für menschenzentrierte KI – bevor internationale Kontrollen greifen. Jetzt kostenlosen Ethik-Report anfordern
Die Botschaft ist deutlich: Die Kirche fordert eine Verlangsamung der KI-Entwicklung und verbindliche rechtliche Rahmenbedingungen. Künstliche Intelligenz müsse „entwaffnet“ und dem Gemeinwohl verpflichtet werden.
Das Dokument zieht einen biblischen Vergleich: Stehe der Turmbau zu Babel für technikgetriebene Machtdemonstration, so symbolisiere der Wiederaufbau Jerusalems durch Nehemia gemeinschaftsorientierte Projekte. Technische Fähigkeit bedeute eben noch lange nicht moralische Autorität – KI-Systeme besäßen weder eine Seele noch einen Körper, sie könnten weder Freude noch Schmerz empfinden.
Autonome Waffen und historische Schuld
Die Enzyklika benennt konkrete Gefahren: autonome Waffensysteme, algorithmische Verzerrungen im Gesundheitswesen und die Machtkonzentration auf wenige wohlhabende Nationen. In einer bemerkenswerten Neuausrichtung der katholischen Lehre erklärte der Papst die traditionelle „Lehre vom gerechten Krieg“ angesichts KI-gesteuerter Waffen für überholt.
Noch weiter geht die historische Selbstkritik: Leo XIV. entschuldigte sich ausdrücklich für die Rolle der Kirche bei der Legitimierung von Sklaverei und Kolonialismus. Er zog eine direkte Linie zu heutigen Ausbeutungsverhältnissen – unterbezahlte Datenarbeiter und Kinderarbeit in Minen, die Rohstoffe für Technologiekomponenten liefern.
Amnesty: „Rechtswidrig von Grund auf“
Am heutigen Samstag legte Amnesty International mit einem eigenen Bericht nach. Unter dem Titel „Unlawful by Design“ („Rechtswidrig von Grund auf“) dokumentiert die Organisation systematische Verstöße gegen die Privatsphäre durch führende KI-Unternehmen. Die Vorwürfe richten sich gegen OpenAI, Google, Meta und andere Konzerne, deren Modelle auf unrechtmäßigem Web-Scraping beruhen sollen.
Bereits im Frühjahr hatte der UN-Hochkommissar für Menschenrechte, Volker Türk, gewarnt: Generative KI könne zum „Frankenstein-Monster der Moderne“ werden, wenn sie für wirtschaftliche oder politische Machtinteressen instrumentalisiert werde.
Zwischen Moral und Investments
Die Reaktionen auf das Engagement des Vatikans fallen gemischt aus. Während einige Experten die Enzyklika als prophetisch loben, verweist die renommierte KI-Forscherin Timnit Gebru auf einen wunden Punkt: Der Vatikan selbst habe Beteiligungen an Silicon-Valley-Start-ups – ein potenzieller Interessenkonflikt.
Christopher Olah von Anthropic argumentierte bei der Vorstellung des Dokuments, die Technologiebranche brauche moralische Stimmen, die nicht von kommerziellen Anreizen beeinflusst seien.
USA: Fortschritt auf Landesebene, Blockade im Bund
Während auf globaler Ebene nach Regulierung gerufen wird, zeichnet sich in den USA ein gespaltenes Bild. Am 29. Mai verabschiedete der Bundesstaat Illinois mit SB 315 ein umfassendes Sicherheitsgesetz. Es verlangt von führenden KI-Entwicklern externe Prüfungen und die verpflichtende Kennzeichnung von Chatbot-Interaktionen. Das Gesetz passierte das Repräsentantenhaus mit 110 zu null Stimmen, den Senat mit 52 zu fünf – und erhielt Unterstützung von OpenAI und Anthropic.
Auf Bundesebene hingegen stockt die Regulierung. US-Vizepräsident JD Vance würdigte zwar die moralische Führungsrolle des Papstes. Innenminister Doug Burgum hingegen wies die vatikanischen Warnungen zurück – während das Weiße Haus eine Verfügung zu freiwilligen KI-Sicherheitstests auf Eis gelegt hat.
