„Magnifica humanitas“: Menschlich bleiben mit KI

Menschlich bleiben

Entschieden wendet sich der Papst gegen Strömungen wie den Transhumanismus und den Posthumanismus. Problematisch sei vor allem die Vorstellung, der Mensch könne technisch „verbessert“ oder seine Begrenztheit überwunden werden. „Wenn der Mensch als Material behandelt wird, das man vervollkommnen oder überwinden muss, dann wird es leichter akzeptabel, dass einige Menschen als weniger nützlich, weniger liebenswert, weniger würdig angesehen werden.“

Deshalb unterstreicht Papst Leo XIV. die Notwendigkeit, die „von Gott geschaffene großartige Menschheit“ zu schützen. In Zeiten von KI bestehe die Pflicht, „zutiefst menschlich zu bleiben“ und jenes Menschsein liebevoll zu bewahren, „das keine Maschine jemals ersetzen kann“. Zugleich betont er den Unterschied zwischen Mensch und KI: Künstliche Intelligenzen hätten weder Bewusstsein noch moralisches Gewissen. Sie wüssten nicht, „was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet“.

Damit KI wirklich dem Gemeinwohl diene, müssten Verantwortlichkeiten klar sein – von den Entwicklern bis zu den Nutzern. Es reiche nicht aus, sich allgemein auf Ethik zu berufen: 

Es bedarf angemessener rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, Aufklärung der Nutzer und einer Politik, die sich nicht ihrer Aufgabe entzieht.“ 

Auch die bloße „Ausrichtung“ von KI auf menschliche Werte genüge nicht. Der Einsatz müsse von klaren Kriterien und wirksamen Kontrollen begleitet werden. Daten sollten stärker reguliert und als gemeinsames oder kollektives Gut verstanden werden.

Außerdem müsse KI „entwaffnet“ werden. „KI zu entwaffnen bedeutet, sie der Logik des bewaffneten Wettbewerbs zu entziehen“, schreibt der Papst. Es gehe nicht darum, auf Technologie zu verzichten, sondern zu verhindern, dass sie den Menschen beherrsche. „Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben.“ Papst Leo XIV. betont, die Menschheit dürfe weder ersetzt noch überwunden werden. Die eigentliche Alternative bestehe nicht zwischen Begeisterung und Angst, sondern zwischen „einem Fortschritt, der den Menschen dient, oder einem Fortschritt, der sie einer Logik der Macht unterwirft“.

Die Enzyklika fordert mehr Transparenz bei der Auswahl und Verbreitung digitaler Inhalte sowie einen besseren Schutz personenbezogener Daten. Ebenso nötig seien die Stärkung zivilgesellschaftlicher Organisationen, seriöser Journalismus und Orte des Austauschs, an denen Argumente mehr zählen als unmittelbare Reaktionen.

Waffen und KI

Im fünften Kapitel stellt Leo XIV. die „Kultur der Macht“ der „Zivilisation der Liebe“ gegenüber. Für den Einsatz KI-gesteuerter Waffen betont er moralische Grenzen und menschliche Verantwortung. Es sei „nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. 

Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte“, schreibt er. 

Kommunikationsnetzwerke und Algorithmen könnten Polarisierung, Ressentiments und Propaganda verstärken. Krieg werde dadurch nicht nur geführt, sondern auch kulturell vorbereitet: durch vereinfachende Narrative, Desinformation und Angst.

Der Papst spricht sich deshalb für eine Überwindung der Theorie des „gerechten Krieges“ aus. Die Menschheit verfüge über wirksamere Mittel wie Dialog, Diplomatie, Multilateralismus und Vergebung, um Konflikte zu bewältigen. Internationale Organisationen, insbesondere die Vereinten Nationen, seien unverzichtbare Instrumente zur Förderung einer Zivilisation der Liebe, zur Unterstützung des Dialogs zwischen den Nationen, der friedlichen Konfliktlösung, der ganzheitlichen Entwicklung der Völker, des Schutzes der Schwächsten, der Abrüstung und der Bewahrung der Schöpfung.

Empfehlungen an die Politik

Die Enzyklika formuliert keine parteipolitische Agenda, enthält aber zahlreiche Empfehlungen für politisches Handeln. Politik solle KI und Digitalisierung aktiv gestalten – durch Regulierung, Transparenz, Datenschutz, Bildung, Kinderschutz, gerechte Arbeit, internationale Kooperation und klare Grenzen für KI im Krieg. Sie sollte notfalls auch „bremsen“, um Räume zu schützen, in denen Gemeinschaften noch mitwirken und Fragen stellen können.

Für die Arbeitswelt fordert der Papst soziale Kriterien für Innovation. Die Einführung von Automatisierung und KI müssten mit Maßnahmen zum Schutz der Beschäftigten, Umschulung und Mitbestimmung verbunden werden. Lieferketten der Technologiebranche sollten transparenter werden, damit kein Wettbewerbsvorteil auf unsichtbarer Ausbeutung beruhe.

Auch große Plattformen müssten stärker reguliert werden, wenn ihre Interessen dem Wohl von Kindern widersprächen. Genannt werden Altersgrenzen, mehr Verantwortung der Anbieter und Schutz vor sexueller Ausbeutung und Gewalt im Internet. Wirtschaftlich-technologische Entwicklungen dürften nicht allein der „unsichtbaren Hand“ des Marktes überlassen werden, sondern müssten am Gemeinwohl ausgerichtet sein.

Zugleich verpflichtet die Enzyklika die Kirche selbst zu einem Glaubwürdigkeitsprogramm. Sie enthält zwar keine verbindlichen Vorschriften für Einrichtungen und Mitarbeitende der Kirche zum Umgang mit KI, macht jedoch deutlich: Die Soziallehre sei auch eine „Gewissenserforschung für die Kirche“ und müsse „vor allem auch in ihrem Inneren gelebt werden“. Damit steht die Erwartung im Raum, dass kirchliche Akteure in ihrem jeweiligen Bereich für die Ideen der Enzyklika eintreten und auch danach handeln.

Der Papst spricht in diesem Zusammenhang von einer „synodalen Gestalt“ des Gemeinwohls und verweist auf die Beschlüsse der Weltsynode, die die Mitwirkung der Gläubigen in kirchlichen Beratungs- und Entscheidungsgremien stärkt. Auch digitale Bildung solle in den eigenen Reihen beginnen: 

Wir alle müssen uns dazu erziehen, in der digitalen Welt menschlich zu bleiben.“ 

Hier könnten katholische Schulen und Erwachsenenbildung ihren Beitrag leisten.

Der Papst appelliert an die gemeinsame Verantwortung aller, Innovationen mit Weitsicht zu steuern: „durch Institutionen, die in der Lage sind, zu regulieren, ohne zu ersticken, und zu schützen, ohne sich an die Stelle anderer zu setzen; durch Unternehmen, die Arbeit und Würde als Kriterien für den Erfolg anerkennen; durch intermediäre Körperschaften und Bildungsgemeinschaften, die Vertrauen und Beziehungen wiederaufbauen; und durch Bürger, die Verantwortung, Besonnenheit, Urteilsvermögen und einen Sinn für die Wahrheit pflegen.“ Am Ende ruft die Enzyklika dazu auf, nicht „resignierte Zuschauer“ zu sein, sondern sich aktiv in die Gestaltung der Transformationsprozesse einzubringen. Den Gläubigen gibt Papst Leo XIV. mit auf den Weg: 

Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“ 

Er zeigt ihnen eine klare Richtung: „Technik weiterentwickeln, ohne das Herz dabei verkümmern zu lassen.“

AI-Act der EU und Ethikrat

In seinem Lehrschreiben verweist Papst Leo XIV. vor allem auf frühere eigene Äußerungen und auf Dokumente seiner Vorgänger. Aktuelle Beiträge aus Forschung und Wissenschaft bleiben hingegen weitgehend unerwähnt. Auch die KI-Verordnung der Europäischen Union (AI Act) erwähnt er zwar nicht, dennoch regelt sie bereits viele der Bereiche, die auch der Papst anspricht. Der am 21. Mai 2024 verabschiedete AI Act ist das weltweit erste umfassende Regelwerk für KI, muss aber in den meisten der 27 EU-Mitgliedstaaten noch in nationalen Gesetzen umgesetzt werden. Er verfolgt einen risikobasierten Ansatz: Je höher das Risiko einer Anwendung, desto strenger die Vorgaben. Verboten sind etwa Systeme zur Manipulation menschlichen Verhaltens oder KI-basiertes „Social Scoring“, also die Vergabe von Punkten nach erwünschtem Verhalten. Zudem gilt eine Transparenzpflicht für KI-erzeugte Inhalte. Hochriskante KI-Systeme – etwa in kritischer Infrastruktur, Gesundheits- und Bankenwesen oder Beschäftigung – müssen strenge Anforderungen erfüllen, um für den EU-Markt zugelassen zu werden.

Auch die Stellungnahme des Deutschen Ethikrats, in dem auch die Kirche vertreten ist, stimmt in ihrer Grundrichtung mit der Enzyklika überein: KI soll dem Menschen dienen und nicht Verantwortung, Würde, Freiheit und Urteilskraft ersetzen. Unterschiede liegen vor allem im Begründungsrahmen: Die Enzyklika argumentiert theologisch-sozialethisch und universaler, bleibt dadurch auch in vielen Punkten vage; die Ethikratsstellungnahme vom 20. März 2023 untersucht KI vor allem danach, ob sie „menschliche Autorschaft und Handlungsmöglichkeiten“ erweitert oder vermindert. Sie ist rechts- und institutionenethisch orientiert, und gibt konkrete Empfehlungen für die Bereiche Medizin, Bildung, öffentliche Kommunikation und Verwaltung. Beide Dokumente betonen jedoch deutlich: „KI darf den Menschen nicht ersetzen“.

Eine Initiative, die dem Wunsch des Papstes nach breiter Partizipation bei der Mitgestaltung des KI-Zeitalters entspricht, ist der „Code of Conduct Demokratische KI“, der bereits von mehr als 70 Organisationen der deutschen Zivilgesellschaft, darunter Caritasverbände, unterzeichnet wurde. Es handelt sich dabei um eine Selbstverpflichtung und einen Verhaltenskodex für den verantwortungsvollen Einsatz von Künstlicher Intelligenz. Ziel ist es, gemeinwohlorientierte Akteure zu befähigen, KI reflektiert sowie im Einklang mit demokratischen Werten zu entwickeln und zu nutzen.

Text: Geraldo Hoffmann

Pfingstwunder 2.0: „Der Heilige Geist der Maschine wird ausgeschüttet über alle“

Künstliche Intelligenz in der Beratung: Wenn der Chatbot mitredet

Wie Technikglaube unser Welt- und Menschenbild verändert

Bildquelle: Papstbild