„Wir verlieren Idole, die Demokratie ist am Bröckeln. Aber es gibt immer noch eine Person, die Autorität ausstrahlt: der Papst“, sagte Akademiedirektor Gunter Geiger in seiner Begrüßung. Leo XIV. wolle Orientierung in einer Zeit tiefgreifender Umbrüche geben. Die Referentin des Abends bezeichnete er als „eine der profiliertesten Sozialethikerinnen in Deutschland“.
„Dem Papst geht es nicht so sehr um die Technik, sondern vielmehr darum, was diese mit dem Menschen macht“, betonte Nothelle-Wildfeuer. Was den Menschen einzigartig mache, sei seine Würde. Für Leo XIV. gründe diese in der Gottebenbildlichkeit des Menschen. Doch nicht nur im christlich-biblischen Verständnis gelte: Die Würde ist allen Menschen gemeinsam. Mit seiner Enzyklika habe der Papst den Nerv der Zeit getroffen. Entsprechend finde das Schreiben weit über die Kirche hinaus Beachtung.
Leo XIV. ordnet das Thema KI biblisch ein. Dazu verwendet er zwei Bilder. Zum einen den Turmbau zu Babel. Dieser steht für einen Fortschritt der Selbstermächtigung ohne Gottes Segen. Das Projekt scheitert, der Turm stürzt ein. Das zweite Bild ist der Wiederaufbau Jerusalems, wie er im Buch Nehemia beschrieben wird. Aus den Trümmern heraus wird die Stadt mit Geduld Stein für Stein neu errichtet, getragen vom Einsatz des ganzen Volkes. Dies geschehe „zum Schutz der Menschheit und des Gemeinwohls“, wie der Papst schreibt.
Die Entwicklung der KI sei etwas fundamental Neues, das alle Lebensbereiche erfasse. Deshalb sei sie mit dem Epochenbruch der Industrialisierung vergleichbar. KI verändert die Voraussetzungen menschlichen Handelns selbst. Sie berührt Fragen von Vernunft, Entscheidung, Verantwortung, Wahrheit und Freiheit. Deshalb muss die Soziallehre weiterdenken und sich neu vergewissern, was den Menschen gegenüber der Maschine auszeichnet. Sein Vorgänger Leo XIII. nahm mit der Sozialenzyklika Rerum novarum im Jahr 1891 die Arbeiterfrage und die Folgen der Industrialisierung in den Blick. In diesem Sinne könne man Magnifica humanitas durchaus als „Rerum novarum 2.0“ bezeichnen, so die Sozialethikerin.
Allerdings gehe es Leo XIV. nicht nur darum, die bewährten Prinzipien der Katholischen Soziallehre auf eine neue technische Entwicklung anzuwenden. KI werfe grundlegendere Fragen auf und die Kirche müsse neu darüber nachdenken, was den Menschen ausmacht und wodurch er sich von der Maschine unterscheidet. Gerade deshalb fordert Leo XIV. eine Weiterentwicklung der Soziallehre. Die Menschen seien dabei nicht bloß Adressaten päpstlicher Lehre, sondern Weggefährten in einem gemeinsamen Suchprozess, erläuterte Nothelle-Wildfeuer. Gerade deshalb müsse die Kirche die von ihr vertretenen Prinzipien wie Transparenz, Verantwortung und Dialog auch selbst glaubwürdig vorleben.
Was aber darf und kann die KI für den Papst leisten – und was nicht? Zunächst sei sie außerordentlich leistungsfähig, allerdings auf der Grundlage von Daten. Sie sei daher nicht intelligent im menschlichen Sinne, sondern ein System, das Daten verarbeitet und Muster erkennt. Als entscheidende Unterscheidung nennt der Papst: Die Maschine wählt aus, der Mensch entscheidet. Zudem besitzt KI kein Gewissen und kann deshalb keine Verantwortung übernehmen. Besonders bedeutsam sei dies im militärischen Bereich. Für Nothelle-Wildfeuer könne es nicht sein, dass der Mensch lediglich einen Knopf drücke und die KI anschließend den Rest übernehme. „Es muss ein Verantwortlicher in der Entscheidungskette bleiben.“
Eine weitere Gefahr sieht der Papst in der Machtkonzentration großer Technologieunternehmen. Für die Plattformen der Tech-Konzerne gebe es bislang keine ausreichende demokratische Kontrolle. Deshalb brauche es wirksame staatliche Regeln und eine politische Rahmensetzung. Allerdings, so gab Nothelle-Wildfeuer zu bedenken, sei damit die entscheidende Frage noch nicht beantwortet: Wer kontrolliert eigentlich die Kontrolleure? Es mache einen erheblichen Unterschied, ob die Regulierung durch demokratische und rechtsstaatliche Gesellschaften oder durch autoritäre Staaten erfolge.
Kritisch betrachtet Leo XIV. auch das sogenannte „technokratische Paradigma“, einen Begriff, den bereits sein Vorgänger Franziskus geprägt hat. Danach werden Effizienz, Profit und Kontrolle zu den entscheidenden Maßstäben, während menschliche Begrenztheit als Mangel erscheint. Dem setzt der Papst die christliche Sicht vom Menschen entgegen. Der Mensch sei nicht trotz, sondern gerade wegen seiner Begrenztheit ein würdevolles Wesen.
KI-Systeme bergen für den Papst zudem die Gefahr, dass Wahrheit unterlaufen wird. Desinformation habe zwar nicht erst mit der KI begonnen, finde in ihr aber einen wirkungsvollen Verstärker. Für Leo XIV. ist dies „reine Macht ohne Wahrheit“. Wahrheit entstehe dagegen in vertrauensvollen Beziehungen und nicht durch Algorithmen, erläuterte die Referentin. Als Gegenmittel nennt der Papst Transparenz, Datenschutz, unabhängigen Journalismus, Bildung und die Bereitschaft, in bestimmten Bereichen bewusst auf den Einsatz von KI zu verzichten.
Leo XIV. zitiert in seiner Enzyklika aus dem Buch „Der Herr der Ringe Band 3“ von J. R. R. Tolkien: „Doch unsere Sache ist es nicht, die Welt durch alle Zeiten zu steuern, sondern in den Jahren, auf die wir beschränkt sind, zu tun, was wir können, um das Übel auf den uns bekannten Feldern auszujäten, damit jene, die nach uns kommen, einen guten Boden vorfinden“.