Am ersten Tag in Frankreich stellte Papst Leo XIV die künstliche Intelligenz in den Mittelpunkt einer Rede, die er im Élysée-Palast vor Emmanuel Macron hielt. Er warnte vor dem Risiko, dass eine Gesellschaft, die von den Versprechungen der Maschinen verführt wird, die menschliche Autonomie, die Vielfalt des Bewusstseins und die Fähigkeit zur Unterscheidung opfert. Von der Konzentration technologischer Macht bis hin zum Schutz junger Menschen appelliert sein Eingreifen, diese Transformation mit einer ethischen Reflexion und einer kollektiven Governance zu gestalten.
Im Élysée: eine Warnung zur Rolle des Menschen
Nachdem er einige Stunden zuvor in Frankreich angekommen war, widmete Leo XIV einen Teil seines Besuchs einer Frage, die nun die politischen, wirtschaftlichen und sozialen Debatten durchzieht: welche Rolle soll der künstlichen Intelligenz in den menschlichen Gesellschaften zugemessen werden? Vor dem Präsidenten der Republik warnte der Papst vor einer Zukunft, in der die Überfülle an Technologien das, was die Person auszeichnet und schützt, in Vergessenheit geraten lässt.
Sein Eingreifen bezog sich nicht nur auf die Leistungsfähigkeit digitaler Werkzeuge. Vielmehr stellte der Papst die gesellschaftlichen Entscheidungen in Frage, die mit ihrer Entwicklung verbunden sind: Wer entwirft sie, wer kontrolliert sie und zu welchen Zwecken werden sie verwendet? Er rief dazu auf, die Maschinen nicht allein die kollektiven Prioritäten definieren zu lassen, noch die Individuen auf Daten, Profile oder berechnete Ergebnisse zu reduzieren.
Für Leo XIV besteht das Risiko darin, einen technologischen Fortschritt ohne Grenzen als solchen zu betrachten, der Komfort, Schnelligkeit und Effizienz verspricht, aber auch die Verhaltensweisen und Entscheidungen prägen könnte. Er betonte daher die Notwendigkeit, den Menschen ins Zentrum aller Überlegungen zur KI zu stellen.
Das Urteilsvermögen angesichts des „Paradieses der Maschinen“
Der Papst griff eine Formulierung auf, die mit dem Schriftsteller Georges Bernanos verbunden ist, um seine Befürchtung über einen Wandel zu äußern, in dem die zunehmende Präsenz der Maschinen die Menschlichkeit verändern könnte. Diese Warnung zielt insbesondere auf eine Kultur der Effizienz ab, die dazu neigen könnte, Schnelligkeit und Rentabilität über Freiheit, Verantwortung und persönliches Urteil zu stellen.
Angesichts von Systemen, die in der Lage sind, Texte zu generieren, Inhalte zu empfehlen oder Aufgaben zu automatisieren, wird das ethische Urteilsvermögen seiner Meinung nach zur Notwendigkeit. Es geht nicht darum, jegliche Innovation abzulehnen, sondern darum, das Wissen und die Orientierung zu entwickeln, die notwendig sind, um die Auswirkungen zu bewerten. Die Frage ist auch, ob die Menschen die Möglichkeit behalten, die Werkzeuge zu verstehen, deren Entscheidungen anzufechten und die Art und Weise zu wählen, wie sie in ihr Leben eingreifen.
Diese Sorge trifft auf die Bedenken, die die rasche Einführung dieser Technologien aufwirft. In Frankreich hat das Interesse an Diensten der künstlichen Intelligenz einen großen Teil der Bevölkerung erreicht, wobei die Nutzung insbesondere bei den Jüngeren ausgeprägt ist, wie dieser Artikel über die Erkundung der KI-Dienste durch die Franzosen berichtet. Diese Verbreitung verstärkt die Herausforderung der Bildung: Die Nutzung dieser Werkzeuge setzt auch voraus, ihre Grenzen und Auswirkungen zu verstehen.
Die Freiheit und die Vielfalt des Bewusstseins bewahren
Leo XIV trat dafür ein, dass eine freie Gesellschaft nicht danach streben sollte, das Denken zu vereinheitlichen. Sie sollte im Gegenteil die Vielfalt des Bewusstseins bewahren, den Dialog fördern und verhindern, dass mächtige Technologien zu Instrumenten der Kontrolle werden. Diese Wachsamkeit betrifft sowohl ihre Gestaltung als auch ihren Einsatz in Institutionen, Unternehmen und alltäglichen Diensten.
Algorithmen können Einfluss auf die Informationen haben, auf die jeder zugreift, auf die ihm angebotenen Wahlmöglichkeiten und auf die Entscheidungen, die über ihn getroffen werden. Somit ist ihr Funktionieren keine rein technische Angelegenheit. Die Regeln, die sie regulieren, die Transparenz ihrer Verwendung und die Möglichkeit, ihren Verantwortlichen zur Rechenschaft zu ziehen, sind ebenfalls Teil demokratischer Entscheidungen.
Das kulturelle Leben veranschaulicht auch die Vielfalt der möglichen Anwendungen. Künstliche Intelligenz kann ein Werkzeug zur Schaffung oder Zusammenarbeit werden, wirft aber Fragen zur Rolle der Künstler und zur Natur des Werks auf. Der Film Oedipus, King of IA, der mit der Teilnahme einer künstlichen Intelligenz produziert wurde, bietet ein konkretes Beispiel für diese neuen Formen der Produktion.
Eine Transformation, die über bloße technische Innovation hinausgeht
Die Überlegungen des Papstes fügen sich in eine ältere Tradition der sozialen Lehre der Kirche ein. Sein päpstlicher Name erinnert an Leo XIII, der Ende des 19. Jahrhunderts einen bedeutenden Text zu den Umwälzungen der Arbeit und des Kapitals während der industriellen Revolution verfasste. Laut François Mabille, Direktor des geopolitischen Observatoriums der Religion, betrachtet Leo XIV die KI als eine tiefgreifende Transformation, die in ihrem Umfang mit den Veränderungen durch die Industrialisierung vergleichbar ist.
In dieser Hinsicht kann künstliche Intelligenz nicht als bloße kommerzielle Neuheit behandelt werden. Sie verändert die beruflichen Tätigkeiten, den Informationsfluss und die Machtverhältnisse. Die versprochenen Produktivitätsgewinne werfen eine zentrale Frage auf: Wer wird von dem produzierten Reichtum profitieren und wer wird die Macht haben, über seine Verwendung zu entscheiden?
Die angekündigten Investitionen in diesem Bereich verstärken diese Frage. Paolo Benanti, Berater des Vatikans zu Fragen der künstlichen Intelligenz, erwähnte beträchtliche Beträge, die von den größten Technologieunternehmen investiert werden. Eine solche Konzentration finanzieller Mittel und Rechenkapazitäten kann den Einfluss einer begrenzten Anzahl von Akteuren erhöhen, während Staaten und Bürger Schwierigkeiten haben, Einfluss auf die getroffenen Entscheidungen zu nehmen.
Konzentration der Macht und internationale Governance
Die Kontrolle über Daten, digitale Infrastrukturen und computertechnische Leistung stellt ein strategisches Thema dar. Wenn diese Ressourcen von einigen Unternehmen oder Regierungen gehalten werden, können sie entscheidenden Einfluss auf die Entwicklung der Werkzeuge und die Bedingungen ihres Zugangs ausüben. Der Vatikan äußert insbesondere Bedenken hinsichtlich militärischer Anwendungen von KI und der Möglichkeiten der massenhaften Überwachung, die sie erleichtern könnte.
Leo XIV tritt dafür ein, dass ethische Debatten nicht nur einfache Prinzipienäußerungen bleiben. Der Vatikan hat eine interdisziplinäre Kommission eingerichtet, die an seinen Positionen zur künstlichen Intelligenz arbeitet. Dieser Ansatz ergänzt die Gespräche mit Akademikern und Verantwortlichen aus der Technologiebranche, um die sozialen und politischen Folgen dieser Systeme vorherzusehen.
Paolo Benanti erwähnte auch die Möglichkeit, ein internationales Gericht für künstliche Intelligenz zu schaffen. Dieser Vorschlag belegt die Schwierigkeit, Technologien zu rahmen, die Grenzen überschreiten und deren Entscheidungen weitreichende Auswirkungen auf Bevölkerungen haben können, die von ihren Schöpfern entfernt sind. Er wirft auch die Frage nach den Mechanismen auf, die eine gemeinsame Verantwortung sicherstellen und missbräuchliche Praktiken einschränken können.
Die Kinder schützen und das Lernen unterstützen
Im Laufe seines Besuchs hielt der Papst an der UNESCO, wo er auf den Schutz von Kindern und Jugendlichen bestand. Die digitalen Werkzeuge sollten seiner Meinung nach ihre Entwicklung und Bildung unterstützen, ohne ihre Denkfreiheit einzuschränken. Ihre Verwundbarkeit darf nicht ihre Ausbeutung rechtfertigen, sei es durch übermäßige Datensammlung, Exposition gegenüber ungeeigneten Inhalten oder Abhängigkeit von digitalen Diensten.
Die Frage des Lernens ist besonders sensibel. Automatisierte Assistenten können helfen, Informationen zu suchen oder bestimmte Übungen auszuführen, aber ihre Nutzung darf nicht das Verständnis, die Neugier und die Fähigkeit, Antworten zu überprüfen, in den Hintergrund drängen. Fragen tauchen daher über den zukünftigen Platz des Wissens und das Risiko auf, dass menschliches Lernen hinter den Werkzeugen zurückbleibt, die sofortige Ergebnisse liefern, wie diese Überlegung über die Zukunft des menschlichen Lernens im Zeitalter der KI entwickelt.
Der Generaldirektor der UNESCO, Khaled el-Enany, stellte die Organisation als einen Ort der Reflexion über die Regeln vor, die es den Gesellschaften ermöglichen, die künstliche Intelligenz zu verstehen und zu kontrollieren. Er trat für eine zugängliche und gerechte Technologie ein, die dazu bestimmt ist, den Menschen zu dienen, anstatt die menschliche Intelligenz zu ersetzen, deren Vorrang sie respektieren sollte.
Den Menschen ins Zentrum technologischer Entscheidungen stellen
Die Warnungen des Papstes sind Teil einer breiteren Debatte über die Beziehung zwischen dem Menschen und den Maschinen. KI kann bestimmte Aktivitäten verbessern und neue Anwendungen eröffnen, sie kann jedoch auch die Angst vor der Ersetzung schüren, Verantwortlichkeiten verwischen oder die Individuen von undurchsichtigen Systemen abhängig machen. Das Thema steht im Mittelpunkt der Episode 90 von Minutes Intelligence Artificielle, die dem Menschen gegenüber der Bedrohung durch die Ersetzung gewidmet ist.
Diese Überlegung betrifft auch die Art und Weise, wie Gesellschaften Zeit, Arbeit und Effizienz bewerten. In einem anderen Kontext erforscht der Artikel über die Landwirtschaft und die Feier der Langsamkeit einen Ansatz, der dazu einlädt, den Fortschritt nicht ausschließlich über die Geschwindigkeit der Produktion zu messen. Sie steht im Einklang mit der Kritik an einem Modell, bei dem technische Beschleunigung zum Selbstzweck werden könnte.
Indem er zu ethischem Urteilsvermögen, zum Schutz der Freiheiten und zu einer breiteren Governance aufruft, versucht Leo XIV, die Anerkennung zu fördern, dass künstliche Intelligenz kollektive Entscheidungen mit sich bringt. Es geht nicht nur darum, was Maschinen leisten können, sondern auch darum, welche Grenzen die Gesellschaften ihnen setzen möchten und welche Rechte sie im Angesicht ihrer Entwicklung bewahren wollen.
