Von der Pascaline bis zu Systemen künstlicher Intelligenz, die Texte und Bilder erzeugen oder an einem Computer handeln können, verändern Maschinen unser Verhältnis zu Arbeit und Kreativität. Ihre Leistungsfähigkeit allein reicht jedoch nicht aus, ihnen einen Willen, ein Verständnis oder eine echte Absicht zuzuschreiben: Die zentrale Frage bleibt die nach dem Platz des Menschen in den Entscheidungen und Werken, zu deren Entstehung sie beitragen.
Im 17. Jahrhundert erfand Blaise Pascal eine Maschine, die bestimmte Rechenoperationen mechanisch ausführt. Damals erregte die Pascaline Erstaunen: Sie führte Berechnungen schnell aus, die bis dahin von Hand vorgenommen worden waren. Mehrere Jahrhunderte später löst künstliche Intelligenz eine vergleichbare Faszination aus. Sie verfasst Texte, übersetzt, ordnet Informationen und unterstützt Nutzer bei unterschiedlichen Aufgaben. Doch zwischen der Automatisierung eines Vorgangs und der Ausübung eines Willens besteht nach wie vor ein grundlegender Unterschied.
Pascal im Zusammenhang mit künstlicher Intelligenz zu erwähnen, bedeutet daher nicht nur, daran zu erinnern, dass er eine Rechenmaschine entworfen hat. Sein Werk regt auch dazu an, über die Grenzen des Automatismus, die Natur des Denkens und den Unterschied zwischen einem effizienten Vorgang und einer wirklich menschlichen Handlung nachzudenken. Der Vergleich verdeutlicht sowohl die Versprechen neuer Technologien als auch die Fragen, die ihre Nutzung aufwirft.
Die Pascaline, eine Maschine, die das Rechnen erleichtert
Eine mechanische Meisterleistung im Dienste der Nutzer
Die von Pascal entwickelte Maschine hatte eine klare Funktion: Sie sollte beim Addieren und Subtrahieren helfen. Dank eines Zahnrädermechanismus konnten bestimmte Rechenoperationen ausgeführt werden, ohne dass der Nutzer jeden einzelnen Rechenschritt beherrschen musste. So verringerte die Maschine den erforderlichen Aufwand und ermöglichte eine schnellere Buchführung.
Diese Erleichterung ist eines der bemerkenswertesten Merkmale der Erfindung. Das Gerät übernimmt einen Teil der Arbeit und verringert Fehler, die bei wiederholten Berechnungen auftreten können. Es ermöglicht dem Nutzer, ein Ergebnis zu erhalten, ohne seine Aufmerksamkeit ständig beanspruchen oder über große Erfahrung in der Arithmetik verfügen zu müssen. Die Maschine macht ihren Nutzer nicht gelehrter: Sie macht eine Aufgabe zugänglicher, indem sie einen Teil des Vorgangs übernimmt.
Diese Verlagerung der Arbeit auf einen Mechanismus konnte zwiespältige Gefühle hervorrufen. Die Bewunderung für eine spektakuläre Erfindung vermischt sich mit der Sorge, eine menschliche Fähigkeit von einem Artefakt nachgebildet zu sehen. Diese Reaktion erinnert an manche gegenwärtigen Fragen: Wenn Werkzeuge immer besser Aufgaben erledigen, die früher Menschen vorbehalten waren, wie lassen sich dann Kompetenz, Anstrengung und der Wert menschlichen Eingreifens neu bestimmen?
Automatisieren heißt nicht wollen
Die Pascaline führt Operationen gemäß ihrer mechanischen Funktionsweise aus. Sie wählt nicht den Zweck der Berechnung, versteht die Daten nicht und macht sich nicht die Bedeutung des Ergebnisses bewusst. Der Nutzer entscheidet, was berechnet werden soll, gibt die erforderlichen Informationen ein und interpretiert das Ergebnis. Die Maschine handelt, aber sie handelt nicht aus eigener Initiative.
Diese Unterscheidung zwischen Ausführung und Absicht ist nach wie vor wesentlich, um heutige Technologien zu verstehen. Ein System künstlicher Intelligenz kann eine überzeugende Antwort geben oder eine Abfolge von Handlungen ausführen, ohne ein Verlangen zu empfinden oder sich selbst ein Ziel im menschlichen Sinne zu setzen. Seine Leistung kann den Eindruck von Eigeninitiative erwecken, doch diese hängt von den Zielen, Anweisungen, Daten und Parametern ab, auf denen seine Funktionsweise beruht.
Neuere Modelle werden als fähig beschrieben, einen Computer autonom zu nutzen und dabei Aktionen über verschiedene Benutzeroberflächen hinweg aneinanderzureihen. Diese Entwicklung erweitert den Bereich der Automatisierung, lässt aber die Frage nach dem Ursprung der Entscheidung nicht verschwinden: Wer hat die Aufgabe, die Handlungsgrenzen und die Erfolgskriterien festgelegt? Autonome Systeme, die einen Computer bedienen, machen diese Frage besonders konkret.
Der menschliche Wille angesichts der Automatisierung
Eine Maschine kann Zeit freisetzen, aber nicht über ihre Nutzung entscheiden
Der Nutzen eines automatisierten Werkzeugs bemisst sich oft daran, ob es langwierige, repetitive oder komplexe Aufgaben übernehmen kann. Indem es ermöglicht, weniger Zeit für bestimmte Tätigkeiten aufzuwenden, kann es neue Möglichkeiten eröffnen. Doch die frei gewordene Zeit bestimmt nicht von selbst, was anschließend getan wird. Die Entscheidung, diese Zeit zu nutzen, sie einer kreativen Tätigkeit zu widmen oder andere Ziele weiterzuverfolgen, bleibt eine menschliche Entscheidung.
Die Erleichterung birgt auch ein Risiko: das flüssige Zustandekommen eines Ergebnisses mit der Qualität des Urteils zu verwechseln, das zu ihm geführt hat. Eine schnelle Antwort kann falsch sein, ein Vorgang kann ausgeführt werden, ohne dass seine Folgen hinreichend abgewogen wurden, und eine Empfehlung kann sinnvoll erscheinen, obwohl sie auf ungeeigneten Informationen beruht. Automatisierung steigert mitunter die Effizienz, entbindet aber nicht davon, Entscheidungen zu überprüfen, zu verstehen und für sie einzustehen.
Diese Wachsamkeit ist inzwischen auch in Bereichen gefragt, die weit über das bloße Rechnen hinausgehen. In Haushaltsdebatten kann KI beispielsweise die Verarbeitung von Daten, die Erstellung von Prognosen oder den Vergleich von Optionen verändern. Welche Rolle sie bei öffentlichen Entscheidungen spielt, hängt jedoch von den gewählten Methoden und den Personen ab, die ihre Ergebnisse interpretieren. Wie künstliche Intelligenz die Haushaltsplanung verändert, veranschaulicht, wie das Werkzeug Abwägungen beeinflussen kann, ohne die politische Verantwortung zu ersetzen.
Von der Unterstützung zur Delegation
Künstliche Intelligenz als Hilfsmittel zu nutzen bedeutet nicht zwangsläufig, ihr die gesamte Aufgabe anzuvertrauen. Ein Nutzer kann sie einsetzen, um Ideen zu entwickeln, ein Dokument zusammenzufassen oder einen ersten Entwurf vorzubereiten, und anschließend das Ergebnis überarbeiten, korrigieren und entscheiden, was er davon übernehmen möchte. In diesem Fall liefert die Maschine Arbeitsmaterial, während die Person die Verantwortung für die Auswahl und die endgültige Form behält.
Anders verhält es sich, wenn der Nutzer eine Entscheidung delegiert, ohne das Ergebnis zu prüfen oder dessen Folgen zu verstehen. Die Grenze zwischen Unterstützung und Ersatz wird dann schwerer zu ziehen. Je stärker ein System in wichtige Vorgänge eingreift, desto notwendiger ist es zu wissen, wer seine Funktionsweise kontrolliert, wer seine Empfehlungen anfechten kann und wer für seine Auswirkungen verantwortlich ist.
Diese Frage der Verantwortung betrifft nicht nur individuelle Entscheidungen. Sie betrifft auch Organisationen, die KI in ihre Abläufe integrieren, sowie Institutionen, die sie zur Ausrichtung von Entscheidungen einsetzen. Technische Effizienz allein begründet noch nicht die Legitimität einer Nutzung: Ebenso müssen die verfolgten Ziele, die betroffenen Personen und die Möglichkeiten zur Überprüfung der Ergebnisse berücksichtigt werden.
Literarisches Schaffen auf dem Prüfstand der künstlichen Intelligenz
Einen Text zu erzeugen bedeutet nicht unbedingt, sein Autor zu sein
KI-Systeme können Texte erzeugen, die Formen des Gesprächs, der Erzählung oder der Argumentation aufgreifen. Diese Fähigkeit macht eine alte Frage dringlicher: Was macht eine Äußerung zu einem Werk, und wem ist die Schöpfung zuzuschreiben? Das bloße Vorhandensein neuer Sätze klärt die Frage nach dem Urheber nicht. Zu prüfen ist auch, welche Rolle Entscheidungen, Interpretation und Verantwortung im Schaffensprozess spielen.
Pascals Überlegungen zu Ideen, die bereits von anderen formuliert wurden, können dieses Problem erhellen. Zwei Personen können eine ähnliche Idee ausdrücken, ohne ihr dieselbe Bedeutung zu geben oder ihre Implikationen gleich einzuschätzen. Originalität liegt daher nicht immer in der absoluten Neuheit der Worte. Sie besteht auch darin, wie ein Autor eine Idee versteht, sie mit einer Erfahrung verknüpft und sie in eine Aussage einbettet, für deren Tragweite er einsteht.
Eine künstliche Intelligenz kann Formulierungen zusammenfügen und auf Grundlage der bereitgestellten Daten und Anweisungen ein stimmiges Ergebnis erzeugen. Diese Produktion beweist jedoch für sich genommen nicht, dass das System versteht, was es äußert, oder von der Wahrheit seiner Sätze überzeugt ist. Der Anschein einer Absicht im Text darf nicht mit einer von einem menschlichen Subjekt empfundenen und verantworteten Absicht verwechselt werden.
Vorstellungskraft, Entscheidungen und Verantwortung
KI-gestütztes Schaffen lässt sich nicht auf den Gegensatz zwischen einer Maschine und einem Künstler reduzieren. Ein Autor kann ein Werkzeug heranziehen, um verschiedene Ansätze auszuprobieren, einen Stil zu erkunden oder eine technische Schwierigkeit zu überwinden. Anschließend kann er die Vorschläge auswählen, umarbeiten oder verwerfen. In diesem Prozess verschwindet der menschliche Beitrag nicht zwangsläufig: Er verlagert sich auf die Rahmensetzung, die Auswahl und die Überarbeitung.
Der jeweilige Anteil von Mensch und Maschine unterscheidet sich jedoch je nach Nutzung. Ein Werk kann stark von persönlichen Entscheidungen geprägt sein oder hauptsächlich aus allgemeinen Anweisungen und nur wenigen Änderungen hervorgehen. Dann ist es wichtig, zwischen der Erzeugung eines Inhalts, der Steuerung eines Prozesses und der Verantwortung für seine Verbreitung zu unterscheiden. Die Frage nach dem Urheber lässt sich nicht allein anhand des Endergebnisses klären.
Die Debatten über Kreativität sind Teil einer umfassenderen Auseinandersetzung mit den politischen Auswirkungen künstlicher Intelligenz. Generative Werkzeuge können den Umlauf von Bildern, Texten und Ideen sowie die Bedingungen ihrer Herstellung und Rezeption verändern. Die politischen Fragen des Schaffens im Zeitalter der KI zeigen, warum die Frage der Originalität über den Rahmen der künstlerischen Praxis allein hinausgeht.
Die Grenzen des Vergleichs zwischen Pascal und KI
Technische Kontinuität, aber tiefgreifende Unterschiede
Die Pascaline und heutige Systeme haben gemeinsam, dass sie bestimmte Vorgänge technischen Vorrichtungen übertragen. Diese Kontinuität erklärt, warum Pascal häufig mit Diskussionen über künstliche Intelligenz in Verbindung gebracht wird. Die Fähigkeiten und Mechanismen heutiger Technologien sind jedoch weitaus komplexer, und der Vergleich darf die Unterschiede zwischen einer Rechenmaschine und einem System, das große Datenmengen verarbeitet, um vielfältige Antworten zu erzeugen, nicht verwischen.
Die Pascaline folgte einem Mechanismus, der für eine begrenzte Zahl von Operationen entwickelt worden war. Heutige KI-Werkzeuge können vielfältigere Situationen verarbeiten und sich an in Alltagssprache formulierte Anfragen anpassen. Das bedeutet jedoch nicht, dass sie ein Bewusstsein oder einen Willen besitzen. Beobachtbare Leistungen müssen weiterhin von der inneren Erfahrung unterschieden werden, die Maschinen manchmal fälschlicherweise zugeschrieben wird.
Im Bereich der künstlichen Intelligenz werden regelmäßig neue Fähigkeiten angekündigt. Sie können die praktischen Einsatzmöglichkeiten dieser Werkzeuge erweitern und es den Nutzern erschweren, ihre Funktionsweise vorherzusehen. Die jüngsten Entwicklungen der KI in Europa sind Teil dieses Wandels, in dem technischer Fortschritt mit Fragen der Kontrolle, Bewertung und wünschenswerten Nutzung einhergeht.
Verstehen, was die Maschine nicht versteht
Die Ergebnisse eines automatisierten Systems entstehen auf Grundlage seiner technischen Funktionsweise, von Daten und Anweisungen. Selbst wenn sie überzeugend wirken, können sie Fehler enthalten, Vorurteile reproduzieren oder wesentliche Aspekte auslassen. Die Fähigkeit, eine Antwort zu erzeugen, ist daher nicht gleichbedeutend mit der Fähigkeit, ihre Wahrheit, ihre moralische Relevanz oder ihre Folgen in einem bestimmten Kontext einzuschätzen.
Der Unterschied zwischen Berechnung und Urteil zeigt sich auch dann, wenn ein Werkzeug in einem sensiblen Bereich eingesetzt wird. Ein System kann Regelmäßigkeiten in Daten erkennen, doch die Nutzer müssen beurteilen, ob diese Regelmäßigkeiten relevant sind und ob die daraus folgende Entscheidung vertretbar ist. Der menschliche Eingriff besteht nicht nur darin, einen Knopf zu drücken: Er bedeutet auch, die richtigen Fragen zu stellen und die erhaltenen Antworten zu bewerten.
Diese Verantwortung erstreckt sich auch auf die Sicherheit der Systeme. Ein Werkzeug, das handeln oder Daten verarbeiten kann, kann auch zum Ziel werden, missbraucht werden oder unerwartete Auswirkungen haben. Die mit künstlicher Intelligenz verbundenen Herausforderungen der Cybersicherheit erinnern daran, dass die scheinbare Autonomie einer Maschine Kontroll-, Schutz- und Überwachungsmaßnahmen erfordert. Die Herausforderungen, die KI für die Cybersicherheit mit sich bringt, unterstreichen, wie wichtig es ist, Innovation und Risikovorsorge nicht voneinander zu trennen.
Der Platz des Menschen in intelligenten Systemen
Ziele festlegen und die Kontrolle behalten
Der menschliche Wille zeigt sich insbesondere darin, die Zwecke festzulegen, die Maschinen anvertraut werden. Ein System kann eine Aufgabe optimieren, doch Menschen müssen entscheiden, was optimiert werden soll und was sich nicht auf eine Leistungskennzahl reduzieren lässt. Geschwindigkeit, Kosten oder Produktionsvolumen sind für sich genommen keine ausreichenden Kriterien, um den Wert einer Handlung oder eines Werks zu bestimmen.
Die Kontrolle zu behalten setzt außerdem voraus, die Rolle der Maschine bei einer Entscheidung nachvollziehen zu können. Wenn sich ein Ergebnis nur schwer erklären lässt, wird es schwieriger, es zu überprüfen oder anzufechten. Nutzer und Organisationen müssen daher wissen, wann KI zum Einsatz kommt, welche Grenzen ihre Nutzung einrahmen und welche Schritte zur menschlichen Kontrolle vorgesehen sind.
Die zunehmende Verbreitung von Systemen, die in mehreren Schritten handeln können, macht diese Anforderung besonders wichtig. Je mehr Vorgänge ein Werkzeug ohne unmittelbares Eingreifen ausführen kann, desto genauer müssen sein Handlungsspielraum und die Bedingungen festgelegt werden, unter denen eine Person es unterbrechen kann. Technische Autonomie kann bestimmte Aufgaben erleichtern, darf aber weder den Ursprung der Ziele unsichtbar machen noch die Verantwortung derjenigen verwischen, die sie festgelegt haben.
Eine Beziehung, die es zu durchdenken gilt, statt eines einfachen Gegensatzes
Die Maschine ist nicht zwangsläufig der Gegenspieler menschlicher Intelligenz. Sie kann die Fähigkeiten einer Person erweitern, eine Arbeit erleichtern oder neue Möglichkeiten eröffnen, eine Frage zu erkunden. Problematisch wird es, wenn dem Werkzeug ein nicht nachgewiesenes Verständnis zugeschrieben wird oder wenn man sich vollständig des Urteils entledigt, das seine Nutzung erfordert.
Der Vergleich zwischen Pascal und KI lädt dazu ein, zu unterscheiden, was ein Mechanismus leisten kann und wozu eine Person ihn einsetzen möchte. Die Pascaline führte Berechnungen aus, ohne deren Tragweite zu verstehen; heutige Systeme erzeugen vielfältigere Inhalte, doch ihre Gewandtheit reicht nicht aus, um ihnen eine Absicht zuzuschreiben. Für Kreative wie für Entscheidungsträger bleibt die Frage, welchen menschlichen Anteil es an der Festlegung des Ziels, der Interpretation des Ergebnisses und der Annahme seiner Folgen gibt.
