„Nur die Augen schienen ihm gar seltsam starr und tot.“ (E. T. A. Hoffmann, Der Sandmann)
Aufklärung in der europäischen Geistes- und Kulturgeschichte seit dem 18. Jahrhundert verstand sich als Befreiung des Denkens aus der Vormundschaft überlieferter Autoritäten, Traditionen und dogmatischer Wahrheitsansprüche. Sie richtete sich auch gegen überkommene Formen des Gottesglaubens, insofern diese sich der kritischen Prüfung durch die Vernunft entzogen. Doch mit dem Verlust traditioneller Gewissheiten verschwand keineswegs die Sehnsucht nach letzter Wahrheit und nach dem, was uns trägt. Sie richtete sich vielmehr auf neue Autoritäten und Ersatzgötter: den Fortschritt, die Wissenschaft, die Nation, die Moral, das Geld, die Technik und anderes mehr. Heute scheint die künstliche Intelligenz (KI) zu einem neuen Heilsversprechen dieser Art zu werden – verbunden mit der Hoffnung auf technologische Innovation, wirtschaftliche Prosperität und wissenschaftlichen Erkenntnisgewinn. Doch die mit ihr verbundenen Fortschrittsversprechen sind ambivalent: Dieselbe Technologie, die Bildung und Humanität fördern kann, birgt zugleich vielfältige Möglichkeiten der Selbstgefährdung des Menschen.
Aus technischer Überlegenheit folgen weder notwendig Weisheit noch moralische Autorität. KI kann in Organisationen zur Erschließung von Wissen, zur Strukturierung von Problemen und zur Unterstützung von Entscheidungsprozessen beitragen. Auch im privaten Bereich kann sie Informationen aufbereiten, Perspektiven aufzeigen und als Orientierungshilfe bei vielfältigen Fragestellungen dienen. Doch sie entlastet uns nicht von der Beantwortung der Frage, was wir für richtig halten oder wie wir leben wollen.
Auch der Ruf nach einer ethisch gestalteten KI ändert an diesem Befund zunächst wenig. Im Gegenteil: Er wirft weitere grundlegende Fragen auf, von denen hier nur einige genannt werden sollen: Wer kontrolliert die Macht, die sich hinter dem Anspruch auf objektive und intelligente Lösungen verbirgt? Wer bestimmt die Werte, an denen sich KI orientieren soll? Gibt es eine „universelle Moral“, auf deren Grundlage KI künftig unser Denken und Handeln orientieren und unsere Lebenswelt und Kultur prägen könnte? Und was genau ist gemeint, wenn wir davon sprechen, dass KI-Systeme „denken“? Diese Frage ist nicht zuletzt deshalb von Bedeutung, weil die Möglichkeit einer ethisch gestalteten KI auch davon abhängt, was wir unter ihrem „Denken“ und „Urteilen“ verstehen und inwiefern diese Begriffe überhaupt auf maschinelle Prozesse übertragbar sind.
Die eigentliche Gefahr liegt dabei jedoch nicht allein in den Fähigkeiten der KI, sondern in unserer Bereitschaft, ihr die Rolle einer letzten Autorität zuzuschreiben. „Aufklärung“, so formulierte der Philosoph Immanuel Kant, „ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines anderen zu bedienen.“
Es spricht im Anschluss an den Königsberger Philosophen und mit Blick auf unseren gegenwärtigen Umgang mit der KI einiges dafür, dass wir sie bislang noch wenig als Spiegel und Resonanzraum unserer Bildung nutzen. Als „Reflexions- und Bildungspartner“ (im funktionalen Sinn) könnte sie uns dabei unterstützen, eigene Überzeugungen zu prüfen, bei komplexen Fragestellungen und Entscheidungen Orientierungen zu gewinnen und unsere Urteilskraft zu stärken. Stattdessen suchen wir in ihr womöglich eine Instanz, die uns von den Zumutungen des eigenen Denkens und Urteilens ebenso entlastet wie von der Begegnung mit dem Anderen, seiner Fremdheit, seinem Widerspruch und seiner Unverfügbarkeit.
Eine solche Vermutung gewinnt insbesondere dort an Tiefenschärfe, wo wir uns im Kontext „konversationeller“ und „emotionaler“ KI an die alte und bis heute andauernde Auseinandersetzung philosophischer Rhetorik mit sophistischen und manipulativen Formen der Rede erinnern. Eine „neue Sophistik“ begegnet uns heute gerade dort, wo Sprachmaschinen als „soziale Akteure“ und „empathische Alltagsbegleiter“ menschliches Begehren ansprechen und durch rhetorische Brillanz und die im Gespräch erzeugte emotionale Nähe dazu verleiten, ihnen zu vertrauen oder ihre Aussagen ungeprüft für wahr zu halten.
Indem wir KI gestalten, wirkt sie zugleich auf uns zurück. Sie transformiert und prägt dabei nicht nur unsere kulturellen Praktiken, sondern wird auch zu einer Herausforderung unserer Selbstverständigung und Selbstbildung. Möglicherweise lernen wir gerade in der Ko-Evolution mit der KI, dass auch die Superintelligenz ein „Mängelwesen“ bleibt. Vielleicht spüren wir, dass uns im Umgang mit ihr trotz ihrer Leistungsfähigkeit und Beredamkeit etwas fehlt: eine Tiefe des Denkens, Fühlens und der Begegnung, die sich nicht in Berechenbarkeit und Mustererkennung erschöpft. So fordert sie uns heraus, neu darüber nachzudenken, was menschliches Denken und Bewusstsein, Empathie und Verstehen auszeichnet und worin das entscheidend Unterscheidende gegenüber maschinellen Prozessen liegen könnte. Es geht dabei um nicht weniger, als dass wir uns gemäß der alten Inschrift am Apollontempel zu Delphi als Menschen selbst erkennen (Gnōthi seautón).
Es scheint bei all dem nicht unwahrscheinlich, dass wir angesichts des uns heute in menschenähnlicher Gestalt begegnenden „toten Lebens“ gerade neu entdecken, was die Tradition mit dem Begriff der „Seele“ bezeichnete. Der Fortschritt bestünde dann mit Blick auf ein zukunftsfähiges Europa nicht etwa darin, im Gefolge einer transhumanistischen Ideologie endlich Wesen ohne Mängel zu erschaffen, sondern vielmehr darin, auf dem Wege der cultura animi und einer reflexiven Aufklärung die Tiefe des Menschseins wiederzuentdecken. Und mit ihr womöglich etwas „Höheres“ in uns, das uns nicht zuletzt erneut nach „Gott“ oder dem „Göttlichen“ fragen ließe. Auf diesem Weg in die Tiefe unserer selbst könnte eine kultivierte KI uns ein Stück weit begleiten.
