„KI allein reicht nicht.“

Im heutigen Sprachgebrauch beschreiben wir Menschen uns immer mehr wie Maschinen. Nehmen Sie das als Schriftstellerinnen auch wahr?

Edelbauer: Das zieht sich durch die Menschheitsgeschichte: der Mensch als Kreator, der sich immer mit der neuesten Technik identifiziert – er möchte etwas nachbilden, was stark von seinem Selbstverständnis geprägt ist. Zur Zeit der Dampfmaschine war das gar nicht anders als heute.

Hören Sie, Frau Clavadetscher, auch, dass sich metaphorisch in unserem Sprechen über uns etwas verschiebt?

Clavadetscher: Das ist tatsächlich wahr. Ich nehme an, weil der Mensch sich selbst die nächste Maschine ist. Man sieht sich selbst als Werkzeug und muss in unserer Gesellschaft funktionieren. Das wiederum zeigt sich dann in unserer Sprache.
 

Der Mensch ist sich selbst die nächste Maschine.

Künstliche Intelligenz ist das Zukunftsthema, das mit allerlei neuen Fakten, aber auch mit allerlei Fantasien überlagert ist. Es gibt jetzt beispielsweise KI-Systeme, die Kunst oder sogar Literatur erschaffen. Auf den Punkt gefragt: Was ist der größte Unterschied zwischen einer KI und Ihnen als Schriftstellerin?

Clavadetscher: Es gibt viele Dinge, die unterschiedlich sind. Ich habe Emotionen und würde einer Maschine absprechen, dass sie Emotionen hat. Ich denke auch noch komplexer, würde ich behaupten. Man nimmt an, dass erst 2040 ein Supercomputer die Leistungsfähigkeit eines menschlichen Gehirns erreichen wird. Gleichzeitig gibt es Dinge, die mich ganz wenig von einem Computer bzw. Programm, das Befehlen folgt, unterscheidet. Auch ich habe ein biologisches Programm – genetisch gesehen. Auch ich bin Befehlen unterworfen innerhalb einer Struktur, die durch Gesellschaft, durch Erziehung, durch Sozialisierung vorgegeben ist.

Ich höre heraus, es gibt mehr Ähnlichkeiten, als uns lieb sein mag. Frau Edelbauer, was ist aus Ihrer Sicht der größte Unterschied zwischen einem KI-System, das Bücher schreibt, und der leibhaftigen Raphaela Edelbauer?

Edelbauer: Der größte Unterschied ist, dass ich einen Körper habe. Ein Körper, also organische Materie, unterscheidet sich in wesentlichen Teilen von anorganischer Materie, denn sie kreiert sich selbst. In der Reproduktion von Genen wird nicht zwischen Anwendung und Regel unterschieden. Das heißt, selbst wenn wir sagen – und das ist auch wieder eine Art Metapher, die sich durch das Technologiezeitalter eingeschlichen hat: Es gibt einen Gencode oder das ist „Information“, handelt es sich in Wirklichkeit um chemische Prozesse, die massiv dadurch geprägt sind, dass sie materienhaft sind und dass es keinen Unterschied gibt zwischen Hardware und Software.

Frau Clavadetscher sagte gerade, dass man 2040 die Rechenkapazität erreichen wird, um Computer zu erstellen, die ein Bewusstsein imitieren können. Ihrem Buch DAVE kann man die These entnehmen, dass es letztlich gar keine Frage von reiner Rechenkapazität ist, sondern auch die Frage, wie Denken überhaupt verstanden wird. Das heißt, Rechenkapazität ist nicht das entscheidende Problem und wer das glaubt, versteht KI-Probleme falsch?

Edelbauer: Ja. Das Paradoxe ist, dass ich das in dem Buch anders beschreibe, als es meine persönliche, sozusagen philosophische Auffassung, wie Leben funktioniert, ist. Und was „kreieren“ eigentlich heißt. Das hat mit dem fundamentalen Problem der Beschaffenheit zu tun: Denn Algorithmen können vorausgesehen werden – egal, wie komplex sie sind, und egal, ob wir sie noch verstehen. So entwickelt sich evolutionär das Leben meiner Ansicht nach nicht. Es ist eher massiv vom Zufall geprägt. Ich würde außerdem das Bewusstsein nicht mit dem Gehirn gleichsetzen.

In Ihrem Buch, Frau Clavadetscher, Die Erfindung des Ungehorsams beschäftigen Sie sich mit zwei wesentlichen Fragen. Die eine ist: Können Computer das, was wir können? Sie interessiert aber auch, inwieweit wir uns selbst in unserem Verhalten so geben können oder geben werden, dass wir Computern immer ähnlicher sind. Ihre Idee: Es geht nicht darum, dass die Computer das können, was wir können, sondern wir sind in unserem Verhalten schon sehr viel computerähnlicher, als wir es vielleicht sein müssten.

Clavadetscher: Genau, wir befinden uns in Strukturen und wir sind sehr vielen Befehlen untergeordnet. Ich ging bei meiner Buchidee von körperlichen Puppen aus, die sich immer mehr Richtung Bewusstsein weiterentwickeln. Diesen Schöpfungsakt fand ich wahnsinnig interessant. Was auch damit zu tun hat, dass der Mensch etwas schaffen will, das menschenähnlich ist. Ob das jetzt ein Programm ist, eine KI oder – eben auch sehr körperlich gedacht – ein neues Wesen, welches uns ähnlich ist und uns selbst vielleicht irgendwann übertrifft oder übertreffen könnte. Weitergedacht sehe ich hier eine Art Komik. Es ist wie eine masochistische Selbstverliebtheit, zu denken, dass ich als Mensch so schlau bin, dass ich etwas schöpfen kann, das besser ist als ich und mich dann irgendwann unterjocht. Ich mag dieses Paradoxon ganz gern. Ansonsten war mir das Körperliche im Gegensatz zu diesen Programmen, zu dieser geistlichen Welt, sehr wichtig. Denn was verbindet noch die Dualität zwischen Körper und Geist? Wenn wir Richtung Transhumanismus denken, was ist das dann? Sind das Body-Mind-Schnittstellen?
 

Algorithmen können vorausgesehen werden – egal, wie komplex sie sind, und egal, ob wir sie noch verstehen.

Dieser Gedanke, dass man sich selbstzum Ebenbild erschafft, hat etwas sehr Narzisstisches. Man kann aber auch sagen, das ist eine theologische Figur: Der liebe Gott hat nichts anderes gemacht, als uns nach seinem Ebenbild zu erschaffen. Diese theologischen oder religiösen Anwandlungen sind auch bei Ihnen sehr stark. Würden Sie sagen, das ist eine letztliche Positionsverschiebung? Was Gott mit uns gemacht hat, das wollen wir jetzt mit den Maschinen machen?

Edelbauer: Nein, ich glaube, es ist eine grundsätzliche theoretische Entscheidung, dass wir Menschen uns als geschaffen verstehen. Dabei spielt es keine Rolle, ob wir an Matrixfantasien oder Simulationswelten denken und uns selbst als irreal sehen. Dies hat sehr viele Verbindungen zu solipsistischen Diskursen.

Solipsismus heißt, ich bin die einzig denkende Person auf diesem Planeten und alles, was ist, ist Teil meines Bewusstseins.

Edelbauer: Genau: das Fremdseelische abzusprechen oder eben als eine Form von sich selbst entfaltendem Prozess des Lebens zu sehen. Für mich war absolut klar, dass man religiöse Fragen verbinden kann mit KI-Diskursen, aber quasi von der anderen Seite gesehen. Also nicht: Gott hat uns erschaffen und wir erschaffen die Maschinen. Sondern ich stelle die Frage: Ist es überhaupt möglich, Bewusstsein zu erschaffen? Und meine Antwort ist – Nein.

Das ist eine interessante philosophische Frage. Woher weiß ich denn, dass Sie beide nicht auch nur Maschinen sind, die gar kein Bewusstseinsleben haben, sondern nur ein sehr konkretes und komplexes Programm abspulen? Das ist etwas, was die Philosophie von Anfang an begleitet. René Descartes beispielsweise stellte sich schon im 17. Jahrhundert die Frage: Woran lässt sich nicht zweifeln? Wenn man aus dem Fenster schaut, sieht man Menschen, aber woher weiß man, dass diese Menschen keine Roboter sind?Wie kann ich das ermitteln? Frau Edelbauer, ist das ein Zweifel, den Sie im konkreten Leben schon hatten?

Edelbauer: Vor Kurzem ist ein Video von einer Firma viral gegangen, die Hunderoboter herstellt. In dem Video werden Hunderoboter misshandelt. Rational weiß man, dass diese Hunderoboter nichts empfinden. Trotzdem hat die Firma empörende Briefe bekommen. Das sagt viel über uns als Rezipienten aus. Wir entwickeln sogar für Unbelebtes tiefe Gefühle der Empathie. Das ist etwas sehr Gutes, das aber nicht notwendigerweise sagt, dass dieses Geschöpf das spürt. Das ist die eine Antwort, die andere ist: Ich bin eine große Wittgensteinianerin.
 

Wir entwickeln sogar für Unbelebtes tiefe Gefühle der Empathie

Ludwig Wittgenstein, großer Sprachphilosoph des 20. Jahrhunderts …

Edelbauer: Theoretisch ein Sprachphilosoph. Er war aber auch im Privatsprachenargument, also einem Teil der philosophischen Untersuchungen, zu Hause. Darin geht es um Solipsismus, kann ich überhaupt Fremdseelisches erkennen? Kann ich wissen, dass Sie ein Bewusstsein haben? Der geniale Gedanke ist, dass ich sogar bei mir selbst kein Kriterium dafür habe, dass ich Gefühle habe. Die Frage, ob in mir mentale Prozesse stattfinden, ist aber so sehr in die Verhaltenslogik eingeknüpft, dass ich das in einem Umkehrschluss bei anderen gar nicht bezweifeln kann. Diese Frage macht sozusagen gar keinen Sinn.

Da würde ich gerne einhaken. Der Zweifel an der Psyche des anderen, so habe ich Sie verstanden, schlägt notwendig in den Zweifelan meiner eigenen Psyche um. Ihre beiden Bücher lassen den Leser sehr lange im Unklaren, ob die Personen, deren Innenleben geschildert wird, überhaupt selbst Maschinen sind oder nicht. Das ist ein unheimlicher Gedanke: Sobald ich daran zweifle, ob Sie ein Bewusstsein haben, muss ich auch daran zweifeln, ob mein Bewusstsein wirklich ein echtes Bewusstsein ist oder ob ich nicht auch selbst eine Maschine sein könnte.

Clavadetscher: Wir wissen es nicht. Genau wie ich nicht weiß, ob Sie oder Raphaela ein Bewusstsein haben. Wir wissen nicht, wie sich das anfühlt, jemand anderes zu sein. Wir wissen auch nicht, ob mir jetzt quasi eine Maschine gegenübersitzt, die so perfekt ist, dass man einen Unterschied nicht mehr sieht.

Ich finde, es macht einen Unterschied, ob ich Menschen vor meinem Fenster ein Bewusstsein zuschreibe oder nicht. Der Zweifel, ob das, was die ganze Zeit für mich bewusstes Erfahren ist, nicht auch nureine Simulation sein könnte, ist doch noch unheimlicher. Sie werden doch nicht frei durch die Welt gehen können, wenn Sie sich die ganze Zeit fragen, ob Sie selbsteine Maschine sind?

Clavadetscher: Ja, und irgendwann kommt der Moment, um zu erkennen: Ich bin eine Schöpfung, ich bin nicht echt. Aber was bedeutet „echt“? Ich bin auch ein Produkt meiner Eltern. Ich wurde auch im weitesten Sinne geschaffen oder hergestellt, um es mal salopp zu sagen.

Edelbauer: Die Frage, ob wir von einem Schöpfer erschaffen sind, muss zu genau denselben Zweifeln führen. Denn wenn Gott uns geschaffen hat, können wir dann überhaupt irgendetwas tun, das nicht vorhergesehen ist? Das wird dann relativ schnell sehr fatalistisch. Mir stellt sich die Frage, wie sinnvoll diese Diskurse sind. Und was gibt es eigentlich für Belege dafür?

In Ihren beiden Werken geht es darum, was der Leib für die KI ist und was die Tatsache, dass wir diese Körper haben, für das, was wir Intelligenz nennen, bedeutet. Ich würde Ihren Schriften entnehmen, dass die KI nicht nur leibfeindlich ist, sondern sie rechnet nicht ein, was der Leib für uns bedeutet.

Edelbauer: Man wirft hier viele Diskurse in einen Topf, wenn man über KI spricht. Ich glaube z. B., dass die Cyborg-Debatte oder Diskussionen zu Robotern oder Singularität drei verschiedene Dinge sind. Bei einem Cyborg verpflanzt man in einen menschlichen Körper technische Elemente. Das ist etwas komplett anderes als eine tatsächlich auf Informationstechnologie allein beruhende KI.

… Weil der Unterschied ist, dass Menschen schon ein Bewusstsein haben. Und wenn man uns etwas implantiert, erweitert man dieses. Aber ob etwas Neues Bewusstsein schafft, ist etwas ganz anderes, würden Sie sagen …

Edelbauer: So ist es. Weil sich auch die Frage stellt, ob es eine fundamentale Trennung zwischen Körper und Seele gibt. Das ist ein sehr weites Feld.

Es ist aber auch ein Feld, dass mit Fantasien überformt ist. Nicht zuletzt mit Männerfantasien. Man denkt, wenn man so ein Wesen geschaffen hätte, das einem ganz zur Verfügung stünde, könnte man es nicht nur für sich arbeiten lassen, sondern – und das spielt in Ihrem Buch eine Rolle – es wäre auch sexuell verfügbar. Würden Sie sagen, das sind klassische Verfügungsfantasien?

Clavadetscher: Nicht unbedingt. Ich glaube, das ist immer eine Machtfrage. Die muss ja nicht per se männlich sein. In meinem Buch geht es eher um Vereinsamung, um einen Hyperindividualismus – dass man nicht mehr mit echten Menschen zurechtkommt, unfähig ist, den anderen zu „lesen“. Und es geht um Projektion – dass der Körper eine Hülle ist, die ich füllen kann mit meinen Wünschen. Das ist nicht neu! Jedes Kind hat eine Puppe. Deswegen glaube ich, das ist ein sehr menschlicher Zug und weniger eine Männerfantasie.

Edelbauer: Es gibt eine Denktradition – sehr geprägt von Donna Haraway –, die eine Chance sieht, sich von binären Strukturen zu lösen. Meiner Ansicht nach sind die Utopien, die oft mit Technik verbunden werden, und wie es im Gegensatz in der Realität ausschaut, sehr verschiedene Dinge. Es gibt eine Art Heilsversprechen, dass Maschinen die dem Menschen unangenehmen Arbeiten verrichten. In Wirklichkeit zieht der Kapitalismus unendlich schnell nach. Ich glaube, es verschärft soziale Ungerechtigkeiten noch mehr – da diese Technologien wahnsinnig teuer und eine Frage des Zugangs sind. Damit reproduzieren sie noch einmal Machtstrukturen. Ich glaube, es kommt eher zu einer Verschärfung als zu einer Chancengleichheit.

Sie nicken.

Clavadetscher: Ja, ich bin da gleicher Meinung. Das Heilsversprechen an den Fortschritt von KI ist zu groß. Wir müssten einen Schritt zurücktreten und uns fragen, welche Probleme mit KI gelöst werden sollen. Ich verstehe z. B. nicht, warum in Pflegeberufen oder bei der Kindererziehung KIs eingesetzt werden – in Berufen also, wo ganz klar zwischenmenschliche Interaktionen wahnsinnig wichtig sind, während beispielsweise der Banker unersetzbar bleibt. Das ist ein gesellschaftliches Problem, das bisher nicht gelöst wurde. Wir löschen mit KI kleine Brände, was aber die Probleme oft verschärft.

Die Idee, dass die ganzen Arbeiten, die wirals misslich betrachten, irgendwann von Robotern übernommen werden, hat doch auch etwas Befreiendes. Oder ist das ein reiner Verdeckungsdiskurs?

Clavadetscher: Wir wollen genau für diese Arbeiten, die uns unlieb sind, Maschinen. Aber wir müssen uns wirklich fragen, weshalb diese Arbeiten uns unlieb sind. Weil sie schlechter bezahlt sind? Weil wir keine Zeit dafür haben? Weil wir in einem System leben, das es nicht erlaubt, diese Arbeiten zu tun? Weil es nicht wertgeschätzt wird?
 

Es ist eine umgekehrte Aufklärung: Wir gehen wieder zurück in eine Unmündigkeit. Weil ich nicht mehr fähig bin, bestimmte Dinge zu tun.

Wo sehen Sie das Problem?

Clavadetscher: Dass wir durch das Werkzeug der KI nicht nur Fähigkeiten auslagern, sondern auch Verantwortung. Und wenn dann diese Algorithmen intransparent sind – wir nicht mehr wissen, warum das Programm auf diese oder jene Lösung kommt oder im schlimmsten Fall so handelt –, dann haben wir ein Problem. Gleichzeitig ist es eine umgekehrte Aufklärung: Wir gehen wieder zurück in eine Unmündigkeit. Weil ich nicht mehr fähig bin, bestimmte Dinge zu tun. Eine Landkarte zu lesen oder das Beispiel selbst handelnder Systeme – selbstfahrende Fahrzeuge, selbstfeuernde Waffen: Wer wird haftbar gemacht? Wer wird zur Verantwortung gezogen? Man entledigt sich der Fähigkeit und der Verantwortung? Da sehe ich in spezifischen Anwendungsbereichen der KI ein Riesenproblem.

Die Idee, die Sie auch in Ihrem Buch aufgreifen, ist, dass es eine heilsame gottähnliche Intelligenz geben würde, die uns von aller Verantwortung für uns entledigt, weil sie einfach für uns entscheidet. Die größte Technologie wird dafür benutzt,uns freiwillig selbst zu entmündigen?

Edelbauer: Ich halte das für ein eigentlich sehr kindisches Motiv, zu sagen: Wir haben Probleme verursacht, aber anstatt sie zu lösen, vertrauen wir auf den endlosen Fortschritt, der alle Probleme lösen wird. Das hat etwas mit dem Schwinden institutionalisierter Religionen zu tun. Und ich würde es sogar noch ein bisschen verschärfen. Wir brauchen gar nicht warten, bis wir den Algorithmus nicht mehr verstehen, sondern die Entmündigung findet allein schon in einer medialen Betrachtung statt, beispielsweise in einer möglichen Lösung der Klimakrise – durch Auswanderung auf andere Planeten, durch intelligente Technologie, die kein CO₂ mehr ausstößt. Gleichzeitig sind 30 % der Emissionen auf die Kreierung neuer Technologien, Serverfarmen etc., zurückzuführen. Es wird immer akuter und virulenter werden!

Vielleicht positiver gefragt: Was würden Sie für die nächsten 30 Jahre als das Optimum eines Szenarios voraussehen? Wo kann uns die KI wirklich weiterhelfen?

Clavadetscher: KI allein reicht nicht. Selbst wenn wir ein Programm hätten, das die Lösungen für die Klimakrise auf dem Silbertablett präsentiert. Würde der Mensch diese wirklich berücksichtigen, sie ernsthaft in Erwägung ziehen? Es geht nicht um die KI, sondern darum, wie wir dieses Werkzeug verwenden werden.

Edelbauer: Dem stimme ich zu! Es gibt wahnsinnig viele positive Beispiele für die Anwendung von KI, wie beispielsweise diagnostische Techniken in der Medizin. Als allerdringlichstes Problem sehe ich aber auch die Klimakrise! Und abgesehen von Technik, die ihren positiven Beitrag bei der Lösung dieses Problems leisten kann, sehe ich keinen Weg, der drum herumführt, dass sich die natürliche Intelligenz da weiterentwickelt.

Wenn Sie wählen könnten, würden Sie lieber die Singularität erleben, dass KI wirklich Bewusstsein erlangt, oder mit außerirdischen Lebensformen kommunizieren?

Clavadetscher: Ich würde die Außerirdischen wählen. Das würde das ganze Gefüge der Erde noch einmal durcheinanderbringen.

Edelbauer: Unbedingt! Die Sprachen der Außerirdischen studieren!
 

Das Interview geht zurück auf ein Gespräch in der Sternstunde Philosophie vom 2. Januar 2022 (3sat).