Interessenkonflikte

Erwartungsgemäß ist die Wirtschaft bezüglich neuer Technologien wie Sprach-KIs viel offener als die Politik. Die Währung des Systems Wirtschaft ist Geld, das es hier zu machen gibt, wenn man schnell auf den Zug aufspringt; die Währung der Politik ist Macht, die man hier verlieren könnte, wenn man nicht genau hinsieht: an die KI und an jene, die diese kontrollieren. Es ist eine Frage der Geschwindigkeit, mit der man sich auf Unwägbarkeiten einlässt.

Das System Wissenschaft, dessen Währung die Wahrheit ist, ist da noch zurückhaltender als die Politik. So warnte der US-Soziologe Robert K. Merton schon 1936 vor den „unanticipated consequences of purposive social action“ (so der Titel seines berühmten Essays), deren Gründe er in ungenügender Analyse sieht und in „emotional bias“: Die erwarteten unmittelbaren Erfolge verbauen den Blick für die verdeckten langfristigen Gefahren. Genau deswegen plädierte der Technikphilosoph Hans Jonas in seinem Buch Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation (1979) für eine „Ethik der Fernverantwortung“ gegen den „impliziten Utopismus“ technischer Fortschrittsdynamik.
 

Die erwarteten unmittelbaren Erfolge verbauen den Blick für die verdeckten langfristigen Gefahren. 

Jonas ist damit zu einem Säulenheiligen der Klimabewegung geworden, die ebenfalls – gestützt auf Wissenschaft – vom Schlimmsten ausgeht, um es vielleicht gerade noch zu verhindern, während für das System Wirtschaft das Schlimmste eher im Verlust der Wettbewerbsfähigkeit und des Wirtschaftswachstums liegt. Dieser Interessenkonflikt ist nicht neu, seine Aushandlung macht Demokratie aus, wobei verschiedene Parteien verschiedene Gewichtungen vornehmen.

Was die Digitalisierung des Gesellschaftlichen betrifft, erstaunt also nicht, dass die FDP 2017 mit dem Slogan „Digital first. Bedenken second.“ in den Wahlkampf zog oder der damalige Bitkom-Präsident auf dem Digital-Gipfel¹ im Juni 2017 ausrief: „Digital first“, und zwar mit „maximalem Tempo“ und „ohne Wenn und Aber“, mit dem Zusatz: „Wir dürfen uns jetzt nicht verzetteln und wir müssen alles auf eine, die digitale Karte setzen.“ Das Drängen zur Beschleunigung der Digitalisierung ist nachvollziehbar angesichts der bedauerlichen Umstände im Fax-Land Deutschland. Aber alles auf eine Karte setzen? Ohne Wenn und Aber?

Mit Sprach-KI befinden wir uns in einer ähnlichen Situation. Die einen mahnen zur Entschleunigung der Entwicklung, um erst einmal die Gefahren abzuwägen, die da auf die Gesellschaft zukommen. Andere, exemplarisch Sascha Lobo, sehen darin die „Panik der Politik vor der künstlichen Intelligenz“² und sagen: „Wir müssen jetzt KI mit voller Kraft umarmen.“³ Dieser Aufruf bekommt ein Geschmäckle, wenn er im Rahmen der vierten Gewalt auftritt, derjenige, der da auf Tempo drängt, aber sein Geld als Wirtschaftsberater und als Podcast-Host⁴ bei einem großen Telekommunikationsunternehmen verdient, das KI-Anwendungen produziert. Aber gut, dann ist der „Klassensprecher des Internets“⁵, als der Lobo durch die Medien zieht, dies eben als Interessenvertreter der Wirtschaft, ein Lobbyist ohne Anzug und Krawatte. Wenn die Medien das so mitmachen.

Brenzlig wird es freilich, wenn dieser Experte sich schon einmal gründlich getäuscht hat beim Umarmen, als er im Internet das „perfekte Medium der Demokratie, der Emanzipation, der Selbstbefreiung“⁶ sah, um dann zugeben zu müssen: „Ich habe mich geirrt, und zwar auf die für Experten ungünstigste Art, also durch Naivität.“ Das persönliche Analyseversagen dann kurzerhand zu einer „vierten, digitalen Kränkung der Menschheit“ zu sublimieren, mag man als cleveren Schachzug des Selbstschutzes noch durchgehen lassen, nicht aber das anschließende Eigenlob, diese Kränkung als Erster entdeckt zu haben. Die Verwerfungen der digitalen Gesellschaft waren Anfang 2014 seit Langem bekannt, nicht nur unter Fachleuten. All die publikumswirksamen Bestseller dazu waren schon erschienen: von Evgeny Morozovs The Net Delusion. How Not to Liberate The World (2011) und Eli Parisers Filter Bubble. Wie wir im Internet entmündigt werden (2012) bis zu Sherry Turkles Verloren unter 100 Freunden. Wie wir in der digitalen Welt seelisch verkümmern (2012). Man hätte damals viel früher gewarnt sein können. Und viele waren das auch.

Aus der Vergangenheit lernen, wie es so schön heißt. Vorsichtiger umarmen! Es stimmt zwar: Angst ist „ein schlechter Ratgeber in Sachen Regulierung, weil sie den kühlen Blick auf die tatsächlichen Gefahren völlig verstellt“, wie Lobo in seiner „Spiegel“-Kolumne Ende April 2023 mit Blick auf die geplante KI-Verordnung der EU unter der Punchline Klüger fürchten vor KI notiert.⁷ Kennt er die „tatsächlichen Gefahren“? Besser als einst die Gefahren der sozialen Medien?
 

Angst ist „ein schlechter Ratgeber in Sachen Regulierung, weil sie den kühlen Blick auf die tatsächlichen Gefahren völlig verstellt.

Auch Zweckoptimismus und Ignoranz gegenüber dem Diskussionsstand der kritischen KI-Forschung sind keine guten Ratgeber. Man endet dann mit einer Liste an Gefahren, die sich im Offensichtlichen erschöpft (KI als Jobkiller, Desinformation, Deepfakes) und völlig blind ist gegenüber den systemimmanenten Verwerfungen dieser Technologie, die unter Stichworten wie Datenkolonialismus, Werte-Ausrichtung und Mainstreamkultur diskutiert werden.

Der medienphilosophische Gegensatz, der sich hinter Lobos Mangel-Liste verbirgt, ist altbekannt: Die einen reden vom Missbrauch einer Technologie durch „bad actors“ (Manipulation durch Desinformation und Deepfakes), die anderen sehen bereits im Gebrauch Probleme, in der „Botschaft des Mediums“, wie der Medienwissenschaftler Marshall McLuhan einst schrieb. Der Unterschied ist nicht nur ein zeitlicher (kurzfristige versus langfristige Folgen des Mediums), sondern auch ein philosophischer: Ist das Medium ein neutrales Werkzeug, dessen gesellschaftliche Wirkung allein davon abhängt, wie es genutzt wird, oder enthält es seine eigenen Postulate, die es den ahnungslosen Nutzern aufdrängt, wie McLuhan unterstellte?

Ein solches Postulat wäre etwa die Standardisierung des Denkens, die dessen Automatisierung mit sich bringt, und zwar auf der Basis der Trainingsdaten der KI und ihres nachträglichen Feintunings. The Ghost in the Machine has an American accent⁸, heißt passend eine alarmierende Analyse zu den internen Werten von GPT‑3.

Die Frage ist, worauf sich der Optimismus eigentlich bezieht: dass die gute Nutzung des Mediums die schlechte überwiegt oder dass der Mensch am Ende stärker ist als das Medium?

Die Optimisten haben natürlich ihre Beispiele parat. So erklärt der aktuelle Bitkom-Präsident, der Mensch wäre noch immer ohne Auto, hätte man dieses damals nur unter dem Aspekt der Unfallgefahr diskutiert.⁹ 1:0 für die Vollgas-Umarmer der neuen Technologien? Nur, wenn man Äpfel mit Birnen vergleichen will. Denn anders als die KI ist das Auto keine Technologie, die auf undurchsichtige Weise zu ihren Ergebnissen kommt (Stichwort „Black Box“) oder sogar eigene Interessen entwickelt (Stichwort „AGI“). Aus dem gleichen Grund ist es pseudologisch, die in der Tat beklagenswerte Rückständigkeit Deutschlands bei der Schaffung einer robusten digitalen Infrastruktur zum Argument zu nehmen, bei der KI nun Vollgas geben zu müssen.

Was die im AI Act¹⁰ der EU vorgesehenen Regulationen betrifft, so stimmt, dass die geforderte Transparenz der Trainingsdaten Ressourcen benötigt, über die gerade mittelständische Unternehmen kaum verfügen. Aber ist das schon ein valides Gegenargument in einer freien Marktwirtschaft, wo die Nachfrage das Angebot bestimmt? Die entscheidende Frage ist doch eher, wo der Hebel der politischen Schaffung einer solchen Nachfrage ansetzt, ob die EU schon die sogenannte Allzweck-KI wie GPT als hochriskant einstuft oder erst deren konkrete Applikationen. Microsoft und Google sind für letzteres, um die Verantwortung für ihre KIs loszuwerden, der Generalsekretär des digitalen Mittelstandes (European Digital SME Alliance) ist genau deshalb für ersteres.¹¹
 

Die Medien sollten sich überlegen, wem sie eine Bühne geben, wenn sie der Gesellschaft so gewichtige Themen wie KI erklären.

Insofern lässt sich die Regulierungsfrage nicht auf einen Interessenkonflikt zwischen Politik und Wirtschaft (der es natürlich auch ist!) verkürzen. Auf jeden Fall sollte man sie nicht pauschal als Regulierungswut und Technikangst¹² abtun und vage die Gefahr des wirtschaftlichen Untergangs an die Wand malen – eine Argumentationsfigur, die bestens aus der Klimadebatte und dem Streit um das Lieferkettengesetz bekannt ist und noch ganz der neoliberalen Variante des Diskurssystems Wirtschaft verhaftet bleibt. Besser wäre, man zeigt konkret auf, wo und wie sich die Regulierungsziele der Politik dem Fortschritt entgegenstellen und inwiefern die EU im Interesse der Wirtschaft ihre Technikfolgen-Vorsorge dem Handling der USA und Chinas angleichen sollte.

Die Medien aber sollten sich an Habermas’ Buch Erkenntnis und Interesse erinnern und überlegen, wem sie eine Bühne geben, wenn sie der Gesellschaft so gewichtige Themen wie KI erklären. Zumindest aber sollten sie der Gesellschaft ehrlich sagen, wer da eigentlich zu ihnen spricht, und Lobbyisten der Wirtschaft nicht als unabhängige Internetexperten labeln.
 

Anmerkungen:

1) Digital-Gipfel 2017: Keynotes von Bundeskanzlerin Angela Merkel und Bitkom- Präsident Thorsten Dirks. In: Bundesministerium für Wirtschaft und Klimaschutz, 12./13.06.2017. Abrufbar unter: https://www.de.digital

2) Lobo, S.: Gesetzesvorhaben der Europäischen Union: Die Panik der Politik vor der künstlichen Intelligenz. In: Der Spiegel Netzwelt, 03.05.2023. Abrufbar unter: https://www.spiegel.de

3) Lobo, S.: Digitalexperte Sascha Lobo: „KI mit voller Kraft umarmen“. In: ZDF.de, 06.04.2023. Abrufbar unter: https://www.zdf.de

4) Cisco: Zukunft verstehen: Ein Cisco-Podcast mit Sascha Lobo. Abrufbar unter: https://www.cisco.com

5) Zinser, D.: Porträt Sascha Lobo: Dieser Mann hat nur einen Trick. In: taz, 05.10.2010. Abrufbar unter: https://taz.de

6) Lobo, S.: Abschied von der Utopie: Die digitale Kränkung des Menschen. In: Frankfurter Allgemeine Zeitung, 11.01.2014. Abrufbar unter: https://www.faz.net

7) Lobo, S.: Elon Musk, Arbeitsmarkt und Deepfakes: Klüger fürchten vor KI. In: Der Spiegel Netzwelt, 26.04.2023. Abrufbar unter: https://www.spiegel.de

8) Johnson, R. L. u. a.: The Ghost in the Machine has an American accent: value conflict in GPT‑3. In: arxiv. org, 15.03.2022. Abrufbar unter: https://arxiv.org

9) Berg, A.: In: maybritt illner: Künstliche Intelligenz – Maschine gegen Mensch. In: ZDF, 13.04.2023. Abrufbar unter: https://www.zdf.de

10) European Parliament: AI Act: a step closer to the first rules on Artificial Intelligence. Pressemeldungen, 11.05.2023. Abrufbar unter: https://www.europarl.europa.eu

11) Toffaletti, S.: In: Greis, F.: KI-Verordnung: Hype um Chatbots bringt EU in die Bredouille. In: golem.de, 08.03.2023. Abrufbar unter: https://www.golem.de

12) Siehe Anm. 7