Editorial zum openTA-Online-Neuerscheinungsdienst „über den TAellerrand“ (NED) September 2020

Ein Beitrag von Christoph Kehl

Vor Kurzem hat die KI-Enquete des Bundestages Ergebnisse ihrer zweijährigen Arbeit präsentiert. Nach der Bundesregierung mit ihrer KI-Strategie und der EU-Kommission mit ihrem KI-Weißbuch wird damit auch das Parlament in Kürze Vorschläge zur Regulierung von Künstlicher Intelligenz (KI) vorlegen. Dass der Bericht der KI-Enquete über 600 Seiten umfassen soll, macht deutlich, dass man es mit einem Thema zu tun hat, das nicht einfach zu fassen ist. Das erklärte politische Ziel lautet, einen wertebasierten, vertrauenswürdigen und dennoch innovationsfreundlichen Umgang mit den vielfältigen Entwicklungen im KI-Bereich zu finden. Wie dieser Spagat gelingen kann, ist nach wie vor eine offene Frage – es wird sich zeigen, inwiefern die KI-Enquete hier neue politische Impulse zu setzen vermag.

Unter den TA-relevanten Neuerscheinungen aus der Deutschen Nationalbibliothek finden sich passenderweise mehrere Publikationen, die sich mit Aspekten der KI-Thematik beschäftigen – vier davon werde ich in diesem Blogbeitrag näher vorstellen. Beginnen möchte ich mit einem Band des an der University of California in Berkeley lehrenden Computerwissenschaftlers Stuart J. Russell. Das Buch mit dem Titel "Human Compatible" greift einen Topos auf, der die öffentliche Debatte zu KI seit Anbeginn dominiert: die Idee, dass intelligenzbegabte, sich selbst perfektionierende Maschinen den Menschen überflügeln und die Herrschaft an sich reißen könnten. "Wie der Mensch die Kontrolle über superintelligente Maschinen behält", so der Untertitel des Werks, erscheint angesichts dystopischer Terminator-Szenarien als durchaus legitimes und wünschenswertes Ziel. Laut Klappentext zeigt der Autor, der selbst an vorderster Forschungsfront mitwirkt, "neue Perspektiven und Lösungswege für die KI-Forschung auf, um zu gewährleisten, dass superintelligente Maschinen unsere Ziele verfolgen und nicht ihre eigenen" (Inhaltsverzeichnis). Inwiefern jedoch eine "übermäßig intelligente KI" überhaupt ein realistisches Risikoszenario darstellt, ist fraglich. Laut einer Nature-Rezension der englischsprachigen Ausgabe des Buches gelingt es dem Autor letztlich nicht, die Ausgangsprämisse des Buches – die Möglichkeit einer starken KI – ausreichend zu plausibilisieren. In der TA gilt inzwischen als unbestritten, dass man dystopischen (ebenso wie utopischen) Zukunftsszenarien genaustens auf den Zahn fühlen sollte. In diesem Sinne verspricht das Buch des renommierten KI-Forschers auf jeden Fall ausreichend Stoff für eine kritische Lektüre.

Im Sammelband "Digitaler Wandel und Ethik" wird "alarmistischen Untergangsszenarien" eine klare Absage erteilt. Im Vorwort betont der Herausgeber Markus Hengstschläger, ehemaliger stellvertretender Vorsitzender des österreichischen Rates für Forschung und Technologieentwicklung, dass eine Versachlichung der Diskussion anhand konkreter Fragen dringend nottue (S. 9). Zum Beispiel: Wie lässt sich die digitale Transformation zum Wohle der Menschen einsetzen, ohne dabei die Würde und Rechte des Einzelnen zu verletzen? Im Unterschied zu Russell, der eher einem techno-deterministischen Argumentationsmuster verhaftet scheint, werden hier die sozialen Herausforderungen des digitalen Wandels aus einer gestaltungsoffeneren Perspektive diskutiert. Wie der Titel bereits verdeutlicht, stehen hierbei ethische Überlegungen im Zentrum.
Der Band gliedert sich in vier Teile (Inhaltsverzeichnis), wobei der zweite spezifisch auf die Herausforderungen der Künstlichen Intelligenz eingeht: Diskutiert werden u.a. "Aspekte der Regulierung von Künstlicher Intelligenz" (Michael Mayrhofer, Gerald Rachbauer), "Mögliche Best-Practice-Ansätze beim Einsatz eines algorithmischen Entscheidungsunterstützungssystems" (Anita Klingel, Tobias D. Krafft, Katharina A. Zweig) oder die Grenzen einer prinzipienbasierten Ethik für KI ("Ethische KI – von Prinzipien zu Prozessen", Anna Jobin). Sicherlich lohnt sich auch ein Blick in die anderen drei Abschnitte des Bandes: Teil I zum Komplex "Wissenschaft, Technik, Gesellschaft" enthält u.a. einen Ko-Beitrag des persönlichen NTA-Mitglieds Alexander Bogner zu den demokratischen Herausforderungen im Zeitalter des digitalen Wandels. Des Weiteren werden in Teil III der digitale Wandel im Gesundheitsbereich und in Teil IV Fragen der Zukunftsgestaltung thematisiert, u.a. mit Beiträgen von Christopher Frauenberger zur Verhandlung technologischer Zukünfte sowie von Markus Scholz/Maria Rieger zu Responsible Innovation. 

Wenn von KI die Rede ist, ist der humanoide Roboter meist nicht weit. Als eines der Sinnbilder für künstliche Intelligenz übt die menschenähnliche, intelligenzbegabte Maschine eine anhaltende Faszination aus. Bei genauerem Hinsehen erweisen sich zwar viele gesellschaftliche Erwartungen an die Robotik als überzogen, dennoch steht außer Frage, dass Mensch und Maschine zukünftig immer enger und in einem gemeinsamen Arbeitsumfeld interagieren werden – ebenbürtige "Kollaboration" (statt bloße Interaktion) lautet das neue Schlagwort. Die vielfältigen Implikationen dieser Entwicklung werden nun in einem kürzlich erschienenen und von Hans-Jürgen Buxbaum herausgegebenen Sammelband aus breiter interdisziplinärer Perspektive beleuchtet. Der Herausgeber selbst ist Professor am Robotiklabor der Fachhochschule Niederrhein. Der Band mit dem Titel "Mensch-Roboter-Kollaboration" (MRK) ist Ergebnis des gleichnamigen Ladenburger Diskurses, der im März 2019 stattfand und wie jedes Jahr von der Daimler Benz Stiftung veranstaltet wurde. Beleuchtet werden, neben diversen Anwendungsfeldern (wie Medizin, Assistenz und Rehabilitation, Pflege), die ethischen Perspektiven der MRK (Peter Remmers), arbeitswissenschaftliche Aspekte (Ruth Häusler und Oliver Sträter) oder auch die Anforderungen an eine humane Arbeitsgestaltung (Detlef Gerst) – um nur einige der mannigfaltigen Themen zu nennen, die in dem Band behandelt werden (Inhaltsverzeichnis).
Abschließend werden von Hans-Jürgen Buxbaum und Ruth Häusler dreizehn "Ladenburger Thesen zur zukünftigen Gestaltung der Mensch-Roboter-Kollaboration" präsentiert, die als strukturierende "Leitlinien für kommende Forschungs- und Entwicklungsarbeiten" dienen sollen (S. 293). Berücksichtigt werden dabei ergonomische, sicherheitstechnische, wirtschaftliche ebenso wie arbeitswissenschaftliche, psychologische und ethische Perspektiven. Deutlich wird daran die Fülle an inhaltlichen Aspekten, welche die MRK-Thematik aufwirft – angesichts dessen wäre eine thematische Einleitung in den Band und eine strukturierende Gliederung sicher hilfreich gewesen, um insbesondere der fachfremden Leserschaft einen besseren Einstieg in diese vielschichtige Materie zu ermöglichen.

Der letzte Sammelband dieses Blogbeitrags mit dem Titel "Das geteilte Ganze" schließt direkt an die MRK-Thematik an: Er widmet sich der Frage, wie sich angesichts einer sich qualitativ verändernden und zunehmend intensivierenden Mensch-Technik-Interaktion sicherstellen lässt, dass der Mensch auch zukünftig im Mittelpunkt der Technologieentwicklung steht. Mit dem Ansatz der Integrierten Forschung verfolgt das BMBF dieses Ziel, indem es die Gestaltung der neuen Mensch-Technik-Relationen nicht primär als technische, sondern als vielschichtige, auch gesellschaftliche und ethische Herausforderung zu begreifen sucht. Die vorliegende Publikation – herausgegeben vom persönlichen NTA-Mitglied Bruno Gransche von der Universität Siegen und Arne Manzeschke von der Ev. Hochschule Nürnberg – präsentiert "einleitende Überlegungen" zu diesem neuen Forschungsansatz, der seit 2015 im BMBF-Forschungsprogramm zur Mensch-Technik-Interaktion umgesetzt wird. Der Band präsentiert eine "Momentaufnahme" dieser "langjährige[n] Forschungsbemühungen jenseits und zwischen traditionellen Wissenschaften und zugleich aus ihnen heraus" (S. 1). Die leitende Frage lautet dabei, wie eine Integration der Perspektiven jenseits isolierter Monodisziplinarität und bloß arbeitsteiliger Interdisziplinarität gelingen kann. Im Fokus der insgesamt 16 Beiträge stehen Fragen "nach Integrierter Forschung als Ensemble der Selbstorganisation wissenschaftlicher Disziplinen einschließlich deren transdisziplinärer Beziehung zu Politik, Gesellschaft, Wirtschaft etc. sowie Fragen nach dem adäquaten Modus und Governance-Rahmen einer solchen Selbstorganisation" (Klappentext). Gegliedert ist das Werk in zwei Teile (Inhaltsverzeichnis): der erste beschäftigt sich mit "Perspektiven auf den Horizont jenseits von ELSI" (ELSI = Ethical, Legal and Social Implications), der zweite bietet Annäherungen an die Integrierte Forschung mit Blick auf "Methoden, Strukturen, erste Schritte".
Etwas schade ist, dass neben vielfältigen ELSI-Bezügen die Schnittstellen zu einem anderen wichtigen Forschungsparadigma dieser Tage, nämlich dem von der EU-Kommission propagierten "Responsible Research and Innovation", nicht wirklich beleuchtet werden. Denn in Anbetracht der sich zunehmend aufsplitternden Regulierungslandschaft scheint mir ein wesentliches Desiderat beim Umgang mit KI darin zu liegen, auch auf politisch-strategischer Ebene auf eine verstärkte Integrationsarbeit hinzuwirken.

Für die Septemberausgabe des NED wurden insgesamt 43 Buchttitel ausgewählt. Zugrunde lagen 323 Buchtitel, die durch einen automatisierten thematischen Suchlauf aus dem aktuellen Datenbestand der Deutschen Nationalbibliothek gefiltert wurden. Die bibliografischen Angaben der einzelnen NED-Titel lauten wie folgt:

Adamowsky, Natascha (Hg.) (2020), Automaten, Androiden, Avatare. Diskurse zu Technik und Lebendigkeit, Berlin: Turia + Kant. ISBN: 978-3-85132-973-5, http://d-nb.info/1202805647.

Amelung, Volker E./Eble, Susanne/Sjuts, Ralf/Ballast, Thomas/Hildebrandt, Helmut/Knieps, Franz/Lägel, Ralph/Ex, Patricia (Hg.) (2020), Die Zukunft der Arbeit im Gesundheitswesen, [1. Auflage], Berlin: Medizinisch Wissenschaftliche Verlagsgesellschaft. ISBN: 978-3-95466-507-5. DOI: 10.32745/9783954665372, http://d-nb.info/1204939608.

Baumast, Annett/Pape, Jens/Weihofen, Simon/Wellge, Steffen (Hg.) (2019), Betriebliche Nachhaltigkeitsleistung messen und steuern. Grundlagen und Praxisbeispiele 26 Tabellen, Stuttgart: Verlag Eugen Ulmer. ISBN: 978-3-8252-4779-9, http://d-nb.info/1119740010.

Forschungsjournal Soziale Bewegungen, Band 33 Heft 1 (2020), Klima und Zivilgesellschaft, Boston: De Gruyter, http://d-nb.info/1216203334.

Hengstschläger, Markus/Rat für Forschung und Technologieentwicklung, Rat für Forschung und (Hg.) (2020), Alexander Bogner, Christopher Frauenberger, Markus Frischhut, Sepp Hochreiter, Niina Huber, Anna Jobin, Severin Kacianka, Anita Klingel, Sabine Theresia Köszegi, Tobias D. Krafft, Julian Nida-Rümelin, Mirjam Pot, Barbara Prainsack, Alexander Pretschner, Peter Reichl, Maria Riegler, Markus Scholz, Anne Siegetsleitner, Sarah Spiekermann, Elisabeth Stampfl-Blaha, Charlotte Stix, Stefan Strauß, Harald Welzer, Hannes Werthner, Katharina A. Zweig, Michael Mayrhofer, Gerold Rachbauer, Digitaler Wandel und Ethik, 1. Auflage, Wals bei Salzburg, Österreich.

Bostrom, Nick (2020), Die verwundbare Welt. Eine Hypothese, Erste Auflage, Berlin: Suhrkamp. ISBN: 978-3-518-58754-6, http://d-nb.info/1207486159.

Brüggemann, Marion/Eder, Sabine/Tillmann, Angela (Hg.) (2019), Medienbildung für alle. Digitalisierung, Teilhabe, Vielfalt, München: kopaed. ISBN: 978-3-86736-555-0, http://d-nb.info/1193269784.

Buxbaum, Hans-Jürgen (Hg.) (2020), Mensch-Roboter-Kollaboration, Wiesbaden: Springer Gabler. ISBN: 978-3-658-28306-3. DOI: 10.1007/978-3-658-28307-0, http://d-nb.info/1197321152.

Diedrich, Klaus/Ludwig, Michael/Griesinger, Georg (Hg.) (2020), Reproduktionsmedizin, 2., erweiterte und vollständig überarbeitete Auflage, Berlin, Germany: Springer. ISBN: 2625-3461. DOI: 10.1007/978-3-662-57636-6, http://d-nb.info/1173914331.

Nida-Rümelin, Julian/Wessels, Ulla (Hg.) (2020), Moritz Dittmeyer, Der programmierte Mensch. Zur Idee und Ethik von Gamification, Paderborn.

Bürstmayr, Sigrid/Stocker, Karl (Hg.) (2020), Paul Draus, Breathe Earth Collective, Breathe Earth, Burcin Cem Arabac?o?lu, Ay?en Ciravo?lu, Ci?dem Polato?lu, Paulina Cornejo Moreno Valle, Sylwia Ulicka, Designing sustainable cities. Manageable approaches to make urban spaces better, Basel.

Ernst, Stefanie/Becke, Guido (Hg.) (2019), Transformationen der Arbeitsgesellschaft. Prozess- und figurationstheoretische Beiträge, [1. Auflage], Wiesbaden, Germany: Springer VS. ISBN: 978-3-658-22711-1. DOI: 10.1007/978-3-658-22712-8, http://d-nb.info/1173821791.

Estrella, Andrea (2020), The effects of voluntary sustainability standards in the economy of smallholder farmers in Latin America. An investigation of the impact pathways of sustainability standards leading to improved economic outcomes for certified coffee producers, Münster: Universitäts- und Landesbibliothek Münster. ISBN: 978-3-8405-0234-7, http://d-nb.info/1213172985.

Fischer, Jeannine-Madeleine (2020), Urbane Ethiken und Umweltschutz. Ideale, Praktiken und Aushandlungen um die gute Stadt in Auckland, Aotearoa Neuseeland, Bielefeld: transcript. DOI: 10.14361/9783839450390. ISBN: 978-3-8376-5039-6, http://d-nb.info/1196566585.

Gehrmann, Jan (Hg.) (2020), Klimawandel und Ethik, Paderborn: mentis. ISBN: 978-3-95743-119-6, http://d-nb.info/1185898786.

Gießmann, Sebastian/Röhl, Tobias/Trischler, Ronja (Hg.) (2019), Materialität der Kooperation, Wiesbaden, Germany: Springer VS. ISBN: 2520-8349. DOI: 10.1007/978-3-658-20805-9, http://d-nb.info/115384138X.

Gillmeier, Katharina (2020), Prädiktion des Fahrerverhaltens basierend auf Fahrer-, Fahrzeug- und Umfelddaten für ein fahreradaptives Kollisionsvermeidungssystem, Stuttgart: Fraunhofer Verlag. ISBN: 978-3-8396-1638-3, http://d-nb.info/121585983X.

Gracev, Alexandra/Sachs-Hombach, Klaus/Schirra, Jörg R. J./Ulrich, Anne/Wilde, Lukas R. A./John, Natalie (Hg.) (2020), Überwachung 2.0 – zwischen Kontrolle und Komfort, Tübingen: Stauffenburg Verlag. ISBN: 978-3-95809-670-7, http://d-nb.info/1209150328.

Gransche, Bruno/Manzeschke, Arne (Hg.) (2020), Das geteilte Ganze. Horizonte integrierter Forschung für künftige Mensch-Technik-Verhältnisse, [1. Auflage], Wiesbaden, Germany: Springer VS. ISBN: 978-3-658-26341-6. DOI: 10.1007/978-3-658-26342-3, http://d-nb.info/1183133588.

Greul, Anne K. (2020), The role of knowledge in the creation and evaluation of radical product ideas. Empirical studies in the 3D printing and automotive industry, [1. Auflage], Berlin: epubli. ISBN: 978-3-7502-8639-9, http://d-nb.info/1205389865.

Heider, Jan (2020), Potenzial von Infrarot-Heizsystemen für hocheffiziente Wohngebäude, Stuttgart: Fraunhofer IRB Verlag. ISBN: 978-3-7388-0525-3, http://d-nb.info/121445383X.

Jorzig, Alexandra (2020), Digitalisierung im Gesundheitswesen. Ein kompakter Streifzug durch Recht, Technik und Ethik, [1. Auflage], Berlin, Germany: Springer. DOI: 10.1007/978-3-662-58306-7. ISBN: 978-3-662-58305-0, http://d-nb.info/1168920019.

Kleemann, Frank (2019), Arbeit und Subjekt. Aktuelle Debatten der Arbeitssoziologie, Wiesbaden, Germany: Springer VS. DOI: 10.1007/978-3-658-23260-3. ISBN: 978-3-658-23259-7, http://d-nb.info/1173921184.

Kment, Martin (2019), Die Neujustierung des Nachhaltigkeitsprinzips im Verwaltungsrecht. Lückenschluss in der Nachhaltigkeitsdogmatik nach neuseeländischem Vorbild, Tübingen: Mohr Siebeck. ISBN: 978-3-16-156920-3, http://d-nb.info/1186920025.

König, Ulf (2019), Deeper insights from less data - developing a network-based approach to key driver identification in scenario analysis, Hamburg: Verlag Dr. Kova?. ISBN: 978-3-339-10722-0, http://d-nb.info/118349212X.

Kreutzer, Ralf T. (2020), Die digitale Verführung. Selbstbestimmt leben trotz Smartphone, Social Media & Co, [1. Auflage], Wiesbaden, Germany: Springer Gabler. DOI: 10.1007/978-3-658-27781-9. ISBN: 978-3-658-27780-2, http://d-nb.info/1193137993.

Kruse, Björn (2020), Soziale Medien in Organisationen. Adaptive Anpassung von Regelwerken anhand des Vergleichs der angestrebten und tatsächlichen Nutzung, Berlin: Logos. ISBN: 978-3-8325-5061-5, http://d-nb.info/1208430394.

Lange, Bastian (Hg.) (2020), Postwachstumsgeographien. Raumbezüge diverser und alternativer Ökonomien, Bielefeld: transcript. ISBN: 978-3-8376-5180-5. DOI: 10.14361/9783839451809, http://d-nb.info/1200290453.

Lehmann, Maja C. (2020), Die Mitochondrienersatztherapie. Eine rechtliche und rechtspolitische Analyse zwischen PID, Eizellspende und Keimbahntherapie, 1. Auflage, Tübingen: Mohr Siebeck. DOI: 10.1628/978-3-16-158931-7. ISBN: 978-3-16-158930-0, http://d-nb.info/1204506795.

Litschka, Michael/Krainer, Larissa (Hg.) (2019), Der Mensch im digitalen Zeitalter. Zum Zusammenhang von Ökonomisierung, Digitalisierung und Mediatisierung, Wiesbaden, Germany: Springer VS. ISBN: 2523-384X. DOI: 10.1007/978-3-658-26460-4, http://d-nb.info/1183830785.

Plöger, Sven (2020), Zieht euch warm an, es wird heiss! Den Klimawandel verstehen und aus der Krise für die Welt von morgen lernen, Frankfurt/Main: Westend. ISBN: 978-3-86489-286-8, http://d-nb.info/1199216895.

Nass, Elmar/Zerth, Jürgen (Hg.) (2019), Thomas Prescher, Das Nachhaltigkeitsdogma. Wie wir lassen, was wir tun sollten, 1. Auflage, Stuttgart.

Röser, Jutta (2019), Das mediatisierte Zuhause im Wandel. Eine qualitative Panelstudie zur Verhäuslichung des Internets, [1. Auflage], Wiesbaden, Germany: Springer VS. DOI: 10.1007/978-3-658-26073-6. ISBN: 2524-3160, http://d-nb.info/1181239311.

Ruda, Sonja (Hg.) (2020), Sicherheit und Risiko - Vermittlung, Verständnis und Verwirklichung der Kulturen. = Safety and risk - cultural provision, comprehension and realization, 1. Auflage, Berlin: trafo. ISBN: 978-3-86464-164-0, http://d-nb.info/1210390353.

Russell, Stuart J. (2020), Human Compatible. Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält, 1. Auflage, Frechen: MITP. ISBN: 978-3-7475-0173-3, http://d-nb.info/1209148285.

Schubert, Cornelius/Schulz-Schaeffer, Ingo (Hg.) (2019), Berliner Schlüssel zur Techniksoziologie, Wiesbaden, Germany: Springer VS. ISBN: 978-3-658-22256-7. DOI: 10.1007/978-3-658-22257-4, http://d-nb.info/1173923349.

Straubhaar, Thomas (2019), Die Stunde der Optimisten. So funktioniert die Wirtschaft der Zukunft, [1. Auflage], Hamburg: Edition Körber. ISBN: 978-3-89684-271-8, http://d-nb.info/1173001743.

Munack, Axel/Eilts, Peter/Bünger, Jürgen (Hg.) (2019), Martin Unglert, Handlungsfelder und Forschungsbedarf bei Biokraftstoffen, 1. Auflage, Göttingen.

Wallace, Robert G. (2020), Was COVID-19 mit der ökologischen Krise, dem Raubbau an der Natur und dem Agrobusiness zu tun hat, Köln: PapyRossa Verlag. ISBN: 978-3-89438-738-9, http://d-nb.info/1210357070.

Welzer, Harald (2020), Alles könnte anders sein. Eine Gesellschaftsutopie für freie Menschen, Frankfurt am Main: FISCHER Taschenbuch. ISBN: 978-3-596-70348-7, http://d-nb.info/1197721932.

Wittke, Henry A. (2020), Artificial intelligence. An approach to assess the impact on the information economy, 1. Auflage, Baden-Baden: Tectum Verlag. DOI: 10.5771/9783828874800. ISBN: 978-3-8288-4459-9, http://d-nb.info/1208989383.

Zeitschrift politische ökologie, Band 161 (2020), Plastikpoker. Spielregeln für die Entplastifizierung der Welt, München: oekom verlag, Gesellschaft für ökologische Kommunikation mbH. ISBN: 978-3-96238-225-4, http://d-nb.info/1211758141.

Zinkin, John (2020), The challenge of sustainability. Corporate governance in a complicated world, Berlin: De Gruyter. DOI: 10.1515/9783110670486. ISBN: 978-3-11-067040-0, http://d-nb.info/119213205X.