KI und die Schattenseiten von Mensch-Maschine-Teams

Die neue Ordnung von Wirtschaft und Gesellschaft: Was ändert sich in einer von Künstlichen Intelligenz (KI) geprägten Welt? Ein Beitrag von Dirk Nicolas Wagner, Professor für Strategisches Management an der Karlshochschule International University.

Franck V. / unsplash.com

Seitdem sich Menschen Gedanken über KI und autonome Maschinen machen, werden davon ausgehende Gefahren für ein friedliches Zusammenleben diskutiert. Prägend war hier bereits vor Jahrzehnten der Science-Fiction-Autor Isaac Asimov mit seinen noch heute viel zitierten Robotergesetzen. In der Praxis formieren sich aktuell ganz konkrete Aufgaben: von Problemen fehlender Transparenz und Erklärbarkeit autonomer Systeme über Fragen nach Biases und der Fairness von Algorithmen bis zu einem ethischen KI-Design oder dem Schutz der Privatsphäre. Hier sind bereits vielschichtige Regelwerke in Arbeit. Sie müssen mit dem rasanten technologischen Fortschritt und einer exponentiell zunehmenden Komplexität Schritt halten: Heute sind bereits mehr als drei Mal so viele Geräte wie Menschen mit dem Internet verbunden, 2025 sollen es 75 Milliarden sein – bei einer Weltbevölkerung von 8 Milliarden Menschen.           

In einer von KI geprägten Welt lässt sich soziale Ordnung aber nicht einfach mit separaten Regelwerken für Menschen und Maschinen herstellen, denn menschliche und künstliche Akteure agieren meist arbeitsteilig im Team. Ein autonom fahrendes Fahrzeug, das einen tödlichen Unfall verursacht, ist im Auftrag eines Menschen unterwegs und ist von einem Unternehmen entwickelt und produziert worden, das Menschen leiten. Mensch-Maschine-Kollektive sind geprägt durch agile Teamarbeit und flexible Autonomie. Manchmal entscheidet der Mensch, ein anderes Mal die Maschine. KI trifft inzwischen eigenständig Entscheidungen mit erheblichen Auswirkungen auf menschliches Leben, unter anderem in den Bereichen Transport, Gesundheitswesen, „In einer von KI geprägten Welt lässt sich soziale Ordnung nicht einfach mit separaten Regelwerken für Menschen und Maschinen herstellen, denn menschliche und künstliche Akteure agieren meist arbeitsteilig im Team.“ Finanzen und öffentliche Verwaltung, etwa bei der Vergabe von Visa.

Die Komplexität steigt – aber nicht allein durch technischen Fortschritt, sondern vor allem durch die sich ergebenden organisatorischen, ökonomischen, (para-)militärischen und politischen Möglichkeiten: durch neue soziale Technologien, die neue Freiheitsgrade und Chancen eröffnen. Neue Freiheiten schaffen aber auch neue Probleme. Das erkannte der Philosoph Thomas Hobbes bereits 1651: In seinem „Leviathan“ schrieb er, dass in einer Welt, in der alle frei sind, ein brutaler Naturzustand eintrete, in dem der Mensch zu des Menschen Wolf werde.

Aber Hobbes war zu pessimistisch: Getragen von gutem Willen, Kultur und der Verbreitung und Vertiefung demokratischer Strukturen, konnten sich freiheitliche Gesellschaften trotz zahlreicher und massiver Rückschläge vielversprechender entwickeln als zunächst zu vermuten war. Das zeigt bis heute das komplette Spektrum im Umgang mit Bedrohungen für das menschliche und menschenwürdige Leben, von der Vermeidung atomarer Konflikte bis zur #MeToo-Debatte. Insgesamt erweist sich die Welt als zunehmend friedlich. Während von Staaten ausgeübte Gewalt rückläufig ist, nimmt von nichtstaatlichen Organisationen ausgehende Gewalt allerdings zu.

Damit stellt sich heute die Frage: Könnte KI zu einer Neuauflage von Hobbes’ Naturzustand führen? Konkreten Anlass liefert etwa der Einsatz von KI für autonome Waffen. Mensch-Maschine-Teams forschen an Technologien, die leichter zugänglich sind als konventionelle Handfeuerwaffen, weniger Opferbereitschaft erfordern als Selbstmordanschläge – und in ihrer Skalierbarkeit und Wirksamkeit kaum noch abschätzbar sind. Die Initiative „Ban Lethal Autonomous Weapons“ warnt eindrücklich vor möglichen Szenarien. Und auch aktuelle Vorfälle wie der Komplettausfall des Londoner Flughafens Gatwick aufgrund der Sichtung privater Drohnen zeigen, wie empfindlich moderne Gesellschaften jederzeit und überall durch effektive Mensch-Maschine-Teams getroffen werden können.

Diese Zwischenfälle sind symptomatisch für eine grundlegende systemische Veränderung: Waren in der Vergangenheit Waffen von größerer Schlagkraft, etwa Atom- und Chemiewaffen, nur wenigen zugänglich, nutzen KI-basierte, (teil-)autonome Waffen Technologien, die bereits heute jeder in Form eines Smartphones in Händen hält. Damit können künftig nicht nur Staaten oder mächtige Terrororganisationen über Krieg und Frieden entscheiden, sondern schlicht viele Millionen Menschen. Diese gleichmäßige Verteilung der Handlungsmöglichkeiten war für Hobbes die ausschlaggebende Voraussetzung für einen Krieg aller gegen alle.       

Ob der Hobbes’sche „Leviathan“ in Form eines starken Staates eine geeignete Antwort auf einen KI-basierten Naturzustand 4.0 sein kann, darf bezweifelt werden. Zum einen besteht hier mittels moderner Technologien stärker denn je die Gefahr, dass der Staat seine Macht gegen die eigenen Bürger richtet. Aktuell erfordert unter anderem die Einführung des Sozialkredit-Systems in China ein genaueres Hinsehen. Zum anderen reicht der Einfluss des Nationalstaates in einer globalisierten Welt nicht mehr weit genug. Es gibt also Gründe, sich über andere, auch dezentral wirkende Ordnungskräfte Gedanken zu machen. Dabei sind drei Faktoren zentral:

  1. Bildung: Quer durch die Gesellschaft geht es um den Erwerb von Verfügungswissen im Sinne eines grundlegenden Verständnisses der Möglichkeiten und Wirkungen neuer Technologien – und um die Entwicklung von Orientierungswissen, also Wissen darüber, was getan werden sollte.
  2. Kultur: Eine humanistische Prägung bildet eine wichtige Größe, um dezentral und informell-konstruktiv soziale Ordnung sicherstellen zu können.
  3. Allgemeine Verhaltensregeln: Autonome Waffensysteme führen vor Augen, dass der Mensch in Mensch-Maschine-Teams sprichwörtlich nicht mehr den Finger am Abzug hat. Der Mensch ist mit den Konsequenzen seiner Handlungen weit weniger konfrontiert als in anderen Konfliktsituationen. Um diese Verbindung – und damit die Einheit von Freiheit und Verantwortung, von Entscheidung und Haftung – herzustellen, sind weltweite Regeln und Sanktionsmechanismen erforderlich.

Bildung, Kultur und die Einheit von Freiheit und Verantwortung sind keine neuen Erfindungen. Soll aber sichergestellt werden, dass Mensch-Maschine-Teams in der KI-geprägten Welt möglichst kurze Schatten werfen, sind diese Elemente einer friedlichen Gesellschaftsordnung wichtiger denn je.

Über den Autor

Dirk Nicolas Wagner ist Professor für Strategisches Management an der Karlshochschule International University in Karlsruhe und Geschäftsführer des Karlshochschule Management Instituts. Zuvor war er in Deutschland und Großbritannien in leitenden Positionen in der Industrie tätig. Seit den 1990er-Jahren beschäftigt Wagner sich mit Fragestellungen rund um das Thema Mensch und Maschine.

Empfehlen Sie diesen Artikel!

Dieser Artikel ist in folgenden Dossiers erschienen:

Megatrend Konnektivität

Megatrend Konnektivität

Konnektivität ist der wirkungsmächtigste Megatrend unserer Zeit. Das Prinzip der Vernetzung dominiert den gesellschaftlichen Wandel und eröffnet ein neues Kapitel in der Evolution der Gesellschaft. Digitale Kommunikationstechnologien verändern unser Leben grundlegend, reprogrammieren soziokulturelle Codes und lassen neue Lebensstile und Verhaltensmuster entstehen. Um diesen fundamentalen Umbruch erfolgreich zu begleiten, brauchen Unternehmen und Individuen neue Netzwerkkompetenzen und ein ganzheitlich-systemisches Verständnis des digitalen Wandels.

Dossier: Technologie

Dossier: Technologie

Was vor wenigen Jahren noch als visionäres Raunen durch die Fachpresse ging, ist jetzt Alltag geworden: das Internet der Dinge. Das digitale Leben hat den Desktop-Computer endgültig hinter sich gelassen und lässt sich in jedermanns Hosentasche herumtragen. Digitale und analoge Realität verschmelzen zunehmend zu einer, was auch eine langfristige “Technisierung” unserer Lebenwelt bedeutet.