KI: Bildet Mensch-Maschine-Teams!

KI macht große Fortschritte, doch sie ist nicht unfehlbar. Immer wichtiger wird deshalb ein neues Teamplay: zwischen Mensch und Maschine.

Von Prof. Dirk Nicolas Wagner

Man mag die “Intelligenz” von Künstlicher Intelligenz (KI) weiterhin in Frage stellen – fest steht, dass sie sich unfassbar schnell weiterentwickelt. Im Gegensatz dazu ist die individuelle oder organisatorische Weiterentwicklung jeden Tag aufs Neue eine Entdeckung der Langsamkeit. Welche Folgen hat diese zunehmend auseinanderklaffende Entwicklung?

In einer viel diskutierten Studie über die Zukunft der Arbeit behaupten der Ökonom Carl Benedict Frey und der Informatiker Michael Osborne von der Universität Oxford, dass fast die Hälfte der Arbeitsplätze, die wir derzeit kennen, in den nächsten zehn bis fünfzehn Jahren automatisiert werden. Tatsächlich haben die Globalisierung und das fortwährende Streben nach Effizienz viele Branchen dazu veranlasst, sich auf die Automatisierung zu konzentrieren. Wir haben uns an Fabriken gewöhnt, die fast leer stehen.

Derweil sind die Büros noch immer voll besetzt: Hier verschwenden wir heutzutage unsere Zeit. Im Vergleich zu Maschinen ist es fast schon peinlich, wie wenig Arbeit die meisten von uns an einem Tag erledigen. Viele Industrien kämpfen darum, Hands-on-Tools-Zeiten von mehr als 4 bis 6 Stunden pro Tag zu erreichen. Verlässliche Zahlen gibt es nicht, aber um die Brain-on-Task-Time ist es möglicherweise noch schlechter bestellt: Wir können uns nicht konzentrieren, lassen uns ablenken, warten auf die nächste Unterbrechung und finden es schwierig zu lernen. Die meiste Zeit schlafen wir, essen, knüpfen Kontakte – und starren freizeitorientiert auf Retinadisplays.

Zum Vergleich: Googles KI-Software AlphaZero brauchte – zu Beginn nur mit den Grundregeln des Schachspiels ausgestattet – ganze vier Stunden, um den weltbesten Schachcomputer Stockfish zu schlagen. Dank eines selbstlernenden Algorithmus war dafür nicht einmal ein Lehrer nötig.         

Aber Schach ist einfach, und in der realen Welt können wir uns (noch) nicht ganz auf Maschinen verlassen. Nehmen wir folgendes Beispiel: Im Juni 2009 fuhr in Washington ein Metro-Zug im Linienverkehr nahezu ungebremst auf einen stehenden Zug auf. Neun Menschen wurden getötet, 80 verletzt. Das Sicherheitssystem hatte fälschlicherweise eine freie Strecke signalisiert. Die Zugführerin hatte trotz Notbremsung keine Chance, den Unfall zu verhindern.

Das Beispiel zeigt, dass in komplexen Systemen Fehler unvermeidbar sind. Wir beruhigen uns damit, dass in Zügen immer noch Zugführer und in Flugzeugen noch Piloten sitzen. Das ist die Ironie der Automatisierung: Der Mensch wird – als eigentlich schwächstes Glied in der Kette – bewusst aus dem System eliminiert wird, nur um dann im Notfall die Situation doch noch retten zu sollen.

Ein weiterer interessanter Fall ist der Air-France-Flug 447 im Jahr 2009 von Rio de Janeiro nach Paris. Bei schlechtem Wetter empfing der Autopilot des Flugzeugs von einigen Sensoren keine Signale mehr. Das System war intelligent genug, um die Kontrolle an die Besatzung zu übergeben. Hätte der Pilot einfach nur den Kurs gehalten, wäre vermutlich nicht viel passiert. Überrascht von der Situation und mangels manueller Flugpraxis außerhalb von Start und Landung beging die Besatzung eine Reihe von Fehlern, die zu einem Absturz des Airbus in den Atlantik führten und alle 228 Menschen an Bord töteten.

Schach, Züge, Flugzeuge und Verkehrsnetze scheinen handliche Systeme zu sein, verglichen mit einer globalen Wirtschaft, die dabei ist, Milliarden von Mikroprozessoren und Akteuren über das Internet der Dinge zu verbinden. Unsere Organisationen, unsere Wertschöpfungsketten und Systeme streben nach Effizienz und Perfektion. Immer öfter ersetzen uns intelligente Maschinen, und wir erschaffen für sie neue Sphären, in die wir selbst physisch nie vordringen werden. Aber was ist, wenn die Maschine ausfällt, wenn sie das aufgeworfene Problem nicht löst? Dann ist plötzlich der zuvor als Schwachpunkt ausgemachte Mensch gefragt. Wir bleiben auf Abruf. Aber je mehr Arbeit uns genommen wird, desto weniger sind wir vorbereitet. Wie können wir mit diesem Dilemma umgehen?  

Ein Vorschlag kommt von Garry Kasparov, dem letzten menschlichen Schachgroßmeister, bevor Deep Blue und andere Computer in den 1990er-Jahren die Disziplin eroberten: Wir sollten unsere Teamfähigkeiten entwickeln – zwischen Mensch und Maschine. Die Erkenntnis ergibt sich aus der Einführung einer neuen Disziplin für das Schachspiel: Im “Freestyle-Chess” oder “Advanced Chess” schließen sich menschliche Spieler mit Schachcomputern zusammen, um sich an Wettbewerben mit anderen Spielern oder Teams zu beteiligen. Es stellte sich heraus, dass Mensch-Maschine-Teams besser spielen als Supercomputer oder menschliche Großmeister. Erfolgreiche Teams bestehen nicht zwangsläufig aus herausragenden Teammitgliedern. Solide Schachspieler, die mit handelsüblichen Schachcomputern spielen, haben es geschafft, Teams mit individuell viel stärkeren Spielern zu schlagen. Das Erfolgsgeheimnis: Sie haben bessere Verfahren, bessere Prozesse. Oder anders ausgedrückt: Sie organisieren ihr Team besser.   

Es bleibt abzuwarten, ob Freestyle-Schachteams mit AlphaZero zurechtkommen, doch die Idee einer guten Zusammenarbeit zwischen Mensch und Maschine scheint der einzige Ausweg aus dem beschriebenen Dilemma zu sein. Was aber bedeutet das für die Arbeitswelten im 21. Jahrhundert? Nur wenige von uns sind Informatiker. Und wenn wir es wären, wäre es von Nutzen? Die Computertechnologie schreitet in atemberaubender Geschwindigkeit voran, mit selbst kurzfristig unvorhersehbaren und nicht planbaren Auswirkungen auf Arbeit, Wirtschaft und Gesellschaft. KI-Technologien sind dabei, selbst für die fortschrittlichsten Softwareentwickler zur Blackbox zu werden. Damit wird ein Phänomen, das der Philosoph Hermann Lübbe als "Gegenwartsschrumpfung" bezeichnet, dramatisch beschleunigt.

Angesichts dieser Entwicklungen können zwei Vorschläge dazu beitragen, dass sowohl einzelne Wissensarbeiter als auch Unternehmen weitermachen können, ohne Schachmatt gesetzt zu werden. Die erste besteht darin, die Maschine als Kollegen und nicht als bloßes Werkzeug zu behandeln. Dies ist ein Paradigmenwechsel, der die Einführung neuer Perspektiven ermöglicht. Kooperieren wird wichtiger, als Menschen durch Maschinen zu ersetzen. Es bedeutet auch, dass Maschinen als wirtschaftliche und soziale Akteure betrachtet werden. Eine solche Interpretation macht es leichter zu verstehen, was vor sich geht. Zum Beispiel zu erkennen, dass Maschinen, genau wie Menschen, bei Entscheidungen voreingenommen sein können.   

Der zweite Vorschlag besteht darin, sich auf erfolgreiche Anpassung zu konzentrieren anstatt auf langfristige Strategien. Dies ist eine Lektion aus der Komplexitätsökonomik: Da wir immer weniger in der Lage sind, wirtschaftliche Entwicklungen vorherzusagen oder zu steuern, sind wir gut beraten, unsere Organisationen so zu gestalten, dass sie gute Evolventen sind. Die (künstliche) Evolution ist klüger als wir, also ist es klug, die Kraft der Evolution zu nutzen. Von nun an tun wir das in Teams, die sowohl aus menschlichen als auch aus maschinellen Akteuren bestehen.

Die Vorschläge, Maschinen als Kollegen zu interpretieren und sich auf die Anpassung statt auf große Pläne oder ganzheitliche Entwürfe zu konzentrieren, sind eher abstrakt und noch schwer zu fassen. Es ist deshalb nicht verwunderlich, dass Agilität zur Managementmode avanciert ist. Tatsächlich scheinen agile Methoden in hohem Maß mit den Leitmotiven von Mensch-Maschine-Teamplay und Anpassungsfähigkeit kompatibel zu sein.

Eine weitere fruchtbare Orientierung könnte von einer Branche kommen, die aufgrund der hohen Risiken seit langem unter erheblichem Druck steht, Technologie mit hochqualifizierten Arbeitskräften erfolgreich zu integrieren: die Luftfahrt. Seit fast vierzig Jahren bilden Fluggesellschaften ihre Besatzungen aus, um herausfordernde Situationen zu meistern und Flugzeugabstürze zu vermeiden. Dass dies nicht immer gelingt, zeigen leider Flüge wie Air France 447. Im Laufe der Jahre hat sich aber ein klares Muster von Fähigkeiten herausgebildet, die trainiert werden müssen. Dazu gehören Situationsbewusstsein, Kommunikation und Koordination, Kooperation, Wachsamkeit sowie Entscheidungsfindung. So genanntes Crew Resource Management Training basiert weitgehend auf Human-Factor- und Verhaltenswissenschaften.

Ob agil, mit Hilfe von Crew Training oder in anderen, neuen Formen: Es wird immer wichtiger, sich mit der Ironie der Automatisierung auseinanderzusetzen. Dies erfordert die Entwicklung eines effektiven Teamplays zwischen Mensch und Maschine sowie individuelle und organisatorische Kompetenzen, um sich an sich schnell ändernde Gegebenheiten anzupassen. Das systematische Erlernen und Üben des Managements von Mensch und Maschine, wie es die Luftfahrtindustrie gezeigt hat, kann eine gute Anleitung sein.

Aber außerhalb des Cockpits gibt es noch mindestens zwei weitere Aspekte, die berücksichtigt werden sollten: Wie Hannah Arendt und andere hervorgehoben haben, ist der Mensch mit der Fähigkeit ausgestattet, Neuanfänge zu machen: Wir sind kreativ und innovativ. Auch diese Fähigkeit will entwickelt werden. Dies aber erfordert Freiheit – die verschwindet, wenn Menschen zu Sklaven der Maschinen werden wie heute etwa in “zeitgemäßen” E-Commerce-Logistikzentren. Deshalb muss zweitens Fragen der Ethik und der sozialen Ordnung genügend Aufmerksamkeit geschenkt werden. Wenn nicht nur Menschen, sondern auch Maschinen orchestriert werden, benötigen Individuen Orientierungswissen, um zu entscheiden, was richtig und was falsch ist.

Organisationen und Institutionen müssen nicht nur gute Evolventen sein. Sie müssen auch verlässliche Beschützer der menschlichen Werte und Rechte sein. Das kann eine (Wieder-)Entdeckung der Langsamkeit erforderlich machen.    

Empfehlen Sie diesen Artikel!

Dieser Artikel ist in folgenden Dossiers erschienen:

Megatrend Konnektivität

Megatrend Konnektivität

Konnektivität bezeichnet die neue Organisation der Menschheit in Netzwerken. Über das „Internet der Dinge“ kommunizieren nicht mehr nur Menschen, sondern auch Maschinen miteinander. Doch der wahre Impact dieses Wandels liegt im Sozialen: Die neue Kultur der Openness öffnet Unternehmen und administrative Strukturen nach außen.

Dossier: Technologie

Dossier: Technologie

Was vor wenigen Jahren noch als visionäres Raunen durch die Fachpresse ging, ist jetzt Alltag geworden: das Internet der Dinge. Das digitale Leben hat den Desktop-Computer endgültig hinter sich gelassen und lässt sich in jedermanns Hosentasche herumtragen. Digitale und analoge Realität verschmelzen zunehmend zu einer, was auch eine langfristige “Technisierung” unserer Lebenwelt bedeutet.

Folgende Menschen haben mit dem Thema dieses Artikels zu tun:

Dirk Nicolas Wagner

Dirk Nicolas Wagner ist Professor für Strategisches Management an der KIU und Geschäftsführer des KMI. Seit den 90er-Jahren beschäftigt Wagner sich mit Fragestellungen rund um das Thema Mensch und Maschine.