Das Bermudadreieck der Künstlichen Intelligenz

In der wachsenden Datenflut wird es für den einzelnen Nutzer nahezu unmöglich, bewusst eigenständig und unabhängig zu entscheiden.  Ein Beitrag von Dirk Nicolas Wagner, Professor für Strategisches Management an der Karlshochschule International University.

Quelle: eigene Darstellung

Kappt man alle Verbindungen zu Google, gibt es keine Google-Suche mehr, kein Chrome, kein Android, kein YouTube, kein Google Maps, kein Google Mail oder Google Docs. Das klingt ungewohnt. Ein Selbstversuch des Journalistin Kashmir Hill zeigt aber, dass es im Prinzip machbar ist. Es gilt, sich von allen 8,7 Millionen IP-Adressen des Internetgiganten fern zu halten. Eine Abmeldung von den Google-Diensten genügt dabei nicht, denn viele Geräte und Apps anderer Anbieter bauen ihre Dienstleistungen wiederum auf Services der beliebtesten aller Suchmaschinen auf. Dienste und Websites wie Uber, Lyft, die New York Times, Airbnb oder auch ihre Smart-Home-Geräte funktionieren nicht mehr wie gewohnt und versuchen ständig, die Server von Google zu erreichen – bei Kashmir Hill in nur einer Woche rund 100.000 Mal. Das Experiment skizziert die zunehmend klarer werdenden Konturen eines Bermudadreiecks der Künstlichen Intelligenz (KI).

Das Bermudadreieck ist eigentlich ein Gebiet im Westen des atlantischen Ozeans, in dem auf mysteriöse Weise immer wieder Schiffe und Flugzeuge verschwunden oder verunglückt sind. Das Bermudadreieck der KI beschreibt die Dreiecksbeziehung zwischen Individuen, smarten Softwareapplikationen und Technologiekonzernen oder technologieaffinen Staatsapparaten. Richtet man das Fernrohr der ökonomischen Theorie auf diese Konstellation, braucht man nicht lange, um den Konsumenten und Bürger munter paddelnd aber irgendwie verloren in gigantischen Wogen eines Datenozeans zu erspähen.

Laut der IDC-Studie „Data Age 2025“ wird sich das weltweite Datenvolumen in den kommenden Jahren verzehnfachen: Weil sich das Leben der Menschen digital weiter intensiviert – und weil es immer mehr Geräte und Sensoren gibt, die eigenständig Daten sammeln, verarbeiten und weitergeben. Mit solchen Devices wird dann laut IDC jeder Einzelne knapp 5.000 Mal am Tag – also alle 20 Sekunden – im Austausch sein.

Inmitten der wachsenden Datenflut ist der Mensch gegenüber der Maschine gnadenlos im Nachteil. Es wird immer schwerer, die Übersicht zu behalten, und es wird nahezu unmöglich, bewusst eigenständig und unabhängig zu entscheiden. Wir geben fortwährend Informationen über uns preis und sind auf Informationen aus dem Netz angewiesen. Wir befinden wir uns im Auge des Bermudadreiecks. 

Asymmetrische Information in der Dreiecksbeziehung mit KI 

Den entscheidende Merkmal des KI-Bermudadreiecks ist asymmetrische Information: Die einzelne Anwendung hat einen Informationsvorsprung gegenüber dem menschlichen Nutzer. Google Maps kennt nicht nur die Route zum Ziel, sondern weiß auch, wer sonst noch unterwegs ist und wann die Route zuletzt angesteuert wurde. Der Informationsvorsprung des Plattformbetreibers ist noch um ein Vielfaches größer: Hier ist klar, dass die Person – wieder mal – zu spät dran ist, um den im Kalender vermerkten Termin zu erreichen, oder dass die Anschaffung eines E-Scooters naheliegend wäre.   

Zunehmend kommt dabei KI zum Einsatz: immer autonomer agierende Anwendungen, die auf maschinellem Lernen basieren. Diese Algorithmen werden nicht mehr direkt programmiert, sondern entwickeln sich eigenständig mit Hilfe der zur Verfügung stehenden Daten immer weiter. Dadurch kommt eine weitere Asymmetrie ins Spiel, denn nicht nur der Nutzer, sondern auch der Betreiber dieser KI kann immer weniger erklären, wie die Software zu ihren Ergebnissen kommt.

Organisationen wie AlgorithmWatch verfolgen, wie diese Konstellation zu einem Problem wird. Denn ähnlich wie Menschen sind inzwischen auch Maschinen voreingenommen. So wurde unlängst der finnische Finanzdienstleister Svea Ekonomi AB zu einer Geldstrafe verurteilt, weil seine Software zur Kreditwürdigkeitsprüfung diskriminierende Entscheidungen traf. Besonders komplex wird es, wenn unterschiedliche, hochspezialisierte Algorithmen direkt im Austausch miteinander stehen und sogenannte Schwarmintelligenz entwickeln.  

Diese Entwicklungen asymmetrischer Information im Bermudadreieck der KI sind vor dem Hintergrund grundlegender, ökonomischer Zusammenhänge zu sehen. Zum einen liefern Informationsvorsprünge Anreize zu opportunistischem Verhalten: Mit Hilfe von KI werden Prediction Machines entwickelt, die subtile Überzeugungsarbeit leisten, algorithmisch manipulieren oder diskriminierende Entscheidungen treffen können. Zum anderen profitieren sowohl KI-Algorithmen wie auch Internetplattformen von Netzwerkeffekten: Je mehr sie genutzt werden, desto besser werden sie und desto mehr werden sie wiederum nachgefragt. Dieses verstärkende Feedback wirkt jedoch in beide Richtungen: Die Starken werden stärker – und die Schwachen schwächer.

Dieser Vorgang zeigt sich wiederum eindrucksvoll bei Google Maps. Der Dienst scheint uneinholbar, hat weltweit auf mobilen Endgeräten einen Marktanteil von über 80 Prozent und wird selbst von Wettbewerbern wie Yelp genutzt. Nach einer günstigen Einführungsphase hat Google im vergangenen Jahr die Preise drastisch erhöht. Welche Einflüsse bei der Orientierung der Nutzer zum Tragen kommen, ist unklar. Das lange Zeit prominent platzierte Google-Motto „Don’t be evil“ rückte der Konzern jedenfalls 2018 in seinem Verhaltenskodex nach hinten. 

Dies ist nur eines von vielen Beispielen, die verdeutlichen, wie im Bermudadreieck der KI Macht entsteht – die Folgen sind nicht nur wirtschaftlicher Natur, sondern sie betreffen auch die Freiheit des Individuums. Auch deshalb wird inzwischen immer häufiger über die Ethik von KI diskutiert. Das Bermudadreieck der KI zeigt, wie bedeutsam es ist, zunächst die grundlegenden ökonomischen Zusammenhänge zu verstehen, um den Dialog über notwendige Regeln für das zukünftige Zusammenleben fachlich fundiert intensivieren zu können.

Literatur:
Agrawal, Ajay / Gans, Joshua und Goldfarb, Avi (2018): Prediction Machines. The Simple Economics of Artificial Intelligence. Boston (Ma.)
Hill, Kashmir (2019): I Cut Google Out Of My Life. It Screwed Up Everything. In: gizmodo.com
Kennedy, James (2011): Swarm Intelligence. In: Albert Zomaya (Hg.): Handbook of Nature-inspired and Innovative Computing. Integrating Classical Models with Emerging Technologies. New York/London, S. 187–219
Reinsel, David / Gantz, John und Rydning, John (2018): Data Age 2025. The Digitization of the World From Edge to Core. An IDC White Paper. In: seagate.com

Über den Autor

Dirk Nicolas Wagner ist Professor für Strategisches Management an der Karlshochschule International University in Karlsruhe und Geschäftsführer des Karlshochschule Management Instituts. Zuvor war er in Deutschland und Großbritannien in leitenden Positionen in der Industrie tätig. Seit den 1990er-Jahren beschäftigt Wagner sich mit Fragestellungen rund um das Thema Mensch und Maschine.

Empfehlen Sie diesen Artikel!

Dieser Artikel ist in folgenden Dossiers erschienen:

Megatrend Konnektivität

Megatrend Konnektivität

Konnektivität ist der wirkungsmächtigste Megatrend unserer Zeit. Das Prinzip der Vernetzung dominiert den gesellschaftlichen Wandel und eröffnet ein neues Kapitel in der Evolution der Gesellschaft. Digitale Kommunikationstechnologien verändern unser Leben grundlegend, reprogrammieren soziokulturelle Codes und lassen neue Lebensstile und Verhaltensmuster entstehen. Um diesen fundamentalen Umbruch erfolgreich zu begleiten, brauchen Unternehmen und Individuen neue Netzwerkkompetenzen und ein ganzheitlich-systemisches Verständnis des digitalen Wandels.

Dossier: Technologie

Dossier: Technologie

Was vor wenigen Jahren noch als visionäres Raunen durch die Fachpresse ging, ist jetzt Alltag geworden: das Internet der Dinge. Das digitale Leben hat den Desktop-Computer endgültig hinter sich gelassen und lässt sich in jedermanns Hosentasche herumtragen. Digitale und analoge Realität verschmelzen zunehmend zu einer, was auch eine langfristige “Technisierung” unserer Lebenwelt bedeutet.