„Der Umgang mit KI erfordert informiertes Vertrauen“

Roboterpsychologin Prof. Dr. Martina Mara über die Chancen und Risiken der immer engeren Beziehung von Künstlicher Intelligenz (KI) und Robotik und die Frage, wie „menschlich“ Maschinen sein sollten. – Ein Interview aus der Trendstudie Künstliche Intelligenz.

Foto: Dominik Gigler

Frau Prof. Dr. Mara, wie lässt sich das Verhältnis von KI und Robotik am besten beschreiben?

Mit dem Verhältnis von Software und Hardware – oder im übertragenen Sinne: jenem von Geist und Körper. Der Roboter ist die Maschine, die sich im Raum bewegt. KI ist per se ein virtuelles Computerprogramm, ein Algorithmus. Lange haben Roboter und KI nicht unbedingt viel gemein gehabt, und so mancher Forscher aus einer der beiden Disziplinen wird das immer noch so sehen. Aber mit der Entwicklung neuer autonomer Maschinen beobachten wir, wie KI und Robotik in immer mehr Bereichen zusammenwachsen. Im gesellschaftlichen Diskurs, in den Medienbildern, die wir sehen, sind KI und Robotik geradezu absurd deckungsgleich. Dort werden beide Themen mit dem Sinnbild des Androiden, der menschengleichen Maschine, verbunden. Ein irreführendes Bild: Es suggeriert, dass Technologie uns Menschen bald in unserer gesamten komplexen Wesenhaftigkeit ersetzen könne und befeuert damit diffuse Ängste.

Welche konkreten Anwendungen und Einsatzfelder von KI-basierter Robotik sind aus Ihrer Sicht zukunftsweisend?

Prototypisch für KI-basierte Robotik ist das autonome Fahrzeug, das auch als „KI auf vier Rädern“ bezeichnet werden könnte. Ohne maschinelles Lernen aus realen oder simulierten Verkehrsszenarien würde es nicht funktionieren. Zukunftsweisende Einsatzfelder gibt es aber beispielsweise auch in der Präzisionslandwirtschaft, wo intelligente Drohnen mittels Bildanalyse den Zustand einzelner Pflanzen oder kleinerer Bodenflächen ermitteln und punktgenau Düngemittel verteilen. Ein dritter exemplarischer Bereich sind kollaborative Roboter, die aufgrund verbesserter Sensorik und Sicherheitssysteme künftig in unterschiedlichsten Arbeitsumgebungen autonom mit Robotik-Laien eng zusammenarbeiten sollen. Auch hier wird es nötig sein, dass die Maschinen zumindest eine gewisse „Intelligenz“ mitbringen, um Zustände und Intentionen ihres menschlichen Teampartners zu deuten und aus der Interaktion zu lernen.

Und vice versa? Welchen Impact hat Robotik auf KI?

Blickt man zum Beispiel in Richtung der Forschungscommunity zu Embodied Artificial Intelligence, begegnet man der Annahme, dass eine starke KI ohne physischen Körper und ohne situationsabhängige Verhaltensweisen im Raum niemals wirklich herstellbar sein wird. So wie beim Menschen wäre die Software ohne Hardware demnach nur unzulänglich. In diesem Feld hat die Robotik einen sehr großen Impact auf KI.

Welche soziokulturellen und psychologischen Aspekte spielen bei KI-basierten Robotik-Lösungen eine besondere Rolle?

Etliche Studien deuten darauf hin, dass intelligente Maschinen Ängste vor Kontrollverlust oder Dominiertwerden auslösen – bei manchen Menschen stärker als bei anderen. Damit wird man im Verhaltensdesign von Robotern künftig behutsam umgehen müssen. Bauen ein Mensch und ein Roboter etwa einen Stuhl gemeinsam zusammen, und der Roboter hat aus früheren Erfahrungen bereits erlernt, welches Teil er dem Menschen als Nächstes reichen muss, fühlen sich manche Personen wahrscheinlich übervorteilt, wenn ihnen der Roboter immer schon das nächste Ding vor die Nase hält, obwohl sie noch gar kein Kommando erteilt haben. Andere finden es vielleicht gut. Das kann mit Erfahrungsunterschieden, Persönlichkeitsfaktoren oder situativen Gegebenheiten zu tun haben. Jedenfalls betrachte ich es für die nächsten Jahre als interessant, dass Technologen und Psychologen gemeinsam über das Umgehen mit solchen individuellen Unterschieden in der Nutzergruppe nachdenken.

Daneben gibt es noch viele weitere psychologische Aspekte, die relevant sind. Ein Beispiel betrifft das richtige Kalibrieren von Vertrauen in intelligente Maschinen. Wir wissen aus Forschung und Praxis, dass viele Menschen KI nur sehr wenig Vertrauen entgegenbringen und sich zum Beispiel gar nicht vorstellen können, relevante Entscheidungen an ein neuronales Netz auszulagern. Gleichzeitig gibt es aber das Phänomen des Overtrust, des völligen Überschätzens maschineller Fähigkeiten. So wie beim Tesla, der längst noch kein voll autonomes Fahrzeug ist – trotzdem sind auf YouTube zahlreiche Videos zu finden, auf denen Passagiere während der Fahrt auf der Rückbank herumturnen. Da müssen wir dringend am richtigen Level nutzerseitigen Vertrauens arbeiten. „Informiertes Vertrauen“ ist ein Begriff, den ich hier gerne benutze.

Werden wir künftig von humanoiden Robotern umgeben sein? Wenn ja, in welchen Lebensbereichen?

Ich kann mir kaum vorstellen, dass wir künftig an jeder Ecke Humanoide sehen werden. Das mag zwar das althergebrachte Science-Fiction-Roboterbild sein, aber in vielen Anwendungsdomänen bringt die menschliche Gestalt überhaupt keinen Mehrwert. Statt dem humanoiden Serviceroboter, der wie Rosie aus den „Jetsons“ mit dem Besen über das Parkett fegt, stellt sich in Zukunft vielleicht ein Schwarm von Mini-Putzdrohnen als praktikable Lösung für den Hausputz heraus. Oder auch etwas ganz anderes. Ich denke, dass es Roboter in ganz unterschiedlichen Formen und Ausprägungen geben wird, und dass Humanoide nur eine Kategorie von vielen sein werden. Wir dürfen außerdem nicht vergessen, dass auch viele bereits eingeführte Objekte wie das Auto oder die Waschmaschine zunehmend „intelligent“ und damit vielleicht ebenfalls zum Roboter werden.

Sollte KI, um akzeptiert zu werden, künftig als besonders „menschlich“ erscheinen, oder gerade nicht?

Ist ein Roboter hochgradig, aber nicht perfekt menschenähnlich designt, kann das oft unheimlich oder sogar furchteinflößend wirken. In der Forschung wird dieser Effekt unter dem Begriff des „Uncanny Valley“, des „unheimlichen Tals“, diskutiert. Man denke hier an Androide mit Silikonhaut und Kunsthaar, deren starre Augen oder kantige Bewegungen nicht halten, was der erste Anschein verspricht. Publikumsreaktionen oszillieren dann oft zwischen Faszination und dem besagten Grusel, die Akzeptanz ist eher gering. Ein Konzept, mit dem viele Menschen besser leben können, ist das eines „freundlichen“ Werkzeugs: komplementäre Szenarien, in denen intelligente Maschinen uns Menschen ergänzen, unterstützen und uns vielleicht sogar mehr Zeit und Ressourcen für Dinge verschaffen, die uns liegen und Spaß machen. Der Humanoid, der dem Kleinkind Gutenachtgeschichten vorliest, passt eher nicht zu diesem Bild.

Europa liegt in Sachen KI-Einsatz weit zurück hinter den USA und China – ist aber im Bereich Robotik leicht führend. Ist die Verbindung von KI und Robotik eine KI-Chance für Europa?

Ja, ich sehe hier durchaus Potenziale. Deutschland ist einer der größten Robotikmärkte der Welt, und gerade das Thema Industrie 4.0, also die vernetzte Fabrik, bietet noch viele Möglichkeiten – so wird KI sicherlich in der Automobilindustrie noch einen starken Impact ausüben, aber ebenso in hoch spezialisierten Nischenbereichen. Das Label „KI made in Europe“ wird derzeit schon intensiv auf EU-Ebene diskutiert. Ich halte den Fokus auf eine vertrauenswürdige, verantwortungsvolle KI, die auf ethische Werte wie Fairness und Compliance by Design setzt, für eine große Chance – auch für wirtschaftliche Wertschöpfung.

Können smarte Roboter dazu beitragen, eine „bessere“ Gesellschaft zu schaffen? Was müssten wir jetzt dafür tun?

Sicher: Smarte Roboter können uns unangenehme Arbeit abnehmen (nicht wegnehmen), und wir können KI bewusst einsetzen, um das Klima zu schützen oder die Energie- und Ressourceneffizienz zu erhöhen. Um diese Vision aber zu realisieren, braucht es entsprechende gesellschaftliche Rahmenbedingungen. Deshalb ist es jetzt an der Zeit für einen breiten Dialog über KI und die Schaffung positiver Zukunftsbilder: Welche Tätigkeiten wollen wir künftig ausüben und welche sollen Maschinen übernehmen? Wie kann diese Synergie praktisch funktionieren? Eine wichtige Voraussetzung dafür ist eine Entmystifizierung von KI und die Schaffung eines breiten KI-Grundverständnisses. Laut einer Studie der Bertelsmann Stiftung kann die Hälfte der Bevölkerung mit dem Begriff Algorithmus nichts anfangen – kein Wunder, dass KI-Systeme oft noch für magische Wesen gehalten werden. Hier stehen alle gesellschaftlichen Akteure und Institutionen, nicht zuletzt die Technikbranche selbst, in der Pflicht, eine „AI Literacy“ voranzutreiben und einen konstruktiven Zukunftsdiskurs zu fördern.


Podcast

Prof. Dr. Martina Mara, die wahrscheinlich bekannteste Roboterpsychologin, klärt gemeinsam mit Tristan Horx die Mythen zu Robotern und KI und auch, ob wir zukünftig dank Sex-Roboter um unser Liebesleben fürchten müssen.


Empfehlen Sie diesen Artikel!

Dieser Artikel ist in folgenden Dossiers erschienen:

Megatrend Konnektivität

Megatrend Konnektivität

Konnektivität ist der wirkungsmächtigste Megatrend unserer Zeit. Das Prinzip der Vernetzung dominiert den gesellschaftlichen Wandel und eröffnet ein neues Kapitel in der Evolution der Gesellschaft. Digitale Kommunikationstechnologien verändern unser Leben grundlegend, reprogrammieren soziokulturelle Codes und lassen neue Lebensstile und Verhaltensmuster entstehen. Um diesen fundamentalen Umbruch erfolgreich zu begleiten, brauchen Unternehmen und Individuen neue Netzwerkkompetenzen und ein ganzheitlich-systemisches Verständnis des digitalen Wandels.

Dossier: Technologie

Dossier: Technologie

Was vor wenigen Jahren noch als visionäres Raunen durch die Fachpresse ging, ist jetzt Alltag geworden: das Internet der Dinge. Das digitale Leben hat den Desktop-Computer endgültig hinter sich gelassen und lässt sich in jedermanns Hosentasche herumtragen. Digitale und analoge Realität verschmelzen zunehmend zu einer, was auch eine langfristige “Technisierung” unserer Lebenwelt bedeutet.