Prof. Dr. Andreas Dengel, Leiter des Forschungsbereichs Smarte Daten & Wissensdienste am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), über Risiken und Potenziale von KI und die Notwendigkeit einer globalen KI-Kontrolle. – Ein Interview aus der Trendstudie Künstliche Intelligenz.
„Wir brauchen eine UNO für KI“
Herr Prof. Dr. Dengel, „KI“ ist heute ein Hype-Begriff, mit dem gerade in den Medien viele Ängste geschürt werden. Wie beurteilen Sie diese Entwicklung?
Das Problematische am KI-Begriff ist, dass wir das „I“ – also die Intelligenz – nicht richtig fassen können. Intelligenz ist mannigfaltig: Sie adressiert rationale, aber auch irrationale Aspekte unseres Verstandes, wobei sie in ihrer Kombination intuitives und bewusstes Handeln erlauben. Da solches Handeln grundsätzlich schwer fassbar ist, ist es erst recht für Laien schwierig, KI richtig einzuordnen. Die heutige KI simuliert vor allem rationales Handeln und ist dort überlegen. Aber eine entscheidende Komponente fehlt KI-Systemen bisher: das Reflektieren des eigenen Handelns und das bewusste Verstehen der Handlungskonsequenz für sich selbst, den Menschen, die Gesellschaft und die Umwelt. So ist etwa die inhaltliche Sinnhaftigkeit einer Kommunikation zwischen Robotern fragwürdig. Dennoch werden hier Horrorszenarien skizziert, genährt von Aussagen bekannter Forscher wie Ray Kurzweil, der glaubt, man könne „Bewusstsein“ von Menschen auf Rechner downloaden und dann auf Avatare und Roboter übertragen. Diese Ankündigungen, die bisher in keiner Weise fußen, werden medial bevorzugt aufgegriffen und tragen zu einem verzerrten Bild von KI bei.
Wo sehen Sie konkret Risiken in Bezug auf KI-Anwendungen?
Die Technisierung ist insgesamt in sehr großen Schritten unterwegs, und dabei spielt KI eine wichtige Rolle. Problematisch sind dabei oftmals die inhärente Komplexität und Sensibilität solcher Systeme. Je umfassender die angeschlossenen Komponenten sind, desto komplexer sind die Abhängigkeiten. Damit werden Verkehrssysteme, Fabriken oder die Stromversorgung anfälliger gegenüber aktiven Angriffen von außen – aber eben auch für inhärente Probleme des Systems an sich. Hinzu kommt, dass KI auch immer ein gewisses Ziel hat: Sie erhält einen Auftrag und verfolgt diesen dann konsequent. Da wir Menschen, als KI-Entwickler, aber auch nicht immer an alles denken und alle Möglichkeiten abwägen, entstehen Lücken und Schwachstellen im System. Das kann dazu führen, dass KI anders handelt als ursprünglich vorgesehen.
Was kann KI heute – und was kann sie (noch) nicht?
KI ist grundsätzlich dort gut, wo man Dinge explizit messen und in Form von Daten darstellen kann. Entscheidend ist dabei eine ausreichend große Datengrundlage. Heute werden aber auch Methoden wie Transfer Learning entwickelt. Solche Modelle erkennen bestimmte Datenmerkmale und können dann bei einem anderen Problem mit ähnlichen Daten genau über diese gelernten Merkmale angewendet werden. Das ist hilfreich, wenn beim eigentlichen Problem zu wenig Daten vorhanden sind. Solche vortrainierten Modelle werden künftig ähnlich wie in einem App-Store beziehbar sein und können dann von grundsätzlich jedem Unternehmen auf die eigenen Daten angewendet werden. Doch KI kann weit mehr als nur Mustererkennung. Etwa Linked Open Data – dabei wird versucht, relationale Modelle der Welt, beispielsweise in der Medizin oder im Pharmabereich, zu modellieren: Was für Objekte gibt es? In welchen Beziehungen stehen sie zueinander? Ziel dabei ist es, ontologisches Wissen zu modellieren, zu explizieren und es, kombiniert mit datengetriebenen Modellen, zu nutzen. Das sind spannende Aspekte, die weniger bekannt sind – und weniger Medienrummel erfahren.
In welchen Bereichen hat KI besondere Potenziale?
Jeder nutzt heute KI im Alltag – meist, ohne es zu wissen: Beispielsweise das Navigationssystem im Auto, das für unzählige Verkehrsteilnehmer gleichzeitig dynamisch, je nach Verkehrslage und Unfällen, die beste Route berechnet. Oder die Google-Suche in jedem Endgerät, die sich stark verändert hat in den vergangenen Jahren: Google verwendet inzwischen auch Linked Data, ortet also Beziehungen zwischen Menschen, Organisationen oder Ereignissen und schafft damit Verbindungen von Suchbegriffen zu real existierenden Dingen in der Welt. Auch im Hinblick auf die Mobilität spielt KI eine große Rolle, vor allem in Bezug auf die Konnektivität, autonomes Fahren, Carsharing und die Elektrifizierung.
Deutschland ist stark im Bereich der KI-Forschung, liegt aber in der konkreten Anwendung international zurück. Was sind die Gründe dafür, und was muss sich ändern?
In Deutschland ist man immer etwas bescheiden und introvertiert. Wir halten uns zurück und werden dann von anderen auf der Grundlage unserer eigenen Ergebnisse überholt. Dabei passiert in Deutschland sehr viel im Bereich der KI-Anwendung. Allein aus dem DFKI sind fast 90 Start-ups entstanden – nur hinken wir hinterher mit dem Marketing und verfügbarem Kapital. Wir sind in Europa die absolute Nummer eins, was KI-Anwendungen betrifft, wir arbeiten für die ganze Welt. Ich denke, in Deutschland müssen wir mehr aus unseren Leistungen und Ergebnissen machen, im Sinne von: Schaut her, und macht mit!
Chinas erklärtes Ziel ist es, KI-Weltführer zu werden. Wie wirkt sich diese Strategie auf den Fortschritt von KI-Systemen aus?
Die Geschwindigkeit in China im Bereich KI ist enorm, ich bin jedoch kein großer Fan der chinesischen KI-Strategie, trotz aller Erfolge. Chinesische Start-ups hatten in den vergangenen Jahren die Möglichkeit, mit sehr sensiblen Daten arbeiten zu können. Das liegt jenseits von dem, was wir in Deutschland wollen und rechtlich dürfen. In Deutschland haben wir einen anderen Markt: Statt in Großfirmen wie in den USA und China kann KI hier viel besser in mittelständischen Unternehmen verankert werden. Diese können Spezialsegmente des Marktes belegen, mit ihren eigenen, spezifischen Daten. Über diese Nischen hinweg können wir unsere eigene KI definieren – und im internationalen Wettbewerb auch gut positionieren. Viele Branchen beginnen erst jetzt, KI zu nutzen: nicht primär datengetrieben und konsumentenorientiert, sondern mit Fokus auf Nachhaltigkeit. Viele Markt- und Technologieführer in der westlichen Welt können KI künftig in Kombination mit traditionellen Werten und Produkten nutzbar machen.
Forschung und Anwendung leben von Bildung: Welches Wissen und welche strategischen Ansätze brauchen Unternehmen, insbesondere hierzulande, für einen zukunftsweisenden Umgang mit KI?
Das ist ein ganz wesentlicher Punkt und inzwischen auch Teil der deutschen KI-Strategie. Im DFKI arbeiten wir schon seit Jahren daran, das KI-Fachwissen in Unternehmen zu vergrößern. Dafür kooperieren wir in Transferzentren mit deutschen Unternehmen, deren Mitarbeiter am Puls der Zeit gecoacht werden. Wir beraten die Firmen in diesen Labs und zeigen, wie einfach KI heute schon für Unternehmen nutzbar ist. Dabei wird KI auch entmystifiziert: Wenn man erklärt, was KI ist, was machbar ist und was nicht, schafft man ein greifbares Bild. Unternehmen können dann einschätzen, in welche Richtungen man welche Verfahren oder Modelle einsetzen kann und wie man KI-Potenziale schrittweise erschließt. Wir stoßen da auf offene Ohren, die Erfahrungen sind sehr gut und die Nachfrage ist sehr groß.
Wohin sollte die KI-Entwicklung im Hinblick auf das gesellschaftliche Wohl gehen?
KI sollte immer im Hinblick auf den menschlichen Nutzen gesehen werden. KI hat Vorteile: Sie wirkt bei kognitiven Aufgaben leistungsverstärkend, erweitert die menschlichen Fähigkeiten und beschleunigt damit die Lösungsgeschwindigkeit bei Problemen. Wenn man KI ressourcenoptimierend als digitalen Begleiter des Menschen einsetzt, dann ist das sehr sinnvoll. Das sehen nicht nur wir im DFKI so, sondern auch Unternehmen in ganz Europa oder beispielsweise Japan. Doch es gibt auch ein manipulatives KI-Potenzial, das Ethik-Leitsätze erfordert – und hier ist der Weg noch weit. Wir brauchen eine internationale Kollaboration, die deutlich über Deutschland oder Europa hinausgeht: eine Art UNO für KI, die mit viel Fachwissen einen Gegenpol zu den Möglichkeiten der technischen Entwicklung bildet und entsprechende Normen und Richtlinien generiert. Eine wirkungsmächtige Institution, die KI weltweit begleitet und den Nutzen für den Menschen und für die Gesellschaft in den Mittelpunkt stellt. Denn KI ist ein globaler Aspekt, der uns alle betrifft.
Das komplette Gespräch mit Prof. Dr. Andreas Dengel können Sie in unserem Podcast Treffpunkt: Zukunft nachhören.
Über Prof. Dr. Andreas Dengel
Prof. Dr. Andreas Dengel ist Mitglied der Unternehmensleitung, wissenschaftlicher Direktor sowie Leiter des
Forschungsbereiches Smarte Daten & Wissensdienste am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern. Seit 1993 ist er Professor für Informatik an der TU Kaiserslautern und Leiter der AG Wissensbasierte Systeme. Regelmäßig arbeitet er auch als Sachverständiger, unter anderem für den Wissenschaftsrat der Bundesregierung.
