Das Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) forscht seit über 30 Jahren an Künstlicher Intelligenz (KI) für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz. Das Diplomatische Magazin hat mit dem CEO des Deutschen Forschungszentrums Antonio Krüger, Professor für Informatik, gesprochen.
DM: Herr Professor Krüger, das DFKI macht in seinen 25 Forschungsbereichen Grundlagenforschung und auch anwendungsbezogene Entwicklungen. In Ihrem eigenen Forschungsbereich geht es um „Kognitive Assistenzsysteme“. Was hat man sich darunter vorzustellen und was bedeutet das für die Praxis?
Prof. Dr. Krüger: Wenn man die Arbeiten in meinem Forschungsbereich konzeptuell zusammenfassen möchte, dann geht es um den KI-Companion, der den Menschen in der Vielfalt seiner Lebenssituationen unterstützt. Das kann die Assistenz in der Notaufnahme, das Einkaufen oder das Klettern sein oder die Zusammenarbeit von Mensch und Roboter in der Pflege oder in der Produktion, ein Bereich übrigens, in dem wir sehr eng mit Tschechien kooperieren. KI soll adäquate Mensch-Maschine-Interaktion ermöglichen und relevante Empfehlungen geben, die dem jeweiligen Ziel entsprechen und das nicht nur qualitativ und konzeptuell, sondern auch multilingual und interkulturell. Dabei setzt KI alle Vorteile der Maschine ein: Geschwindigkeit, Ermüdungsfreiheit, Robustheit, Speicherplatz, Faktenwissen. Der KI-Companion steht für mich paradigmatisch für die Rolle, die KI in unserem täglichen Leben einnehmen kann. Das Schlussfolgern allerdings, die handlungsangepasste Auswahl der richtigen Aktion, die letzte Entscheidung bleiben Aufgaben des Menschen.
DM: Sie stehen an der Spitze eines der größten unabhängigen KI-Forschungsinstitute. Trotzdem die Frage: Können Sie angesichts der gewaltigen Investitionen der großen Unternehmen vor allem in den USA und China mithalten? Spielt das Industrieland Deutschland weltweit in der ersten Liga?
Prof. Dr. Krüger: Die großen fünf amerikanischen Internet- Unternehmen sind fünfmal so wertvoll wie sämtliche Unternehmen des DAX 40 zusammen. Wenn Sie also die Liga der Plattformerfolge meinen, dann ist Deutschland zwar in dem Bereich Unternehmenssoftware erstklassig, aber nicht bei den Hyperscalern. Deutschland profitiert auch nicht von dem KI-Milliardenmarkt der Werbeplatzierung der Suchmaschinen und Social Networks. Aber das Industrieland Deutschland ist führend bei der industriellen KI im Maschinenbau, da geht es um Automatisierung durch Robotisierung, und bei der Prozessindustrie, die KI einsetzt, um Unternehmenssoftware und Fabriksteuerung zu verbinden. Wenn ich an Industrie 4.0 denke, ein Begriff übrigens, den das DFKI 2011 mitgeprägt hat, und wenn ich unsere Arbeiten im Bereich Mensch-Roboter-Kollaboration sehe, dann ist Deutschland zweifelsfrei ein Champion.
DM: Gibt es auf europäischer Ebene ein abgestimmtes Vorgehen oder eine Arbeitsteilung in Sachen KI-Forschung?
Prof. Dr. Krüger: Das europäische Vorgehen würde ich nicht arbeitsteilig auf der Ebene der Staaten nennen, sondern kooperativ und vernetzt im Bereich der Forschung. Die EU koordiniert und stimmt den Rahmen ab. Aber DFKI und z.B. Inria, das französische nationale Institut für Informationstechnologie, arbeiten sehr intensiv in dem Bereich Trusted AI zusammen. Da geht es um nachvollziehbare, erklärbare und verlässliche KI, die Garantien über ihre Funktionalität geben kann, so dass KI-Systeme zertifizierbar sind und wirklich in kritischen Entscheidungssituationen eingesetzt werden können. Dies erfordert gemeinsame europäische Initiativen, die wir am DFKI maßgeblich mit voranbringen, z.B. durch das KI-Netzwerk CLAIRE mit mehr als 430 KI-Einrichtungen aus 37 Nationen. Der Europäische Weg der menschenzentrierten KI ist aus unserer Sicht ein globales Alleinstellungsmerkmal auf das wir aufbauen sollten.
DM: Professor Steinbuch formulierte vor fünfzig Jahren, dass Computer lediglich „partieller Intelligenzverstärker“ sein könnten. Wird sich das ändern? Wird die KI Domänen des menschlichen Gehirns wie Kreativität, Empathie, Humor oder Gefühle nachbilden können?
Prof. Dr. Krüger: Der Computer ist auch heute qualitativ ein partieller Intelligenzverstärker, wie die Zange ein Kraftverstärker oder das Auto ein Mobilitätsverstärker ist. In einzelnen Bereichen übersteigt KI mittlerweile die menschliche Leistungsfähigkeit und das ist auch das, was erreicht werden soll, denn ein Werkzeug soll ja in spezifischen Anwendungen die menschlichen Fähigkeiten steigern, um die menschlichen Potentiale zu befördern. Aber in der menschenzentrierten KI setzt der Mensch die Zwecke.
Fakt ist, dass der Computer Emotion im menschlichen Verhalten erkennen und bei den Systemaktionen nachbilden soll, damit Mensch-Maschine-Kommunikation so gelingen kann, wie der Mensch es erwartet. Dazu gehört auch ein maschinelles Verständnis von Humor. Nachgebildete Gefühle werden im Affective Computing allerdings nur simuliert, um menschliches Handeln zu entschlüsseln oder Ziele besser zu erreichen. Aber die Maschine, die ja nur Sensoren, aber keine sinnlichen Erlebnisse hat, produziert sie nicht auf der Basis einer Leidenschaft oder eines Leidens. Stichwort Kreativität: KI macht den Computer technisch kreativ, so dass er Ergebnisse erzeugen kann, aber das entspricht nicht der Vorstellung von menschlicher Kreativität als eines ideengeleiteten Prozesses. KI kann Texte produzieren und Content erzeugen, aber das System verfolgt damit keine Ziele oder inhaltlichen Pläne und hat keinen Willen. Kreativität ist auch im Auge des Betrachters begründet und in diesem Sinne können KI-System schon jetzt sehr kreativ sein und als kreative Werkzeuge eingesetzt werden.
DM: Die EU-Kommission hat Vorschläge zur Regulierung von KI gemacht. Kritiker befürchten, dass Risiken wie autonome Waffensysteme oder die Überwachung des öffentlichen Raums nicht genügend eingegrenzt werden. Sind solche und andere ethische Fragen auch Gegenstand der Forschung im DFKI?
Prof. Dr. Krüger: Es ist richtig, Gesichtserkennung im öffentlichen Raum stark zu reglementieren, und es ist selbstverständlich wichtig, den Einsatz von KI im Kontext von autonomen Waffen international zu ächten. Wir haben dazu klar Stellung bezogen. Die Europäische Kommission hatte uns eingeladen, im Rahmen der High-Level Expert Group on Artificial Intelligence an ethischen Richtlinien für KI mitzuarbeiten. Das haben wir gemacht, und wenn ich den AI Act sehe, der aktuell vom Europäischen Parlament debattiert wird, dann sind viele unserer Empfehlungen bzw. Klarstellungen berücksichtigt worden. Datenschutz und die Wahrung der Privatsphäre sind prinzipiell Voraussetzung für das Konzept der persönlichen Freiheit, das in Europa seit fast 400 Jahren erdacht und erstritten wurde. Genau dies sind die Grundpfeiler der menschenzentrierten KI und wir meinen damit KI, die den Mensch als Staats- und Weltbürger kognitiv oder physisch auf seinem Weg unterstützt, die eigenen Ziele zu erreichen.
Interview Matthias Ginsberg