Wie ticken künstliche neuronale Netze?

KI-Experte Alexander Binder auf Lehrstuhl für Computer Vision an der Universität Magdeburg berufen.

Der Mathematiker und KI-Experte Prof. Dr. Alexander Binder wurde auf den Lehrstuhl für Computer Vision der Otto-von-Guericke-Universität Magdeburg berufen. Er lehrt und forscht auf dem Gebiet des Bildverstehens und wechselte vom Singapore Institute of Technology nach Magdeburg, um an der Fakultät für Informatik den Forschungsschwerpunkt „Erklärbare KI“ zu etablieren.

Computer Vision ist ein Teilbereich der künstlichen Intelligenz (KI), bei dem Systeme trainiert werden, um aus digitalen Bildern, Videos und anderen visuellen Eingaben Informationen zu gewinnen und auf deren Grundlage Entscheidungen zu treffen.

„Durch den Einsatz von Deep Learning, eines auf statistischen Prinzipien beruhenden Vorhersageansatzes mittels künstlicher neuronaler Netze, trainieren wir Algorithmen darin, Bilder und Videos zu interpretieren und anhand dieser Entscheidungen zu treffen“, so Prof. Alexander Binder. Die Verarbeitung von komplexen Informationen mithilfe künstlicher Intelligenz ermögliche vielseitige Anwendungen, zum Beispiel in der Qualitätsprüfung in der Fertigung, aber auch für die Erzeugung von komplexen Bildszenen aus textuellen Eingaben wie bei Stable Diffusion, so Binder weiter.

„Künstliche neuronale Netze erreichen zwar noch nicht die universelle Problemlösungsfähigkeit des Menschen, jedoch können sie im Vergleich zum menschlichen Gehirn Aufgaben wesentlich schneller lösen“, erklärt der Wissenschaftler. Die künstlichen neuronalen Netze seien jedoch auch störanfällig, so der KI-Experte weiter. „Es ist ein Fall im Ausland bekannt geworden, in dem ein Mann aufgrund einer falschen Entscheidung eines Gesichtserkennungsalgorithmus verhaftet wurde. Es gibt auch Fälle, bei denen sie scheinbar komplexe Aufgaben richtig lösen, in Wirklichkeit aber auf irrelevante Merkmale in den Daten reagieren.“

Ein tatsächlich eingesetztes Bewertungssystem für Bewerberinnen und Bewerber zum Beispiel lernte, erzählt Binder weiter, älteren Menschen im Durchschnitt niedrigere Bewertungen zuzuweisen, weil es erkannte, dass prozentual weniger ältere Menschen eingestellt wurden. „Das letztere Problem ist als Kluger-Hans-Effekt bekannt, benannt nach einem Pferd, welches die Körpersprache seines Besitzers las, um zu entscheiden, welches die richtige Lösung in Rechenaufgaben war“, beschreibt der Wissenschaftler. „Der kluge Hans war scheinbar in der Lage, durch seine eigene Denkfähigkeit Rechenaufgaben zu lösen, während es eine andere Fähigkeit nutzte, um Denkfähigkeit zu imitieren. Erklärbare KI kann genutzt werden, um solche unerwünschten Merkmale zu erkennen und zu beseitigen.“

In Zukunft werden zunehmend mehr Programmieraufgaben durch Chatbots bearbeitet werden, so Alexander Binder. Deswegen gehe es ihm in der Lehre darum, den Studierenden nicht nur das Programmieren, sondern vor allem auch das Verifizieren von Code nahezubringen und das Vertrauen in ihre Urteilsfähigkeiten auszubauen. „Es ist wichtig, dass Studierende verstehen, dass Künstliche Intelligenz sowohl die guten als auch die schlechten Seiten der Menschheit wiedergeben kann, da sie mit Daten aus dem gesamten Internet trainiert wird“, so Binder. Kritisch zu hinterfragen, sei deswegen unerlässlich.

Kurzvita
Alexander Binder studierte Mathematik an der Humboldt-Universität Berlin und promovierte 2013 in Informatik an der Technischen Universität Berlin. In den vergangenen zehn Jahren hat er sowohl in Oslo als auch in Singapur gelehrt und geforscht. 2015 bis 2020 war er Assistant Professor an der Singapore University of Technology and Design (SUTD) und anschließend ab 2021 Associate Professor am Singapore Institute of Technology.

Wissenschaftliche Ansprechpartner:

Prof. Dr. Alexander Binder
Fakultät für Informatik
0391 67-58873
alexander.binder@ovgu.de

www.ovgu.de