TV-Doku: Digitale Manipulatoren

Algorithmen sind oft sehr hilfreich und aus unserem Leben nicht mehr wegzudenken. Doch es gibt auch Missbrauchsfälle, gerade in Richtung unzulässiger Manipulationsmöglichkeiten. Anders als in sonstigen Bereichen der Wirtschaft gibt es für KI jedoch keine Regeln und Standards, die unerwünschte Anwendungen gerichtlich verfolgbar machen – und das, obwohl sie in ihren Aktionen immer autonomer wird. Viele Experten sprechen sich inzwischen für die Etablierung von Normen aus, mit denen ethische Leitplanken für Algorithmen definiert werden sollten. Doch die Umsetzung an der Schnittstelle von Ethik und Software ist extrem schwierig zu fassen und scheitert beispielsweise schon an einer algorithmisch fassbaren Definition von Manipulation. Diese Fragen stehen im Mittelpunkt der HYPERRAUM.TV-Doku „Digitale Manipulatoren – über die ethische Dimension von Algorithmen“ von Susanne Päch und den von ihr befragten Forschern unterschiedlicher Spezialgebiete.

Algorithmen bestimmen unser Leben bereits auf breiter Front. Sie helfen uns unsichtbar in digitalen Codes verborgen bei der Suche nach Informationen im Internet, sie haben Zahnbürsten und Spielzeug längst erobert – und werden bald den Fahrer im Straßenverkehr ersetzen. Aus dem Alltag des Menschen sind sie nicht mehr wegzudenken. Die Meinungen über das „Wesen“ solcher Algorithmen gehen allerdings weit auseinander. Für die einen haben Algorithmen nichts Spezifisches an sich. Für die anderen unterscheiden sie sich von der sonstigen Technologie ganz erheblich: durch den möglich gewordenen gezielten Eingriff in die menschliche Psyche.

Unser Hirn ist ein dynamisches System, dessen neuronale Prozesse durch die Einflüsse von außen ständig verändert werden. Wir nennen das „Lernen“. Das Neugeborene lernt in den ersten Jahren seines Lebens nicht nur am meisten, sondern auch am schnellsten. Denn das neuronale Netz mit seinen sich durch Erfahrung herausbildenden Autobahnen – den typischen Verhaltensmustern -, entsteht mit der Geburt erst nach und nach. Vieles davon bleibt im Unbewussten verankert. Zeitlebens bleibt der Mensch aber ein offenes System. Das können andere Menschen aber auch Unternehmen dafür ausnutzen, das Verhalten des einzelnen Subjektes zu beeinflussen oder gar zu manipulieren. Und wie ein Blick in die Geschichte des Menschen zeigt: für erfolgreiche Propaganda braucht es nicht einmal digitale Algorithmen. Denn das Phänomen ist tief im Leben verwurzelt und auch nicht nur auf den Menschen beschränkt. Es zeigt sich schon bei Mimikry und Mimese von Tieren. Die theoretische Unterscheidung dessen, wo beim Individuum zulässige Beeinflussung aufhört und unerwünschte Manipulation beginnt, scheint nur auf den ersten Blick einfach.

Doch die Realität der manipulativen Algorithmen wirft schnell Fragen auf: Das beginnt damit, dass Unternehmen mit ihrer Werbung versuchen, den Einzelnen gezielt für eigene Zwecke zu beeinflussen. Und nicht selten regt sie uns zum Kauf von Produkten an, die wir eigentlich nicht brauchen. Unternehmen üben ihre Tätigkeit zwar motivational im eigenen Interesse aus, doch normativ sind sie, so sagt uns die Wirtschaftsphilosophie, im Interesse der Allgemeinheit tätig. Zugespitzt: Die ethische Rechtfertigung von Unternehmen liegt programmatisch nicht im Nutzen der Unternehmer, sondern im Nutzen der Nicht-Unternehmer. Deshalb muss sich die Wirtschaft an Gesetze, Normen und Standards halten. In der sogenannten Compliance, der Regelkonformität von Unternehmen. Darin ist auch die ethische Dimension mit verortet. Bei Algorithmen und Big-Data-Auswertungen schwingen solche Betrachtungen jedoch noch gänzlich im rechtsfreien Raum.

Die Manipulationsgefahr durch die Wirtschaft – für den Deutschen Ethik-Rat bleibt sie bis heute ein kompliziertes Feld. In einer Broschüre heißt es: „Die besondere Brisanz liegt darin, dass sich nicht nur Fragen innerhalb der Ethik stellen, sondern dass die Grundlagen und Voraussetzungen der Ethik selbst berührt werden, da wir das Verhältnis zu uns selbst überdenken müssen.“

Und genau hier liegt das Problem. Solange es ethisch keine klare Definition von Manipulation gibt, solange ist die Industrie bei der Entwicklung faktisch an nichts gebunden, und gleichzeitig kann es ohne Normen und Standards in einem Rechtsstaat keine juristisch durchsetzbaren Verurteilungen von Missbrauch geben. Irgendwie ein Teufelskreis, der dringend durchschlagen werden muss. Denn längst kommen ethisch bedenkliche Algorithmen in den Markt, ohne dass sie verhindert werden könnten. Doch auch das ist zu berücksichtigen: Der Mensch hat Eigenverantwortung. Aufgabe der Ethik kann es nicht sein, den Menschen mit seiner selbst gewählten Lethargie zu schützen.

Manipulation – ein reichlich kompliziertes Geflecht also gegenseitiger Abhängigkeiten – mit dem derzeitigen Komplett-Versagen, Algorithmen normativ oder ethisch regeln zu können. Doch es wird immer deutlicher, dass wir der selbstlernenden KI im Netz oder in Maschinen algorithmisch interpretierbare Regeln mitgeben und zudem für ihre Kommunikation mit dem Menschen erforderliche Normen definieren müssen.

Noch sind wir von dieser Maschinen-Ethik ziemlich weit entfernt –  und unterdessen breiten sich die selbstlernenden Algorithmen in rasanter Geschwindigkeit und  mit etlichen unerwünschten Kollateralschäden in einem normativen Vakuum aus.

Ansprechpartner:
Dr. Susanne Päch
Chefredaktion HYPERRAUM.TV
Bavariafilmplatz 3
82031 Grünwald
susanne.paech@hyperraum.tv

http://hyperraum.tv

http://hyperraum.tv/2021/03/12/digitale-manipulatoren/