Algorithmen? Keine Panik!

Foto: Dancehall Caballero / Photocase

Algorithmen bestimmen zwar unsere digitale Welt, aber sie sind nicht allmächtig. Es kommt darauf an, wie wir als Gesellschaft mit ihnen umgehen.

2015 war das Jahr der großen Algorithmen-Panikattacke. Kaum eine Konferenz, kaum ein Medium, das die kritische Auseinandersetzung mit Algorithmen nicht zu einem zentralen Thema gemacht hat. Algorithmen wissen angeblich ziemlich genau, was wir wollen und wie wir uns in Zukunft verhalten werden. „ALGORITHMEN — DIE DUNKLE MACHT!“ Wir reden lieber über die Effekte von Algorithmen, als darüber, was sie eigentlich sind. Wer oder was sind Algorithmen? Und bestimmen sie wirklich unser Leben?

Artikel über Algorithmen beginnen in der Regel mit einer vereinfachten Definition: Algorithmen sind eine eindeutige Handlungsbeschreibung oder eine Anleitung für die Lösung eines Problems. Sie funktionieren wie ein Rezept. So gesehen ist die Welt voller Algorithmen. In einer Folge der Serie „The Big Bang Theory“ entwickelt der sympathisch soziopathische Astrophysiker Sheldon zum Beispiel einen Freundschafts-Algorithmus. Ein Kuchenrezept ist ein Algorithmus und eigentlich auch fast jedes Computerprogramm.

In kritischen Algorithmus-Debatten geht es natürlich nur um ganz bestimmte Algorithmen, nämlich all solche, die digital sind und irgendwie von öffentlicher Relevanz. In der Tat ist es so, dass (semi-)automatisierte Systeme eine zunehmend wichtige Rolle in ganz unterschiedlichen Lebensbereichen spielen. Die Lebensläufe von Bewerbern werden automatisch vor- oder sogar aussortiert. Online-Datingseiten filtern potenzielle Partner anhand einer berechneten Kompatibilität mit der Suchenden.

Schon an dieser Stelle wird eigentlich deutlich, dass Algorithmen unser derzeitiges Leben nicht beherrschen. Algorithmen treffen Entscheidungen, indem sie Daten filtern, sortieren und klassifizieren. Je nach Anwendung kann das jedoch radikal unterschiedliche Konsequenzen für unser Leben haben. Wenn die Schufa uns für unzuverlässig erklärt, dann wurde eine Entscheidung über uns gefällt. Das ist problematisch, wenn diese Art von Klassifizierung fehlerhaft ist, im Geheimen abläuft und wir keine Möglichkeiten haben, sie zu korrigieren.

Der Facebook-Newsfeed hingegen filtert und sortiert Statusmeldungen und Katzenbilder für uns. Hier trifft ein Algorithmus eine vollautomatische Vorauswahl für uns, ohne dass wir verstehen nach welchen Kriterien Relevanz oder Nachrichtenwert eigentlich bemessen werden.

Eine weitere Unterscheidung ist, inwiefern automatische Handlungen aus den Entscheidungen der Algorithmen abgeleitet werden. High-Frequency-Trading-Algorithmen sind auch deshalb so gefährlich, weil sie zukünftige Kursverläufe nicht nur prognostizieren, sondern auch innerhalb von Makrosekunden autonom Transaktionen durchführen. Auch in der vorausschauenden Polizeiarbeit berechnen Algorithmen die Wahrscheinlichkeit dafür, dass ein Verbrechen in bestimmten Regionen auftritt. Das führt natürlich zu einer veränderten Polizeiarbeit, und einer ganzen Reihe von gut dokumentierten Problemen. Ein Algorithmus nimmt aber niemanden automatisch fest. Im ersten Fall ist der Algorithmus Entscheider und Akteur, im anderen Fall eine Art von Information, die das Verhalten von Menschen mit Sicherheit beeinflusst, die aber theoretisch auch komplett ignoriert oder zumindest kontextualisiert werden kann. In all diesen Anwendungen treffen Algorithmen zwar eine Entscheidung, die daraus resultierenden Probleme und Herausforderungen können jedoch sehr unterschiedlich ausehen.

In der öffentlichen Wahrnehmung haben Algorithmen die Gestalt eines modernen Mythos angenommen  – sie sind mächtige Agenten, hochkomplex, kalt, rational und gleichzeitig unsichtbar.

Wer Algorithmen so viel Macht zuspricht, ignoriert außerdem die entscheidende Rolle von Daten. Algorithmen sortieren, filtern und klassifizieren Daten. Egal wie komplex ein Algorithmus auch sein mag, das Ergebnis dieser Entscheidung ist immer nur so gut wie die Daten, die ihm zugrunde liegen. Ganz unabhängig von ihrer Größe sind Datensätze fast immer irgendwie einseitig oder fehlerhaft. Wer mit Google nach Bildern von Händen sucht, wird fast ausschließlich weiße Hände finden. Das liegt nicht am Algorithmus, sondern am strukturellen Rassismus, der dazu führt, dass es im Internet mehr Bilder von weißen Händen gibt.

Natürlich sind Algorithmen nicht mehr wegzudenken aus unserer zunehmend digitalen Realität. Deshalb bestimmen Algorithmen aber noch lange nicht unser Leben. Algorithmen sind eine neue Form der automatisierten Entscheidungsfindung mit höchst verschiedenen Anwendungen, die von echten Menschen in echten Organisationen programmiert und permanent verändert werden. Dass dies oft hinter verschlossenen Türen passiert, und wir noch nicht alle Dynamiken verstanden haben, stellt uns vor neue gesellschaftliche Herausforderungen. Dafür müssen wir aber aufhören, alles in den selben Algorithmus-Topf zu werfen.

Frederike Kaltheuner

Frederike Kaltheuner

Frederike Kaltheuner arbeitet als PhD-Researcher am Data-Activism-Projekt der Universität von Amsterdam und Fellow am Centre for Internet and Human Rights.

Foto: Lars Kaltheuner
Frederike Kaltheuner

Letzte Artikel von Frederike Kaltheuner (Alle anzeigen)