Diskriminierung durch Algorithmen? Ein neues Handlungsfeld für die Antidiskriminierungspolitik

03.07.2019

Die Landesstelle für Gleichbehandlung - gegen Diskriminierung schreibt über ein neues Handlungsfeld für die Antidiskriminierungspolitik.

Die Digitalisierung der Gesellschaft schreitet immer weiter voran und hat inzwischen einen maßgeblichen Einfluss auf alle Lebensbereiche gewonnen. So ist die Nutzung des Internets zur Selbstverständlichkeit geworden und stellt heute einen unerlässlichen Bestandteil unserer Lebenswirklichkeit dar. Die Digitalisierung formt und bestimmt unseren Alltag. Dadurch eröffnen sich viele bedeutende Vorteile. Neben der Möglichkeit der Kommunikation mit Verwandten am anderen Ende der Welt können gesellschaftspolitische Entwicklungen durch ständig abrufbare und regelmäßig aktualisierte Informationen in Echtzeit verfolgt werden. Die Nutzung des Internets geht jedoch auch mit einer Reihe von Herausforderungen und Gefahren für Verbraucher*innen einher. 

Eine der Problematiken, die zunehmend in den Fokus des öffentlichen Diskurses rückt, ist der wachsende Einfluss von Algorithmen auf unseren Alltag. Dies beinhaltet ebenfalls die Verarbeitung von personenbezogenen Daten, wie beim Online-Shopping oder bei der Feststellung der Kreditwürdigkeit. Algorithmen kommen überall zum Einsatz und entscheiden, welche Kaufempfehlungen ausgesprochen werden und ob ein Kredit vergeben wird. Entscheidungen und Entscheidungsempfehlungen, die von Algorithmen basierend auf einer Datengrundlage getroffen werden, werden als algorithmenbasierte Entscheidungsprozesse bezeichnet. Algorithmen können so programmiert sein, dass sie auf eine sehr große Datenmenge – den sogenannten Big Data – zugreifen und diese Daten konstant in ihre Berechnungen integrieren. In diesem Fall spricht man von lernenden Algorithmen beziehungsweise dem deep learning. So sind Algorithmen beispielsweise in der Lage beim Online-Shopping das digitale Kaufverhalten einer Person zu analysieren und dadurch Prognosen über zukünftige Kaufentscheidungen zu treffen. 

Viele dieser lernenden Algorithmen basieren jedoch auf vorurteilsbehafteten und nicht-diversen Datensätzen, so dass sie oft unmittelbar oder mittelbar diskriminierend wirken können. So ging letztes Jahr durch die Presse, dass das Unternehmen Amazon einen Algorithmus entwickelte, der auf Basis eines Bewertungssystems automatisch die am besten geeigneten Bewerber*innen auswählt. Da das Unternehmen jedoch in den letzten Jahren hauptsächlich Männer einstellte, hat der Algorithmus diese Daten so verarbeitet, dass Bewerbungen von Frauen systematisch schlechter bewertet und aussortiert wurden. Die Software wurde mittlerweile umprogrammiert. 

Die Gefahr der Nicht-Erkennung algorithmenbasierter Diskriminierung besteht in der Komplexität und Abstraktheit von Algorithmen und in der Annahme, Technik sei immer neutral – nicht nur für die Bürger*innen, sondern auch für die Entwickler*innen selbst. Dementsprechend gestalten sich der Nachweis algorithmenbasierter Diskriminierung sowie die Feststellung der Verantwortlichkeit bei Diskriminierungsfällen äußerst schwierig. 

Viele weitere offene Fragen in diesem Feld reichen von den Handlungsmöglichkeiten einzelner Verbraucher*innen bis zur Weiterentwicklung der rechtlichen Interventionsmöglichkeiten. Mit der algorithmenbasierten Diskriminierung sieht sich auch die Berliner Antidiskriminierungspolitik mit einem neuen, hochkomplexen Handlungsfeld konfrontiert. Die LADS stellt sich dieser Herausforderung und wird sich im Rahmen dessen, was für sie und auf Landesebene möglich ist, einbringen, Diskussionsräume eröffnen und dabei die Kooperation mit fachlichen Expert*innen und zivilgesellschaftlichen Akteur*innen suchen. 

Den Infobrief der LADS finden Sie hier.

LADS-Infobrief

Mit dem vierteljährlich erscheinenden Infobrief der LADS können Sie über die Arbeit zu den Themenfeldern Antidiskriminierungspoltik, Diversity, LSBTI und Rechtsextremismusprävention informiert werden.

Abonnierbar unter E-Mail LADS


Quelle: Landesstelle für Gleichbehandlung – gegen Diskriminierung

 
 

© Jugend- und Familienstiftung des Landes Berlin
Obentrautstraße 55 | 10963 Berlin
Tel: 030 - 284 70 19 10

info@demokratie-vielfalt-respekt.de

Logo: Demokratie Vielfalt Respekt

© 2017