Diskriminierungsrisiken durch Algorithmen

Digitale Informations- und Kommunikationstechnologien durchdringen nahezu alle Lebensbereiche, gleichzeitig wachsen die Möglichkeiten bei der Verarbeitung und Analyse umfangreicher Datenmengen. Kontinuierlich erfasste Datenströme erlauben Rückschlüsse auf die Wahrscheinlichkeit, dass Individuen ein Produkt erwerben, einen Kredit zurückzuzahlen, eine Partei wählen oder Miete zahlen. Wissen, dass sich für gezielte Angebote einsetzen lässt – und die Gefahr von Diskriminierungen in sich birgt.

Dies ist bereits dann der Fall, wenn Individuen oder Personengruppen von vornherein von bestimmten Angeboten oder Diensten ausgeschlossen werden bzw. diese ihnen erst gar nicht angeboten werden. Verschärfend kommt hinzu, dass für Laien intransparente Algorithmen immer häufiger Entscheidungen mit weitreichenden Auswirkungen auf die Selbstbestimmung und Persönlichkeitsentfaltung treffen.

Im Forschungsprojekt „Diskriminierungsrisiken durch Algorithmen“ wollen Wissenschaftler am ITAS Fälle zusammentragen und analysieren, in denen Diskriminierungen unter Beteiligung digitaler Algorithmen bekannt geworden sind. Ziel ist es, Ursachen, Kontexte, Typen und Dimensionen der Diskriminierungen und von Diskriminierungsrisiken herauszuarbeiten.

Darauf aufbauend sollen Handlungsbedarfe im Sinne einer besseren „Algorithmic Accountability“ identifiziert werden, beispielsweise im Hinblick auf nötige Reformen des Rechts. Ziel der Forscher ist es, Vorschläge aus der internationalen Diskussion auf die institutionellen Rahmenbedingungen in der Bundesrepublik Deutschland zu beziehen und eine Liste politischer Handlungsoptionen vorzulegen.

Die Antidiskriminierungsstelle des Bundes fördert das Projekt über die Laufzeit von einem Jahr. (09.04.2018)

Weiterführende Links:

• ITAS-Projektseite
• Webpräsenz der Antidiskriminierungsstelle