Coded Bias

Algorithmen, die heute schleichend und fast unsichtbar unseren Alltag begleiten, werden als neutral empfunden, da eine Maschine agiert. Ob wir beim Onlinekaufverhalten, am Smartphone oder auch bei der Jobsuche erkannt und kategorisiert werden, spielt dabei keine Rolle. Doch wer programmiert diese Algorithmen und dominiert die Tech-Branche? Die Antwort: Ein Großteil davon sind nach wie vor weiße Männer. Joy Buolamwini ist IT-Wissenschaftlerin am Massachusetts Institute for Technology, MIT in den USA. Als sie während des Studiums an einem Projekt mit einer Gesichtserkennungssoftware arbeitet, stellt sie als Schwarze Person fest: Ohne eine weiße Maske erkennt das Programm ihr Gesicht nicht. Später gründet sie die Algorithmic Justice League (AJL). Real analoge Diskriminierungsstrukturen übertragen sich somit auf die fortschreitende Digitalisierung: BIPoCs, Frauen, ältere Menschen etc. werden durch diskriminierende Algorithmen nicht erkannt, ausgeschlossen, falsch zugeordnet und Chancenungleichheit durch digitale Barrieren fortgeführt. Die Doku dient als Aufruf, privilegierte Machtstrukturen zu brechen und aufkeimende Technologie frühzeitig demokratisch zu ändern.