Künstliche Intelligenz

Dr. Pinar Tuzcu der Uni Kassel referiert in diesem Video über postkoloniale Strukturen im digitalen Zeitalter. Wenn Daten das neue Öl der heutigen Zeit sind, welche Auswirkungen haben diese auf die Gesellschaft? Anhand mehrerer Beispiele untersucht Tuzcu, wie Data Mining und Co. als Art digitale Ausbeutung funktionieren und koloniale Muster wiederholen: Wichtige Wahlen wie der Brexit werden maßgeblich durch rechtswidrige Datensätze beeinflusst oder sogenannte „Content managers“ filtern täglich verstörende Inhalte aus Social Media. Außerdem: Welche Zusammenhänge lassen sich aus Klimadaten, Algorithmen, der Kategorisierung von Menschen und deutscher Kolonialgeschichte ziehen? Und was hat das ganze mit digitaler und territorialer Expansion zu tun?

Algorithmen, die heute schleichend und fast unsichtbar unseren Alltag begleiten, werden als neutral empfunden, da eine Maschine agiert. Ob wir beim Onlinekaufverhalten, am Smartphone oder auch bei der Jobsuche erkannt und kategorisiert werden, spielt dabei keine Rolle. Doch wer programmiert diese Algorithmen und dominiert die Tech-Branche? Die Antwort: Ein Großteil davon sind nach wie vor weiße Männer. Joy Buolamwini ist IT-Wissenschaftlerin am Massachusetts Institute for Technology, MIT in den USA. Als sie während des Studiums an einem Projekt mit einer Gesichtserkennungssoftware arbeitet, stellt sie als Schwarze Person fest: Ohne eine weiße Maske erkennt das Programm ihr Gesicht nicht. Später gründet sie die Algorithmic Justice League (AJL). Real analoge Diskriminierungsstrukturen übertragen sich somit auf die fortschreitende Digitalisierung: BIPoCs, Frauen, ältere Menschen etc. werden durch diskriminierende Algorithmen nicht erkannt, ausgeschlossen, falsch zugeordnet und Chancenungleichheit durch digitale Barrieren fortgeführt. Die Doku dient als Aufruf, privilegierte Machtstrukturen zu brechen und aufkeimende Technologie frühzeitig demokratisch zu ändern.

Jane 57821 ist ein Roboter, gespielt von Janelle Monáe. Sie versucht sich von den totalitären Fesseln zu befreien, die sie dazu zwingen, sich homophoben Normen zu beugen. Sie wird festgehalten und alle ihre Erinnerungen des „dirty mind“ werden gelöscht, „bereinigt“ – auch die ihrer Geliebten.

Monáe führt die Bezeichnung „emotional picture“ ein, angelehnt an „motion picture“ – ein narrativer Kurzfilm, der das Musikalbum begleitet und die Musik integriert. Der Film zeigt gleichzeitig die Verzweiflung, kontrolliert zu werden und die Selbstbestimmtheit und Freiheit, auszuleben, wer man wirklich ist. Er stellt auf empowernde Weise lesbische Zuneigung und Schwarze Frauen dar, die sich und ihre Körper sorglos zelebrieren.

Künstliche Intelligenz (KI) begleitet uns längst im Alltag, zum Beispiel auf unseren Smartphones. Doch KI ist nicht nur eine super coole Unterstützung, die uns das Leben vereinfacht und uns die Musik vorschlägt, die wir mögen. KI reproduziert auch Stereotype und ist sogar rassistisch und diskriminierend. Dabei sind Personen, die von mehreren Diskriminierungsformen, also intersektional, gleichzeitig betroffen sind, noch verstärkter betroffen.

Lange Zeit musste beispielsweise Joy Buolamwimi eine weiße Maske auf der Arbeit tragen, um einen Roboter trainieren zu können - ihre weißen Arbeitskolleg*innen mussten dies nicht. Warum? Weil die darunterliegende KI nur weiße Gesichter erkennen konnte. Die Polizei arbeitet bereits mit Facial Recognition Software, also Gesichtserkennung. Dies ist hoch problematisch, da die Software sehr fehlerhaft arbeitet. In diesem Jahr wurde im US-Bundesstaat Michigan ein Schwarzer Mann fälschlicherweise zu einer Strafe verurteilt, da ihn eine Gesichtserkennungs-Software als Täter identifiziert hatte. Auch in Deutschland spielt Gesichtserkennung eine zunehmend wichtige Rolle, ob beim G20 in Hamburg oder am Berliner Bahnhof Südkreuz. In einer Studie untersuchte Joy Buolamwimi zusammen mit ihrer Kollegin Timnit Gebru Geschlechtserkennungssysteme, eine Software, die besonders für trans* und nicht-binäre Personen gefährlich sein kann. 

Warum haben Sprachassistent*innen meist weibliche Stimmen? Dieses Projekt zeigt einen Versuch, feministische Alternativen zu Personal Intelligent Assistants (PIAs) wie Siri, Alexa and Cortana zu schaffen. UAL Creative Computing Institute und Feminist Internet haben Personen aus verschiedenen Feldern zusammen gebracht, um an diesen Alternativen zu arbeiten, Sexismen und Diskriminierungsformen der existierenden PIAs aufzuzeigen und diese kritisch auseinander genommen. Das Resultat sind acht verschiedene feministische Prototypen für PIAs, die auf Josie Youngs Feminist Chatbot Design Process basieren.