08.04.2024
Unser Podcast «Artikel Sieben» rückt die Menschenrechte in der Schweiz ins Zentrum. Einzelne Fälle machen gravierende Lücken im Menschenrechtsschutz sichtbar. In der siebten Folge geht es um die diskriminierenden Auswirkungen von Algorithmen. Gesprächspartnerin ist Angela Müller, Leiterin von AlgorithmWatch CH.
Automatisierte Entscheidungen dringen zunehmend in unser tägliches Leben ein – zum Beispiel, wenn Algorithmen unsere Stellenbewerbungen aussortieren, Steuererklärungen automatisch bearbeiten, Krankheiten mittels sogenannter Künstlicher Intelligenz diagnostizieren, Verbrechen vorhersagen, das Rückfallrisiko von Straftäter*innen bewerten oder die Arbeitsmarktintegrationschancen von Geflüchteten vorhersagen sollen. Werden solche Algorithmen und sogenannte Systeme Künstlicher Intelligenz (KI) eingesetzt, kann das allerdings zu Diskriminierungen führen.
Algorithmen und KI sind weder neutral noch objektiv. Wenn die Systeme entwickelt und eingesetzt wird, treffen Menschen ganz viele Entscheidungen, die ihre Auswirkungen prägen – von der Datengrundlage über das Modell bis zum Einsatzzweck und der Einsatzweise. In einer Gesellschaft bereits existierende strukturelle Muster von Ungerechtigkeiten werden sich so in Algorithmen wiederfinden, wenn nicht aktiv etwas dagegen unternommen wird. Der aktuelle gesetzliche Rahmen in der Schweiz bietet jedoch keinen ausreichenden Schutz vor Diskriminierung, die durch den Einsatz von Algorithmen und KI entstehen kann.
In der siebten Folge des Podcasts Artikel Sieben erklärt uns Angela Müller, Leiterin von AlgorithmWatch CH, warum die Black Box rund um Algorithmen und KI ein Problem ist, wie es zu Diskriminierungen durch die Systeme kommen kann, und was wir als Gesellschaft tun müssen, um dem entgegenzuwirken.
«Artikel Sieben» wird herausgegeben von humanrights.ch und produziert von podcastlab.ch. Die einzelnen Folgen sind in allen Podcastkanälen zu hören oder können auf dieser Seite direkt abgespielt werden.
Verfolgen Sie auch die aktuelle Artikelserie in Zusammenarbeit mit AlgorithmWath CH:
5.2.2024: Diskriminierung 2.0: Wie Algorithmen Diskriminieren und was wir dagegen tun sollten
8.3.2024: Diskriminierung 2.0: Wie Algorithmen Frauen Diskriminieren
21.3.2024: Diskriminierung 2.0: Wie Rassismus in Algorithmen weiterelebt
Weitere Artikel folgen!
