Diskriminierung in Zeiten der KI

Künstliche Intelligenz bestimmt zunehmend unser aller Leben. Die Weltwirtschaft ist bereits in großen Teilen auf diese Technologie ausgerichtet, KI sorgt für effizientere Lieferketten, präzisere Planungen und genauere Vorhersagen.

Und natürlich wirken sich die „schlauen“ Algorithmen auch unser Privatleben aus. Film- oder Musikgeschmack wird durch ein KI-gesteuertes Empfehlungssystem beeinflusst, unser Social-Media-Feed ebenso. Wir nutzen Elektronik, die mit KI funktioniert und sind technologiegesteuerte Logistik gewohnt und genießen deren Vorteile.

Das Diskriminierungspotential Künstlicher Intelligenz

Aber KI ist bei weitem nicht so „intelligent“, wie man annehmen mag. Den Algorithmen liegen immer Daten zugrunde, die von Menschen eingespeist wurden. Und diese denken – meist unbewusst, manchmal aber auch bewusst – in Schubladen.

Beispiele für KI-gesteuerte Diskriminierung gibt es mittlerweile einige. Wer einen Kredit beantragt, sollte eine gute Bonität vorweisen können. Aber moderne Technologien ziehen auch noch andere Parameter heran, zum Beispiel den Wohnort. Auf KI beruhende Gesichtserkennungssoftware hat sich häufig als „rassistisch“ erwiesen, da es Gesichter weißer Menschen eher erkennt als die von PoC. Aktuell macht ein Video die Runde, das zeigt, wie ein gewöhnlicher Seifenspender mit Infrarot bei den Händen eines schwarzen Mannes versagt, während ein weißes Papierhandtuch erkannt wird.

Digitale Diskriminierung betrifft auch Frauen. Die in Pandemiezeiten immer beliebter gewordenen Videokonferenzen mögen praktisch sein, haben aber ihre Schattenseiten. Eine Studie konnte belegen, dass bei Videokonferenzen höhere Frequenzen abgemildert werden. Frauenstimmen sind davon naturgemäß stärker betroffen. Die Folge: deren Redebeiträge werden durch systematische Verzerrung verschlechtert und als weniger kompetent und ausdrucksstark wahrgenommen.

Viele weiße Männer, wenige schwarze Frauen

Warum das so ist, liegt in der fehlenden Vielfalt begründet. Im IT-Bereich sind Frauen mit 17 % vollkommen unterrepräsentiert, während weiße Männer das Gros ausmachen. Und hier kommt das Schubladendenken ins Spiel: Die Algorithmen werden von ebendiesen Angestellten trainiert. Ob absichtlich oder nicht, sie neigen eben auch zu Stereotypen und nicht ausreichender gedanklicher Diversität.

Künstliche Intelligenz ist eben das, was man aus ihr macht. Wenn Frauen dunkler Hautfarbe aus einem bestimmten Stadtteil, vielleicht noch mit Kind, gesellschaftlich per se als leistungsschwächer aufgefasst werden, wird ein Algorithmus dieses tradierte Bild nicht durchbrechen können. Ein mit KI gesteuerter Bewerbungsprozess würde auf diese Weise bereits im Anfangsstadium diskriminierend aussortieren. Die Folge wäre ein verstärkender Effekt des gesellschaftlichen Zustands.

Condrobs positioniert sich seit jeher klar gegen jede Form der Diskriminierung. Die Herausforderungen der Zukunft werden für uns wie für alle anderen aber auch darin bestehen, digitale Diskriminierung zu erkennen, zu benennen und dagegen anzugehen.