Diskriminierung in Zeiten der KI

5. Juni 2021
Die Vorteile Künstlicher Intelligenz sind enorm. Aber den Algorithmen liegen oftmals diskriminierende Stereotype und Denkmuster zugrunde, die Missstände verstärken.
Künstliche Intelligenz bestimmt zunehmend unser aller Leben. Die Weltwirtschaft ist bereits in großen Teilen auf diese Technologie ausgerichtet, KI sorgt für effizientere Lieferketten, präzisere Planungen und genauere Vorhersagen.
Und natürlich wirken sich die „schlauen“ Algorithmen auch unser Privatleben aus. Film- oder Musikgeschmack wird durch ein KI-gesteuertes Empfehlungssystem beeinflusst, unser Social-Media-Feed ebenso. Wir nutzen Elektronik, die mit KI funktioniert und sind technologiegesteuerte Logistik gewohnt und genießen deren Vorteile.

Das Diskriminierungspotential Künstlicher Intelligenz

Aber KI ist bei weitem nicht so „intelligent“, wie man annehmen mag. Den Algorithmen liegen immer Daten zugrunde, die von Menschen eingespeist wurden. Und diese denken – meist unbewusst, manchmal aber auch bewusst – in Schubladen.
Beispiele für KI-gesteuerte Diskriminierung gibt es mittlerweile einige. Wer einen Kredit beantragt, sollte eine gute Bonität vorweisen können. Aber moderne Technologien ziehen auch noch andere Parameter heran, zum Beispiel den Wohnort. Auf KI beruhende Gesichtserkennungssoftware hat sich häufig als „rassistisch“ erwiesen, da es Gesichter weißer Menschen eher erkennt als die von PoC. Aktuell macht ein Video die Runde, das zeigt, wie ein gewöhnlicher Seifenspender mit Infrarot bei den Händen eines schwarzen Mannes versagt, während ein weißes Papierhandtuch erkannt wird.
Digitale Diskriminierung betrifft auch Frauen. Die in Pandemiezeiten immer beliebter gewordenen Videokonferenzen mögen praktisch sein, haben aber ihre Schattenseiten. Eine Studie konnte belegen, dass bei Videokonferenzen höhere Frequenzen abgemildert werden. Frauenstimmen sind davon naturgemäß stärker betroffen. Die Folge: deren Redebeiträge werden durch systematische Verzerrung verschlechtert und als weniger kompetent und ausdrucksstark wahrgenommen.

Viele weiße Männer, wenige schwarze Frauen

Warum das so ist, liegt in der fehlenden Vielfalt begründet. Im IT-Bereich sind Frauen mit 17 % vollkommen unterrepräsentiert, während weiße Männer das Gros ausmachen. Und hier kommt das Schubladendenken ins Spiel: Die Algorithmen werden von ebendiesen Angestellten trainiert. Ob absichtlich oder nicht, sie neigen eben auch zu Stereotypen und nicht ausreichender gedanklicher Diversität.

Künstliche Intelligenz ist eben das, was man aus ihr macht. Wenn Frauen dunkler Hautfarbe aus einem bestimmten Stadtteil, vielleicht noch mit Kind, gesellschaftlich per se als leistungsschwächer aufgefasst werden, wird ein Algorithmus dieses tradierte Bild nicht durchbrechen können. Ein mit KI gesteuerter Bewerbungsprozess würde auf diese Weise bereits im Anfangsstadium diskriminierend aussortieren. Die Folge wäre ein verstärkender Effekt des gesellschaftlichen Zustands.

Wachsende Herausforderung

Condrobs positioniert sich seit jeher klar gegen jede Form der Diskriminierung. Die Herausforderungen der Zukunft werden für uns wie für alle anderen aber auch darin bestehen, digitale Diskriminierung zu erkennen, zu benennen und dagegen anzugehen.

Das könnte Sie auch interessieren

Janas Geschichte

Janas Geschichte

Kinder wie Jana brauchen unsere Hilfe, um in Geborgenheit aufwachsen und lernen zu können. Mit Ihrer Spende können Sie dazu beitragen. Helfen Sie uns, zu helfen.

mehr lesen
Fachdiskussion Zusammenhänge von Sucht und Gewalt

Fachdiskussion Zusammenhänge von Sucht und Gewalt

Während der Münchner Aktionswochen gegen Gewalt an Frauen*, Mädchen*, Jungen* und nonbinären Menschen nutzt Condrobs die sich bietende Möglichkeit, durch eine Fachdiskussion auf die Zusammenhänge von Sucht und Gewalt hinzuweisen.

mehr lesen