Anlässlich des 7. Condrobs Frauen*salons am 22. März 2023 stellte Condrobs die Frage: Wer regiert die digitale Welt? Rund 100 Teilnehmende tauschten sich in der Münchner Drehleier mit Fachfrauen und Vertreterinnen aus Wissenschaft, Verwaltung und sozialer Arbeit darüber aus. Der Frauen*salon klärte auf und lud zur Diskussion ein. Das Resümee: Im gemeinsamen Kampf für Gleichstellung muss die „Welt im Netz“ unbedingt mitgedacht werden. In vielen konkreten Beispielen aus der Praxis wurde klar, dass Künstliche Intelligenz, aber auch Machtverhältnisse in sozialen Medien, Chatgruppen und Foren, männlich dominiert sind. Das aber birgt die Gefahr struktureller Diskriminierung.
BR-Moderatorin Özlem Sarikaya führte durch einen facettenreichen Abend, den die Münchner Frauenband Seféria mit Liedern in den östlichen Mittelmeerraum und den Balkan bereicherte. Für kulinarischen Genuss sorgte der Condrobs Frauen*gastronomiebetrieb VIVA CLARA.
Handlungsauftrag zum Einmischen
Damit gendergerechte Beteiligung am Einsatz von Technologien gelingen kann, müssten Frauen* sich mit dem Thema Digitalisierung des Alltags aus feministischer Perspektive auseinandersetzen, betonte Katrin Bahr, Geschäftsführende Condrobs-Vorständin in ihrer Begrüßung. Bahrs Appel: „Wir Frauen* müssen uns einmischen, mitsprechen und genauso bewusst diejenigen mitdenken, die in unserer Gesellschaft weniger Beteiligungschancen haben.“
Dr. Sophia Berthuet, Condrobs-Abteilungsleitung Integrations-, frauen*- und genderspezifische Hilfen in München, zeigte sich beunruhigt, dass das BAMF etwa seit 2022 eine Dialekt-Erkennungssoftware nutzt, um Hinweise auf Identität und Herkunft von Asylsuchenden zu bekommen. Sie betonte, beim Einsatz solcher KI-Systeme müsse vieles kritisch hinterfragt werden: „Kann ein solches System valide Aussagen zum Herkunftsland einer Person machen? Gibt es hier eine unabhängige Kontrolle und sind die Mitarbeitenden ausreichend geschult?“
Klar sei, dass Künstliche Intelligenz Handlungs- und Wirkungsmacht habe, und dass die Definitionsmacht bei den Technikgestalter*innen liege. Berthuet sprach sich für mehr Transparenz in diesem Bereich aus: „Datensätze müssen auf strukturelle Fehler geprüft werden, Regeln und Vorgaben für automatisierte Entscheidungssysteme sollten etabliert werden und Diversität muss als Ziel definiert werden, nicht nur Effizienz“, und auch sie appellierte an die Zuhörer*innen: „Ich denke, hier haben wir alle einen Handlungsauftrag.“
Kontrolle europaweit ausbauen
Jessica Wulf, Researcherin bei AlgorithmWatch Berlin, begann ihren Impulsvortag mit einer Begriffsdefinition: KI (Künstliche Intelligenz) sei darauf ausgelegt, Maschinen zu befähigen, „intelligent“ zu handeln, beispielsweise mit Spracherkennung oder automatischer Übersetzung. AlgorithmWatch aber halte den Begriff für kritisch, da Intelligenz eine menschliche Eigenschaft sei. Sie nutzen stattdessen „Automatisierte Entscheidungssysteme“ (engl. ADM).
Psychologin Wulf bestätigte, dass das Diskriminierungsrisiko nach einhelliger Meinung von Fachleuten und Anwender*innen groß sei und nannte weitere prägnante Beispiele für Diskriminierung durch ADM. Als Ursache benannte die Forscherin, dass Computer per se nicht neutral seien, sondern in Entwicklung und Anwendung träfen Menschen Entscheidungen und brächten ihre Perspektiven und Voreingenommenheit mit ein. Auch unterrepräsentierte Menschen in den zugrundeliegenden Daten führe zu Diskriminierung.
Wulf wies zudem auf das Phänomen des „Automation bias“ hin: Anwender*innen hätten die Tendenz zu glauben und sich daran zu orientieren, was die KI empfiehlt. Nach Einschätzung der Wissenschaftlerin gäbe es aber viele Ideen, wie sich Diskriminierung erfolgreich eindämmen lässt, und es bestehe ihrer Einschätzung nach zumindest in Europa große Einigkeit darin, dass es mehr Kontrolle braucht. Eine KI-Verordnung auf EU-Ebene sei in Arbeit.
Austausch im Salon
Dr. Stefanie Lämmle, Stabsstellenleiterin des InnovationLab als KI-Kompetenzcenter der Landeshauptstadt München, erläuterte, dass Kommunen eine Vielzahl von Daten vorliegen: Einwohnermeldedaten, Luftbilder, Kitadaten, Sozialdaten. Damit gehe eine große Verantwortung einher. Der Einsatz von KI sei in Kommunen bayernweit noch wenig verbreitet, wenn sie jedoch umsichtig, inklusiv und verantwortungsvoll eingesetzt werde, könne KI aktiv zur Verbesserung der Services eingesetzt werden. Dr. Lämmle plädierte dafür, sich mutig mit den neuen technischen Möglichkeiten vertraut zu machen und die neuen Technologien sinnvoll zu nutzen.
Prof. Dr. Sabine Pankofer, Professorin für Psychologie in der Sozialen Arbeit der Katholischen Stiftungshochschule betonte, dass die digitale Welt marktwirtschaftlich organisiert ist und die Gefahr der Merkantisierung der Daten bestehe. „Wir müssen uns beteiligen, um nicht unterrepräsentiert zu sein. Niemand wird für uns sorgen, wenn wir es nicht tun“, appellierte sie an die Zuhöher*innen.
Svenja Schüürmann, Einrichtungsleiterin der Condrobs-Streetwork-Einrichtung ConAction, gab die Stimme junger User*innen wieder, die sich selbstverständlich im digitalen Raum als reale Lebenswelt bewegen. In der Onlineberatung erreiche die Streetwork viele junge Frauen*, da der Zugang zu Beratung leicht gelinge.
Gleichzeitig erlebten viele junge Frauen* Diskriminierung und sexistische Kommentare. „Die Spielregeln in Chaträumen werden zum überwiegenden Teil von Männern gemacht!“, erläuterte Schüürmann. Forenbetreiber* oder Moderatoren* seien fast immer Männer*. Aufgabe der Sozialarbeit sei es, so Schüürmann, gerade junge Frauen* zu empowern, sich gegen Grenzüberschreitungen aufzulehnen und sich hier stärker einzubringen, eigene Foren zu eröffnen. Dann könnten die Spielregeln im Netz so gestaltet werden, dass auch Frauen* sich wohlfühlen.
Frauensalon