DE | EN
Sitemap | Impressum
web2.0 Diaspora RSS Vimeo taz A-FsA Song MeetUp Twitter Youtube Tumblr Flickr Wikipedia Bitcoin Facebook Bitmessage Betterplace Tor-Netzwerk https-everywhere
15.10.2018 "Der" Roboter ist männlich
Sorry, most articles are not available in English yet

KI diskriminiert auf Grund des Geschlechts

Amazon wollte sich die Arbeit leichter machen, ein Wunsch, der schon den Zauberlehrling im Faust an den Rand der Verzweiflung gebracht hat. Mit einem selbst entwickelten Machine-Learning-gestütztem Tool sollten die eingehenden Bewerbungen vorsortiert werden. Nur noch die in der Auswahl des Tools hervorstechenden BewerberInnen sollten eingeladen werden.

Man bemerkte jedoch sehr schnell ein Problem: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Diese Haltung hatte sich die "Künstliche Intelligenz" selbst beigebracht.

Das Attribut Frau wurde scheinbar vom Programm als schlecht bewertet und floss negativ in die Endwertung ein. Die Entwickler hatten dieses Verhalten schon 2015 festgestellt. Sie änderten daraufhin das Verhalten so, dass ihrer Meinung nach das Wort Frau als neutral angesehen wurde. Wie sich nun heraus stellte war das keine ausreichende Lösung.

Nicht nur Amazon kämpft mit dem Problem ungerechter KI-Systeme. Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten. So sind weiße Männer hervorragende Kandidaten für das KI-System, bei schwarzen Frauen ist jedoch die Fehlerquote ungleich höher.

Mmh, davon hat Heimatminister Seehofer wohl noch nchts gehört, der gerade sein Gesichtserkennungssystem mit 20% Fehlerrate als "durchschlagenden Erfolg" bezeichnet. Dabei waren seine Testpersonen auch noch fast alle weiß ...

Mehr dazu bei https://www.golem.de/news/machine-learning-amazon-verwirft-sexistisches-ki-tool-fuer-bewerber-1810-137060.html
und https://www.golem.de/news/maschinelles-lernen-gesichtserkennung-ist-zuverlaessig-bei-weissen-maennern-1802-132709.html


Category[21]: Unsere Themen in der Presse Short-Link to this page: a-fsa.de/e/2XX
Link to this page: https://www.aktion-freiheitstattangst.org/de/articles/6652-20181015-der-roboter-ist-maennlich.htm
Link with Tor: nnksciarbrfsg3ud.onion/de/articles/6652-20181015-der-roboter-ist-maennlich.htm
Tags: #männlich #weiblich #Roboter #KI #AI #Gleichberechtigung #Gender #Diskriminierung #Ungleichbehandlung #Gewerkschaft #Mitbestimmung #Koalitionsfreiheit #Gesichtserkennung #Bewerberauswahl
Created: 2018-10-15 09:01:18
Hits: 452

Leave a Comment

If you like a crypted answer you may copy your
public key into this field. (Optional)
To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.
logos Mitglied im European Civil Liberties Network Creative Commons Bundesfreiwilligendienst We don't store user data World Beyond War Tor - The onion router HTTPS - use encrypted connections We don't use JavaScript For transparency in the civil society