15.10.2018 "Der" Roboter ist männlich

KI diskriminiert auf Grund des Geschlechts

Amazon wollte sich die Arbeit leichter machen, ein Wunsch, der schon den Zauberlehrling im Faust an den Rand der Verzweiflung gebracht hat. Mit einem selbst entwickelten Machine-Learning-gestütztem Tool sollten die eingehenden Bewerbungen vorsortiert werden. Nur noch die in der Auswahl des Tools hervorstechenden BewerberInnen sollten eingeladen werden.

Man bemerkte jedoch sehr schnell ein Problem: Der Algorithmus hatte sexistische Tendenzen und bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Diese Haltung hatte sich die "Künstliche Intelligenz" selbst beigebracht.

Das Attribut Frau wurde scheinbar vom Programm als schlecht bewertet und floss negativ in die Endwertung ein. Die Entwickler hatten dieses Verhalten schon 2015 festgestellt. Sie änderten daraufhin das Verhalten so, dass ihrer Meinung nach das Wort Frau als neutral angesehen wurde. Wie sich nun heraus stellte war das keine ausreichende Lösung.

Nicht nur Amazon kämpft mit dem Problem ungerechter KI-Systeme. Eine Forscherin am Massachussetts Institute of Technology (MIT) hat etwa herausgefunden, dass Bilderkennungssysteme von IBM und Microsoft unfair bewerten. So sind weiße Männer hervorragende Kandidaten für das KI-System, bei schwarzen Frauen ist jedoch die Fehlerquote ungleich höher.

Mmh, davon hat Heimatminister Seehofer wohl noch nchts gehört, der gerade sein Gesichtserkennungssystem mit 20% Fehlerrate als "durchschlagenden Erfolg" bezeichnet. Dabei waren seine Testpersonen auch noch fast alle weiß ...

Mehr dazu bei https://www.golem.de/news/machine-learning-amazon-verwirft-sexistisches-ki-tool-fuer-bewerber-1810-137060.html
und https://www.golem.de/news/maschinelles-lernen-gesichtserkennung-ist-zuverlaessig-bei-weissen-maennern-1802-132709.html


Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/2XX
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/6652-20181015-der-roboter-ist-maennlich.htm
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/6652-20181015-der-roboter-ist-maennlich.htm
Tags: #männlich #weiblich #Roboter #KI #AI #Gleichberechtigung #Gender #Diskriminierung #Ungleichbehandlung #Gewerkschaft #Mitbestimmung #Koalitionsfreiheit #Gesichtserkennung #Bewerberauswahl
Erstellt: 2018-10-15 09:01:18
Aufrufe: 1158

Kommentar abgeben

Für eine weitere vertrauliche Kommunikation empfehlen wir, unter dem Kommentartext einen Verweis auf einen sicheren Messenger, wie Session, Bitmessage, o.ä. anzugeben.
Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots zu verhindern.

Wir im Web2.0


Diaspora Mastodon Twitter Youtube Tumblr Flickr FsA Wikipedia Facebook Bitmessage FsA Song


Impressum  Datenschutz  Sitemap