Twitter-User machten Microsofts Chatbot zu einem Rüpel

... nein, nicht "zu einem Rüpel" sondern zu einem Rassisten.

Microsoft wollte eine KI erschaffen, welche sich wie ein Teenager verhält, um natürlichere Kommunikation mit einer KI zu testen. Dazu stellte das Unternehmen den Chatbot Tay auf Twitter.

Sobald Tay online war, bombardierten ihn Twitter-Nutzer mit rassistischen Kommentaren, Beleidigungen und frauenfeindliche Beschimpfungen. Tay lernte und das führte dazu, dass er dieses Verhalten annahm und in demselben "Tonfall" seine Äußerungen tätigte.

Tay sollte eine lernende Maschine sein, um mit Menschen zu kommunizieren. Was wir aus dem Experiment lernen können ist, dass KI ohne Moral tatsächlich eine Gefahr werden kann.

Sagen wir dies laut und deutlich allen Konstrukteuren von Drohnen, den bereits fliegenden automatischen Tötungsmaschinen. Auch diese bekommen immer mehr "KI" programmiert, damit sie in "Notfällen" (Abriss der Funkverbindung oder Zerstörung der Leitstelle) ohne menschliche Unterstützung weiter handeln, also töten können.

Mehr dazu bei http://www.gulli.com/news/27273-twitter-user-machten-microsofts-chatbot-zu-einem-ruepel-2016-03-25

Comment

If you like a crypted answer you may copy your public key into this field. (Optional) Public Key

To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.

CC license   European Civil Liberties Network   Bundesfreiwilligendienst   We don't store your data   World Beyond War   Use Tor router   Use HTTPS   No Java   For Transparency