DE | EN
Sitemap | Impressum
web2.0 Diaspora Vimeo Wir in der taz Wir bei Mastodon A-FsA Song RSS Twitter Youtube Unsere Artikel bei Tumblr Unsere Bilder bei Flickr Aktion FsA bei Wikipedia Spenden in Bitcoins Facebook Bitmessage Spenden über Betterplace Zugriff im Tor-Netzwerk https-everywhere
16.02.2020 KI wird zu oft überschätzt

Lineale als Indiz für Hautkrebs

Mmh, das hört sich verdammt nach Übersinnlichem an - ist aber nur das Ergebnis künstlicher Intelligenz (KI).

Mit Kollegen an der US-amerikanischen Uni Stanford hatte der Hautarzt Roberto Novoa einen Algorithmus entwicklet, der aus Bildern von Hautveränderungen entscheiden sollte, welche davon gutartig und welche gefährliche Tumore sind. Das System hatte eine Datenbank von 129.000 Bildern von Hautveränderungen zur Auswahl.

Allerdings legen Dermatologen bei besorgniserregenden Hautveränderungen oft ein Lineal mit ins Foto, um die Größe der problematischen Bereiche zu dokumentieren. Das lernte das System schnell, so dass der Algorithmus auf Bildern immer dann Tumore erkannte, wenn im Bild ein Lineal zu sehen war, denn dessen Vorhandensein ging mit einer größeren Wahrscheinlichkeit für einen problematischen Befund einher.

So hatte der Arzt ein Erkennungswerkzeug für Lineale erfunden ...


Ähnlich erging es einer Firma, die einen "smarten" Seifenspender auf den Markt bringen wollte. Dieser verhielt sich jedoch sehr rassistisch und verweigerte die Seifenlauge, wenn der Interessent eine braune oder schwarze Hautfarbe besaß.

Über Probleme von KI bei der Gesichtserkennung hatten wir in einem anderen Fall bereits berichtet (Gesichtserkennung nur bei weißen Männern zuverlässig ). Und wir erinnern uns, wie der von Microsoft entwicklete "smarte" Chatbot innerhalb weniger Tage zu einem rassistischen Rüpel wurde (Auch künstliche Intelligenz kann rassistisch werden ).

Das Fazit muss also sein: Algorithmen können hilfreich sein, um uns stupide Arbeit abzunehmen, doch sollte man sehr vorsichtig sein ihnen komplexe Probleme zu überlassen.
Nachtrag von Aktiven unserer Arbeitsgruppe "Schule ohne Militär": Dieses Fazit trifft ganz besonders auf den Einsatz von KI bei Drohnen und anderen (teil-)autonomen Waffen zu. Selbst Soldaten machen in kriegerischen Auseinandersetzungen ständig Fehler (Abschuss con Zivilflugzeugen, Bombardierung von Krankenhäusern oder Schulen wie in Kunduz). Wie sollten das beschränkte Roboter bewältigen?

Mehr dazu bei https://www.fluter.de/wie-dumm-ist-das-denn
und https://www.credoweb.at/publication/104194/hautkrebs-diagnostik-automatische-diagnose-von-melanomen
und https://www.nature.com/articles/nature21056


Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/37W
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/7173-20200216-ki-wird-zu-oft-ueberschaetzt-.htm
Link im Tor-Netzwerk: nnksciarbrfsg3ud.onion/de/articles/7173-20200216-ki-wird-zu-oft-ueberschaetzt-.htm
Tags: #AI #KI #künstlicheIntelligenz #Hautkrebs #Melanom #Gesichtserkennung #autonom # #SchuleohneMilitär #Atomwaffen #Militär #Bundeswehr #Aufrüstung #Waffenexporte #Drohnen #Frieden #Krieg #Friedenserziehung #Menschenrechte #Zivilklauseln #Kollateralschaden #Slaughterbot #FalsePositives
Erstellt: 2020-02-16 09:44:36
Aufrufe: 503

Kommentar abgeben

Wer hat, der kann! Für eine verschlüsselte Rückantwort hier den eigenen Public Key reinkopieren.
(Natürlich optional)
Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots auszuschließen.
logos Mitglied im European Civil Liberties Network Creative Commons Bundesfreiwilligendienst Wir speichern nicht World Beyond War Tor - The onion router HTTPS - verschlüsselte Verbindungen nutzen Wir verwenden kein JavaScript Für Transparenz in der Zivilgesellschaft