DE | EN
Sitemap | Impressum
web2.0 Diaspora RSS Vimeo Wir in der taz A-FsA Song MeetUp Twitter Youtube Unsere Artikel bei Tumblr Unsere Bilder bei Flickr Aktion FsA bei Wikipedia Spenden in Bitcoins Facebook Bitmessage Spenden über Betterplace Zugriff im Tor-Netzwerk https-everywhere
06.05.2019 Ethische Grundsätze für vertrauenswürdige KI

Ethics guidelines for trustworthy AI

Unter dem Kapitel "Strategie" haben wir auf der Webseite der EU Kommision bemerkenswerte Überlegungen zum Design und Gebrauch von Programmen und Tools mit künstlicher Intelligenz gefunden.

Diese wurden von der Hochrangigen Expertengruppe für KI als Ethikrichtlinien für vertrauenswürdige künstliche Intelligenz vor einem Monat fertiggestellt. Dieses Dokument folgt auf die Veröffentlichung des ersten Entwurfs der Leitlinien im Dezember 2018, zu dem im Rahmen einer offenen Konsultation mehr als 500 Kommentare eingegangen waren.

Gemäß den Richtlinien sollte eine vertrauenswürdige KI sein:

  1. rechtmäßig - unter Beachtung aller geltenden Gesetze und Vorschriften
  2. ethisch - Einhaltung ethischer Grundsätze und Werte
  3. robust - sowohl aus technischer Sicht als auch unter Berücksichtigung des sozialen Umfelds.

Die Leitlinien enthalten 7 Schlüsselanforderungen, die KI-Systeme erfüllen sollten, um als vertrauenswürdig eingestuft zu werden. Eine spezifische Bewertungsliste soll dazu beitragen, die Anwendung jeder der wichtigsten Anforderungen zu überprüfen:

  • Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen befähigen, fundierte Entscheidungen treffen zu können und ihre Grundrechte zu fördern. Gleichzeitig müssen angemessene Aufsichtsmechanismen gewährleistet sein, die durch Human-in-the-Loop-, Human-on-the-Loop- und Human-in-Command-Ansätze erreicht werden können.
  • Technische Robustheit und Sicherheit: KI-Systeme müssen widerstandsfähig und sicher sein. Sie müssen sicher sein, einen Rückfallplan für den Fall, dass etwas schief geht, gewährleisten und genau, zuverlässig und reproduzierbar sein. Nur so kann sichergestellt werden, dass auch unbeabsichtigte Schäden minimiert und verhindert werden können.
  • Datenschutz und Datenverwaltung: Neben der Gewährleistung der uneingeschränkten Wahrung der Privatsphäre und des Datenschutzes müssen auch angemessene Data-Governance-Mechanismen gewährleistet sein, die der Qualität und Integrität der Daten Rechnung tragen und einen legitimierten Zugang zu den Daten gewährleisten.
  • Transparenz: Die Geschäftsmodelle für Daten, Systeme und KI sollten transparent sein. Rückverfolgbarkeitsmechanismen können dabei helfen. Darüber hinaus sollten die KI-Systeme und ihre Entscheidungen in einer Weise erläutert werden, die an die jeweiligen Interessengruppen angepasst ist. Der Mensch muss sich bewusst sein, dass er mit einem KI-System interagiert, und er muss über die Möglichkeiten und Grenzen des Systems informiert sein.
  • Vielfalt, Nichtdiskriminierung und Fairness: Unfaire Verzerrungen müssen vermieden werden, da sie mehrere negative Auswirkungen haben könnten, von der Marginalisierung gefährdeter Gruppen bis hin zur Verschärfung von Vorurteilen und Diskriminierung. Zur Förderung der Vielfalt sollten KI-Systeme für alle, unabhängig von einer Behinderung, zugänglich sein und relevante Interessengruppen während ihres gesamten Lebenszyklus einbeziehen.
  • Gesellschaftliches und ökologisches Wohlbefinden: KI-Systeme sollten allen Menschen zugute kommen, auch zukünftigen Generationen. Daher muss sichergestellt sein, dass sie nachhaltig und umweltfreundlich sind. Darüber hinaus sollten sie die Umwelt, einschließlich anderer Lebewesen, berücksichtigen, und ihre sozialen und gesellschaftlichen Auswirkungen sollten sorgfältig geprüft werden.
  • Verantwortlichkeit: Es sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten. Dabei spielt die Auditierbarkeit, die die Bewertung von Algorithmen, Daten und Designprozessen ermöglicht, eine Schlüsselrolle, insbesondere in kritischen Anwendungen. Darüber hinaus sollten angemessene und zugängliche Rechtsbehelfe gewährleistet sein.

Diese Vorsätze finden wir gut - nun muss dafür gesorgt werden, dass sie auch beachtet und eingehalten werden! Bei einige Forderungen können wir bereits heute Beispiele nennen, die aufzeigen, dass es "Schwierigkeiten" geben wird:

Deshalb begrüßen wir die Untersuchungen und Diskussionen der EU Kommission, aber es bleibt ein Unbehagen, das wir mit den Worten von Stephen Hawkins äußern möchten

Der Erfolg bei der Erzeugung von künstlicher Intelligenz wäre das bedeutendste Ereignis in der Geschichte des Menschen. Unglücklicherweise könnte es auch das letzte sein.

Mehr dazu bei https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
und zum Download der Guidelines https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=58477


Kommentar: RE: 20190506 Ethische Grundsätze für vertrauenswürdige KI

eine Intelligenz, die diesen Namen verdient, wird seine eigenen Regeln aufstellen. Alles andere sind nur verbesserte Algorithmen...

T., 06.05.2019 12:30

 


Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/32N
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/6875-20190506-ethische-grundsaetze-fuer-vertrauenswuerdige-ki.htm
Link im Tor-Netzwerk: nnksciarbrfsg3ud.onion/de/articles/6875-20190506-ethische-grundsaetze-fuer-vertrauenswuerdige-ki.htm
Tags: #AI #KI #ArtificialIntelligence #künstlicheIntelligenz #Arbeitnehmerdatenschutz #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Transparenz #Informationsfreiheit #Meinungsmonopol #Meinungsfreiheit #Wohlbefinden #Vertrauen #Roboter #EU #Strategie
Erstellt: 2019-05-06 10:08:39
Aufrufe: 197

Kommentar abgeben

Wer hat, der kann! Für eine verschlüsselte Rückantwort hier den eigenen Public Key reinkopieren.
(Natürlich optional)
Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots auszuschließen.
logos Mitglied im European Civil Liberties Network Creative Commons Bundesfreiwilligendienst Wir speichern nicht World Beyond War Tor - The onion router HTTPS - verschlüsselte Verbindungen nutzen Wir verwenden kein JavaScript Für Transparenz in der Zivilgesellschaft