Gesichtserkennungstechnologie und Strafverfolgung

Als Mitglied der Fundamental Rights Platform (FRA) dokumentiert Aktion Freiheit statt Angst regelmäßig deren Veröffentlichungen, wenn sie unsere Themen betreffen. Heute berichtet die FRA über Gesichtserkennungstechnologie, ein Thema welches wir im Zusammenhang mit dem Projekt am Berliner Bahnhof Südkreuz eingehend untersucht und für gefährlich eingeschätzt hatten. Die FRA schreibt:

Gesichtserkennungstechnologie: Grundrechtliche Erwägungen im Zusammenhang mit der Strafverfolgung

Weltweit setzen private Unternehmen und Behörden zunehmend Gesichtserkennungstechnologie ein. Mehrere EU-Mitgliedstaaten erwägen, testen oder planen nun, sie auch zu Strafverfolgungszwecken einzusetzen. Diese Technologie unterstützt zwar potenziell die Bekämpfung des Terrorismus und die Aufklärung von Verbrechen, sie beeinträchtigt aber auch die Grundrechte der Menschen. Ein neues Papier der Agentur für Grundrechte (FRA) befasst sich mit den grundrechtlichen Auswirkungen des Einsatzes von Live-Gesichtserkennungstechnologie und konzentriert sich dabei auf deren Einsatz zu Strafverfolgungs- und Grenzschutzzwecken.

Die Gesichtserkennungstechnologie kann auf viele verschiedene Arten eingesetzt werden, z. B. zur Überprüfung der Identität einer Person, zur Überprüfung, ob sich eine Person auf einer Liste von Personen befindet, und sogar zur Kategorisierung von Personen nach verschiedenen Merkmalen. Die Live-Gesichtserkennungstechnologie erkennt alle Gesichter auf Videomaterial und vergleicht die Gesichter dann mit Beobachtungslisten, die möglicherweise im öffentlichen Raum eingesetzt werden.

Obwohl die Genauigkeit dieser Erkennungstechnologien immer besser wird, bleibt das Risiko von Fehlern real - insbesondere für bestimmte Minderheitengruppen. Außerdem wissen die Personen, deren Bilder erfasst und verarbeitet werden, möglicherweise nicht, dass dies geschieht - und können so möglichen Missbrauch nicht in Frage stellen.

Behörden, die die Technologie im wirklichen Leben einsetzen wollen, müssen diese Grundrechtsprobleme ernst nehmen.

In dem Papier der FRA "Gesichtserkennungstechnologie: Grundrechtliche Erwägungen im Zusammenhang mit der Strafverfolgung"
werden die grundrechtlichen Herausforderungen skizziert und analysiert, die sich ergeben, wenn Behörden die Technologie der Gesichtserkennung im realen Leben zu Strafverfolgungszwecken einsetzen.

Es wurden Schlüsselaspekte identifiziert, die vor dem Einsatz dieser Technologie in der Praxis zu berücksichtigen sind:

• Rechtlicher Rahmen - ein klarer und detaillierter rechtlicher Rahmen ist notwendig, um den Einsatz und die Nutzung von Gesichtserkennungstechnologien zu regeln und zu bestimmen, wann die Verarbeitung von Gesichtsbildern notwendig und verhältnismäßig ist.
• Zweck - es muss zwischen der Verarbeitung von Gesichtsbildern zu Verifizierungszwecken und zu Identifizierungszwecken unterschieden werden. Im Falle der Identifizierung ist das Risiko von Grundrechtseingriffen höher. Daher ist eine strengere Prüfung der Notwendigkeit und der Verhältnismäßigkeit erforderlich.
• Auswirkungen auf das Verhalten - der Einsatz von "Live-Gesichtserkennungstechnologien" ist besonders herausfordernd, da er ein starkes Machtgefälle des Staates gegenüber dem Individuum befürchten lässt. Diese Technologien sollten nur in Ausnahmefällen eingesetzt werden, etwa zur Bekämpfung des Terrorismus oder zur Aufdeckung von Vermissten und Opfern von Straftaten.
• Einsatzort - der Einsatz von Gesichtserkennungstechnologien bei Demonstrationen kann einen abschreckenden Effekt haben, der Menschen daran hindert, ihre Versammlungs- oder Vereinigungsfreiheit auszuüben. Ein solcher Einsatz ist daher kaum verhältnismäßig oder notwendig.
• Fehlergrenze - die Algorithmen liefern nie ein endgültiges Ergebnis, sondern nur Wahrscheinlichkeiten, dass zwei Gesichter zur selben Person gehören. Es ist daher notwendig, die Risiken einer falschen Kennzeichnung von Personen auf ein Minimum zu beschränken. Außerdem muss jeder, der durch den Einsatz von Gesichtserkennungstechnologie angehalten wird, würdevoll behandelt werden.
• Öffentliches Auftragswesen - Bei der Beschaffung von Gesichtserkennungstechnologien sollten die Behörden Grundrechtserwägungen, wie z.B. Datenschutz oder Nichtdiskriminierungsanforderungen, in technische Spezifikationen und Verträge einfließen lassen.
• Folgenabschätzung - Die Behörden müssen alle notwendigen Informationen von der Industrie einholen, um eine Grundrechtsfolgenabschätzung der Anwendung von Gesichtserkennungstechnologien, die sie beschaffen und einsetzen wollen, durchführen zu können.
• Überwachung - Da sich die Technologie schnell entwickelt, ist eine genaue Überwachung durch unabhängige Aufsichtsbehörden unerlässlich. Die Aufsichtsbehörden müssen über ausreichende Befugnisse, Ressourcen und Fachkenntnisse verfügen.

Weitere Informationen über das Forschungsprojekt der FRA zu künstlicher Intelligenz, großen Datenmengen und Grundrechten finden Sie unter:
https://fra.europa.eu/en/project/2018/artificial-intelligence-big-data-and-fundamental-rights

FRA - FRP
Agentur der Europäischen Union für Grundrechte
Schwarzenbergplatz 11
1040 Wien, Österreich

Mehr dazu bei https://fra.europa.eu/en/publication/2019/facial-recognition

Kommentar

Für eine weitere vertrauliche Kommunikation empfehlen wir, unter dem Kommentartext einen Verweis auf einen sicheren Messenger, wie Session, Bitmessage, o.ä. anzugeben.

Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots zu verhindern.

CC Lizenz   Mitglied im European Civil Liberties Network   Bundesfreiwilligendienst   Wir speichern nicht   World Beyond War   Tor nutzen   HTTPS nutzen   Kein Java   Transparenz in der Zivilgesellschaft