20191122 Aufwachsen in überwachten Umgebungen

22.11.2019 Aufwachsen in überwachten Umgebungen

Für ein "Recht auf offene Zukunft"

"Aufwachsen in überwachten Umgebungen – Wie lässt sich Datenschutz in Schule und Kinderzimmer umsetzen?"

Das war der Titel der heute zu Ende gegangenen 2-tägigen Konferenz des Forum Privatheit in der Kalkscheune in Berlin. Wie auch in den vergangenen Jahren war die Veranstaltung sehr interessant und hat auch uns viel Neues gebracht. Mehrere Aktive von Aktion Freiheit statt Angst waren auch in diesem Jahr dabei und sind nun dabei ihre Erkenntnisse zusammenzutragen.

Neben den Vorträgen gab es auch eine reichhaltige Sammlung wichtiger Broschüren über die Ergebnisse des letzten Jahres. Diese können auch direkt beim Forum Privatheit bestellt werden.

Weiter unten folgt unsere erste Sammlung von Erkenntnissen zu diesen ...

Themen
Folgerungen
Forderungen
Nachtrag: Online Beteiligung durch die Besucher

Das Programm der Veranstaltung war

EINFÜHRUNG UND GRUNDLEGUNG
Visuelle und systematische Grundlagen: Kindheit und Kindheitsbilder im historischen Wandel,
Prof. Dr. Regina Ammicht Quinn (Forum Privatheit/Universität Tübingen)
Aufwachsen in überwachten Umgebungen: Was impliziert das Kinderrecht auf Privatsphäre im Zeitalter des Digitalen?
Ein medienethischer Impuls, Dr. Ingrid Stapf (Forum Privatheit/Universität Tübingen)
PRIVATSPHÄRE VON KINDERN IM DIGITALEN
Recht auf mein Selbst - Schutzräume kindlicher Entwicklungsphasen in der digitalen Gesellschaft,
Dr. Stephan Dreyer (Hans-Bredow-Institut, Hamburg)
PRIVATSPHÄRE IN SCHULE, FAMILIE UND MEDIEN
Datenschutz im Bildungsbereich, (Moderation: Dr. Michael Kreutzer)
Datenschutzrechtliche Anforderungen an Lernplattformen, Maxi Nebel (Universität Kassel/Forum Privatheit)
Privatsphäreschützende Software für Bildungseinrichtungen – Technische, organisatorische und pädagogische Maßnahmen am Beispiel einer Studie zu Messenger-Apps, Prof. Dr. Isabel Zorn, Asmae Harrach-Lasfaghi, Jule Murmann (TH Köln)
WORKSHOP – Digitalisierung in der Schule - Datenschutz mitdenken
Marit Hansen (Landesbeauftragte für Datenschutz Schleswig-Holstein/Forum Privatheit) und Felix Bieker (Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein/Forum Privatheit)
Datenschutz in der Familie
„Gebe ich jetzt meine Daten preis oder nicht?“ Privatheit und Datenschutz in der frühen Kindheit
Dr. Susanne Eggert, Dr. Senta Pfaff-Rüdiger, Andreas Oberlinner (JFF – Institut für Medienpädagogik, München)
Sollten Eltern Bilder ihrer Kinder auf sozialen Netzwerken teilen dürfen? – Über elterliche Rechte und Pflichten zum Schutz kindlicher Privatheit,
Dr. Thomas Grote (Universität Tübingen), Jun. Prof. Dr. Minkyung Kim (TU Chemnitz)
Digitale Sprachassistenten als Treiber für Technoferenzen in der Eltern-Kind-Beziehung.
Jennifer Lee Delić, Lukas Janke, Anja Dittrich (Hochschule für Musik, Theater und Medien Hannover)
Informationelle Selbstbestimmung – Grundrecht oder Mythos?
Andreas Schulz (Hupfeldschule Kassel)
IMPULS AUS JURISTISCHER PERSPEKTIVE
Privatheit und Selbstbestimmung von Kindern in der digitalisierten Welt: Ein juristischer Blick auf die Datenschutzgrundverordnung
Prof. Dr. Alexander Roßnagel (Wissenschaftliches Zentrum für Informationstechnik-Gestaltung (ITeG), Universität Kassel, Sprecher Forum Privatheit)
DEFENDDIGITALME
Ein Tag im Leben eines datafizierten Schulkindes. Die Auswirkungen auf Kinderrechte, Gemeinwohl und Profite
Jen Persson (Autorin und Aktivistin, Direktorin defenddigitalme)
EINSTIEG – KONTEXT KÜNSTLICHE INTELLIGENZ: ROBOTER UND DAS PRIVATE
Roboter im Einsatz – neue Beziehungen, neue Herausforderungen, neue Potenziale?
Moderatorin Miriam Janke im Gespräch mit Prof. Dr. Isabel Zorn (TH Köln), Ricarda Reimer und Silvan Flückiger (FH Nordwestschweiz) und dem Roboter Nao
PRIVATSPHÄRE ZWISCHEN ÜBERWACHUNG UND FÜRSORGE UND (DIGITALE) KOMPETENZEN
Privatsphäre zwischen Überwachung und Fürsorge
Überwachung als Fürsorge? – Überlegungen zum Einsatz digitaler Medien in der Pädagogik,
Dr. Thilo Hagendorff (Universität Tübingen/Forum Privatheit)
Heranwachsende im Spannungsfeld von Beobachtung und Selbstoffenbarung,
Dr. Stephan Dreyer, Dr. Claudia Lampert (Hans-Bredow-Institut, Hamburg), Jutta Croll (Stiftung Digitale Chancen)
Gefährdungen der Privatheit durch Online-Nutzung aus Sicht von 12- bis 14-Jährigen
Christa Gebel, Sina Stecher, Andreas Oberlinner (JFF – Institut für Medienpädagogik, München)
Informationelle Selbstbestimmung im digitalen Lernalltag: Normativer Gehalt und Optionen der Operationalisierung,
Susanna Wolf (FAU Erlangen-Nürnberg)
Medienkompetenz, Privatheitskompetenz und Datenschutz: Was die Deutschen über Privatheit im Internet & Datenschutz wissen und wie sie sich schützen,
Johanna Schäwel, Regine Frener, Prof. Dr. Sabine Trepte (Universität Hohenheim), Philipp Masur (Universität Mainz)
Datenkompetenz durch edukatives Privacy Nudging: Zentrale Prinzipien und Effekte auf Lernprozesse,
Dr. Andreas Janson, Sofia Marlena Schöbel, Melanie Schwede, Prof Dr. Matthias Söllner, Prof. Dr. Gerrit Hornung und Prof. Dr. Jan Marco Leimeister (Universität Kassel)
Digital Empowerment in der Praxis: Medienkompetenz und Datenschutz als integrale Bestandteile lebensbegleitenden Lernens für Organisationen und Bürger_innen,
Jonas Vollmer, Jens Gutsche, Simon Vollmer (Selbstbestimmt.Digital e.V)
MEDIENKOMPETENZ UND PRIVATSPHÄREKOMPETENZ-FÖRDERUNG VON KINDERN
Informieren, sensibilisieren, befähigen: Good-Practice-Beispiele zur Stärkung von Medien- und Privatsphäre-Kompetenzen von Kindern
     • ZDF-Onlinemagazin „App+on. Sicher ins Netz mit Handy und Co.“, Nadja Kronemeyer (ZDF-Redakteurin)
     • EU-Initiative klicksafe – Awareness Center Germany, LMK – medienanstalt rlp, Birgit Kimmel (Leitung klicksafe)
     • „Bettermarks – Math Made Easy”, Marianne Voigt (Co-Founder und Geschäftsführerin)
TURNING RISKS INTO OPPORTUNTIES – PRIVACY OF CHILDREN IN DIGITAL ENVIRONMENTS
Children's data and privacy online: the implications of growing up in a datafied age for policy and education,
Prof. Dr. Sonia Livingstone (London School of Economics)
WAS ES BRAUCHT UND WIE ES GELINGT
Marit Hansen, Datenschutzbeauftragte des Landes Schleswig-Holstein, Emily Lardon und Mia Pagenkemper, Schülerinnen des Berliner Schiller-Gymnasiums, Daniela Tews, Leiterin der Projektstelle Kinderrechte und Medien beim Deutschen Kinderhilfswerk

Themen

Der Vortrag des Vertreters des BMBF

Die Förderung des Forum Privatheits über dies Jahre hat sich gelohnt, es wurde gut gearbeitet und die Arbeit ist wichtig. Man möchte einen Dritten Weg bei der Digitalisierung suchen, anders als in den USA und anders als in China.

Kindheit im historischen Wandel

Zum Einstieg gibt einen Ausschnitt aus Humperdincks Oper Hänsel und Gretel mit 14 freundlichen Engeln und aus dem Film Systemsprenger.

Bis ins späte Mittelalter werden Kinder als schuldig und dumm angesehen. Erst unter Rousseau bildet sich die Meinung unschuldigen Kind. Es wird aber weiterhin als Besitz angesehen. Die Frau gehört dem Mann das Kind gehört der Frau.

Heute werden die Räume für die Kinder digitalisiert und sind damit kontrollierbar. Fürsorge soll behüten aber nicht lenken - Entwicklung zur eigenständigen Person.

Abschreckendes Beispiel: Ryan, ein fünfjähriger Youtuber, hat bereits 20 Millionen Abonnenten, er, beziehungsweise seine Eltern sind damit die bestbezahlten Youtuber.

Medienethik

Gefährliche moderne Kinderspielzeuge zur Überwachung:

Schultasche mit Geo-Tagging,
Smart Dolls, wie Puppe Cayla,
Teddys mit Kamera, usw.

Spielzeuge sind für Kinder magischer Gegenstände, mit denen sie spielen und reden, denen sie Geheimnisse anvertrauen. Das Kind möchte seine Geheimnisse bewahren. Wenn es mitbekommt, dass die Geheimnisse keine mehr sind, so empfindet es Scham. Kinder können bereits im Alter von 6 bis 7 Jahren ihren Wunsch nach Privatsphäre äußern, auch wenn sie den Begriff nicht nutzen und auch nicht kennen.

Sieben bis dreizehnjährige Kinder haben Kenntnis von den Begriffen Privatheit und Überwachung. Ab 14 Jahren können Kinder die "Überwacher" nennen, es sind für sie die Anbieter der Apps. Sie wissen nichts über Tracking.

Schüler einer achten Klasse können darüber berichten, dass ihnen Werbung vorgespielt wird, dass ihr Aufenthaltsort verfolgt wird. Weitere Eingriffe in ihre Selbstbestimmung, wie das Speichern von Cookies, ihrer IP-Adressen und die Verfolgung ihrer Vorlieben und ist ihnen unbekannt. Völlig unbekannt sind ihnen auch ihre eigenen Rechte.

Sie äußern ihre Angst, dass Daten aus ihrer Freizeit in den Schulenkontext geraten., Sie wollen nicht, dass ihre Daten mitgelesen werden. Sie gehen in der Regel davon aus, dass hinter den Programmen Menschen lauschen. Der Begriff des Algorithmus ist ihnen unbekannt. 12 bis 14 Jährige verfügen über wenig Wissen welche Hilfe für sie verfügbar wäre, z.B. durch Lehrer Eltern, ...

Als Ergebnis bilden sich bei ihnen Ratlosigkeit und Fatalismus aus.

Rechtliche Einordnung

Die Konvention über Kinderrechte von 1989 legt in Art. 16 das Recht der Kinder auf eine Privatsphäre fest. Kinderrechte sollen nach Wunsch von Linken, Grünen und Teilen der SPD ins Grundgesetz aufgenommen werden. Solange dies nicht der Fall ist gelten Kinderrechte durch die Ratifizierung der Kinderrechtskonvention durch die BRD als normales Recht.

Was gilt wann?

Vormittags ist Schule, das ist Pflicht. Die rechtliche Grundlage für die Nutzung digitaler Geräte ist also ein Ländergesetz oder eine Verordnung. Deshalb ist für die Nutzung digitaler Geräte und Programme in der Schule keine Einwilligung der Eltern notwendig.

Zu beachten ist auch, dass durch diese rechtliche Grundlage ein Rahmen geschaffen ist, der nicht durch eine Einwilligung des Schülers, des Auszubildenden oder des Studenten erweitert werden kann. Es gibt Erfahrungen, dass dies unzulässigerweise von Jobcentern Ausbildungsberatungen und ähnlichen Institutionen versucht wird.

Nachmittags ist die Nutzung von Geräten und Programmen privat. Die Eltern geben für ihre Kinder die Einwilligung dazu. Zusätzlich haben sie die Kosten zu tragen. Für die Kinder entsteht das Risiko, dass aus ihren Daten Profile gebildet werden, bei der Nutzung in und durch die Schule entstehen zusätzliche pädagogische Prozessdaten.

Länderchaos: Eine Soial Media Nutzung in der Schule ist in Baden-Württemberg verboten, in Hessen wird es geduldet. In Schleswig-Holstein sind alle Messenger im Rahmen der Schule unzulässig. Nutzerstatistiken zeigen, dass 99% der über vierzehnjährigen WhatsApp nutzen.

Nach den AGB von WhatsApp ist die Nutzung erst ab 16 Jahren erlaubt. Deshalb muss der Gesetzgeber auch verhindern, dass dieses Programm in den Schulen verwendet wird. Darüber hinaus ist bekannt, dass das Programm die Adressen auch von Nicht Benutzern aus dem Adressbuch des Nutzers kopiert. Damit macht sich jeder Benutzer eines Verstoßes gegen die DSHVO schuldig, es sei denn er könnte eine Einwilligung aller seiner Bekannten (aus dem Adressbuch) nachweisen. Als dritte Barriere gegen die Nutzung von WhatsApp kann der Information Act der USA angesehen werden. Dieser erlaubt den USA auf die Daten ausländischer Bürger zu zugreifen, was nach europäischem Datenschutzrecht (DSGVO) verboten ist.

Zur rechtlichen Einordnung ist noch anzumerken, dass die Kinderrechtskonvention ein Völkerrecht ist. Die Kinderrechtskonvention wurde 1989, also vor 30 Jahren, ausgehandelt und von allen Mitgliedstaaten der Vereinten Nationen mit Ausnahme der USA unterzeichnet. Sie ist damit das "am meisten gültige" Völkerrecht. Als Alternative kann die europäischen Menschenrechtscharta angesehen werden. Auch deren Art. 24 ist innerhalb der EU ein einklagbares Grundrecht für den Schutz der Privatsphäre von Kindern.

Anm.

Die Herabsetzung des Wahlalters auf Jugendliche würde ihren Einfluss vergrößern und damit der Kinderrechtskonvention entgegenkommen.
Im Mai nächsten Jahres steht eine Evaluation der Datenschutzgrundverordnung nach Art. 97 an. Diese Chance muss genutzt werden um Änderungen, Verbesserungen einzubringen.

Welche Messenger wären datenschutzkonform?

Empfohlen werden Wire, Hoocer, XMPP, Jabber, Conversations, ChatSecure, Gajim

Das Problem bei der Untersuchung der Messenger war, dass allein eine Datenschutzkonformität nicht ausreichend ist. Zusätzlich muss bedacht werden, dass ein geeignetes Programm auch Behinderungen oder Einschränkungen von Kindern akzeptieren muss, um Ungleichheiten zu vermeiden.

Erfahrungsbericht aus Großbritannien

Das britische Schulen-Managementsystem weiß alles - ein Bericht über den Tagesablauf einer britischen Schülerin.

Aus einem Foto über Klippen, welches sie sich im Browser ansieht, wird vom System gefolgert, dass die Schülerin Selbstmordabsichten hat.
In der nationalen Schülerdatenbank sind 21 Millionen Schülerinnen und Schüler gespeichert.
80% wissen nicht was alles über Sie gespeichert ist.
Seit 2012 dürfen biometrische Aufnahmen nur noch mit Zustimmung der Eltern durchgeführt werden. In der Realität sieht das anders aus.
Vor der Abnahme von Fingerabdrücken für ein Bezahlsystem in der Schul-Mensa wurden die Eltern informiert. Eine Mutter protestierte gegen die Abnahme, die Schule willigte in einer Karte mit RFID-Chip als Alternative ein.
Bei der Abnahme der Fingerabdrücke wurde auch dieses Kind mit aufgenommen.

Folgerungen

Aus den Studien mit Kindern:

Kinder denken ihre Daten wären für Erwachsene uninteressant.
Kinder sehen Menschen hinter Firmen.
Sie sehen sich nicht als Ziel von Werbung oder Profiling.
Schüler wollen lieber dabei sein als ihre Privatsphäre zu schützen.
Durch kleine Vorteile lassen Sie sich korrumpieren.
Es fällt ihnen schwer die Folgen einzuschätzen, die für sie unsichtbar sind.
Sie haben oft Ideen, wie sie sich schützen können aber diese helfen nicht.
Wenn sie für Ihre Interessen protestieren, werden sie, auch für sich selbst erstaunlich, wie Erwachsene behandelt (Fridays for Future).

Aus den Ergebnissen:

1/3 aller Nutzer im Internet sind Kinder.
Konformitätsdruck: Die Programme erwarten ein Standardverhalten und zwingen damit zu einer Normalisierung des Verhaltens aller.
Einschränkung der Realitiät, Filterblase: Programme erzeugen für eine subjektive Konstruktion von Realität. Sie treffen eine Vorauswahl - was soll ich sehen.
Wer bestimmt die Ziele? Welche sozialen Beziehungen sind erwünscht ?
Anpassung: Dritte, der Algorithmus, entscheidet was andere über mich sehen können und der Algorithmus weiß, was über mich gespeichert wird.
Dazu sollte man wissen, dass in Studien herausgefunden wurde, dass Algorithmen allein aus einer Fotosammlung mehr Depressive herausgefunden haben als geschulte Psychologen.
Medienkompetenz ist in der Schule leider keine Pflichtveranstaltung.
Als Messenger sollte ein Open Source Programm genutzt werden, wie zum Beispiel die auf dem offenen Protokoll von XMPP beruhenden Anwendungen.
Durch den Digitalpakt steht im Augenblick Geld zur Verfügung. In Berlin sollen pro Schule ein Server für 10.000€ (Kosten für fünf Jahre) angeschafft werden.
Theoretisch sollte an jeder Schule eine Datenschutzverantwortlicher entsprechend der DSGVO benannt worden sein. Wie weit ist man damit?
Alle Schüler sollten mit gleichartigen Geräten und Programmen arbeiten. Die Mitnahme von privaten Geräten in die Schule sollte unterbunden werden.
Die Nutzung von Apple Geräten diskriminiert alle anderen Schüler und bietet den Besitzern ungerechtfertigter Vorteile.
Lehrer sollten Handys oder SmartWatches im Unterricht schon aus eigenem Interesse nicht dulden. Diese Geräte würden Audio- oder sogar Videomitschnitte des Unterrichts ermöglichen und könnten den Lehrern rechtliche Probleme machen auch wenn deren Einsatz illegal wäre.

Anm.

in Schleswig-Holstein wurde an einer Schule eine Videoüberwachung durch in Blumentöpfen versteckte Kameras entdeckt. Die Schüler protestierten lautstark.
Eine Studie hat festgestellt 100.000 der 88% Daten an Google weitergeben. Bei vielen war dies nicht unbedingt die Absicht der Entwickler. Es werden einfach Libarys von google miteingebunden, die das automatisch tun.
Die KMK fordert Digitalisierung aber wofür, für welchen Zweck eigentlich? Keine befriedigende Antwort aus der Politik ist bekannt.

Erfahrung mit einem Roboter

Die Technik ist völlig unausgereift. Die Stimme quakt und ist undeutlich. Umgekehrt hat der Roboter größte Schwierigkeiten die Sprache eines Kindes zu verstehen. Diese ist ebenfalls undeutlich und eventuell unzusammenhängend und von Dialekten geprägt.

Wie 1938 beim Appenzeller Roboter ist in ihm auch heute im wesentlichen nur eine ferngesteuerte Maschine zu sehen. Ständig muss ein Mensch das Gerät überwachen, damit keine Fehlfunktionen ausgelöst werden. Besonders im Umgang mit Kindern ist dies unverantwortlich.

Für Kinder ist ein Roboter eine Puppe. Kinder sind keine Testpersonen, um den Roboter neue Fähigkeiten beizubringen. Kinder sind auch keine Befehlsempfänger durch den Roboter. Das Kindeswohl steht an erster Stelle (siehe Kinderrechtskonvention).

Allein die Programmierung normaler Bewegungen für einen" humanen" Roboter ist bereits sehr aufwändig. Aber die Programmierung zum Beispiel der drei Robotergesetzen von Asimov sprengt jedoch jeden Rahmen.

Ein Roboter darf kein menschliches Wesen (wissentlich⁾ verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Eine Beachtung der Robotergesetze würde das Programm ständig von einem Dilemma zum nächsten bringen (z.B. Alternative: Überfahren eines alten Menschen oder eines Kindes?).

Überwachung als Fürsorge - Care Ethics

Die meisten Überwachungsgeräte sind in einer rechtlichen Grauzone oder sogar absolut verboten.

Software, z.B. FlexySpy: Damit kann das Verhalten in Social Media Zusammenhängen oder am Browser von einem Familienmitglied kontrolliert werden. Es enthält einen Keylogger, kann Screenshots aufnehmen, schreibt Passwörter mit , ...

Man sollte nicht vergessen, dass solche Geräte oder Programme ebenfalls Daten in die Cloud auslagern. Dort oder auch auf ihren normalen Arbeitsspeicher können Fremde durch Hacks zugreifen.

Solche Geräte oder Programme suggerieren Sicherheit, in der Realität ist jedoch bei einem Problemfall kein Eingriff möglich.

Forderungen

Privacy is a human right
Recht auf offene Zukunft
Privacy by Default
Privacy by Design
Schutzräume für Kinder: Das Ziel von Bildung ist die Entfaltung der Persönlichkeit
Die Zweckbestimmung muss festlegen, dass nur Daten, die im Kontext der Zweckbestimmung liegen, genutzt werden dürfen. Beliebige andere Daten dürfen das Gerät nicht verlassen.
Nicht für den Zweck notwendige Daten dürfen nicht erhoben werden.
Es muss ein Verbot von mathematischen Verfahren für das Zusammenführen von Daten aus verschiedenen Zweckbestimmungen geben.
Zur Gestaltung der Einwilligung: diese muss freiwillig, informiert und zweckbestimmt sein, das heißt alle erhobenen Daten müssen bekannt gemacht worden sein.
Für die Einwilligung von Kindern unter 16 Jahren durch ihre Eltern ist ein doppeltes Opt In Verfahren anzuwenden. Die Eltern müssen eine Nachricht mit einem Link zu ihrer Zustimmung erhalten.
Fürsorge kann auch durch den Verzicht auf Überwachung realisiert werden!

Nachtrag: Online Beteiligung durch die Besucher

In der Veranstaltung konnten die Teilnehmer über das Tool slido.com Anmerkung zu den Vorträgen machen und an Umfragen teilnehmen. Angeblich ist das Programm datenschutzfreundlich und die Anmeldenden werden alle als "anonym" gelistet. Die Kommentare und die Ergebnisse der Umfragen sind dann sofort für alle anderen sichtbar.

Die Einrichtung des Tools über einen Browser gestaltete sich aber schwierig. Ohne Java Skript war ein Zugriff unmöglich. So mussten erst verschiedener Browser ausprobiert werden und verschiedene Berechtigungen verändert werden. Damit vergingen zumindest beim Autor circa 10 Minuten bevor das Programm einsetzbar war.

Die Benutzung des Tools kann als sinnvoll betrachtet werden, da Fragen bereits während der Vorträge formuliert werden konnten. Man vergisst seine Frage nicht und es spart Zeit. Allerdings wird die Handynutzung in Konferenzen damit weiter befördert ...

Mehr dazu bei https://www.forum-privatheit.de/jahreskonferenz-2/