Kritische Erziehung gegen Datenkraken

10.07.2019

Kritische Erziehung gegen Datenkraken

Museum für Kommunikation veröffentlicht Videomitschnitt von Fishbowl-Diskussion

Bessere Ausstattung von Aussichtsbehörden und eine kritisch-ethische Erziehung von Kindern und jungen Erwachsenen. In Fishbowl des Frankfurter Museums für Kommunikation diskutiert CYSEC-PI Prof. Ahmad-Reza Sadeghi zusammen mit Katharina Nocun, Veronika Thiel und weiteren Gästen über Strategien gegen den Missbrauch gespeicherter Daten.

„Siri, Amazon & Co. Von Datenkraken und smarten Assistenten“ lautet der Titel der Fishbowl-Diskussion, die im Rahmen des Projektes Leben & Lernen X.0 stattfindet. Die Veranstaltung, die vom Frankfurter Museum für Kommunikation ausgerichtet wird, stellt drei zentrale Fragen: Was wissen Online-Dienste und -Plattformen wie Amazon von uns, welche Auswirkungen hat es, wenn die Daten mit lernenden Systemen (wie zum Beispiel Sprachassistenten wie Siri oder Alexa) gekoppelt werden und bedarf es einer Ethik der Algorithmen?

Auf Einladung der Moderatorin Tine Nowak sprechen hierzu die Bürgerrechtlerin, Autorin und ehemalige Geschäftsführerin der Piratenpartei Katharina Nocun, Veronika Thiel von AlgorithmWatch und Prof. Ahmad-Reza Sadeghi vom Fachbereich Informatik an der Technischen Universität Darmstadt.

Während Nocun und Thiel zunächst auf die Gefahren der Datenspeicherung hinweisen, das Speichern tausender Datensätze, wie Nocun es auch in ihrem jüngst publizierten Buch „Die Daten, die ich rief“ darstellt, verweisen die Teilnehmerinnen und Teilnehmer des Fishbowls auch auf gewisse Vorteile. So gebe es etwa Potenzial hinsichtlich der Speicherung, Analyse und Auswertung von Gesundheitsdaten, welche etwa von sogenannten Gesundheits- oder Fitnesstrackern gelesen werden und Leben retten könnten. Wenngleich es, auch durch Unternehmen, hohe Forschungsinvestitionen gebe, stellt Sadeghi die Frage, ob, wie und durch wen die Forschungsergebnisse auch eingesetzt werden.

Studenten und Schüler kritisch und ethisch erziehen

Zugleich weist er darauf hin, dass es wichtig sei, dass sich der Staat und seine Behörden an die eigenen Vorgaben und Gesetze halten müssen: „Wenn man Facebook und Google nicht vertrauen will, muss man dem Gesetzgeber vertrauen und wenn man den Gesetzen nicht vertrauen kann, ist es genauso wie wenn man der Polizei nicht vertrauen kann.“ Wichtig sei es daher auch, so ergänzt Thiel im Diskussionsverlauf, dass die Gesellschaft die Politik darauf hinweise, existierende Regulierungen auch tatsächlich umzusetzen. Daten würden nicht automatisch sicherer und privater behandelt, wenn sich ein Staat dieser annimmt, vielmehr hänge dies vom politischen System ab, wie etwa der Blick nach China zeige. Gleichwohl unterscheide sich der Stellenwert der Privatheit aber auch in demokratischen Staaten voneinander: „Es gibt große Unterschiede zwischen jungen Studenten in Deutschland und jungen Studenten in den USA. Was aber die Erziehung betrifft, denke ich, muss man die Studenten und in der Schule die Schüler kritisch erziehen, dass sie immer eine Frage stellen und nicht einfach annehmen.“ Unter einer kritischen Erziehung versteht Sadeghi zugleich auch eine ethische: „Ein Ingenieur der bei VW betrügt ist entweder ein schlechter Ingenieur oder er hat Angst um seinen Job. Das ist genauso bei ITlern: Wenn man Algorithmen erstellt, dann wissen die Leute bei Facebook was sie tun.“ Dem pflichtet auch Nocun bei, die keine Lösung darin sieht, dass Menschen angebotene Dienste umschiffen, die eigentlich das Leben erleichtern sollen, sondern dass kritische Denkweisen zu anderen Lösungen hinsichtlich der Erhebung von Daten führen könnten: „Und das interessiert Jugendliche auch. Also meine Erfahrung ist, dass sobald es konkreter wird jeder wissen will, was Unternehmen über einen speichern.“

Einig sind sich Sadeghi und Nocun auch darüber, dass die Aufsichtsbehörden besser ausgestattet werden müssen, da sie nicht über ausreichend finanzielle und personelle Ressourcen verfügen, um bestehende Regulierungen durchzusetzen.

Unternehmen können auch grundsätzlich böse Intentionen besitzen

Mitdiskutant Dirk, der nach eineinhalb Stunden den Stuhl besetzt, welcher im Rahmen von Fishbowl-Diskussionen immer wieder von anderen Publikumsgästen eingenommen wird, verweist darauf, dass die Dienste von Netflix oder Google oft im Konflikt zwischen Vor- und Nachteilen stehen, die jedoch ohneeinander nicht funktionieren. Zwar könne man es einerseits schlecht finden, wenn der Standort durch Kartendienste mitgelesen werde, andererseits würden die Daten dafür genutzt, um kürzere und schnellere Wegeverbindungen zu erzielen und Staus zu umfahren. „Das eine geht nicht ohne das andere, aber die Kompetenz, dass ich diese Entscheidung treffe, das ist keine technische Kompetenz, sondern das ist im Prinzip eine Entscheidungskompetenz und das ist dann oft auch eine Frage dessen, was wir uns selber mal als Aufgabe auferlegen. Ob wir wirklich sagen, wollen wir die Datensammlung verhindern oder wollen wir sicherstellen, dass sie nicht missbraucht werden können.“ Ahmad-Reza Sadeghi vom Fachgebiet System Security Lab stellt klar, dass es am Ende darum gehen müsse, dass Unternehmen sicherstellen müssten, dass Daten nicht missbraucht werden.

Zugleich weist er zum Abschluss der Diskussion aber auch darauf hin, dass es bei allen Diskussionen über die Datenkraken Google oder Facebook nicht nur Unternehmen gebe, die grundsätzlich gute Intentionen besitzen mögen, sondern auch Unternehmen wie Cambridge Analytica, welche bereits gegründet wurden, um mit bösen Absichten Daten zu verwenden. Humorvoll merkt er an, dass dies zugleich auch eines der großen Forschungsthemen im Umfeld des Machine Learnings sei: „Wie kann man die Daten manipulieren, dass das Ergebnis von Klassifizierung dieser maschinellen Lernalgorithmen falsch ausgegeben werden. Also so kann man die Sache auch ethisch sehen: Wenn ich einen Algorithmus nicht mag, gebe ich einfach so viele falsche Daten, dass sie auch falsche Daten haben.“

zur Liste