Freiheitsrechte oder Verhinderung von sexuellem Missbrauch?

Dass soziale Netzwerke und Messengerdienste von Erwachsenen missbraucht werden, um zum Beispiel unter Vortäuschung falschen Alters Kinder und Jugendliche in der Absicht eines sexuellen Missbrauchs zu kontaktieren, ist bekannt. Während der Coronapandemie ist die Zahl der Opfer sexuellen Missbrauchs in einigen Mitgliedsstaaten nochmals um ca. 25 % gestiegen. 2021 erhielt das National Center for Missing & Exploited Children (NCMEC) mehr als 30 Mio. entsprechende Hinweise. Die EU-Kommission plant daher, in Zukunft sowohl eine Bild- und Videokontrolle als auch eine Chatüberwachung vorzuschreiben: „Begründet wird das Vorhaben mit der steigenden Anzahl an Fällen, allein im Jahr 2021 wurden laut der EU weltweit 85 Millionen Bilder und Videos mit Darstellungen von sexuellem Kindesmissbrauch gemeldet. Um die Verbreitung zu unterbinden, will der Entwurf die Anbieter von Hosting- und Kommunikationsdiensten nun verstärkt in die Pflicht nehmen.“ (Frischholz 2022) 

Schon 2021 hat die EU ein Gesetz verabschiedet, das den Anbietern von sozialen Medien und Messengerdiensten erlaubt, entsprechende Fotos oder Videos aufzuspüren, zu entfernen und zwecks Strafverfolgung zu melden. Diese Maßnahmen sind allerdings freiwillig: Google und Microsoft haben bereits damit begonnen, Facebook hingegen noch nicht. Nutzer*innen der jeweiligen Plattformen können den Anbietern die Verbreitung von Missbrauch melden, entsprechende Inhalte müssen dann gelöscht werden. Trotz dieser Maßnahmen sind die Opferzahlen erheblich gestiegen. Der EU reichen daher die bisher freiwilligen Maßnahmen nicht mehr aus, sie will mit einer neuen Gesetzesvorlage Internetanbieter verpflichten, mithilfe von KI-basierter Software die eigenen Dienste nach illegalen Fotos und Videos zu durchsuchen. Was gefunden wird, soll direkt gelöscht werden, außerdem sollen die Behörden zwecks strafrechtlicher Verfolgung informiert werden. (López 2022) 

Um allerdings zu vermeiden, dass schon über Textnachrichten Verabredungen getroffen werden, die einen Missbrauch zur Folge haben könnten, will die Gesetzesvorlage die Kontrolle auch auf die private Kommunikation ausweiten. Damit würden auch E-Mails oder Nachrichtenverläufe auf WhatsApp automatisch gescannt und mithilfe einer KI-basierten Software analysiert und im Verdachtsfall gelöscht und gemeldet werden. 

Diese Regelung soll für alle Unternehmen gelten, die Internetdienste anbieten, also auch für Hosting- oder Messengerdienste, App Stores oder Anbieter von Individualkommunikation wie WhatsApp. Hier wird vor allem das Problem gesehen: bei einer Ende-zu-Ende-Verschlüsselung wie bei WhatsApp kann die Kontrolle nicht auf einem Server durchgeführt werden, sondern es müsste auf das Gerät selbst zugegriffen werden. Für Unternehmen, die eine solche Kontrolle nicht durchführen, sind Geldbußen von bis zu 6 % des weltweiten Umsatzes des Unternehmens im Gespräch. 

Das Problem bei dem Vorhaben besteht darin, dass hier zwei wichtige Ziele in Konkurrenz stehen: zum einen die Freiheit der Kommunikation und die Privatsphäre, zum anderen der Schutz von Kindern und Jugendlichen vor sexuellen Übergriffen. So einleuchtend die Ziele einer Überwachungsaktion auch sind, so hätte dieses Verfahren eine komplette Kontrolle der Individualkommunikation zur Folge. Kritiker*innen führen an, dass diese Maßnahme damit vergleichbar wäre, als würde die Post gezwungen, jeden Brief zu lesen, bevor er zugestellt wird. Eine vertrauliche und sichere private digitale Kommunikation wäre damit praktisch unmöglich. Zwar wäre die Analyse vor allem KI-basiert, aber letztlich stehen dahinter immer auch Menschen, die auf die gefundenen Inhalte Zugriff haben müssen. Künstliche Intelligenz funktioniert nicht hundertprozentig, die Kommission rechnet mit einer Fehlerquote von etwa 10 %, die dann von Menschen gesichtet und bewertet werden müssen: „Ein Kritikpunkt an der geplanten Chatkontrolle ist die Anfälligkeit von Erkennungssoftware für Fehler. Keine Software ist perfekt. Bei falsch-positiven Treffern könnten harmlose Nachrichten, Chats und Fotos von Unschuldigen auf den Bildschirmen von Ermittler:innen landen – mit dem Verdacht auf Straftaten wie die sogenannte Verbreitung von Kinderpornografie. Das Problem ist der EU-Kommission offenbar bekannt, und sie nimmt es bewusst in Kauf.“ (Meineck/Reuter 2022) 

Nach Meinung vieler Expert*innen sprengt dieses Vorhaben den geltenden EU-Menschenrechtsrahmen. Mitglieder der Bundesregierung wie Bundesinnenministerin Nancy Faeser, Digitalminister Volker Wissing und Justizminister Marco Buschmann haben sich schon entschieden gegen die Vorlage ausgesprochen. Außerdem wird bezweifelt, dass dieses Verfahren tatsächlich zu den erwarteten Ergebnissen führt. Selbst der Deutsche Kinderschutzbund sieht das geplante Gesetz kritisch: „Vorstandsmitglied Türk hat das von der EU-Kommission geplante anlasslose Scannen der privaten Kommunikation via Messenger oder E-Mail als unverhältnismäßig und nicht zielführend bezeichnet. Der Großteil des kinderpornographischen Materials werde nämlich über Plattformen und Foren geteilt. Hier seien anlasslose Scans richtig, so Türk. Die EU-Kommission will voraussichtlich Mitte nächster Woche ihren Gesetzesvorschlag vorlegen. Bürgerrechtler fürchten einen weitreichenden Eingriff in die private Kommunikation der Menschen.“ (Türk 2022) 

Dem Entwurf müssen noch das EU-Parlament als auch die Mitgliedsstaaten zustimmen. Gegenwärtig beschäftigt sich eine Arbeitsgruppe unter der Leitung des Bundesinnenministeriums mit dem Gesetzentwurf. Dass der Entwurf in dieser Form in Kraft tritt, ist nach gegenwärtigem Stand eher unwahrscheinlich. Die Frage ist, ob es gelingt, den Entwurf so zu verändern, dass die erheblichen Bedenken Berücksichtigung finden werden. 

Quellen:

Frischholz, A.: EU-Kommission: Pläne zur Chatkontrolle offiziell vorgestellt. In: ComputerBase vom 09.05.2022, abrufbar unter: https://www.computerbase.de

López, E. E.: Chatkontrolle: EU-Pläne zum Schutz von Kindern im Netz. In: BASECAMP vom 26.07.2022, abrufbar unter: https://www.basecamp.digital/  

Meineck, S. / Reuter, M.: Geleakter Bericht: EU-Kommission nimmt hohe Fehlerquoten bei Chatkontrolle in Kauf. In: netzpolitik.org vom 29.06.2022, abrufbar unter: https://netzpolitik.org/

Türk, J.: Kinderschutzbund lehnt anlassloses Scannen verschlüsselter Kommunikation ab. In: BR24 vom 08.05.2022, abrufbar unter: https://www.br.de/