EU-Gesetzentwurf zur Chatkontrolle stoppen

Am 11.05.2022 sorgte der Vorschlag der EU-Kommission, Kommunikationsmedien zu kontrollieren, für Kontroverse. Eine Chatkontrolle soll Behörden dabei unterstützen, die Verbreitung von kinderpornografischem Material zu verhindern und Kinder und Jugendliche vor Cybergrooming zu schützen.

Bisherige Entwürfe der EU-Kommission sehen dabei vor, dass digitale Endgeräte auf Anweisung der Behörden nach Darstellungen sexueller Gewalt durchsucht werden sollen. Inhalte auf den Geräten der Bürger:innen sollen so mit Datenbanken abgeglichen werden können. Ein vorab geleakter Beschluss der europäischen Innenminister:innen beinhaltet jedoch die Forderung nach einer generellen Regelung zum „Zugang zu digitalen Informationen, einschließlich verschlüsselter Daten“. Dies wiederum bedeutet, dass Anbieter:innen von Kommunikationsmedien auf Anordnung mithilfe einer KI Inhalte überprüfen müssen. Entdeckt die Software einen Verdacht auf Missbrauchsdarstellungen oder Andeutungen von Cybergrooming, dann schlägt sie Alarm. Die Inhalte sollen zunächst an die Anbieter:innen gehen, dann an Ermittlungsbehörden. Betroffen von diesen Scans können private Chats und Audioaufnahmen, aber auch Bilder, Videos und Dokumente sein. Auch Ende-zu-Ende-verschlüsselte Kommunikation fällt darunter.

In Europa und anderen Teilen der Welt haben bereits 73 zivilgesellschaftliche Organisationen die vollständige Rücknahme dieses Gesetzes gefordert. Sie fordern stattdessen ein alternatives Gesetz zum Schutz gegen Kindesmissbrauch, das mit den europäischen Grundrechten vereinbar sei.

Aus der Einführung eines solchen Gesetzes ergäben sich vielfältige Probleme, die nicht zuletzt auch einen Eingriff in rechtsstaatliche Grundsätze bedeuten.

Mit der Einführung einer allgemeinen Chatkontrolle greift die EU tiefgehend in die Privatsphäre aller Menschen ein und verunmöglicht verschlüsselte Kommunikation. Es wird bei jedem digitalen Austausch eine dritte, mitlesende Instanz geben. Rainer Rettinger, Geschäftsführer des Deutschen Kindervereins, bezeichnet die geplante Chatkontrolle gegenüber netzpolitik.org als einen „massiven Eingriff in rechtsstaatliche Grundsätze“. Außerdem sehen wir die Gefahr, dass die Unschuldsvermutung einer jeden betroffenen Person stark verletzt wird.

Weiterhin spricht gegen den Gesetzesentwurf, dass nur große Tech-Unternehmen Kapazitäten für eine Chatkontrolle hätten. Die vorgesehenen Vorschriften allerdings würden alle Anbieter:innen sozialer Medien für private Chats haftbar machen. Diese müssten in der Folge riskante und fehleranfällige Techniken anwenden, um jederzeit Kontrolle über die Chatinhalte zu haben.

Der Entwurf schlägt zudem den Einsatz von Client-Side-Scanning (CSS) vor, ein Verfahren, bei dem versendete und empfangene Daten vor ihrer Weiterverarbeitung mit Datenbanken abgeglichen werden. CSS ist dabei als Künstliche Intelligenz (KI) längst nicht fehlerfrei: Es lässt sich nicht zurückverfolgen, anhand welcher Merkmale eine KI eine Entscheidung trifft. Daher sehen wir die Gefahr vielerlei Falschmeldungen, welche die Strafverfolgungsbehörden schließlich überlasten würden. Etwa ist der KI nicht klar, anhand welcher Merkmale sich

Cybergrooming von einer Konversation auf Dating-Portalen abhebt, oder auch, wie sich jugendlich aussehende Erwachsene auf Bildern von Kindern unterscheiden lassen. Der sogenannte „digitale Fingerabdruck“, welcher dazu dient, bereits bekannte Bilder und Videos zu erkennen, ist bereits im Einsatz. Auch neues Material soll jedoch von der KI erkannt werden und das ist in der Praxis schwierig.

Ein weiteres deutliches Gegenargument ist für uns auch, dass gefährdete oder marginalisierte Gruppen nicht mehr sicher kommunizieren können. Whistleblower:innen können sich nicht mehr geschützt äußern und auch Menschenrechtsanwält:innen, NGOs, Journalist:innen und Regierungsmitarbeiter:innen sind in ihrer Arbeit bedroht. Gleichzeitig ist zu befürchten, dass Regierungen weltweit Unternehmen gesetzlich dazu verpflichten, politische Oppositionen, Zusammenschlüsse oder etwa kriminalisierte Abtreibung aufzuspüren. Damit wären insbesondere solche Gruppen, die bereits entrechtet und marginalisiert sind, besonders stark von der Chatkontrolle bedroht.

Ein Hinweis darauf, dass diese Maßnahmen nicht nur bedrohlich sind, sondern auch nicht zielführend, ist, dass verschlüsselte Kommunikation kaum eine Rolle bei der Verbreitung von Missbrauchsdarstellungen spielt. Der Deutsche Kinderschutzbund positioniert sich deshalb kritisch und schätzt die Chatkontrolle als eine Maßnahme ein, die „unverhältnismäßig und nicht zielführend“ sei.

Recherchen zeigen außerdem, dass es dem BKA nicht an Hinweisen auf Aufzeichnungen sexualisierter Gewalt gegenüber Minderjährigen mangelt. Vielmehr scheitere es daran, dass die Ermittler:innen die Provider nicht strukturiert zum Löschen der Dateien auffordern. Für uns ist damit eindeutig, dass eine Chatkontrolle der falsche Ansatz ist, um gegen Cybergrooming und Missbrauch von Kindern und Jugendlichen adäquat vorzugehen.

Statt einer wahllosen, unbegründeten Kontrolle aller Kommunikationsmedien fordern wir daher maßgebliche Verbesserungen in den Bereichen Prävention und Hilfe.

Es bedarf besserer Aufklärung in Bezug auf Digitales, aber auch in Bezug auf Belästigung allgemein. Kinder müssen sich dessen bewusst sein, was Erwachsene dürfen und was nicht, aber auch der möglichen Hilfsangebote. Um letztere angemessen zu gestalten, müssen auch Erwachsene, insbesondere Lehr- und Erziehungspersonal geschult und sensibilisiert werden, sodass mögliche Betroffene schnell erkannt werden und Unterstützung erhalten. Nicht zuletzt deshalb erachten wir auch den Ausbau des Therapiesektors – sowohl für Überlebende als auch für Täter:innen und Gefährdete – für unerlässlich. Auch in den Jugendämtern mehr Fachpersonal und eine bessere Ausstattung vonnöten

Weiterhin fordern wir die Einführung von einfachen, niedrigschwelligen Meldeverfahren bei Cybergrooming. Mithilfe derer sollten Betroffene sich sofort an entsprechende Moderator:innen ihres Kommunikationsmediums wenden können. Statt einer Chatkontrolle machen wir uns für die konzentrierte Zerschlagung von Foren stark, in denen kinderpornografisches Material geteilt wird.

Abschließend lässt sich hervorheben, dass wir eine Überwachung aller Kommunikationsmedien für untragbar und nicht zielführend halten. Um Kinderschutz wirklich zu gewährleisten, fordern wir stattdessen ein, bestehende Strukturen auszubauen und zu verbessern, Kinder und Erwachsene zu schulen und Maßnahmen direkt dort anzusetzen, wo Missbrauch stattfindet.