Freiheit versus Sicherheit - so beschreibt Jurist Stephan Dreyer vom Hans-Bredow-Institut für Medienforschung das aktuelle Dilemma der EU: Die Freiheit unserer digitalen Kommunikation auf der einen Seite, die Sicherheit von Kindern und Jugendlichen im Netz auf der anderen.

Um die Weitergabe von Kindermissbrauchsinhalten via digitaler Kommunikation zu verhindern, plant die EU ein neues Gesetz, für das sie am 11. Mai einen Entwurf vorgelegt hat. Demnach sollen alle Messenger-Dienste, Mail-Anbieter und Hosting-Provider dazu verpflichtet werden, die Kommunikation der Nutzerinnen und Nutzer nach verbotenen Inhalten zu durchsuchen. Dies könne Dreyer zufolge auf zwei verschiedene Arten geschehen.

Beim sogenannten Hash-Wert-Verfahren gleicht ein Provider den digitalen Fingerabdruck von gerichtlich zweifelsfrei identifizierten Missbrauchsdarstellungen mit den Inhalten der Nutzerinnen und Nutzer ab - "er schaut nicht in die Kommunikation rein", so der Medienjurist. Bei einem anderen Verfahren namens Client-Side-Scanning brauche der Provider dagegen Zugriff auf die Kommunikation der Userinnen und User, um zu verfizieren, ob es sich bei der Datei um eine Missbrauchsdarstellung handele. Nur: Bei diesen Verfahren bestünde die Gefahr, "dass hier ein Generalschlüssel für verschlüsselte Kommunikation mit drin steckt."

Dieses Verfahren wird deshalb auch Chatkontrolle genannt. Und betrifft auch Bereiche wie die geschützte Kommunikation von Journalistinnen mit Whistleblowern, die Absprachen von Anwälten mit ihren Klientinnen oder auch ärztliche Kommunikation, die unter Geheimnisschutz steht. Sollten alle Kommunkations- und Hosting-Provider zu einer solchen Chatkontrolle via Künstlicher Intelligenz verpflichtet werden, dann sei dies eine systematische Überwachung von Privatkommunikation, so Dreyer.

"Eine bevölkerungsweite, anlasslose Überwachung von Individualkommunikation ist aus meiner Sicht weder national noch auf EU-Ebene mit den geltenden Menschenrechtsrahmen vereinbar. Das haben die europäischen Gerichte mehrfach deutlich gemacht, dass das so nicht funktioniert. Insofern bin ich etwas schockiert über die Nonchalance, mit der hier auf entsprechende grundrechliche Verbürgungen heruntergesehen wird."

Laut EU sollen die Provider Scan-Methoden verwenden, "die nach dem Stand der Technik in der Branche den geringsten Eingriff in die Privatsphäre darstellen" - auch um Fehlalarme "so weit wie möglich [zu] begrenzen".

Ankündigungen, die den Medienjuristen Dreyer allerdings nicht überzeugen. Er geht deshalb davon aus, dass die Chatkontrolle einer gerichtlichen Prüfung nicht standhalten werde, da die grundrechtlich geschützte Kommunikation zwischen Individuen angegriffen werde.

Ähnlich sieht es der Chaos Computer Club. Das massenhafte vorsorgliche Scannen der Geräteinhalte verstoße gegen gleich zwei fundamentale Grundrechte: das Fernmeldegeheimnis und gegen das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme, so der CCC in einer Mitteilung zum geplanten Gesetz.

Zwar müsse den Betroffenen von Kindesmissbrauch besser geholfen werden, „die Chatkontrolle ist allerdings ein überbordender Ansatz, leicht zu umgehen und setzt an der völlig falschen Stelle an. Ohne erwartbaren Erfolg im Sinne des eigentlichen Ziels soll ein nie dagewesenes Überwachungswerkzeug eingeführt werden“, so der Chaos Computer Club.

Und auch der Deutsche Kinderschutzbund sieht die Eingriffe in die verschlüsselte Kommunikation kritisch. Der Großteil von Kindesmissbrauchsinhalten werde über Plattformen und Foren geteilt, so Joachim Türk aus dem Vorstand der Kinderschutzbunds gegenüber dem Bayerischen Rundfunk. Deshalb sei das anlasslose Scannen privater Nachrichten aus Messenger-Diensten oder E-Mails weder verhältnismäßig noch zielführend.