So abwegig, wie es klingt, ist es tatsächlich nicht, auch in Deutschland und der EU. Datenschutz ist einer unserer wichtigsten Werte. Das stimmt. Jedoch hat die EU-Kommission vor kurzem einen neuen Gesetzesentwurf vorgelegt, der den Weg für genau solch eine Form der grundlosen Massenüberwachung ebnet. Wie Heise in einem Artikel vom 11.05.2022 berichtet, geht es im umstrittenen Text um den Schutz vor sexuellem Missbrauch, vor allem von Kindern. Hierzu sollen Dienstanbieter verpflichtet werden, alle Inhalte automatisiert zu scannen. Auch Netzsperren und Altersverifikationen, etwa in Appstores, sollen eingesetzt werden, wie man einer Tabelle unter www.chatkontrolle.de entnehmen kann.

Was passiert mit den erhobenen Daten, fragt ihr euch? Gescannte Chats, Fotos, Sprachnachrichten, etc. werden im Falle eines (vermeintlichen) Treffers automatisiert an die Behörden im Klartext weitergeleitet, damit diese Ermittlungen einleiten können bzw. den Sachverhalt zuerst prüfen.

„Ich hab doch Signal. Alle Nachrichten sind verschlüsselt!“ – Nein, das nützt dir nichts. Der Anbieter ist trotzdem verpflichtet, die Inhalte zu scannen, gleich ob verschlüsselt oder nicht. Das bedeutet: Entweder wird gezwungenermaßen eine Hintertür in die Verschlüsselung eingebaut oder man setzt auf das sogenannte „Client Side Scanning“. Das bedeutet, eure Nachrichten und Inhalte werden noch vor dem Absenden und Verschlüsseln gescannt und ggf. weitergeschickt.

Neben den technischen Hürden, die Inhaltsüberprüfungen mit sich bringen (vor allem für kleine Anbieter und Projekte, die keine Kapazitäten haben, entsprechende KIs und Algorithmen zu entwickeln), geht mit ihr vor allem eins einher: Fehler! Jeder Mensch macht sie und der Computer noch viel mehr. Algorithmen und künstliche Intelligenzen weisen auch heute noch sehr hohe Fehlerraten auf. Laut der Schweizer Polizei sind etwa 86% maschinell gemeldeter Verdachtsfälle von Verbrechen Falschmeldungen und strafrechtlich nicht relevant. Außerdem richten sich in Deutschland bisher 40% gegen Minderjährige selbst, da es sich in diesen Fällen (etwa bei Nacktfotos) nicht um ein Antragsdelikt handelt. Trotzdem ist hier fraglich, ob wirklich sexueller Missbrauch oder zumindest Belästigung im Raum steht oder es nicht vielleicht sogar einvernehmlich ablief.

Unabhängig davon müssen wir jedoch die rechtliche Seite näher betrachten: Du denkst vielleicht, dicht betrifft es nicht oder aber „Ich hab doch nichts zu verbergen“. Das ist aber falsch bzw. unwichtig, denn: 1. betrifft es jeden, der irgendeine Form von digitaler Kommunikation nutzt, gleich ob Messenger, Mail, SMS, … und 2. geht es weniger um dich konkret als um das zugrunde liegende Prinzip. Abgesehen davon könnte man natürlich einwerfen: Möchtest du wirklich, dass bspw. deine Flirts und ggf. peinlichen Bilder in die Hände von irgendwelchen dritten Beamten landen und schlimmstenfalls bei einer Datenpanne an die ganze Schule oder öffentlich ins Internet? Damit muss man rechnen. Jeder, der Daten hat, ist ein potenzielles Einfallstor für Angreifer und eine mögliche Gefahr für deren Vertraulichkeit.

Betrachten wir einen Brief, darf dieser unter keinen normalen Umständen von Dritten geöffnet werden. Vergleichbare Regeln gelten für Pakete. Ausnahmen bilden i.d.R. nur Verfassungsschutz oder geheimdienstliche Operationen. (Eine schöne Zusammenfassung findet ihr unter datenschutz.org) Was ist jetzt eine Mail oder eine Textnachricht? Ein digitaler Brief, würde ich sagen.
Unter diesem Blickwinkel erscheint es doch schon recht absurd, dass diese jetzt plötzlich geöffnet und untersucht werden sollen und das ganze verallgemeinernd und anlasslos. Konsequenterweise müsste man jetzt sagen: Jeder Brief, der in der Post eingeht, wird zuerst geöffnet und auf illegale Inhalte überprüft. Aber das wird niemand machen. Warum? Weil uns das Briefgeheimnis und der Datenschutz heilig sind.

Aber warum sehen wir das im Internet anders? Warum ignorieren wir Privatsphäre und Anonymität in der digitalen Welt plötzlich? Warum würden wir niemals einen Steckbrief von uns an das schwarze Brett in der Schule hängen, präsentieren uns aber auf Instagram einem noch größeren und noch unbekannterem Publikum freiwillig und lassen uns durch Maschinen analysieren und bewerten?

„Das Internet ist für uns alle Neuland“ (Angela Merkel, CDU). Sie hat Recht. Das Internet ist Neuland und im Neuen vermuten wir nichts Böses, nachdem wir es uns einmal zu Eigen gemacht haben und es wie einen Freund oder wie ein Haustier in unserem Leben begrüßt haben. Aber genau das ist der Fehler. Wir müssen uns Gedanken machen, was mit unseren Daten passiert. Chat-Nachrichten und sonstige Inhalte dürfen nicht anlasslos gescannt werden, wenn Briefe und Pakete verschlossen bleiben. Wir dürfen keinen Datenschutz predigen und gleichzeitig darauf scheißen!

Das größte Problem: Sollte es zu dem Gesetz kommen, ist das erst der Anfang. In viele sichere Kommunikationsmittel müssten Hintertüren eingebaut werden. Diese eigenen sich aber leider perfekt für Angreifer oder einfach dazu, um euch auszuspionieren. Wen greift ein Jaguar an? Den ältesten und schwächsten der Herde. Das schwächste Glied in der Kette ist immer das verheerendste. Eine Schwachstelle bringt das gesamte Sicherheitskonzept und damit eure intimen und persönlichen Gespräche, Fotos und Videos in Gefahr.

Wenn wir diese Scan-Mechanismen einmal haben, warum nicht ausbauen? Scannen wir doch einfach nach allem, was illegal sein könnte. Mit Meinungen ist das ja manchmal auch so eine Sache: Ist das jetzt schon staats- oder verfassungsfeindlich? Verleumde ich möglicherweise jemanden?

Ihr seht, es läuft auf eine gefährliche Massenüberwachung hinaus und die Hürden werden immer kleiner, wenn einmal der erste Schritt gegangen wurde. Deshalb sollten die Werkzeuge zur digitalen Observierung und Ermittlung (auch von verschlüsselten Chats) zwar existieren, aber genau so restriktiv eingesetzt werden dürfen, wie es im Analogen der Fall ist. Ein richterlicher Beschluss ist das Mindeste!

In diesem Sinne: Achtet auf eure Privatsphäre. Seid skeptisch. Daten.

Bereits in der Vergangenheit gab es immer mal wieder Situationen, wobei von Providern (bspw. durch die GEMA) gefordert wurde, einzelne Inhalte zu sperren, entgegen der Unverantwortlichkeit des Infrastrukturanbieters für die vermittelten Inhalte. In verschiedenen Fällen gab es hier auch verschiedenste Gerichtsurteile.

Bisher waren Urheberrechtsverletzungen im Internet recht schwer zu verfolgen und zu unterbinden. Das beispielsweise bedingt durch unterschiedliche Rechtsauffassungen in den jeweiligen Serverstandorten oder fehlende Anbieterhaftung (die Urheberrechtsreform schafft hier Abhilfe). Schließlich blieb noch der Weg über Gerichte, was jedoch meist ein sehr langwieriger Prozess ist.
Jetzt haben sich die großen Internetanbieter (Telekom, Vodafone, 1&1, Telefónica O₂) und Interessensverbände für das Urheberrecht (bspw. Sky, BVMI, DFL) zur „CUII“ – der Clearingstelle Urheberrecht im Internet – zusammengeschlossen. Ziel ist es, selber Urheberrechtsverletzungen zu erkennen und zu unterbinden.

Das Vorgehen dabei: Ein eigens gestelltes Gremium entscheidet über das Vorhandensein einer Urheberrechtsverletzung. Diese Empfehlung wird dann der Bundesnetzagentur vorgelegt. Soweit kein Einspruch aufgrund der im Gesetz verankerten Netzneutralität vorliegt, werden die betreffenden Seiten per DNS gesperrt. Es zwingt sich jedoch generell die Frage auf, ob es noch im Sinne der Netzneutralität ist, Websperren – und das auch noch ohne gerichtlichen Beschluss – einzusetzen. 

Die Kritik hieran: Die Entscheidung, ob und inwiefern eine Urheberrechtsverletzung vorliegt, ob gesperrt werden soll, trifft kein neutrales Gericht, sondern ein eigens gestelltes Gremium, außerdem sind (bis dato) bei weitem nicht alle Rechteinhaber vertreten. Unter diesem Aspekt und selbst unter Berücksichtigung der Netzneutralität, die gewahrt werden soll, eröffnet das Vorgehen potentiell die Möglichkeit der Zensur und des Monopolausbaus der großen Medienkonzerne im Internet. Schließlich sind es hier rein private Firmen mit eigenen Interessen, die gemeinsam über Sperren entscheiden und eben die Bundesnetzagentur, die laut RA Christian Solmecke gar nicht für die Prüfung auf inhaltlicher Ebene zuständig sei.

Zum Vergleich: China beispielsweise sperrt viele uns selbstverständliche Dienste (Google, YouTube, …) und kontrolliert so, an welche Informationen die Bevölkerung gelangt oder nicht.

Wie weit das gehen wird, ist momentan noch unklar. Fest steht bis jetzt nur, dass die Seite „s.to“ bereits betroffen ist und scheinbar nun nicht mehr die Justiz, sondern die CUII über die Filterung des Internets entscheiden will.

Ein Kommentar in Videoform von Medienrechtsanwalt Christian Solmecke hierzu:

Ein Statement Julia Redas via Twitter:

Verfasst von:
Sebastian Schneider

Mehr dazu gibt es in diesem Video der Kanzlei WBS:

Aufgrund des schmalen zeitlichen Rahmens, konnten wir leider keinen eigenen Text dazu verfassen.