Was ist das und warum lässt es sich technisch nicht umgehen?

Hinter dem journalistischen Begriff „Chat Control“ verbergen sich zwei unterschiedliche Maßnahmen, und die – mehr oder weniger bewusst geschürte – Verwechslung zwischen beiden ist der wichtigste Verbündete derjenigen, die das Gesetz im Stillen durchbringen wollen. Lassen Sie uns eines klarstellen: Hier geht es nicht um die bis Juli 2026 verlängerte befristete Ausnahmeregelung, sondern um deren „großen Bruder“, die dauerhafte Regelung. Die CSAR (Child Sexual Abuse Regulation, Verordnung 2022/0155), von Kritikern auch als „Chat Control 2.0“ bezeichnet.

Es handelt sich um einen Vorschlag der Europäischen Kommission, der am 11. Mai 2022 von der damaligen Kommissarin für Inneres, Ylva Johansson, vorgelegt wurde. Das erklärte Ziel ist edel und steht außer Frage: sexuellen Missbrauch von Kindern im Internet zu verhindern und zu bekämpfen. Die Vorgehensweise hingegen hat ihn zu einem der umstrittensten Vorschläge in der Geschichte der europäischen digitalen Rechte gemacht.

In seiner ursprünglichen Form sieht der CSAR vor, dass digitale Plattformen (Messaging-Dienste, E-Mail, soziale Netzwerke) verpflichtet sind, kinderpornografisches Material mithilfe sogenannter „Detection Orders“ zu erkennen und zu melden: Dabei handelt es sich um Anordnungen, mit denen eine Behörde einen Dienst dazu verpflichten kann, die Kommunikation seiner Nutzer zu scannen. Dabei geht es nicht nur um bereits bekannte und erfasste Inhalte, sondern auch um bisher unbekanntes Material und Versuche der Anbahnung (Grooming). Hinzu kommen die obligatorische Altersüberprüfung für alle europäischen Nutzer und – gemäß der Position des Rates – die Möglichkeit, dass diese Anordnungen auch End-to-End-verschlüsselte Dienste betreffen. Genau aus diesem Grund hatte das Europäische Parlament den Vorschlag bereits im November 2023 abgelehnt und ihn offen als „Massenüberwachung“ bezeichnet.

Im Mittelpunkt steht die End-to-End-Verschlüsselung, das System, das eine Nachricht nur auf dem Gerät des Absenders und des Empfängers lesbar macht: Nicht einmal der Betreiber des Dienstes hat Zugriff darauf. Um einen derart geschützten Inhalt zu analysieren, gibt es nur einen einzigen möglichen Ansatzpunkt: das Gerät des Nutzers, bevor die Nachricht verschlüsselt wird. Dabei handelt es sich um das „Client-Side-Scanning“: ein in die App eingebettetes Code-Fragment, das alles liest, was wir schreiben, einen Augenblick vor der Verschlüsselung. Das politische Versprechen, dass „die Verschlüsselung nicht angetastet wird“, ist daher ein Wortspiel, denn es ist nicht nötig, sie zu knacken, wenn man die Nachricht liest, solange sie noch unverschlüsselt ist. Technisch gesehen kommt dies einer allgemeinen und permanenten Überwachung auf jedem Gerät gleich.

Das ist kein Problem, das sich mit ein paar Tricks umgehen lässt, sondern eine strukturelle Eigenschaft: Es gibt kein clientseitiges Scannen, das eine Tür „nur für die Guten“ öffnet. Einmal geschaffen, steht diese Tür allen offen – den Behörden von heute, den Regierungen von morgen mit anderen Absichten und dem ersten Angreifer, der in der Lage ist, sie zu missbrauchen. Aus diesem Grund erklärte Meredith Whittaker, Präsidentin von Signal, bereits im Jahr 2024, dass die App den europäischen Markt verlassen würde, anstatt einen ähnlichen Mechanismus einzuführen: Das ist keine Verhandlungsdrohung, sondern eine technische Vorbedingung. Und die Tür bleibt im Text auch dann einen Spalt breit offen, wenn sie geschlossen zu sein scheint: Artikel 85 Absatz 1a des Entwurfs beauftragt die Kommission, die Erkennungstechnologien für verschlüsselte Dienste regelmäßig zu bewerten, und behält sich damit faktisch das Recht vor, das Scannen in Zukunft wieder einzuführen.

Um einen zu finden, muss man alle überprüfen

Hier liegt der entscheidende Punkt, der die Regelung schwerwiegend macht, noch vor allen technischen Details. Um kinderpornografisches Material abzufangen, das unter einer Minderheit von Kriminellen zirkuliert, muss das System die Kommunikation aller Personen analysieren. Es gibt keine Möglichkeit, „nur die Täter zu überwachen“: Ein Algorithmus, der nach illegalen Inhalten sucht, muss zunächst jedes Foto, jede Nachricht und jede Datei jedes Nutzers lesen, klassifizieren und kategorisieren, um dann zu entscheiden, ob sie verdächtig ist. Die Logik der Unschuldsvermutung wird auf den Kopf gestellt. Jeder wird zu einem potenziellen Verdächtigen, dessen Korrespondenz vorbeugend durchleuchtet werden muss, ohne Hinweis und ohne Durchsuchungsbefehl. Das ist der Unterschied zwischen einer gezielten Durchsuchung, die ein Richter bei einem Verdächtigen genehmigt, und einer permanenten und gleichzeitigen Durchsuchung der Taschen von 450 Millionen Menschen.

Und da dieses Sieb täglich Milliarden von Inhalten durchforsten muss, ist das einzige mögliche Instrument die künstliche Intelligenz: Jede private Kommunikation muss, um als rechtmäßig erklärt zu werden, zunächst durch eine Maschine laufen, die sie kennzeichnet. Personenbezogene Daten werden nicht nur abgefangen, sondern auch profiliert. Fotos, Worte, Beziehungen, Gewohnheiten: Alles wird zu Material, das von einem Modell klassifiziert werden muss, denn nur so ist die universelle Durchleuchtung in der Praxis durchführbar.

Der eigentliche Schaden: von einem Algorithmus kategorisiert zu werden

Falsch-Positive sind der am häufigsten angeführte Kritikpunkt und bleiben ein echtes Problem: Über 500 Kryptografen und Sicherheitsforscher aus 34 Ländern haben geschätzt, dass bei einer Fehlerquote von 0,1 % allein beim Datenvolumen von WhatsApp täglich mehr als eine Million falsche Meldungen entstehen würden. Befürworter halten dem entgegen, dass sich die Modelle verbessern und die Fehlerquote sinkt – und das stimmt auch. Aber es geht nicht darum, wie oft der Algorithmus Fehler macht, sondern darum, was er tut, wenn er funktioniert.

Um zu entscheiden, ob ein Inhalt zulässig ist, muss das System ihm zunächst eine Kennzeichnung zuweisen. Jedes Foto, jede Nachricht, jede Unterhaltung wird von einem Modell analysiert, klassifiziert und faktisch bewertet: verdächtig oder nicht, risikobehaftet oder nicht, zu melden oder nicht. Das bedeutet, dass jedem Bürger kontinuierlich ein maschinengeneriertes Profil zugewiesen wird, das auf seinen intimsten Inhalten basiert. Wir haben es nicht mehr mit einer Kontrolle zu tun, die nach einem Schuldigen sucht, sondern mit einer permanenten Katalogisierung aller, bei der jeder auf eine Reihe von Etiketten reduziert wird, die von einem Algorithmus festgelegt werden, der ihm niemals Rechenschaft ablegen wird.

Und genau hier werden die Probleme enorm. Ein falsches Etikett lässt sich, sobald es einmal vergeben wurde, kaum noch anfechten: Der Nutzer weiß oft nicht einmal, dass er gemeldet wurde, kennt die Kriterien nicht, nach denen das Modell entschieden hat (es handelt sich um proprietäre Algorithmen, „Black Boxes“ ohne unabhängige Prüfungen), und hat keine wirkliche Möglichkeit, sich gegen einen Verdacht zu wehren, der von einer Maschine ausgeht. Klassifizierungsfehler betreffen zudem nicht alle gleichermaßen: Die Modelle spiegeln die Verzerrungen der Daten wider, mit denen sie trainiert wurden, und benachteiligen letztendlich bestimmte Sprachen, Gemeinschaften oder kulturelle Kontexte häufiger. Ein Familienfoto, ein ärztlicher Befund, ein intimer Austausch zwischen Partnern können zu einer Meldung an die Behörden führen – mit Folgen für das Leben und den Ruf, die durch keine spätere Entlastung wirklich ungeschehen gemacht werden können. Die Logik der Unschuldsvermutung kehrt sich um: Nicht mehr der Staat muss die Schuld beweisen, sondern der Bürger muss jedes Mal, wenn er eine Nachricht versendet, „unbescholten“ sein.

Den Kreis weiter zu verengen trägt ein paralleler Trend bei, der in dieselbe Richtung geht: das Ende der Anonymität als Standardeinstellung im Netz. Eine wachsende Zahl von Websites verlangt mittlerweile den Nachweis der eigenen Identität oder des eigenen Alters, um Zugang zu gewähren. In Italien verpflichtet ab dem 12. November 2025 (und ab dem 1. Februar 2026 auch für Portale mit Sitz in anderen EU-Ländern) verpflichtet der AGCOM-Beschluss 96/25/CONS pornografische Websites dazu, die Volljährigkeit der Nutzer zu überprüfen, wobei Geldstrafen von bis zu 250.000 Euro und eine mögliche Sperrung drohen; und auch der CSAR sieht eine obligatorische Altersüberprüfung für alle europäischen Nutzer vor. Das italienische Modell basiert, das muss man anerkennen, auf dem Prinzip der „doppelten Anonymität“ und verlangt weder Dokumente noch SPID: Die Website kennt die Identität des Nutzers nicht und der Prüfer weiß nicht, welche Website dieser besucht. Doch der strukturelle Kernpunkt bleibt bestehen: Es werden die Weichen für ein Netzwerk gestellt, in dem man, um auf Inhalte zugreifen zu können, zunächst eine Überprüfung durchlaufen muss, die bestätigt, wer man ist oder wie alt man ist. Und sobald diese Infrastruktur aufgebaut ist (die Apps zur Altersüberprüfung, das für Ende 2026 erwartete europäische digitale Identitätsportfolio), wird die Umwandlung von „Weise dein Alter anonym nach“ in „Weise deine Identität nach“ zu einer politischen Entscheidung und nicht mehr zu einer technischen Grenze. In Verbindung mit der Überprüfung von Inhalten vervollständigt diese De-Anonymisierung das Bild: ein Netzwerk, in dem jeder Nutzer gleichzeitig identifiziert und durchleuchtet wird.

Hinzu kommt der sogenannte „Function Creep“: Sobald die Infrastruktur geschaffen ist, die es ermöglicht, Menschen anhand des Inhalts ihrer Kommunikation zu kategorisieren – so verabscheuungswürdig und geteilt das ursprüngliche Ziel auch sein mag –, hindert nichts daran, sie morgen auf andere Kategorien auszuweiten, vom Terrorismus über das Urheberrecht bis hin zu politischer Dissidenz. Der rechtliche Präzedenzfall ist das eigentliche Trojanische Pferd, und darauf haben der Europäische Datenschutzbeauftragte (gemeinsame Stellungnahme EDPB–EDPS 4/2022), Dutzende von NGOs, Juristen und Cybersicherheitsexperten hingewiesen.

Zu den deutlichsten Stimmen der Branche gehört die von Pavel Durov, dem Gründer von Telegram, der angekündigt hat, dass die App private Nachrichten nicht scannen werde, und die Regelung als einen Trick einer „Bananenrepublik“ brandmarkte. Bereits in der Nachricht, die er anlässlich seines Geburtstags im Oktober 2025 veröffentlichte, hatte Durov einen, wie er es nannte, „digitalen Aufruf zu den Waffen“ gestartet und davor gewarnt, dass Regierungen das Internet durch dystopische Maßnahmen wie die Massenüberwachung privater Nachrichten, digitale Identitäten und Online-Alterskontrollen von einem Versprechen des freien Austauschs in ein Kontrollinstrument verwandeln. Dies ist derselbe Standpunkt, mit dem Signal und WhatsApp damit gedroht haben, den europäischen Markt zu verlassen: keine grundsätzliche Ablehnung des Kampfes gegen Missbrauch, sondern die Überzeugung, dass dieses spezifische Instrument mit der Vertraulichkeit der Kommunikation unvereinbar ist.

Der Schachzug: die „Freiwilligkeit“, die nicht freiwillig ist

Und genau hier wird die Vorgehensweise heimtückischer als der Inhalt selbst. Angesichts der Blockade durch das Parlament und der Kritik eines Großteils der Zivilgesellschaft wurde der Vorschlag nicht aufgegeben, sondern umformuliert, um weniger aggressiv zu wirken. Unter der dänischen Ratspräsidentschaft wurde Ende 2025 die Scan-Pflicht aus dem Text gestrichen. Am 26. November 2025 verabschiedete der Rat seinen Standpunkt, wobei nur vier Länder dagegen stimmten: die Tschechische Republik, Italien, die Niederlande und Polen.

Auf dem Papier wird die Überprüfung freiwillig; jeder Anbieter kann selbst entscheiden, ob er sie anwendet. Im Wesentlichen behält der Text jedoch verbindliche Maßnahmen zur Risikobewertung bei; wird ein Dienst als „risikoreich“ eingestuft, können die Behörden ihm Korrekturmaßnahmen auferlegen; und aus wirtschaftlicher und reputationsbezogener Sicht ist es am sinnvollsten, die Überprüfung dennoch durchzuführen. Der Rat hat zwar die formelle Verpflichtung aufgehoben, aber ein Anreizsystem geschaffen, das alle in dieselbe Richtung drängt. Es handelt sich um eine nur vordergründige Freiwilligkeit: Niemand zwingt einen dazu, aber die Kosten einer Ablehnung sind so gestaltet, dass sie untragbar sind.

Dass es sich hierbei nicht um eine böswillige Interpretation der Kritiker handelt, bestätigt eine unverdächtige Quelle aus dem Inneren der Institutionen. Im Jahr 2026 hat der Juristische Dienst des Rates zu Protokoll gegeben, dass die „freiwillige“ Überprüfung dennoch eine pauschale Überprüfung der Kommunikation darstellt und ohne begründeten Verdacht und ohne vorherige gerichtliche Genehmigung mit Artikel 7 der Charta der Grundrechte der EU unvereinbar ist. Mit anderen Worten: Die Juristen des Rates selbst schreiben, dass die „abgeschwächte“ Fassung aus rechtsstaatlicher Sicht ebenso unrechtmäßig bleibt wie die ursprüngliche.

Dies ist kein Einzelfall einer Überdehnung. Kommissarin Johansson selbst war bereits wegen der Art und Weise, wie der Vorschlag ausgearbeitet und beworben wurde, in die Kritik geraten: eine auf Mikrotargeting ausgerichtete Werbekampagne, um die öffentliche Meinung zugunsten der Regelung zu beeinflussen, die laut der Organisation European Digital Rights (EDRi) genau jene Vorschriften zum Datenschutz und zur Privatsphäre verletzte, die die Verordnung angeblich schützen wollte. Eine Vorgehensweise, die für sich genommen schon viel über das Verhältnis zwischen den Befürwortern des Textes und den Grundsätzen aussagt, die sie angeblich verteidigen.

September, und die Antwort, die nicht aus Brüssel kommt

Der CSAR ist noch kein Gesetz. Seine Verabschiedung hängt von den Trilogen ab, den Dreierverhandlungen zwischen Parlament, Rat und Kommission. Fünf davon sind bereits hintereinander gescheitert, zuletzt am 29. Juni 2026 unter zyprischem Vorsitz, da der Knackpunkt immer derselbe bleibt: der Umfang der Überwachungsbefugnisse und das Schicksal der Verschlüsselung. Das Parlament vertritt weiterhin die Auffassung, dass sich die Überwachung auf einzelne Personen oder Gruppen beschränken muss, gegen die ein begründeter Verdacht besteht, und dass dies nur auf richterliche Anordnung hin erfolgen darf; der Rat und die Kommission drängen auf einen weiter gefassten Anwendungsbereich. Der nächste Trilog ist für Ende September unter irischem Vorsitz angesetzt, und die Abstimmungen werden dann fortgesetzt: Das letzte Quartal des Jahres 2026, nicht der Medienrummel des Sommers, ist das eigentliche Entscheidungsfenster.

Fairerweise muss man anerkennen, dass die Befürworter ein nicht zu vernachlässigendes Argument vorbringen: Nach Angaben der Kommission gehen in einigen EU-Ländern bis zu 80 % der Ermittlungen wegen Online-Missbrauchs auf Meldungen von Providern zurück. Doch dieses Ergebnis lässt sich auch durch gezielte Maßnahmen erreichen (Überwachung von Verdächtigen mit richterlicher Genehmigung, verstärkte Zusammenarbeit zwischen Europol und nationalen Behörden, Technologien, die Daten analysieren, ohne sie zu entschlüsseln), ohne die Privatsphäre von 450 Millionen Menschen zu beeinträchtigen. Der Punkt ist, dass die politische Entscheidung in Brüssel in beide Richtungen gehen kann und heute niemand den Ausgang als sicher ansehen kann.

Und genau hier liegt der wichtigste Kernpunkt für den Leser: Passiv auf die Abstimmung zu warten, ist nicht die einzige Option. Ein Großteil unserer Verwundbarkeit rührt von einer Entscheidung her, die wir selbst getroffen haben, nicht Brüssel: unser gesamtes Privatleben auf eine Handvoll zentralisierter Plattformen konzentriert zu haben, die fast alle in den Händen einiger weniger großer Konzerne liegen. WhatsApp, Instagram und Messenger gehören zum selben Unternehmen; wenn die Korrespondenz von Hunderten Millionen Menschen über einen einzigen Knotenpunkt läuft, wird dieser Knotenpunkt genau zu dem, was ein Überwachungsgesetz zum Durchsuchen verpflichten oder dazu bewegen kann. Eine zentralisierte Infrastruktur ist per Definition ein einziger Schalter: Man muss nur dort drücken.

Die konkrete Antwort – die nicht davon abhängt, wie der Rat abstimmen wird – besteht darin, diese Abhängigkeit schrittweise abzubauen. Das bedeutet, auf Tools umzusteigen, die nicht einem einzigen Giganten gehören: Anwendungen mit echter, standardmäßig aktivierter End-und standardmäßig aktiv ist, mit Open-Source-Code, den jeder einsehen kann (sodass niemand heimlich einen clientseitigen Überwachungsmechanismus einbauen kann), und die möglichst auf dezentralen oder föderierten Netzwerken basieren, in denen es kein einzelnes Unternehmen gibt, dem eine Überwachungsanordnung auferlegt werden könnte. Signal, das Matrix-Protokoll mit seinen Clients oder selbst gehostete Lösungen gehen in diese Richtung; die Apps der großen sozialen Netzwerke tun dies aufgrund ihrer Architektur und ihres Geschäftsmodells nicht. Keines dieser Instrumente ist ein Zauberstab und ersetzt nicht den politischen Kampf: Doch digitale Souveränität ist, noch bevor sie eine Forderung an die Gesetzgeber ist, eine alltägliche Gewohnheit. Je dezentraler, offener und überprüfbarer die Kommunikation der Menschen ist, desto schwieriger wird es, sie mit einer einzigen Abstimmung oder einer einzigen Anordnung in ein Archiv zu verwandeln, das durchforstet werden kann.

Denn letztendlich geht es bei der Frage, die „Chat Control 2.0“ aufwirft, nicht nur darum, was Europa im September beschließen wird, sondern auch darum, inwieweit wir bereit sind, uns von Plattformen abhängig zu machen, die – an dem Tag, an dem ein Gesetz dies verlangt – alles für uns lesen könnten. Privatsphäre ist in diesem Szenario nicht mehr nur ein Recht, das im Plenarsaal verteidigt werden muss: Sie ist eine technische Entscheidung, die wir jedes Mal treffen müssen, wenn wir eine App öffnen.

Zusammenfassungen

Ingegneria del Software