English

Calendar

EU-Kommission will alle Chatnachrichten durchleuchten

2022-05-09 12:30:21, linus

Am Mittwoch, dem 11. Mai 2022 veröffentlicht die EU-Kommission voraussichtlich den Gesetzesentwurf zur sogenannten Chatkontrolle. Geplant ist eine KI-basierte Prüfung aller Nachrichteninhalte und Bilder direkt auf unseren Geräten. Das so genannte Client-Side-Scanning wäre ein Angriff auf jegliche vertrauliche Kommunikation.

Der Entwurf sieht vor, alle Kommunikationsinhalte direkt auf unseren Geräten zu untersuchen und im Verdachtsfalle auszuleiten. Dieses Client-Side-Scanning wäre nicht die erste überzogene und fehlgeleitete Überwachungsmethode, die mit dem Kampf gegen Kindesmissbrauch begründet wird.

Zweifellos muss den Betroffenen von Kindesmissbrauch besser geholfen werden, die Chatkontrolle ist allerdings ein überbordender Ansatz, leicht zu umgehen und setzt an der völlig falschen Stelle an. Ohne erwartbaren Erfolg im Sinne des eigentlichen Ziels soll ein nie dagewesenes Überwachungswerkzeug eingeführt werden.

Völlig am Ziel vorbeigeschossen

Der geplante Gesetzesentwurf sieht vor, dass jedes Gerät jede Nachricht auf Abbildungen von Kindesmissbrauch und Kontaktaufnahmen von Kriminellen mit Kindern untersucht. Wenn solche Inhalte in einer Nachricht erkannt werden, sollen sie direkt an eine Kontrollinstanz oder die Polizei ausgeleitet werden.

Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:

Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.

Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.

Keine vertrauenswürdige Kommunikation ohne vertrauenswürdige Geräte

Nicht nur Journalist*innen und Whistleblower*innen sind auf vertrauenswürdige Kommunikation angewiesen – sie ist ein Grundrecht und wichtiger Eckpfeiler unser aller IT-Sicherheit. Damit Kommunikation tatsächlich vertrauenswürdig ist, müssen zwei Bedingungen erfüllt sein:

  • Das eigene Gerät muss integer sein und darf Inhalte nicht an Dritte ausleiten.
  • Die Verschlüsselung muss sicher sein, sodass wir dem Netz nicht vertrauen müssen.

Mit dem Fernmeldegeheimnis und dem Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme setzt die Chatkontrolle gleich zwei fundamentale Grundrechte außer Kraft. Nutzer*innen verlieren die Kontrolle darüber, welche Daten sie wie mit wem teilen. Sie verlieren das Grundvertrauen in ihre eigenen Geräte.

Bisher ist nicht klar, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren soll. Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen. Umso erschreckender ist, mit welcher Arglosigkeit es nun eingeführt werden soll.

Fehlerquoten führen zu Bilderflut bei Kontrollstellen

Eine „künstliche Intelligenz", die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. Auch kleinste Fehlerquoten würden zu massiven Mengen an fälschlicherweise "erkannter" und ausgeleiteter Nachrichten führen: Allein in Deutschland werden weit mehr als eine halbe Milliarde Nachrichten pro Tag versendet. Auch enorm "gute" Erkennungsraten würden zur Ausleitung mehrerer Tausend Nachrichten pro Tag führen.

Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen.

Gleichzeitig werden sich bei den Kontrollstellen Berge an irrelevantem Material häufen und die Beamt*innen von wichtiger Ermittlungsarbeit abhalten. Bereits mit den heute anfallenden Daten sind Ermittlungsbehörden überlastet. Ermittlungserfolge bleiben aus, und gefundene Materialien werden noch nicht einmal gelöscht. Diese Defizite wirkungsvoll zu beseitigen, wäre das wichtigste Ziel im Kampf gegen Kindesmissbrauch. Stattdessen will die Kommission auf Massenüberwachung und die Heilsversprechen „künstlicher Intelligenz" setzen.

Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.