Der Chaos Computer Club (CCC) hat im Verfahren gegen das Hessische Gesetz über die öffentliche Sicherheit und Ordnung (HSOG) eine Stellungnahme zur automatisierten Datenanalyse an das Bundesverfassungsgericht abgegeben. Wir veröffentlichen die Stellungnahme.

Die automatisierte Datenanalyse greift besonders intensiv in Grundrechte sehr vieler Menschen ein. Sie bedeutet eine dauerhafte Zusammenführung verschiedener polizeilicher Datensammlungen, bei der in Hessen auch der Einsatz von nicht näher definierter „KI“ erlaubt ist. Diese Zusammenführung und Auswertung der Datenbestände kann Menschen und ihr Verhalten profilieren und bezieht dabei zu großen Teilen völlig unbescholtene Personen ein. Durch die Erlaubnis, zusätzlich Daten aus dem Internet ins System zu importieren, steigt die Anzahl unschuldig Betroffener nochmals.

In Hessen arbeiten die Polizeibehörden mit dem US-Konzern Palantir zusammen. Die Funktionsweise und Weiterentwicklung des Datenanalysesystems mit dem Namen „HessenDATA“ liegt damit in den Händen eines privaten Unternehmens. Die automatisierte Datenanalyse, die zur Gefahrenabwehr und damit weit im Vorfeld von tatsächlichen Straftaten vorgesehen ist, startete bereits 2018. Sie wurde nach dem Urteil des Bundesverfassungsgerichts 2023, nach dem die damaligen Regelungen teilweise verfassungswidrig waren, weiter ausgebaut.

Keine ausreichende Kontrolle

Das Gesetz sieht keine ausreichende parlamentarische und keine öffentliche Kontrolle der automatisierten Datenanalyse vor. Berichts- und Evaluierungspflichten wären aber notwendig, um den bisher unbelegten Nutzen und die Risiken automatisierter Datenrasterung bei der Polizei unabhängig bewerten zu können.

Automatisierte Analysen großer polizeilicher Datenmengen übernehmen zwangsläufig die bereits darin bestehenden Verzerrungen, die strukturelle und institutionelle Vorurteile abbilden. Das Ergebnis solcher Analysen droht daher, bestimmte Menschengruppen systematisch zu diskriminieren und stärker zu belasten, in mindestens genauso starkem Maße, wie es die Ausgangsdaten vorgeben. Derartige Verzerrungen lassen sich in Hessen nicht einmal aufdecken, weil Abläufe und Funktionen des Softwaresystems Geschäftsgeheimnisse des kommerziellen Anbieters Palantir sind.

Der hessische Gesetzgeber adressiert dieses Problem völlig unzureichend, indem er schlicht einen abstrakten Satz ins Gesetz aufgenommen hat, der die Diskriminierungsfreiheit vorschreibt. Ob und wie diese technisch umgesetzt und kontrolliert wird, bleibt vollständig ungewiss.

Permanente Datenanalyse unterbinden

Das hessische Gesetz erlaubt einen intransparenten und methodenoffenen „KI“-Einsatz in einem System, das zu Fehlern und systematischen Verzerrungen neigt. Das ist nicht zu rechtfertigen, auch nicht für das darin ebenfalls erlaubte unbeschränkte „KI“-Training.

Eine derart tiefe Datenanalyse darf schon wegen der zahlreichen Betroffenen, die keinerlei Grund gegeben haben, durchleuchtet zu werden, überhaupt nur bei einem konkreten schwerwiegenden Anlass erlaubt sein. Solche Analysen aber permanent und automatisiert im Hintergrund laufen zu lassen, um massenhaft Daten zu kombinieren und auszuwerten, muss vom Gesetzgeber präventiv unterbunden werden.

Nach journalistischen Recherchen wird das System allein in Hessen bis zu 15.000 Mal im Jahr genutzt. Dieser Datenmissbrauch muss drastisch reduziert werden.

Falls überhaupt eine automatisierte Datenanalyse in grundrechtskonformer Weise stattfinden kann, muss verpflichtend eine unabhängige und quelloffene Softwarelösung zum Einsatz kommen. In jedem Falle aber müssen die einfließenden Daten in Art und Umfang klar bestimmt und sehr viel stärker begrenzt werden. Bereits trainierte „KI“-Systeme sind zu löschen und die Betroffenen zu benachrichtigen.

Links:

CCC-Stellungnahme an das Bundesverfassungsgericht zur automatisierten Datenanalyse (1 BvR 1557/24)

Anhörung beim Deutschen Anwaltverein (DAV) zum Gesetz zur Änderung der Strafprozessordnung der Bundesregierung am Donnerstag, 21. Mai: https://anwaltverein.de/veranstaltungen/expert-innen-anhoerung-zu-den-gesetzesvorhaben-digitale-ermittlungsbefugnisse-der-bundesregierung

CCC lehnt Palantir-Gesetze und biometrische Rasterfahnung ab: https://www.ccc.de/de/updates/2026/ccc-lehnt-palantir-gesetze-und-biometrische-rasterfahnung-ab