Eine „Künstliche Intelligenz“ (KI) analysiert jede einzelne Nachricht, jeden Textfetzen, der online geschrieben wird – ob E-Mail oder Messenger, ob ver­schlüsselt oder nicht. Verdächtiges wird an die Strafverfolgungsbehörden übermittelt. Unvorstellbar?

Was sich wie ein dystopischer ­Science-Fiction-Roman anhört, soll nach den Plänen der EU-Kommission schon bald in der EU Realität werden. Im Mai 2022 hat sie den Entwurf für eine Verordnung zur Bekämpfung von Kindesmissbrauchsdarstellungen vorgelegt. Die Pläne sehen vor, dass Anbieter künftig sämtliche private ­Nachrichten sowie im Internet veröffentlichte Innalte umfassend und automatisiert kontrollieren sollen. Gegebenenfalls wer­den diese dann an ein neues, eng an Europol angebundenes, EU-­Zentrum weitergeleitet.

Selbst Ende-zu-Ende-Verschlüsselung würde nicht vor dem Zugriff schützen, denn durch den Einsatz sogenannter „Client-Side-Scannings“ kann die Kommunikation direkt auf den Geräten der Nutzenden gescannt und analysiert werden. Falls Anbieter solche Maßnahmen nicht freiwillig umsetzen, sollen sie mit Durchleuchtungsanordnungen, Netzsperren und der Androhung hoher Bußgelder dazu verpflichtet werden. Der Entwurf rief in Deutschland sofort öffentliche Proteste hervor und wurde unter dem Begriff „Chatkontrolle“ bekannt. Dabei bliebe der Nutzen für die Bekämp­fung der Verbreitung von Kindes­miss­ brauchsdarstellungen sehr begrenzt.

Bereits jetzt versagen die Be­hörden da­bei, derartige Darstellungen löschen zu lassen. Die Maßnahmen würden selbst bei der besten „KI“ eine Flut falscher Meldungen auslösen und gezielte Ermittlungen noch weiter erschweren. Es würden unzählige Ermittlungsverfahren gegen Unschuldige eingeleitet – insbesondere gegen Jugendliche und junge Erwachsene, die sich gegenseitig einvernehmlich Bilder schicken. Die geplante Verordnung wird eine um­ fassende Überwachungsinfrastruktur etablieren, die sichere Kommunikation untergräbt, die gesamte Bevölkerung unter Generalverdacht stellt und zentrale Grundrechte wie das Recht auf Vertraulichkeit der Kommunikation geradezu in ihr Gegenteil verkehrt.

Technische ­Massenüberwachungssyste­me als vermeintliche Lösung sozialer Probleme beflügeln schon ­lange die Fantasien der europäischen Sicherheits­politiker­*­in­nen. Und so ist auch in diesem Fall fest damit zu rechnen, dass derlei einmal etablierte Technologien schon bald nicht nur gegen Kindesmissbrauch eingesetzt würden.

Bereits 2020 ­hatten die EU-Innenminister*innen den Einsatz „innovativer Technologien“ für den Zugriff auf verschlüsselte Kom­mu­ni­­ka­tion zur allgemeinen Krimina­litäts­bekämpfung gefordert. Und dass euro­päische Polizeibehörden und Geheimdienste zahlreiche Einsatzfelder – von „Terrorismus“ über Betäubungsmitteldelikte bis zu politischer Dissidenz und Opposition – finden werden, haben sie oft genug bewiesen. Um die Verordnung zu stoppen, hat die Digitale Gesellschaft (DigiGes) die Kampagne „Chatkontrolle verhindern!“ initiiert. Wir unterstützen diese Kampagne und werden im Herbst zu Protestaktionen und Demos mobilisieren.

Weiterführende Informationen unter www.chatkontrolle.eu