Meinung der LAG Digitales & Medien: Die Pläne der EU-Kommission zur Chatkontrolle gehören in den Papierkorb

Nach dem (bisher gedachten) Erfolg, die Upload-Filter im Netz zu stoppen, gibt es nun einen neuen Vorstoß der EU-Kommission, der vieles aus der Upload-Filter-Debatte recycelt und noch darüber hinaus geht. Der Anlass ist dieses Mal die Bekämpfung der Kinderpornographie im Netz.
Wir begrüßen und unterstützen den Kampf gegen sexuellen Missbrauch von Kindern und die Verbreitung von Kinderpornographie im Internet. Doch der vorgelegte Entwurf der Kommission geht völlig am Problem vorbei.
Die Kommission möchte Anbieter*innen von Chatprogrammen (wie WhatsApp, Signal oder Telegram) dazu verpflichten, Maßnahmen zu ergreifen, um die Darstellung von Kinderpornographie und missbräuchliche Kontaktaufnahmen zu Minderjährigen – sogenanntes Cybergrooming – auf den Endgeräten zu erkennen und im Zweifel zu melden. Dies geschieht durch einen Abgleich mit einer entsprechenden EU-Datenbank, wo bekannte Darstellungen enthalten sind. Zusätzlich soll „KI“ (künstliche Intelligenz) dabei helfen, missbräuchliche Kontaktaufnahme zu Minderjährigen sowie unbekanntes Missbrauchsmaterial zu erkennen.
Was zunächst wie eine gute technische Lösung für die Bekämpfung schrecklicher Taten im Internet wirkt, entpuppt sich bei genauerem Hinsehen als wenig effektive Maßnahme, die massiv in die Grundrechte aller Menschen in der Europäischen Union eingreift:

– Das erste Problem liegt bereits darin, dass eine solche Datenbank von Missbrauchsmaterial ein lohnendes Ziel für Cyberangriffe darstellt, was im schlimmsten Fall zu einer weiteren Verbreitung von Material führen könnte. Dies sollte ja eigentlich durch den Vorstoß verhindert werden. Darüber hinaus findet die Verbreitung von Kinderpornographie verhältnismäßig wenig über bekannte Chatprogramme statt. Es werden größtenteils anonyme Foren und File-Hosting-Plattformen (wie Dropbox oder Google Drive) genutzt, teilweise auch andere Infrastruktur, welche dem BKA lange bekannt ist. Dass der Entwurf der EU-Kommission also tatsächlich einen signifikanten Beitrag zur effektiven Bekämpfung von sexualisierter Gewalt gegen Kinder im Internet leisten kann, scheint völlig ausgeschlossen.

– Das zweite Problem ist, dass die zur Erkennung von bisher unbekannten Darstellungen und Cybergrooming einzusetzende „KI“ naturgemäß Unmengen von falsch positiven Resultaten produziert. Das können etwa Darstellungen sein, die keine Kinderpornographie sind, wie z.B. Kinder am Strand, nackte Barbiepuppen oder legales pornografisches Material. Dies müsste im Zweifel durch zusätzliches Personal gesichtet werden, was Unmengen an Personalressourcen verschlingt. Darüber hinaus führt diese Unmenge an falsch positiven Resultaten zu unzähligen Eingriffen in persönlichste Daten vieler unschuldiger Menschen, die dann, aus für sie nicht nachvollziehbaren Gründen, auf Basis der Entscheidung einer „KI“ zu Unrecht des Besitzes und der Verbreitung von Missbrauchsmaterials verdächtigt werden.

– Das dritte Problem ist, dass es sich, auch wenn suggeriert wird, dass die „KI“ nur Verdächtiges filtere, dennoch um eine anlasslose Massenüberwachung aller Menschen in der Europäischen Union handelt. Des Weiteren können die für die Pläne der Kommission nötige Infrastruktur von „KI“ und Datenbanken auch für jede theoretisch zukünftige, nicht erwünschte Aktivität (z.B. Demonstrationsbilder) verwendet werden. Die Musterdaten sind also ganz einfach austauschbar. Dadurch wird ein zentralisiertes Instrument zur Massenüberwachung jeglicher digitaler Kommunikation geschaffen, von der diktatorische Regime nur träumen können. Und wer weiß wirklich, ob demokratische Verhältnisse wirklich von Dauer sind? Und ob die IT-Wirtschaft nicht auf die Idee kommt, ihr Produkt in diktatorische Länder zu exportieren? Die Schaffung derartiger Infrastruktur muss also im Grundsatz schon gestoppt werden.

Das von der Kommission vorgeschlagene Vorgehen der Chatkontrolle lehnen wir deshalb umfänglich und ohne Einschränkungen ab. Das Ziel, sexualisierte Gewalt gegen Kinder im Internet zu bekämpfen, ist dagegen völlig richtig. Doch wie kann Kinderpornographie effektiv bekämpft werden? Hierzu gilt es, eng mit Kinderschutzverbänden zusammenzuarbeiten, die die Chatkontrolle als Mittel übrigens ebenfalls einhellig ablehnen und alternative Vorschläge vorgelegt haben. Nicht die IT-Wirtschaft und die Politik sollten sich hier kurzschließen, sondern die Politik und die Kinderschutzverbände, die dann natürlich auch IT-Expert*innen hinzuziehen sollten. Wir müssen aufhören, uns in der Politik bei der Lösung von Problemen von denjenigen beraten zu lassen, die wirtschaftliche Nutznießer*innen sind, also den IT-Konzernen, die die notwendige Infrastruktur für die Chatkontrolle entwickeln.

Außerdem muss konsequent der Grundsatz verfolgt werden: Löschen statt Sperren, also bekanntes Material (was meistens durch Hinweise aus der Bevölkerung bekannt wird) aus dem Netz zu entfernen, die Provider in die Pflicht zu nehmen und die Löschung zügig anzuordnen.

Wir wenden uns gegen politische Scheinlösungen, ob im netzpolitischen Bereich oder darüber hinaus: Politisches Handeln muss grundsätzlich darauf ausgerichtet sein, konkret die Problemstellungen anzugehen – mit der fachlichen Expertise aus der Zivilgesellschaft. Bei der Chatkontrolle sind es allerdings Teile der IT-Wirtschaft, die ein bestimmtes Produkt verkaufen möchten. Sie nutzen dabei den Kampf gegen Kinderpornographie gegenüber den politischen Entscheidungsträgern als trojanisches Pferd. Dies trifft dann auf, leider zu oft die Zusammenhänge nicht erkennende, Politiker*innen, die häufig durch geschickte Lobbyarbeit unwissentlich in eine bestimmte Richtung gedrängt werden. Bei allen politischen Entscheidungsträger*innen sollten daher bei einer solchen Manipulation bei ihrer politischen Arbeit direkt die Alarmglocken schrillen.

Wir fordern strenge Regelungen für den Wechsel von der Politik in die Wirtschaft, um Interessenskonflikte zu vermeiden, die Probleme wirklich anzugehen, statt sich über politisches Handeln im Sinne der (IT-) Wirtschaft für die Zeit nach dem Parlament einen lukrativen Job zu sichern.

Wir begrüßen, dass sich die Bundesregierung laut Innenministerin Nancy Faeser gegen den Entwurf der Kommission zur Chatkontrolle stellt, und hoffen, dass dies auch so bleibt. Wir fordern die Grünen in der Bundesregierung auf, hier wachsam zu sein und zu bleiben.

Wer mehr über die geplante Chatkontrolle hören/lesen/sehen möchte und auch über Ideen der Opferschutzverbände für wirksame Bekämpfung von Kinderpornographie im Netz informiert sein will, hier ein paar interessante Links:

Podcast Netzpolitik Logbuch zur Chatkontrolle aus dem Mai 2022: https://logbuch-netzpolitik.de/lnp430-die-groesste-koalition-aller-zeiten

Massive Defizite bei der Löschung von Aufnahmen sexualisierter Gewalt im Clearweb: STRG_F Reportage:
„Pädokriminelle Foren: Warum löscht niemand die Aufnahmen?“

—

Die „Meinung am Freitag“ (MaF) ist ein Meinungsformat der GRÜNEN im Land Bremen. Sie hat den Zweck, fernab von Veranstaltungen eine Kommentierung politischer, gesellschaftlicher oder parteiinterner Ereignisse zu ermöglichen. Die Beiträge geben stets ausschließlich die persönliche Meinung der Autor*in wieder, nicht die der gesamten Partei.

Möchtest du auch einen Meinungsbeitrag einreichen? Dann sende uns deinen Beitrag plus ein Foto von dir bis spätestens Mittwochabend an info@gruene-bremen.de.