netzpolitik.org

Wenige Tage vor der Landtagswahl in Sachsen-Anhalt zeigt eine Untersuchung der Universität Potsdam: Auf TikTok hat der Spitzenkandidat des als gesichert rechtsextrem eingestuften AfD-Landesverbands die mit Abstand größte Sichtbarkeit unter den politischen Accounts.

Vor der Landtagswahl am 6. September in Sachsen-Anhalt wurden Inhalte der AfD besonders häufig abgerufen. – Alle Rechte vorbehalten: IMAGO / NurPhoto

In Sozialen Medien, wo ein großer Teil junger Wähler:innen politische Inhalte sieht, ist die Aufmerksamkeit sehr ungleich verteilt. Vor der Landtagswahl in Sachsen-Anhalt hat kein anderer politischer Account aus dem Bundesland so viel Aufmerksamkeit erhalten wie der des AfD-Spitzenkandidaten Ulrich Siegmund. Das zeigt eine Untersuchung der Universität Potsdam.

Auch für Mecklenburg-Vorpommern und Berlin, wo am 20. September Wahlen anstehen, haben die Forschenden Zahlen erhoben. Insgesamt haben sie mehr als 2.700 politischen TikTok-Accounts ausgewertet, darunter die von Landtagsabgeordneten, Kandidat:innen, Landesverbänden, Fraktionen und Jugendorganisationen.

28 Millionen TikTok-Aufrufe für AfD-Kandidaten

Keiner der bundesweit untersuchten TikTok-Accounts erreichte den Forschenden zufolge zwischen dem 1. Juni und dem 30. August mehr Aufrufe als der von Siegmund (28 Millionen), auch nicht die Bundestagsfraktion der Linken (22,7 Millionen), die AfD-Bundestagsfraktion (18,1 Millionen) oder AfD-Bundesvorsitzende Alice Weidel (17,9 Millionen).

Besonders in Sachsen-Anhalt zeigt sich damit eine extreme Konzentration der Aufmerksamkeit auf eine Person. Von den rund 43,4 Millionen Aufrufen, die politische Accounts in dem Bundesland gesammelt haben, entfallen 64,5 Prozent auf Siegmunds Konto. In Mecklenburg-Vorpommern und Berlin verteilt sich die Aufmerksamkeit deutlich breiter: Das jeweils stärkste Konto kommt dort auf rund 13 beziehungsweise rund 9 Prozent der Aufrufe.

Mehr Beiträge bringen nicht mehr Sichtbarkeit

Der Wahlkampf hat in den Daten Spuren hinterlassen. In den drei Ländern, die im September wählen, hat sich die Zahl der Beiträge pro Account in 30 Tagen im Vergleich zum Herbst 2025 mehr als verdoppelt, so die Forschenden. In Brandenburg, Sachsen und Thüringen, wo erst 2029 wieder gewählt wird, ist sie im selben Zeitraum nicht gestiegen.

Viele Posts garantieren aber nicht mehr Reichweite, wie die Untersuchung zeigt. „Wie viele Menschen ein Beitrag erreicht, hängt vor allem von der Größe des Publikums ab, das ein Konto bereits hat“, erklärt Johannes Wolfgram vom Potsdam Social Media Monitor. Das aktivste Konto Sachsen-Anhalts gehört Ministerpräsident und CDU-Spitzenkandidat Sven Schulze mit 152 Beiträgen seit dem 1. Juni. Pro Beitrag erreicht er allerdings nur rund 5.600 Aufrufe, Siegmund jedoch rund 214.000.

Aufrufe messen keine Zustimmung

Die gemessene Aufmerksamkeit in den Sozialen Medien folgt weder der Sitzverteilung der Parteien im Landtag noch den Umfragewerten vor der Landtagswahl. „Aufrufe messen Sichtbarkeit, nicht Zustimmung und nicht Stimmen“, erklären die Forschenden. Die von ihnen erhobenen Zahlen würden nichts über die zugrunde liegenden Ursachen aussagen, etwa den Empfehlungsalgorithmus von TikTok oder bezahlte Reichweite, auch nichts über Wahlchancen. „Ein Konto kann viele Aufrufe sammeln, weil Menschen ihm widersprechen“, ordnen die Forschenden ein.

Auch auf anderen Plattformen dominieren Kurzvideos der AfD. Das zeigte kürzlich eine Untersuchung der Betreiber des Analyse-Tools Viral App zur Reichweite von Parteien zur Landtagswahl auf TikTok, Instagram, Facebook und YouTube.

Plattformen können extreme Inhalte belohnen

Die hohe Sichtbarkeit der AfD-Inhalte könnte auf die Funktionsweise von Online-Plattformen zurückgehen, wie eine weitere Studie des Potsdam Social Media Monitor über den Bundestagswahlkampf 2025 zeigte. Nach Erstellung eines Accounts auf TikTok wurden innerhalb von durchschnittlich elf bis zwölf Minuten Videos mit dem AfD-Hashtag angezeigt, erst nach 70 Minuten folgte ein Video mit dem Hashtag der SPD. Plattformen könnten Inhalte der AfD als „besonders reaktionsstark“ bewerten, heißt es in der Studie, und versprechen sich davon, ihr Publikum stärker an sich zu binden.

Für junge Menschen sind Soziale Medien längst zur Hauptinformationsquelle geworden. Entsprechend verändert sich der Online-Wahlkampf: Politische Akteur:innen ahmen virale Videos nach und greifen Trends auf. Damit einher geht jedoch oft auch eine „Vereinfachung, Verkürzung und Verschärfung“, wie Wahlkämpfer:innen kürzlich gegenüber netzpolitik.org warnten.

Ein weiterer Faktor für die hohe Social-Media-Reichweite der AfD könnte in der Erfahrung liegen. Gegenüber netzpolitik.org erklärte Politik-Analyst Martin Fuchs: „Während die anderen Parteien 15 Jahre lange schlechte Social-Media-Arbeit gemacht haben, hat die AfD konsequent das digitale Vorfeld bespielt“.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Anstatt sich an neue EU-Regeln zu halten, haben Tech-Konzerne politische Werbung einfach verbannt. Dahinter steckt Kalkül. Politiker:innen sollten deshalb nicht darüber diskutieren, wann sie endlich wieder bei Google und Meta werben können, sondern wie wir demokratischere Soziale Medien bekommen. Ein Kommentar.

Im September sind Landtagswahlen in drei Bundesländern (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Mika Baumeister

Es gibt im Enthüllungsbuch der ehemaligen Facebook-Mitarbeiterin Sarah-Wynn Williams eine interessante Geschichte. Sie beschreibt eine Strategie, die im Jahr 2014 Joel Kaplan ausgeheckt haben soll, ihr neuer Vorgesetzter im Bereich politische Beziehungen. Um den Konzern vor Regulierung zu schützen, müsse man nur Politiker:innen dazu bringen, möglichst viele Anzeigen auf Facebook zu schalten, damit sie abhängig von der Plattform werden. „Wenn Facebook die Gans ist, die goldene Eier legt, wird niemand hingehen und die Gans schlachten“, heißt es in der etwas holprigen deutschen Übersetzung.

Kaplans Kalkül ist erstaunlich lange aufgegangen. Selbst die Europäische Union brauchte bis 2024, um endlich eine Verordnung zu beschließen, die Regeln für das Targeting und die Transparenz politischer Online-Werbung schuf. Die Antwort des Konzerns, der nach zahlreichen Skandalen inzwischen Meta heißt, war eine konsequente Fortsetzung der Strategie: Er hat Werbeanzeigen von Parteien und Politiker:innen in Europa einfach verboten. Seit Oktober 2025 dürfen diese zwar weiter auf Instagram und Facebook posten, aber Reichweite bei Zielgruppen kaufen können sie nicht mehr.

Unter Wahlkämpfer:innen in Deutschland hat das vergangenes Jahr eine Panik ausgelöst, die sehr im Sinne Kaplans gewesen sein dürfte. Allein blieb der Konzern mit seiner drastischen Maßnahme nicht: Auch Metas Konkurrent Google hat politische Werbung in seiner Suchmaschine und auf YouTube untersagt.

Deutschland findet gerade heraus, wie sich das auf die demokratische Öffentlichkeit auswirkt. Die Republik befindet sich zum zweiten Mal in diesem Jahr in einer Phase großer Wahlkämpfe. Es sieht so aus, als gäbe es eine gute und eine schlechte Nachricht.

Werbung bei regionalen Medienhäusers statt bei US-Plattformen

Die gute Nachricht zuerst: Wahlkämpfer:innen in Sachsen-Anhalt, Berlin und Mecklenburg-Vorpommern berichten uns, dass Googles und Metas Verbot politischer Werbung keineswegs zu einer „Verarmung der politischen Kommunikation“ geführt hätte, wie Gegner der EU-Verordnung zuvor geunkt hatten.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Stattdessen werden analoge Veranstaltungen wieder wichtiger, Plakate und Sticker auch. Werbebudgets werden von den US-Plattformen zu regionalen Medienhäusern und Kinos umgeschichtet. Und in Sozialen Medien würden sich Politiker:innen endlich trauen, trendbewusster zu kommunizieren und eigene Communities aufzubauen, sagen Wahlkämpfer:innen. Um vom Algorithmus organische Reichweite zu erhalten, setzen sie etwa verstärkt auf Memes und beliebte Formate wie den Fit-Check.

Das führt uns dann allerdings auch direkt zur schlechten Nachricht: Wenn politische Akteur:innen sich der Logik der Plattformen anpassen müssen, um Reichweite zu erhalten, verändert das den Wahlkampf. Denn die Systeme der Plattformen belohnen nicht einfach nur Memes und Gespräche über Outfits, sondern jeglichen Content, der viele Interaktionen auslöst, also etwa Shares, Kommentare, Likes und andere Emoji-Reaktionen.

Gefördert werden also nicht nur Inhalte, die besonders viel Zuspruch erfahren, sondern auch solche, die besonderes viel Widerspruch erfahren. Oder am besten beides. Hauptsache, viele Emotionen – wer polarisiert, gewinnt. Das führt im Wahlkampf zu einem problematischen Dreiklang: vereinfachen, verkürzen, verschärfen.

Die AfD gewinnt doppelt

Um selbst einmal zu vereinfachen: Die Algorithmen der Plattformen lieben Populismus und Donald Trump lässt grüßen.

In Deutschland profitiert davon vor allem eine Partei: Die AfD. Und das gleich auf doppelte Weise. Zum einen beherrscht sie selbst wie keine andere Partei die Klaviatur des Populismus, auf die der Algorithmus so abgeht. Mit jeder Provokation, die von Anhänger:innen gefeiert und von Kritiker:innen widersprochen wird, gewinnen die Posts der Partei noch mehr Reichweite. Dabei kann sich die AfD auf großes Netzwerk an Multiplikator:innen verlassen, das sie über Jahre mit teils fragwürdigen Methoden aufgebaut hat.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Zum anderen setzt dieses System auch für die anderen Parteien Anreize, sich auf das Spiel des Populismus einzulassen. Jüngst ließ sich das gut bei der Volksbad-Debatte in Berlin beobachten: Akteur:innen von Rechtsaußen begannen mit der Skandalisierung eines Badenachmittags, der nur für Kinder of Colour geplant war. Die CDU sprang in den Sozialen Medien voll auf das Thema auf, heizte die Kritik an vermeintlichem „Rassismus gegen Weiße“ an und trug ihn in die Mitte. Belohnt wurden die Wahlkämpfer zwar mit enormer Reichweite, doch am Ende dürfte die AfD gewinnen, weil sie die Agenda bestimmt und viele Menschen am Ende lieber das Original wählen.

Wir brauchen bessere Soziale Medien

Der momentane Erfolg der AfD hat natürlich viele Ursachen. Wir sollten in diesem Zusammenhang auch sehr viel mehr über die Verantwortung klassischer Medien sprechen. Und dass die AfD die Sozialen Medien derart dominieren kann, liegt zum Beispiel auch am Versagen der anderen Parteien. Während die Rechtsradikalen seit Jahren ein großes Netzwerk an Multiplikator:innen im politischen Vorfeld kultiviert haben, scheint der Aufbau eigener Communities für viele andere erst durch den Wegfall der Werbemöglichkeiten zur Priorität geworden zu sein.

Trotzdem sollte uns allen bewusst sein, welches Spiel die großen Plattformen mit der Demokratie spielen. Sie gestalten unseren politischen Diskurs nach ihren Vorstellungen. Um Regulierung zu verhindern, nehmen sie Vorteile für Extremisten mindestens in Kauf.

Wenn Politiker:innen nun über Konsequenzen und mögliche Anpassungen der EU-Verordnung zu politischer Werbung nachdenken, sollte die Frage nicht lauten: Wie kriegen wir Meta und Google dazu, uns wieder Werbung schalten zu lassen? Sondern: Wie können wir die Plattformen endlich so regulieren, dass sie demokratischen Diskurs statt Populismus fördern? Oder noch besser: Wie unterstützen wir andere Plattformen, die genau das bereits tun?

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Generative Künstliche Intelligenz soll die Arbeit erleichtern, auch in der Schule. Mehrere Startups bieten KI-Feedback-Tools für Lehrkräfte und Schüler:innen an, etwa FelloFish und Edaira. Die seien für die Schule nicht geeignet, so der Forscher Sean Quägwer im Interview.

KI-Sprachmodelle, die Aufgaben von Lehrkräften übernehmen - aus vielen Gründen eine schlechte Idee (Symbolbild) – CC public domain: "Teacher at Blackboard" (1924): Wikimedia Commons / Cbaile19; Macintosh: Wikimedia / Tmarki; Montage: netzpolitik.org

Rund 5 Milliarden Euro stellen Bund und Länder über die nächsten fünf Jahre im Rahmen des „DigitalPakts 2.0“ bereit. Ein Teil des Geldes soll in generative KI fließen. Mehrere Bildungs-Start-ups stehen in den Startlöchern. Ihr Versprechen: Lehrkräfte können sich auf ihre pädagogischen Kernaufgaben konzentrieren.

Dabei geben manche Tools Schüler:innen automatisiert Rückmeldungen zu ihren Hausaufgaben, so wie FelloFish. Das Programm Edaira hingegen schlägt Lehrkräften vor, wie sie Schüler:innen-Leistungen bewerten und welche Noten sie einzelnen Klassenarbeiten geben.

Sean Quägwer und Rainer Mühlhoff haben diese zwei Tools wissenschaftlich untersucht und geprüft, ob sie sich für den Einsatz in der Schule eignen. In ihren Tests fallen beide durch und sie bestätigen die Ergebnisse einer früheren Studie zum Korrektur-Tool von fobizz von 2024: Digitale Korrekturhilfen für die Schule, die auf generativer KI basieren, simulieren nur, Probleme mit Arbeitslast zu lösen.

Warum das so ist, erklärt Quägwer im Gespräch mit netzpolitik.org. Er studiert Kognitionswissenschaft, ist ausgebildeter Philosoph und wissenschaftlicher Mitarbeiter in der Forschungsgruppe „Ethik und kritische Theorien der KI“. Diese leitet Mühlhoff am Institut für Kognitionswissenschaft der Universität Osnabrück.

Wenn die KI Hausaufgaben prüft

netzpolitik.org: Nach dem Korrektur-Tool von fobizz habt ihr euch nun FelloFish und Edaira angeschaut. Wie funktionieren diese Programme?

Sean Quägwer ist Philosoph und wissenschaftlicher Mitarbeiter der Forschungsgruppe „Ethik und kritische Theorien der KI“ an der Universität Osnabrück. – Alle Rechte vorbehalten: privat

Sean Quägwer: Bei beiden Tools werden Texte von Schüler:innen durch ein KI-Sprachmodell geleitet. Dahinter steht dann ein Prompt, in dem ein Chatbot-Agent mittels sprachlicher Anweisungen für die Rolle, Arbeiten zu feedbacken, konfiguriert wird. Wie das Prompt bei den beiden untersuchten Tools genau aussieht, wissen wir derzeit nicht.

FelloFish soll, so suggeriert es das Marketing, Passagen der Aufgabenbearbeitung durch Schüler:innen im Unterricht abkürzen und den Schüler:innen Feedback zu ihren Texten geben. Üblicherweise stellt die Lehrkraft Schüler:innen eine Aufgabe, um deren Texte im Anschluss einzusammeln, zu lesen und ihnen dazu eine Rückmeldung zu geben. Was können sie besser machen, was haben sie gut gelöst?

Diese Schleife soll mit FelloFish (teil-)automatisiert werden. Schüler:innen bearbeiten über ihren digitalen Zugang die Aufgabe direkt im Interface, drücken auf einen Button und lassen sich für ihren Text automatisch ein Feedback generieren. Dann können sie ihren Text überarbeiten und erneut abgeben.

Mit FelloFish sollen Schüler:innen so verfolgen können, ob sich ihre Texte durch ihre Überarbeitungen verbessert haben. Das Programm ist darauf ausgelegt, mehrere Abgaben hintereinander entgegen zu nehmen. Das Ziel dabei ist auch, mit den Verbesserungen eine bessere Bewertung zu bekommen.

Edaira funktioniert hingegen etwas anders. Es richtet sich nicht unmittelbar an Schüler:innen, sondern an Lehrkräfte. Das Programm schlägt ihnen vor, wie sie Schüler:innen-Texte bewerten können. Dafür laden sie die Texte selbst hoch.

Inkonsistente Sprachmodelle

netzpolitik.org: Warum haltet ihr die Tools für keine guten Lösungen?

Sean Quägwer: Um es klar zu sagen: Wir wollen Lehrkräften nicht absprechen, dass sie überarbeitet sind und auch nicht, dass sie legitime Hilfsmittel brauchen, um die Arbeitslast zu bewältigen. Aber wir sehen diese Faktoren als ein strukturelles Problem. Ein KI-Chatbot löst das Problem nicht. Im Gegenteil, wir halten diesen Lösungsweg aufgrund diverser Mängel für sehr problematisch

Zum Beispiel: Bei mehrfacher Eingabe derselben Klassenarbeit oder Hausaufgabe in eines dieser Tools kamen bei unseren Testreihen sehr häufig unterschiedliche Ergebnisse heraus. Das Problem: Wenn die Ergebnisse Bewertungen oder Noten enthalten, variieren diese ebenfalls. Bei zahlreichen Abgaben schwankte diese Bewertung sogar um mehr als eine Schulnote – einfach nur wenn wir die Abgabe unverändert und mit den gleichen Kriterien erneut bewerten lassen haben.

Es ist bekannt, dass große Sprachmodelle, also Large Language Models (LLMs), nach dem Wahrscheinlichkeitsprinzip funktionieren, also nicht deterministisch. Dementsprechend können sie auf dieselbe Eingabe unterschiedliche Outputs liefern. Bei einem Korrektur-Tool, das auf LLMs basiert, ist das nicht anders.

Man kann durch Prompt-Engineering zwar in einem limitierten Rahmen dazu beitragen, dass diese Schwankung möglichst gering ist. Vollständig kann man Schwankungen allerdings in solchen Systemen nicht ausschließen und auch in unseren Tests hat sich diese Einschränkung markant gezeigt.

Tools, die Schüler:innen Feedback geben sollen, sollten jedoch konsistent sein. Wenn zwei Schüler:innen beispielsweise gemeinsam eine Hausaufgabe bearbeitet und denselben Text abgegeben haben, sollten sie dasselbe Feedback und dieselbe Note erhalten. Bei den Tools, die wir uns angeschaut haben, erfüllt das Feedback diesen Anspruch nach Konsistenz jedoch nicht.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden „Davon hängen Lebensverläufe ab“

netzpolitik.org: Was sagst du zu dem Argument, dass auch Lehrkräfte inkonsistentes Feedback geben und sehr unterschiedlich benoten?

Sean Quägwer: Das ist ein Strohmann-Argument und verfehlt den zentralen Punkt: Selbst wenn Lehrkräfte inkonsistent bewerten, ist das ja gerade auch etwas, das wir kritisieren sollten. Wenn wir auf eine Technik umsteigen wollen, sollte sie gegenüber der vorherigen Methode eindeutige qualitative Verbesserungen bewirken, und es steht in Frage, ob die LLM-Tools das tun.

Und noch schlimmer: Die Automatisierung ist mit der allgemeinen Erwartung von mehr Objektivität verbunden. Dass diese Erwartung nicht erfüllt wird, merkt man nur, wenn man mit dem Tool mehrfach die gleiche Aufgabe bewertet. Genau dazu haben gestresste Lehrkräfte jedoch keine Zeit.

netzpolitik.org: Wie habt ihr die Schwankungen gemessen?

Sean Quägwer: Wir haben Texte jeweils zehnmal bei unveränderten Bewertungskriterien in das Tool eingegeben und dabei zahlreiche verschiedene Bewertungen erhalten. Das gilt für beide Tools. Schwankungen haben wir nicht nur in der Gesamtwertung festgestellt, sondern auch in den einzelnen Bewertungskriterien. Das ist der Kern unserer Studie: Wir zeigen, dass ein Defizit an reproduzierbaren Ausgaben, das LLMs aufgrund ihrer Funktionsweise haben, auch im Kontext der getesteten Korrektur-Tools für die Schule besteht.

Diese Inkonsistenz ist bei einem Feedback- und Bewertungstool besonders relevant, weil von der schulischen Bewertung im Zweifelsfall möglicherweise Lebensverläufe und akademische Laufbahnen abhängen. Hier ist ein solches Tool mit den aufgezeigten Schwächen nicht tragbar.

Vermeidbare Fehler

netzpolitik.org: Was hat euch während eurer Untersuchung überrascht?

Sean Quägwer: Zumindest die Schwankung in den Bewertungen hat uns überhaupt nicht überrascht, von der Variabilität der Outputs weiß man seit dem ersten LLM.

Überrascht hat uns das Ergebnis zum Adversarial Testing. Das ist eine Methode, die in der KI-Entwicklung bei LLMs Standard ist. Aus unseren ideologiekritisch-soziologischen Analysen der Start-up-Kultur – die sind nicht Teil der FelloFish-Edaira-Studie – wissen wir, dass Start-ups oft nicht auf standardmäßige Prozesse aus der Forschung und Entwicklung zurückgreifen, zum Beispiel Qualitätssicherung und strukturierte Tests. Also haben wir getestet, ob wir mit unserer Vermutung richtig liegen.

Die Standardfrage hinter dem Adversarial Testing lautet quasi: Kann ich den Bot dazu überreden, etwas zu tun, was er nicht machen soll? Wir haben zum Beispiel untersucht, wie die beiden Tools auf einen Metatext reagieren. Der besteht aus Sätzen wie: „Hier steht ein Satz, der die Einleitung eröffnet, indem er spannend an einer aktuellen Debatte orientiert die Aufmerksamkeit der Leser auf die Relevanz des Themas lenkt.“

Eigentlich sollten solche Texte abgefangen werden, damit der Bot einen solchen Text nicht annimmt und gut bewertet. Bei Edaira hat dieser Text allerdings die Bestnote bekommen, besser als unsere Test-Texte. Dazu gehörten KI-generierte Texte und Texte unterschiedlicher Qualität, die wir von Studierenden schreiben ließen und die Schüler:innen-Texte nachahmen sollen. Den Metatext hat Edaira noch besser bewertet als den besten Schüler:innen-Text.

Im Rahmen unserer explorativen letzten Testreihe haben wir auch getestet, wie die Tools reagieren, wenn man den Text in Chinesisch oder in Binärcode abgibt. FelloFish hat den Text dann ganz normal bewertet, obwohl die Aufgabenstellung war, eine Textaufgabe in Deutsch zu lösen. Es gab lediglich leichte Abzüge in der Note, weil die Sprache falsch war. Eine Lehrkraft würde die Aufgabe klar als nicht bestanden bewerten.

Inhalt spielt keine Rolle

netzpolitik.org: Auf welche Probleme würden Schüler:innen beim Feedback-Mechanismus stoßen?

Sean Quägwer: Beide Tools generieren Feedback: als Note, als grüner oder roter Balken oder auch als Fließtext. An Feedback hat man üblicherweise den Anspruch, dass Schüler:innen daraus lernen und damit ihre Texte verbessern können; vor allem bei produktivem Feedback, das konkrete Verbesserungsvorschläge enthält.

FelloFish ist so ausgelegt, dass Schüler:innen mithilfe eines Feedbacks ihre Leistung verbessern können sollen. Zu diesem Zweck kann das Feedback dann eine Anmerkung enthalten: Führe einen Punkt in deinem Aufsatz aus und stelle den Kontext her. Wenn Schüler:innen das umsetzen, dürfen sie zurecht erwarten, dass ihr Text besser bewertet wird.

Doch wenn man Feedback zum Entwurf eingebaut hat, wird der Text, den man schließlich abgibt, nach unseren Tests immer besser bewertet. Wir haben geprüft, ob das System darauf konfiguriert ist, die Abgabe immer besser zu bewerten als den Entwurf. Unser Ergebnis: Das scheint der Fall zu sein, auch wenn sich der Text gar nicht substanziell verändert hat.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Auch interessant: Wir haben bei FelloFish mehrere Durchläufe aus Entwurf, Einarbeiten der Verbesserungsvorschläge aus dem Feedback, und Abgabe des Textes gemacht. Man könnte erwarten, dass die Note linear ansteigt, je mehr man den Text anhand der Vorschläge des Tools verbessert. Das passierte aber nicht, stattdessen ergab sich in vielen unserer Tests ein Zickzack-Verlauf. Mit jedem zweiten Einbau des nächsten Feedbacks verschlechterte sich die Note wieder. Oft wurden Formulierungen vorgeschlagen, die zuvor verworfen wurden – die Verbesserungsvorschläge schankten zwischen verschiedenen Varianten. Das System glaubt also im nächsten Schritt nicht mehr, dass die Verbesserung wirklich eine Verbesserung war. Ähnlich ist das bei Edaira.

KI bevorzugt KI-Output

netzpolitik.org: Bewerten die beiden Tools, ähnlich wie das Tool von fobizz, KI-generierte Inhalte besser?

Sean Quägwer: Der KI-generierte Text, den unser Datensatz enthält, hatte bei beiden Systemen abseits vom Metatext bei edaira die höchste Durchschnittsbewertung und die Bewertung war im Gegensatz zu anderen Texten bei identischer Wiederholung sehr stabil.

Darüber hinaus müssen Schüler:innen sich teils nicht einmal selber bemühen, Textpassagen für ihre Abgaben mit KI-Tools zu generieren: Bei FelloFish konnte man einfach die in den Verbesserungsvorschlägen enthaltenen Formulierungsvorschläge in den eigenen Text copy-pasten. Das Programm machte sogar Vorschläge für inhaltliche Ergänzungen mit Beispielsatz. Pädagogisch sinnvoll wäre vermutlich, Schüler:innen übernehmen den Beispielsatz nicht eins zu eins, sondern formulieren den inhaltlichen Punkt in ihren eigenen Worten. Wir haben explorativ getestet, wie das Programm hier bewertet.

Wenig überraschend: Das Copy-Pasten brachte in der Regel eine bessere Note als die Verbesserung nach inhaltlichem Ermessen anhand des Feedbacks, aber mit anderen Wörtern. Das legt den Verdacht nahe, dass bei der Bewertung die syntaktische Nähe zur vorgeschlagenen Verbesserung bevorzugt wird, während der semantische Gehalt eventuell eine geringere Rolle spielt. Das bestätigt auch allgemeine Forschung der letzten Jahre zum sogenannten Selbsterkennungs-Bias von LLMs. Es gab nur einen Fall in unserer Testreihe, wo Copy-Paste und eine inhaltlich äquivalente, alternativ formulierte Verbesserung gleich gut bewertet wurden.

Für die Schule ungeeignet

netzpolitik.org: Hört sich an, als wären die Tools für den Einsatz an Schulen ungeeignet.

Sean Quägwer: Wir halten sie für nicht geeignet. Bevor man Millionen für Lizenzverträge ausgibt – und genau das geschieht ja gerade in zahlreichen Bundesländern – könnte man Lehrkräfte entlasten, indem man beispielsweise zusätzliche qualifizierte Personen einstellt, die bei den Korrekturen helfen und echtes, nachvollziehbares Feedback geben können.

Wenn man die Tools so einsetzen will, dass sie tatsächlich weniger bedenklich sind, würde das hingegen auf das Folgende hinauslaufen: Man verfasst für jede Arbeit selbst ein Feedback, lässt die Schüler:innen-Abgabe vom Tool fünfmal bewerten und bildet aus allem einen Mittelwert. Nur so könnten Lehrkräfte die Unzuverlässigkeit des Systems zu einem gewissen Grad ausgleichen und eine konsistente, plausible Bewertung gewährleisten. Das wäre jedoch keine Arbeitsersparnis, sondern ein Mehraufwand.

Kritik des Gründers trägt nicht

netzpolitik.org: Anfang August hat fobizz die KI-Tools für Korrektur und Feedback abgeschaltet und es damit begründet, dass LLMs „bei der Bewertung von Texten keine ausreichend zuverlässigen Ergebnisse“ liefern würden. Das Unternehmen greift damit eure Hauptkritik auf. Der Gründer von FelloFish, Hendrik Haverkamp, reagiert ganz anders auf eure Arbeit. Er kritisierte eure Untersuchung kürzlich in einem Podcast, worauf ihr bereits schriftlich reagiert habt. Gegenüber dem Tagesspiegel (€) hat er den Vorwurf geäußert, ihr hättet eine KI-kritische Grundhaltung und damit von vornherein die Chance auf positive Ergebnisse ausgeschlossen. Was würdest du darauf erwidern?

Sean Quägwer: Wir sind KI-kritisch vorgegangen, wobei „Kritik“ dem griechischen Ursprung des Wortes nach bedeutet: Man guckt sich eine Sache genau an und prüft, welche Stärken und Schwächen sie hat, man urteilt. Das schließt nicht aus, dass das Urteil positiv sein kann. In unserem Fall war es das nicht.

Worin in dem Test-Design „lasse jede Abgabe 10 Mal bewerten und schaue, ob immer die gleiche Note herauskommt“ eine unzulässige Voreingenommenheit liegen soll, erschließt sich uns nicht. Stabilität der Bewertung ist eine Grundvoraussetzung für die Gebrauchstauglichkeit solcher Tools. Dass sie in dieser Disziplin bereits durchfallen, hat nichts mit irgendeiner Voreingenommenheit zu tun.

netzpolitik.org: Er hat auch kritisiert, dass ihr keine echten Schüler:innen-Texte benutzt habt.

Sean Quägwer: Die Kritik mag ich, weil sie eigentlich unseren Punkt stärkt. Wir haben den Anspruch unserer Studie von Anfang an klar gemacht: Es handelt sich lediglich um Tests der notwendigen Voraussetzungen für die Gebrauchstauglichkeit.

Unsere Studie ist dabei keine super systematische, finale, vollumfängliche Studie, in der wir mit hunderten Schüler:innen-Texten testen. Derartige ausführliche Tests durchzuführen, wäre bei einem Tool, das bereits bei Pilottests systematisch versagt, eine Ressourcenverschwendung. Von einem Auto, dessen Motor durch Zufall mal schneller und mal langsamer läuft, würde man ja auch nicht verlangen, dass es im richtigen Straßenverkehr getestet werde.

Wir haben stichprobenartig eine Erstuntersuchung durchgeführt. Eine Erweiterung der Stichprobe um Schüler:innentexte könnte die Defizite, die wir aufgezeigt haben, nicht eliminieren. Die Tools bewerten identische Texte unterschiedlich – und auch der Schüler:innen-Text ist keine magische Textsorte, die dafür sorgt, dass LLMs auf einmal anders funktionieren als nach einem variablen stochastischen Prinzip. Wenn sich bereits mit kurzen Texten, die nicht von Schüler:innen stammen, erhebliche Mängel zeigen lassen, werden diese nicht verschwinden, wenn man mit längeren und authentischen Texten testet.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Tech-Konzerne haben politische Werbeanzeigen verboten. Die Wahlkämpfe in Ostdeutschland scheinen dadurch nicht ärmer, sondern vielfältiger geworden zu sein. Allerdings hat die Bedeutung von Social-Media-Algorithmen zugenommen – und die belohnen Populismus.

Im Netz und auf Straße: Wahlplakate in Magdeburg – Alle Rechte vorbehalten: IMAGO / Wolfgang Maria Weber

Die Aufregung war groß, als Google und Meta im vergangenen Jahr verkündeten, ab Ende 2025 keine politische Werbung auf ihren Plattformen mehr zuzulassen. Zielgerichtete Wahlwerbung auf Facebook, Instagram, YouTube und in der Google-Suche war in den vorangegangen zehn Jahren zu einem zentralen Werkzeug digitaler Wahlkämpfe geworden. Doch als die EU nach langem Ringen neue Regeln für die Transparenz und das Targeting politischer Werbung aufstellte, reagierten die beiden Tech-Konzerne drastisch.

Das Verbot, das seither nicht nur Parteien und Politiker:innen, sondern auch zivilgesellschaftliche Organisationen trifft, wurde mit Spannung erwartet, teils sogar mit Panik. Posts von politischen Akteur:innen sind zwar weiterhin erlaubt, doch Wertbung dürfen sie nicht mehr schalten. Bei einer Anhörung im Bundestag zur – immer noch nicht verabschiedeten – Umsetzung der EU-Verordnung in Deutschland waren Warnungen zu hören, die politische Kommunikation werde verarmen.

Bei Wahlkämpfer:innen in Berlin, Sachsen-Anhalt und Mecklenburg-Vorpommern, wo in diesen Wochen neue Parlamente gewählt werden, ist von dieser Panik heute nichts mehr zu spüren. Sie berichten von verschobenen Prioritäten und mal mehr, mal weniger kreativen Umgang mit der neuen Situation. Man hat sich dort an die neuen Bedingungen angepasst.

Verschiebung statt Verarmung

„Alles einzureißen ist ja auch eine Möglichkeit für einen Neuanfang“, sagt Kasimir Heldmann von den Berliner Grünen. Ohne das Werbeverbot würden Parteien im Netz sich derzeit vermutlich nicht so viel trauen, sagt er. Zudem hätten analoge Maßnahmen an Bedeutung gewonnen. Seine Partei setze in Berlin unter anderem auf Sticker, „die ein bisschen die Funktion von Social Media erfüllen, indem sie nicht klassisch grün aussehen und so vielleicht auch andere als unsere typischen Zielgruppen ansprechen.“

Wen wir angefragt haben+

Für diesen Artikel haben wir demokratische Parteien angefragt, die laut Umfragen eine realistische Chance auf den Einzug in eines der Landesparlamente in Sachsen-Anhalt, Berlin und Mecklenburg-Vorpommern haben. Geantwortet haben Wahlkämpfer:innen von Union, SPD und BSW in Mecklenburg-Vorpommern, von Linken und Grünen in Sachsen-Anhalt sowie von den Grünen in Berlin. Die AfD haben wir nicht angefragt, weil wir rechtsextremen Parteien keine Plattform bieten.

„Das Geld, das durch den Wegfall der Anzeigen frei wird, fließt vor allem in die Qualität der Inhalte, den Ausbau eigener digitaler Infrastruktur und in Offline-Maßnahmen“, sagt auch Markus Gonschorrek, Pressesprecher der CDU Mecklenburg-Vorpommern. Lilly Blaudszun, Kommunikationsleitung der dortigen SPD, sagt, das Verbot habe den direkten Kontakt aufgewertet. „Ein Gespräch am Gartenzaun überzeugt mehr als jede Anzeige.“

Auch Veranstaltungen hätten massiv an Bedeutung gewonnen, sagt Alexander Sorge von der Linkspartei in Sachsen-Anhalt. „Unser Budget dafür ist deutlich gewachsen.“ Das BSW in Mecklenburg-Vorpommern wiederum arbeitet in diesem Wahlkampf mit Visitenkarten, um das Analoge und das Digitale zusammenzubringen. Über QR-Codes könnten Menschen die Profile des Landesverbandes erreichen.

Regionale Medien statt globaler Plattformen

Auch Martin Fuchs, der als „Hamburger Wahlbeobachter“ seit mehr als einem Jahrzehnt politische Kommunikation im digitalen Raum analysiert, stellt keine Verarmung, sondern eine Verschiebung fest. So würden Parteien aktuell beispielsweise wieder mehr auf Kinowerbung und auf Werbeanzeigen bei regionalen Medien wie der Magdeburger Volkstimme setzen. Ein begrüßenswerter Effekt, findet Fuchs. Markus Gonschorrek von der CDU Mecklenburg-Vorpommern bestätigt, dass ein Teil des Werbebudgets zu regionalen Medienhäusern wandert.

Nochmal an Bedeutung gewonnen hat zudem ein Klassiker der politischen Kommunikation: das Wahlplakat. Allein in Sachsen-Anhalt gebe es dieses Jahr 40.000 Plakat mehr als beim letzten Mal, sagt Martin Fuchs. Das sei nur teilweise durch neue Parteien wie Volt oder das BSW zu erklären. „Plakate sind einfach das mit Abstand sichtbarste Wahlkampfmittel“, das würden Erhebungen immer wieder zeigen. „Sie sind zudem der einzige Weg, um in einer ausdifferenzierten Gesellschaft bei allen Wähler:innen eine gemeinsame Informationsbasis zu schaffen.“

Oder in den Worten von Kasimir Heldmann von den Berliner Grünen: „Auch Rechte müssen die Plakate von Linken sehen und andersrum.“ Das gehöre zum demokratischen Austausch dazu. „Im Netz kann es uns hingegen passieren, dass Menschen überhaupt keinen Kontakt zu unseren Inhalten haben.“ Durch regulatorische Vorgaben würden Wahlplakate zudem für ein gewisses Maß an Chancengleichheit unter den Parteien sorgen, weil eine gute Platzierung nicht vom Geld abhänge.

Abschied vom Targeting?

Der gezielten Werbung über Soziale Medien trauern natürlich trotzdem viele Wahlkämpfer:innen hinterher. Besonders die Möglichkeit zur regionalen Auswahl von Zielgruppen erwähnen viele. Direktkandierende konnten darüber etwa Menschen in ihrem Wahlkreis gezielt adressieren. Einige erwähnen zudem, dass die Werbewerkzeuge der Plattformen ein Mittel gewesen seien, um im Netz „aus der eigenen Blase“ zu kommen und auch die Menschen mit Werbung zu adressieren, die man sonst nicht so gut erreicht.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Gleichzeitig betonen mehrere Gesprächspartner:innen, dass die zielgruppenspezifische Ansprache nicht allein an Werbung in Sozialen Medien hängt. „Das ist das Grundhandwerk und war es immer, lange vor dem Werbekonto“, sagt etwa Lilly Blaudszun. „Wir haben eine eigene Karte für ältere Menschen, ein eigenes Produkt für Erstwählerinnen und Erstwähler, Kandidierendenflyer in städtischen und ländlichen Varianten, ein Magazin für alle Haushalte.“

Das BSW wiederum stützt sich beim Haustürwahlkampf in Mecklenburg-Vorpommern auf Ergebnisse der letzten Europa- und Bundestagswahlen. Geklingelt wird vor allem in den Regionen, wo die Partei besonders gut abgeschnitten hat. Kasimir Heldmann von den Berliner Grünen betont, dass man dank unterschiedlicher Formate auch ohne Werbung in Sozialen Medien weiterhin unterschiedliche Zielgruppen ansprechen könne. Markus Gonschorrek von der CDU MV erwähnt in diesem Zusammenhang die neuen Test-Reels, mit denen man auf Instagram Kurzvideos an Menschen ausspielen kann, die dem eigenen Account nicht folgen.

Ohnehin seien Wahlkämpfe in Deutschland nie derart auf spezifische Zielgruppen ausgerichtet, wie dies etwa in den USA der Fall ist, sagt Martin Fuchs. „Hier haben die meisten Parteien ja nicht mal angepasste Inhalte für unterschiedliche Plattformen, sondern posten überall das Gleiche“, bemängelt der Wahlbeobachter. Dass Targeted Advertising auf Social-Media-Plattformen wegfalle, könne da nicht so sehr ins Gewicht fallen.

Social Media bleibt wichtig

Grundsätzlich sei die große Bedeutung Sozialer Medien für den Wahlkampf aber ungebrochen, betonen alle Gesprächspartner:innen. „Was sich verändert, ist die Ökonomie“, so Lilly Blauszun von der SPD MV. Inhalte müssten jetzt aus eigener Kraft funktionieren. „Das ist anspruchsvoller, aber es ist auch das ehrlichere Geschäft: Gute Ideen setzen sich durch, gekaufte Sichtbarkeit fällt weg.“

Ganz ähnlich klingt das bei der CDU: Das Verbot zwinge Parteien dazu, Reichweite wieder organisch aufzubauen, statt sie einfach einzukaufen. Das sei kein Nachteil für die politische Debatte, sondern hebe die Qualität, weil man rhetorisch und inhaltliche überzeugen müsse. „Wer auf Substanz setzt, statt nur auf Werbebudget, erreicht die Menschen auch ohne gekaufte Sichtbarkeit.“

„Statt bezahlter Reichweite kommt es stärker darauf an, mit guten Inhalten organische Aufmerksamkeit zu erzeugen und eine eigene Community aufzubauen und zu pflegen“, sagt auch Ruben Engel von den Grünen in Sachsen-Anhalt.

Doch ganz so einfach machen es die Plattformen den Wahlkämpfer:innen nicht. Was tatsächlich Reichweite erhält und was nicht, darüber bestimmen schließlich vor allem die Algorithmen der Konzerne.

Und so versuchen die Wahlkämpfer:innen derzeit, ihre organische Reichweite zu steigern, indem sie möglichst viele Interaktionen mit ihren Inhalten auslösen. Ein zentrales Element hierfür ist bei allen Parteien der Aufbau eigener Communities und die Verstärkung der eigenen Inhalte durch Multiplikator:innen. Das können reichweitenstarke Accounts aus der eigenen Partei sein, etwa Kreisverbände und Direktkandidierende, oder Accounts aus dem sogenannten politischen Vorfeld, also beispielsweise Podcast:erinnen, YouTuber:innen und andere Influencer:innen.

Das „populistische Moment“ gewinnt

Doch auch inhaltlich müssten die Parteien sich der Logik der Plattformen anpassen. „Unsere Spitzenkandidatin und ihr Team denken politische Kommunikation neu und setzen auf Inhalte, die nicht typisch politisch sind“, erklärt etwa Ruben Engel von den Grünen in Sachsen-Anhalt. Diese seien oft greifbarer und verständlicher für Menschen „außerhalb der Bubble“.

Sein Parteikollege Kasimir Heldmann von den Berliner Grünen wird mit Blick auf inhaltliche Erfordernisse der Plattformen noch deutlicher: „Form follows Function“. Das habe positive und negative Seiten. So traue man sich heute zwar mehr kreative und moderne Kommunikation, setze auf Memes und Formate wie den „Fit-Check“, bei dem Politiker:innen über ihre Outfits sprechen. Gleichzeitig gehe damit oft auch eine Vereinfachung, Verkürzung und Verschärfung einher. „Das wird nicht jedem Inhalt gerecht.“

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Auch Robert Koch vom BSW in Mecklenburg-Vorpommern ist ein gewisses Unbehagen anzumerken, wenn er von den Erfordernissen der Plattformen spricht. Am besten hätten zuletzt Posts mit Kindern funktioniert, die auf Panzern spielen. Sharepics mit Informationen über das Wahlprogramm würden hingegen weniger geteilt. Koch spricht hier vom „populistischen Moment“, das durch die Logik der Plattformen verstärkt werde.

Die AfD dominiert Social Media

Dass Plattformen wie Facebook, Instagram, YouTube oder TikTok populistische Inhalte begünstigen, liegt an ihrer Funktionsweise. Verstärkt wird nämlich die Reichweite von Inhalten, die besonders viele Interaktionen auslösen, also etwa Shares, Kommentare, Likes und andere Emoji-Reaktionen. Belohnt werden also nicht nur Inhalte, die besonders viel Zuspruch erfahren, sondern auch solche, die besonderes viel Widerspruch erfahren. Oder am besten beides, Hauptsache viele Emotionen. Deshalb sind polarisierende Inhalte so beliebt.

Wohl kein westlicher Politiker hat von dieser Logik der Sozialen Medien so profitiert wie Donald Trump. In Deutschland ist es die AfD, deren Inhalte die meisten Interaktionen und entsprechende Reichweite erhalten. Kurzvideos der AfD auf Social-Media-Plattformen erhalten im Landtagswahlkampf Sachsen-Anhalt derzeit ein Vielfaches an Interaktionen der anderen Parteien, wie eine aktuelle Auswertung des Marketing-Unternehmens viral.app zeigt.

Das Werbeverbot, da sind sich viele unserer Gesprächspartner:innen einig, nutze der AfD besonders. Das liege allerdings nicht nur daran, dass die Partei die Algorithmen mit ihren Inhalten besonders gut bespiele. Sondern auch daran, dass sie die mit Abstand größte Followerschaft aufgebaut hat, sagt Politik-Analyst Martin Fuchs. „Während die anderen Parteien 15 Jahre lange schlechte Social-Media-Arbeit gemacht haben, hat die AfD konsequent das digitale Vorfeld bespielt“. Keine andere Partei werde so häufig durch Influencer:innen oder Podcaster:innen verstärkt.

Tatsächlich ist der Zahlenunterschied unter den Spitzenkandidat:innen in Sachsen-Anhalt gewaltig. Während die Anderen Follower-Zahlen im unteren vier- oder fünfstelligen Bereich haben, kommt AfD-Mann Ulrich Sigmund laut viral.app insgesamt auf 2,1 Millionen Follower:innen.

Dabei sei die Reichweite in Sozialen Medien allein gar nicht so wichtig, sagt Martin Fuchs, schließlich lebe ein Großteil der Follower Sigmunds gar nicht in dem Bundesland, in dem er zur Wahl steht. „Aber die Reichweite fungiert als Transmissionsriemen in klassische Medien.“ Dass journalistische Medien den AfD-Mann wegen seiner Social-Media-Reichweite immer wieder zum Thema machen, sei für dessen Erfolg mindestens genauso wichtig.

Werbung wäre wenigstens transparent

In der Vergangenheit haben Recherchen immer wieder aufdeckt, dass es bei den Reichweiten-Erfolgen der AfD nicht nur mit rechten Dingen zugeht. Die Vorwürfe reichen von gekauften Likes und Followern über zentral gesteuerte Sockenpuppen-Accounts, mit denen Posts weiterverbreitet werden, bis zu KI-generierten Influencerinnen, die die Inhalte der Partei multiplizieren. Auch Desinformationskampagnen, die russischen Akteuren zugeschrieben werden, schonen die AfD auffällig.

Auch einige der Wahlkämpfer:innen, mit denen wir gesprochen haben, berichten von unlauterem Vorgehen. „Gerade in den Kommentarspalten, etwa auf Facebook, erleben wir gezielte Spam-Wellen von AfD-Anhängern und fragwürdigen Profilen“, sagt etwa Markus Gonschorrek von der CDU MV. „Über 90 Prozent dieser Konten stammen gar nicht aus unserem Bundesland und nehmen keinerlei Bezug auf unsere lokalen Themen oder Wahlprogramme.“ Auch Ruben Engel von den Grünen in Sachsen-Anhalt sagt: „Wir erleben, dass unser Content viel durch inauthentische Accounts bewertet und kommentiert wird.“

An diesem Phänomen kann auch die EU-Verordnung zur Transparenz politischer Werbung nichts ändern. Dass die Plattformen politische Werbung verboten haben, verkehre den intendierten Effekt der Regulierung nun sogar ins Gegenteil, sagt Lilly Blaudszun von der SPD MV. „Anzeigen waren gekennzeichnet, im Werbearchiv nachvollziehbar, mit Absender und Ausgabenhöhe.“ Dieser transparente Teil der politischen Kommunikation sei nun verschwunden. Was beispielsweise von rechten Drittkanälen ohne Kennzeichnung laufe, sei geblieben. „Die Verordnung wollte Manipulation eindämmen – getroffen hat der Rückzug der Plattformen aber zuerst die regulierte Werbung.“ Darüber sollte man in Brüssel noch einmal nachdenken.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Behörden überwachen regelmäßig Messenger-Kommunikation in WhatsApp, Telegram und Signal – ganz ohne Staatstrojaner. Das geht aus einem Dokument des Zollkriminalamts hervor, das wir veröffentlichen. Ein Professor für IT-Strafrecht hält diese Messenger-Überwachung für rechtswidrig.

Die Polizei ist auf WhatsApp. (Symbolbild) – Alle Rechte vorbehalten: Polizei Hildesheim

Ein Ehepaar geht zur Polizei. Sie sollen als Zeugen über ihre Tochter aussagen. Die Beamten wollen die WhatsApp-Kommunikation mit der Tochter lesen. Sie bitten die Eltern um ihre Mobiltelefone. Die willigen ein, freiwillig.

Doch die Polizisten machen viel mehr, als sie sagen. Sie verschaffen sich dauerhaften Zugriff auf die WhatsApp-Konten. Sie richten WhatsApp Web auf einem Polizei-Computer ein. Den QR-Code zur Verifizierung scannen sie in den WhatsApp-Apps der Eltern. Ab diesem Zeitpunkt kann die Polizei auch alle zukünftigen WhatsApp-Nachrichten mitlesen – ganz ohne Trojaner.

Die Polizei überschreitet damit ihre rechtlichen Befugnisse. Mit WhatsApp Web bekommt sie ein Archiv aller WhatsApp-Nachrichten – das darf sie nicht. Die Polizei kann auch Nachrichten vom WhatsApp-Konto schreiben – das darf sie nicht. Sie hat die Betroffenen absichtlich getäuscht – das darf sie nicht.

Messenger-Überwachung

Polizei und Geheimdienste dürfen Staatstrojaner einsetzen, um Messenger wie WhatsApp abzuhören. Doch sie können verschlüsselte Messenger auch mitlesen, ohne die Geräte zu hacken. Vor fünf Jahren haben wir ein Dokument vom Bundeskriminalamt veröffentlicht, das diese Überwachungs-Methode beschreibt.

Jetzt können wir belegen, dass eine weitere Behörde die Methode einsetzt. Das Zollkriminalamt hat die Messenger-Überwachung vor einem Jahr dauerhaft eingeführt. Wir veröffentlichen ein eingestuftes Dokument: Verfügung zur dauerhaften Einführung der Messenger-Überwachung im Zoll.

Ohne Staatstrojaner

Der Zoll beschreibt die Messenger-Überwachung als Möglichkeit, „über Instant Messenger ausgetauschte Daten aufzuzeichnen, ohne das IT-System mit einer Überwachungs-Software (Quellen-TKÜ) infiltrieren zu müssen“.

Das Zollkriminalamt hat die Überwachungs-Methode „seit Ende des Jahres 2023 […] im Rahmen eines Modellversuchs erprobt“. Demnach hat „sich das Einsatzmittel bewährt und zu erheblichen Ermittlungserfolgen im Bereich der schweren und organisierten Kriminalität geführt“.

Seit August 2025 „steht die Messenger-Überwachung nunmehr dauerhaft den Ermittlungseinheiten des Zolls […] zur Verfügung“. Dafür nutzt der Zoll „die technische Amtshilfe anderer Bundesbehörden“.

Angriff mit Phishing

Die Behörden nutzen dafür Standard-Tools der Messenger-Anbieter. WhatsApp, Telegram und Threema bieten Web-Clients an, Signal eine Desktop-Software. Die Ermittler richten damit einfach einen zweiten Zugang zum Konto der Zielpersonen ein.

Das bestehende Konto muss die Anmeldung des zweiten Geräts bestätigen. Viele Messenger übertragen den Bestätigungs-Code innerhalb ihrer App. Angreifer können diese Codes zum Beispiel mit Phishing ergaunern.

Anfang des Jahres hat „ein wahrscheinlich staatlich gesteuerter Cyberakteur Phishing-Angriffe über Messengerdienste, insbesondere Signal“ durchgeführt. Das Bundesamt für Verfassungsschutz und das Bundesamt für Sicherheit in der Informationstechnik warnen vor einer Übernahme von Messenger-Konten mit dieser Methode.

Angriff mit Gerät

Polizei und Ermittler haben weitere Möglichkeiten, den Bestätigungs-Code abzufangen. Zum Beispiel, wenn sie Zugriff auf das Gerät und die App der Zielperson haben.

Beim oben erwähnten Ehepaar haben die Polizisten den für einen anderen Zweck erteilten Zugang zum Gerät ausgenutzt:

Am 12. Januar 2020 kam es zur Vernehmung der Eheleute P. Im Rahmen der Vernehmung überließen P. den Vernehmungsbeamten freiwillig für einen kurzen Zeitraum ihre mitgeführten Mobiltelefone, damit darauf enthaltene Nachrichten von ihrer Tochter eingesehen und u.a. fotografiert werden konnten.

Im Zuge der Fertigung von entsprechenden Fotos konnte die computerbasierte Anwendung WhatsApp Web, über eine vom BKA online zur Verfügung gestellte Internetseite verdeckt aktiviert werden, sodass die Nachrichten über einen BKA Rechner (sic!) mitgelesen werden können. Es liegt kein Eingriff in Form eines Trojaners o.ä. vor.

Angriff mit SMS

Einige Messenger verschicken den Bestätigungs-Code auch unverschlüsselt, zum Beispiel per SMS. Ermittler können diese SMS mit einer normalen Telefonüberwachung abfangen.

Das Bundeskriminalamt hat sich mit dieser Methode in Dutzenden Fällen Zugriff auf Telegram-Konten verschafft, zum Beispiel bei der neonazistischen Terrororganisation Oldschool Society.

In Niedersachsen überwachte die Polizei einen Doping-Dealer mit dieser Methode:

In der Nacht des 30. März 2022 nahmen Polizeibeamte eine „Aufschaltung“ des vom Beschuldigten genutzten Telegram-Accounts vor.

Geräte prüfen

Betroffene Konten-Inhaber können diese Überwachungs-Maßnahme erkennen. Die Messenger-Anbieter empfehlen, mit dem Konto verknüpfte Geräte regelmäßig zu überprüfen: Signal, WhatsApp, Telegram, Threema.

Auch Verfassungsschutz und BSI empfehlen: „Überprüfen Sie regelmäßig die Liste der Geräte, die Zugriff auf Ihr ‚Signal’-Konto haben. […] Entfernen Sie unbekannte Geräte umgehend.“

Der Doping-Dealer in Niedersachsen hat diesen Rat befolgt. Nachdem sich die Polizei Zugriff auf sein Telegram-Konto verschaffte, hat „er die Maßnahme wenige Stunden später [unterbunden]“. Da hatte die Polizei sein Nachrichten-Archiv aber bereits kopiert.

Rechtsgrundlage umstritten

Diese Methode der Messenger-Überwachung ist bisher wenig bekannt. Kein Parlament hat darüber entschieden, kein Gesetzgeber hat ein Gesetz dazu beschlossen. Die Ermittlungsbehörden interpretieren andere Gesetze als Rechtsgrundlage für die Messenger-Überwachung. Doch Juristen und Gerichte widersprechen der Polizei.

Professor Dr. Christian Rückert ist Rechtswissenschaftler und Inhaber des Lehrstuhls für Strafrecht, Strafprozessrecht und IT-Strafrecht an der Universität Bayreuth. Er hat die wohl gründlichste rechtliche Analyse zur Messenger-Überwachung verfasst, im juristischen Standardwerk Münchener Kommentar zur Strafprozessordnung.

Wir veröffentlichen den Abschnitt: Zugriff auf Messenger-Chats durch „Klonen“ eines Accounts (Account-Cloning).

Keine Telefonüberwachung

Einige Juristen haben versucht, die Messenger-Überwachung als normale Telekommunikationsüberwachung einzustufen. So sah es auch der Generalbundesanwalt beim getäuschten Ehepaar im Jahr 2020.

Der Ermittlungsrichter beim Bundesgerichtshof beschloss damals, der Paragraf zur Telekommunikationsüberwachung sei „einschlägige gesetzliche Anordnungsgrundlage für diese spezifische Überwachungstechnik“.

Doch diese Rechtsauffassung wurde höchstrichterlich gekippt. Der Bundesgerichtshof entschied im Januar: Der Rechtsauffassung des Ermittlungsrichters „ist […] nicht zu folgen“.

Bei der Überwachung und Aufzeichnung von Telegram-Chats durch heimliche Aufschaltung ohne Einbeziehung des Informationsdiensteerbringers oder Nutzers handelt es sich um eine Quellen-Telekommunikationsüberwachung.

Pikant: Der Bundesgerichtshof beschloss diese Entscheidung am 20. Januar 2026. Der Zoll stützte sich noch einen Monat später – am 20. Februar – auf die veraltete und ungültige Rechtsauffassung.

Keine Quellen-TKÜ

Die gesetzliche Regelung der Quellen-TKÜ erlaubt nur das Ausleiten aktueller Kommunikation. Zunächst betraf das ausschließlich laufende Kommunikation, mittlerweile auch gespeicherte Kommunikation ab richterlicher Anordnung. Ermittler müssen „technisch sicherstellen“, dass darüber hinausgehende Inhalte nicht überwacht und aufgezeichnet werden können.

Die Messenger-Anbieter kennen diese Einschränkung nicht – ihre Tools sind nicht für die Polizei gemacht. Die meisten Web-Clients übermitteln beim Einrichten eines neuen Geräts das vollständige Archiv aller Nachrichten. Verfassungsschutz und BSI warnen für Signal: „Die Angreifer […] bekommen zusätzlichen Zugriff auf die Nachrichteninhalte der letzten 45 Tage.“

Polizei und Ermittler dürfen bei einer Quellen-TKÜ keine alten Nachrichten übermitteln. Und sie dürfen keine Technik einsetzen, die alte Kommunikation überhaupt übermitteln kann. Die Tools der Anbieter sind daher für eine Quellen-TKÜ nicht zulässig.

Diese Rechtsauffassung betont auch Professor Rückert in seinem Kommentar. Für den Strafrecht-Experten ist klar: Messenger-Überwachung durch Nutzung der Anbieter-Tools ist keine Quellen-TKÜ, sondern ein Spezialfall der Online-Durchsuchung.

Äußerst problematisch

Das Gesetz stellt eine weitere Anforderung sowohl an die Quellen-TKÜ als auch an die Online-Durchsuchung, die bei der Messenger-Überwachung nicht immer eingehalten wird. Ermittler dürfen am Ziel-System „nur Veränderungen [vornehmen], die für die Datenerhebung unerlässlich sind“. Das müssen sie „technisch sicherstellen“.

Auch diese Einschränkung kennen die Tools der Messenger-Anbieter nicht. Die Web-Clients übertragen nicht nur Kommunikations-Inhalte, sondern auch Kontakt-Listen. Verfassungsschutz und BSI warnen: Angreifer können mit einem geklonten Account nicht nur mitlesen, sondern „im Namen der Zielperson Nachrichten verschicken“.

Professor Rückert bezeichnet die Messenger-Überwachung mit Anbieter-Tools daher als „äußerst problematisch“. Die Ermittler müssen „auf technischem Wege (nicht nur durch eine entsprechende rechtliche Beschränkung der Anordnung) sicherstellen, dass sie keine Nachrichten versenden und auch sonst keine Datenveränderungen auf Serverinfrastruktur oder Smartphone vornehmen können“.

Die Ermittler brauchen also eigene Software, die nur das kann, was gesetzlich erlaubt ist. Eine Messenger-Überwachung durch Nutzung der Anbieter-Tools ist nicht zulässig.

Keine Auskunft

Die Behörden täuschen Opfer, stützen sich auf problematische Rechtsauffassungen – und sie verweigern eine öffentliche Diskussion. Das Zollkriminalamt warnt intern: „Um das Einsatzinstrument für die Sicherheitsbehörden in Deutschland nicht zu gefährden, ist eine äußerst sensible Behandlung auch im Zoll erforderlich. Es gilt der Grundsatz ‚Kenntnis, nur wenn nötig’.“

Wir haben Zollkriminalamt und Bundeskriminalamt eine Reihe an Fragen zur Messenger-Überwachung gestellt. Wir wollten wissen, seit wann und wie oft sie die Überwachungs-Methode einsetzen, was die Rechtsgrundlage dafür ist, ob das BGH-Urteil von diesem Jahr etwas geändert hat und wie sie die gesetzlichen Anforderungen „technisch sicherstellen“.

Der Zoll sagt nur: „Die von Ihnen erbetenen Informationen sind als Verschlusssache eingestuft und können nicht veröffentlicht werden.“

Das BKA sagt: „Bitte haben Sie Verständnis, dass wir im Bereich der informationstechnischen Überwachung grundsätzlich keine Auskünfte erteilen.“ Im Übrigen „richtet sich das BKA stets nach der aktuellen Gesetzeslage sowie deren Auslegung durch die Gerichte“.

Auskunft unzumutbar

Da die Behörden der Presse eine Antwort verweigern, haben wir im Bundestag nachfragen lassen. Leider konnten wir keinen Abgeordneten einer Regierungspartei finden, der die Bundesregierung dazu befragen wollte.

Also haben wir die Opposition gebeten. Der grüne Innenpolitiker Marcel Emmerich hat die Bundesregierung gefragt, wie oft Ermittlungsbehörden die Messenger-Überwachung eingesetzt haben.

Das Justizministerium hat nur für den Generalbundesanwalt geantwortet, Polizei und Zoll ignoriert es. Trotzdem verweigert das Ministerium eine inhaltliche Antwort: „Eine Beantwortung der Frage [kann] wegen des unzumutbaren Aufwandes, der mit der Beantwortung verbunden wäre, nicht erfolgen.“

Hier die Dokumente in Volltext:

• Geheimhaltungsgrad: Verschlusssache – Nur für den Dienstgebrauch
• Datum: 20. Februar 2026
• Behörde: Zollkriminalamt

Verfügung zur dauerhaften Einführung der Messengerüberwachung (MÜ) im Zoll

Das ZKA hat seit Ende des Jahres 2023 das Einsatzmittel der Messengerüberwachung („MÜ“) im Zoll im Rahmen eines Modellversuchs erprobt. Da sich das Einsatzmittel bewährt und zu erheblichen Ermittlungserfolgen im Bereich der schweren und organisierten Kriminalität geführt hat, ist der Modellversuch zum 01.08.2025 in die Linienstruktur im neuen Fachgebiet Operative Dienste (DVIII.C.212) überführt worden. Damit steht die Messengerüberwachung nunmehr dauerhaft den Ermittlungseinheiten des Zolls als Einsatzmittel primär im Rahmen von OK-Ermittlungen zur Verfügung.

Als für den Hauptprozess „Ermittlung“ zuständige Direktion erteile ich dazu nachfolgende Hinweise:

I. Ermittlungstaktische Notwendigkeit

Messengerdienste (z.B. WhatsApp, Telegram, Signal) verdrängen seit Jahren die herkömmliche Telekommunikation. Aufgrund der standardmäßigen „Ende-zu-Ende“ Verschlüsselung werden diese Dienste regelmäßig auch für tatrelevante Kommunikation genutzt. Eine Auswertung mittels herkömmlicher TKÜ ist nicht möglich.

II. Möglichkeit der Messengerüberwachung

Mittels der MÜ kann es möglich sein, auch über Instant Messenger ausgetauschte Daten aufzuzeichnen, ohne das informationstechnische System mit einer Überwachungssoftware (Quellen-TKÜ) infiltrieren zu müssen.

Das ZKA nutzt hierzu die technische Amtshilfe anderer Bundesbehörden.

Die Technik der Messengerüberwachung stellt nach Rechtsauffassung des BGH eine Maßnahme nach § 100a Abs. 1 S. 1 StPO dar, wobei allerdings bereits im Antrag deutlich werden muss, welcher Messengerdienst auf welche Weise überwacht werden soll (BGH Beschluss v. 9.7.2020 – 2 BGs 468/20).

III. Ermittlungsunterstützung durch das ZKA im Rahmen der Zentralstellenfunktion

Eine MÜ erfordert speziell fortgebildetes Personal. Das ZKA erbringt daher die nachfolgenden Unterstützungsleistungen im Rahmen der Zentralstellenfunktion des ZKA (§ 3 Abs. 6 Nr. 3 ZFdG):

• Beratung der ermittlungsführenden Bedarfsträger in rechtlicher, technischer und taktischer Hinsicht, insbesondere auch bei der Beantragung der erforderlichen Gerichtsbeschlüsse,
• Durchführung des operativ-taktischen Einsatzes mit dem Ziel der Einrichtung der MÜ
• Abstimmung des Einsatzes mit Partnerbehörden.

Da die Einsätze äußerst aufwändig sind, weise ich bereits jetzt darauf hin, dass das ZKA bei der Entscheidung, welche Einsätze durchgeführt werden können, eine Priorisierung vornehmen muss. Einen entsprechenden Fragebogen erhalten die Bedarfsträger nach Eingang eines Unterstützungsersuchens.

IV. Steuerung von Einsatzanfragen

Einsatzanfragen sind ab sofort ausschließlich an das ZKA ██████████ zu richten. Die Koordination der Einsätze erfolgt im ZKA.

Bei Einsatzanfragen ist vorab die Zustimmung der Sachgebietsleitung und der zuständigen Staatsanwaltschaft einzuholen.

Klarstellend weise ich darauf hin, dass auch Anfragen an andere Behörden zur Einrichtung einer Quellen-TKÜ oder sonstiger Maßnahmen der informationstechnischen Überwachung (ITÜ) stets an das ZKA zu richten sind, das für die Umsetzung berät und unterstützt.

Darüber hinaus weise ich darauf hin, dass etwaige Ersuchen um Unterstützung bei MÜ/ITÜ-Einsätzen von Polizeien des Bundes und der Länder vorab – also bevor eine etwaige Unterstützung geleistet oder zugesagt wird – dem ZKA zur Koordinierung und Zustimmung zu übermitteln ist. Dies dient insbesondere auch der Sicherstellung des Methodenschutzes, dem höchste Priorität zukommt.

Die Bezugsverfügung vom 10.02.2021 hebe ich auf.

V. Weitere Hinweise

Um das Einsatzinstrument für die Sicherheitsbehörden in Deutschland nicht zu gefährden, ist eine äußerst sensible Behandlung auch im Zoll erforderlich. Es gilt der Grundsatz „Kenntnis, nur wenn nötig“ (§ 3 Abs. 1 VSA).

Vorsorglich weise ich darauf hin, dass die datenschutzrechtliche Verantwortlichkeit für die Verarbeitung der erhobenen Daten (beispielhaft auch Kennzeichnung der Daten sowie Beachtung des Grundsatzes der hypothetischen Datenneuerhebung – kurz hyDaNe – bei einer ggf. stattfindenden Zweckänderung) sowie sämtliche Verpflichtungen u.a. im Hinblick auf den Umgang mit Kernbereichsverletzungen beim Bedarfsträger liegt.

• Datum: 18. Dezember 2023
• Von: Prof. Dr. Christian Rückert
• Kommentar: Münchener Kommentar
• Gesetz: Strafprozeßordnung
• Auflage: 2
• Paragraf: § 100b Online-Durchsuchung
• Randnummern: 38–40a

Spezialfall: Zugriff auf Messenger-Chats durch „Klonen“ eines Accounts (Account-Cloning)

Da die meisten (vor allem von kriminellen Akteuren verwendeten) Messenger-Dienste heutzutage mit einer sog. Ende-zu-Ende-Verschlüsselung arbeiten, suchen Ermittler „kreative“ Wege, sich Zugriff auf diese Daten zu verschaffen. Eine dieser Methoden ist das „Klonen“ des Messenger-Dienst-Accounts des Betroffenen. Dabei nutzen die Ermittler einen Web-Client oder einen über den Browser erreichbaren Web-Frontend-Dienst des jeweiligen Messengers und melden sich dort mit der Telefonnummer des Betroffenen an. Die Anmeldung löst regelmäßig einen weiteren Identifikationsvorgang aus (sog. Zwei-Wege-Identifikation). Dementsprechend ist noch eine weitere Bestätigung des Anmeldevorgangs erforderlich, um Zugang zu den Chatprotokollen zu erlangen. Wie die Strafverfolgungsbehörden diesen Vorgang „umgehen“, hängt von der technischen Ausgestaltung ab. Wird beispielsweise ein Bestätigungscode unverschlüsselt (zB als SMS [Fn. 95]) verschickt, kann der Bestätigungscode im Wege einer Telekommunikationsüberwachung abgefangen und verwendet werden. Muss dagegen mit dem Mobiltelefon des Betroffenen eine Aktion durchgeführt werden (zB ein QR-Code vom Computer-Bildschirm abgescannt werden [Fn. 96] oder direkt in der App eine Aktion vorgenommen werden muss), so benötigen die Ermittler Zugriff auf das Mobiltelefon. Ist der Account einmal „kopiert“, können die Ermittler alle über die App durchgeführte Kommunikation mitlesen, weil die App auf dem Smartphone die über sie versendeten Nachrichten an den Web-Client weiterleitet (theoretisch wäre es für die Ermittler damit auch möglich, selbst Nachrichten über den Account des Betroffenen zu versenden; da aber die Nachrichten dann auch an die App des Betroffenen geschickt würden, würde dies sofort auffallen). Gleichsam kann durch die Synchronisation der bisherigen Chat-Verläufe mit dem Web-Client auch vergangene Kommunikation eingesehen werden. [Fn. 97] Ein kriminalistischer Nachteil dieser Methode liegt vor allem darin, dass der Betroffene in den Einstellungen seiner App auf dem Smartphone sowohl sehen kann, welche Geräte mit seiner App verbunden sind, als auch diese Geräte wieder von seiner App abmelden kann.

Auf welche Rechtsgrundlage ein solches Vorgehen gestützt werden kann, hängt davon ab, auf welche Daten zugegriffen wird. Beschränkt sich die Datenerhebung auf seit „Klonung“ des Accounts versendete und empfangene Nachrichten bzw. auf seit Anordnung der Maßnahme versendete und empfangene Nachrichten, kann die Maßnahme auf § 100a Abs. 1 S. 2, S. 3 gestützt werden. Es handelt sich nämlich dann um eine Überwachung der Telekommunikation, die nicht über die Ausleitung durch einen TK-Anbieter, sondern über einen technischen Eingriff in das informationstechnische System (Smartphone) durchgeführt wird. Dass der technische Eingriff hierbei nicht durch die Installation einer Spähsoftware, sondern durch Nutzung einer bereits vorhandenen Software(-Sicherheitslücke) vorgenommen wird, ist unerheblich, da § 100a Abs. 1 S. 2, S. 3 nicht auf die Verwendung von Spähsoftware beschränkt ist, sondern allgemein von „technischen Mitteln“ spricht. Dagegen handelt es sich aber nicht um eine „klassische“ TKÜ nach § 100a Abs. 1 S. 1, weil hier nicht auf dem Übertragungsweg Telekommunikationsdaten ausgeleitet bzw. abgegriffen werden, sondern durch die heimliche Herstellung einer Kommunikationsverbindung zum Smartphone des Betroffenen in die Integrität des Geräts eingegriffen wird. Rechtsgrundlage für solche Eingriffe ist nunmehr § 100a Abs. 1 S. 2, S. 3. Problematisch ist jedoch, dass bei der Verbindung mit der App des Betroffenen alle dort gespeicherten Chat-Dateien mit dem Web Client synchronisiert werden, sodass die Ermittler auch Zugriff auf Nachrichten haben, die vor dem Anordnungszeitpunkt gesendet und empfangen wurden. Da nach § 100a Abs. 5 Nr. 1 jedoch „technisch sicherzustellen“ ist, dass sich die Datenerhebung auf laufende Kommunikation und solche Kommunikation, die ab dem Anordnungszeitpunkt versendet oder empfangen wurde, beschränkt, ist das hier beschriebene „Account-Cloning“ nicht nach § 100a Abs. 1 S. 2, S. 3 zulässig.

Der Ermittlungsrichter beim BGH hat kürzlich eine Maßnahme des sog. Account-Clonings auf § 100a Abs. 1 S. 1 gestützt. [Fn. 98] Dies kann jedoch nicht überzeugen. Dem vorgebrachten Argument, ähnlich wie bei einer heimlichen E‑Mail-Beschlagnahme beim Webmail-Provider, bei der ebenfalls § 100a Abs. 1 S. 1 die richtige Rechtsgrundlage sei, [Fn. 99] könnten die auf den Servern des Messenger-Dienstes ruhenden Nachrichten (auch solche aus der Zeit vor Anordnung der TKÜ) miterhoben werden, weil sich diese nicht im alleinigen Herrschaftsbereich des Betroffenen befänden, [Fn. 100] ist entgegenzuhalten, dass das Account-Cloning nicht mit der heimlichen E‑Mail-Beschlagnahme zu vergleichen ist. Zwar gilt die strenge Beschränkung auf laufende Telekommunikation nach § 100a Abs. 5 Nr. 1 ausdrücklich nur für die eingriffsintensivere Quellen-TKÜ. [Fn. 101] Allerdings werden bei der heimlichen E‑Mail-Beschlagnahme die außerhalb des Herrschaftsbereichs ruhenden E‑Mails mit Hilfe des Webmail-Providers beschlagnahmt, ohne dass eine heimliche Integritätsverletzung eines informationstechnischen Systems mittels des Einsatzes technischer Mittel durch die Ermittlungsbehörden stattfindet. Beim Account-Cloning wird dagegen – soweit der Betreiber überhaupt eine Infrastruktur betreibt, in welcher die Nachrichten gespeichert werden – in das informationstechnische System auf der Serverinfrastruktur eingegriffen, welches vom Betroffenen genutzt wird (sein/ihr „Bereich“ auf der Serverinfrastruktur, in der die Nachrichten des/der Betroffenen gespeichert werden). Daneben ist auch eine Integritätsverletzung des Smartphones des Betroffenen anzunehmen, weil die Ermittlungsbehörden beim Account-Cloning technisch gesehen in die Lage versetzt werden, Nachrichten mit dem Account des Betroffenen zu versenden. Diese Nachrichten würden auch im Chatverlauf des Betroffenen auf dem Smartphone angezeigt (zumindest im Rahmen einer Synchronisation der Daten mit den Daten auf der Server-Infrastruktur), was eine Veränderung der Daten auf dem Smartphone mit sich bringt. Soweit eine solche Serverinfrastruktur vom jeweiligen Messenger-Dienst nicht betrieben wird, sondern die Messengernachrichten ausschließlich unmittelbar von der App auf dem Smartphone des Betroffenen an die von den Ermittlungsbehörden „gekaperte“ Web-Applikation gesendet werden (und umgekehrt), ist der Fall noch weniger mit der heimlichen E‑Mail-Beschlagnahme vergleichbar. Maßnahmen, bei denen ohne Einschaltung des Providers die Integrität eines informationstechnischen Systems (Bereich auf der Serverinfrastruktur und/oder das Smartphone des Betroffenen) durch technische Mittel verletzt wird, können nach der Systematik der §§ 100a ff. nur auf § 100a Abs. 1 S. 2, S. 3 oder § 100b gestützt werden. § 100a Abs. 1 S. 2, S. 3 scheidet jedoch aus o.g. Gründen aus. Der – unabhängig vom komplizierten Konkurrenzverhältnis der Grundrechte vorliegende – zusätzliche heimliche Eingriff in das IT-Grundrecht nach Art. 2 Abs. 1 iVm Art. 1 Abs. 1 GG [Fn. 102] (neben dem Eingriff in Art. 10 Abs. 1 GG) kann nicht auf § 100a Abs. 1 S. 1 gestützt werden. Der Gesetzgeber hat für solche Eingriffe ausschließlich § 100a Abs. 1 S. 2, S. 3 und § 100b vorgesehen. Da es sich auch um eine „wesentliche“ Grundrechtsfrage handelt, [Fn. 103] kann diese Entscheidung auch nicht durch kreative Auslegung von § 100a Abs. 1 S. 1 umgangen werden (auch nicht durch den Bundesgerichtshof). Schließlich spricht gegen eine Anwendung von § 100a Abs. 1 S. 1, dass die beim Account-Cloning technisch gegebene Möglichkeit des Versendens von Nachrichten vom Account des Betroffenen durch die Ermittlungsbehörden vom Wortlaut des § 100a Abs. 1 („Überwachen und Aufzeichnen“) keinesfalls gedeckt ist.

Dementsprechend kann eine solche Maßnahme nur auf § 100b gestützt werden. Die Herstellung der Verbindung von Web Client zur Messenger-App des Betroffenen ist als Eingriff in ein informationstechnisches System mit technischen Mitteln zu verstehen. Eine Beschränkung auf die Verwendung von Spähsoftware enthält auch § 100b Abs. 1 nicht. § 100b Abs. 1 gestattet im Unterschied zu § 100a Abs. 1 S. 2, S. 3, Abs. 5 Nr. 1 auch die Erhebung von Kommunikationsdaten, die vor dem Anordnungszeitpunkt gesendet oder empfangen wurden. Auch erlaubt § 100b – entgegen seiner missverständlichen amtlichen Überschrift und Legaldefinition „Online-Durchsuchung“ – auch eine dauerhafte (innerhalb der Anordnungsfrist) Überwachung eines Systems, sodass von dieser Rechtsgrundlage auch die Erhebung der neu ein- und ausgehenden Nachrichten erfasst ist. Dass die hier beschriebene Maßnahme auf die Erhebung von Daten aus einer bestimmten Messenger-App beschränkt ist, kann bei der Verhältnismäßigkeit berücksichtigt werden (deutlich weniger Eingriffsintensiv als eine Online-Durchsuchung des gesamten Smartphone-Speichers).

Äußerst problematisch ist auch bei Anwendung der Vorschriften über die Online-Durchsuchung, dass die Behörden bei einer Maßnahme nach § 100b gemäß dessen Abs. 4 i.V.m. § 100a Abs. 5 S. 1 Nr. 2 technisch sicherstellen müssen, dass bei der Maßnahme an „dem informationstechnischen System nur Veränderungen vorgenommen werden, die für die Datenerhebung unerlässlich sind“. Wie oben geschildert, können die Behörden jedoch beim Account-Cloning auch Nachrichten vom Account des Betroffenen versenden und dadurch Daten in der Serverinfrastruktur und auf dem Smartphone des Betroffenen verändern. Diese Veränderung ist zur Datenerhebung aber nicht „unerlässlich“. Da es sich bei § 100a Abs. 5 S. 1 Nr. 2 i.V.m. § 100b Abs. 4 um eine materielle Zulässigkeitsvoraussetzung handelt (Ausprägung des Verhältnismäßigkeitsprinzips), [Fn. 104] ist das Account Cloning auch nach § 100b nur zulässig, wenn die Ermittlungsbehörden auf technischem Wege (nicht nur durch eine entsprechende rechtliche Beschränkung der Anordnung) sicherstellen, dass sie keine Nachrichten versenden und auch sonst keine Datenveränderungen auf Serverinfrastruktur oder Smartphone vornehmen können.

Fußnoten

95. https://web.telegram.org/ (Stand: 9.10.2020).
96. https://web.whatsapp.com/ (Stand: 9.10.2020).
97. https://www.tagesschau.de/inland/bka-whatsapp-101.html (Stand: 9.10.2020).
98. BGH 9.7.2020 – 2 BGs 468/20, BeckRS 2020, 49703.
99. Siehe BGH 14.10.2020 – 5 StR 229/19, NStZ 2021, 355.
100. BGH 9.7.2020 – 2 BGs 468/20, BeckRS 2020, 49703.
101. BGH 9.7.2020 – 2 BGs 468/20, BeckRS 2020, 49703; Köhler in Meyer-Goßner/Schmitt § 100a Rn. 6e; aA Von zur Mühlen, Zugriffe auf elektronische Kommunikation, S. 406.
102. Siehe hierzu Freiling/Safferling/Rückert JR 2018, 9 (20 ff.).
103. Zur sog. Wesentlichkeitslehre siehe BVerfG 8.8.1978 – 2 BvL 8/77, BVerfGE 49, 89 (126 f.); 16.6.1981 – 1 BvL 89/78, BVerfG 57, 295 (327); 27.11.1990 – 1 BvR 402/87, BVerfGE 83, 130 (142); 6.7.1999 – 2 BvF 3/90, BVerfGE 101, 1 (34) jeweils mwN aus der vorgehenden verfassungsgerichtlichen Rspr.; Grzesick in Dürig/Herzog/Scholz GG Art. 20 VI Rn. 105; Hauck, Heimliche Strafverfolgung und Schutz der Privatheit, S. 141.
104. Köhler in MeyerGoßner/Schmitt § 100a Rn. 14l; Freiling/Safferling/Rückert JR 2018, 9 (12).

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Eine Untersuchung hat sich angeschaut, wann bei Google welche KI-Ergebnisse beim Thema Landtagswahlen angezeigt werden. Dabei kam vor allem heraus: Der Suchmaschinenkonzern handelt intransparent und wenig nachvollziehbar.

Die Untersuchung vergleicht die Ergebnisse von Google mit dem Glücksspiel Roulette. – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Hush Naidoo

Im September wird in den Bundesländern Sachsen-Anhalt, Berlin und Mecklenburg-Vorpommern gewählt. Die Nichtregierungsorganisation AlgorithmWatch hat deswegen untersucht, wie Googles KI-Übersichten mit Fragen zu wahlbezogenen Inhalten umgehen. Solche Übersichten spielt der Konzern bei rund der Hälfte aller Suchanfragen seit Anfang 2025 in Deutschland aus. Inzwischen informieren sich viele Nutzer:innen schnell über diese KI-erstellten Informationshäppchen, ohne auf die eigentliche Quelle zu klicken.

Dabei handelt Google jedoch intransparent, kritisiert AlgorithmWatch in ihrer Studie. So sei unklar, unter welchen Umständen Google die KI-Übersichten anzeigt. Wenn sie eingeblendet werden, dann sei die Vielfalt der Quellen begrenzt, die bei den Antworten herangezogen wird. Festgestellt hat die Untersuchung auch, dass die KI-Übersichten nicht neutral formuliert seien.

Google selbst gebe keine Auskunft darüber, nach welchen Kriterien KI-Übersichten angezeigt werden, so AlgorithmWatch. „Damit gestaltet der Konzern den Zugang zu politischen Inhalten augenscheinlich willkürlich. Ein solches Informationsroulette kann negative Auswirkungen auf die politische Meinungsbildung haben und damit zu einem Problem für die Demokratie werden“, so die Organisation.

Für die Untersuchung hatte AlgorithmWatch Zugang zu Googles „Search Researcher Result“-Softwareschnittstelle, über die seit dem Digital Services Act Forscher:innen auf bestimmte interne Daten von Online-Diensten zugreifen und diese analysieren können. Über die Schnittstelle stellte AlgorithmWatch im vergangenen Juli fast 4.500 Suchanfragen zu den Wahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin, erfasste die Ergebnisse und wertete die KI-Übersichten sowie deren Quellen dann aus.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Fragen nach Wahlen werden besonders behandelt

Dabei konnte die Untersuchung immerhin herausfinden, dass Google bei wahlbezogenen Fragen deutlich seltener KI-Übersichten als bei unpolitischen Fragen generiert. AlgorithmWatch geht deswegen davon aus, dass Google im Hintergrund besondere Maßnahmen für Wahlen ergreife – welche genau, bleibe aber unklar.

Generell sei allerdings keine Systematik in der Untersuchung erkennbar gewesen, nach welchen Kriterien die KI-Übersichten gezeigt wurden: So lösten Fragen nach Umfragen durchgängig keine KI-Übersicht aus, während Fragen zu Parteien und einzelnen Kandidat:innen in 40 bis 50 Prozent der Fälle zu einer KI-Übersicht führen. Auch zwischen den Bundesländern gibt es Unterschiede: Google zeigt bei Fragen zu Sachsen-Anhalt deutlich weniger KI-Übersichten an als bei Fragen zu den Wahlen in Berlin und Mecklenburg-Vorpommern.

AlgorithmWatch konnte auch feststellen, dass die Anzahl der in den KI-Übersichten hinterlegten Quellen gering war. So führte fast die Hälfte der angezeigten Links zu weniger als zehn Quellen und überdurchschnittlich häufig zum Videodienst YouTube, der zum Google-Konzern gehört. Unter den zehn top-referenzierten Webseiten seien öffentlich-rechtliche Sender, Wikipedia, weitere Social-Media-Plattformen sowie Regierungs- und Partei-Websites gewesen.

Neigung zur Schmeichelei

AlgorithmWatch hat in der Untersuchung außerdem festgestellt, dass politische Positionen der Kandidat:innen in KI-Übersichten „häufig nicht neutral, sondern mit positiven Formulierungen wiedergegeben werden.“ Dies liege laut der Untersuchung womöglich daran, dass generative Sprachmodelle zu Schmeichelei neigen (englisch „Sycophancy“, zu deutsch: „Sykophanz”), also die Meinung der Fragestellenden bestätigen. Im politischen Kontext ist dies nach Ansicht von AlgorithmWatch problematisch, da Wählende neutrale Informationen benötigen würden, um sich selbst ein Bild der Kandidierenden machen zu können.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Von AlgorithmWatch mit den Ergebnissen konfrontiert, habe sich Google lediglich unverbindlich geäußert. Der Suchmaschinenkonzern sagte, dass die KI-Suchfunktionen qualitativ hochwertige Informationen aus einer vielfältigen Breite von Internet-Quellen anzeigen würden und auf den zentralen Ranking- und Sicherheitssystemen von Google basierten. „Die KI-Suchfunktionen sind so gestaltet, dass sie neutral und objektiv sind und, wie wir an anderer Stelle gesagt haben, erscheinen sie nicht bei jeder Suche”, so der Konzern gegenüber AlgorithmWatch weiter.

Fehlende Transparenz

Clara Helming hat die Untersuchung geleitet. Sie sieht das Problem in der fehlenden Transparenz: „Unsere Ergebnisse deuten darauf hin, dass Google im Hintergrund bewusste Entscheidungen trifft, wann eine KI-Übersicht zu den Wahlen angezeigt wird, wie die Inhalte formuliert sind und welche Quellen zitiert werden. Allerdings macht das Unternehmen diese Entscheidungen nicht transparent.“ Das sei problematisch, denn Googles Produktentscheidungen würden die Meinungsfreiheit beeinflussen und an dieser Stelle vor allem den Zugang zu verlässlichen Informationen und vielfältigen Quellen.

Matthias Spielkamp, Geschäftsführer bei AlgorithmWatch, sieht noch ein anderes Problem. Der Konzern eigne sich bei den KI-Übersichten massenhaft journalistische und andere Inhalte an, ohne um Erlaubnis zu fragen. Der Konzern greife damit „massiv die Finanzierungsmodelle privater journalistischer Medien und die Legitimität öffentlich-rechtlicher Angebote an“, so Spielkamp weiter. Er fordert: „Alle Anbieter generativer KI müssen transparent darüber informieren, wie KI-generierte Inhalte zustande kommen und sollten die Haftung für diese Inhalte übernehmen müssen.”

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

KI-Brillen geraten derzeit als Werkzeuge für heimliche Überwachung und digitale Gewalt in die Kritik. Rufe nach einem Verbot werden laut. Für Menschen mit einer Sehbehinderung können sie hingegen im Alltag vieles leichter machen. Wie gehen sie mit diesem Konflikt um?

Meta bewirbt seine Brillen gerne als Werkzeug für Barrierefreiheit. – Alle Rechte vorbehalten: Imago / ZUMA Press Wire

Mehr als 7 Millionen seiner neuen AI Glasses hat Meta bislang weltweit verkauft – die meisten davon an Menschen, die die Hände frei haben wollen, während sie ihre Umgebung filmen oder sich durch die Stadt navigieren lassen. Nur ein Bruchteil davon wird hingegen von Menschen mit einer Sehbehinderung genutzt. Sie können sich damit im Alltag die Umgebung beschreiben, Texte vorlesen oder durch die Stadt lotsen lassen. Meta bemüht sich immer wieder darum, die Brillen auch als Werkzeug für Barrierefreiheit darzustellen.

In Irland hat das Unternehmen gerade öffentlichkeitswirksam angekündigt, 15.000 Exemplare seiner Brillen an Menschen mit einer Sehbehinderung zu spenden. Der Verband Vision Ireland wird sie über die kommenden Monate verteilen und die Nutzer*innen schulen. Für den Konzern, der mit dem Anbieter “Be My Eyes” kooperiert, um Blinde über die Brille mit sehenden Freiwilligen zu verbinden, ist das auch ein großes Versuchslabor. Wenn App-Anbieter in Zukunft neue Funktionen für die Brille entwickeln, finden sie hier eine solide Nutzer*innenbasis.

Misstrauisch macht der Deal dennoch. Ist das nicht ein bisschen viel Wohltätigkeit-Getue, wenn man bedenkt, dass die Brille gar nicht in erster Linie für blinde Menschen entwickelt wurde?

Vor allem die eingebaute Kamera in den Brillen sorgt seit der Markteinführung für ziemlichen Ärger. Ein kleines weißes Lämpchen soll darauf hinweisen, dass die Brille gerade aufzeichnet. Ob das jedoch reicht, um Umstehende zu warnen, das ist gerade Gegenstand erbitterter Auseinandersetzungen.

Befeuert wird diese Debatte von sogenannten “Rizzfluencern”, die mit der Brille gezielt heimlich Frauen filmen und bloßstellen. Die AI Glasses sind auf dem besten Wege, als “Spannerbrille” in Verruf zu geraten. Erste Kneipen und Veranstalter verbieten schon das Tragen, in Potsdam sind sie auch in Schwimmbädern nicht mehr erlaubt.

Was sagen zu all dem eigentlich diejenigen Menschen, die Meta so gerne ins Zentrum seiner Image-Kampagne stellt? Christiane Möller ist Justiziarin beim Deutschen Blinden- und Sehbehindertenverband (DBSV). Sie selbst will die Brille nicht. Sie möchte die Marketing-Aktion aber auch nicht verurteilen. Für andere könne sie ein Mehr an Möglichkeiten bringen.

netzpolitik.org: Haben Sie die Meta-Brille schon ausprobiert – und was verändert sie im Alltag?

Christiane Möller ist Justiziarin und stellvertretende Geschäftsführerin beim DBSV. – Alle Rechte vorbehalten: DBSV/Ziebe

Christiane Möller: Menschen aus unserem Verband haben Sie getestet. Die Brille ist ja nie dazu entwickelt worden, Hilfsmittel zu sein. Trotzdem entdecken viele Blinde und Sehbehinderte, dass man damit die Selbstständigkeit im Alltag deutlich erhöhen kann. Als blinder Mensch fehlen mir normalerweise Informationen aus der Umwelt. Wie sieht eine Straßenszenerie aus? Hängt da ein Plakat? Diese Informationen hat man einfach nicht, wenn man nicht sieht. Die Brille gleicht dieses Defizit aus. Das bedeutet einen großen Sprung an Teilhabe und das macht sie für viele Blinde und sehbehinderte Menschen sehr interessant.

netzpolitik.org: Haben Sie selbst auch eine?

Christiane Möller: Nein. Das ist aber eine persönliche Entscheidung.

netzpolitik.org: Würden sie sich Zeitungstexte von der Brille vorlesen lassen?

Christiane Möller: Nein, dafür ist sie nicht gut geeignet. Das ist ein generelles Problem von KI-Systemen. Sie lesen Text nicht einfach vor, sondern interpretieren ihn gleich und sortieren ihn. Für das reine wortgetreue Vorlesen würde ich andere Apps nutzen. Die lassen sich mit der Brille allerdings häufig nicht koppeln.

netzpolitik.org: Haben Sie auch Bedenken, was mit den Bildern und Daten geschieht, die die Brille aufzeichnet?

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Christiane Möller: Egal ob mit den Smart Glasses oder anderen Apps. Ich muss mir jedes Mal aufs Neue die Frage stellen: Was lese ich und wo gehen diese Daten hin? Sind sie sicher aufgehoben? Bei einer Lebensmittelverpackung oder Gebrauchsanleitung ist das vielleicht weniger wichtig. Da will ich vor allem, dass die Ausgabe korrekt ist. Aber wenn ich den Brief von der Bank lese, will ich schon wissen: Liest da jemand mit?

netzpolitik.org: Die Frage wurde im Fall von Meta schon beantwortet. Medien haben aufgedeckt, dass Bilder aus den Meta-Brillen zum Teil bei Datenarbeiter*innen in Kenia gelandet sind. Macht ihnen das Sorgen?

Christiane Möller: Das betrifft ausdrücklich nicht nur Meta. Das ist ein Problem bei allen KI-Produkten. Wir benutzen diese Systeme gerade als blinde und sehbehinderte Menschen viel, weil sie uns potenziell zusätzliche Freiheit und Selbstbestimmung geben können. Gleichzeitig ist es ein totales Dilemma, dass man diesen Zugewinn an Teilhabe womöglich mit seiner Privatsphäre bezahlt. Letztlich stellt sich bei all diesen Systemen die Frage, womit bezahle ich diesen Zugewinn an Informationen? Mit Geld oder mit meinen Daten?

netzpolitik.org: Wo liegt denn der Mehrwert der Brille gegenüber anderen speziell für Blinde entwickelten Hilfsmitteln?

Christiane Möller: Viele nutzen das zur Orientierung. Wenn ich zum Beispiel eine bestimmte Treppe auf einem Platz suche, kann ich mich dahin lotsen lassen. Oder ich kann mir die Öffnungszeiten einer Arztpraxis vorlesen lassen.

netzpolitik.org: Das geht theoretisch auch mit anderen Apps zur Navigation oder Texterkennung.

Christiane Möller: Aber die Brille bietet den Vorteil, dass ich dabei die Hände frei habe. Wenn ich unterwegs bin, habe ich oft einen Blindenstock oder einen Führhund dabei. Da hat man immer eine Hand zu wenig. Mit der Brille muss ich nicht zusätzlich mein Smartphone in die Hand nehmen und hoch halten, während ich noch einen Stock und eine Tasche trage. Ich kommuniziere mit der Brille über Sprache. Das ist ein wesentlicher Vorteil. Zugleich bleibt wegen der Knochenleittechnik das Ohr frei und ich höre parallel zu dem, was die Sprache der Brille ausgibt, meine Umgebung.

netzpolitik.org: Meta macht mit der Barrierefreiheits-Funktion sehr prominent Öffentlichkeitsarbeit, zuletzt etwa durch die Spende von 15.000 Brillen an Sehbehinderte in Irland. Wie finden Sie das?

Christiane Möller: Für blinde und sehbehinderte Menschen in Irland ist es gut, wenn sie leichter Zugang zu Möglichkeiten von KI-Produkten erhalten. Nicht jeder kann sich das finanziell leisten. Wenn Sie die Werbewirksamkeit einer solchen Aktion ansprechen, ist das aus meiner Sicht Teil der Marktwirtschaft. Ich halte das weder für gut noch für schlecht. Menschen ohne Behinderung kaufen ja nicht die Brille, weil Meta solche Kampagnen macht, sondern weil sie einen Mehrwert darin sehen.

netzpolitik.org: Sie fühlen sich nicht instrumentalisiert?

Christiane Möller: Auch bei uns sind nicht alle nur begeistert über die Brille. Menschen mit Sehbehinderung sind ja auch unterschiedlich und ein Abbild der Gesellschaft. Die Reaktionen sind entsprechend vielfältig. Das wird sehr kritisch reflektiert. Allerdings ist der Druck bei uns etwas größer, weil das nicht einfach ein Gadget für bessere Urlaubsvideos ist, sondern es darum geht, den Alltag zu erleichtern.

Was mir aber wichtig ist: Jetzt gerade geht es um Meta, aber die Debatten um Produkte bestimmter Firmen führen wir schon länger. Wenn man ein paar Jahre zurück geht, hatten wir die Diskussionen in der Community um Apple oder Android. Apples Betriebssystem war von Anfang an sehr barrierefrei, Android weniger.

Ich sehe was, was du nicht siehst

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

netzpolitik.org: Was wünschen Sie sich von den Unternehmen?

Christiane Möller: Menschen mit einer Sehbehinderung sollten genau wie Menschen ohne Behinderung eine Auswahl treffen können zwischen verschiedenen Produkten. Voraussetzung dafür ist, dass alle diese Produkte barrierefrei gebaut sind, sodass ich mich als Verbraucherin entscheiden kann und nicht nur entlang der Frage, kann ich ein Produkt überhaupt bedienen? Sondern: gefällt mir die Firmenphilosophie, das Konzept?

So wie Menschen ohne Behinderung wollen auch wir, dass unsere persönlichen Daten geschützt sind – unabhängig davon, welcher Konzern das am Ende ist, ob Apple, Meta oder Google. Wir möchten uns genau wie alle anderen auch darauf verlassen dürfen, dass da kein Missbrauch stattfindet.

netzpolitik.org: Die Kamera- und Livestream-Funktion der Brille hat bereits für viel Ärger gesorgt. Sie gerät als “Spannerbrille” in Verruf, Organisationen wie HateAid und der Hamburger Datenschutzbeauftragte plädieren inzwischen für ein Verbot. Wie gehen sie als Verband damit um?

Christiane Möller: Menschen heimlich zu filmen und das ins Netz zu stellen, geht gar nicht. Wir verstehen, dass das für Empörung sorgt. Wir können da keine Lösungen präsentieren. Aber wir haben selbst ein großes Interesse, den Missbrauch einzuhegen. Die Debatte kann kippen, da geht es auch um Stigmatisierung. Am Ende werden womöglich Blinde beschimpft, weil sie solche Brillen als Hilfsmittel einsetzen.

Ein komplettes Verbot sehe ich trotzdem kritisch. Ich glaube, das lässt sich ohnehin nicht mehr aufhalten. Wir müssen eher eine gesellschaftliche Debatte führen, wie wir den Missbrauch aufhalten. Wie zähme ich die Technik und hege sie so ein, dass wir sie zu unser aller Nutzen einsetzen können? Mir wäre lieber, wir schaffen es, den Missbrauch zu bekämpfen und nicht die Technik an sich.

netzpolitik.org: Auch bei einem Verbot für Normalverbraucher*innen könnten rechtliche Ausnahmen für Menschen mit Sehbehinderung geschaffen werden.

Christiane Möller: Meta hat kein Blinden-Hilfsmittel entwickelt. Ich glaube nicht, dass sie die Brillen nur für blinde Menschen auf dem Markt lassen würden. Das wäre wirtschaftlich nicht interessant, die Brillen würden nicht weiter entwickelt und das war es dann.

netzpolitik.org: Was müsste sich denn ändern, damit diese Technologien wirklich im Sinne von echter Inklusion entwickelt werden?

Christiane Möller: Uns ist wichtig, dass die Kunden eine Auswahlmöglichkeit haben. Alle Anbieter sollten grundsätzlich barrierefreie Funktionen haben, sodass ich mich gezielt als Verbraucherin entscheiden kann, welches System ich nutze. Da sind wir in Deutschland noch lange nicht. Das zweite: Es wäre schön, wenn man alle möglichen Apps, die für Sehbehinderte entwickelt wurden, damit koppeln kann – also nicht mit Apple nur Firma X und mit Meta nur Firma Y, sondern übergreifend über alle Systeme. Und letztlich wäre über all diese Produkte hinweg wichtig, dass ich mich darauf verlassen kann, eine Art Safe Space zu haben. Wo ich weiß, wenn ich den Brief von der Bank scanne, kann ich mich darauf verlassen, dass die Daten nicht für das Training der KI verwendet werden oder nach außen dringen.

netzpolitik.org: Was würden Sie Betroffenen raten, die aktuell überlegen, sich solch ein Gerät anzuschaffen?

Christiane Möller: Ich würde ihnen raten, möglichst vieles auszuprobieren und sich vorab gut zu informieren, sich auch mit anderen sehbehinderten Menschen auszutauschen. Also letztlich das, was man vor jeder technischen Anschaffung tun sollte.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Menschenrechtsorganisationen warnen seit Jahren vor einer Ausweitung der geplanten Chatkontrolle auf weitere Straftaten. Der sächsische Innenminister Armin Schuster fordert diese nun für die in Brüssel verhandelte anlassbezogene Chatkontrolle – und hält das für einen Kompromiss.

Der sächsische Innenminister Armin Schuster, CDU (Archivbild) – Alle Rechte vorbehalten: IMAGO / Matthias Wehnert

Der sächsische Innenminister Armin Schuster (CDU) hat für die EU-Verhandlungen zur Chatkontrolle die Ausweitung einer anlassbezogenen Chatkontrolle auf weitere Straftaten außer der sexualisierten Gewalt gegen Kinder gefordert.

In einer schon im November 2025 veröffentlichten Antwort des Innenministeriums auf einen Antrag der AfD-Fraktion heißt es zwar, dass vermieden werden müsse, die digitale Kommunikation vieler Unbeteiligter unterschiedslos und verdachtsunabhängig mit Maßnahmen zu belegen. Stattdessen fordert Schuster aber eine Ausweitung bei einer möglichen anlassbezogenen Chatkontrolle:

Kompromissfähig könnte sein, dass ein effektiver Kinderschutz durch gezielte Maßnahmen bei konkretem Verdacht und mit richterlicher Genehmigung erfolgen dürfe. Gleiches könnte zur Verhinderung schwerster Straftaten, bei der Terrorabwehr und der Strafverfolgung zur Bekämpfung extremistischer Strukturen gelingen. Eine solche gesetzliche Grundlage ist nicht ausgeschlossen.

Bislang wird bei der CSA-Verordnung der EU, besser bekannt als Chatkontrolle-Verordnung, der Fokus auf die Bekämpfung von sogenannter Kinderpornografie gesetzt. Dafür wollte die EU-Kommission ursprünglich technische Anbieter verpflichten, Chats und Kommunikationen automatisiert nach solchem Material zu durchsuchen. Dieses Vorhaben, welches auch die Ende-zu-Ende-Verschlüsselung obsolet gemacht hätte, ist vorerst abgewendet. Die EU-Verordnung zur Chatkontrolle befindet sich weiterhin in den Trilog-Verhandlungen zwischen EU-Kommission, EU-Parlament und Rat.

Einfallstor für weitere Überwachung

Bürgerrechtsorganisationen hatten in der Vergangenheit immer wieder gewarnt, dass die Verordnung ein Einfallstor sein könnte, um die Überwachung auch auf andere Felder auszuweiten. In der Vergangenheit hatten einige EU-Abgeordnete schon eine Ausweitung auf andere Straftaten und Anlässe gefordert.

Die Forderung des sächsischen Innenministeriums wurde einer größeren Öffentlichkeit erst durch eine Sachverständigenanhörung im Sächsischen Landtag zum Thema Chatkontrolle am vergangenen Montag bekannt. In der Anhörung stellten sich alle anwesenden Sachkundigen unisono gegen eine anlasslose Chatkontrolle und den Einsatz von Client-Side-Scanning. Auch dort war eine mögliche Ausweitung der Zwecke („Function Creep“)  Thema und wurde von mehreren Sachverständigen als Gefahr bezeichnet. Auch die freiwillige Chatkontrolle, wie sie im Juli vom EU-Parlament beschlossen wurde, bewerteten mehrere Sachverständige als grundrechtswidrig.

Transparenzhinweis:
Der Autor war einer der Sachverständigen im Landtag.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die geplante Geheimdienstreform der Bundesregierung alarmiert die Ärzteschaft. Sie gefährde das Patientengeheimnis und damit die Gesundheitsversorgung selbst, warnt Carsten Dochow von der Bundesärztekammer im Gespräch mit netzpolitik.org.

Wer hört beim vertraulichen Arztgespräch künftig mit? – Arzt: Sasun Bughdaryan, Unsplash, Ohr: rawpixel.com, Montage: netzpolitik.org

An den Plänen der Bundesregierung, die Geheimdienste umfassend zu reformieren, gibt es massive Kritik – auch aus der Ärzteschaft.

Sie sieht vor allem zwei Vorschriften kritisch. Paragraf 22 des geplanten BND-Gesetzes und Paragraf 32 des geplanten Bundesverfassungsschutzgesetzes. Die beiden Paragrafen regeln, aus welchen vertraulichen Beziehungen die Geheimdienste keine Informationen gezielt beschaffen dürfen. Dazu zählen etwa Beziehungen von Geistlichen, Anwält:innen und Bundestagsabgeordneten, nicht aber die von Ärzt:innen.

Die Bundesärztekammer warnt davor, dass dies das besonders geschützte Vertrauensverhältnis zwischen Patient:innen und Ärzt:innen gefährde und damit die Gesundheitsversorgung als solche.

Wir haben darüber mit Dr. jur. Carsten Dochow gesprochen. Er leitet die Rechtsabteilung der Bundesärztekammer, die Spitzenorganisation der ärztlichen Selbstverwaltung mit Sitz in Berlin.

„Die Schweigepflicht ist eine Grundvoraussetzung“

netzpolitik.org: Herr Dochow, warum äußert sich die Ärzteschaft zu einer Geheimdienstreform?

Carsten Dochow: Der Gesetzentwurf der Bundesregierung betrifft Patientinnen und Patienten direkt, weil die geplanten Regelungen das Patientengeheimnis berühren und die geschützte Vertrauensbeziehung zwischen Ärzten und Patienten untergraben.

Patienten vertrauen ihren Ärzten sensible Sachverhalte an – auch über psychische oder Suchterkrankungen. Auf diese Informationen könnten Nachrichtendienste zugreifen, wenn das Gesetz vom Bundestag so verabschiedet würde.

Dazu muss man wissen: Die ärztliche Schweigepflicht ist eine Berufspflicht von Behandelnden. Seit dem Eid des Hippokrates gehört sie zum Selbstverständnis der Ärzteschaft. Dazu zählt auch, Geheimnisse geschützt zu halten. Das wird durch die Eingriffsbefugnisse der Nachrichtendienste ausgehebelt.

netzpolitik.org: Sie befürchten also, dass die medizinische Behandlung leidet, weil ein Geheimdienst mithören könnte?

Carsten Dochow: Gewissermaßen schon. Der Grundgedanke des Patientengeheimnisses ist, dass sich Patientinnen und Patienten ihren Ärzten rückhaltlos anvertrauen und intime Sachverhalte offenbaren. Dieses Vertrauen ist die Grundvoraussetzung für jegliche medizinische Behandlung.

Manche Personen könnten davon absehen, sich in Behandlung zu begeben, wenn sie wissen, dass sie dann Überwachungsmaßnahmen ausgesetzt sein könnten. Insofern ist die Schweigepflicht auch ein wichtiges Gemeinwohlinteresse, weil sie eine Grundvoraussetzung für eine funktionierende Gesundheitsversorgung ist.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

netzpolitik.org: Aber die Zahl derer, die in einer Arztpraxis vom Geheimdienst beobachtet werden, dürfte eher klein sein, oder?

Carsten Dochow: Über tatsächliche Zahlen kann ich nichts sagen. Ich weiß nicht, wie viele Menschen von Geheimdiensten überwacht werden.

Uns geht es um die Breitenwirkung des Gesetzes auf die gesellschaftliche Wahrnehmung. Die Voraussetzung des Geheimnisschutzes ist, dass man darauf vertrauen kann, dass er gewahrt wird – unabhängig davon, wie oft dieser verletzt wird.

„Das ist verfassungsrechtlich bedenklich“

netzpolitik.org: Laut Gesetzentwurf sollen die Geheimnisse von Rechtsanwält:innen absolut geschützt sein, die von Ärzt:innen aber nicht. Warum gibt es diese Ungleichbehandlung?

Carsten Dochow: Dafür sehen wir keinen sachlichen Grund. Bei aller Wertschätzung für den anwaltlichen Beruf sind die Geheimnisse im Arzt-Patienten-Verhältnis mindestens ebenso schützenswert. Es gibt aus unserer Sicht kein überzeugendes Argument dafür, dass Informationen im Mandantenverhältnis wesentlich schutzwürdiger sind als im Arzt-Patienten-Verhältnis.

Das Bundesverfassungsgericht hat das bereits in den 1970er-Jahren entschieden. Personen, die sich in ärztliche Behandlung begeben, sollen demnach darauf vertrauen dürfen, dass Offenbartes nicht zur Kenntnis Dritter gelangt. Das ist eine essenzielle Vorstellung für den Schutz des Persönlichkeitsrechts.

Und auch beim früheren BKA-Gesetz hat das Bundesverfassungsgericht klargestellt, dass eine Unterscheidung zwischen Strafverteidigern und sonstigen Rechtsanwälten nicht sachgemäß ist. Die geplante Reform sollte einen ähnlichen Fehler nicht erneut begehen.

netzpolitik.org: Sie gehen davon aus, dass der Gesetzentwurf gegen das Grundgesetz verstößt?

Carsten Dochow: Ja, wir sehen hier – ausgehend von den Eingriffen in das Persönlichkeitsrecht der Patientinnen und Patienten – einen Verstoß. Wenn zudem zwischen zwei Berufsgruppen differenziert wird, ohne dass dafür ein klarer sachlicher Grund vorliegt, ist die Gleichbehandlung nicht gewahrt. Und das ist verfassungsrechtlich bedenklich.

„Behandlungsteam gehört in den Schutzbereich“

netzpolitik.org: Für die Arbeit des Verfassungsschutzes sieht der Gesetzentwurf immerhin einen relativen Schutz für Ärzt:innen vor. Hier liegen die Hürden damit etwas höher, die besonders geschützte Vertraulichkeit im Arzt-Patienten-Verhältnis zu verletzen. Reicht Ihnen das nicht?

Carsten Dochow: Nein, da wir oftmals den Kernbereich der privaten Lebensführung berührt sehen, halten wir einen absoluten Schutz wie bei Anwältinnen und Anwälten für erforderlich. Wenn intimste Informationen betroffen sein können, darf das nicht einer Abwägungsentscheidung einer Behörde überlassen sein. Sondern es muss ein absoluter Schutz bestehen, damit das Vertrauen zwischen Ärzten und Patienten überhaupt entstehen kann.

netzpolitik.org: Sollte neben den Ärzt:innen auch das Praxispersonal als Berufsgeheimnisträger:innen eingestuft werden?

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Carsten Dochow: Das Praxispersonal gehört natürlich in diese zu schützende Sphäre hinein, sonst wird der Geheimnisbereich löchrig. Es nimmt an diesem engen Vertrauensverhältnis teil und erfährt – allein durch Anwesenheit bei der Behandlung oder die Dokumentation – wesentliche Informationen. Und da Mitarbeitende ebenfalls der Verschwiegenheit unterliegen, wäre eine Ausweitung des Schutzes auf sie nur konsequent.

„Wir fordern Beschlagnahmeschutz für die ePA“

netzpolitik.org: Die Bundesvereinigung Deutscher Apothekerverbände und die Kassenärztliche Bundesvereinigung (KBV) fordern ebenfalls die Gleichstellung der Heilberufe. Ziehen Sie hier an einem Strang?

Carsten Dochow: Definitiv. Unsere Argumentation geht vollständig in die gleiche Richtung.

Das gilt auch für das Thema elektronische Patientenakte (ePA). Die ePA wird allerdings nicht von den Arztpraxen, sondern von den Krankenkassen geführt. Für die digitale Akte fordern wir unabhängig vom aktuellen Gesetzgebungsvorhaben schon lange einen rechtsklaren Beschlagnahmeschutz.

Einen solchen Schutz hat Bundesjustizministerin Stefanie Hubig vor Monaten versprochen. Bislang haben wir noch keinen entsprechenden Gesetzentwurf gesehen.

netzpolitik.org: Die KBV fordert zudem, das Hacken und Eindringen in die Praxis-IT gesetzlich auszuschließen.

Carsten Dochow: Das sehen wir als Bundesärztekammer genauso. Was das Infiltrieren von Praxissystemen angeht – wo die Primärdokumentation mit den Versichertendaten liegt –, müssen derartige Maßnahmen strikt begrenzt werden. Sonst erreichen wir nicht den gewünschten absoluten Schutz der Gesundheitsdaten.

„Für die Interessen der gesamten Gesellschaft“

netzpolitik.org: Die Politik begründet die Reform mit einer verschärften Bedrohungslage. Werden Sie mit Ihren Einwänden als Bremser wahrgenommen?

Carsten Dochow: Diese Erfahrung machen wir regelmäßig. Jedes Mal, wenn darüber geredet wird, dass Sicherheitsgefahren drohen, gibt es in der Politik den Reflex, Grund- und Persönlichkeitsrechte einseitig zugunsten der Sicherheit einzuschränken. Das ist ein Denkfehler. Auch in Krisenzeiten muss eine gute Balance zwischen Freiheit und Sicherheit gefunden werden.

Wir agieren dann aber nicht als Bremser, auch jetzt nicht. Sondern wir treten für die Interessen der Patienten und Ärzte sowie der gesamten Gesellschaft ein. Wir sind überzeugt, dass ein verlässlich geschützter Raum für das Arzt-Patientengeheimnis die Grundvoraussetzung für eine funktionierende Gesundheitsversorgung ist.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 35. Kalenderwoche geht zu Ende. Wir haben 20 neue Texte mit insgesamt 161.008 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser:innen,

der Begriff „Shrinking Spaces“ beschreibt, wie Räume für die kritische Zivilgesellschaft immer enger werden. Früher wurden in diesem Zusammenhang vor allem Länder wie Ungarn, die Türkei oder Kasachstan genannt. Oder Russland, Äthiopien und Venezuela.

In der Regel werden die Räume für die Zivilgesellschaft enger, weil lokale Regierungen der Zivilgesellschaft das Leben schwer machen. Das kann über das Gemeinnützigkeitsrecht gehen, über „Agenten-Gesetze“, die ausländisches Geld für die Zivilgesellschaft verbieten, über Einschüchterungen und Klagen oder über die Einschränkung des Versammlungsrechts. Es gibt zahllose Möglichkeiten, die Regierungen nutzen, um sich kritischer Stimmen zu entledigen oder diesen zumindest Steine in den Weg zu legen. Auch in Deutschland.

Derzeit lässt sich aber noch eine andere Stoßrichtung bei den Shrinking Spaces beobachten: Die rechtsradikale Trump-Regierung greift von außen in die Zivilgesellschaften anderer Länder ein, um diese zu kriminalisieren, zu stören, zu behindern und zu schwächen. Ziel der rechten Regierung ist hierbei vor allem der politisch linke Teil der Zivilgesellschaft.

Beispiele für das Eingreifen der USA in die deutsche Zivilgesellschaft waren zuletzt die Sanktionen gegen HateAid, bei denen Akteurinnen der NGO mit einem Reiseverbot belegt wurden, oder die Einstufung der Antifa-Ost – was immer das auch sein soll – als Terrorgruppe. Letzteres hatte zur Folge, dass der Rechtshilfegruppe „Rote Hilfe“ Bankkonten gesperrt wurden, weil die Banken offenbar Angst hatten, in den Strudel der US-Sanktionen zu geraten.

Freiheiten in Gefahr

Nun hat die US-Regierung zu einem weiteren Schlag angesetzt. Im Visier ist ein linkes Internetkollektiv aus Italien, das seit einem Vierteljahrhundert Internetservices und Webseiten für Tausende politische Gruppen aus ganz Europa zur Verfügung stellt. Mehr als 10.000 politische Blogs und 1.500 Webseiten nutzen die kostenlosen Dienste des spendenfinanzierten Kollektivs.

Seit 2001 hat das Kollektiv politischen Gruppen und Initiativen eine Präsenz im Netz ermöglicht und damit Bewegungsgeschichte geschrieben. In den Archiven lassen sich Debatten, Proteste und Ereignisse aller Art nachvollziehen, ein Füllhorn an politischer Aktivität und gesellschaftlicher Auseinandersetzung  – unabhängig davon, wie man persönlich zu den einzelnen Gruppen steht.

Am Mittwoch hat die US-Regierung das Internetkollektiv Autistici/Inventati zu einer Terrorgruppe deklariert, samt den dazugehörigen Sanktionen. Seit Freitag sind die unter einer .org-Domain gehosteten Services nicht mehr erreichbar, offenbar weil die zuständige Domainverwaltung kalte Füße bekommen hat.

So schnell geht es! So schnell werden Tausende politische Gruppen durch den Eingriff der US-Regierung Opfer haltloser Terroranschuldigungen. So schnell kann eine Regierung Webseiten ausradieren – ohne ein einziges Verfahren geführt zu haben, ohne einen einzigen Beweis vorgelegt zu haben, ohne einen einzigen Server zu beschlagnahmen.

Man muss nicht besonders links sein, um diese Angriffe auf die Meinungsfreiheit, Handlungsfähigkeit und politische Unabhängigkeit europäischer Zivilgesellschaften zu verurteilen. Hier werden Räume der politischen und pluralen Auseinandersetzung attackiert, verengt und zerstört. Die USA agieren hier als Unterstützer rechtsradikaler Bewegungen und Parteien in Europa, die diese Attacken selbst politisch nicht durchsetzen können.

Es geht bei der Sache um mehr als um ein kleines linkes italienisches Internetkollektiv. Denn am Ende verliert bei solchen Methoden nicht nur ein Teil der Zivilgesellschaft Internetservices und Webseiten, sondern wir als europäische Gesellschaften ein Stück Freiheit, Unabhängigkeit und Demokratie. Das dürfen wir nicht zulassen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Es grüßt Euch besorgt und wütend

Markus Reuter

Breakpoint: Aufruf zu digitalem Ungehorsam

Überwachung ist ein mächtiger Zensor, der uns gehorsam werden lässt. Selbst dann, wenn sie gar nicht stattfindet. Deshalb ist jetzt die Zeit für mehr Kritik und Aufmüpfigkeit. Von Carla Siepmann –
Artikel lesen

Verhaltensscanner in Berlin: Jetzt beginnt die automatisierte Überwachung

Am Kottbusser Tor in Berlin werden seit Sonntag rund 30 Überwachungskameras installiert und an ein KI-System angeschlossen, das prüft, wer artig ist und wer nicht. Weitere Areale sollen folgen. Menschen, die sich regelmäßig am Kotti aufhalten, sind von dem Überwachungsprojekt überrascht. Von Martin Schwarzbeck –
Artikel lesen

Verhaltensscanner in Berlin: Harte Kritik an der KI-Überwachung

Am Sonntag begann die Installation von Kameras, mit denen die Berliner Polizei die automatisierte Verhaltensanalyse einführen will. An dem Überwachungsprojekt gibt es massive Kritik aus Nachbarschaft, Wissenschaft und Politik. Von Martin Schwarzbeck –
Artikel lesen

Kriminalitätsbelastung in Berlin: Problematisches Herrschaftswissen

Ob Gegenden in Berlin mit Videokameras und Verhaltensscanner überwacht werden dürfen, hängt davon ab, ob sie als kriminalitätsbelastet gelten. Die Datengrundlage zur Einstufung ist allerdings Herrschaftswissen. Ein Zahlendreher der Polizei zeigt, wie problematisch das ist. Von Martin Schwarzbeck –
Artikel lesen

Überwachung im ÖPNV: Mit dieser Realsatire führte Bremen Verhaltensscanner ein

Die Bremer Straßenbahn AG wollte eigentlich gar keine automatisierte Verhaltenskontrolle, das System war nur gerade im Angebot. Ohne Plan und Ahnung von Persönlichkeitsrechten startete der Einsatz. Die Datenschutzaufsicht hat grundsätzliche Bedenken. Von Rika Baack, Martin Schwarzbeck –
Artikel lesen

Erzwungene „Grenzpartnerschaft“: Abkommen zum US-Datenzugriff auf der Zielgeraden

Die USA fordern von Partnerstaaten weitreichenden Zugriff auf deren Polizeidatenbanken, die EU-Kommission verhandelt dazu ein Rahmenabkommen. Nun liegt ein neuer Entwurf vor. Max Schrems kritisiert die enthaltenen Regelungen. Von Matthias Monroy –
Artikel lesen

Kritik an Deutschland-App: Menschenzentrierte Verwaltung statt vorgeschaltetem Chatbot

Bürger:innen sollen einen zentralen Zugang zur Verwaltung bekommen, und zwar mit der Deutschland-App. Digitalminister Karsten Wildberger setzt dabei auf generative KI. Der Koalitionspartner kritisiert, dass der Chatbot die Probleme der Verwaltungsdigitalisierung nicht löst, so ein internes Positionspapier der SPD, das wir veröffentlichen. Von Esther Menhard –
Artikel lesen

Brasilianische Präsidentschaftswahl: Facebook lässt Wahlwerbung mit Desinformation zu

Amnesty International hat erfolgreich getestet, dass Facebook Wahlwerbung mit Falschinformationen in Brasilien ausspielen würde. Das Unternehmen würde damit gegen eigene Regeln und brasilianische Gerichtsbeschlüsse verstoßen. Von Rika Baack –
Artikel lesen

LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst

Beim Verifizieren des eigenen Profils oder Alters auf vertrauten Plattformen geben Nutzende sensible biometrische Informationen an dritte Unternehmen weiter. Eines dieser Unternehmen ist das US-amerikanische Persona, dessen Prüfungen weit über bloße Identitätskontrollen hinausgehen. Von Timur Vorkul –
Artikel lesen

Smart Glasses: Petition gegen „Spanner-Brillen“ sammelt mehr als 180.000 Unterschriften

Der Protest gegen Smart Glasses nimmt Fahrt auf. Eine Petition fordert das Verbot solcher Überwachungsbrillen, die heimliches Filmen ermöglichen – und mit denen schon jetzt Menschen belästigt werden. Von Markus Reuter –
Artikel lesen

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Postident mit AutoID: Deutsche Post trainiert ihre KI mit Ausweisfotos

Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders. Von Esther Menhard –
Artikel lesen

Schattendatenbank: Datenschützer mahnen Schufa ab

Die Schufa hält eine Schattendatenbank mit veralteten Daten über Millionen von Menschen vor. Dagegen wehrt sich jetzt die Datenschutzorganisation noyb mit einer Abmahnung – und der Vorbereitung einer möglichen Sammelklage. Von Markus Reuter –
Artikel lesen

Ethisches Hacken: Raus aus der Grauzone

Sicherheitsforscher:innen, die auf eigene Faust Lücken in IT-Systemen entdecken und diese verantwortungsbewusst melden, können schnell in die Bredouille geraten. Nun legt die Gesellschaft für Informatik ein Papier dazu vor, wie die überfällige Reform des Computerstrafrechts endlich gelingen könnte. Von Tomas Rudl –
Artikel lesen

Polizeigesetz Niedersachsen: „Das vergiftet alles“

Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Am Donnerstag diskutierte der Innenausschuss des Landtages darüber. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft. Von Martin Schwarzbeck –
Artikel lesen

Jugendschutz im Sonderangebot: Meta kauft sich frei

Vor Gericht hätten mehrere US-Bundesstaaten ein historisches Urteil zum Schutz junger Menschen erstreiten können. Stattdessen haben sie sich auf einen halbgaren Deal mit Meta eingelassen. Neben vielen Milliarden US-Dollar bringt er Jugendschutz mit Ablaufdatum. Ein Kommentar. Von Sebastian Meineck –
Artikel lesen

KI-Befugnisse in Thüringen: Polizeigewerkschaft kritisiert Polizeigesetz

Normalerweise freuen sich Polizist*innen über erweiterte Befugnisse. Doch das geplante Thüringer Polizeigesetz geht selbst der dortigen Gewerkschaft der Polizei zu weit. Sie warnt vor den Folgen von KI-gestützter Überwachung und fordert klare Beschränkungen. Von Martin Schwarzbeck –
Artikel lesen

Autistici/Inventati: USA sanktionieren italienisches Internetkollektiv

Die USA setzen ihren Kampf gegen linke zivilgesellschaftliche Projekte in Europa fort. Nun hat es das bekannte Internetkollektiv Autistici/Inventati getroffen. Das wehrt sich gegen die Vorwürfe und Sanktionen. Von Markus Reuter –
Artikel lesen

Polizeigesetz Thüringen: „Haben, haben, haben – und dann schauen, was passiert“

Im Innenausschuss von Thüringen hat eine Reihe von Expert*innen das geplante Polizeigesetz massiv kritisiert. Gleichzeitig fand vor der Tür eine Kundgebung gegen die umfassenden Überwachungsbefugnisse statt, die damit erlaubt werden sollen. Von Martin Schwarzbeck –
Artikel lesen

Interaktive Karte: An diesen Orten sollen bundesweit neue Rechenzentren entstehen

Die Bundesregierung legt nicht offen, wo bundesweit neue Rechenzentren gebaut werden sollen, obwohl diese schwerwiegende Folgen für Umwelt und Gesellschaft haben. Das Projekt Heiße Luft hat nun eine Übersichtskarte der Standorte veröffentlicht. Sie zeigt auch, wo sich Protest regt. Von Rika Baack –
Artikel lesen

Berliner Polizeigesetz: Linke und Grüne ziehen vor den Verfassungsgerichtshof

Nach der Verschärfung des Berliner Polizeigesetzes durch CDU und SPD lassen Linke und Grüne das Gesetz jetzt vom Verfassungsgerichtshof prüfen. Der Antrag zielt gegen öffentliche KI-Videoüberwachung, biometrischen Massenabgleich im Netz, Training von KI-Systemen mit Polizeidaten, automatisierte Datenanalyse und den Einsatz von Staatstrojanern. Von Denis Glismann –
Artikel lesen

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Nach der Verschärfung des Berliner Polizeigesetzes durch CDU und SPD lassen Linke und Grüne das Gesetz jetzt vom Verfassungsgerichtshof prüfen. Der Antrag zielt gegen öffentliche KI-Videoüberwachung, biometrischen Massenabgleich im Netz, Training von KI-Systemen mit Polizeidaten, automatisierte Datenanalyse und den Einsatz von Staatstrojanern.

CDU und SPD wollen die KI-Überwachung in Berlin. Linke und Grüne lassen nun vom Verfassungsgerichtshof prüfen (Symbolbild). – Alle Rechte vorbehalten: IMAGO / PIC ONE

Die Fraktionen von Bündnis 90/Die Grünen und Die Linke im Berliner Abgeordnetenhaus lassen die Verschärfung des Berliner Polizeigesetzes gerichtlich überprüfen. Ihren Normenkontrollantrag gegen das Allgemeine Sicherheits- und Ordnungsgesetz (ASOG) stellten die innenpolitischen Sprecher Vasili Franco (Grüne) und Niklas Schrader (Linke) am Freitag im Abgeordnetenhaus vor. Der Prozessbevollmächtigte David Werdermann (Kanzlei KM8) reichte den Antrag am Freitagmorgen beim Verfassungsgerichtshof des Landes Berlin ein. Das Gericht soll nun klären, ob die im Dezember 2025 durch CDU und SPD beschlossenen Regelungen mit der Landesverfassung vereinbar sind.

Der 155-seitige Antrag richtet sich im Kern gegen die Ausweitung von fünf Befugnissen:

1. den präventiven Einsatz von Staatstrojanern,
2. die KI-gestützte Videoüberwachung mit Verhaltensscannern,
3. den biometrischen Massenabgleich mit Daten aus dem Netz,
4. das Training von KI-Systemen mit Polizeidaten und die Weitergabe an Dritte sowie
5. die automatisierte Datenanalyse.

„Das Berliner Polizeigesetz war bis vor einem Jahr eines der liberalsten in ganz Deutschland. Damit ist es vorbei“, sagte Werdermann beim Pressegespräch im Abgeordnetenhaus. Die Novelle sei ein gesetzgeberischer Aktionismus, dessen zentrales Motiv die Inszenierung von Handlungsfähigkeit sei.

Fünf zentrale Ausweitungen der Befugnisse

Die Online-Durchsuchung und das heimliche Abgreifen verschlüsselter Kommunikation von Handys und Rechnern erlaubt das Gesetz laut Werdermann noch bevor eine Straftat stattgefunden hat. Die Polizei nutzt dafür IT-Sicherheitslücken aus, wodurch ein Anreiz bestehe, die Lücken offenzuhalten, statt diese dem Hersteller zu melden. Derartige Sicherheitslücken könnten auch von Kriminellen oder anderen Akteuren genutzt werden, wie der Cyber-Angriff auf die Berliner Verwaltung vor wenigen Tagen gezeigt habe.

Laut Werdermann ist Berlin nach Mannheim und Hamburg die dritte Großstadt, die auf KI-gestützte Videoüberwachung setzt. Erste Kameras wie am Kottbusser Tor sind bereits installiert. Die Software solle nun erkennen, wer sich „atypisch“ verhalte. Damit gerieten alle Menschen unter Generalverdacht, während insbesondere Wohnungslose und andere marginalisierte Gruppen von der Software als gefährlich eingestuft würden.

»Abkehr von der grundrechtsfreundlichen Politik«

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Beim biometrischen Massenabgleich darf die Polizei zukünftig öffentliche Daten aus dem Netz auswerten. Damit kann jedes hochgeladene Foto in die Fahndung einfließen. Die Polizei könnte Dienste ähnlich wie PimEyes nutzen, diese verstoßen laut Werdermann jedoch gegen die Datenschutz-Grundverordnung und KI-Verordnung. Berlin legalisiere die Nutzung nun für die Polizei statt gegen die Dienste vorzugehen.

Ferner erlaube das Gesetz, die erhobenen Polizeidaten zum Training von KI-Systemen weiterzuverwenden, ohne dabei Eingrenzungen vorzunehmen, kritisiert Werdermann. Selbst sehr sensible Daten und private Gespräche könnten so an Unternehmen zu KI-Trainingszwecken weitergegeben werden. Mit der automatisierten Datenanalyse entstehe zudem eine „Superdatenbank“. Die Polizei darf ihre Datenbestände auf einer Plattform zusammenführen und per KI auswerten.

Wer eine Anzeige erstatte, müsse so künftig damit rechnen, in den Datenanalysen aufzutauchen. Der Senat betont zwar, nicht auf die umstrittene Analysesoftware Palantir zurückgreifen zu wollen, „die Befugnis aber gibt es her“, sagte der Linken-Abgeordnete Niklas Schrader. Jede künftige Mehrheit könne sie nutzen.

Bundesweite Signalwirkung

Einen Eilantrag haben die Fraktionen aufgrund der rechtlich hohen Hürden nicht gestellt, womit das Gesetz vorerst in Kraft bleibt. Mit einer Entscheidung des Verfassungsgerichtshofs rechnet Werdermann frühestens in ein bis zwei Jahren. Für die abstrakte Normenkontrolle dagegen hat es ein Viertel der Abgeordneten gebraucht. Grüne und Linke kommen zusammen auf aktuell 53 der 159 Sitze im Berliner Abgeordnetenhaus.

Dass beide Fraktionen nach der Wahl womöglich regieren, ändere aus ihrer Sicht nichts. Das Gericht solle zeigen, wie weit der Gesetzgeber bei KI-Technologie und Datenanalyse gehen dürfe. Viele der Maßnahmen seien im Hinblick auf andere Bundesländer begründet, ohne dass diese je verfassungsgerichtlich überprüft worden sind, sagte der Grünen-Innenpolitiker Vasili Franco. „Verfassungswidrige Polizeigesetze sind keine guten Polizeigesetze.“ Die Überprüfung vor dem Verfassungsgerichtshof des Landes Berlin habe so auch eine bundesweite Signalwirkung.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bundesregierung legt nicht offen, wo bundesweit neue Rechenzentren gebaut werden sollen, obwohl diese schwerwiegende Folgen für Umwelt und Gesellschaft haben. Das Projekt Heiße Luft hat nun eine Übersichtskarte der Standorte veröffentlicht. Sie zeigt auch, wo sich Protest regt.

Rechenzentren, Gaskraftwerke und Protest auf einer übersichtlichen Karte. – Alle Rechte vorbehalten: Heiße Luft

Das Ziel der Bundesregierung ist klar: mehr Rechenpower, mehr KI. Doch im Gegensatz zu anderen Ländern legt die Regierung nicht offen, wie viele Rechenzentren wo gebaut werden. Das Projekt Heiße Luft will das ändern. Es stellt erstmals Standorte von Rechenzentrumsprojekten auf einer interaktiven Übersichtskarte dar. Die dafür erforderlichen Daten hat ein Team aus öffentlichen Quellen und mithilfe von Bürger:innen zusammengetragen. Hinter dem Projekt steht eine Kooperation von AlgorithmWatch, FragDenStaat, Leitmotiv und dem Heiße-Luft-Kollektiv.

Die in Teilen ehrenamtlich arbeitenden Personen wollen Transparenz in die KI-Strategie der Bundesregierung bringen. Der Nationalen Rechenzentrumsstrategie zufolge möchte die Bundesregierung die Rechenkapazitäten bis 2030 verdoppeln und die Kapazitäten für KI-Anwendungen vervierfachen. Sie veröffentlicht jedoch weder eine vollständige Übersicht über geplante Rechenzentren noch weiß sie, wie viel Wasser deren Ausbau verbrauchen wird.

Wie der KI-Boom die Klimakatastrophe befeuert

Die Physikerin Tiziana von Witzleben ist Mitgründerin des Heiße-Luft-Kollektivs. Sie hofft, dass die Übersicht den Bürger*innen vor Ort zugutekommt. Auch in diesem Sommer haben mehrere Landkreise wegen Wasserknappheit die Nutzung von Frischwasser rationiert. „Durch ihren enormen Strom- und Wasserverbrauch beeinflusst der massive Ausbau von Rechenzentren viele Menschen in Deutschland direkt,“ sagt von Witzleben. „Indirekt trifft er uns alle: Die rasant steigende Zahl von Rechenzentren treibt den Einsatz fossiler Energie nach oben und befeuert damit die Klimakatastrophe.“

Das Projektteam durchforstete öffentlich einsehbare Quellen nach Daten – in Pressemitteilungen der Betreiber und Entwickler, in amtlichen Veröffentlichungen und Publikationen börsennotierter Unternehmen. Auch die Preisentwicklungen auf dem Immobilienmarkt bezogen die Aktivist:innen ein. Darüber hinaus richtete das Team ein Kontaktformular ein, mit dem Menschen gesammelte Daten anonym korrigieren und ergänzen konnten.

Wo drohen Konflikte ums knappe Gut Wasser?

Auf dieser Grundlage haben sie eine interaktive Übersichtskarte erstellt, die zeigt, wo Rechenzentren entstehen, wie weit der Bau vorangeschritten ist und wer sie betreibt und finanziert. Nutzer:innen können sich außerdem anzeigen lassen, wie viel Strom die Zentren vermutlich benötigen, welche Gesamtfläche sie beanspruchen werden und wie ihr Betrieb den Grundwasserstress erhöhen könnte.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

In der Gemeinde Baruth in Brandenburg etwa hat sich der RedBull-Konzern einen großen Teil des Grundwassers gesichert. Zusätzlich möchte Amazon dort ein großes Rechenzentrum bauen. Dabei liegt Baruth in einem Landkreis mit akutem und strukturellem Grundwasserstress. Mögliche Konflikte liegen auf der Hand. Wie viel erhalten die Rechenzentren vom knappen Gut Wasser, wie viel die Landwirte?

Regierung will noch mehr Intransparenz

Die Bundesregierung möchte derweil das Energieeffizienzgesetz novellieren und dadurch Vorgaben für den Ausbau von Rechenzentren lockern. Der von der Regierung als „pragmatisch“ und „bürokratiearm“ gefeierte Vorstoß käme jedoch vor allem den Fossilkonzernen entgegen. Laut Gesetzentwurf müssten Rechenzentren erst ab dem Jahr 2030 bilanziell vollständig auf erneuerbare Energien setzen – statt wie bisher ab 2027. Vor diesem Hintergrund erfasste das Team hinter dem Projekt Heiße Luft auch neu entstehende Gaskraftwerke, die es braucht, um den enormen Strombedarf der vielen neuen Rechenzentren zu decken.

Dank des Schlüsselworts „bilanziell“ konnten Betreiber ohnehin schon ein Schlupfloch nutzen. Gesetzlich müssen sie die Hälfte ihres Stroms aus erneuerbaren Energien beziehen. Etwa in Maintal und Birstein sollen Rechenzentren jedoch abgekoppelt vom öffentlichen Stromnetz in Betrieb gehen. Ihren Strom erhalten sie ausschließlich von neuen Gaskraftwerken. Indem sie ihre Bilanz mit zugekauften Ökostrom-Zertifikaten aufpolieren, können sie die gesetzlichen Vorgaben erfüllen, während sie die Abhängigkeit von fossilen Brennstoffen aufrechterhalten.

Der Entwurf des Energieeffizienzgesetzes sieht außerdem vor, dass künftig noch weniger Daten zum Verbrauch von Rechenzentren veröffentlicht werden. Bislang müssen die Betreiber ihre Verbrauchsdaten den Behörden melden und zudem selbst publizieren. Der Gesetzentwurf würde es ihnen künftig erlauben, diese Informationen mit Verweis auf Geschäftsgeheimnisse zurückzuhalten.

„Das sollte uns Sorgen um unsere Datensicherheit machen“

Dass die Bundesregierung den Ausbau von Rechenzentren mit Verweis auf „digitale Souveränität“ begründet, sieht die Kooperation hinter dem Heiße-Luft-Projekt ebenfalls kritisch. Denn ein Großteil der geplanten Rechenzentren werde von US-Konzernen betrieben, die dem US Cloud Act unterliegen. Das bedeutet: Selbst wenn die Server amerikanischer Unternehmen in Europa stehen, wären diese rechtlich dazu verpflichtet, die Daten europäischer Nutzer:innen an US-Behörden herauszugeben.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

„Unseren Informationen nach soll etwa die Hälfte der IT-Kapazitäten der neuen Rechenzentren von US-amerikanischen Big-Tech-Unternehmen genutzt werden,“ sagt Joschi Wolf vom Climate Helpdesk von FragDenStaat. „Das sollte uns Sorgen um unsere Datensicherheit machen – seien es persönliche, unternehmensbezogene oder staatliche Daten.“

Auch Versprechen, das der Ausbau von Rechenzentren neue Arbeitsplätze schaffe, wurden bisher meist nicht eingelöst. So seien etwa im rumänischen Mischii nur 10 der zugesagten 21 Stellen geschaffen worden; in der niederländischen Gemeinde Hollands Kroon waren es nur rund 530 statt der angekündigten 2.000 Stellen, wie eine Recherche von AlgorithmWatch zeigt.

Eine Karte des Protests

Ein weiteres Feature der Karte zeigt, wo sich Protest gegen den Ausbau von Rechenzentren formiert. Vielerorts wehren sich Anwohner:innen gegen Pläne, die Ressourcen ihrer Gemeinden für den KI-Boom zu nutzen. In den Niederlanden und in Irland haben Proteste schon dazu geführt, dass der Ausbau von Rechenzentren gestoppt wurde.

Trotz der zusammengetragenen Fülle an Daten sind viele Informationen noch immer nicht öffentlich. Die Betreiber des Heiße-Luft-Projekts rufen dazu auf, weitere Informationsfreiheitsanfragen an Kommunen und Behörden zu richten und so zu zeigen, dass die „die Klimaversprechen der Tech-Konzerne heiße Luft sind“.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Im Innenausschuss von Thüringen hat eine Reihe von Expert*innen das geplante Polizeigesetz massiv kritisiert. Gleichzeitig fand vor der Tür eine Kundgebung gegen die umfassenden Überwachungsbefugnisse statt, die damit erlaubt werden sollen.

Protest vor dem Landtag von Thüringen. – CC-BY-NC-SA 4.0: ThürPAG stoppen. Bearbeitung: netzpolitik.org

Vor der Tür des Landtages von Thüringen verteilen Menschen Flyer. Sie haben einen Pavillon und darunter einen Info-Stand aufgebaut und weisen Passant*innen darauf hin, dass im Landtag an diesem Tag, dem vergangenen Donnerstag, ein massiver Ausbau des Polizeiaufgabengesetzes, kurz PAG, besprochen wird. Die Protestbewegung „ThürPAG stoppen“, zu der die Aktivist*innen gehören, ist noch ganz jung, aber bereits hochaktiv. Sie sammelt auch Unterschriften, um die Abgeordneten dazu zu bringen, den Gesetzentwurf abzulehnen, über 3.400 Menschen haben die Petition bereits signiert.

David Sommer, der „ThürPAG stoppen“ mit gegründet hat, sagt: „Auf den Veranstaltungen, die wir in den letzten Monaten durchgeführt haben, stellen wir immer wieder fest: Viele Menschen wollen keinen schleichenden Ausbau staatlicher Überwachung und machen sich große Sorgen.“

Alexis Wagenfeld, Mitinitiatorin der Protestbewegung, fürchtet, dass die neuen High-Tech-Überwachungswerkzeuge in die Hände einer rechtsextremen Regierung fallen könnten. „Deshalb brauchen wir rechtsstaatliche Zurückhaltung statt immer neuer Eingriffsbefugnisse“, sagt sie. Sommer und Wagenfeld sind allerdings durchaus optimistisch, dass sich der Entwurf noch aufhalten oder zumindest entschärfen lässt.

Datenanalyse, Verhaltensscanner, Gesichtersuchmaschine und vieles mehr

Das geplante Gesetz soll verschiedene Überwachungsmaßnahmen erlauben: Eine Meta-Datenbank mit KI-Analyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle, das automatisierte Tracking von Personen im Kameranetzwerk, die Suche nach biometrischen Daten im Internet, Kennzeichenscanner, Videodrohnen und elektronische Fußfesseln. Doch zur Verabschiedung des Gesetzes ist die Minderheitsregierung, eine Koalition aus CDU, SPD und BSW, auf Stimmen aus der Opposition angewiesen. Die besteht im Landtag nur aus der Linken und der AfD.

Die Linke hat ebenfalls substanzielle Kritik an den geplanten KI-Überwachungsmaßnahmen und hält den Entwurf in der aktuellen Form für nicht zustimmungsfähig. Laut einer Pressemitteilung, die sie vor der Ausschusssitzung herausgegeben hat, will sie gegen das Gesetz klagen, sollte es in dieser Form verabschiedet werden. Es sei „sehr wahrscheinlich verfassungswidrig“. Ronald Hande, innenpolitischer Sprecher der Fraktion Die Linke im Thüringer Landtag sagt: „Das hier vorgelegte Polizeigesetz schafft eine verfassungsrechtlich hochriskante Überwachungsarchitektur.“ Die Landesregierung greife damit nach Werkzeugen, „die auch in autoritären und demokratiefeindlichen Regimen Anwendung finden, um die eigene Bevölkerung zu überwachen.“

Zahlreiche Expert*innen hatten den Gesetzentwurf in schriftlichen Stellungnahmen massiv kritisiert. Auch bei der mündlichen Sachverständigen-Anhörung, die im Landtag läuft, während die Aktivist*innen vor der Tür protestieren, werden elementare Bedenken formuliert.

„Eine ganz neue Dimension“

Im ersten Block spricht der Landesdatenschutzbeauftragte Tino Melzer. Er hält die automatische Auswertung von Videostreams für eine „ganz neue Dimension“ der Polizeiarbeit. Er sieht eine Intensivierung des Grundrechtseingriffs für eine Vielzahl von Personen, die keinen Anlass dazu geben.

Melzer verweist auf die Fehleranfälligkeit der Systeme. „Eine Umarmung kann als ein Schlag gedeutet werden.“ So könnten unbescholtene Personen von weitergehenden Maßnahmen beeinträchtigt werden. Besonders problematisch an der Videoanalyse sei, dass sie unbemerkt erfolgt. Die Betroffenen könnten sich somit nicht dagegen wehren.

Nach dem Gesetzentwurf sollen – wenn die automatisierte Verhaltenskontrolle Alarm schlägt, Menschen auch automatisch über ein Kameranetzwerk hinweg verfolgt werden. Zuvor allerdings soll ein Mensch die mutmaßliche Risikosituation begutachten. Melzer kritisiert, dass dieser Zwischenschritt in unübersichtlichen Lagen regelmäßig ausfallen könnte.

Landesdatenschutzbeauftragter fordert ersatzlose Streichung der Video-KI

Betrachtet man dazu die Möglichkeit, die Videoanalyse auch auf den Bildern von Drohnen laufen zu lassen, „bekommen sie eine Vollbebilderung des Freistaats“, sagt Melzer. Er spricht sich für eine ersatzlose Streichung der Video-KI-Regelung aus.

Auch in der elektronischen Fußfessel, die mit dem Entwurf auch für nicht näher spezifizierte „Gefährder“ eingeführt werden soll, sieht Melzer einen schwerwiegenden Eingriff in informationelle Selbstbestimmung. Er moniert, dass es noch keine wissenschaftlichen Erkenntnisse zur Wirksamkeit gäbe, diese aber Teil der Begründung sein müssten.

Bei der automatisierten Datenanalyse verweist der Datenschutzbeauftragte auf das Urteil des Bundesverfassungsgerichts zu derartigen Systemen in Hessen und Hamburg. Das erlegt der Technologie enge Grenzen auf. Melzer zufolge entsprechen die Formulierungen im thüringischen Gesetz den diesbezüglichen Vorgaben nicht.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Erfahrungswerte fehlen weltweit

„Das geht ja in Richtung Vorratsdatenspeicherung: Haben, haben, haben – und dann schauen was passiert“, sagt Melzer. Er fordert die Pflicht zur Evaluierung der Befugnis. „Erfahrungswerte fehlen uns als Gesellschaft, auch weltweit. Das fährt hoch, das fährt an, aus der Warte müsste man dringend evaluieren“, sagt er. Zudem sieht er einen Richtervorbehalt vor dem Einsatz für erforderlich.

Die Internetsuche nach biometrischen Daten bestimmter Person birgt laut Melzer die Gefahr, dass sich Menschen aus der öffentlichen Kommunikation zurückziehen. Aufgrund der Vielzahl der Bilder, die sich von vielen Menschen im Netz finden lassen, sei damit die Bildung umfassender Profile möglich. Und auch hier könnten „aufgrund von Fehlern, Menschen irrtümlich von weiteren polizeilichen Handlungen in Anspruch genommen werden.“ Kritisch sei zudem, dass der Entwurf mit der KI-Verordnung der EU kollidiert, wenn dafür Daten ungezielt aus dem Netz ausgelesen werden. Melzer spricht sich dafür aus, auch diesen Paragrafen ersatzlos zu streichen.

Mandy Koch, Landesvorsitzende der Gewerkschaft der Polizei (GdP), fürchtet, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. Die Stellungnahme der GdP umfasst weitere Kritik. Diese ist für eine Polizeigewerkschaft so ungewöhnlich deutlich, dass wir ihr einen eigenen Beitrag gewidmet haben.

„Die Grundrechtsintensität wird teils überhaupt nicht eruiert“

Felix Ruppert, Jurist von der Uni München, beschreibt den Entwurf als eine beispiellose Sammlung an Maßnahmen zur Datensammlung und ‑analyse. Er sieht erheblichen Überarbeitungsbedarf, „ansonsten droht Verfassungswidrigkeit weiter Teile des Gesetzentwurfs.“ Die Verhältnismäßigkeitsprüfung komme zu kurz, Geeignetheit, Erforderlichkeit und Angemessenheit seien nicht hinreichend geklärt. Ruppert sagt: „Die Grundrechtsintensität wird teils überhaupt nicht eruiert.“

Die Erforderlichkeit werde in einigen Fällen einfach unterstellt. „Das ist dann befremdlich wenn es sich gegen eigene ministeriale Erkenntnisse richtet, wie zum Beispiel bei Videoüberwachung im öffentlichen Raum. Wenn man 2020 noch davon ausgeht, dass diese überhaupt nicht geeignet sei, die Sicherheit zu verstärken, wirft das schon Fragen auf, wenn jetzt die Erforderlichkeit einfach thesenartig unterstellt wird“, sagt er.

Problematisch sei auch die Loslösung von der Voraussetzung einer konkreten Gefahr in weiten Teilen der Maßnahmen. Klare Eingriffsvoraussetzungen würden fehlen, die Eingriffsschwellen seien vielfach niedrig oder gar nicht vorhanden, der Einsatz der Software sei weitgehend unbegrenzt. Damit beschreite der Entwurf den „Weg in Richtung eines präventiven Sicherheitsrechts.“ Dorothea Marx von der SPD, Teil der angeschossenen Regierungskoalition, nennt Rupperts Rede danach „Salve eines Vernichtungsfeuerwerks“.

„Die Streubreite wird enorm sein

Constanze Kurz, die ein Teil der Redaktion von netzpolitik.org ist und für den Chaos Computer Club im Innenausschuss spricht, referiert eine Technikfolgenabschätzung ausgewählter Befugnisse. Bezüglich der automatisierten Datenanalyse gibt sie zu Protokoll, dass dafür eine dauerhafte Zusammenführung heterogener Daten unvermeidlich sei. „Egal wie man es ausgestaltet: Die Streubreite wird enorm sein.“ Wenn schon Datenanalyse, dann empfiehlt sie eher eine deterministische und damit auch nachvollziehbare Software. „Man braucht keine KI, um Querverbindungen zu finden“, sagt sie. Grundsätzlich fragt sie sich angesichts des Entwurfs „ob man immer an die äußerste verfassungsrechtliche Grenze gehen muss.“

Die Internetsuche nach biometrischen Daten von bestimmten Personen sieht Kurz ebenfalls kritisch. Die Streubreite sei auch dabei enorm und es seien Körperdaten betroffen, „die man nicht wechseln kann und die besonders geschützt sind.“ Zudem sieht sie keine legale Möglichkeit, diese Befugnis anzuwenden. „Es ist unmöglich, solche Abgleiche zu machen, wenn man nicht vorher eine Datenbank bildet“, sagt sie. Man müsse die Daten vereinheitlichen, um sie durchsuchbar zu machen. Das Anlegen einer Datenbank stünde aber, wie schon der Landesdatenschutzbeauftragte konstatierte, im klaren Widerspruch zur KI-Verordnung.

Auch die Videoüberwachung mit angeschlossener Verhaltenskontrolle kommt bei Kurz nicht gut weg. „Es gibt in Deutschland kein einziges Projekt, das gezeigt hätte, dass das funktioniert“, sagt sie. Ihre größte Besorgnis dabei ist, „dass durch permanente Videoüberwachung und Auswertung eine Normalisierung von Dauerbeobachtung stattfindet.“

„Gefährlich ist, was nach einem Fehler passiert“

padeluun vom Verein Digitalcourage sagt zu der algorithmisch analysierten Videoüberwachung: „Gefährlich ist, was nach einem Fehler passiert. Ein falscher Treffer kann eine Kontrolle, eine Durchsuchung oder eine ziemlich unangenehme Begegnung mit bewaffneten Beamt*innen bedeuten.“ Die Befugnis ermögliche eine Infrastruktur automatisierter Kontrolle. Dabei verhindere Videoüberwachung keine Straftaten. „Das einzige, das man damit machen kann, ist Wahlkampf“, sagt er.

Die geplante Fotofahndung im Internet bringe eine elementare Veränderung: „Menschen konnten bislang öffentlich sichtbar sein, ohne deshalb jederzeit maschinell identifizierbar zu sein“, sagt er.

An der automatisierten Datenanalyse stört ihn vor allem, dass auch Daten von Zeug*innen und Opfern darin einbezogen sind. Wenn man diverse Datenbestände mit einem Mausklick verbinden könne, verändere sich zudem die Qualität staatlicher Macht. „Einer Überwachungsinfrastruktur können sie keinen demokratischen Charakter geben“, sagt er. Was heute als eng begrenzte Ausnahme eingeführt werde, sei morgen schon vorhandene Technik. Die zentrale Frage müsse sein: „Würden wir dieses Instrument einer Regierung an die Hand geben, der wir überhaupt nicht vertrauen?“

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Der Verein Digitalcourage empfehle, die drei Paragrafen komplett zu streichen. „Polizisten sollen Ermittler sein, keine Überwacher“, sagt padeluun.

Potenziell jede*r betroffen

Kilian Vieht-Ditlmann von der gemeinnützigen Organisation AlgorithmWatch sagt zur biometrischen Internetsuche: „Stellen sie sich vor, Sie posten ein Bild von der Hochzeit ihrer Schwester, einem Kindergeburtstag oder einer Chorprobe – dann soll die Polizei daraus biometrische Daten extrahieren und in einer Datenbank ablegen können.“ Von dem Eingriff seien nicht nur Verdächtige betroffen, „sondern potenziell jeder von uns“. Zudem seien womöglich sensible Kontexte betroffen, Bilder von Demos, aus Gay-Bars oder Gottesdiensten zum Beispiel. Er verweist auch darauf, dass die Technologie in anderen Ländern genutzt wird, um auf Demonstrationen Regime-Gegner*innen zu identifizieren.

Vieth-Ditlmann sagt, er habe mal eine kommerzielle Gesichtersuchmaschine ausprobiert und sei erstaunt gewesen, dass diese auch Bilder fand, die er gar nicht auf dem Schirm hatte. Zudem seien auch Bilder anderer Menschen in der Ergebnisliste gewesen. Derartige Fehlidentifikation könne im polizeilichen Kontext den Betroffenen deutliche Nachteile bringen.

Bei der Videoüberwachung, die automatisch verdächtiges Verhalten markiert, sieht Vieth-Ditlmann ein großes Problem in der Umsetzbarkeit: „Polizistinnen müssen eine Flut von Fehlalarmen manuell prüfen.“ Die Befugnis solle zwar nur an sogenannten gefährlichen Orten eingesetzt werden, „aber die werden von Beamt*innen teils flexibel festgelegt, das ist keine feste Grenze, sondern eher so ein Gummiband.“

Die Möglichkeit, sich frei und unbeobachtet im öffentlichen Raum zu bewegen, sei keine Nebensache, sondern „Grundvoraussetzung, dass Demokratie überhaupt funktioniert“, sagt Vieth-Ditlmann. Die beiden genannten Befugnisse sollten deshalb aus der Sicht von AlgorithmWatch komplett gestrichen werden. „Wir bitten Sie darum, diesen Weg gar nicht erst einzuschlagen“, sagt er.

„Das Sicherheitsgefühl ist kein polizeiliches Schutzgut“

Alexis Wagenfeld und David Sommer, die eben noch vor der Tür protestierten, sind jetzt im Landtag und sprechen dort für das „Auf die Plätze“-Bündnis, das sich rechtsextremen Raumnahmen entgegenstellt.

Wagenfeld verweist zunächst auf die Polizeistatistiken, die in Thüringen einen kontinuierlichen Rückgang erfasster Straftaten zeigen. Es ginge bei der Einführung der neuen Befugnisse also nicht um tatsächliche Sicherheit, sondern um ein Sicherheitsgefühl. Sie sagt: “Das Sicherheitsgefühl der Bevölkerung ist kein polizeiliches Schutzgut.“

Sommer erklärt, dass polizeiliche Daten die Kontrollpraxis der Polizei widerspiegeln, die überdurchschnittlich oft zu Lasten von armen und migrantisierten Menschen gehe. „Aus diesen verzerrten Trainingsdaten ergibt sich ein hohes Diskriminierungspotential“, sagt er. Daraus ergebe sich eine selbsterfüllende Prophezeiung – die Vorverurteilung führe zu verstärkten Kontrollen, die wiederum die Vorverurteilung bestätigen.

Der Grundrechtseingriff wird zum Mausklick

Wagenfeld fügt hinzu: „Der Entwurf treibt eine schleichende Normalisierung autoritärer Werkzeuge und entgrenzter Polizeiarbeit voran.“ Auch wenn Technologien wie die automatisierte Datenanalyse, die elektronische Fußfessel oder der biometrische Abgleich noch über gewisse Eingriffsschwellen verfügen, werde die Polizei an den Einsatz der Technologien gewöhnt. „Was in der Theorie ein schwerer Grundrechtseingriff ist, wird in der Polizeiarbeit schnell zur Routine, zum Mausklick“, sagt sie.

Sie nehme wahr, dass Grundrechte oftmals als Hindernis auf dem Weg zu mehr Sicherheit betrachtet würden. Das verkenne ihre Rolle für eine Demokratie in fundamentaler Weise. „Grundrechte sind Abwehrrechte gerade gegen den – auch liberalen – Staat, und stellen herausragende historische wie gesellschaftliche Errungenschaften dar.“

In Demokratien solle die Exekutive der Bevölkerung ein hohes Maß an Vertrauen entgegenbringen. Der aktuelle Gesetzesentwurf stelle jedoch zahlreiche Menschen unter Generalverdacht, und entfalte an vielen Stellen eine hohe abschreckende Wirkung auf die Ausübung von Grundrechten. „Wir lehnen ihn deshalb in weiten Teilen ab“, sagt sie.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die USA setzen ihren Kampf gegen linke zivilgesellschaftliche Projekte in Europa fort. Nun hat es das bekannte Internetkollektiv Autistici/Inventati getroffen. Das wehrt sich gegen die Vorwürfe und Sanktionen.

Holt gegen das kleine italienische Internetkollektiv den ganz großen Hammer raus: US-Außenminister Marco Rubio (auf dem Bild links) – Alle Rechte vorbehalten: IMAGO / ABACAPRESS

Die US-Regierung hat am Mittwoch das bekannte linke italienische Internetkollektiv Autistici/Inventati mit Sanktionen belegt und als „Globale Terroristen“ eingestuft. Das Amt zur Kontrolle von Auslandsvermögen (OFAC) behauptet, dass es mit der Maßnahme „der wachsenden Bedrohung durch gewalttätige linksradikale Terrorgruppen“ entgegenwirken würde. Auch US-Außenminister Marco Rubio äußerte sich.

Die Trump-Regierung setzt die Maßnahme zudem in Zusammenhang mit Maßnahmen gegen „die Antifa“, die sie im November 2025 ergriffen hatte. Sie begründet die Sanktionen damit, dass das Kollektiv angeblich „spezielle digitale Architektur, Tools und Dienstleistungen für Antifa-Zellen und andere gewalttätige linksradikale Extremisten bereitstellt“. Die Regierung sagt in ihrer Mitteilung, dass angeblich auch die Arbeiterpartei Kurdistans die Dienste des Kollektivs genutzt habe, die mit der Erdogan-Regierung verhandelt und ihre Auflösung verkündet hat.

USA gegen „die Antifa“

Die US-Regierung behauptet, ohne Beweise vorzulegen, dass das Internetkollektiv eine terroristische Handlung wesentlich gefördert oder finanziell, materiell oder technologisch unterstützt habe bzw. Waren und Dienstleistungen für eine solche Handlung oder zu deren Unterstützung bereitgestellt habe. Die Trump-Regierung bedient sich rechtlich bei einer Verordnung von George W. Bush nach denn Terroranschlägen am 11. September 2001.

Das Kollektiv weist in einer Erklärung alle Vorwürfe zurück:

Wir weisen alle in den Erklärungen enthaltenen Vorwürfe zurück und bekräftigen gleichzeitig nachdrücklich unser Engagement, eine Plattform mit Werkzeugen zur digitalen Selbstverteidigung bereitzustellen, die dem Bedürfnis nach freier Kommunikation von Aktivisten sowie anderen Einzelpersonen, Gruppen und Vereinigungen gerecht wird.

Wir werden nicht nachgeben. Wir werden weiterhin das tun, was wir all die Jahre getan haben. Und wir werden alles in unserer Macht Stehende tun, um den falschen Anschuldigungen einer politisch verzweifelten Regierung entgegenzuwirken. Deren einzige Absicht besteht darin, die Aufmerksamkeit der Menschen und der Medien von ihrer eigenen Gewalt und Kriegstreiberei abzulenken.

Antifaschismus und Antikapitalismus sind kein Terrorismus. Protestieren ist kein Terrorismus. Und jeder hat das Recht, seine Meinung zu äußern und für die Menschlichkeit zu kämpfen.

Autistici/Inventati existiert seit dem Jahr 2001. Das Kollektiv wurde im Umfeld des G8-Gipfels in Genua gegründet. Den Namen „Autistici“ entnahmen die Aktivist:innen der ironischen Selbstbezeichnung, quasi autistisch auf einen Bildschirm fixiert zu sein. „Inventati“ bedeutet, je nachdem wie ein Akzent gesetzt wird, entweder „sich selbst erfinden“ oder „die Erfundenen“.

Bekannt ist das Kollektiv unter anderem für die Blogplattform NoBlogs.org, die auch in Deutschland rege genutzt wird und auf der tausende Blogs gehostet sind. Das Kollektiv von Ehrenamtlichen stellt sozialen Bewegungen seit Jahren unentgeltlich Mailadressen, Instant Messenger und selbstverwaltete Infrastruktur abseits von großen Plattformen und Unternehmen zur Verfügung.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Mögliche Probleme mit Spendenkonten

Autistici/Inventati finanziert sich ausschließlich über Spenden. Hier könnten Sanktionen greifen und dem Kollektiv die Finanzierung schwer machen, wenn Banken und Zahlungsdienstleister aus Angst vor US-Sanktionen Konten kündigen.

Es ist nicht das erste Mal, dass politisch-motivierte Sanktionen der rechtsradikalen US-Regierung Folgen für zivilgesellschaftliche Organisationen in Europa haben.

Zuletzt waren der deutschen Rote Hilfe ihre Konten bei GLS Bank und Sparkasse gekündigt worden. Die Sparkasse bestätigte einen Zusammenhang mit den US-Sanktionen. Die Rote Hilfe konnte nur durch Proteste und Gerichtsverfahren den Zugang zu ihren Konten wiedererlangen.

Die US-Regierung belegte zudem Ende 2025 die Organisation HateAid mit Sanktionen und begründete dies mit angeblicher Zensur.

Update 16:30 Uhr:

In einer längeren Erklärung schreibt das Medienkollektiv Sabotmedia, was nun passieren könnte. Autistici/Inventati hat den Text auf seinem Blog gecrosspostet:

Nun sei der Stichtag des 25. Septembers entscheidend. Denn ab diesem Tag gelten die Sanktionen vollends. Ab diesem Zeitpunkt sei mit dem Verlust von Bankkonten und Zahlungsabwicklung, Hosting, Cloud-Infrastruktur und Upstream-Netzwerkdienste, Domain-Registrierung, Zertifikate usw. zu rechnen – auch wenn nicht alle, die mit dem Kollektiv Geschäftsbeziehungen haben, gesetzlich verpflichtet sind, zu reagieren.

Weiter heißt es, dass sich die Einstufung zwar gegen das Kollektiv an sich richte, doch die Maßnahme Auswirkungen für alle haben wird, die die Infrastruktur nutzen:

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Die Infrastruktur von A/I wird von Schriftstellern, Organisatoren, Forscher:innen, Künstler:innen, Publikationen von Bewegungen und Menschen genutzt, die sich gerade deshalb dafür entschieden haben, weil kommerzielle Plattformen unsicher, politisch feindselig oder darauf ausgelegt waren, ihre Daten abzugreifen. Diese Nutzer werden nicht automatisch sanktioniert, nur weil sie eine A/I‑Adresse haben oder auf Noblogs veröffentlichen. Sobald jedoch der Anbieter selbst auf eine Terrorismus-Blacklist gesetzt wird, kann eine gewöhnliche Verbindung zu einem Risikosignal werden.

Mehr als nur das Kollektiv betroffen

Sabotmedia warnt in diesem Sinne vor einem „Kreis der Angst“, der sich auf alle Nutzer:innen der Services auswirken könnte. Das umfassendere Ziel der Maßnahme sei die Community rund um die Server des Kollektivs und soziale Bewegungen insgesamt, indem unabhängige, zensurfreie, nicht-kommerzielle Infrastrukturen, die auch kontroverse Inhalte und Gruppen hosten, unter Druck gesetzt werden.

Im Text heißt es weiter:

Nutzer:innen könnten von vertrauenswürdiger Infrastruktur der Bewegung zu kommerziellen Systemen abwandern, die leichter zu überwachen, per Vorladung zu erzwingen und zu kartieren sind. Der Staat gewinnt an Einfluss, selbst wenn er keine Klartextdaten von den verschlüsselten Festplatten von A/I erhält: Menschen isolieren sich voneinander, Anbieter sammeln mehr Informationen, und die sozialen Beziehungen rund um regimekritisches Engagement lassen sich leichter beobachten.

Die Struktur der Maßnahme der USA sei erkennbar. Sie ersetze eine eng gefasste Anschuldigung gegen identifizierbares Verhalten durch eine pauschale Sanktion gegen die Infrastruktur; verlagere die Durchsetzung vom Gerichtssaal in ein globales Netz vorsichtiger Institutionen; und mache die Ungewissheit selbst zu einem Instrument der Kontrolle. Das unmittelbare Ziel möge darin bestehen, A/I außer Gefecht zu setzen. Die weiterreichende Wirkung bestehe aber darin, jeden zu warnen, der Kommunikationswege außerhalb der Kontrolle von Unternehmen und Staat aufbaue, dass der Schutz, den diese bieten, als Beweismittel gegen sie umgedeutet werden könne.

Solidarität jetzt wichtig

Weiter heißt es im Text, dass das Kollektiv zwar die technischen Infrastrukturen vermutlich retten könne und für dies gut gerüstet sei. Die Maßnahme ziele aber nicht auf die technische Infrastruktur, sondern das Gefüge rund um diese. Genannt werden dabei Finanzierung, Spenden, Verträge mit Rechenzentren, usw. Es komme deswegen darauf an, dass es Solidarität mit dem Projekt gebe. Der 25. September sei kein Stichtag für Schweigen, heißt es weiter:

Unabhängige Berichterstattung, Kritik, Protest, Aufklärung und politisches Engagement bleiben möglich. Die Menschen können die Geschichte von A/I erzählen, die Behauptungen der Regierung hinterfragen und anfechten, Journalist:innen und Bürgerrechtsorganisationen kontaktieren, öffentlich zugängliche Materialien sichern und sich unabhängig gegen die Kriminalisierung widerständiger Kommunikationsinfrastruktur organisieren.

Dennoch würde es ab dem 25. September schwieriger das Kollektiv offen und direkt zu unterstützen. In einem Kapitel „Was Unterstützer vor dem 25. September tun können“ ruft das Kollektiv auf, die Geschichte des Kollektivs zu erzählen und die Darstellung der US-Regierung zu kontern, was mit der Maßnahme wirklich angegriffen wurde. Weiter heißt es in dem Solidaritätsaufruf von Sabotmedia, den wir an dieser Stelle in voller Länge dokumentieren (automatische Übersetzung):

Bildet eine öffentliche Verteidigungskoalition. Bittet unabhängige Serverkollektive, Organisationen für digitale Rechte, Hacklabs, Freie-Software-Projekte, radikale Bibliotheken, unabhängige Verlage, Journalisten, Rechtsanwälte, Forscher und ehemalige Nutzer, öffentlich Stellung zu nehmen. Sichert das Archiv. Server können beschlagnahmt werden. Domains können gesperrt werden. Hosting-Anbieter können in Panik geraten. Sichert öffentlich zugängliche und historisch wertvolle Noblogs-Beiträge sowie die Manifeste, technischen Dokumente, Rechtsunterlagen und die Bewegungsgeschichte von A/I. Erfasst Quell-URLs, Urheberschaft, Veröffentlichungsdaten und Abrufdaten. Respektiert Datenschutz, Urheberrecht und Löschanträge. Greift nicht auf private Konten zu und umgeht keine Sicherheitsvorkehrungen. Persönliche Archivierung, Forschungsarchivierung und gewöhnlicher Journalismus sind nicht dasselbe wie der öffentliche Betrieb einer Ersatzinfrastruktur; wer einen öffentlichen Mirror in Betracht zieht, sollte zunächst qualifizierten Rat einholen.

Dokumentiert übermäßige Compliance. Erfasst Unternehmen, Banken, Registrare, Plattformen und Institutionen, die Dienste einstellen oder Material entfernen. Bewahrt Mitteilungen und Korrespondenz auf. Die öffentlichen Aufzeichnungen sollten zeigen, wie weit die Einstufung über ihren formalen Wortlaut hinausgeht. Fordert Antworten. Fragt Digitalrechtsgruppen, europäische Institutionen und Amtsträger, ob sie zulassen werden, dass amerikanische Sanktionen ein italienisches Kommunikationskollektiv zerschlagen. Fragt, welcher Schutz für europäische Infrastruktur, Nutzer und Archive besteht. Organisiert Euch unabhängig. Führt öffentliche Diskussionen über autonome Infrastruktur, Sanktionen, Überwachung und das Gesetz zur materiellen Unterstützung. Veröffentlicht Erklärungen. Vermittelt Kenntnisse über Verschlüsselung. Unterstützt unabhängige Bürgerrechtsarbeit, die sich gegen weitreichende Terrorismus-Einstufungen wendet. Bereitet rechtmäßige materielle Unterstützung vor. A/I hat sich in der Vergangenheit durch freiwillige Spenden finanziert, doch US-amerikanische Unterstützer sollten während der Gültigkeit der Einstufung ohne klare Genehmigung kein Geld senden oder umleiten. Organisationen für digitale Rechte und Rechtshilfe können eigenständig rechtmäßige Unterstützungsmechanismen, Lizenzierungen und mögliche Verfahren zur Aufhebung der Einstufung prüfen.

Hört euch die öffentliche Stellungnahme von A/I aufmerksam an und achtet dabei darauf, dass die Interessenvertretung rechtlich unabhängig bleibt. Die Erklärung des Kollektivs sollte darüber Aufschluss geben, wie seine Geschichte und die Umstände beschrieben werden. Jede koordinierte Kampagne, jeder Fundraising-Kanal oder jede direkte Dienstleistung erfordert eine gesonderte rechtliche Prüfung. Das unmittelbare Ziel ist es, ein stilles Verschwinden von A/I unmöglich zu machen.

Das Netzwerk namens Solidarität

A/I hat Konzerne überstanden, die Zensur forderten, sowie verdeckten polizeilichen Zugriff, beschlagnahmte Festplatten, feindselige Provider, Angriffe aus dem Parlament und internationale Ermittlungen. Der Fall Trenitalia führte zu Spiegelservern und einem juristischen Sieg. Der Aruba-Hack führte zu „Plan R*“. Die Zensur durch Provider führte zu Redundanz.

Die Beschlagnahmung in Norwegen zeigte, dass sich das Netzwerk innerhalb von Stunden wieder erholen konnte. Jeder Versuch, das Kollektiv zu isolieren, verbreitete Wissen darüber, wie Zensur und Überwachung funktionieren. Jeder Angriff wurde zu einer Gelegenheit, mehr Menschen beizubringen, wie sie sich gegenseitig schützen können. Die Vereinigten Staaten haben diese Geschichte nun in einen globalen Test verwandelt. Auf dem Spiel steht nicht nur das Überleben eines italienischen Hacker-Kollektivs. Es geht darum, ob die Aufrechterhaltung einer Infrastruktur für radikale Bewegungen an sich schon als Terrorismus behandelt werden kann; ob Privatsphäre als Verschleierung neu definiert werden kann; ob die Weigerung, identifizierende Informationen zu sammeln, als Behinderung dargestellt werden kann; und ob ein Provider politisch und rechtlich für jeden Text, jede Taktik und jede Behauptung verantwortlich gemacht werden kann, die über seine Maschinen übertragen werden.

A/I hat sich 25 Jahre lang auf den Tag vorbereitet, an dem ein Server verschwindet. Es weiß, wie man eine Maschine ersetzt, einen Dienst verlagert, verschlüsselte Daten wiederherstellt und den Betrieb fortsetzt, nachdem Polizei oder Provider den Stecker gezogen haben. Die Vereinigten Staaten versuchen etwas anderes. Sie versuchen, Banken, Hosts, Registrare, Infrastrukturanbieter und Unterstützer auf der ganzen Welt einzuschüchtern, damit sie das Kollektiv im Stich lassen. Ob das gelingt, wird zum Teil von der Architektur von A/I abhängen.

Es wird auch von uns abhängen.

Bewahrt bis zum 25. September die Geschichte. Teilt die Geschichte. Baut die Koalition auf. Dokumentiert die Isolation. Vermittelt die Werkzeuge. Bereitet eine rechtmäßige Verteidigung vor. Lasst nicht zu, dass der Staat stillschweigend festlegt, dass der Aufbau einer datenschutzfördernden Infrastruktur für Dissens an sich schon ein Akt des Terrorismus ist. Vor fünfundzwanzig Jahren versammelten sich zehn Menschen um einen ausrangierten Rechner und ließen sich bewusst viel Zeit bei der Konfiguration, weil jeder im Raum etwas lernen sollte. Das ist nach wie vor die Lehre daraus. Überlasst das Wissen nicht den Experten.

Konzentiert die Infrastruktur nicht an einem Ort. Lasst die Betroffenen nicht allein.

Der erste Server hieß Paranoia.

Das Netzwerk, das er schuf, hieß Solidarität.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Normalerweise freuen sich Polizist*innen über erweiterte Befugnisse. Doch das geplante Thüringer Polizeigesetz geht selbst der dortigen Gewerkschaft der Polizei zu weit. Sie warnt vor den Folgen von KI-gestützter Überwachung und fordert klare Beschränkungen.

Polizist*innen in Erfurt. (Symbolbild) – CC-BY-NC-SA 4.0: Denis Glismann

Im Thüringer Landtag läuft gerade eine Expert*innenanhörung zum aktuellen Polizeigesetzentwurf der Regierungskoalition aus CDU, BSW und SPD. Unter den geladenen Sachverständigen ist auch Mandy Koch, Vorsitzende der Gewerkschaft der Polizei (GdP), Landesbezirk Thüringen.

Koch begrüßt ein „zeitgemäßes Instrumentarium“, kritisiert aber die unbestimmten Rechtsbegriffe im Gesetzentwurf. Kennzeichenscanner dürften demnach beispielsweise nicht flächendeckend und nicht dauerhaft eingesetzt werden, „aber was heißt das?“ Die automatisierte Videoüberwachung soll bestimmte Verhaltensmuster erkennen, „aber wie definiert man das?“ Koch fordert eindeutige Eingriffsschwellen. „Klare Grenzen behindern Polizeiarbeit nicht, sondern schützen Bürgerrechte und schaffen Rechtssicherheit für Kolleginnen und Kollegen“, sagt sie.

Koch fürchtet zudem, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. „Wenn ich mir vorstelle, ich gehe zu einer Demo, es ist alles schön, es ist alles schick, ich versammle mich friedich und ohne Waffen und über mir fliegt eine Drohne ständig rum, dann fände ich das nicht schön, weil das immer so ein unwohles Gefühl birgt“, sagt sie. Die Gewerkschaftsvorsitzende sieht die Gefahr, „dass Menschen sagen, dann geh ich da nicht hin, das will ich nicht und dann nehme ich mein Grundrecht nicht wahr, das sehen wir kritisch.“

„Erhebliche Risiken für die Grundrechte“

Im Vorhinein hatte die GdP Thüringen bereits eine schriftliche Stellungnahme eingereicht, die in Umfang, Detailtiefe und auch Schärfe der Kritik noch einmal deutlich über die in der Anhörung getätigten Aussagen hinausgeht. Die Gewerkschaft nennt „erhebliche Risiken für Grundrechte“ und kritisiert erstaunlich deutlich die geplanten Befugnis-Erweiterungen.

Der Polizeigesetz-Entwurf soll eine Reihe von KI-basierten Technologien erlauben: Datenanalyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle und eine Internet-Suchmaschine für biometrische Daten. Diese Befugnisse wurden auch in vielen anderen Bundesländern eingebracht und teils bereits verabschiedet. Auch Bundespolizei und BKA sollen mit den Tools arbeiten. Das verschafft der klaren Position der Polizeigewerkschaft in Thürigen bundesweite Relevanz.

Ein zentrales Problem an den automatisierten Systemen ist für die GdP Thüringen deren fehlende Neutralität. Die Gewerkschaft warnt davor, technische Systeme als scheinbar objektive Entscheidungsinstanzen zu betrachten. „Biometrische Treffer, automatisierte Warnmeldungen oder algorithmische Risikobewertungen dürfen niemals alleinige Grundlage schwerwiegender polizeilicher Eingriffe sein“, schreibt sie. Sie hält externe Audits, regelmäßige Evaluierungen und klare gesetzliche Begrenzungen automatisierter Analyse- und Identifikationssysteme für unverzichtbar. Insbesondere bei datengetriebenen und technisch gestützten Eingriffsbefugnissen müssten rechtsstaatliche Grenzen und demokratische Kontrolle stärker berücksichtigt werden.

GdP fordert strenge Richtervorbehalte für Datenanalysen

Speziell bei der automatisierten Datenanalyse, wenn also unterschiedliche Datenbestände verknüpft und algorithmisch analysiert werden, steige zwangsläufig die Gefahr fehlerhafter Zuordnungen oder unklarer Verdachtslagen. Deshalb braucht es dafür aus Sicht der GdP Thüringen strenge Richtervorbehalte und nachvollziehbare Kontrollmechanismen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Grundsätzlich ist die GdP – bei einer Polizeigewerkschaft erwartbar – einer Ausweitung der Befugnisse nicht abgeneigt. Auch die neuen Befugnisse lehnt sie nicht grundsätzlich ab. Sie unterstützt das Ziel, „das Thüringer Polizeiaufgabengesetz an moderne Gefahrenlagen anzupassen und der Polizei zeitgemäße Instrumente zur Verfügung zu stellen“. Allerdings äußert sie auch erhebliche Bedenken.

Zuallererst ist da die immer wieder geäußerte Sorge davor, dass mit einer Ausweitung der Befugnisse auch eine erhöhte Belastung des Personals einhergeht. Deshalb fordert sie, bei einem Ausbau von Kompetenzen immer auch Ressourcen der Polizei aufzustocken.

Die Gewerkschaft sieht in dem vorliegenden Gesetzentwurf zudem „die Gefahr, dass polizeiliche Eingriffe immer weiter in das Vorfeld konkreter Gefahren verlagert werden“. Sie kritisiert die vielen unbestimmten Formulierungen im Gesetzestext, wie „hinreichende Wahrscheinlichkeit“, „Verhaltensmuster“ oder „übersehbarer Zeitraum“ – die ja eigentlich den Spielraum der Polizei erweitern. „Unklare Normen schützen keine Grundrechte. Sie verlagern Rechtsunsicherheit lediglich auf die Ebene der handelnden Polizeibeamtinnen und Polizeibeamten“, schreibt die GdP dazu.

Regelmäßige Evaluation und Berichtspflichten

Die Gewerkschaft fordert, die Befugnisse regelmäßig zu evaluieren und Berichtspflichten an das Parlament zu hinterlegen. „Gerade bei neuen technischen Maßnahmen liegen bislang nur begrenzte belastbare empirische Erkenntnisse zu tatsächlicher Wirksamkeit, Fehlerraten oder langfristigen Auswirkungen auf Grundrechte und gesellschaftliches Vertrauen vor“, erläutert sie.

Harmlose Bewegungen oder alltägliche Interaktionen könnten technisch fehlerhaft als Gefahrensituation interpretiert werden, warnt die GdP Thüringen. „Die Folgen solcher Fehlbewertungen bleiben nicht theoretisch. Sie können unnötige Polizeieinsätze auslösen, unbeteiligte Personen in polizeiliche Maßnahmen hineinziehen und letztlich das Vertrauen der Bevölkerung in die Verhältnismäßigkeit staatlichen Handelns beeinträchtigen“, schreibt die Polizeigewerkschaft.

Die GdP Thüringen warnt, dass die neuen Überwachungs- und Analysebefugnisse erhebliche Auswirkungen auf die Wahrnehmung der Versammlungsfreiheit entfalten könnten. „Gerade Videoüberwachung, automatisierte Verhaltensanalyse oder biometrische Identifikationssysteme bergen die Gefahr sogenannter ‚Chilling Effects‘“, schreibt sie.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Versammlungen nicht präventiv überwachen

Die von Mandy Koch in der Anhörung genannten Sorgen zur Versammlungsfreiheit erwähnt die Stellungnahme ebenfalls. Friedliche Demonstrationen dürften nicht den Eindruck vermitteln, sie stünden unter einer allgemeinen präventiven Dauerbeobachtung. Die GdP Thüringen hält demnach eine ausdrückliche gesetzliche Klarstellung für erforderlich, dass friedliche Versammlungen nicht zum Gegenstand allgemeiner präventiver Überwachung gemacht werden dürfen. Das würde nicht nur Bürgerrechte schützen, sondern auch die Polizei selbst – vor dem Vorwurf politisch motivierter Überwachung.

Die GdP Thüringen kritisiert nicht nur das geplante Polizeigesetz, sondern auch aktuell existierende Regelungen. Derzeit legen Polizist*innen in Thüringen sogenannte gefährliche Orte, an denen sie beispielsweise verdachtsunabhängige Kontrollen vornehmen dürfen, relativ freihändig fest, teils auch einfach spontan. Die Gewerkschaft schreibt, dass diese Orte nicht beliebig und ohne nachvollziehbare Kriterien festgelegt werden dürften. „Wenn Kontrollräume kurzfristig, uneinheitlich oder ohne ausreichende Dokumentation entstehen, leidet die Akzeptanz polizeilichen Handelns“, schreibt sie.

Die sogenannte elektronische Fußfessel, deren Einsatz mit dem Entwurf in Thüringen zur Abwehr verschiedener Gefahren erlaubt werden soll, würde die GdP Thüringen gern hart begrenzen. Sie soll nur unter engen gesetzlichen Voraussetzungen eingesetzt werden und regelmäßig richterlich überprüft werden. „Je intensiver ein Grundrechtseingriff ist, desto höher sind die Anforderungen an Kontrolle, Dokumentation und Verhältnismäßigkeit“, betont die Gewerkschaft.

„Menschen dürfen nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“

Mit dem Gesetzentwurf sollen der Polizei auch Elektroimpulspistolen, sogenannte Taser, erlaubt werden. Die GdP Thüringen fordert dazu umfangreiche Schulungsmaßnahmen, verpflichtende medizinische Nachkontrollen der Betroffenen und eine lückenlose Dokumentation sämtlicher Einsätze. Zudem soll der Einsatz wissenschaftlich begleitet und regelmäßig evaluiert werden. „Nur so lässt sich nachvollziehen, in welchen Situationen Distanzelektroimpulsgeräte tatsächlich deeskalierend wirken und wo Risiken oder Fehlentwicklungen bestehen“, schreibt die Gewerkschaft.

Der vorliegende Entwurf soll den Einsatz von Videoüberwachung mit Verhaltensanalyse auch in Gewahrsamsräumen erlauben. Was der GdP Thüringen dabei fehlt, sind ein expliziter Schutz der Intimsphäre, klare Löschfristen und nachvollziehbare Dokumentationspflichten. „Menschen dürfen auch im Gewahrsam nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“, schreibt sie.

Die GdP Thüringen treibt auch die Sorge darum, dass die Daten, die mit den neuen Befugnissen erhoben werden, digitalen Angriffen zum Opfer fallen könnten. „Gerade sicherheitsrelevante Systeme geraten zunehmend in den Fokus organisierter Cyberkriminalität sowie ausländischer Nachrichtendienste“, warnt sie.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Vor Gericht hätten mehrere US-Bundesstaaten ein historisches Urteil zum Schutz junger Menschen erstreiten können. Stattdessen haben sie sich auf einen halbgaren Deal mit Meta eingelassen. Neben vielen Milliarden US-Dollar bringt er Jugendschutz mit Ablaufdatum. Ein Kommentar.

Wird durch den Vergleich nicht vor Gericht aussagen müssen: Meta-Chef Mark Zuckerberg. – Alle Rechte vorbehalten: IMAGO / PxImages

Welche Verantwortung tragen Tech-Konzerne wie Facebook und Instagram, wenn sie junge Menschen an sich binden, bis ihre Gesundheit leidet? Wie hoch ist die Strafe, wenn Konzerne aus der Aufmerksamkeit junger Menschen maximalen Profit schlagen und dabei Schaden in Kauf nehmen – mit suchtfördernden Mechanismen, manipulativen Designs und allerlei Psycho-Tricks?

Diese und weitere Fragen hätte ein wegweisender Gerichtsprozess in den USA beantworten können. Aber die klagenden US-Bundesstaaten haben es zugelassen, dass Meta sich freikauft. Mit einem Vergleich über zunächst rund 13 Milliarden US-Dollar entgeht der Mutterkonzern von Facebook und Instagram einem Urteil und bestreitet weiter die Vorwürfe. Das Gericht muss dieser Einigung allerdings noch zustimmen.

Zum Vergleich gehören nicht nur Milliarden, sondern auch eine Reihe von Maßnahmen für mehr Kinder- und Jugendschutz auf Facebook und Instagram. Meta präsentiert das in einem Blogpost. Unter anderem soll es für Jugendliche ein Zeitlimit von zwei Stunden am Tag geben, das sie nur mit elterlicher Erlaubnis abschalten können. Zwischen Mitternacht und sechs Uhr morgens sollen junge Menschen zentrale Funktionen der Plattformen nicht nutzen können. Und nicht zuletzt sollen sie einen Feed wählen können, der nicht auf ihre persönlichen Interessen optimiert wurde.

Einerseits können solche Maßnahmen tatsächlich helfen, um die oftmals unwiderstehliche Sogwirkung der Apps zu lindern. Andererseits steckt darin ein vergiftetes Angebot. Offensichtlich wollen Facebook und Instagram damit einem drohenden Urteil entgehen, das möglicherweise deutlich härtere Geldbußen, Auflagen und Folgeklagen mit sich gebracht hätte.

Jugendschutz als Knaller-Schnäppchen

Die Maßnahmen aus dem Vergleich sind keine schönen neuen Standards, auf die sich Betroffene in Zukunft berufen können. Kein Gericht hat geklärt, dass sich solche Maßnahmen aus geltendem Recht ergeben. Die Maßnahmen sind bloß ein Deal mit Meta, und sie haben sogar ein Ablaufdatum.

Nur zehn Jahre lang will sich Meta zu den meisten dieser Maßnahmen verpflichten. Und nur fünf Jahre lang will sich der Konzern dazu verpflichten, die Nutzungszeit für junge Menschen zu beschränken – auf zwei Stunden am Tag und auf Basisfunktionen in der Nacht. Fünf schlappe Jahre. Die Gründe für diese lächerlich kurze Zeitspanne liegen auf der Hand. Wenn junge Menschen ihre Aufmerksamkeit anderen Dingen widmen, verliert Meta Geld, und Meta will kein Geld verlieren.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Wer sich Metas Darstellung des Deals durchliest, hört förmlich die Stimme eines windigen Teleshopping-Verkäufers tönen: „Unglaublicher Jugendschutz-Deal, greifen Sie jetzt zu!“

Es ist tatsächlich Teil des Deals, dass Meta die auf nur fünf Jahre beschränkte Laufzeit seiner beiden Vorzeige-Maßnahmen auf volle zehn Jahre verlängern könnte – vorausgesetzt, dass sich auch TikTok und YouTube den Standards anschließen. „Aber das ist noch längst nicht alles“, raunt der fiktive Verkäufer. Wenn TikTok und YouTube mitziehen, will Meta dem Deal zufolge das tägliche Zeitlimit für junge Menschen noch weiter senken, und die Summe des Vergleichs würde weiter steigen: von 12,7 auf 18 Milliarden US-Dollar.

Im Teleshopping würden an dieser Stelle goldene Dollarzeichen aufpoppen, begleitet von Konfetti-Regen und dem ekstatischen Ruf des Verkäufers: „Ist das nicht ein absolutes Knaller-Schnäppchen, bei dem kein Jugendschutz-Fan Nein sagen kann?!“

Metas Deal wirft eine bohrende Frage auf: Sollte Schutz der mentalen Gesundheit junger Menschen ein befristetes Sonderangebot sein – oder ein Standard, auf den sich eine Gesellschaft dauerhaft einigt?

Genau das hätten die klagenden US-Bundesstaaten vor Gericht klären können. Es wäre eine historische Chance gewesen, mit weltweiter Signalwirkung. Es hätte das Leben junger Menschen nachhaltig verbessern können, auch über die nächsten fünf bis zehn Jahre hinaus. Aber, und hier zeigt sich die unrühmliche Gemeinsamkeit von Klägern und Beklagtem: Das Geld war wichtiger.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Heute diskutiert darüber der Innenausschuss des Landtages. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft.

Voll von oben herab: Überwachung durch die Polizei Niedersachsen. – Alle Rechte vorbehalten: IMAGO / BREUEL-BILD

Heute wird das niedersächsische Polizeigesetz im Innenausschuss des Landtages diskutiert. Der Entwurf soll zahlreiche hochinvasive KI-gestützte Überwachungsinstrumente erlauben, unter anderem Datenanalyse nach Palantir-Art, die Suche nach biometrischen Daten im Internet sowie Videoüberwachung mit automatisierter Verhaltenskontrolle und Echtzeit-Gesichtserkennung – möglich auch von Videodrohnen aus.

Die Verhaltenserkennung dürfte sogar bei Mustern Alarm schlagen, die auf den „Eintritt eines Unglücksfalles“ hinweisen. Die entsprechende Erfassung von liegenden Personen kann zur Diskriminierung von Obdachlosen genutzt werden.

Keine Opposition zur Überwachung im Landtag

Außer den Regierungsparteien SPD und Grüne sind im Landtag nur CDU und AfD vertreten. Deren Kritik an dem Entwurf besagt vor allem, dass dieser nicht weit genug gehe. Die CDU hat Gegen-Gesetzentwürfe eingebracht, die beispielsweise die Einsatzschwelle für die Live-Gesichtserkennung deutlich niedriger ansetzen – diese soll schon zur Verhinderung von Straftaten möglich sein, nicht erst bei einer „gegenwärtigen Gefahr für Leib oder Leben einer Person“. Auch die AfD begrüßt die neuen Befugnisse, fordert allerdings, für die Datenanalyse den Anbieter Palantir zu nutzen, der für seinen Beitrag zu Menschenrechtsverletzungen bekannt ist. Rot-Grün schließt diesen aktuell aus.

Im Landtag finden sich also keine Stimmen, die den massiven Ausbau der Überwachungsbefugnisse hinterfragen. Doch nun bildet sich Gegenwehr aus der Zivilgesellschaft. Das überwachungskritische Bündnis NoNPOG2 wurde erst vor kurzem ins Leben gerufen – das Gründungstreffen fand am 9. August statt – doch die Initiative vereint bereits eine ganze Reihe von Gruppen aus verschiedenen gesellschaftlichen Bereichen.

Hacker*innen, Klimakids und Fußballfans

Im dem Bündnis finden sich neben IT-affinen Menschen zum Beispiel aus dem CCC Hannover, dem kleindatenverein, von Anarch-IT, einem Tech-Support für Aktivist*innen, den Hackspaces Chaostreff Osnabrück und Stratum 0 oder der Gruppe freiheitsfoo, auch andere gesellschaftliche Gruppe. Si etwa Fußballfans aus der Blau-Gelben Hilfe, die andere Fußballfans bei Problemen mit Polizei und Justiz unterstützen.

Daneben haben sich auch einige Partei-Gliederungen dem Bündnis angeschlossen: Die PARTEI Niedersachsen und Die Linke und Jusos aus Braunschweig. Außerdem gibt es im Bündnis die grenzkritischen Gruppierungen Flüchtlingsrat Niedersachsen und Seebrücke Braunschweig, das Team des Universum Filmtheater, die jungen Klimaaktivist*innen der Hildesheimer Ortsgruppe von Fridays for Future, sowie die Rote Hilfe Hannover, die linken und linksextremen Menschen Rechtshilfe anbietet. Weiterer juristischer Sachverstand kommt von der Antirepressionsgruppe Lüneburg und dem Anwalt Sven Adam. Die Aktivist*innen betonen, dass sie für weitere Gruppen und Einzelpersonen aus einem breiten gesellschaftlichen Spektrum offenstehen.

Der Widerstand gegen Überwachungsmaßnahmen hat in Niedersachsen bereits Tradition. Die vorhergehende Verschärfung des Polizeigesetzes von 2019, die unter anderem Kennzeichenscanner einführte und Videoüberwachung vereinfachte, wurde von einem Bündnis unter dem Akronym NoNPOG (kurz für: Nein zum niedersächsischen Polizeigesetz) mit einer Reihe von Demonstrationen begleitet. Einige der heute beteiligten Menschen waren auch 2019 schon dabei.

„Wie viele Leute das scheiße finden“

Laura und Sebastian waren damals noch nicht gegen Überwachung aktiv. Heute sind sie Teil des Widerstands. Sebastian sagt, er finde es erschreckend, dass es im Landtag keinen Widerspruch gegen die aktuell geplanten Überwachungsmaßnahmen gibt. „Die, von denen man erwarten würde, dass sie verstehen, wie problematisch die Befugnisse sind, planen deren Einführung und dahinter sitzt eine Opposition, die noch weitergehenden Druck macht“, fasst er die Lage zusammen. Deshalb müsse die Opposition von außen kommen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Laura hofft darauf, dass sich zumindest die Grünen vom zivilgesellschaftlichen Widerstand beeindrucken lassen. „Wenn die mitbekommen, wie viele Leute das scheiße finden, dann werden die zurückrudern“, sagt sie.

Von der ersten eigenen Demonstration sind Laura, Sebastian und ihr Bündnis aktuell noch ein Stück entfernt. Sie fokussieren sich aktuell darauf, Informationsmaterialien zu den geplanten Überwachungsmaßnahmen zusammenzustellen und in verschiedenen Lokalitäten Vorträge dazu zu halten.

Laura stört vor allem die Befangenheit der Algorithmen, die bei der Überwachung zum Einsatz kommen sollen. „Da ist immer eine Tendenz mit drin und das lässt sich auch nicht abschalten. Das ist mein größtes Bedenken“, sagt sie. So sei beispielsweise schon die Datenlage der Polizei, mit der die Software arbeitet, rassistisch gefärbt. Und auch die Trainingsdaten der sogenannten KI seien, weil von Menschen zusammengestellt, nie neutral.

Sebastian sagt, dass die Algorithmen diskriminierend wirken können, sei der Landesregierung offensichtlich bewusst. Laut Gesetzentwurf soll die Polizei nämlich verhindern, dass diskriminierende Algorithmen verwendet werden. Wie das möglich sein soll, lässt sie allerdings offen.

Magisches Denken

Laura und Sebastian haben sich das geplante Polizeigesetz gründlich angesehen und an weiteren Positionen Hinweise darauf gefunden, dass die Landesregierung durchaus auf dem Schirm hat, wie problematisch der Entwurf ist. So habe diese beispielsweise eine Umgehungslösung im Text verankert, der verhindern soll, dass mit der Datenanalyse nach Palantir-Art – und der dafür nötigen Meta-Datenbank – die Zweckbindung der erhobenen Daten verloren geht. Damit würden Zusammenlegung der Daten und die algorithmische Analyse in zwei Schritte aufgeteilt. „Und dann soll das auf zauberhafte Weise kein Problem mehr sein“, sagt Sebastian.

Auch das die Entscheidungen von KI grundsätzlich erst einmal nicht nachvollziehbar sind, sei der Landesregierung bewusst. Im Entwurf schreibt diese, dass die Nachvollziehbarkeit sichergestellt werden müsse – soweit das technisch möglich sei. „Da gibt es also ein Problembewusstsein, aber gleichzeitig auch den Versuch, das mit magischem Denken zu lösen“, sagt Sebastian.

Er kritisiert auch die geplante Videoüberwachung mit automatisierter Verhaltenskontrolle. „Das Gruseligste ist, dass die behaupten, dass das ein weniger starker Privatsphäreneingriff sei, als wenn Menschen die Videos schauen. Das finde ich so ein perfides Argument. Weil wenn man durchgehend unter Beobachtung eines Algorithmus steht, ist das, was Chilling-Effekte angeht, viel drastischer, als wenn da ab und zu mal ein Mensch draufschaut.“

Deutlich stärkerer Grundrechtseingriff

Verfechter*innen der Technologie behaupten, mit dem System sei es möglich, die Privatsphäre der Betroffenen zu schützen. Wissenschaftler wie Edzard Schmidt-Jortzig, Professor für öffentliches Recht an der Uni Kiel, oder Felix Ruppert, der an der Uni München unter anderem Strafrecht lehrt, stützen hingegen die Annahme, dass die automatisierte Videoüberwachung ein deutlich stärkerer Grundrechtseingriff ist als die herkömmliche.

Sebastian vom Bündnis NoNPOG2 fürchtet zudem, dass mit der automatisierten Kontrolle die Hürden sinken, die Videoüberwachung weiter auszudehnen. Denn diese soll ja ungewöhnliches Verhalten detektieren, ohne dass ständig Menschen auf die Bildschirme schauen müssen. „Ich finde es wahnsinnig gruselig, wenn Algorithmen definieren, was normal ist – und Menschen dann Angst haben müssen, in irgendeiner Form von der Norm abweichend aufzufallen“, sagt Sebastian.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Ebenfalls besorgniserregend ist für Sebastian die Erlaubnis, auf Livestreams von Überwachungskameras, oder auch retrograd anhand von Bildern aus dem Internet, Gesichtserkennungstechnologie einzusetzen. Denn das sorge für präventiven Gehorsam. „Ich möchte nicht in einer Demo überlegen müssen, ob ich mein Gesicht zeige oder mir immer, wenn jemand ein Smartphone zückt, überlegen, wo das Bild landet. Das vergiftet alles, wenn solche Aufnahmen Teil von Ermittlungen sein können. Und es unterdrückt politische Äußerungen in der Öffentlichkeit“, sagt er.

Angesichts der Tatsache, dass die Polizei künftig auch Videodrohnen einsetzen soll, verschärfe sich die Bedrohungslage. „Damit ist eine massive Ausweitung des Videoüberwachten Bereichs möglich“, sagt Sebastian.

„Da wird’s mir ganz grausig“

Laura gibt zudem das Missbrauchspotenzial der Befugnisse zu bedenken. „Viele Frauen wurden bereits von Polizisten gestalkt. Die haben zum Beispiel ihre Telefonnummern aus Polizei-Akten rausgesucht.“ Und mit den neuen Machtmitteln stünden noch viel drastischere Eingriffe in die informationelle Selbstbestimmung zur Verfügung. „Da wird’s mir ganz grausig, wenn ich daran denke, was damit möglich ist“, sagt sie.

Harte Kritik kommt auch vom Landesbeauftragten für den Datenschutz Niedersachsen (LfD) Denis Lehmkemper. Eine Woche vor der Diskussion im Innenausschuss hat die ihm unterstellte Datenschutzaufsicht ihren Jahresbericht veröffentlicht. Die Stellungnahme zum Polizeigesetz, die Lehmkemper im Rahmen der Verbandsanhörung abgegeben hatte, hat er nicht veröffentlicht, doch mit dem Jahresbericht machte er nun eine Zusammenfassung seiner Kritik publik.

In seiner Stellungnahme habe er gefordert, so der LfD im Jahresbericht, die „intelligente“ Videoüberwachung besser zu rechtfertigen. Und bei der Echtzeit-Fernidentifizierung habe er einen engeren Anwendungsbereich angemahnt, „insbesondere mit Blick auf die Vielzahl der von der Maßnahme betroffenen Personen“. Zur Internet-Suche nach biometrischen Informationen habe er bekanntgegeben, dass diese womöglich mit der KI-Verordnung der EU kollidiert.

Hinweise zur technischen Umsetzung, die erklären könnten, wie diese Kollision vermieden werden soll, vermisst Lehmkemper im Entwurf. „Diese sind allerdings entscheidend, da sich die Maßnahmen auf der Grenze zwischen Hochrisiko-KI-Systemen und in der KI-Verordnung geregelten Verboten von KI-Praktiken bewegen“, schreibt der LfD. Bei der Datenanalyse nach Palantir-Art seien die Datenbestände, die für den automatisierten Abgleich herangezogen werden sollen, „zu ungenau definiert und damit zu unbestimmt und zu weitreichend.“ Die „schwerwiegende Kritik“ aus seiner Stellungnahme sei allerdings weitestgehend unberücksichtigt geblieben.

Der Datenschutzbeauftragte sieht in der Datenanalyse nach Palantir-Art einen „Paradigmenwechsel in der Polizeiarbeit“. Sie setze voraus, dass alle bisher vorgangsbezogen gespeicherten Daten der Polizei auf einer Analyseplattform zusammengeführt werden. „Damit würde die Zweckbindung aufgehoben.“ Verfassungsrechtlich höchst problematisch sei auch die Einbeziehung von Telekommunikationsdaten, damit wären auch die Inhalte von Gesprächen umfasst.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Sicherheitsforscher:innen, die auf eigene Faust Lücken in IT-Systemen entdecken und diese verantwortungsbewusst melden, können schnell in die Bredouille geraten. Nun legt die Gesellschaft für Informatik ein Papier dazu vor, wie die überfällige Reform des Computerstrafrechts endlich gelingen könnte.

Ethische Hacker:innen werden als "White Hats" bezeichnet – und müssen in Deutschland mit rechtlichen Folgen rechnen, wenn sie IT-Sicherheitslücken melden. – Alle Rechte vorbehalten: IMAGO / Future Image

Wer in Deutschland IT-Sicherheitslücken meldet, läuft Gefahr, Probleme zu bekommen. So musste sich etwa die Sicherheitsforscherin Lilith Wittmann mit einer Anzeige herumschlagen, nachdem sie eine gravierende Sicherheitslücke in einer App der CDU gefunden hatte. Dabei half es ihr zumindest anfangs nicht, sich vorbildlich verhalten zu haben: Ausgenutzt hatte sie den unautorisierten Zugang zu zehntausenden Datensätzen nicht, sondern stattdessen der Partei Zeit genug gegeben, die Lücke zu schließen, bevor die Öffentlichkeit davon erfuhr.

Obwohl die Sache letztlich glimpflich für Wittmann ausging, bewegen sich IT-Sicherheitsforscher:innen oft in einer rechtlichen Grauzone. Vor allem das seit dem Jahr 2007 geltende Computerstrafrecht kriminalisiert eine Reihe an Techniken und Werkzeugen, die zur Grundausstattung vieler IT-Sicherheitsexpert:innen zählen.

Eines der Probleme dabei: Wenn Lücken nicht gefahrlos und verantwortungsbewusst („Responsible Disclosure“) gemeldet und anschließend vom Hersteller geschlossen werden können, bleiben sie offen. Ein gefundenes Fressen für tatsächliche Cyberkriminelle, Geheimdienste beliebiger Länder oder sonstige Akteure, die keine guten Absichten haben.

Anläufe für Reform

Inzwischen ist in der deutschen Politik über Parteigrenzen hinweg durchgedrungen, dass dieser Ansatz mehr Probleme schafft, als er löst. Die überfällige Reform lässt jedoch weiterhin auf sich warten. Zuletzt ist die Ampelregierung nicht über einen Referentenentwurf hinausgekommen, der die umstrittenen Hacker-Paragrafen entschärft hätte. Und das Versprechen der schwarz-roten Regierung, im „Computerstrafrecht Rechtssicherheit für IT-Sicherheitsforschung“ zu schaffen, steht bislang nur als nebulöse Absichtserklärung im Raum.

In diese Lücke stößt ein aktuelles Papier der Gesellschaft für Informatik (GI). Diese hatte sich mit Industrie, Sicherheitsforschenden und digitalpolitischen NGOs zusammengesetzt und Lösungsansätze entwickelt, um eine rechtssichere IT-Sicherheitsforschung zu erlauben. Dabei sei Eile geboten, so GI-Präsident Martin Wolf. Das große Missbrauchspotenzial von KI-Systemen mache das frühzeitige Finden und Melden von Schwachstellen wichtiger denn je, sagt der in Aachen lehrende IT-Experte. „Ehrenamtliche Hacker:innen dürfen dafür nicht länger mit Strafanzeigen statt Anerkennung belohnt werden“, fordert Wolf.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Als Ausweg bietet das GI-Papier zum einen konkrete Gesetzesänderungen an. So müsse etwa die Absicht der meldenden Person ein „zentrales Kriterium“ einer gesetzlichen Anpassung sein. Schließlich stelle die gemeinwohlorientierte Meldung einer Sicherheitslücke einen „wesentlichen Unterschied zu böswilligem Hacking dar“, führt das Papier aus.

Entsprechend sollten unter anderem Hacking-Tools, die beispielsweise das Dekompilieren von Software möglich machen, legalisiert werden: „Nicht die Herstellung oder das Zugänglichmachen von ‚Hacker*innentools’ sollte kriminalisiert werden, da diese zur Aufdeckung solcher Schwachstellen verwendet werden, sondern die Verwendung für eine verbotene Handlung.“

Polen als Vorbild

Zum anderen müsse die Regierung neben dem Strafrecht weitere Gesetze anfassen, darunter das Datenschutzgesetz (TDDDG). Dieses kriminalisiere in seiner aktuellen Form das Melden einer Schwachstelle, selbst wenn diese auf eine schlechte oder fehlende Sicherung auf Herstellerseite zurückzuführen ist.

Über die Gesetzesänderungen hinaus brauche es jedoch einen ganzheitlichen Ansatz, fordert die GI. Dazu würden ein „wirkungsvolles Meldeverfahren und eine aktive Meldekultur“ zählen. Zudem sei eine stärkere gesellschaftliche Anerkennung ethischen Hackens ein wichtiger Beitrag, um insgesamt die IT-Sicherheit zu erhöhen, so das Papier.

Für einen neuen Anlauf zur Reform des Bereichs könnte sich die Regierung auch von anderen Ländern inspirieren lassen. Polen habe laut GI den in Europa liberalsten Ansatz. Dort seien etwa Personen, die ausschließlich zum Zweck der Sicherung von Systemen handeln, ausdrücklich von der Strafbarkeit ausgenommen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Zugleich sollte die Regierung den „Windschatten des Cyber Resilience Act“ nutzen, empfiehlt die GI. Die vor rund zwei Jahren verabschiedete EU-Verordnung enthält unter anderem Meldepflichten für Hersteller und Betreiber, wenn sie über Schwachstellen stolpern. Dies ließe sich ausweiten, indem darüber hinaus auch eine geregelte Meldemöglichkeit für externe und/oder ehrenamtlich agierende IT-Sicherheitsforschende eingeführt wird. Damit würde der Charakter des Cyber Resilience Acts gestärkt und die Cybersicherheit im Land gefördert werden, argumentiert die GI.

Sicherheitslage verbessert sich kaum

Insgesamt dürfte noch einiges zu holen sein, zumal sich die Lage zuletzt keineswegs verbessert hat. So stieg im ersten Quartal 2026 die Zahl gemeldeter Schwachstellen weltweit um 25 Prozent im Vergleich zum Vorjahr an. Jährlich entsteht für deutsche Unternehmen laut eigenen Angaben ein hunderte Milliarden Euro hoher Schaden, Tendenz steigend.

Diese Dynamik dürfte vorerst bestehen bleiben. Denn auf der einen Seite gelingt es KI-Modellen immer besser, bislang unbekannte Sicherheitslücken in Anwendungen zu entdecken. BSI-Präsidentin Claudia Plattner spricht gar von einer neuen „Zeitrechnung der Cybersicherheit“. Auf der anderen Seite berge sogenanntes Vibe-Coding die Gefahr, selbst Schwachstellen in Code zu erzeugen, warnt die GI. Bei Vibe-Coding richten Nutzer:innen, die mit Software-Entwicklung sonst nichts zu tun haben, in einfacher Sprache ihre Wünsche an ein KI-System. Dieses übernimmt dann den Rest – mal besser, mal schlechter.

Nun müsse die Bundesregierung zügig eine Reform unter Beteiligung aller Betroffenengruppen einleiten, fordert die GI. „Eine Legalisierung von ethischem Hacking wäre ein konsequenter Schritt, die Cybersicherheitslandschaft in Deutschland besser zu gestalten und das Potenzial zu nutzen, das Expert*innen aus der Sicherheitsforschung, Hobbytüftler*innen und gewissenhafte Nerds mitbringen.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Schufa hält eine Schattendatenbank mit veralteten Daten über Millionen von Menschen vor. Dagegen wehrt sich jetzt die Datenschutzorganisation noyb mit einer Abmahnung – und der Vorbereitung einer möglichen Sammelklage.

Die Datenschützer:innen von noyb schauen bei der Schufa mal genauer hin. (Symbolbild) – Alle Rechte vorbehalten: IMAGO / Political-Moments

Die Datenschutzorganisation noyb hat die Schufa abgemahnt, weil diese eine Schattendatenbank mit historischen und veralteten Daten über Millionen von Menschen vorhält. Die Existenz dieser Datenbank hatte eine gemeinsame Recherche von NDR und Süddeutscher Zeitung im Juli herausgefunden. Die Schufa bewertet die Kreditwürdigkeit von Menschen, zu ihren Kunden gehören unter anderem Banken, Energieversorger oder Telekommunikationsunternehmen.

Laut der Recherche von NDR und SZ handelt es sich bei den Daten um „alte Kredite und Kreditkarten, Pfändungen und Privatinsolvenzen, Schulden, die die Betroffenen oft schon vor Jahren beglichen haben“. Es seien Daten, die die Schufa schon längst gelöscht haben müsste, so der Bericht damals weiter. Die sensiblen Daten könnten großen Schaden anrichten. Wenn Menschen allerdings bei der Schufa anfragten, welche Daten diese über sie gespeichert hat, gab die Auskunftei diese historischen Informationen bei der Datenauskunft nicht an.

Daran stören sich die Datenschützer von noyb: Ein Unternehmen könne seine gesetzliche Auskunftspflicht nicht einfach auf Daten beschränken, die es selbst als für Betroffene „interessant“ befindet. Der Europäische Gerichtshof habe längst klargestellt: Die Datenkopie müsse eine vollständige, originalgetreue Reproduktion aller verarbeiteten Daten sein. Marco Blocher, Datenschutzjurist bei noyb, sagt: „Die Schufa begeht hier Rechtsbruch mit Ansage – und das wissen wohl auch die Verantwortlichen bei der Schufa.“

Schufa speichert alte Datensätze über Millionen von Menschen

Die Datenschützer:innen von noyb gehen nun gleich mit zwei Mitteln gegen die Schufa vor. Einerseits haben sie eine Abmahnung an die Schufa gesendet, die in eine mögliche Unterlassungsklage münden kann. Auf der anderen Seite kündigen sie eine mögliche Sammelklage gegen die Auskunftei an. Hierzu können sich Interessierte in eine Liste eintragen, um über den weiteren Verlauf informiert zu werden. Laut noyb sei ein immaterieller Schadensersatz von bis zu 500 Euro pro betroffener Person denkbar.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie nun ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders.

Die Deutsche Post greift sich personenbezogene Daten von Ausweis und Gesichtsscan. (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Unsplash / Muhammad Irfan; Bearbeitung: netzpolitik.org

Ein neuer Handytarif oder das Konto bei einer neuen Bank – für viele Dinge müssen wir uns ausweisen. Wenn wir das im Netz machen, funktioniert das anders als direkt in der Bank-Filiale oder im Handy-Shop. Weit verbreitet ist das Postident-Verfahren. Es bietet verschiedene Möglichkeiten. Klassisch können Kund:innen etwa in eine Filiale der Deutschen Post gehen und ihren Ausweis dem Personal dort vorzeigen. Oder sie nutzen die Ausweisfunktion ihres elektronischen Personalausweises.

Verhältnismäßig neu ist das Postident-Verfahren mit der Option AutoID. Auf ihrer Website verspricht die DHL Group, der Konzern hinter der Deutschen Post, eine „automatisierte und schnelle Identifizierung per App (…) mit Methoden des Maschinellen Lernens“. So hat sich etwa der Handy-Provider Congstar schon 2019 dazu entschieden, das Postident-Verfahren mit AutoID anzubieten.

Um sich mit AutoID zu identifizieren, machen Nutzer:innen über eine App auf dem Smartphone zunächst Fotos ihres Ausweises, von der Vorder- und Rückseite. Anschließend erstellen sie ein Selfie-Video. Die App gibt ihnen vor, wie sie ihren Kopf drehen müssen. Danach prüft das System automatisiert „die erfassten Daten, die Sicherheitsmerkmale und die Echtheit der Aufnahmen“, heißt es im dazugehörigen Werbe-Erklär-Video.

Zutritt nur gegen Daten

Bevor sie allerdings mit der Identifizierung beginnen, werden Nutzer:innen dazu aufgefordert, ihre Daten für das Training der dahinter liegenden KI-Sprachmodelle freizugeben. Sie können das Verfahren nur fortsetzen, wenn sie dem Training mit ihren Daten zustimmen. Das geht aus einem Screenshot hervor, den uns ein Leser geschickt hat, der sich identifizieren lassen wollte.

Demnach muss der Schieber neben der Aufforderung zur „Qualitätssicherung“ aktiviert sein, damit der „Einwilligen“-Button funktioniert. Nutzer:innen sollen zustimmen, „dass Postident aufgenommene Ausweis- und Nachweisdaten zum Zwecke der Qualitätssicherung und des Trainings von KI-Modellen speichern und verarbeiten darf“. Damit leitet das Unternehmen also Daten zu Ausweis und Gesichtsscan in den Trainigsdaten-Pool ihrer KI.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Man wolle „das Risiko eines schrittweisen Qualitätsverlustes“ ausschließen, so die DHL Group auf Anfrage. „Ohne eine fortlaufende Aktualisierung der Trainingsdaten (könnte) die Verlässlichkeit der Ergebnisse beeinträchtigt werden.“

Als die Deutsche Post AutoID einführte, war das offenbar noch anders. So hieß es in der Datenschutzerklärung bis 2023: „Zur Weiterentwicklung der im Einsatz befindlichen Software zur automatischen Entscheidungsfindung werden keine personenbeziehbaren Daten verwendet. Die Software wird ausschließlich auf Basis öffentlicher Beispieldatensätze, sowie nicht personenbeziehbarer und/oder anonymisierter Daten aus abgeschlossenen Identifikationen weiterentwickelt.“

Einer Datennutzung zu KI-Trainingszwecken zuzustimmen, werde „nur im Kontext“ mit AutoID abgefragt, versichert der Konzern. Außerdem würden die Daten „ausschließlich intern“ verwendet. Die Landesbeauftragte für Datenschutz und Informationsfreiheit des Landes Nordrhein-Westfalen habe zu diesem Verfahren im Vorfeld keine Bedenken geäußert.

Eher nicht freiwillig

Grundsätzlich dürfe die Deutsche Post Nutzer:innen nach ihrer Einwilligung fragen, die Daten fürs KI-Training freizugeben, so der Datenschutz-Experte Christian Aretz. Auch dass der Konzern auf Anfrage erklärt, die Einwilligung sei freiwillig, sei nach Aretz datenschutzrechtlich legitim. Denn, wie auch die Presseabteilung der DHL Group erklärt, könnten Kund:innen auf ein anderes Postident-Verfahren ausweichen.

Doch gehöre zur Einwilligung laut Datenschutzgrundverordnung auch, dass Nutzer:innen ihre Einwilligung widerrufen können. Die Deutsche Post müsste sicherstellen können, dass sie die entsprechenden Daten aus dem KI-Modell entfernen kann, so Aretz. Die Deutsche Post schreibt in ihrer Datenschutzerklärung zum Verfahren, die Speicherdauer betrage maximal 180 Tage und bietet eine Kontakt-E-Mail-Adresse an, um seine Einwilligung zu widerrufen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Unabhängig davon stößt die Deutsche Post mit ihrer Firmenphilosophie Nutzer:innen wie Jochen G. vor den Kopf. „Gestört hat mich hier vor allem, dass ein Service wie PostIdent mir ganz nebenbei einen Zwang auferlegt, meine Daten für das Training von KI-Modellen preiszugeben“, erzählt er uns. „Gerade die Kombination aus Ausweisdaten und Gesichtsscan finde ich schon sehr eingreifend in meine Datensphäre.“

Lieber mit eID

Zwar habe Jochen G. Verständnis für das Interesse an den gelabelten Daten. „Aber es sind auch sehr wertvolle Daten, die ich nicht einfach überlassen möchte.“ Er wäre einverstanden damit gewesen, dass die KI die Daten prozessiert. „Ich wollte allerdings nicht persistiert im Trainingsdatensatz landen. Und dass ich das nicht umgehen konnte, war für mich ein Ausschlusskriterium im Verfahren.“

Er habe sich schließlich dafür entschieden, die eID-Funktion seines Personalausweises zu nutzen. Die Technologie ist bei Fachleuten zu Datenschutz und IT-Sicherheit beliebt, weil sie besonders datensparsam ist und hohe Sicherheitsauflagen hat.

Wie viele Kund:innen indes Postident mit der Option AutoID nutzen, wollte der DHL Group nicht verraten. Man kommuniziere „aus Wettbewerbsgründen grundsätzlich keine Nutzerzahlen“. Gleichzeitig betont der Konzern, dass AutoID zunehmend Nutzer:innen findet.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.