netzpolitik.org

Aktualisiert: vor 30 Minuten 44 Sekunden

KI-Ergebnisse bei Google: Informationsroulette bei den Landtagswahlen

1. September 2026 - 18:17

Eine Untersuchung hat sich angeschaut, wann bei Google welche KI-Ergebnisse beim Thema Landtagswahlen angezeigt werden. Dabei kam vor allem heraus: Der Suchmaschinenkonzern handelt intransparent und wenig nachvollziehbar.

Die Untersuchung vergleicht die Ergebnisse von Google mit dem Glücksspiel Roulette. – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Hush Naidoo

Im September wird in den Bundesländern Sachsen-Anhalt, Berlin und Mecklenburg-Vorpommern gewählt. Die Nichtregierungsorganisation AlgorithmWatch hat deswegen untersucht, wie Googles KI-Übersichten mit Fragen zu wahlbezogenen Inhalten umgehen. Solche Übersichten spielt der Konzern bei rund der Hälfte aller Suchanfragen seit Anfang 2025 in Deutschland aus. Inzwischen informieren sich viele Nutzer:innen schnell über diese KI-erstellten Informationshäppchen, ohne auf die eigentliche Quelle zu klicken.

Dabei handelt Google jedoch intransparent, kritisiert AlgorithmWatch in ihrer Studie. So sei unklar, unter welchen Umständen Google die KI-Übersichten anzeigt. Wenn sie eingeblendet werden, dann sei die Vielfalt der Quellen begrenzt, die bei den Antworten herangezogen wird. Festgestellt hat die Untersuchung auch, dass die KI-Übersichten nicht neutral formuliert seien.

Google selbst gebe keine Auskunft darüber, nach welchen Kriterien KI-Übersichten angezeigt werden, so AlgorithmWatch. „Damit gestaltet der Konzern den Zugang zu politischen Inhalten augenscheinlich willkürlich. Ein solches Informationsroulette kann negative Auswirkungen auf die politische Meinungsbildung haben und damit zu einem Problem für die Demokratie werden“, so die Organisation.

Für die Untersuchung hatte AlgorithmWatch Zugang zu Googles „Search Researcher Result“-Softwareschnittstelle, über die seit dem Digital Services Act Forscher:innen auf bestimmte interne Daten von Online-Diensten zugreifen und diese analysieren können. Über die Schnittstelle stellte AlgorithmWatch im vergangenen Juli fast 4.500 Suchanfragen zu den Wahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin, erfasste die Ergebnisse und wertete die KI-Übersichten sowie deren Quellen dann aus.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Fragen nach Wahlen werden besonders behandelt

Dabei konnte die Untersuchung immerhin herausfinden, dass Google bei wahlbezogenen Fragen deutlich seltener KI-Übersichten als bei unpolitischen Fragen generiert. AlgorithmWatch geht deswegen davon aus, dass Google im Hintergrund besondere Maßnahmen für Wahlen ergreife – welche genau, bleibe aber unklar.

Generell sei allerdings keine Systematik in der Untersuchung erkennbar gewesen, nach welchen Kriterien die KI-Übersichten gezeigt wurden: So lösten Fragen nach Umfragen durchgängig keine KI-Übersicht aus, während Fragen zu Parteien und einzelnen Kandidat:innen in 40 bis 50 Prozent der Fälle zu einer KI-Übersicht führen. Auch zwischen den Bundesländern gibt es Unterschiede: Google zeigt bei Fragen zu Sachsen-Anhalt deutlich weniger KI-Übersichten an als bei Fragen zu den Wahlen in Berlin und Mecklenburg-Vorpommern.

AlgorithmWatch konnte auch feststellen, dass die Anzahl der in den KI-Übersichten hinterlegten Quellen gering war. So führte fast die Hälfte der angezeigten Links zu weniger als zehn Quellen und überdurchschnittlich häufig zum Videodienst YouTube, der zum Google-Konzern gehört. Unter den zehn top-referenzierten Webseiten seien öffentlich-rechtliche Sender, Wikipedia, weitere Social-Media-Plattformen sowie Regierungs- und Partei-Websites gewesen.

Neigung zur Schmeichelei

AlgorithmWatch hat in der Untersuchung außerdem festgestellt, dass politische Positionen der Kandidat:innen in KI-Übersichten „häufig nicht neutral, sondern mit positiven Formulierungen wiedergegeben werden.“ Dies liege laut der Untersuchung womöglich daran, dass generative Sprachmodelle zu Schmeichelei neigen (englisch „Sycophancy“, zu deutsch: „Sykophanz”), also die Meinung der Fragestellenden bestätigen. Im politischen Kontext ist dies nach Ansicht von AlgorithmWatch problematisch, da Wählende neutrale Informationen benötigen würden, um sich selbst ein Bild der Kandidierenden machen zu können.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Von AlgorithmWatch mit den Ergebnissen konfrontiert, habe sich Google lediglich unverbindlich geäußert. Der Suchmaschinenkonzern sagte, dass die KI-Suchfunktionen qualitativ hochwertige Informationen aus einer vielfältigen Breite von Internet-Quellen anzeigen würden und auf den zentralen Ranking- und Sicherheitssystemen von Google basierten. „Die KI-Suchfunktionen sind so gestaltet, dass sie neutral und objektiv sind und, wie wir an anderer Stelle gesagt haben, erscheinen sie nicht bei jeder Suche”, so der Konzern gegenüber AlgorithmWatch weiter.

Fehlende Transparenz

Clara Helming hat die Untersuchung geleitet. Sie sieht das Problem in der fehlenden Transparenz: „Unsere Ergebnisse deuten darauf hin, dass Google im Hintergrund bewusste Entscheidungen trifft, wann eine KI-Übersicht zu den Wahlen angezeigt wird, wie die Inhalte formuliert sind und welche Quellen zitiert werden. Allerdings macht das Unternehmen diese Entscheidungen nicht transparent.“ Das sei problematisch, denn Googles Produktentscheidungen würden die Meinungsfreiheit beeinflussen und an dieser Stelle vor allem den Zugang zu verlässlichen Informationen und vielfältigen Quellen.

Matthias Spielkamp, Geschäftsführer bei AlgorithmWatch, sieht noch ein anderes Problem. Der Konzern eigne sich bei den KI-Übersichten massenhaft journalistische und andere Inhalte an, ohne um Erlaubnis zu fragen. Der Konzern greife damit „massiv die Finanzierungsmodelle privater journalistischer Medien und die Legitimität öffentlich-rechtlicher Angebote an“, so Spielkamp weiter. Er fordert: „Alle Anbieter generativer KI müssen transparent darüber informieren, wie KI-generierte Inhalte zustande kommen und sollten die Haftung für diese Inhalte übernehmen müssen.”

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Kategorien: Externe Ticker

Smart Glasses und Barrierefreiheit: “Meta hat kein Blinden-Hilfsmittel entwickelt”

31. August 2026 - 15:37

KI-Brillen geraten derzeit als Werkzeuge für heimliche Überwachung und digitale Gewalt in die Kritik. Rufe nach einem Verbot werden laut. Für Menschen mit einer Sehbehinderung können sie hingegen im Alltag vieles leichter machen. Wie gehen sie mit diesem Konflikt um?

Mehr als 7 Millionen seiner neuen AI Glasses hat Meta bislang weltweit verkauft – die meisten davon an Menschen, die die Hände frei haben wollen, während sie ihre Umgebung filmen oder sich durch die Stadt navigieren lassen. Nur ein Bruchteil davon wird hingegen von Menschen mit einer Sehbehinderung genutzt. Sie können sich damit im Alltag die Umgebung beschreiben, Texte vorlesen oder durch die Stadt lotsen lassen. Meta bemüht sich immer wieder darum, die Brillen auch als Werkzeug für Barrierefreiheit darzustellen.

In Irland hat das Unternehmen gerade öffentlichkeitswirksam angekündigt, 15.000 Exemplare seiner Brillen an Menschen mit einer Sehbehinderung zu spenden. Der Verband Vision Ireland wird sie über die kommenden Monate verteilen und die Nutzer*innen schulen. Für den Konzern, der mit dem Anbieter “Be My Eyes” kooperiert, um Blinde über die Brille mit sehenden Freiwilligen zu verbinden, ist das auch ein großes Versuchslabor. Wenn App-Anbieter in Zukunft neue Funktionen für die Brille entwickeln, finden sie hier eine solide Nutzer*innenbasis.

Misstrauisch macht der Deal dennoch. Ist das nicht ein bisschen viel Wohltätigkeit-Getue, wenn man bedenkt, dass die Brille gar nicht in erster Linie für blinde Menschen entwickelt wurde?

Vor allem die eingebaute Kamera in den Brillen sorgt seit der Markteinführung für ziemlichen Ärger. Ein kleines weißes Lämpchen soll darauf hinweisen, dass die Brille gerade aufzeichnet. Ob das jedoch reicht, um Umstehende zu warnen, das ist gerade Gegenstand erbitterter Auseinandersetzungen.

Befeuert wird diese Debatte von sogenannten “Rizzfluencern”, die mit der Brille gezielt heimlich Frauen filmen und bloßstellen. Die AI Glasses sind auf dem besten Wege, als “Spannerbrille” in Verruf zu geraten. Erste Kneipen und Veranstalter verbieten schon das Tragen, in Potsdam sind sie auch in Schwimmbädern nicht mehr erlaubt.

Was sagen zu all dem eigentlich diejenigen Menschen, die Meta so gerne ins Zentrum seiner Image-Kampagne stellt? Christiane Möller ist Justiziarin beim Deutschen Blinden- und Sehbehindertenverband (DBSV). Sie selbst will die Brille nicht. Sie möchte die Marketing-Aktion aber auch nicht verurteilen. Für andere könne sie ein Mehr an Möglichkeiten bringen.

netzpolitik.org: Haben Sie die Meta-Brille schon ausprobiert – und was verändert sie im Alltag?

Christiane Möller: Menschen aus unserem Verband haben Sie getestet. Die Brille ist ja nie dazu entwickelt worden, Hilfsmittel zu sein. Trotzdem entdecken viele Blinde und Sehbehinderte, dass man damit die Selbstständigkeit im Alltag deutlich erhöhen kann. Als blinder Mensch fehlen mir normalerweise Informationen aus der Umwelt. Wie sieht eine Straßenszenerie aus? Hängt da ein Plakat? Diese Informationen hat man einfach nicht, wenn man nicht sieht. Die Brille gleicht dieses Defizit aus. Das bedeutet einen großen Sprung an Teilhabe und das macht sie für viele Blinde und sehbehinderte Menschen sehr interessant.

netzpolitik.org: Haben Sie selbst auch eine?

Christiane Möller: Nein. Das ist aber eine persönliche Entscheidung.

netzpolitik.org: Würden sie sich Zeitungstexte von der Brille vorlesen lassen?

Christiane Möller: Nein, dafür ist sie nicht gut geeignet. Das ist ein generelles Problem von KI-Systemen. Sie lesen Text nicht einfach vor, sondern interpretieren ihn gleich und sortieren ihn. Für das reine wortgetreue Vorlesen würde ich andere Apps nutzen. Die lassen sich mit der Brille allerdings häufig nicht koppeln.

netzpolitik.org: Haben Sie auch Bedenken, was mit den Bildern und Daten geschieht, die die Brille aufzeichnet?

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Christiane Möller: Egal ob mit den Smart Glasses oder anderen Apps. Ich muss mir jedes Mal aufs Neue die Frage stellen: Was lese ich und wo gehen diese Daten hin? Sind sie sicher aufgehoben? Bei einer Lebensmittelverpackung oder Gebrauchsanleitung ist das vielleicht weniger wichtig. Da will ich vor allem, dass die Ausgabe korrekt ist. Aber wenn ich den Brief von der Bank lese, will ich schon wissen: Liest da jemand mit?

netzpolitik.org: Die Frage wurde im Fall von Meta schon beantwortet. Medien haben aufgedeckt, dass Bilder aus den Meta-Brillen zum Teil bei Datenarbeiter*innen in Kenia gelandet sind. Macht ihnen das Sorgen?

Christiane Möller: Das betrifft ausdrücklich nicht nur Meta. Das ist ein Problem bei allen KI-Produkten. Wir benutzen diese Systeme gerade als blinde und sehbehinderte Menschen viel, weil sie uns potenziell zusätzliche Freiheit und Selbstbestimmung geben können. Gleichzeitig ist es ein totales Dilemma, dass man diesen Zugewinn an Teilhabe womöglich mit seiner Privatsphäre bezahlt. Letztlich stellt sich bei all diesen Systemen die Frage, womit bezahle ich diesen Zugewinn an Informationen? Mit Geld oder mit meinen Daten?

netzpolitik.org: Wo liegt denn der Mehrwert der Brille gegenüber anderen speziell für Blinde entwickelten Hilfsmitteln?

Christiane Möller: Viele nutzen das zur Orientierung. Wenn ich zum Beispiel eine bestimmte Treppe auf einem Platz suche, kann ich mich dahin lotsen lassen. Oder ich kann mir die Öffnungszeiten einer Arztpraxis vorlesen lassen.

netzpolitik.org: Das geht theoretisch auch mit anderen Apps zur Navigation oder Texterkennung.

Christiane Möller: Aber die Brille bietet den Vorteil, dass ich dabei die Hände frei habe. Wenn ich unterwegs bin, habe ich oft einen Blindenstock oder einen Führhund dabei. Da hat man immer eine Hand zu wenig. Mit der Brille muss ich nicht zusätzlich mein Smartphone in die Hand nehmen und hoch halten, während ich noch einen Stock und eine Tasche trage. Ich kommuniziere mit der Brille über Sprache. Das ist ein wesentlicher Vorteil. Zugleich bleibt wegen der Knochenleittechnik das Ohr frei und ich höre parallel zu dem, was die Sprache der Brille ausgibt, meine Umgebung.

netzpolitik.org: Meta macht mit der Barrierefreiheits-Funktion sehr prominent Öffentlichkeitsarbeit, zuletzt etwa durch die Spende von 15.000 Brillen an Sehbehinderte in Irland. Wie finden Sie das?

Christiane Möller: Für blinde und sehbehinderte Menschen in Irland ist es gut, wenn sie leichter Zugang zu Möglichkeiten von KI-Produkten erhalten. Nicht jeder kann sich das finanziell leisten. Wenn Sie die Werbewirksamkeit einer solchen Aktion ansprechen, ist das aus meiner Sicht Teil der Marktwirtschaft. Ich halte das weder für gut noch für schlecht. Menschen ohne Behinderung kaufen ja nicht die Brille, weil Meta solche Kampagnen macht, sondern weil sie einen Mehrwert darin sehen.

netzpolitik.org: Sie fühlen sich nicht instrumentalisiert?

Christiane Möller: Auch bei uns sind nicht alle nur begeistert über die Brille. Menschen mit Sehbehinderung sind ja auch unterschiedlich und ein Abbild der Gesellschaft. Die Reaktionen sind entsprechend vielfältig. Das wird sehr kritisch reflektiert. Allerdings ist der Druck bei uns etwas größer, weil das nicht einfach ein Gadget für bessere Urlaubsvideos ist, sondern es darum geht, den Alltag zu erleichtern.

Was mir aber wichtig ist: Jetzt gerade geht es um Meta, aber die Debatten um Produkte bestimmter Firmen führen wir schon länger. Wenn man ein paar Jahre zurück geht, hatten wir die Diskussionen in der Community um Apple oder Android. Apples Betriebssystem war von Anfang an sehr barrierefrei, Android weniger.

Ich sehe was, was du nicht siehst

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

netzpolitik.org: Was wünschen Sie sich von den Unternehmen?

Christiane Möller: Menschen mit einer Sehbehinderung sollten genau wie Menschen ohne Behinderung eine Auswahl treffen können zwischen verschiedenen Produkten. Voraussetzung dafür ist, dass alle diese Produkte barrierefrei gebaut sind, sodass ich mich als Verbraucherin entscheiden kann und nicht nur entlang der Frage, kann ich ein Produkt überhaupt bedienen? Sondern: gefällt mir die Firmenphilosophie, das Konzept?

So wie Menschen ohne Behinderung wollen auch wir, dass unsere persönlichen Daten geschützt sind – unabhängig davon, welcher Konzern das am Ende ist, ob Apple, Meta oder Google. Wir möchten uns genau wie alle anderen auch darauf verlassen dürfen, dass da kein Missbrauch stattfindet.

netzpolitik.org: Die Kamera- und Livestream-Funktion der Brille hat bereits für viel Ärger gesorgt. Sie gerät als “Spannerbrille” in Verruf, Organisationen wie HateAid und der Hamburger Datenschutzbeauftragte plädieren inzwischen für ein Verbot. Wie gehen sie als Verband damit um?

Christiane Möller: Menschen heimlich zu filmen und das ins Netz zu stellen, geht gar nicht. Wir verstehen, dass das für Empörung sorgt. Wir können da keine Lösungen präsentieren. Aber wir haben selbst ein großes Interesse, den Missbrauch einzuhegen. Die Debatte kann kippen, da geht es auch um Stigmatisierung. Am Ende werden womöglich Blinde beschimpft, weil sie solche Brillen als Hilfsmittel einsetzen.

Ein komplettes Verbot sehe ich trotzdem kritisch. Ich glaube, das lässt sich ohnehin nicht mehr aufhalten. Wir müssen eher eine gesellschaftliche Debatte führen, wie wir den Missbrauch aufhalten. Wie zähme ich die Technik und hege sie so ein, dass wir sie zu unser aller Nutzen einsetzen können? Mir wäre lieber, wir schaffen es, den Missbrauch zu bekämpfen und nicht die Technik an sich.

netzpolitik.org: Auch bei einem Verbot für Normalverbraucher*innen könnten rechtliche Ausnahmen für Menschen mit Sehbehinderung geschaffen werden.

Christiane Möller: Meta hat kein Blinden-Hilfsmittel entwickelt. Ich glaube nicht, dass sie die Brillen nur für blinde Menschen auf dem Markt lassen würden. Das wäre wirtschaftlich nicht interessant, die Brillen würden nicht weiter entwickelt und das war es dann.

netzpolitik.org: Was müsste sich denn ändern, damit diese Technologien wirklich im Sinne von echter Inklusion entwickelt werden?

Christiane Möller: Uns ist wichtig, dass die Kunden eine Auswahlmöglichkeit haben. Alle Anbieter sollten grundsätzlich barrierefreie Funktionen haben, sodass ich mich gezielt als Verbraucherin entscheiden kann, welches System ich nutze. Da sind wir in Deutschland noch lange nicht. Das zweite: Es wäre schön, wenn man alle möglichen Apps, die für Sehbehinderte entwickelt wurden, damit koppeln kann – also nicht mit Apple nur Firma X und mit Meta nur Firma Y, sondern übergreifend über alle Systeme. Und letztlich wäre über all diese Produkte hinweg wichtig, dass ich mich darauf verlassen kann, eine Art Safe Space zu haben. Wo ich weiß, wenn ich den Brief von der Bank scanne, kann ich mich darauf verlassen, dass die Daten nicht für das Training der KI verwendet werden oder nach außen dringen.

netzpolitik.org: Was würden Sie Betroffenen raten, die aktuell überlegen, sich solch ein Gerät anzuschaffen?

Christiane Möller: Ich würde ihnen raten, möglichst vieles auszuprobieren und sich vorab gut zu informieren, sich auch mit anderen sehbehinderten Menschen auszutauschen. Also letztlich das, was man vor jeder technischen Anschaffung tun sollte.

Kategorien: Externe Ticker

EU-Verordnung: Sächsischer Innenminister fordert Ausweitung der Chatkontrolle

31. August 2026 - 13:57

Menschenrechtsorganisationen warnen seit Jahren vor einer Ausweitung der geplanten Chatkontrolle auf weitere Straftaten. Der sächsische Innenminister Armin Schuster fordert diese nun für die in Brüssel verhandelte anlassbezogene Chatkontrolle – und hält das für einen Kompromiss.

Der sächsische Innenminister Armin Schuster (CDU) hat für die EU-Verhandlungen zur Chatkontrolle die Ausweitung einer anlassbezogenen Chatkontrolle auf weitere Straftaten außer der sexualisierten Gewalt gegen Kinder gefordert.

In einer schon im November 2025 veröffentlichten Antwort des Innenministeriums auf einen Antrag der AfD-Fraktion heißt es zwar, dass vermieden werden müsse, die digitale Kommunikation vieler Unbeteiligter unterschiedslos und verdachtsunabhängig mit Maßnahmen zu belegen. Stattdessen fordert Schuster aber eine Ausweitung bei einer möglichen anlassbezogenen Chatkontrolle:

Kompromissfähig könnte sein, dass ein effektiver Kinderschutz durch gezielte Maßnahmen bei konkretem Verdacht und mit richterlicher Genehmigung erfolgen dürfe. Gleiches könnte zur Verhinderung schwerster Straftaten, bei der Terrorabwehr und der Strafverfolgung zur Bekämpfung extremistischer Strukturen gelingen. Eine solche gesetzliche Grundlage ist nicht ausgeschlossen.

Bislang wird bei der CSA-Verordnung der EU, besser bekannt als Chatkontrolle-Verordnung, der Fokus auf die Bekämpfung von sogenannter Kinderpornografie gesetzt. Dafür wollte die EU-Kommission ursprünglich technische Anbieter verpflichten, Chats und Kommunikationen automatisiert nach solchem Material zu durchsuchen. Dieses Vorhaben, welches auch die Ende-zu-Ende-Verschlüsselung obsolet gemacht hätte, ist vorerst abgewendet. Die EU-Verordnung zur Chatkontrolle befindet sich weiterhin in den Trilog-Verhandlungen zwischen EU-Kommission, EU-Parlament und Rat.

Einfallstor für weitere Überwachung

Bürgerrechtsorganisationen hatten in der Vergangenheit immer wieder gewarnt, dass die Verordnung ein Einfallstor sein könnte, um die Überwachung auch auf andere Felder auszuweiten. In der Vergangenheit hatten einige EU-Abgeordnete schon eine Ausweitung auf andere Straftaten und Anlässe gefordert.

Die Forderung des sächsischen Innenministeriums wurde einer größeren Öffentlichkeit erst durch eine Sachverständigenanhörung im Sächsischen Landtag zum Thema Chatkontrolle am vergangenen Montag bekannt. In der Anhörung stellten sich alle anwesenden Sachkundigen unisono gegen eine anlasslose Chatkontrolle und den Einsatz von Client-Side-Scanning. Auch dort war eine mögliche Ausweitung der Zwecke („Function Creep“) Thema und wurde von mehreren Sachverständigen als Gefahr bezeichnet. Auch die freiwillige Chatkontrolle, wie sie im Juli vom EU-Parlament beschlossen wurde, bewerteten mehrere Sachverständige als grundrechtswidrig.

Transparenzhinweis:
Der Autor war einer der Sachverständigen im Landtag.

Kategorien: Externe Ticker

Interview: „Die Geheimdienstreform untergräbt das Vertrauen zwischen Ärzten und Patienten“

31. August 2026 - 10:48

Die geplante Geheimdienstreform der Bundesregierung alarmiert die Ärzteschaft. Sie gefährde das Patientengeheimnis und damit die Gesundheitsversorgung selbst, warnt Carsten Dochow von der Bundesärztekammer im Gespräch mit netzpolitik.org.

Wer hört beim vertraulichen Arztgespräch künftig mit? – Arzt: Sasun Bughdaryan, Unsplash, Ohr: rawpixel.com, Montage: netzpolitik.org

An den Plänen der Bundesregierung, die Geheimdienste umfassend zu reformieren, gibt es massive Kritik – auch aus der Ärzteschaft.

Sie sieht vor allem zwei Vorschriften kritisch. Paragraf 22 des geplanten BND-Gesetzes und Paragraf 32 des geplanten Bundesverfassungsschutzgesetzes. Die beiden Paragrafen regeln, aus welchen vertraulichen Beziehungen die Geheimdienste keine Informationen gezielt beschaffen dürfen. Dazu zählen etwa Beziehungen von Geistlichen, Anwält:innen und Bundestagsabgeordneten, nicht aber die von Ärzt:innen.

Die Bundesärztekammer warnt davor, dass dies das besonders geschützte Vertrauensverhältnis zwischen Patient:innen und Ärzt:innen gefährde und damit die Gesundheitsversorgung als solche.

Wir haben darüber mit Dr. jur. Carsten Dochow gesprochen. Er leitet die Rechtsabteilung der Bundesärztekammer, die Spitzenorganisation der ärztlichen Selbstverwaltung mit Sitz in Berlin.

„Die Schweigepflicht ist eine Grundvoraussetzung“

netzpolitik.org: Herr Dochow, warum äußert sich die Ärzteschaft zu einer Geheimdienstreform?

Carsten Dochow: Der Gesetzentwurf der Bundesregierung betrifft Patientinnen und Patienten direkt, weil die geplanten Regelungen das Patientengeheimnis berühren und die geschützte Vertrauensbeziehung zwischen Ärzten und Patienten untergraben.

Patienten vertrauen ihren Ärzten sensible Sachverhalte an – auch über psychische oder Suchterkrankungen. Auf diese Informationen könnten Nachrichtendienste zugreifen, wenn das Gesetz vom Bundestag so verabschiedet würde.

Dazu muss man wissen: Die ärztliche Schweigepflicht ist eine Berufspflicht von Behandelnden. Seit dem Eid des Hippokrates gehört sie zum Selbstverständnis der Ärzteschaft. Dazu zählt auch, Geheimnisse geschützt zu halten. Das wird durch die Eingriffsbefugnisse der Nachrichtendienste ausgehebelt.

netzpolitik.org: Sie befürchten also, dass die medizinische Behandlung leidet, weil ein Geheimdienst mithören könnte?

Carsten Dochow: Gewissermaßen schon. Der Grundgedanke des Patientengeheimnisses ist, dass sich Patientinnen und Patienten ihren Ärzten rückhaltlos anvertrauen und intime Sachverhalte offenbaren. Dieses Vertrauen ist die Grundvoraussetzung für jegliche medizinische Behandlung.

Manche Personen könnten davon absehen, sich in Behandlung zu begeben, wenn sie wissen, dass sie dann Überwachungsmaßnahmen ausgesetzt sein könnten. Insofern ist die Schweigepflicht auch ein wichtiges Gemeinwohlinteresse, weil sie eine Grundvoraussetzung für eine funktionierende Gesundheitsversorgung ist.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

netzpolitik.org: Aber die Zahl derer, die in einer Arztpraxis vom Geheimdienst beobachtet werden, dürfte eher klein sein, oder?

Carsten Dochow: Über tatsächliche Zahlen kann ich nichts sagen. Ich weiß nicht, wie viele Menschen von Geheimdiensten überwacht werden.

Uns geht es um die Breitenwirkung des Gesetzes auf die gesellschaftliche Wahrnehmung. Die Voraussetzung des Geheimnisschutzes ist, dass man darauf vertrauen kann, dass er gewahrt wird – unabhängig davon, wie oft dieser verletzt wird.

„Das ist verfassungsrechtlich bedenklich“

netzpolitik.org: Laut Gesetzentwurf sollen die Geheimnisse von Rechtsanwält:innen absolut geschützt sein, die von Ärzt:innen aber nicht. Warum gibt es diese Ungleichbehandlung?

Carsten Dochow: Dafür sehen wir keinen sachlichen Grund. Bei aller Wertschätzung für den anwaltlichen Beruf sind die Geheimnisse im Arzt-Patienten-Verhältnis mindestens ebenso schützenswert. Es gibt aus unserer Sicht kein überzeugendes Argument dafür, dass Informationen im Mandantenverhältnis wesentlich schutzwürdiger sind als im Arzt-Patienten-Verhältnis.

Das Bundesverfassungsgericht hat das bereits in den 1970er-Jahren entschieden. Personen, die sich in ärztliche Behandlung begeben, sollen demnach darauf vertrauen dürfen, dass Offenbartes nicht zur Kenntnis Dritter gelangt. Das ist eine essenzielle Vorstellung für den Schutz des Persönlichkeitsrechts.

Und auch beim früheren BKA-Gesetz hat das Bundesverfassungsgericht klargestellt, dass eine Unterscheidung zwischen Strafverteidigern und sonstigen Rechtsanwälten nicht sachgemäß ist. Die geplante Reform sollte einen ähnlichen Fehler nicht erneut begehen.

netzpolitik.org: Sie gehen davon aus, dass der Gesetzentwurf gegen das Grundgesetz verstößt?

Carsten Dochow: Ja, wir sehen hier – ausgehend von den Eingriffen in das Persönlichkeitsrecht der Patientinnen und Patienten – einen Verstoß. Wenn zudem zwischen zwei Berufsgruppen differenziert wird, ohne dass dafür ein klarer sachlicher Grund vorliegt, ist die Gleichbehandlung nicht gewahrt. Und das ist verfassungsrechtlich bedenklich.

„Behandlungsteam gehört in den Schutzbereich“

netzpolitik.org: Für die Arbeit des Verfassungsschutzes sieht der Gesetzentwurf immerhin einen relativen Schutz für Ärzt:innen vor. Hier liegen die Hürden damit etwas höher, die besonders geschützte Vertraulichkeit im Arzt-Patienten-Verhältnis zu verletzen. Reicht Ihnen das nicht?

Carsten Dochow: Nein, da wir oftmals den Kernbereich der privaten Lebensführung berührt sehen, halten wir einen absoluten Schutz wie bei Anwältinnen und Anwälten für erforderlich. Wenn intimste Informationen betroffen sein können, darf das nicht einer Abwägungsentscheidung einer Behörde überlassen sein. Sondern es muss ein absoluter Schutz bestehen, damit das Vertrauen zwischen Ärzten und Patienten überhaupt entstehen kann.

netzpolitik.org: Sollte neben den Ärzt:innen auch das Praxispersonal als Berufsgeheimnisträger:innen eingestuft werden?

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Carsten Dochow: Das Praxispersonal gehört natürlich in diese zu schützende Sphäre hinein, sonst wird der Geheimnisbereich löchrig. Es nimmt an diesem engen Vertrauensverhältnis teil und erfährt – allein durch Anwesenheit bei der Behandlung oder die Dokumentation – wesentliche Informationen. Und da Mitarbeitende ebenfalls der Verschwiegenheit unterliegen, wäre eine Ausweitung des Schutzes auf sie nur konsequent.

„Wir fordern Beschlagnahmeschutz für die ePA“

netzpolitik.org: Die Bundesvereinigung Deutscher Apothekerverbände und die Kassenärztliche Bundesvereinigung (KBV) fordern ebenfalls die Gleichstellung der Heilberufe. Ziehen Sie hier an einem Strang?

Carsten Dochow: Definitiv. Unsere Argumentation geht vollständig in die gleiche Richtung.

Das gilt auch für das Thema elektronische Patientenakte (ePA). Die ePA wird allerdings nicht von den Arztpraxen, sondern von den Krankenkassen geführt. Für die digitale Akte fordern wir unabhängig vom aktuellen Gesetzgebungsvorhaben schon lange einen rechtsklaren Beschlagnahmeschutz.

Einen solchen Schutz hat Bundesjustizministerin Stefanie Hubig vor Monaten versprochen. Bislang haben wir noch keinen entsprechenden Gesetzentwurf gesehen.

netzpolitik.org: Die KBV fordert zudem, das Hacken und Eindringen in die Praxis-IT gesetzlich auszuschließen.

Carsten Dochow: Das sehen wir als Bundesärztekammer genauso. Was das Infiltrieren von Praxissystemen angeht – wo die Primärdokumentation mit den Versichertendaten liegt –, müssen derartige Maßnahmen strikt begrenzt werden. Sonst erreichen wir nicht den gewünschten absoluten Schutz der Gesundheitsdaten.

„Für die Interessen der gesamten Gesellschaft“

netzpolitik.org: Die Politik begründet die Reform mit einer verschärften Bedrohungslage. Werden Sie mit Ihren Einwänden als Bremser wahrgenommen?

Carsten Dochow: Diese Erfahrung machen wir regelmäßig. Jedes Mal, wenn darüber geredet wird, dass Sicherheitsgefahren drohen, gibt es in der Politik den Reflex, Grund- und Persönlichkeitsrechte einseitig zugunsten der Sicherheit einzuschränken. Das ist ein Denkfehler. Auch in Krisenzeiten muss eine gute Balance zwischen Freiheit und Sicherheit gefunden werden.

Wir agieren dann aber nicht als Bremser, auch jetzt nicht. Sondern wir treten für die Interessen der Patienten und Ärzte sowie der gesamten Gesellschaft ein. Wir sind überzeugt, dass ein verlässlich geschützter Raum für das Arzt-Patientengeheimnis die Grundvoraussetzung für eine funktionierende Gesundheitsversorgung ist.

Kategorien: Externe Ticker

KW 35: Die Woche, in der die Räume für die Zivilgesellschaft enger werden

29. August 2026 - 8:34

Die 35. Kalenderwoche geht zu Ende. Wir haben 20 neue Texte mit insgesamt 161.008 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser:innen,

der Begriff „Shrinking Spaces“ beschreibt, wie Räume für die kritische Zivilgesellschaft immer enger werden. Früher wurden in diesem Zusammenhang vor allem Länder wie Ungarn, die Türkei oder Kasachstan genannt. Oder Russland, Äthiopien und Venezuela.

In der Regel werden die Räume für die Zivilgesellschaft enger, weil lokale Regierungen der Zivilgesellschaft das Leben schwer machen. Das kann über das Gemeinnützigkeitsrecht gehen, über „Agenten-Gesetze“, die ausländisches Geld für die Zivilgesellschaft verbieten, über Einschüchterungen und Klagen oder über die Einschränkung des Versammlungsrechts. Es gibt zahllose Möglichkeiten, die Regierungen nutzen, um sich kritischer Stimmen zu entledigen oder diesen zumindest Steine in den Weg zu legen. Auch in Deutschland.

Derzeit lässt sich aber noch eine andere Stoßrichtung bei den Shrinking Spaces beobachten: Die rechtsradikale Trump-Regierung greift von außen in die Zivilgesellschaften anderer Länder ein, um diese zu kriminalisieren, zu stören, zu behindern und zu schwächen. Ziel der rechten Regierung ist hierbei vor allem der politisch linke Teil der Zivilgesellschaft.

Beispiele für das Eingreifen der USA in die deutsche Zivilgesellschaft waren zuletzt die Sanktionen gegen HateAid, bei denen Akteurinnen der NGO mit einem Reiseverbot belegt wurden, oder die Einstufung der Antifa-Ost – was immer das auch sein soll – als Terrorgruppe. Letzteres hatte zur Folge, dass der Rechtshilfegruppe „Rote Hilfe“ Bankkonten gesperrt wurden, weil die Banken offenbar Angst hatten, in den Strudel der US-Sanktionen zu geraten.

Freiheiten in Gefahr

Nun hat die US-Regierung zu einem weiteren Schlag angesetzt. Im Visier ist ein linkes Internetkollektiv aus Italien, das seit einem Vierteljahrhundert Internetservices und Webseiten für Tausende politische Gruppen aus ganz Europa zur Verfügung stellt. Mehr als 10.000 politische Blogs und 1.500 Webseiten nutzen die kostenlosen Dienste des spendenfinanzierten Kollektivs.

Seit 2001 hat das Kollektiv politischen Gruppen und Initiativen eine Präsenz im Netz ermöglicht und damit Bewegungsgeschichte geschrieben. In den Archiven lassen sich Debatten, Proteste und Ereignisse aller Art nachvollziehen, ein Füllhorn an politischer Aktivität und gesellschaftlicher Auseinandersetzung – unabhängig davon, wie man persönlich zu den einzelnen Gruppen steht.

Am Mittwoch hat die US-Regierung das Internetkollektiv Autistici/Inventati zu einer Terrorgruppe deklariert, samt den dazugehörigen Sanktionen. Seit Freitag sind die unter einer .org-Domain gehosteten Services nicht mehr erreichbar, offenbar weil die zuständige Domainverwaltung kalte Füße bekommen hat.

So schnell geht es! So schnell werden Tausende politische Gruppen durch den Eingriff der US-Regierung Opfer haltloser Terroranschuldigungen. So schnell kann eine Regierung Webseiten ausradieren – ohne ein einziges Verfahren geführt zu haben, ohne einen einzigen Beweis vorgelegt zu haben, ohne einen einzigen Server zu beschlagnahmen.

Man muss nicht besonders links sein, um diese Angriffe auf die Meinungsfreiheit, Handlungsfähigkeit und politische Unabhängigkeit europäischer Zivilgesellschaften zu verurteilen. Hier werden Räume der politischen und pluralen Auseinandersetzung attackiert, verengt und zerstört. Die USA agieren hier als Unterstützer rechtsradikaler Bewegungen und Parteien in Europa, die diese Attacken selbst politisch nicht durchsetzen können.

Es geht bei der Sache um mehr als um ein kleines linkes italienisches Internetkollektiv. Denn am Ende verliert bei solchen Methoden nicht nur ein Teil der Zivilgesellschaft Internetservices und Webseiten, sondern wir als europäische Gesellschaften ein Stück Freiheit, Unabhängigkeit und Demokratie. Das dürfen wir nicht zulassen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Es grüßt Euch besorgt und wütend

Markus Reuter

Breakpoint: Aufruf zu digitalem Ungehorsam

Überwachung ist ein mächtiger Zensor, der uns gehorsam werden lässt. Selbst dann, wenn sie gar nicht stattfindet. Deshalb ist jetzt die Zeit für mehr Kritik und Aufmüpfigkeit. Von Carla Siepmann –
Artikel lesen

Verhaltensscanner in Berlin: Jetzt beginnt die automatisierte Überwachung

Am Kottbusser Tor in Berlin werden seit Sonntag rund 30 Überwachungskameras installiert und an ein KI-System angeschlossen, das prüft, wer artig ist und wer nicht. Weitere Areale sollen folgen. Menschen, die sich regelmäßig am Kotti aufhalten, sind von dem Überwachungsprojekt überrascht. Von Martin Schwarzbeck –
Artikel lesen

Verhaltensscanner in Berlin: Harte Kritik an der KI-Überwachung

Am Sonntag begann die Installation von Kameras, mit denen die Berliner Polizei die automatisierte Verhaltensanalyse einführen will. An dem Überwachungsprojekt gibt es massive Kritik aus Nachbarschaft, Wissenschaft und Politik. Von Martin Schwarzbeck –
Artikel lesen

Kriminalitätsbelastung in Berlin: Problematisches Herrschaftswissen

Ob Gegenden in Berlin mit Videokameras und Verhaltensscanner überwacht werden dürfen, hängt davon ab, ob sie als kriminalitätsbelastet gelten. Die Datengrundlage zur Einstufung ist allerdings Herrschaftswissen. Ein Zahlendreher der Polizei zeigt, wie problematisch das ist. Von Martin Schwarzbeck –
Artikel lesen

Überwachung im ÖPNV: Mit dieser Realsatire führte Bremen Verhaltensscanner ein

Die Bremer Straßenbahn AG wollte eigentlich gar keine automatisierte Verhaltenskontrolle, das System war nur gerade im Angebot. Ohne Plan und Ahnung von Persönlichkeitsrechten startete der Einsatz. Die Datenschutzaufsicht hat grundsätzliche Bedenken. Von Rika Baack, Martin Schwarzbeck –
Artikel lesen

Erzwungene „Grenzpartnerschaft“: Abkommen zum US-Datenzugriff auf der Zielgeraden

Die USA fordern von Partnerstaaten weitreichenden Zugriff auf deren Polizeidatenbanken, die EU-Kommission verhandelt dazu ein Rahmenabkommen. Nun liegt ein neuer Entwurf vor. Max Schrems kritisiert die enthaltenen Regelungen. Von Matthias Monroy –
Artikel lesen

Kritik an Deutschland-App: Menschenzentrierte Verwaltung statt vorgeschaltetem Chatbot

Bürger:innen sollen einen zentralen Zugang zur Verwaltung bekommen, und zwar mit der Deutschland-App. Digitalminister Karsten Wildberger setzt dabei auf generative KI. Der Koalitionspartner kritisiert, dass der Chatbot die Probleme der Verwaltungsdigitalisierung nicht löst, so ein internes Positionspapier der SPD, das wir veröffentlichen. Von Esther Menhard –
Artikel lesen

Brasilianische Präsidentschaftswahl: Facebook lässt Wahlwerbung mit Desinformation zu

Amnesty International hat erfolgreich getestet, dass Facebook Wahlwerbung mit Falschinformationen in Brasilien ausspielen würde. Das Unternehmen würde damit gegen eigene Regeln und brasilianische Gerichtsbeschlüsse verstoßen. Von Rika Baack –
Artikel lesen

LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst

Beim Verifizieren des eigenen Profils oder Alters auf vertrauten Plattformen geben Nutzende sensible biometrische Informationen an dritte Unternehmen weiter. Eines dieser Unternehmen ist das US-amerikanische Persona, dessen Prüfungen weit über bloße Identitätskontrollen hinausgehen. Von Timur Vorkul –
Artikel lesen

Smart Glasses: Petition gegen „Spanner-Brillen“ sammelt mehr als 180.000 Unterschriften

Der Protest gegen Smart Glasses nimmt Fahrt auf. Eine Petition fordert das Verbot solcher Überwachungsbrillen, die heimliches Filmen ermöglichen – und mit denen schon jetzt Menschen belästigt werden. Von Markus Reuter –
Artikel lesen

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Postident mit AutoID: Deutsche Post trainiert ihre KI mit Ausweisfotos

Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders. Von Esther Menhard –
Artikel lesen

Schattendatenbank: Datenschützer mahnen Schufa ab

Die Schufa hält eine Schattendatenbank mit veralteten Daten über Millionen von Menschen vor. Dagegen wehrt sich jetzt die Datenschutzorganisation noyb mit einer Abmahnung – und der Vorbereitung einer möglichen Sammelklage. Von Markus Reuter –
Artikel lesen

Ethisches Hacken: Raus aus der Grauzone

Sicherheitsforscher:innen, die auf eigene Faust Lücken in IT-Systemen entdecken und diese verantwortungsbewusst melden, können schnell in die Bredouille geraten. Nun legt die Gesellschaft für Informatik ein Papier dazu vor, wie die überfällige Reform des Computerstrafrechts endlich gelingen könnte. Von Tomas Rudl –
Artikel lesen

Polizeigesetz Niedersachsen: „Das vergiftet alles“

Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Am Donnerstag diskutierte der Innenausschuss des Landtages darüber. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft. Von Martin Schwarzbeck –
Artikel lesen

Jugendschutz im Sonderangebot: Meta kauft sich frei

Vor Gericht hätten mehrere US-Bundesstaaten ein historisches Urteil zum Schutz junger Menschen erstreiten können. Stattdessen haben sie sich auf einen halbgaren Deal mit Meta eingelassen. Neben vielen Milliarden US-Dollar bringt er Jugendschutz mit Ablaufdatum. Ein Kommentar. Von Sebastian Meineck –
Artikel lesen

KI-Befugnisse in Thüringen: Polizeigewerkschaft kritisiert Polizeigesetz

Normalerweise freuen sich Polizist*innen über erweiterte Befugnisse. Doch das geplante Thüringer Polizeigesetz geht selbst der dortigen Gewerkschaft der Polizei zu weit. Sie warnt vor den Folgen von KI-gestützter Überwachung und fordert klare Beschränkungen. Von Martin Schwarzbeck –
Artikel lesen

Autistici/Inventati: USA sanktionieren italienisches Internetkollektiv

Die USA setzen ihren Kampf gegen linke zivilgesellschaftliche Projekte in Europa fort. Nun hat es das bekannte Internetkollektiv Autistici/Inventati getroffen. Das wehrt sich gegen die Vorwürfe und Sanktionen. Von Markus Reuter –
Artikel lesen

Polizeigesetz Thüringen: „Haben, haben, haben – und dann schauen, was passiert“

Im Innenausschuss von Thüringen hat eine Reihe von Expert*innen das geplante Polizeigesetz massiv kritisiert. Gleichzeitig fand vor der Tür eine Kundgebung gegen die umfassenden Überwachungsbefugnisse statt, die damit erlaubt werden sollen. Von Martin Schwarzbeck –
Artikel lesen

Interaktive Karte: An diesen Orten sollen bundesweit neue Rechenzentren entstehen

Die Bundesregierung legt nicht offen, wo bundesweit neue Rechenzentren gebaut werden sollen, obwohl diese schwerwiegende Folgen für Umwelt und Gesellschaft haben. Das Projekt Heiße Luft hat nun eine Übersichtskarte der Standorte veröffentlicht. Sie zeigt auch, wo sich Protest regt. Von Rika Baack –
Artikel lesen

Berliner Polizeigesetz: Linke und Grüne ziehen vor den Verfassungsgerichtshof

Nach der Verschärfung des Berliner Polizeigesetzes durch CDU und SPD lassen Linke und Grüne das Gesetz jetzt vom Verfassungsgerichtshof prüfen. Der Antrag zielt gegen öffentliche KI-Videoüberwachung, biometrischen Massenabgleich im Netz, Training von KI-Systemen mit Polizeidaten, automatisierte Datenanalyse und den Einsatz von Staatstrojanern. Von Denis Glismann –
Artikel lesen

Kategorien: Externe Ticker

Berliner Polizeigesetz: Linke und Grüne ziehen vor den Verfassungsgerichtshof

28. August 2026 - 14:38

Die Fraktionen von Bündnis 90/Die Grünen und Die Linke im Berliner Abgeordnetenhaus lassen die Verschärfung des Berliner Polizeigesetzes gerichtlich überprüfen. Ihren Normenkontrollantrag gegen das Allgemeine Sicherheits- und Ordnungsgesetz (ASOG) stellten die innenpolitischen Sprecher Vasili Franco (Grüne) und Niklas Schrader (Linke) am Freitag im Abgeordnetenhaus vor. Der Prozessbevollmächtigte David Werdermann (Kanzlei KM8) reichte den Antrag am Freitagmorgen beim Verfassungsgerichtshof des Landes Berlin ein. Das Gericht soll nun klären, ob die im Dezember 2025 durch CDU und SPD beschlossenen Regelungen mit der Landesverfassung vereinbar sind.

Der 155-seitige Antrag richtet sich im Kern gegen die Ausweitung von fünf Befugnissen:

den präventiven Einsatz von Staatstrojanern,
die KI-gestützte Videoüberwachung mit Verhaltensscannern,
den biometrischen Massenabgleich mit Daten aus dem Netz,
das Training von KI-Systemen mit Polizeidaten und die Weitergabe an Dritte sowie
die automatisierte Datenanalyse.

„Das Berliner Polizeigesetz war bis vor einem Jahr eines der liberalsten in ganz Deutschland. Damit ist es vorbei“, sagte Werdermann beim Pressegespräch im Abgeordnetenhaus. Die Novelle sei ein gesetzgeberischer Aktionismus, dessen zentrales Motiv die Inszenierung von Handlungsfähigkeit sei.

Fünf zentrale Ausweitungen der Befugnisse

Die Online-Durchsuchung und das heimliche Abgreifen verschlüsselter Kommunikation von Handys und Rechnern erlaubt das Gesetz laut Werdermann noch bevor eine Straftat stattgefunden hat. Die Polizei nutzt dafür IT-Sicherheitslücken aus, wodurch ein Anreiz bestehe, die Lücken offenzuhalten, statt diese dem Hersteller zu melden. Derartige Sicherheitslücken könnten auch von Kriminellen oder anderen Akteuren genutzt werden, wie der Cyber-Angriff auf die Berliner Verwaltung vor wenigen Tagen gezeigt habe.

Laut Werdermann ist Berlin nach Mannheim und Hamburg die dritte Großstadt, die auf KI-gestützte Videoüberwachung setzt. Erste Kameras wie am Kottbusser Tor sind bereits installiert. Die Software solle nun erkennen, wer sich „atypisch“ verhalte. Damit gerieten alle Menschen unter Generalverdacht, während insbesondere Wohnungslose und andere marginalisierte Gruppen von der Software als gefährlich eingestuft würden.

»Abkehr von der grundrechtsfreundlichen Politik«

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Beim biometrischen Massenabgleich darf die Polizei zukünftig öffentliche Daten aus dem Netz auswerten. Damit kann jedes hochgeladene Foto in die Fahndung einfließen. Die Polizei könnte Dienste ähnlich wie PimEyes nutzen, diese verstoßen laut Werdermann jedoch gegen die Datenschutz-Grundverordnung und KI-Verordnung. Berlin legalisiere die Nutzung nun für die Polizei statt gegen die Dienste vorzugehen.

Ferner erlaube das Gesetz, die erhobenen Polizeidaten zum Training von KI-Systemen weiterzuverwenden, ohne dabei Eingrenzungen vorzunehmen, kritisiert Werdermann. Selbst sehr sensible Daten und private Gespräche könnten so an Unternehmen zu KI-Trainingszwecken weitergegeben werden. Mit der automatisierten Datenanalyse entstehe zudem eine „Superdatenbank“. Die Polizei darf ihre Datenbestände auf einer Plattform zusammenführen und per KI auswerten.

Wer eine Anzeige erstatte, müsse so künftig damit rechnen, in den Datenanalysen aufzutauchen. Der Senat betont zwar, nicht auf die umstrittene Analysesoftware Palantir zurückgreifen zu wollen, „die Befugnis aber gibt es her“, sagte der Linken-Abgeordnete Niklas Schrader. Jede künftige Mehrheit könne sie nutzen.

Bundesweite Signalwirkung

Einen Eilantrag haben die Fraktionen aufgrund der rechtlich hohen Hürden nicht gestellt, womit das Gesetz vorerst in Kraft bleibt. Mit einer Entscheidung des Verfassungsgerichtshofs rechnet Werdermann frühestens in ein bis zwei Jahren. Für die abstrakte Normenkontrolle dagegen hat es ein Viertel der Abgeordneten gebraucht. Grüne und Linke kommen zusammen auf aktuell 53 der 159 Sitze im Berliner Abgeordnetenhaus.

Dass beide Fraktionen nach der Wahl womöglich regieren, ändere aus ihrer Sicht nichts. Das Gericht solle zeigen, wie weit der Gesetzgeber bei KI-Technologie und Datenanalyse gehen dürfe. Viele der Maßnahmen seien im Hinblick auf andere Bundesländer begründet, ohne dass diese je verfassungsgerichtlich überprüft worden sind, sagte der Grünen-Innenpolitiker Vasili Franco. „Verfassungswidrige Polizeigesetze sind keine guten Polizeigesetze.“ Die Überprüfung vor dem Verfassungsgerichtshof des Landes Berlin habe so auch eine bundesweite Signalwirkung.

Kategorien: Externe Ticker

Interaktive Karte: An diesen Orten sollen bundesweit neue Rechenzentren entstehen

28. August 2026 - 13:53

Das Ziel der Bundesregierung ist klar: mehr Rechenpower, mehr KI. Doch im Gegensatz zu anderen Ländern legt die Regierung nicht offen, wie viele Rechenzentren wo gebaut werden. Das Projekt Heiße Luft will das ändern. Es stellt erstmals Standorte von Rechenzentrumsprojekten auf einer interaktiven Übersichtskarte dar. Die dafür erforderlichen Daten hat ein Team aus öffentlichen Quellen und mithilfe von Bürger:innen zusammengetragen. Hinter dem Projekt steht eine Kooperation von AlgorithmWatch, FragDenStaat, Leitmotiv und dem Heiße-Luft-Kollektiv.

Die in Teilen ehrenamtlich arbeitenden Personen wollen Transparenz in die KI-Strategie der Bundesregierung bringen. Der Nationalen Rechenzentrumsstrategie zufolge möchte die Bundesregierung die Rechenkapazitäten bis 2030 verdoppeln und die Kapazitäten für KI-Anwendungen vervierfachen. Sie veröffentlicht jedoch weder eine vollständige Übersicht über geplante Rechenzentren noch weiß sie, wie viel Wasser deren Ausbau verbrauchen wird.

Wie der KI-Boom die Klimakatastrophe befeuert

Die Physikerin Tiziana von Witzleben ist Mitgründerin des Heiße-Luft-Kollektivs. Sie hofft, dass die Übersicht den Bürger*innen vor Ort zugutekommt. Auch in diesem Sommer haben mehrere Landkreise wegen Wasserknappheit die Nutzung von Frischwasser rationiert. „Durch ihren enormen Strom- und Wasserverbrauch beeinflusst der massive Ausbau von Rechenzentren viele Menschen in Deutschland direkt,“ sagt von Witzleben. „Indirekt trifft er uns alle: Die rasant steigende Zahl von Rechenzentren treibt den Einsatz fossiler Energie nach oben und befeuert damit die Klimakatastrophe.“

Das Projektteam durchforstete öffentlich einsehbare Quellen nach Daten – in Pressemitteilungen der Betreiber und Entwickler, in amtlichen Veröffentlichungen und Publikationen börsennotierter Unternehmen. Auch die Preisentwicklungen auf dem Immobilienmarkt bezogen die Aktivist:innen ein. Darüber hinaus richtete das Team ein Kontaktformular ein, mit dem Menschen gesammelte Daten anonym korrigieren und ergänzen konnten.

Wo drohen Konflikte ums knappe Gut Wasser?

Auf dieser Grundlage haben sie eine interaktive Übersichtskarte erstellt, die zeigt, wo Rechenzentren entstehen, wie weit der Bau vorangeschritten ist und wer sie betreibt und finanziert. Nutzer:innen können sich außerdem anzeigen lassen, wie viel Strom die Zentren vermutlich benötigen, welche Gesamtfläche sie beanspruchen werden und wie ihr Betrieb den Grundwasserstress erhöhen könnte.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

In der Gemeinde Baruth in Brandenburg etwa hat sich der RedBull-Konzern einen großen Teil des Grundwassers gesichert. Zusätzlich möchte Amazon dort ein großes Rechenzentrum bauen. Dabei liegt Baruth in einem Landkreis mit akutem und strukturellem Grundwasserstress. Mögliche Konflikte liegen auf der Hand. Wie viel erhalten die Rechenzentren vom knappen Gut Wasser, wie viel die Landwirte?

Regierung will noch mehr Intransparenz

Die Bundesregierung möchte derweil das Energieeffizienzgesetz novellieren und dadurch Vorgaben für den Ausbau von Rechenzentren lockern. Der von der Regierung als „pragmatisch“ und „bürokratiearm“ gefeierte Vorstoß käme jedoch vor allem den Fossilkonzernen entgegen. Laut Gesetzentwurf müssten Rechenzentren erst ab dem Jahr 2030 bilanziell vollständig auf erneuerbare Energien setzen – statt wie bisher ab 2027. Vor diesem Hintergrund erfasste das Team hinter dem Projekt Heiße Luft auch neu entstehende Gaskraftwerke, die es braucht, um den enormen Strombedarf der vielen neuen Rechenzentren zu decken.

Dank des Schlüsselworts „bilanziell“ konnten Betreiber ohnehin schon ein Schlupfloch nutzen. Gesetzlich müssen sie die Hälfte ihres Stroms aus erneuerbaren Energien beziehen. Etwa in Maintal und Birstein sollen Rechenzentren jedoch abgekoppelt vom öffentlichen Stromnetz in Betrieb gehen. Ihren Strom erhalten sie ausschließlich von neuen Gaskraftwerken. Indem sie ihre Bilanz mit zugekauften Ökostrom-Zertifikaten aufpolieren, können sie die gesetzlichen Vorgaben erfüllen, während sie die Abhängigkeit von fossilen Brennstoffen aufrechterhalten.

Der Entwurf des Energieeffizienzgesetzes sieht außerdem vor, dass künftig noch weniger Daten zum Verbrauch von Rechenzentren veröffentlicht werden. Bislang müssen die Betreiber ihre Verbrauchsdaten den Behörden melden und zudem selbst publizieren. Der Gesetzentwurf würde es ihnen künftig erlauben, diese Informationen mit Verweis auf Geschäftsgeheimnisse zurückzuhalten.

„Das sollte uns Sorgen um unsere Datensicherheit machen“

Dass die Bundesregierung den Ausbau von Rechenzentren mit Verweis auf „digitale Souveränität“ begründet, sieht die Kooperation hinter dem Heiße-Luft-Projekt ebenfalls kritisch. Denn ein Großteil der geplanten Rechenzentren werde von US-Konzernen betrieben, die dem US Cloud Act unterliegen. Das bedeutet: Selbst wenn die Server amerikanischer Unternehmen in Europa stehen, wären diese rechtlich dazu verpflichtet, die Daten europäischer Nutzer:innen an US-Behörden herauszugeben.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

„Unseren Informationen nach soll etwa die Hälfte der IT-Kapazitäten der neuen Rechenzentren von US-amerikanischen Big-Tech-Unternehmen genutzt werden,“ sagt Joschi Wolf vom Climate Helpdesk von FragDenStaat. „Das sollte uns Sorgen um unsere Datensicherheit machen – seien es persönliche, unternehmensbezogene oder staatliche Daten.“

Auch Versprechen, das der Ausbau von Rechenzentren neue Arbeitsplätze schaffe, wurden bisher meist nicht eingelöst. So seien etwa im rumänischen Mischii nur 10 der zugesagten 21 Stellen geschaffen worden; in der niederländischen Gemeinde Hollands Kroon waren es nur rund 530 statt der angekündigten 2.000 Stellen, wie eine Recherche von AlgorithmWatch zeigt.

Eine Karte des Protests

Ein weiteres Feature der Karte zeigt, wo sich Protest gegen den Ausbau von Rechenzentren formiert. Vielerorts wehren sich Anwohner:innen gegen Pläne, die Ressourcen ihrer Gemeinden für den KI-Boom zu nutzen. In den Niederlanden und in Irland haben Proteste schon dazu geführt, dass der Ausbau von Rechenzentren gestoppt wurde.

Trotz der zusammengetragenen Fülle an Daten sind viele Informationen noch immer nicht öffentlich. Die Betreiber des Heiße-Luft-Projekts rufen dazu auf, weitere Informationsfreiheitsanfragen an Kommunen und Behörden zu richten und so zu zeigen, dass die „die Klimaversprechen der Tech-Konzerne heiße Luft sind“.

Kategorien: Externe Ticker

Polizeigesetz Thüringen: „Haben, haben, haben – und dann schauen, was passiert“

28. August 2026 - 10:45

Protest vor dem Landtag von Thüringen. – CC-BY-NC-SA 4.0: ThürPAG stoppen. Bearbeitung: netzpolitik.org

Vor der Tür des Landtages von Thüringen verteilen Menschen Flyer. Sie haben einen Pavillon und darunter einen Info-Stand aufgebaut und weisen Passant*innen darauf hin, dass im Landtag an diesem Tag, dem vergangenen Donnerstag, ein massiver Ausbau des Polizeiaufgabengesetzes, kurz PAG, besprochen wird. Die Protestbewegung „ThürPAG stoppen“, zu der die Aktivist*innen gehören, ist noch ganz jung, aber bereits hochaktiv. Sie sammelt auch Unterschriften, um die Abgeordneten dazu zu bringen, den Gesetzentwurf abzulehnen, über 3.400 Menschen haben die Petition bereits signiert.

David Sommer, der „ThürPAG stoppen“ mit gegründet hat, sagt: „Auf den Veranstaltungen, die wir in den letzten Monaten durchgeführt haben, stellen wir immer wieder fest: Viele Menschen wollen keinen schleichenden Ausbau staatlicher Überwachung und machen sich große Sorgen.“

Alexis Wagenfeld, Mitinitiatorin der Protestbewegung, fürchtet, dass die neuen High-Tech-Überwachungswerkzeuge in die Hände einer rechtsextremen Regierung fallen könnten. „Deshalb brauchen wir rechtsstaatliche Zurückhaltung statt immer neuer Eingriffsbefugnisse“, sagt sie. Sommer und Wagenfeld sind allerdings durchaus optimistisch, dass sich der Entwurf noch aufhalten oder zumindest entschärfen lässt.

Datenanalyse, Verhaltensscanner, Gesichtersuchmaschine und vieles mehr

Das geplante Gesetz soll verschiedene Überwachungsmaßnahmen erlauben: Eine Meta-Datenbank mit KI-Analyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle, das automatisierte Tracking von Personen im Kameranetzwerk, die Suche nach biometrischen Daten im Internet, Kennzeichenscanner, Videodrohnen und elektronische Fußfesseln. Doch zur Verabschiedung des Gesetzes ist die Minderheitsregierung, eine Koalition aus CDU, SPD und BSW, auf Stimmen aus der Opposition angewiesen. Die besteht im Landtag nur aus der Linken und der AfD.

Die Linke hat ebenfalls substanzielle Kritik an den geplanten KI-Überwachungsmaßnahmen und hält den Entwurf in der aktuellen Form für nicht zustimmungsfähig. Laut einer Pressemitteilung, die sie vor der Ausschusssitzung herausgegeben hat, will sie gegen das Gesetz klagen, sollte es in dieser Form verabschiedet werden. Es sei „sehr wahrscheinlich verfassungswidrig“. Ronald Hande, innenpolitischer Sprecher der Fraktion Die Linke im Thüringer Landtag sagt: „Das hier vorgelegte Polizeigesetz schafft eine verfassungsrechtlich hochriskante Überwachungsarchitektur.“ Die Landesregierung greife damit nach Werkzeugen, „die auch in autoritären und demokratiefeindlichen Regimen Anwendung finden, um die eigene Bevölkerung zu überwachen.“

Zahlreiche Expert*innen hatten den Gesetzentwurf in schriftlichen Stellungnahmen massiv kritisiert. Auch bei der mündlichen Sachverständigen-Anhörung, die im Landtag läuft, während die Aktivist*innen vor der Tür protestieren, werden elementare Bedenken formuliert.

„Eine ganz neue Dimension“

Im ersten Block spricht der Landesdatenschutzbeauftragte Tino Melzer. Er hält die automatische Auswertung von Videostreams für eine „ganz neue Dimension“ der Polizeiarbeit. Er sieht eine Intensivierung des Grundrechtseingriffs für eine Vielzahl von Personen, die keinen Anlass dazu geben.

Melzer verweist auf die Fehleranfälligkeit der Systeme. „Eine Umarmung kann als ein Schlag gedeutet werden.“ So könnten unbescholtene Personen von weitergehenden Maßnahmen beeinträchtigt werden. Besonders problematisch an der Videoanalyse sei, dass sie unbemerkt erfolgt. Die Betroffenen könnten sich somit nicht dagegen wehren.

Nach dem Gesetzentwurf sollen – wenn die automatisierte Verhaltenskontrolle Alarm schlägt, Menschen auch automatisch über ein Kameranetzwerk hinweg verfolgt werden. Zuvor allerdings soll ein Mensch die mutmaßliche Risikosituation begutachten. Melzer kritisiert, dass dieser Zwischenschritt in unübersichtlichen Lagen regelmäßig ausfallen könnte.

Landesdatenschutzbeauftragter fordert ersatzlose Streichung der Video-KI

Betrachtet man dazu die Möglichkeit, die Videoanalyse auch auf den Bildern von Drohnen laufen zu lassen, „bekommen sie eine Vollbebilderung des Freistaats“, sagt Melzer. Er spricht sich für eine ersatzlose Streichung der Video-KI-Regelung aus.

Auch in der elektronischen Fußfessel, die mit dem Entwurf auch für nicht näher spezifizierte „Gefährder“ eingeführt werden soll, sieht Melzer einen schwerwiegenden Eingriff in informationelle Selbstbestimmung. Er moniert, dass es noch keine wissenschaftlichen Erkenntnisse zur Wirksamkeit gäbe, diese aber Teil der Begründung sein müssten.

Bei der automatisierten Datenanalyse verweist der Datenschutzbeauftragte auf das Urteil des Bundesverfassungsgerichts zu derartigen Systemen in Hessen und Hamburg. Das erlegt der Technologie enge Grenzen auf. Melzer zufolge entsprechen die Formulierungen im thüringischen Gesetz den diesbezüglichen Vorgaben nicht.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Erfahrungswerte fehlen weltweit

„Das geht ja in Richtung Vorratsdatenspeicherung: Haben, haben, haben – und dann schauen was passiert“, sagt Melzer. Er fordert die Pflicht zur Evaluierung der Befugnis. „Erfahrungswerte fehlen uns als Gesellschaft, auch weltweit. Das fährt hoch, das fährt an, aus der Warte müsste man dringend evaluieren“, sagt er. Zudem sieht er einen Richtervorbehalt vor dem Einsatz für erforderlich.

Die Internetsuche nach biometrischen Daten bestimmter Person birgt laut Melzer die Gefahr, dass sich Menschen aus der öffentlichen Kommunikation zurückziehen. Aufgrund der Vielzahl der Bilder, die sich von vielen Menschen im Netz finden lassen, sei damit die Bildung umfassender Profile möglich. Und auch hier könnten „aufgrund von Fehlern, Menschen irrtümlich von weiteren polizeilichen Handlungen in Anspruch genommen werden.“ Kritisch sei zudem, dass der Entwurf mit der KI-Verordnung der EU kollidiert, wenn dafür Daten ungezielt aus dem Netz ausgelesen werden. Melzer spricht sich dafür aus, auch diesen Paragrafen ersatzlos zu streichen.

Mandy Koch, Landesvorsitzende der Gewerkschaft der Polizei (GdP), fürchtet, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. Die Stellungnahme der GdP umfasst weitere Kritik. Diese ist für eine Polizeigewerkschaft so ungewöhnlich deutlich, dass wir ihr einen eigenen Beitrag gewidmet haben.

„Die Grundrechtsintensität wird teils überhaupt nicht eruiert“

Felix Ruppert, Jurist von der Uni München, beschreibt den Entwurf als eine beispiellose Sammlung an Maßnahmen zur Datensammlung und ‑analyse. Er sieht erheblichen Überarbeitungsbedarf, „ansonsten droht Verfassungswidrigkeit weiter Teile des Gesetzentwurfs.“ Die Verhältnismäßigkeitsprüfung komme zu kurz, Geeignetheit, Erforderlichkeit und Angemessenheit seien nicht hinreichend geklärt. Ruppert sagt: „Die Grundrechtsintensität wird teils überhaupt nicht eruiert.“

Die Erforderlichkeit werde in einigen Fällen einfach unterstellt. „Das ist dann befremdlich wenn es sich gegen eigene ministeriale Erkenntnisse richtet, wie zum Beispiel bei Videoüberwachung im öffentlichen Raum. Wenn man 2020 noch davon ausgeht, dass diese überhaupt nicht geeignet sei, die Sicherheit zu verstärken, wirft das schon Fragen auf, wenn jetzt die Erforderlichkeit einfach thesenartig unterstellt wird“, sagt er.

Problematisch sei auch die Loslösung von der Voraussetzung einer konkreten Gefahr in weiten Teilen der Maßnahmen. Klare Eingriffsvoraussetzungen würden fehlen, die Eingriffsschwellen seien vielfach niedrig oder gar nicht vorhanden, der Einsatz der Software sei weitgehend unbegrenzt. Damit beschreite der Entwurf den „Weg in Richtung eines präventiven Sicherheitsrechts.“ Dorothea Marx von der SPD, Teil der angeschossenen Regierungskoalition, nennt Rupperts Rede danach „Salve eines Vernichtungsfeuerwerks“.

„Die Streubreite wird enorm sein

Constanze Kurz, die ein Teil der Redaktion von netzpolitik.org ist und für den Chaos Computer Club im Innenausschuss spricht, referiert eine Technikfolgenabschätzung ausgewählter Befugnisse. Bezüglich der automatisierten Datenanalyse gibt sie zu Protokoll, dass dafür eine dauerhafte Zusammenführung heterogener Daten unvermeidlich sei. „Egal wie man es ausgestaltet: Die Streubreite wird enorm sein.“ Wenn schon Datenanalyse, dann empfiehlt sie eher eine deterministische und damit auch nachvollziehbare Software. „Man braucht keine KI, um Querverbindungen zu finden“, sagt sie. Grundsätzlich fragt sie sich angesichts des Entwurfs „ob man immer an die äußerste verfassungsrechtliche Grenze gehen muss.“

Die Internetsuche nach biometrischen Daten von bestimmten Personen sieht Kurz ebenfalls kritisch. Die Streubreite sei auch dabei enorm und es seien Körperdaten betroffen, „die man nicht wechseln kann und die besonders geschützt sind.“ Zudem sieht sie keine legale Möglichkeit, diese Befugnis anzuwenden. „Es ist unmöglich, solche Abgleiche zu machen, wenn man nicht vorher eine Datenbank bildet“, sagt sie. Man müsse die Daten vereinheitlichen, um sie durchsuchbar zu machen. Das Anlegen einer Datenbank stünde aber, wie schon der Landesdatenschutzbeauftragte konstatierte, im klaren Widerspruch zur KI-Verordnung.

Auch die Videoüberwachung mit angeschlossener Verhaltenskontrolle kommt bei Kurz nicht gut weg. „Es gibt in Deutschland kein einziges Projekt, das gezeigt hätte, dass das funktioniert“, sagt sie. Ihre größte Besorgnis dabei ist, „dass durch permanente Videoüberwachung und Auswertung eine Normalisierung von Dauerbeobachtung stattfindet.“

„Gefährlich ist, was nach einem Fehler passiert“

padeluun vom Verein Digitalcourage sagt zu der algorithmisch analysierten Videoüberwachung: „Gefährlich ist, was nach einem Fehler passiert. Ein falscher Treffer kann eine Kontrolle, eine Durchsuchung oder eine ziemlich unangenehme Begegnung mit bewaffneten Beamt*innen bedeuten.“ Die Befugnis ermögliche eine Infrastruktur automatisierter Kontrolle. Dabei verhindere Videoüberwachung keine Straftaten. „Das einzige, das man damit machen kann, ist Wahlkampf“, sagt er.

Die geplante Fotofahndung im Internet bringe eine elementare Veränderung: „Menschen konnten bislang öffentlich sichtbar sein, ohne deshalb jederzeit maschinell identifizierbar zu sein“, sagt er.

An der automatisierten Datenanalyse stört ihn vor allem, dass auch Daten von Zeug*innen und Opfern darin einbezogen sind. Wenn man diverse Datenbestände mit einem Mausklick verbinden könne, verändere sich zudem die Qualität staatlicher Macht. „Einer Überwachungsinfrastruktur können sie keinen demokratischen Charakter geben“, sagt er. Was heute als eng begrenzte Ausnahme eingeführt werde, sei morgen schon vorhandene Technik. Die zentrale Frage müsse sein: „Würden wir dieses Instrument einer Regierung an die Hand geben, der wir überhaupt nicht vertrauen?“

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Der Verein Digitalcourage empfehle, die drei Paragrafen komplett zu streichen. „Polizisten sollen Ermittler sein, keine Überwacher“, sagt padeluun.

Potenziell jede*r betroffen

Kilian Vieht-Ditlmann von der gemeinnützigen Organisation AlgorithmWatch sagt zur biometrischen Internetsuche: „Stellen sie sich vor, Sie posten ein Bild von der Hochzeit ihrer Schwester, einem Kindergeburtstag oder einer Chorprobe – dann soll die Polizei daraus biometrische Daten extrahieren und in einer Datenbank ablegen können.“ Von dem Eingriff seien nicht nur Verdächtige betroffen, „sondern potenziell jeder von uns“. Zudem seien womöglich sensible Kontexte betroffen, Bilder von Demos, aus Gay-Bars oder Gottesdiensten zum Beispiel. Er verweist auch darauf, dass die Technologie in anderen Ländern genutzt wird, um auf Demonstrationen Regime-Gegner*innen zu identifizieren.

Vieth-Ditlmann sagt, er habe mal eine kommerzielle Gesichtersuchmaschine ausprobiert und sei erstaunt gewesen, dass diese auch Bilder fand, die er gar nicht auf dem Schirm hatte. Zudem seien auch Bilder anderer Menschen in der Ergebnisliste gewesen. Derartige Fehlidentifikation könne im polizeilichen Kontext den Betroffenen deutliche Nachteile bringen.

Bei der Videoüberwachung, die automatisch verdächtiges Verhalten markiert, sieht Vieth-Ditlmann ein großes Problem in der Umsetzbarkeit: „Polizistinnen müssen eine Flut von Fehlalarmen manuell prüfen.“ Die Befugnis solle zwar nur an sogenannten gefährlichen Orten eingesetzt werden, „aber die werden von Beamt*innen teils flexibel festgelegt, das ist keine feste Grenze, sondern eher so ein Gummiband.“

Die Möglichkeit, sich frei und unbeobachtet im öffentlichen Raum zu bewegen, sei keine Nebensache, sondern „Grundvoraussetzung, dass Demokratie überhaupt funktioniert“, sagt Vieth-Ditlmann. Die beiden genannten Befugnisse sollten deshalb aus der Sicht von AlgorithmWatch komplett gestrichen werden. „Wir bitten Sie darum, diesen Weg gar nicht erst einzuschlagen“, sagt er.

„Das Sicherheitsgefühl ist kein polizeiliches Schutzgut“

Alexis Wagenfeld und David Sommer, die eben noch vor der Tür protestierten, sind jetzt im Landtag und sprechen dort für das „Auf die Plätze“-Bündnis, das sich rechtsextremen Raumnahmen entgegenstellt.

Wagenfeld verweist zunächst auf die Polizeistatistiken, die in Thüringen einen kontinuierlichen Rückgang erfasster Straftaten zeigen. Es ginge bei der Einführung der neuen Befugnisse also nicht um tatsächliche Sicherheit, sondern um ein Sicherheitsgefühl. Sie sagt: “Das Sicherheitsgefühl der Bevölkerung ist kein polizeiliches Schutzgut.“

Sommer erklärt, dass polizeiliche Daten die Kontrollpraxis der Polizei widerspiegeln, die überdurchschnittlich oft zu Lasten von armen und migrantisierten Menschen gehe. „Aus diesen verzerrten Trainingsdaten ergibt sich ein hohes Diskriminierungspotential“, sagt er. Daraus ergebe sich eine selbsterfüllende Prophezeiung – die Vorverurteilung führe zu verstärkten Kontrollen, die wiederum die Vorverurteilung bestätigen.

Der Grundrechtseingriff wird zum Mausklick

Wagenfeld fügt hinzu: „Der Entwurf treibt eine schleichende Normalisierung autoritärer Werkzeuge und entgrenzter Polizeiarbeit voran.“ Auch wenn Technologien wie die automatisierte Datenanalyse, die elektronische Fußfessel oder der biometrische Abgleich noch über gewisse Eingriffsschwellen verfügen, werde die Polizei an den Einsatz der Technologien gewöhnt. „Was in der Theorie ein schwerer Grundrechtseingriff ist, wird in der Polizeiarbeit schnell zur Routine, zum Mausklick“, sagt sie.

Sie nehme wahr, dass Grundrechte oftmals als Hindernis auf dem Weg zu mehr Sicherheit betrachtet würden. Das verkenne ihre Rolle für eine Demokratie in fundamentaler Weise. „Grundrechte sind Abwehrrechte gerade gegen den – auch liberalen – Staat, und stellen herausragende historische wie gesellschaftliche Errungenschaften dar.“

In Demokratien solle die Exekutive der Bevölkerung ein hohes Maß an Vertrauen entgegenbringen. Der aktuelle Gesetzesentwurf stelle jedoch zahlreiche Menschen unter Generalverdacht, und entfalte an vielen Stellen eine hohe abschreckende Wirkung auf die Ausübung von Grundrechten. „Wir lehnen ihn deshalb in weiten Teilen ab“, sagt sie.

Kategorien: Externe Ticker

Autistici/Inventati: USA sanktionieren italienisches Internetkollektiv

27. August 2026 - 15:18

Die US-Regierung hat am Mittwoch das bekannte linke italienische Internetkollektiv Autistici/Inventati mit Sanktionen belegt und als „Globale Terroristen“ eingestuft. Das Amt zur Kontrolle von Auslandsvermögen (OFAC) behauptet, dass es mit der Maßnahme „der wachsenden Bedrohung durch gewalttätige linksradikale Terrorgruppen“ entgegenwirken würde. Auch US-Außenminister Marco Rubio äußerte sich.

Die Trump-Regierung setzt die Maßnahme zudem in Zusammenhang mit Maßnahmen gegen „die Antifa“, die sie im November 2025 ergriffen hatte. Sie begründet die Sanktionen damit, dass das Kollektiv angeblich „spezielle digitale Architektur, Tools und Dienstleistungen für Antifa-Zellen und andere gewalttätige linksradikale Extremisten bereitstellt“. Die Regierung sagt in ihrer Mitteilung, dass angeblich auch die Arbeiterpartei Kurdistans die Dienste des Kollektivs genutzt habe, die mit der Erdogan-Regierung verhandelt und ihre Auflösung verkündet hat.

USA gegen „die Antifa“

Die US-Regierung behauptet, ohne Beweise vorzulegen, dass das Internetkollektiv eine terroristische Handlung wesentlich gefördert oder finanziell, materiell oder technologisch unterstützt habe bzw. Waren und Dienstleistungen für eine solche Handlung oder zu deren Unterstützung bereitgestellt habe. Die Trump-Regierung bedient sich rechtlich bei einer Verordnung von George W. Bush nach denn Terroranschlägen am 11. September 2001.

Das Kollektiv weist in einer Erklärung alle Vorwürfe zurück:

Wir weisen alle in den Erklärungen enthaltenen Vorwürfe zurück und bekräftigen gleichzeitig nachdrücklich unser Engagement, eine Plattform mit Werkzeugen zur digitalen Selbstverteidigung bereitzustellen, die dem Bedürfnis nach freier Kommunikation von Aktivisten sowie anderen Einzelpersonen, Gruppen und Vereinigungen gerecht wird.

Wir werden nicht nachgeben. Wir werden weiterhin das tun, was wir all die Jahre getan haben. Und wir werden alles in unserer Macht Stehende tun, um den falschen Anschuldigungen einer politisch verzweifelten Regierung entgegenzuwirken. Deren einzige Absicht besteht darin, die Aufmerksamkeit der Menschen und der Medien von ihrer eigenen Gewalt und Kriegstreiberei abzulenken.

Antifaschismus und Antikapitalismus sind kein Terrorismus. Protestieren ist kein Terrorismus. Und jeder hat das Recht, seine Meinung zu äußern und für die Menschlichkeit zu kämpfen.

Autistici/Inventati existiert seit dem Jahr 2001. Das Kollektiv wurde im Umfeld des G8-Gipfels in Genua gegründet. Den Namen „Autistici“ entnahmen die Aktivist:innen der ironischen Selbstbezeichnung, quasi autistisch auf einen Bildschirm fixiert zu sein. „Inventati“ bedeutet, je nachdem wie ein Akzent gesetzt wird, entweder „sich selbst erfinden“ oder „die Erfundenen“.

Bekannt ist das Kollektiv unter anderem für die Blogplattform NoBlogs.org, die auch in Deutschland rege genutzt wird und auf der tausende Blogs gehostet sind. Das Kollektiv von Ehrenamtlichen stellt sozialen Bewegungen seit Jahren unentgeltlich Mailadressen, Instant Messenger und selbstverwaltete Infrastruktur abseits von großen Plattformen und Unternehmen zur Verfügung.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Mögliche Probleme mit Spendenkonten

Autistici/Inventati finanziert sich ausschließlich über Spenden. Hier könnten Sanktionen greifen und dem Kollektiv die Finanzierung schwer machen, wenn Banken und Zahlungsdienstleister aus Angst vor US-Sanktionen Konten kündigen.

Es ist nicht das erste Mal, dass politisch-motivierte Sanktionen der rechtsradikalen US-Regierung Folgen für zivilgesellschaftliche Organisationen in Europa haben.

Zuletzt waren der deutschen Rote Hilfe ihre Konten bei GLS Bank und Sparkasse gekündigt worden. Die Sparkasse bestätigte einen Zusammenhang mit den US-Sanktionen. Die Rote Hilfe konnte nur durch Proteste und Gerichtsverfahren den Zugang zu ihren Konten wiedererlangen.

Die US-Regierung belegte zudem Ende 2025 die Organisation HateAid mit Sanktionen und begründete dies mit angeblicher Zensur.

Update 16:30 Uhr:

In einer längeren Erklärung schreibt das Medienkollektiv Sabotmedia, was nun passieren könnte. Autistici/Inventati hat den Text auf seinem Blog gecrosspostet:

Nun sei der Stichtag des 25. Septembers entscheidend. Denn ab diesem Tag gelten die Sanktionen vollends. Ab diesem Zeitpunkt sei mit dem Verlust von Bankkonten und Zahlungsabwicklung, Hosting, Cloud-Infrastruktur und Upstream-Netzwerkdienste, Domain-Registrierung, Zertifikate usw. zu rechnen – auch wenn nicht alle, die mit dem Kollektiv Geschäftsbeziehungen haben, gesetzlich verpflichtet sind, zu reagieren.

Weiter heißt es, dass sich die Einstufung zwar gegen das Kollektiv an sich richte, doch die Maßnahme Auswirkungen für alle haben wird, die die Infrastruktur nutzen:

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Die Infrastruktur von A/I wird von Schriftstellern, Organisatoren, Forscher:innen, Künstler:innen, Publikationen von Bewegungen und Menschen genutzt, die sich gerade deshalb dafür entschieden haben, weil kommerzielle Plattformen unsicher, politisch feindselig oder darauf ausgelegt waren, ihre Daten abzugreifen. Diese Nutzer werden nicht automatisch sanktioniert, nur weil sie eine A/I‑Adresse haben oder auf Noblogs veröffentlichen. Sobald jedoch der Anbieter selbst auf eine Terrorismus-Blacklist gesetzt wird, kann eine gewöhnliche Verbindung zu einem Risikosignal werden.

Mehr als nur das Kollektiv betroffen

Sabotmedia warnt in diesem Sinne vor einem „Kreis der Angst“, der sich auf alle Nutzer:innen der Services auswirken könnte. Das umfassendere Ziel der Maßnahme sei die Community rund um die Server des Kollektivs und soziale Bewegungen insgesamt, indem unabhängige, zensurfreie, nicht-kommerzielle Infrastrukturen, die auch kontroverse Inhalte und Gruppen hosten, unter Druck gesetzt werden.

Im Text heißt es weiter:

Nutzer:innen könnten von vertrauenswürdiger Infrastruktur der Bewegung zu kommerziellen Systemen abwandern, die leichter zu überwachen, per Vorladung zu erzwingen und zu kartieren sind. Der Staat gewinnt an Einfluss, selbst wenn er keine Klartextdaten von den verschlüsselten Festplatten von A/I erhält: Menschen isolieren sich voneinander, Anbieter sammeln mehr Informationen, und die sozialen Beziehungen rund um regimekritisches Engagement lassen sich leichter beobachten.

Die Struktur der Maßnahme der USA sei erkennbar. Sie ersetze eine eng gefasste Anschuldigung gegen identifizierbares Verhalten durch eine pauschale Sanktion gegen die Infrastruktur; verlagere die Durchsetzung vom Gerichtssaal in ein globales Netz vorsichtiger Institutionen; und mache die Ungewissheit selbst zu einem Instrument der Kontrolle. Das unmittelbare Ziel möge darin bestehen, A/I außer Gefecht zu setzen. Die weiterreichende Wirkung bestehe aber darin, jeden zu warnen, der Kommunikationswege außerhalb der Kontrolle von Unternehmen und Staat aufbaue, dass der Schutz, den diese bieten, als Beweismittel gegen sie umgedeutet werden könne.

Solidarität jetzt wichtig

Weiter heißt es im Text, dass das Kollektiv zwar die technischen Infrastrukturen vermutlich retten könne und für dies gut gerüstet sei. Die Maßnahme ziele aber nicht auf die technische Infrastruktur, sondern das Gefüge rund um diese. Genannt werden dabei Finanzierung, Spenden, Verträge mit Rechenzentren, usw. Es komme deswegen darauf an, dass es Solidarität mit dem Projekt gebe. Der 25. September sei kein Stichtag für Schweigen, heißt es weiter:

Unabhängige Berichterstattung, Kritik, Protest, Aufklärung und politisches Engagement bleiben möglich. Die Menschen können die Geschichte von A/I erzählen, die Behauptungen der Regierung hinterfragen und anfechten, Journalist:innen und Bürgerrechtsorganisationen kontaktieren, öffentlich zugängliche Materialien sichern und sich unabhängig gegen die Kriminalisierung widerständiger Kommunikationsinfrastruktur organisieren.

Dennoch würde es ab dem 25. September schwieriger das Kollektiv offen und direkt zu unterstützen. In einem Kapitel „Was Unterstützer vor dem 25. September tun können“ ruft das Kollektiv auf, die Geschichte des Kollektivs zu erzählen und die Darstellung der US-Regierung zu kontern, was mit der Maßnahme wirklich angegriffen wurde. Weiter heißt es in dem Solidaritätsaufruf von Sabotmedia, den wir an dieser Stelle in voller Länge dokumentieren (automatische Übersetzung):

Bildet eine öffentliche Verteidigungskoalition. Bittet unabhängige Serverkollektive, Organisationen für digitale Rechte, Hacklabs, Freie-Software-Projekte, radikale Bibliotheken, unabhängige Verlage, Journalisten, Rechtsanwälte, Forscher und ehemalige Nutzer, öffentlich Stellung zu nehmen. Sichert das Archiv. Server können beschlagnahmt werden. Domains können gesperrt werden. Hosting-Anbieter können in Panik geraten. Sichert öffentlich zugängliche und historisch wertvolle Noblogs-Beiträge sowie die Manifeste, technischen Dokumente, Rechtsunterlagen und die Bewegungsgeschichte von A/I. Erfasst Quell-URLs, Urheberschaft, Veröffentlichungsdaten und Abrufdaten. Respektiert Datenschutz, Urheberrecht und Löschanträge. Greift nicht auf private Konten zu und umgeht keine Sicherheitsvorkehrungen. Persönliche Archivierung, Forschungsarchivierung und gewöhnlicher Journalismus sind nicht dasselbe wie der öffentliche Betrieb einer Ersatzinfrastruktur; wer einen öffentlichen Mirror in Betracht zieht, sollte zunächst qualifizierten Rat einholen.

Dokumentiert übermäßige Compliance. Erfasst Unternehmen, Banken, Registrare, Plattformen und Institutionen, die Dienste einstellen oder Material entfernen. Bewahrt Mitteilungen und Korrespondenz auf. Die öffentlichen Aufzeichnungen sollten zeigen, wie weit die Einstufung über ihren formalen Wortlaut hinausgeht. Fordert Antworten. Fragt Digitalrechtsgruppen, europäische Institutionen und Amtsträger, ob sie zulassen werden, dass amerikanische Sanktionen ein italienisches Kommunikationskollektiv zerschlagen. Fragt, welcher Schutz für europäische Infrastruktur, Nutzer und Archive besteht. Organisiert Euch unabhängig. Führt öffentliche Diskussionen über autonome Infrastruktur, Sanktionen, Überwachung und das Gesetz zur materiellen Unterstützung. Veröffentlicht Erklärungen. Vermittelt Kenntnisse über Verschlüsselung. Unterstützt unabhängige Bürgerrechtsarbeit, die sich gegen weitreichende Terrorismus-Einstufungen wendet. Bereitet rechtmäßige materielle Unterstützung vor. A/I hat sich in der Vergangenheit durch freiwillige Spenden finanziert, doch US-amerikanische Unterstützer sollten während der Gültigkeit der Einstufung ohne klare Genehmigung kein Geld senden oder umleiten. Organisationen für digitale Rechte und Rechtshilfe können eigenständig rechtmäßige Unterstützungsmechanismen, Lizenzierungen und mögliche Verfahren zur Aufhebung der Einstufung prüfen.

Hört euch die öffentliche Stellungnahme von A/I aufmerksam an und achtet dabei darauf, dass die Interessenvertretung rechtlich unabhängig bleibt. Die Erklärung des Kollektivs sollte darüber Aufschluss geben, wie seine Geschichte und die Umstände beschrieben werden. Jede koordinierte Kampagne, jeder Fundraising-Kanal oder jede direkte Dienstleistung erfordert eine gesonderte rechtliche Prüfung. Das unmittelbare Ziel ist es, ein stilles Verschwinden von A/I unmöglich zu machen.

Das Netzwerk namens Solidarität

A/I hat Konzerne überstanden, die Zensur forderten, sowie verdeckten polizeilichen Zugriff, beschlagnahmte Festplatten, feindselige Provider, Angriffe aus dem Parlament und internationale Ermittlungen. Der Fall Trenitalia führte zu Spiegelservern und einem juristischen Sieg. Der Aruba-Hack führte zu „Plan R*“. Die Zensur durch Provider führte zu Redundanz.

Die Beschlagnahmung in Norwegen zeigte, dass sich das Netzwerk innerhalb von Stunden wieder erholen konnte. Jeder Versuch, das Kollektiv zu isolieren, verbreitete Wissen darüber, wie Zensur und Überwachung funktionieren. Jeder Angriff wurde zu einer Gelegenheit, mehr Menschen beizubringen, wie sie sich gegenseitig schützen können. Die Vereinigten Staaten haben diese Geschichte nun in einen globalen Test verwandelt. Auf dem Spiel steht nicht nur das Überleben eines italienischen Hacker-Kollektivs. Es geht darum, ob die Aufrechterhaltung einer Infrastruktur für radikale Bewegungen an sich schon als Terrorismus behandelt werden kann; ob Privatsphäre als Verschleierung neu definiert werden kann; ob die Weigerung, identifizierende Informationen zu sammeln, als Behinderung dargestellt werden kann; und ob ein Provider politisch und rechtlich für jeden Text, jede Taktik und jede Behauptung verantwortlich gemacht werden kann, die über seine Maschinen übertragen werden.

A/I hat sich 25 Jahre lang auf den Tag vorbereitet, an dem ein Server verschwindet. Es weiß, wie man eine Maschine ersetzt, einen Dienst verlagert, verschlüsselte Daten wiederherstellt und den Betrieb fortsetzt, nachdem Polizei oder Provider den Stecker gezogen haben. Die Vereinigten Staaten versuchen etwas anderes. Sie versuchen, Banken, Hosts, Registrare, Infrastrukturanbieter und Unterstützer auf der ganzen Welt einzuschüchtern, damit sie das Kollektiv im Stich lassen. Ob das gelingt, wird zum Teil von der Architektur von A/I abhängen.

Es wird auch von uns abhängen.

Bewahrt bis zum 25. September die Geschichte. Teilt die Geschichte. Baut die Koalition auf. Dokumentiert die Isolation. Vermittelt die Werkzeuge. Bereitet eine rechtmäßige Verteidigung vor. Lasst nicht zu, dass der Staat stillschweigend festlegt, dass der Aufbau einer datenschutzfördernden Infrastruktur für Dissens an sich schon ein Akt des Terrorismus ist. Vor fünfundzwanzig Jahren versammelten sich zehn Menschen um einen ausrangierten Rechner und ließen sich bewusst viel Zeit bei der Konfiguration, weil jeder im Raum etwas lernen sollte. Das ist nach wie vor die Lehre daraus. Überlasst das Wissen nicht den Experten.

Konzentiert die Infrastruktur nicht an einem Ort. Lasst die Betroffenen nicht allein.

Der erste Server hieß Paranoia.

Das Netzwerk, das er schuf, hieß Solidarität.

Kategorien: Externe Ticker

KI-Befugnisse in Thüringen: Polizeigewerkschaft kritisiert Polizeigesetz

27. August 2026 - 13:44

Polizist*innen in Erfurt. (Symbolbild) – CC-BY-NC-SA 4.0: Denis Glismann

Im Thüringer Landtag läuft gerade eine Expert*innenanhörung zum aktuellen Polizeigesetzentwurf der Regierungskoalition aus CDU, BSW und SPD. Unter den geladenen Sachverständigen ist auch Mandy Koch, Vorsitzende der Gewerkschaft der Polizei (GdP), Landesbezirk Thüringen.

Koch begrüßt ein „zeitgemäßes Instrumentarium“, kritisiert aber die unbestimmten Rechtsbegriffe im Gesetzentwurf. Kennzeichenscanner dürften demnach beispielsweise nicht flächendeckend und nicht dauerhaft eingesetzt werden, „aber was heißt das?“ Die automatisierte Videoüberwachung soll bestimmte Verhaltensmuster erkennen, „aber wie definiert man das?“ Koch fordert eindeutige Eingriffsschwellen. „Klare Grenzen behindern Polizeiarbeit nicht, sondern schützen Bürgerrechte und schaffen Rechtssicherheit für Kolleginnen und Kollegen“, sagt sie.

Koch fürchtet zudem, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. „Wenn ich mir vorstelle, ich gehe zu einer Demo, es ist alles schön, es ist alles schick, ich versammle mich friedich und ohne Waffen und über mir fliegt eine Drohne ständig rum, dann fände ich das nicht schön, weil das immer so ein unwohles Gefühl birgt“, sagt sie. Die Gewerkschaftsvorsitzende sieht die Gefahr, „dass Menschen sagen, dann geh ich da nicht hin, das will ich nicht und dann nehme ich mein Grundrecht nicht wahr, das sehen wir kritisch.“

„Erhebliche Risiken für die Grundrechte“

Im Vorhinein hatte die GdP Thüringen bereits eine schriftliche Stellungnahme eingereicht, die in Umfang, Detailtiefe und auch Schärfe der Kritik noch einmal deutlich über die in der Anhörung getätigten Aussagen hinausgeht. Die Gewerkschaft nennt „erhebliche Risiken für Grundrechte“ und kritisiert erstaunlich deutlich die geplanten Befugnis-Erweiterungen.

Der Polizeigesetz-Entwurf soll eine Reihe von KI-basierten Technologien erlauben: Datenanalyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle und eine Internet-Suchmaschine für biometrische Daten. Diese Befugnisse wurden auch in vielen anderen Bundesländern eingebracht und teils bereits verabschiedet. Auch Bundespolizei und BKA sollen mit den Tools arbeiten. Das verschafft der klaren Position der Polizeigewerkschaft in Thürigen bundesweite Relevanz.

Ein zentrales Problem an den automatisierten Systemen ist für die GdP Thüringen deren fehlende Neutralität. Die Gewerkschaft warnt davor, technische Systeme als scheinbar objektive Entscheidungsinstanzen zu betrachten. „Biometrische Treffer, automatisierte Warnmeldungen oder algorithmische Risikobewertungen dürfen niemals alleinige Grundlage schwerwiegender polizeilicher Eingriffe sein“, schreibt sie. Sie hält externe Audits, regelmäßige Evaluierungen und klare gesetzliche Begrenzungen automatisierter Analyse- und Identifikationssysteme für unverzichtbar. Insbesondere bei datengetriebenen und technisch gestützten Eingriffsbefugnissen müssten rechtsstaatliche Grenzen und demokratische Kontrolle stärker berücksichtigt werden.

GdP fordert strenge Richtervorbehalte für Datenanalysen

Speziell bei der automatisierten Datenanalyse, wenn also unterschiedliche Datenbestände verknüpft und algorithmisch analysiert werden, steige zwangsläufig die Gefahr fehlerhafter Zuordnungen oder unklarer Verdachtslagen. Deshalb braucht es dafür aus Sicht der GdP Thüringen strenge Richtervorbehalte und nachvollziehbare Kontrollmechanismen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Grundsätzlich ist die GdP – bei einer Polizeigewerkschaft erwartbar – einer Ausweitung der Befugnisse nicht abgeneigt. Auch die neuen Befugnisse lehnt sie nicht grundsätzlich ab. Sie unterstützt das Ziel, „das Thüringer Polizeiaufgabengesetz an moderne Gefahrenlagen anzupassen und der Polizei zeitgemäße Instrumente zur Verfügung zu stellen“. Allerdings äußert sie auch erhebliche Bedenken.

Zuallererst ist da die immer wieder geäußerte Sorge davor, dass mit einer Ausweitung der Befugnisse auch eine erhöhte Belastung des Personals einhergeht. Deshalb fordert sie, bei einem Ausbau von Kompetenzen immer auch Ressourcen der Polizei aufzustocken.

Die Gewerkschaft sieht in dem vorliegenden Gesetzentwurf zudem „die Gefahr, dass polizeiliche Eingriffe immer weiter in das Vorfeld konkreter Gefahren verlagert werden“. Sie kritisiert die vielen unbestimmten Formulierungen im Gesetzestext, wie „hinreichende Wahrscheinlichkeit“, „Verhaltensmuster“ oder „übersehbarer Zeitraum“ – die ja eigentlich den Spielraum der Polizei erweitern. „Unklare Normen schützen keine Grundrechte. Sie verlagern Rechtsunsicherheit lediglich auf die Ebene der handelnden Polizeibeamtinnen und Polizeibeamten“, schreibt die GdP dazu.

Regelmäßige Evaluation und Berichtspflichten

Die Gewerkschaft fordert, die Befugnisse regelmäßig zu evaluieren und Berichtspflichten an das Parlament zu hinterlegen. „Gerade bei neuen technischen Maßnahmen liegen bislang nur begrenzte belastbare empirische Erkenntnisse zu tatsächlicher Wirksamkeit, Fehlerraten oder langfristigen Auswirkungen auf Grundrechte und gesellschaftliches Vertrauen vor“, erläutert sie.

Harmlose Bewegungen oder alltägliche Interaktionen könnten technisch fehlerhaft als Gefahrensituation interpretiert werden, warnt die GdP Thüringen. „Die Folgen solcher Fehlbewertungen bleiben nicht theoretisch. Sie können unnötige Polizeieinsätze auslösen, unbeteiligte Personen in polizeiliche Maßnahmen hineinziehen und letztlich das Vertrauen der Bevölkerung in die Verhältnismäßigkeit staatlichen Handelns beeinträchtigen“, schreibt die Polizeigewerkschaft.

Die GdP Thüringen warnt, dass die neuen Überwachungs- und Analysebefugnisse erhebliche Auswirkungen auf die Wahrnehmung der Versammlungsfreiheit entfalten könnten. „Gerade Videoüberwachung, automatisierte Verhaltensanalyse oder biometrische Identifikationssysteme bergen die Gefahr sogenannter ‚Chilling Effects‘“, schreibt sie.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Versammlungen nicht präventiv überwachen

Die von Mandy Koch in der Anhörung genannten Sorgen zur Versammlungsfreiheit erwähnt die Stellungnahme ebenfalls. Friedliche Demonstrationen dürften nicht den Eindruck vermitteln, sie stünden unter einer allgemeinen präventiven Dauerbeobachtung. Die GdP Thüringen hält demnach eine ausdrückliche gesetzliche Klarstellung für erforderlich, dass friedliche Versammlungen nicht zum Gegenstand allgemeiner präventiver Überwachung gemacht werden dürfen. Das würde nicht nur Bürgerrechte schützen, sondern auch die Polizei selbst – vor dem Vorwurf politisch motivierter Überwachung.

Die GdP Thüringen kritisiert nicht nur das geplante Polizeigesetz, sondern auch aktuell existierende Regelungen. Derzeit legen Polizist*innen in Thüringen sogenannte gefährliche Orte, an denen sie beispielsweise verdachtsunabhängige Kontrollen vornehmen dürfen, relativ freihändig fest, teils auch einfach spontan. Die Gewerkschaft schreibt, dass diese Orte nicht beliebig und ohne nachvollziehbare Kriterien festgelegt werden dürften. „Wenn Kontrollräume kurzfristig, uneinheitlich oder ohne ausreichende Dokumentation entstehen, leidet die Akzeptanz polizeilichen Handelns“, schreibt sie.

Die sogenannte elektronische Fußfessel, deren Einsatz mit dem Entwurf in Thüringen zur Abwehr verschiedener Gefahren erlaubt werden soll, würde die GdP Thüringen gern hart begrenzen. Sie soll nur unter engen gesetzlichen Voraussetzungen eingesetzt werden und regelmäßig richterlich überprüft werden. „Je intensiver ein Grundrechtseingriff ist, desto höher sind die Anforderungen an Kontrolle, Dokumentation und Verhältnismäßigkeit“, betont die Gewerkschaft.

„Menschen dürfen nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“

Mit dem Gesetzentwurf sollen der Polizei auch Elektroimpulspistolen, sogenannte Taser, erlaubt werden. Die GdP Thüringen fordert dazu umfangreiche Schulungsmaßnahmen, verpflichtende medizinische Nachkontrollen der Betroffenen und eine lückenlose Dokumentation sämtlicher Einsätze. Zudem soll der Einsatz wissenschaftlich begleitet und regelmäßig evaluiert werden. „Nur so lässt sich nachvollziehen, in welchen Situationen Distanzelektroimpulsgeräte tatsächlich deeskalierend wirken und wo Risiken oder Fehlentwicklungen bestehen“, schreibt die Gewerkschaft.

Der vorliegende Entwurf soll den Einsatz von Videoüberwachung mit Verhaltensanalyse auch in Gewahrsamsräumen erlauben. Was der GdP Thüringen dabei fehlt, sind ein expliziter Schutz der Intimsphäre, klare Löschfristen und nachvollziehbare Dokumentationspflichten. „Menschen dürfen auch im Gewahrsam nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“, schreibt sie.

Die GdP Thüringen treibt auch die Sorge darum, dass die Daten, die mit den neuen Befugnissen erhoben werden, digitalen Angriffen zum Opfer fallen könnten. „Gerade sicherheitsrelevante Systeme geraten zunehmend in den Fokus organisierter Cyberkriminalität sowie ausländischer Nachrichtendienste“, warnt sie.

Kategorien: Externe Ticker

Jugendschutz im Sonderangebot: Meta kauft sich frei

27. August 2026 - 10:09

Welche Verantwortung tragen Tech-Konzerne wie Facebook und Instagram, wenn sie junge Menschen an sich binden, bis ihre Gesundheit leidet? Wie hoch ist die Strafe, wenn Konzerne aus der Aufmerksamkeit junger Menschen maximalen Profit schlagen und dabei Schaden in Kauf nehmen – mit suchtfördernden Mechanismen, manipulativen Designs und allerlei Psycho-Tricks?

Diese und weitere Fragen hätte ein wegweisender Gerichtsprozess in den USA beantworten können. Aber die klagenden US-Bundesstaaten haben es zugelassen, dass Meta sich freikauft. Mit einem Vergleich über zunächst rund 13 Milliarden US-Dollar entgeht der Mutterkonzern von Facebook und Instagram einem Urteil und bestreitet weiter die Vorwürfe. Das Gericht muss dieser Einigung allerdings noch zustimmen.

Zum Vergleich gehören nicht nur Milliarden, sondern auch eine Reihe von Maßnahmen für mehr Kinder- und Jugendschutz auf Facebook und Instagram. Meta präsentiert das in einem Blogpost. Unter anderem soll es für Jugendliche ein Zeitlimit von zwei Stunden am Tag geben, das sie nur mit elterlicher Erlaubnis abschalten können. Zwischen Mitternacht und sechs Uhr morgens sollen junge Menschen zentrale Funktionen der Plattformen nicht nutzen können. Und nicht zuletzt sollen sie einen Feed wählen können, der nicht auf ihre persönlichen Interessen optimiert wurde.

Einerseits können solche Maßnahmen tatsächlich helfen, um die oftmals unwiderstehliche Sogwirkung der Apps zu lindern. Andererseits steckt darin ein vergiftetes Angebot. Offensichtlich wollen Facebook und Instagram damit einem drohenden Urteil entgehen, das möglicherweise deutlich härtere Geldbußen, Auflagen und Folgeklagen mit sich gebracht hätte.

Jugendschutz als Knaller-Schnäppchen

Die Maßnahmen aus dem Vergleich sind keine schönen neuen Standards, auf die sich Betroffene in Zukunft berufen können. Kein Gericht hat geklärt, dass sich solche Maßnahmen aus geltendem Recht ergeben. Die Maßnahmen sind bloß ein Deal mit Meta, und sie haben sogar ein Ablaufdatum.

Nur zehn Jahre lang will sich Meta zu den meisten dieser Maßnahmen verpflichten. Und nur fünf Jahre lang will sich der Konzern dazu verpflichten, die Nutzungszeit für junge Menschen zu beschränken – auf zwei Stunden am Tag und auf Basisfunktionen in der Nacht. Fünf schlappe Jahre. Die Gründe für diese lächerlich kurze Zeitspanne liegen auf der Hand. Wenn junge Menschen ihre Aufmerksamkeit anderen Dingen widmen, verliert Meta Geld, und Meta will kein Geld verlieren.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Wer sich Metas Darstellung des Deals durchliest, hört förmlich die Stimme eines windigen Teleshopping-Verkäufers tönen: „Unglaublicher Jugendschutz-Deal, greifen Sie jetzt zu!“

Es ist tatsächlich Teil des Deals, dass Meta die auf nur fünf Jahre beschränkte Laufzeit seiner beiden Vorzeige-Maßnahmen auf volle zehn Jahre verlängern könnte – vorausgesetzt, dass sich auch TikTok und YouTube den Standards anschließen. „Aber das ist noch längst nicht alles“, raunt der fiktive Verkäufer. Wenn TikTok und YouTube mitziehen, will Meta dem Deal zufolge das tägliche Zeitlimit für junge Menschen noch weiter senken, und die Summe des Vergleichs würde weiter steigen: von 12,7 auf 18 Milliarden US-Dollar.

Im Teleshopping würden an dieser Stelle goldene Dollarzeichen aufpoppen, begleitet von Konfetti-Regen und dem ekstatischen Ruf des Verkäufers: „Ist das nicht ein absolutes Knaller-Schnäppchen, bei dem kein Jugendschutz-Fan Nein sagen kann?!“

Metas Deal wirft eine bohrende Frage auf: Sollte Schutz der mentalen Gesundheit junger Menschen ein befristetes Sonderangebot sein – oder ein Standard, auf den sich eine Gesellschaft dauerhaft einigt?

Genau das hätten die klagenden US-Bundesstaaten vor Gericht klären können. Es wäre eine historische Chance gewesen, mit weltweiter Signalwirkung. Es hätte das Leben junger Menschen nachhaltig verbessern können, auch über die nächsten fünf bis zehn Jahre hinaus. Aber, und hier zeigt sich die unrühmliche Gemeinsamkeit von Klägern und Beklagtem: Das Geld war wichtiger.

Kategorien: Externe Ticker

Polizeigesetz Niedersachsen: „Das vergiftet alles“

27. August 2026 - 6:45

Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Heute diskutiert darüber der Innenausschuss des Landtages. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft.

Heute wird das niedersächsische Polizeigesetz im Innenausschuss des Landtages diskutiert. Der Entwurf soll zahlreiche hochinvasive KI-gestützte Überwachungsinstrumente erlauben, unter anderem Datenanalyse nach Palantir-Art, die Suche nach biometrischen Daten im Internet sowie Videoüberwachung mit automatisierter Verhaltenskontrolle und Echtzeit-Gesichtserkennung – möglich auch von Videodrohnen aus.

Die Verhaltenserkennung dürfte sogar bei Mustern Alarm schlagen, die auf den „Eintritt eines Unglücksfalles“ hinweisen. Die entsprechende Erfassung von liegenden Personen kann zur Diskriminierung von Obdachlosen genutzt werden.

Keine Opposition zur Überwachung im Landtag

Außer den Regierungsparteien SPD und Grüne sind im Landtag nur CDU und AfD vertreten. Deren Kritik an dem Entwurf besagt vor allem, dass dieser nicht weit genug gehe. Die CDU hat Gegen-Gesetzentwürfe eingebracht, die beispielsweise die Einsatzschwelle für die Live-Gesichtserkennung deutlich niedriger ansetzen – diese soll schon zur Verhinderung von Straftaten möglich sein, nicht erst bei einer „gegenwärtigen Gefahr für Leib oder Leben einer Person“. Auch die AfD begrüßt die neuen Befugnisse, fordert allerdings, für die Datenanalyse den Anbieter Palantir zu nutzen, der für seinen Beitrag zu Menschenrechtsverletzungen bekannt ist. Rot-Grün schließt diesen aktuell aus.

Im Landtag finden sich also keine Stimmen, die den massiven Ausbau der Überwachungsbefugnisse hinterfragen. Doch nun bildet sich Gegenwehr aus der Zivilgesellschaft. Das überwachungskritische Bündnis NoNPOG2 wurde erst vor kurzem ins Leben gerufen – das Gründungstreffen fand am 9. August statt – doch die Initiative vereint bereits eine ganze Reihe von Gruppen aus verschiedenen gesellschaftlichen Bereichen.

Hacker*innen, Klimakids und Fußballfans

Im dem Bündnis finden sich neben IT-affinen Menschen zum Beispiel aus dem CCC Hannover, dem kleindatenverein, von Anarch-IT, einem Tech-Support für Aktivist*innen, den Hackspaces Chaostreff Osnabrück und Stratum 0 oder der Gruppe freiheitsfoo, auch andere gesellschaftliche Gruppe. Si etwa Fußballfans aus der Blau-Gelben Hilfe, die andere Fußballfans bei Problemen mit Polizei und Justiz unterstützen.

Daneben haben sich auch einige Partei-Gliederungen dem Bündnis angeschlossen: Die PARTEI Niedersachsen und Die Linke und Jusos aus Braunschweig. Außerdem gibt es im Bündnis die grenzkritischen Gruppierungen Flüchtlingsrat Niedersachsen und Seebrücke Braunschweig, das Team des Universum Filmtheater, die jungen Klimaaktivist*innen der Hildesheimer Ortsgruppe von Fridays for Future, sowie die Rote Hilfe Hannover, die linken und linksextremen Menschen Rechtshilfe anbietet. Weiterer juristischer Sachverstand kommt von der Antirepressionsgruppe Lüneburg und dem Anwalt Sven Adam. Die Aktivist*innen betonen, dass sie für weitere Gruppen und Einzelpersonen aus einem breiten gesellschaftlichen Spektrum offenstehen.

Der Widerstand gegen Überwachungsmaßnahmen hat in Niedersachsen bereits Tradition. Die vorhergehende Verschärfung des Polizeigesetzes von 2019, die unter anderem Kennzeichenscanner einführte und Videoüberwachung vereinfachte, wurde von einem Bündnis unter dem Akronym NoNPOG (kurz für: Nein zum niedersächsischen Polizeigesetz) mit einer Reihe von Demonstrationen begleitet. Einige der heute beteiligten Menschen waren auch 2019 schon dabei.

„Wie viele Leute das scheiße finden“

Laura und Sebastian waren damals noch nicht gegen Überwachung aktiv. Heute sind sie Teil des Widerstands. Sebastian sagt, er finde es erschreckend, dass es im Landtag keinen Widerspruch gegen die aktuell geplanten Überwachungsmaßnahmen gibt. „Die, von denen man erwarten würde, dass sie verstehen, wie problematisch die Befugnisse sind, planen deren Einführung und dahinter sitzt eine Opposition, die noch weitergehenden Druck macht“, fasst er die Lage zusammen. Deshalb müsse die Opposition von außen kommen.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Laura hofft darauf, dass sich zumindest die Grünen vom zivilgesellschaftlichen Widerstand beeindrucken lassen. „Wenn die mitbekommen, wie viele Leute das scheiße finden, dann werden die zurückrudern“, sagt sie.

Von der ersten eigenen Demonstration sind Laura, Sebastian und ihr Bündnis aktuell noch ein Stück entfernt. Sie fokussieren sich aktuell darauf, Informationsmaterialien zu den geplanten Überwachungsmaßnahmen zusammenzustellen und in verschiedenen Lokalitäten Vorträge dazu zu halten.

Laura stört vor allem die Befangenheit der Algorithmen, die bei der Überwachung zum Einsatz kommen sollen. „Da ist immer eine Tendenz mit drin und das lässt sich auch nicht abschalten. Das ist mein größtes Bedenken“, sagt sie. So sei beispielsweise schon die Datenlage der Polizei, mit der die Software arbeitet, rassistisch gefärbt. Und auch die Trainingsdaten der sogenannten KI seien, weil von Menschen zusammengestellt, nie neutral.

Sebastian sagt, dass die Algorithmen diskriminierend wirken können, sei der Landesregierung offensichtlich bewusst. Laut Gesetzentwurf soll die Polizei nämlich verhindern, dass diskriminierende Algorithmen verwendet werden. Wie das möglich sein soll, lässt sie allerdings offen.

Magisches Denken

Laura und Sebastian haben sich das geplante Polizeigesetz gründlich angesehen und an weiteren Positionen Hinweise darauf gefunden, dass die Landesregierung durchaus auf dem Schirm hat, wie problematisch der Entwurf ist. So habe diese beispielsweise eine Umgehungslösung im Text verankert, der verhindern soll, dass mit der Datenanalyse nach Palantir-Art – und der dafür nötigen Meta-Datenbank – die Zweckbindung der erhobenen Daten verloren geht. Damit würden Zusammenlegung der Daten und die algorithmische Analyse in zwei Schritte aufgeteilt. „Und dann soll das auf zauberhafte Weise kein Problem mehr sein“, sagt Sebastian.

Auch das die Entscheidungen von KI grundsätzlich erst einmal nicht nachvollziehbar sind, sei der Landesregierung bewusst. Im Entwurf schreibt diese, dass die Nachvollziehbarkeit sichergestellt werden müsse – soweit das technisch möglich sei. „Da gibt es also ein Problembewusstsein, aber gleichzeitig auch den Versuch, das mit magischem Denken zu lösen“, sagt Sebastian.

Er kritisiert auch die geplante Videoüberwachung mit automatisierter Verhaltenskontrolle. „Das Gruseligste ist, dass die behaupten, dass das ein weniger starker Privatsphäreneingriff sei, als wenn Menschen die Videos schauen. Das finde ich so ein perfides Argument. Weil wenn man durchgehend unter Beobachtung eines Algorithmus steht, ist das, was Chilling-Effekte angeht, viel drastischer, als wenn da ab und zu mal ein Mensch draufschaut.“

Deutlich stärkerer Grundrechtseingriff

Verfechter*innen der Technologie behaupten, mit dem System sei es möglich, die Privatsphäre der Betroffenen zu schützen. Wissenschaftler wie Edzard Schmidt-Jortzig, Professor für öffentliches Recht an der Uni Kiel, oder Felix Ruppert, der an der Uni München unter anderem Strafrecht lehrt, stützen hingegen die Annahme, dass die automatisierte Videoüberwachung ein deutlich stärkerer Grundrechtseingriff ist als die herkömmliche.

Sebastian vom Bündnis NoNPOG2 fürchtet zudem, dass mit der automatisierten Kontrolle die Hürden sinken, die Videoüberwachung weiter auszudehnen. Denn diese soll ja ungewöhnliches Verhalten detektieren, ohne dass ständig Menschen auf die Bildschirme schauen müssen. „Ich finde es wahnsinnig gruselig, wenn Algorithmen definieren, was normal ist – und Menschen dann Angst haben müssen, in irgendeiner Form von der Norm abweichend aufzufallen“, sagt Sebastian.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Ebenfalls besorgniserregend ist für Sebastian die Erlaubnis, auf Livestreams von Überwachungskameras, oder auch retrograd anhand von Bildern aus dem Internet, Gesichtserkennungstechnologie einzusetzen. Denn das sorge für präventiven Gehorsam. „Ich möchte nicht in einer Demo überlegen müssen, ob ich mein Gesicht zeige oder mir immer, wenn jemand ein Smartphone zückt, überlegen, wo das Bild landet. Das vergiftet alles, wenn solche Aufnahmen Teil von Ermittlungen sein können. Und es unterdrückt politische Äußerungen in der Öffentlichkeit“, sagt er.

Angesichts der Tatsache, dass die Polizei künftig auch Videodrohnen einsetzen soll, verschärfe sich die Bedrohungslage. „Damit ist eine massive Ausweitung des Videoüberwachten Bereichs möglich“, sagt Sebastian.

„Da wird’s mir ganz grausig“

Laura gibt zudem das Missbrauchspotenzial der Befugnisse zu bedenken. „Viele Frauen wurden bereits von Polizisten gestalkt. Die haben zum Beispiel ihre Telefonnummern aus Polizei-Akten rausgesucht.“ Und mit den neuen Machtmitteln stünden noch viel drastischere Eingriffe in die informationelle Selbstbestimmung zur Verfügung. „Da wird’s mir ganz grausig, wenn ich daran denke, was damit möglich ist“, sagt sie.

Harte Kritik kommt auch vom Landesbeauftragten für den Datenschutz Niedersachsen (LfD) Denis Lehmkemper. Eine Woche vor der Diskussion im Innenausschuss hat die ihm unterstellte Datenschutzaufsicht ihren Jahresbericht veröffentlicht. Die Stellungnahme zum Polizeigesetz, die Lehmkemper im Rahmen der Verbandsanhörung abgegeben hatte, hat er nicht veröffentlicht, doch mit dem Jahresbericht machte er nun eine Zusammenfassung seiner Kritik publik.

In seiner Stellungnahme habe er gefordert, so der LfD im Jahresbericht, die „intelligente“ Videoüberwachung besser zu rechtfertigen. Und bei der Echtzeit-Fernidentifizierung habe er einen engeren Anwendungsbereich angemahnt, „insbesondere mit Blick auf die Vielzahl der von der Maßnahme betroffenen Personen“. Zur Internet-Suche nach biometrischen Informationen habe er bekanntgegeben, dass diese womöglich mit der KI-Verordnung der EU kollidiert.

Hinweise zur technischen Umsetzung, die erklären könnten, wie diese Kollision vermieden werden soll, vermisst Lehmkemper im Entwurf. „Diese sind allerdings entscheidend, da sich die Maßnahmen auf der Grenze zwischen Hochrisiko-KI-Systemen und in der KI-Verordnung geregelten Verboten von KI-Praktiken bewegen“, schreibt der LfD. Bei der Datenanalyse nach Palantir-Art seien die Datenbestände, die für den automatisierten Abgleich herangezogen werden sollen, „zu ungenau definiert und damit zu unbestimmt und zu weitreichend.“ Die „schwerwiegende Kritik“ aus seiner Stellungnahme sei allerdings weitestgehend unberücksichtigt geblieben.

Der Datenschutzbeauftragte sieht in der Datenanalyse nach Palantir-Art einen „Paradigmenwechsel in der Polizeiarbeit“. Sie setze voraus, dass alle bisher vorgangsbezogen gespeicherten Daten der Polizei auf einer Analyseplattform zusammengeführt werden. „Damit würde die Zweckbindung aufgehoben.“ Verfassungsrechtlich höchst problematisch sei auch die Einbeziehung von Telekommunikationsdaten, damit wären auch die Inhalte von Gesprächen umfasst.

Kategorien: Externe Ticker

Ethisches Hacken: Raus aus der Grauzone

26. August 2026 - 17:18

Ethische Hacker:innen werden als "White Hats" bezeichnet – und müssen in Deutschland mit rechtlichen Folgen rechnen, wenn sie IT-Sicherheitslücken melden. – Alle Rechte vorbehalten: IMAGO / Future Image

Wer in Deutschland IT-Sicherheitslücken meldet, läuft Gefahr, Probleme zu bekommen. So musste sich etwa die Sicherheitsforscherin Lilith Wittmann mit einer Anzeige herumschlagen, nachdem sie eine gravierende Sicherheitslücke in einer App der CDU gefunden hatte. Dabei half es ihr zumindest anfangs nicht, sich vorbildlich verhalten zu haben: Ausgenutzt hatte sie den unautorisierten Zugang zu zehntausenden Datensätzen nicht, sondern stattdessen der Partei Zeit genug gegeben, die Lücke zu schließen, bevor die Öffentlichkeit davon erfuhr.

Obwohl die Sache letztlich glimpflich für Wittmann ausging, bewegen sich IT-Sicherheitsforscher:innen oft in einer rechtlichen Grauzone. Vor allem das seit dem Jahr 2007 geltende Computerstrafrecht kriminalisiert eine Reihe an Techniken und Werkzeugen, die zur Grundausstattung vieler IT-Sicherheitsexpert:innen zählen.

Eines der Probleme dabei: Wenn Lücken nicht gefahrlos und verantwortungsbewusst („Responsible Disclosure“) gemeldet und anschließend vom Hersteller geschlossen werden können, bleiben sie offen. Ein gefundenes Fressen für tatsächliche Cyberkriminelle, Geheimdienste beliebiger Länder oder sonstige Akteure, die keine guten Absichten haben.

Anläufe für Reform

Inzwischen ist in der deutschen Politik über Parteigrenzen hinweg durchgedrungen, dass dieser Ansatz mehr Probleme schafft, als er löst. Die überfällige Reform lässt jedoch weiterhin auf sich warten. Zuletzt ist die Ampelregierung nicht über einen Referentenentwurf hinausgekommen, der die umstrittenen Hacker-Paragrafen entschärft hätte. Und das Versprechen der schwarz-roten Regierung, im „Computerstrafrecht Rechtssicherheit für IT-Sicherheitsforschung“ zu schaffen, steht bislang nur als nebulöse Absichtserklärung im Raum.

In diese Lücke stößt ein aktuelles Papier der Gesellschaft für Informatik (GI). Diese hatte sich mit Industrie, Sicherheitsforschenden und digitalpolitischen NGOs zusammengesetzt und Lösungsansätze entwickelt, um eine rechtssichere IT-Sicherheitsforschung zu erlauben. Dabei sei Eile geboten, so GI-Präsident Martin Wolf. Das große Missbrauchspotenzial von KI-Systemen mache das frühzeitige Finden und Melden von Schwachstellen wichtiger denn je, sagt der in Aachen lehrende IT-Experte. „Ehrenamtliche Hacker:innen dürfen dafür nicht länger mit Strafanzeigen statt Anerkennung belohnt werden“, fordert Wolf.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Als Ausweg bietet das GI-Papier zum einen konkrete Gesetzesänderungen an. So müsse etwa die Absicht der meldenden Person ein „zentrales Kriterium“ einer gesetzlichen Anpassung sein. Schließlich stelle die gemeinwohlorientierte Meldung einer Sicherheitslücke einen „wesentlichen Unterschied zu böswilligem Hacking dar“, führt das Papier aus.

Entsprechend sollten unter anderem Hacking-Tools, die beispielsweise das Dekompilieren von Software möglich machen, legalisiert werden: „Nicht die Herstellung oder das Zugänglichmachen von ‚Hacker*innentools’ sollte kriminalisiert werden, da diese zur Aufdeckung solcher Schwachstellen verwendet werden, sondern die Verwendung für eine verbotene Handlung.“

Polen als Vorbild

Zum anderen müsse die Regierung neben dem Strafrecht weitere Gesetze anfassen, darunter das Datenschutzgesetz (TDDDG). Dieses kriminalisiere in seiner aktuellen Form das Melden einer Schwachstelle, selbst wenn diese auf eine schlechte oder fehlende Sicherung auf Herstellerseite zurückzuführen ist.

Über die Gesetzesänderungen hinaus brauche es jedoch einen ganzheitlichen Ansatz, fordert die GI. Dazu würden ein „wirkungsvolles Meldeverfahren und eine aktive Meldekultur“ zählen. Zudem sei eine stärkere gesellschaftliche Anerkennung ethischen Hackens ein wichtiger Beitrag, um insgesamt die IT-Sicherheit zu erhöhen, so das Papier.

Für einen neuen Anlauf zur Reform des Bereichs könnte sich die Regierung auch von anderen Ländern inspirieren lassen. Polen habe laut GI den in Europa liberalsten Ansatz. Dort seien etwa Personen, die ausschließlich zum Zweck der Sicherung von Systemen handeln, ausdrücklich von der Strafbarkeit ausgenommen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Zugleich sollte die Regierung den „Windschatten des Cyber Resilience Act“ nutzen, empfiehlt die GI. Die vor rund zwei Jahren verabschiedete EU-Verordnung enthält unter anderem Meldepflichten für Hersteller und Betreiber, wenn sie über Schwachstellen stolpern. Dies ließe sich ausweiten, indem darüber hinaus auch eine geregelte Meldemöglichkeit für externe und/oder ehrenamtlich agierende IT-Sicherheitsforschende eingeführt wird. Damit würde der Charakter des Cyber Resilience Acts gestärkt und die Cybersicherheit im Land gefördert werden, argumentiert die GI.

Sicherheitslage verbessert sich kaum

Insgesamt dürfte noch einiges zu holen sein, zumal sich die Lage zuletzt keineswegs verbessert hat. So stieg im ersten Quartal 2026 die Zahl gemeldeter Schwachstellen weltweit um 25 Prozent im Vergleich zum Vorjahr an. Jährlich entsteht für deutsche Unternehmen laut eigenen Angaben ein hunderte Milliarden Euro hoher Schaden, Tendenz steigend.

Diese Dynamik dürfte vorerst bestehen bleiben. Denn auf der einen Seite gelingt es KI-Modellen immer besser, bislang unbekannte Sicherheitslücken in Anwendungen zu entdecken. BSI-Präsidentin Claudia Plattner spricht gar von einer neuen „Zeitrechnung der Cybersicherheit“. Auf der anderen Seite berge sogenanntes Vibe-Coding die Gefahr, selbst Schwachstellen in Code zu erzeugen, warnt die GI. Bei Vibe-Coding richten Nutzer:innen, die mit Software-Entwicklung sonst nichts zu tun haben, in einfacher Sprache ihre Wünsche an ein KI-System. Dieses übernimmt dann den Rest – mal besser, mal schlechter.

Nun müsse die Bundesregierung zügig eine Reform unter Beteiligung aller Betroffenengruppen einleiten, fordert die GI. „Eine Legalisierung von ethischem Hacking wäre ein konsequenter Schritt, die Cybersicherheitslandschaft in Deutschland besser zu gestalten und das Potenzial zu nutzen, das Expert*innen aus der Sicherheitsforschung, Hobbytüftler*innen und gewissenhafte Nerds mitbringen.“

Kategorien: Externe Ticker

Schattendatenbank: Datenschützer mahnen Schufa ab

26. August 2026 - 16:37

Die Datenschutzorganisation noyb hat die Schufa abgemahnt, weil diese eine Schattendatenbank mit historischen und veralteten Daten über Millionen von Menschen vorhält. Die Existenz dieser Datenbank hatte eine gemeinsame Recherche von NDR und Süddeutscher Zeitung im Juli herausgefunden. Die Schufa bewertet die Kreditwürdigkeit von Menschen, zu ihren Kunden gehören unter anderem Banken, Energieversorger oder Telekommunikationsunternehmen.

Laut der Recherche von NDR und SZ handelt es sich bei den Daten um „alte Kredite und Kreditkarten, Pfändungen und Privatinsolvenzen, Schulden, die die Betroffenen oft schon vor Jahren beglichen haben“. Es seien Daten, die die Schufa schon längst gelöscht haben müsste, so der Bericht damals weiter. Die sensiblen Daten könnten großen Schaden anrichten. Wenn Menschen allerdings bei der Schufa anfragten, welche Daten diese über sie gespeichert hat, gab die Auskunftei diese historischen Informationen bei der Datenauskunft nicht an.

Daran stören sich die Datenschützer von noyb: Ein Unternehmen könne seine gesetzliche Auskunftspflicht nicht einfach auf Daten beschränken, die es selbst als für Betroffene „interessant“ befindet. Der Europäische Gerichtshof habe längst klargestellt: Die Datenkopie müsse eine vollständige, originalgetreue Reproduktion aller verarbeiteten Daten sein. Marco Blocher, Datenschutzjurist bei noyb, sagt: „Die Schufa begeht hier Rechtsbruch mit Ansage – und das wissen wohl auch die Verantwortlichen bei der Schufa.“

Schufa speichert alte Datensätze über Millionen von Menschen

Die Datenschützer:innen von noyb gehen nun gleich mit zwei Mitteln gegen die Schufa vor. Einerseits haben sie eine Abmahnung an die Schufa gesendet, die in eine mögliche Unterlassungsklage münden kann. Auf der anderen Seite kündigen sie eine mögliche Sammelklage gegen die Auskunftei an. Hierzu können sich Interessierte in eine Liste eintragen, um über den weiteren Verlauf informiert zu werden. Laut noyb sei ein immaterieller Schadensersatz von bis zu 500 Euro pro betroffener Person denkbar.

Kategorien: Externe Ticker

Postident mit AutoID: Deutsche Post trainiert ihre KI mit Ausweisfotos

26. August 2026 - 14:58

Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie nun ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders.

Die Deutsche Post greift sich personenbezogene Daten von Ausweis und Gesichtsscan. (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Unsplash / Muhammad Irfan; Bearbeitung: netzpolitik.org

Ein neuer Handytarif oder das Konto bei einer neuen Bank – für viele Dinge müssen wir uns ausweisen. Wenn wir das im Netz machen, funktioniert das anders als direkt in der Bank-Filiale oder im Handy-Shop. Weit verbreitet ist das Postident-Verfahren. Es bietet verschiedene Möglichkeiten. Klassisch können Kund:innen etwa in eine Filiale der Deutschen Post gehen und ihren Ausweis dem Personal dort vorzeigen. Oder sie nutzen die Ausweisfunktion ihres elektronischen Personalausweises.

Verhältnismäßig neu ist das Postident-Verfahren mit der Option AutoID. Auf ihrer Website verspricht die DHL Group, der Konzern hinter der Deutschen Post, eine „automatisierte und schnelle Identifizierung per App (…) mit Methoden des Maschinellen Lernens“. So hat sich etwa der Handy-Provider Congstar schon 2019 dazu entschieden, das Postident-Verfahren mit AutoID anzubieten.

Um sich mit AutoID zu identifizieren, machen Nutzer:innen über eine App auf dem Smartphone zunächst Fotos ihres Ausweises, von der Vorder- und Rückseite. Anschließend erstellen sie ein Selfie-Video. Die App gibt ihnen vor, wie sie ihren Kopf drehen müssen. Danach prüft das System automatisiert „die erfassten Daten, die Sicherheitsmerkmale und die Echtheit der Aufnahmen“, heißt es im dazugehörigen Werbe-Erklär-Video.

Zutritt nur gegen Daten

Bevor sie allerdings mit der Identifizierung beginnen, werden Nutzer:innen dazu aufgefordert, ihre Daten für das Training der dahinter liegenden KI-Sprachmodelle freizugeben. Sie können das Verfahren nur fortsetzen, wenn sie dem Training mit ihren Daten zustimmen. Das geht aus einem Screenshot hervor, den uns ein Leser geschickt hat, der sich identifizieren lassen wollte.

Demnach muss der Schieber neben der Aufforderung zur „Qualitätssicherung“ aktiviert sein, damit der „Einwilligen“-Button funktioniert. Nutzer:innen sollen zustimmen, „dass Postident aufgenommene Ausweis- und Nachweisdaten zum Zwecke der Qualitätssicherung und des Trainings von KI-Modellen speichern und verarbeiten darf“. Damit leitet das Unternehmen also Daten zu Ausweis und Gesichtsscan in den Trainigsdaten-Pool ihrer KI.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Man wolle „das Risiko eines schrittweisen Qualitätsverlustes“ ausschließen, so die DHL Group auf Anfrage. „Ohne eine fortlaufende Aktualisierung der Trainingsdaten (könnte) die Verlässlichkeit der Ergebnisse beeinträchtigt werden.“

Als die Deutsche Post AutoID einführte, war das offenbar noch anders. So hieß es in der Datenschutzerklärung bis 2023: „Zur Weiterentwicklung der im Einsatz befindlichen Software zur automatischen Entscheidungsfindung werden keine personenbeziehbaren Daten verwendet. Die Software wird ausschließlich auf Basis öffentlicher Beispieldatensätze, sowie nicht personenbeziehbarer und/oder anonymisierter Daten aus abgeschlossenen Identifikationen weiterentwickelt.“

Einer Datennutzung zu KI-Trainingszwecken zuzustimmen, werde „nur im Kontext“ mit AutoID abgefragt, versichert der Konzern. Außerdem würden die Daten „ausschließlich intern“ verwendet. Die Landesbeauftragte für Datenschutz und Informationsfreiheit des Landes Nordrhein-Westfalen habe zu diesem Verfahren im Vorfeld keine Bedenken geäußert.

Eher nicht freiwillig

Grundsätzlich dürfe die Deutsche Post Nutzer:innen nach ihrer Einwilligung fragen, die Daten fürs KI-Training freizugeben, so der Datenschutz-Experte Christian Aretz. Auch dass der Konzern auf Anfrage erklärt, die Einwilligung sei freiwillig, sei nach Aretz datenschutzrechtlich legitim. Denn, wie auch die Presseabteilung der DHL Group erklärt, könnten Kund:innen auf ein anderes Postident-Verfahren ausweichen.

Doch gehöre zur Einwilligung laut Datenschutzgrundverordnung auch, dass Nutzer:innen ihre Einwilligung widerrufen können. Die Deutsche Post müsste sicherstellen können, dass sie die entsprechenden Daten aus dem KI-Modell entfernen kann, so Aretz. Die Deutsche Post schreibt in ihrer Datenschutzerklärung zum Verfahren, die Speicherdauer betrage maximal 180 Tage und bietet eine Kontakt-E-Mail-Adresse an, um seine Einwilligung zu widerrufen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Unabhängig davon stößt die Deutsche Post mit ihrer Firmenphilosophie Nutzer:innen wie Jochen G. vor den Kopf. „Gestört hat mich hier vor allem, dass ein Service wie PostIdent mir ganz nebenbei einen Zwang auferlegt, meine Daten für das Training von KI-Modellen preiszugeben“, erzählt er uns. „Gerade die Kombination aus Ausweisdaten und Gesichtsscan finde ich schon sehr eingreifend in meine Datensphäre.“

Lieber mit eID

Zwar habe Jochen G. Verständnis für das Interesse an den gelabelten Daten. „Aber es sind auch sehr wertvolle Daten, die ich nicht einfach überlassen möchte.“ Er wäre einverstanden damit gewesen, dass die KI die Daten prozessiert. „Ich wollte allerdings nicht persistiert im Trainingsdatensatz landen. Und dass ich das nicht umgehen konnte, war für mich ein Ausschlusskriterium im Verfahren.“

Er habe sich schließlich dafür entschieden, die eID-Funktion seines Personalausweises zu nutzen. Die Technologie ist bei Fachleuten zu Datenschutz und IT-Sicherheit beliebt, weil sie besonders datensparsam ist und hohe Sicherheitsauflagen hat.

Wie viele Kund:innen indes Postident mit der Option AutoID nutzen, wollte der DHL Group nicht verraten. Man kommuniziere „aus Wettbewerbsgründen grundsätzlich keine Nutzerzahlen“. Gleichzeitig betont der Konzern, dass AutoID zunehmend Nutzer:innen findet.

Kategorien: Externe Ticker

Smart Glasses: Petition gegen „Spanner-Brillen“ sammelt mehr als 180.000 Unterschriften

26. August 2026 - 12:27

Eine Petition vom Zentrum für Digitalrechte und Demokratie gegen die Überwachungsbrillen von Meta & Co. hat in kurzer Zeit mehr als 180.000 Unterschriften gesammelt. Die an Justizministerin Stefanie Hubig (SPD) und den Chef der Bundesnetzagentur gerichtete Forderung lautet: Kamerabrillen, die heimliches Filmen ermöglichen, sollen konsequent vom Markt genommen werden.

Getarnte Kameras gehörten laut Petition nicht in den Alltag – ein winziges, leicht zu übersehendes oder abdeckbares Licht reiche nicht als Hinweis. Hierzu könnte die Bundesnetzagentur eine bereits bestehende Norm im Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) anwenden und Verbote durchsetzen. Die Regelung betrifft als Alltagsgegenstände getarnte Aufnahmegeräte. Zuletzt hatte die Bundesnetzagentur einem Verbot allerdings eine Absage erteilt: Die Voraussetzung sei nicht erfüllt.

Weiter fordert die Petition, dass die Bundesregierung für klare gesetzliche Grenzen sorgen müsse. Menschen sollten überall wirksam vor gezielten und verdeckten Aufnahmen geschützt werden, etwa in Freibädern, Schulen, medizinischen Einrichtungen und dem Arbeitsplatz.

Ich sehe was, was du nicht siehst

Zudem sollten die Hersteller solcher Brillen vor dem Verkauf nachweisen müssen, dass ihre Produkte verbindliche Anforderungen an Erkennbarkeit, Datenschutz und IT-Sicherheit erfüllen. Aufnahmen müssten eindeutig erkennbar sein. Zudem dürfe es keine automatisierte Übertragung, Veröffentlichung, Gesichtserkennung oder Profilbildung ohne Einverständnis und klare Rechtsgrundlage geben.

Im Vorfeld der Petition gab es Recherchen darüber, wie Männer mit den Brillen heimlich Frauen filmen und die Aufnahmen im Netz verbreiten. Selbst Instagram-Chef Adam Mosseri hat sich dazu geäußert und angekündigt, dass seine Plattform Videos löschen werde, in denen Brillenträger andere belästigen und heimlich filmen. Im Vereinigten Königreich haben etwa Restaurants, Pubs und Theater die Brillen bereits verboten.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Die Petition „Du bist kein Content: Spanner-Brillen verbieten!“ können Interessierte über die Plattform des Vereins Campact unterschreiben. Zu den ersten Unterzeichner:innen gehören unter anderem die Publizistin Katharina Nocun, der Rechtsanwalt und Kamerabrillen-Experte Thomas Schwenke sowie die Politökonomin Maja Göpel.

Erhebliche Gefahr für die Privatsphäre

Seit US-Konzern Google in den 2010er-Jahren Google Glasses vermarkten wollte, wenn auch ohne Erfolg, gibt es heftige Diskussionen um solche Überwachungsbrillen. Kritiker:innen warnen vor tiefgreifenden Veränderungen. In seiner Dissertation zu dem Thema stellte Schwenke schon 2016 fest:

Smart Glasses bergen aufgrund fehlender Transparenz der Informationserfassung sowie mangelnder Kontrolle anschließender Informationsverarbeitung eine erhebliche Gefahr der Beeinträchtigung der Privatsphäre und damit rechtlich verbürgter Persönlichkeitsrechte der von ihnen erfassten Personen.

Dabei gingen die Gefahren „weit über die bisher verwendeten Arten der optischen, akustischen und elektronischen Informationserfassung“ hinaus, etwa bei Videoüberwachung oder Smartphone-Kameras. Problematisch ist Schwenke zufolge nicht nur die Tiefe des technischen Eingriffs, sondern auch die absehbare Breite ihrer Anwendung, wenn immer mehr Menschen die Brillen nutzen.

Seitdem hat sich die die Eingriffstiefe der Überwachungsbrillen drastisch erhöht: Viele Menschen sind permanent online und als Künstliche Intelligenz bezeichnete Software kann beispielsweise gefilmte Objekte und Gesichter in Echtzeit erkennen. Der rechtliche Schutz vor Überwachungsbrillen hat sich allerdings kaum weiterentwickelt.

Kategorien: Externe Ticker

LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst

26. August 2026 - 10:14

Drei Jahre lang verkauft Johanna digitale Nähanleitungen auf Etsy, einem beliebten Online-Marktplatz für Kunsthandwerk und hochwertige Waren. Vor einigen Wochen fordert Etsy sie auf, ihre Daten zu bestätigen. „Ok, Etsy will sicherstellen, dass die Daten aktuell sind“, denkt sie. Als sie jedoch ein Foto von ihrem Ausweis hochladen und ein Live-Selfie von sich machen soll, bricht sie den Vorgang sofort ab, erzählt Johanna.

Johanna, die in Wirklichkeit anders heißt und anonym bleiben möchte, wird nicht nur deshalb stutzig, weil sie ihre sensiblen biometrischen Daten preisgeben soll. „Ich habe noch einen der letzten Personalausweise ohne Fingerabdruck, kaufe schon seit über zwanzig Jahren nicht mehr bei Amazon und habe noch nie ein Foto von mir irgendwo hochgeladen“, erzählt sie.

Johanna stellt bei Nachforschungen außerdem fest, dass nicht Etsy selbst, sondern eine andere ihr gänzlich unbekannte Firma diese Daten erheben und verarbeiten soll: Persona Identities, Inc, mit Sitz in San Francisco, Kalifornien. Persona ist der externe Dienstleister, den Etsy damit beauftragt hat, die Identität von Verkäufer*innen wie Johanna zu verifizieren.

Immer mehr digitale Plattformen kontrollieren die Identität oder das Alter ihrer Nutzer*innen. Oder besser gesagt: Sie lassen es kontrollieren. Eines der Unternehmen, das sich darauf spezialisiert hat und von dieser Entwicklung profitiert, ist Persona. Seine Technologien sind mittlerweile in vielen Branchen im Einsatz: Finanzdienstleistungen, Online-Marktplätze, Videospiele, Lernplattformen oder Soziale Medien. Auch an einem Verfahren für Alterskontrollen in Australien, wo seit letztem Herbst ein Social-Media-Verbot für unter 16-Jährige gilt, ist Persona beteiligt.

Der Trend zu Identitäts- und Alterskontrollen wirft grundsätzliche Fragen auf: Wenn wir unsere Gesichter – wie wir das etwa von einer biometrischen Kontrolle am Flughafen oder der Eröffnung eines neuen Bankkontos kennen – nun auch scannen lassen müssen, um selbst gemachte Kunst zu verkaufen, mit Freund*innen zu chatten oder Online-Spiele zu spielen, macht es das Internet tatsächlich sicherer? Lassen sich Deepfakes, Bots und gestohlene Identitäten mit biometrischen Kontrollen kommerzieller Anbieter bekämpfen, die biometrische Daten von Millionen von Menschen sammeln und damit zu einem begehrten Ziel für Hacker*innen und Identitätsdiebstahl werden? Und welche Auswirkungen hat die konkrete Umsetzung solcher Kontrollen – von Datenschutz bis zu politischen Fragen, wenn unsere persönlichen Informationen in den Händen von US-Unternehmen liegen?

Gesichtszüge, der Abstand zwischen den Augen, die Form des Kinns und andere biometrische Merkmale gehören zu den sensibelsten personenbezogenen Informationen überhaupt. Anders als ein Passwort oder eine PIN kann man sie nach einem Datenleck nicht einfach zurücksetzen oder neu vergeben. Gleichzeitig werden Datenlecks solcher sensibler Informationen immer mehr Teil unseres Alltags – wie zuletzt in Polen, wo Gesundheitsdaten von rund 19 Millionen Menschen kompromittiert wurden, oder nach einem Datenleck von biometrischen Informationen im Jahr 2019, bei dem eine Million Fingerabdrücke und Daten zur Gesichtserkennung offen im Netz standen.

Über 1 Milliarde Verifizierungen

Etsy, LinkedIn, Reddit, Roblox, OpenAI mit ChatGPT sowie seit neustem Anthropic mit Claude. Das sind nur einige Beispiele für Plattformen des modernen digitalen Lebens, die die Identität oder das Alter ihrer Nutzenden von Persona verifizieren lassen. Sie gehören zu den mittlerweile mehr als 4.000 Unternehmen, die solche Kontrollen über Persona abwickeln. Vergangenes Jahr hat Persona die Marke von einer Milliarde Verifizierungen überschritten.

Ihren Shop hat Johanna ins Leben gerufen, noch bevor Etsy im Jahr 2024 die biometrische Identitätskontrolle über Persona zur Bedingung für eine Shop-Eröffnung machte. Damals habe sie eine Kopie ihres Führerscheins hochgeladen. „Das barg für mich ein geringes Risiko“, erinnert sie sich. Im Frühjahr hat der US-amerikanische Online-Marktplatz sodann damit begonnen, einige bereits aktive Verkäufer*innen in der EU zur Bestätigung ihrer Daten aufzufordern. So traf es auch Johanna und ihren Shop.

Anlass sind offenbar Fake-Shops, die auf Etsy billig produzierte Massenware vertreiben und diese als handgemachte Unikate deklarieren. Laut eigenen Angaben möchte Etsy durch die Datenüberprüfungen gegen Betrug vorgehen und gesetzlichen Verpflichtungen nachkommen. Auf unsere Frage, was der konkrete Anlass für die Verifizierungen bereits bestehender Verkäufer*innen ist, hat Etsy nicht reagiert. Neben der Abfrage nach Steuer- und Kontodaten gehört auch die Prüfung der Identität durch Persona dazu.

Wer steckt hinter Persona?

Seit der Gründung im Jahr 2018 ist Persona enorm gewachsen. Gegründet haben das Unternehmen zwei frühere Mitbewohner: Rick Song, ehemals Softwareentwickler beim US-amerikanischen Zahlungsdienstleser Square im Bereich der Identitätsbetrugsbekämpfung, und Charles Yeh, ehemals Softwareentwickler bei Dropbox.

Die Firma konnte nicht zuletzt dank der Risikokapitalgesellschaft „Founders Fund“ expandieren, die unter anderem von Peter Thiel gegründet wurde. Der rechtsautoritäre Tech-Milliardär ist Mitbegründer des Überwachungs- und Datenanalyseunternehmens Palantir. Sein Founders Fund ist neben anderen Risikokapitalgesellschaften ein wichtiger Geldgeber von Persona: Mehrere Investitionsrunden in Höhe von insgesamt 350 Millionen US-Dollar führte der Founders Fund mit an. Nach der letzten Finanzierungsrunde ist der Wert von Persona auf zwei Milliarden US-Dollar geklettert.

Persona hat jegliche Verbindungen zu Palantir und der US-Regierung bestritten und beteuert, dass Thiel weder direkt in den Geschäftsbetrieb noch in Entscheidungen der Firma involviert sei. Wie viele Firmenanteile der Founders Fund an Persona hält, ist nicht öffentlich bekannt. Auf unsere Frage, wie viel strategischen Einfluss die Risikokapitalgesellschaft auf die Firma ausübt, wollte Persona nicht öffentlich antworten – ebenso wie auf viele weitere Fragen, die wir dem Unternehmen gestellt haben.

Johanna hat der Kapitalgeber aber in ihrem Entschluss bekräftigt, die Identitätskontrolle mit Persona nicht durchzuführen: „Ich werde meine persönlichsten Daten wie Gesichtsbiometrie und Ausweisdokumente nicht über Etsy an eine Firma geben, mit der Peter Thiel zu tun hat“, erklärt sie. Da Etsy nicht zulässt, den Shop ohne die geforderte Identitätskontrolle weiterzubetreiben, hat sie sich entschieden, Etsy zuvorzukommen und ihren Shop zu schließen. „So viel kann ich bei Etsy gar nicht verdienen, dass es mir das wert ist.“ Für sie war der Shop „eine schöne Möglichkeit, ein passives Einkommen zu generieren“. Pläne, ihre digitalen Nähanleitungen woanders zu vertreiben, habe sie nicht.

„Ich musste von meinem Ersparten leben“

Janine hingegen hat ihren Etsy-Shop zum Beruf gemacht. Sie ist nicht nur Verkäuferin in Vollzeit und lebt seit mehr als einem Jahrzehnt von den Einnahmen, die sie aus dem Verkauf von Kurzwaren für Bastelarbeiten erzielt. Sie ist auch Starverkäuferin: Ihr Shop trägt ein besonderes Abzeichen, da sie sich durch kontinuierlich gute Bewertungen hervorgetan hat. Der kleine lila Stern neben ihrem Shop-Namen soll den Käufer*innen auf den ersten Blick Zuverlässigkeit und Vertrauen signalisieren.

Als Etsy Janine zur Verifizierung ihrer Daten auffordert, kann sie das nachvollziehen. „In einem geschäftlichen Verhältnis möchte man wissen, wer gegenüber sitzt und ob das auch wirklich die Person ist.“ Fake-Shops, die den besonderen Charakter von Etsy schädigen, machten ihr selbst zu schaffen und haben negative Auswirkungen auf die Kund*innen, erklärt sie.

Janine macht sich also für die Verifizierung bereit. Foto vom Ausweis hochladen, ein Echtzeit-Selfie aufnehmen, fertig – Personas Identitätskontrolle soll in wenigen Klicks erledigt sein. Die Gesichtserkennungssoftware extrahiert die Gesichtsmerkmale aus dem Ausweisfoto und dem Selfie und vergleicht diese Gesichtsgeometrie miteinander. So will Persona sicher stellen, dass das Gesicht zu der Person auf dem Ausweis gehört.

Allerdings scheitert Janine bereits am ersten Schritt. Jedes Mal, wenn sie ein Foto von ihrem deutschen Ausweis oder Reisepass hochlädt, erklärt Persona ihre Dokumente für nicht gültig. Nach „unzähligen verzweifelten“ Versuchen wendet sie sich an den Kundensupport von Etsy. Doch dann findet sie sich in einer „KI-Loop der Hölle“ wieder, erzählt Janine. Mehrere Wochen lang versucht sie vergeblich, zu einem echten Menschen im Support durchzukommen. Auch die Legal Abteilung von Etsy kontaktiert sie – wieder ohne Erfolg.

Schließlich tritt die von Etsy angekündigte Frist ein: „Etsy hat meinen Shop dann einfach in den Ferienmodus geschickt“, erzählt Janine. „Meine ganzen Produkte waren unsichtbar. Es war praktisch nur noch eine Art digitale Visitenkarte von mir da“. Zwei Monate lang befindet sich Janines Shop im Ferienmodus, zwangspausiert. Für sie bedeutet das einen kompletten zweimonatigen Verdienstausfall. „Ich musste von meinem Ersparten leben und auch meine Krankenkasse davon bezahlen“, erzählt sie weiter.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden

Erst nachdem ein Anwalt Etsy in Janines Namen kontaktiert, reagiert der US-amerikanische Konzern. Sie solle die Identitätsverifizierung noch mal machen, lautet die Antwort. Diesmal funktioniert es. Was zuvor schiefgelaufen war, weiß sie nicht. 30 Tage mehr und Etsy hätte ihren Shop geschlossen.

Weder eine Entschädigung noch eine Entschuldigung hat Janine bis heute erhalten. Janine heißt in Wirklichkeit anders. Aus Angst, dass Etsy ihren Shop wegen dieses Artikels sperren könnte, will sie anonym bleiben.

„Ich wollte das blaue Häkchen auf LinkedIn“

Die Identitätsverifikation wird so zur Arbeitsvoraussetzung auf Etsy: Bis Anfang 2027 wird der Konzern die Verifizierungswelle in der EU fortsetzen.

Nicht immer geht es bei Identitätskontrollen um so etwas Essenzielles wie den Lebensunterhalt und wirtschaftliche Teilhabe. Und sie ist nicht immer verpflichtend. Auf dem Berufsnetzwerk LinkedIn etwa soll das blaue Häckchen nach der Verifizierung signalisieren, dass hinter dem Profil wirklich die Person ist, für die man sich ausgibt – und nicht etwa ein Fake-Profil oder ein*e falsche*r Personalvermittler*in.

LinkedIn betont, die Verifizierung durch Persona sei vollständig freiwillig, die Datenverarbeitung beruht also auf der Einwilligung der Nutzenden. Gleichzeitig wirbt die Tochterfirma von Microsoft damit, dass verifizierte Mitglieder im Durchschnitt 60 Prozent mehr Profilaufrufe erhalten und das Engagement um 50 Prozent steigern. Diese Anreize zeigen offenbar Wirkung: Seitdem LinkedIn die Verifizierung im Jahr 2024 eingeführt hat, haben sich nach Angaben von LinkedIn weltweit mehr als 100 Millionen Nutzende verifiziert.

Unter ihnen ist auch der Zürcher Mastodon-Nutzer, der sich „rogi“ nennt und in einem Blog namens „The Local Stack“ über „Überwachungskapitalismus“ schreibt. „Ich wollte das blaue Häkchen auf LinkedIn“, schreibt rogi. „Dann tat ich, was wahrscheinlich sonst kaum jemand tut: Ich habe mir die Datenschutzerklärung und die Nutzungsbedingungen durchgelesen“, erklärt er. Und zwar die von Persona, nicht die von LinkedIn. Sein Beitrag ist viral gegangen und hat eine breite Debatte darüber ausgelöst, was mit den persönlichen Informationen von LinkedIn-Nutzenden tatsächlich passiert.

Was passiert, wenn man auf „Verifizieren“ klickt?

Persona erfasst laut den Datenschutzbestimmungen für die LinkedIn-Verifizierung den vollständigen Namen, den Personalausweis samt Foto, ein Echtzeit-Selfie, die daraus extrahierte biometrische Gesichtsgeometrie, Ausweisnummer, Geschlecht, Nationalität, Geburtsdatum, Alter, E‑Mailadresse, Telefonnummer, Postanschrift, IP-Adresse, Gerätetyp, MAC-Adresse, Browser, Betriebssystemversion, Sprache sowie Standortdaten, die aus der IP-Adresse abgeleitet werden.

Außerdem verfolgt Persona, wie die Nutzenden die Verifizierung durchlaufen – etwa wie lange sie dafür brauchen und ob sie Informationen per Copy-and-Paste einfügen. Neben der physiologischen Biometrie des Gesichts erfasst Persona also auch sogenannte verhaltensbiometrische Daten.

Zusätzlich behält sich Persona vor, Daten über Nutzende aus einem „globalen Netzwerk vertrauenswürdiger Datenquellen von Drittanbietern“ zu beziehen und abzugleichen: behördliche Datenbanken, nationale Ausweisregister, Kreditauskunfteien, Versorgungsunternehmen, Mobilfunkanbieter und Postadressdatenbanken. „Ich habe meinen Reisepass gescannt, um ein Häkchen zu erhalten, und Persona hat einen Hintergrundcheck durchgeführt“, kommentiert rogi in seinem Beitrag dazu.

„Geht weit über eine einfache Identitätsprüfung hinaus“

Der CEO von Persona Rick Song hat auf die Vorwürfe in der Recherche reagiert und unter anderem erklärt, dass Ausweise europäischer Nutzer*innen nicht für KI-Training verwendet würden. Die entsprechende Passage, dass „berechtigte Interessen“ Persona dazu legitimieren, Ausweis-Bilder zur Verbesserung der Dienste zu nutzen, hat Persona aus der Datenschutzrichtlinie entfernt. Sie findet sich auf einer archivierten Version der Seite. Außerdem würden laut Song biometrische Daten sofort nach der Verarbeitung gelöscht und andere personenbezogene Daten maximal 30 Tage gespeichert.

Michael Mrak vom Verein österreichischer betrieblicher und behördlicher Datenschutzbeauftragter kommt zu der Einschätzung, dass das Ausmaß der Datensammlung und ‑Verarbeitung „weit über das hinausgeht, was für eine einfache Identitätsprüfung erforderlich wäre“. Außerdem sagt er: „Ein Häkchen auf LinkedIn wiegt grundrechtlich nicht schwer genug, um diesen Umfang an Datenverarbeitung zu rechtfertigen“.

Nach der Verifizierung erhält LinkedIn wiederum nach Einwilligung der Nutzer*innen einige der Daten von Persona. Dazu gehören der vollständige Name, die Art des amtlichen Ausweises und die ausstellende Behörde sowie gegebenenfalls die Telefonnummer. Biometrische Daten sowie Fotos aus dem Ausweis gehören laut LinkedIn nicht dazu. Wie lange das Karriere-Netzwerk die Daten speichert, dazu wollte sich der Sprecher auf unsere Anfrage nicht äußern.

Etsy hingegen informiert darüber, dass biometrische Daten von Verkäufer*innen bis zu einem Jahr lang gespeichert werden – von Persona. Auch Etsy selbst geht nicht leer aus. Das Selfie und das Ausweisbild bewahrt Etsy 6 Jahre lang nach Schließung des Shops auf.

269 Hintergrundchecks und 3 Jahre Speicherfrist

Im Februar hatte Song alle Hände voll damit zu tun, auf harsche Kritik zu reagieren. Denn parallel zur Kontroverse um LinkedIn entfaltete sich eine weitere um Personas Alterskontrollen auf Discord in Großbritannien. Sicherheitsforscher*innen entdeckten ein Frontend von Persona im Netz, das Persona später als Testumgebung bezeichnete.

Der Fund offenbarte, dass Persona bis zu 269 verschiedene Prüfungen durchführen kann: darunter das Gesicht mit Fotos im Internet sowie in behördlichen Datenbanken, Fahndungslisten und Listen politisch exponierter Personen abgleichen, auf negative Medienberichte scannen sowie jeder Person einen Risikowert zuweisen.

Persona hat daraufhin klargestellt, dass keine Partnerplattform alle 269 Hintergrundchecks durchführt. Sie stellten lediglich eine Auswahl an möglichen Überprüfungen dar und würden nicht auf jede einzelne Person angewendet. Monate später ließ Persona den eigenen Quellcode von der unabhängigen IT-Security-Firma Trails of Bits prüfen. Dort heißt es: „Die 269 Check sind ein konfigurierbares Menü und nicht universell angewandt.“ Welche Abgleiche des Gesichts und persönlicher Informationen mit welchen Datenbanken wann greifen, legt Persona nicht offen.

Discord hat die Zusammenarbeit mit Persona nach der einmonatigen Testphase im Frühjahr beendet. Man habe als neuen Maßstab gesetzt, dass „Altersschätzung anhand des Gesichts […] vollständig auf dem Gerät selbst durchgeführt werden muss“. Persona erfülle diese Anforderungen nicht. Reddit und Roblox nutzen Personas Alterskontrollen weiterhin. Die persönlichen Informationen, die Persona möglicherweise bei einer Alterskontrolle sammelt und auswertet, ähneln denen, die bei einer Identitätskontrolle von LinkedIn-Nutzer*innen erfasst werden.

„Die Angaben von Persona sind sehr vage“, sagt Felix Mikolasch gegenüber netzpolitik.org. Er ist Datenschutzjurist bei der Wiener Datenschutzorganisation Noyb. Es sei unklar, welche Daten wann konkret verarbeitet werden. Die vollständige Liste aller möglichen Daten wirke äußerst umfangreich. „Eine so umfangreiche Datenverarbeitung dürfte kaum oder nur sehr, sehr selten verhältnismäßig sein, um Alter oder Identität zu bestätigen“, sagt Mikolasch weiter.

Biometrische Daten von 75 Millionen Kindern und Jugendlichen

So verlangt die beliebte Videospiel-Plattform Roblox seit Anfang des Jahres eine Alterskontrolle, um chatten zu können. Roblox nutzt die Alterskontrolle von Persona außerdem, um Spielende in Altersgruppen einzusortieren und ihnen altersbasierte Konten zuzuweisen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Entweder schätzt Persona das Alter anhand des Gesichts oder liest es aus dem Ausweis aus, wobei auch bei dieser Ausweisverifizierung ein Selfie her muss. Wer die Alterskontrolle nicht macht, kann bei Roblox nur auf ein eingeschränktes Spielangebot zugreifen. Auf diese Weise werden Millionen von Spieler*innen faktisch in den Biometrieprozess gedrängt.

Nach Angaben der Gaming-Plattform gegenüber netzpolitik.org haben bereits 57 Prozent der weltweit täglichen Nutzenden die Altersverifikation abgeschlossen. Bei 132 Millionen aktiven Nutzenden täglich bedeutet es, dass sensible biometrische Daten von rund 75 Millionen Spieler*innen an Personas Infrastruktur übertragen wurden ― die meisten davon dürften Kinder und Jugendliche sein.

Gefragt nach konkreten Speicherfristen, schweigt sich der Spieleanbieter aus: „Unser Anbieter Persona löscht Bilder und Videos, sobald sie sicher verarbeitet wurden“, sagte eine Sprecherin auf Anfrage von netzpolitik.org. Biometrische Daten insbesondere von Minderjährigen unterliegen einem besonderen Schutz. Versteckt im Kleingedruckten auf der Hilfeseite zur Ausweisverifizierung sowie in der Datenschutzrichtlinie von Roblox findet sich der Hinweis, dass Persona biometrische Daten bis zu 30 Tage lang speichere. Andere Plattformen benennen wiederum andere Fristen. Für Reddit etwa spricht Persona von einer automatischen Löschung nach drei Tagen.

Persona wirbt mit deutscher Jugendschutz-Zertifizierung

In Deutschland hat die Kommission für Jugendmedienschutz (KJM) Personas Konzept für das „Tool zur Alterseinschätzung mittels künstlicher Intelligenz“ 2024 als geeignet bewertet. Persona präsentiert das Logo der Behörde auf der eigenen Webseite.

In ihrer Bewertung beschreibt die KJM Personas Technologie als ein neuronales Netzwerk, das mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Maßgeblich für die Positivbewertung ist, ob die Technologie eine „geschlossene Benutzergruppe für Erwachsene“ sicherstellen kann. In anderen Worten, ob sie Kinder ausschließen und gefährdende Inhalte nur Erwachsenen zugänglich machen kann.

Im Antrag habe Persona damals angegeben, die Datenrechte der betroffenen Personen zu beachten, sagte eine KJM-Sprecherin auf Anfrage von netzpolitik.org. Bei Personas Alters- und Identitätsverifikation ist „weder ein Vorhalten von Daten noch ein Datenbankabgleich erforderlich“ und „findet ausweislich des zur Bewertung vorgelegten Antrags auch nicht statt“, so die Sprecherin weiter. Die für die Altersschätzung erforderlichen Daten würden nach Abschluss des Vorgangs gelöscht, hieß es damals außerdem im Antrag.

Im Widerspruch zum europäischem Datenschutz

Joris Leander Kanowski und Michael Kolain vom Zentrum für Digitalrechte kritisieren, dass entgegen dem Prinzip „Privacy by Design“ Nutzende nicht kontrollieren können, wer in welchem Umfang auf ihre Daten zugreifen kann. Denn Persona legt die Daten an eine Reihe weiterer Tech-Unternehmen offen, die sie ebenfalls verarbeiten ― wiederum im Auftrag von Persona. Insgesamt zählt Persona 17 solcher Subunternehmen, darunter die KI-Unternehmen Anthropic, OpenAI und Groqcloud. An welche dieser Unternehmen Daten von Nutzer*innen geschickt werden, ist aus der veröffentlichten Liste nicht ersichtlich. Unter den Aufgaben, die die Subunternehmen ausführen, finden sich etwa Kreditkarten-Verarbeitung, Bildverarbeitung oder Datenbankdienste. Mit einer Ausnahme aus Kanada haben alle diese Subunternehmen ihren Hauptsitz in den USA.

Es bleibe unklar, auf welchen Rechenzentren und in welchen algorithmischen Systemen die Daten der Nutzer*innen zirkulieren, so Kanowski und Kolain weiter. „Das hat mit informationeller Selbstbestimmung nichts mehr zu tun“.

Laut Datenschutzjurist Felix Mikolasch steige dadurch außerdem das Risiko, dass die Daten für andere Zwecke als nur die Verifizierung von Alter oder Identität weiterverwendet werden. „Ob das geschieht, ist für Nutzende und für uns, zumindest derzeit, kaum nachvollziehbar“. Hinzu komme das Risiko, dass ein Unternehmen die Daten unabsichtlich öffentlich macht oder US-Behörden darauf zugreifen.

Sind biometrische Daten in den USA überhaupt sicher?

Damit spricht Mikolasch den Konflikt zwischen europäischem Datenschutz und der US-amerikanischen Gesetzgebung, dem sogenannten CLOUD Act, an. Im Kern geht es darum, dass US-Sicherheitsbehörden wie FBI, NSA, CIA und Co. sich Zugriff auf sensible Daten europäischer Bürger*innen verschaffen können. Auf Verlangen der Behörden müssen US-Unternehmen die Daten europäischer Nutzer*innen herausgeben, selbst wenn sie diese in Rechenzentren innerhalb der EU speichern.

Laut Mikolasch sind persönliche Informationen europäischer Nutzer*innen in den USA nicht sicher. Denn für die Übermittlung personenbezogener Daten in das Land sei „derzeit kein angemessenes Schutzniveau vorhanden“, sagte der Jurist gegenüber netzpolitik.org. Das Data Privacy Framework, das Abkommen zwischen der EU und den USA, das den Datentransfer regelt und auf das sich Persona bezieht, bietet laut dem Juristen „keinen wirklichen Schutz“.

Das Problem ist laut Noyb umso akuter, als dass die US-amerikanische Aufsichtsbehörde FTC, die die Einhaltung der Datenschutzpflichten durch Unternehmen überwachen und durchsetzen soll, nun direkt Trump untersteht. Das hat der Oberste Gerichtshof der USA Ende Juni entschieden. Die Unabhängigkeit dieser Behörde ist aber eine wichtige Voraussetzung für den transatlantischen Datendeal. Damit ist das rechtliche Konstrukt, das den Schutz biometrischen Daten europäischer Nutzer*innen garantieren soll, noch mehr in Frage gestellt, als es ohnehin schon war.

Nicht-biometrische Alternativen und öffentlicher Druck sind notwendig

Persona unterhält seit letztem Jahr neben einem Sitz in London auch einen Sitz in Dublin. Auch wenn die irische Datenschutzbehörde für ihre Zurückhaltung gegenüber Big Tech bekannt ist: zumindest rechtlich ist damit ein Zugriff auf das Unternehmen und seinen Umgang mit persönlichen Informationen europäischer Nutzer*innen möglich. Damit die Behörde aktiv wird, braucht es öffentlichen Druck.

Es gehört nicht nur zu Personas Geschäftsmodell, sensible biometrische Daten von Nutzer*innen zu verarbeiten. Anbieter von biometrischen Kontrollen wie Persona sowie Plattformen, die solche Kontrollen einführen, leisten auch der Normalisierung derartiger Verfizierungsmethoden im Internet insgesamt Vorschub.

Solange es keine verbindlichen Regelungen für Identitäts- und Alterskontrollen gibt, werden Unternehmen wie Persona den nachvollziehbaren Wunsch nach vertrauensvoller Kommunikation und verlässlichem Online-Handel mit Slogans wie „Das Internet menschlich halten“ nutzen, um biometrische Kontrollen als Versprechen gegen KI-Fakes, Bots und Betrug zu verkaufen.

Solange Nutzer*innen zu biometrischen Kontrollen faktisch gezwungen werden, bleibt ihnen die Wahl, entweder ihre Biometrie gegenüber US-Unternehmen preiszugeben oder – wie Johanna – die Plattformen zu verlassen oder nur eingeschränkt zu nutzen. Letztlich mit der Konsequenz, dass sie von essenziellen digitalen Diensten ausgeschlossen sind. Menschen, die auf die Dienste nicht verzichten wollen oder können – wie Janine – müssen ihre sensibelsten persönlichen Informationen gegenüber kommerziellen Unternehmen offenlegen. Sie müssen dann mit der Angst leben, dass ihre sensibelsten persönlichen Informationen in einem Datenleck offengelegt werden können.

Um Menschen nicht vor diese Wahl zu stellen, müssen Plattformen nicht-biometrische Alternativen anbieten und auf diese mindestens genauso prominent hinweisen wie auf biometrische Kontrollen.

Kategorien: Externe Ticker

Brasilianische Präsidentschaftswahl: Facebook lässt Wahlwerbung mit Desinformation zu

25. August 2026 - 18:33

Ein Experiment der Menschenrechtsorganisation Amnesty International hat aufgedeckt, dass Facebook in Brasilien es nicht schafft, wahlbezogene Desinformation zu stoppen. Die Plattform des Konzerns Meta hätte mehr als die Hälfte der zum Test eingereichten irreführenden Werbeanzeigen von Amnesty ausgespielt. Knapp fünf Wochen vor der brasilianischen Präsidentschaftswahl am 4. Oktober zeigt sich damit, wie leicht sich Facebook für Desinformationskampagnen missbrauchen lässt.

Was ein Weckruf für jede Plattform sein sollte, die in einem Land fast die Hälfte der Einwohner erreicht, wird vermutlich alles andere als Gehör finden. Meta wehrt sich zusammen mit anderen Tech-Unternehmen in Brasilien bereits seit Jahren gegen staatliche Regulierung.

Metas Standards auf dem Prüfstand

Im Vorfeld der Wahl sollte das Experiment von Amnesty International testen, wie gut das Unternehmen gegen Desinformation gewappnet ist. Das Team erstellte verschiedene portugiesischsprachige Fake-Werbeanzeigen, um zu testen, wie Facebook mit ihnen umgeht. Einige behaupteten, im Land würde es Wahlbetrug geben. Andere warben für eine militärische Machtübernahme. Eine Anzeige lautete zum Beispiel: „Wir brauchen eine militärische Revolution. Geht nicht zur Wahl – und das Militär wird die Macht zurückerobern, wenn weniger als 50 Prozent der Wähler an der Wahl teilnehmen!“

All das sollte bei Facebook eigentlich Alarmglocken auslösen. In den Richtlinien von Meta heißt es, unter anderem würden Inhalte entfernt, „die wahrscheinlich direkt zur Beeinträchtigung des Funktionierens politischer Prozesse beitragen“.

So etwas erkennen soll Metas Moderationssystem mit Künstlicher Intelligenz (KI). Sie soll Inhalte in Anzeigen identifizieren, die möglicherweise gegen die Richtlinien des Unternehmens verstoßen. Die Inhalte werden laut Facebook anschließend entweder automatisch oder von menschlichen Prüfern bewertet. Wird ein Verstoß bestätigt, werden Anzeigen gemäß den Community-Standards von Meta entfernt, eingeschränkt oder abgelehnt.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden „Meta unternimmt nicht genug“

Dennoch akzeptierte Facebook sieben der 15 Anzeigen, auch die zuvor zitierte. Selbst die restlichen Testobjekte wurden nicht aufgrund ihres irreführenden Inhalts ausgeschlossen, sondern nur gekennzeichnet, da es sich um Wahlwerbung handelte. Amnesty International stellte sicher, dass keine der Wahlanzeigen tatsächlich veröffentlicht wurde.

Besorgniserregend ist außerdem, dass die Plattform die Anzeigen zuließ, obwohl sie nicht aus Brasilien geschaltet wurden. Da Amnesty International sie erfolgreich aus London hätte ausspielen lassen können, steht offenbar auch ausländischen Akteuren wenig im Weg, wenn sie Einfluss auf die Wahl nehmen wollen.

Jurema Werneck, Leiterin der brasilianischen Sektion von Amnesty International, sagt: „Das zeigt, dass Meta nicht genug unternimmt, um zu verhindern, dass seine Plattform als Verbreitungskanal für Desinformation dient, während das Unternehmen weiterhin von den Inhalten und Werbesystemen profitiert, die deren Verbreitung ermöglichen.“ Im ersten Quartal von 2026 generierte der Konzern 98 Prozent seines Umsatzes allein aus Werbung. Dabei nimmt der Konzern etwa auch in Kauf, dass massive Anteile seines Umsatzes aus Scam-Werbeanzeigen stammt; im Jahr 2024 waren das zehn Prozent.

Umstrittene Regulierung

Die Bekämpfung von Manipulation und schädlichen Inhalten im Internet ist in Brasilien bis heute eine politische Priorität. Bereits die Wahlen im Jahr 2022 waren von massiven Desinformationskampagnen geprägt. Im darauffolgenden Jahr gab es eine Welle von Angriffen auf Schulen, die über soziale Medien organisiert wurden.

Schon seit 2020 versuchte die brasilianische Regierung die Fake News Bill (Projeto de Lei 2630/2020) gegen Desinformation einzubringen. Das Gesetz stand von Anfang an auch durch Menschenrechtsorganisationen in der Kritik, weil es Identifikations- und Klarnamenpflichten enthielt, sowie Gefahren für die Meinungsfreiheit brachte. Internetaktivist:innen nannten es „das schlechteste Internetgesetz der Welt“. Auch die starke Lobby der Big-Tech-Unternehmen in Brasilien wehrte sich gegen diese Regulierung. Das Gesetz wurde im Jahr 2024 auf Eis gelegt.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Mit Gerichten gegen Desinformation

Nach dem gescheiterten Gesetz waren es vor allem Gerichte wie der Oberste Wahlgerichtshof, der den Tech-Konzernen Regeln im Bezug auf Wahlen und Desinformation auferlegte. So führte er während der Präsidentschaftswahlen 2022 strengere Maßnahmen ein, die Online-Plattformen dazu verpflichten, falsche oder wissentlich aus dem Zusammenhang gerissene Informationen über den Wahlprozess umgehend zu entfernen. Bei Nichteinhaltung drohen den Plattformen Geldstrafen und eine mögliche Sperrung.

Auch den Einsatz von KI schränkte das Gericht im Vorfeld der Kommunalwahlen 2024 ein, um Desinformation und die Manipulation der Wahlen zu verhindern. Außerdem ordnete der Oberste Gerichtshof Brasiliens zudem die Sperrung von X an, nachdem das Unternehmen es versäumt hatte, gerichtlichen Anordnungen nachzukommen, darunter Anordnungen im Zusammenhang mit Konten, denen die Verbreitung von Desinformation vorgeworfen wurde.

Im März 2026 legte ein neuer Beschluss des Wahlgerichtshofes fest, welche Inhalte Plattformen konkret entfernen müssen, darunter falsche oder aus dem Zusammenhang gerissene Inhalte über das elektronische Wahlsystem, das Wahlgericht und andere Wahlprozesse. Gleichzeitig wurde der Einsatz generativer KI zum Bewerten, Empfehlen, Vorschlagen oder Priorisieren von Kandidierenden, Wahlkampagnen und politischen Parteien untersagt.

Meta soll Menschenrechte schützen

Angesichts der Ergebnisse ihres Experiments ruft Amnesty International Meta dazu auf, ihr Moderationssystem umgehend zu verbessern. Dieses dürfe nicht zulassen, dass falsche Inhalte verbreitet werden, die das Recht des Einzelnen auf Information und Teilhabe am öffentlichen Leben beeinträchtigen könnten. Selbst abgesehen von staatlichen Vorschriften – denen Meta sich ersichtlich entziehen will – sei das nämlich Teil der international geltenden Menschenrechte.

Kategorien: Externe Ticker

Kritik an Deutschland-App: Menschenzentrierte Verwaltung statt vorgeschaltetem Chatbot

25. August 2026 - 16:21

Bürger:innen sollen einen zentralen Zugang zur Verwaltung bekommen, und zwar mir der Deutschland-App. Digitalminister Karsten Wildberger setzt dabei auf generative KI. Der Koalitionspartner kritisiert, dass der Chatbot die Probleme der Verwaltungsdigitalisierung nicht löst, so ein internes Positionspapier der SPD, das wir veröffentlichen.

So hat sich die SPD das Bürgerkonto nicht vorgestellt: eine Deutschland-App, in der Bürger:innen ihr Anliegen einem KI-Chatbot anvertrauen. In einem internen Positionspapier, das wir veröffentlichen, kritisiert die SPD die Pläne zur Deutschland-App von Digitalminister Karsten Wildberger (CDU): „Eine Deutschland-App greift zu kurz, wenn sie Bürgerinnen und Bürger lediglich mithilfe eines KI-Bots durch bestehende Verwaltungsleistungen führt.“

Dabei bezieht sich die SPD auf eine Vereinbarung aus dem Koalitionsvertrag. Demnach soll die Verwaltung „voll digitalisiert“ werden und ein „digitales Bürgerkonto soll den Zugang zu Behördendienstleistungen erleichtern“. Um das zu erreichen, sollen Bund, Länder und Kommunen zusammenarbeiten.

Das eigentliche langfristige Ziel lautet: Bürger:innen sollen „Unterlagen und Willenserklärungen grundsätzlich ohne persönliches Erscheinen“ im Amt abgeben können.

Komplexität lösen oder kaschieren?

SPD und CDU sind sich darin einig, dass Bürger:innen einen zentralen Zugang zur Verwaltung bekommen sollen. Doch gehen die Meinungen darüber auseinander, wie der genau aussehen soll. Während Wildbergers Deutschland-App die Beziehung zwischen Bürger:in und Verwaltung mithilfe eines KI-Layers vereinfachen will, denkt die SPD umfassender. Nicht nur der Zugang von Bürger:innen sei wichtig, sondern auch das gesamte digitale Ökosystem dahinter.

Der Staat müsse „digital als Einheit“ funktionieren. Bund und Länder sollen also nicht mehr unabhängig voneinander IT-Lösungen für die Verwaltung umsetzen, die wie Inseln für sich stehen. Vielmehr sollen „Behörden und Fachverfahren besser miteinander vernetzt arbeiten“, heißt es im Positionspapier.

Der Bund soll die Kompetenz bekommen, „einheitliche IT-Standards und eine übergreifende Infrastruktur für alle Verwaltungsebenen festzulegen“. Dafür will die SPD sogar den Artikel 91c Grundgesetz ändern, der eine Mischverwaltung ausschließt. Demnach arbeiten die Verwaltungen von Bund und Ländern grundsätzlich eigenständig und die Verwaltungszuständigkeiten sind voneinander getrennt.

Kameras prüfen, ob du artig bist.

Da werden wir unbequem. Mit deiner Unterstützung.

Jetzt spenden Chatbot der Verwaltung vorgeschaltet

Woran Verwaltungsdigitalisierung bisher scheitert, will Wildberger in der Deutschland-App mit einem KI-Layer überbrücken. Gegen die Komplexität von Mischverwaltung und das Gerangel um Zuständigkeiten setzt die App auf generative KI in Form eines Chatbots. Die App ignoriere – zunächst zumindest – die wilde Bestandslandschaft der Verwaltungs-IT, räumt Staatssekretär Markus Richter im Interview mit heise (€) ein.

Wenn der Chatbot funktioniert, würden Bürger:innen davon auch nichts sehen. Sie würden Termine vereinbaren und Anträge stellen, ohne umständlich nach den zuständigen Verwaltungsmitarbeiter:innen suchen zu müssen. Sie würden nicht mehr über die Websites von Bund, Land oder Kommune nach den Informationen zu ihrer Anfrage suchen. Denn das soll die KI für sie übernehmen, so Richter. Dabei können sie für den Chatbot sogar einen Avatar wählen, etwa eine Frau, die aussieht wie eine Sachbearbeiterin.

Ein Assistenzsystem soll Bürger:innen dabei unterstützen, direkt in der App ein Formular auszufüllen und einen Antrag zu stellen. Im Hintergrund der App würden Crawler und KI-Sprachmodelle dafür sorgen, dass sie die Formulare ausfüllen, die zu ihrer Anfrage passen, erklärt Richter. Bürger:innen könnten anschließend ihre Daten über die App an die Behörde übermitteln. Damit die Daten „unmittelbar und fehlerfrei“ dort ankommen, wo sie hin sollen, verwende man eine entsprechende Schnittstelle.

Menschen im Fokus

Der gesamte Verwaltungsprozess könnte theoretisch ohne einen einzigen direkten Kontakt zu Verwaltungsmitarbeiter:innen verlaufen. Mit einem KI-Bot setze die App laut SPD jedoch einen falschen Fokus. Der Staat müsse mehr auf die Perspektive der Bürger:innen eingehen, fordert die SPD. Das digitale Konto solle sich „am Alltag der Menschen“ orientieren und sich „nicht nach Behörden“ ausrichten.

Leistungen sollten „nach den Lebenssituationen der Menschen“ gebündelt organisiert sein: Umzug, die Geburt des Kindes oder Anmelden eines Fahrzeugs. Zu einem solchen menschenzentrierten Ansatz gehöre auch, dass die Verwaltung Bürger:innen darauf hinweist, wenn sie Ansprüche auf Verwaltungsleistungen wie Elterngeld haben. Das könne auch automatisch erfolgen, wie das Beispiel Kindergeld zeigt.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren

Praktisch soll das Online-Angebot außerdem nicht nur über eine App, sondern auch als Webanwendung verfügbar sein. Daneben sollen Bürger:innen über ein Dashboard jederzeit einen Überblick haben – über digitale Nachweise, Nachrichten im Behördenpostfach, offene Anträge, Termine und Fristen, die sie einhalten müssen.

Haftungsfrage an die Bürger:innen abgeschoben?

Auch abseits vom Frontend solle der Staat Bürger:innen in allen Schritten „serviceorientiert“ unterstützen, so die SPD. Bürger:innen sind demnach nicht allein dafür verantwortlich, dass ihre Anträge erfolgreich sind. Wer bei Fehlern haftet, muss im Einzelfall geklärt werden. Mit der Deutschland-App jedoch schieben die Koalitionspartner die Verantwortung für Fehler ganz den Antragstellenden zu. So lässt sich die Antwort des Staatssekretärs Richter verstehen.

Der erklärt, die Daten des Antrags würden in der App komprimiert dargestellt werden. Bevor Bürger:innen den Antrag abschicken, hätten sie die Möglichkeit zu überprüfen, ob die Daten korrekt seien.

Bei Fehlern im Antrag würden also die haften, die ihn gestellt haben. Was passiert jedoch, wenn die KI die Daten falsch verarbeitet oder wenn Bürger:innen nicht erkennen, dass die KI ihnen ein falsches Formular anzeigt oder nicht die erforderlichen Daten abfragt? Diese Fragen lässt Richter offen.

Die Deutschland-App sollen SAP und die Deutsche Telekom umsetzen. Die Software dafür soll in einer KI-Cloud laufen. Sie gehört zum Großprojekt IT-Infrastruktur für die öffentliche Verwaltung, für das das BMDS gut 250 Millionen Euro veranschlagt hat.

Kategorien: Externe Ticker

Erzwungene "Grenzpartnerschaft": Abkommen zum US-Datenzugriff auf der Zielgeraden

24. August 2026 - 15:31

Fast alle EU-Staaten werden von der Regierung in Washington gezwungen, ein weitgehendes Abkommen zur Öffnung ihrer Polizeidatenbanken abzuschließen. Zum Jahreswechsel hat die EU-Kommission ein Mandat für Verhandlungen über ein transatlantisches Rahmenabkommen für eine solche „Enhanced Border Security Partnership“ (EBSP) erhalten. Das Verfahren soll zur Prüfung eines Antrags auf elektronische Reisegenehmigung (ESTA) in die USA angewendet werden und danach bei der Grenzkontrolle an US-Flughäfen.

Bereits der erste geleakte Entwurf zeigte, wie umfassend die USA auf Daten zugreifen würden. Demnach sollen die Daten zur Identitäts- und Sicherheitsüberprüfung, aber auch zum „Screening“ von Personen genutzt werden dürfen. Diese Formulierungen ermöglichen auch die automatisierte Analyse mit KI-basierten Systemen, wie sie US-Polizei- und Grenzbehörden mit Technik von Palantir und anderen Firmen eingeführt haben. Sogar anschließende „Entscheidungen mit erheblich nachteiligen Folgen“ für die Betroffenen dürfen automatisiert erfolgen, wenn dies in den beteiligten Ländern zulässig ist.

Nun hat die britische NGO Statewatch den aktuellen Entwurf für die geplante „Grenzpartnerschaft“ veröffentlicht. Darin gibt es zwar kleinere Einschränkungen: So soll etwa die US-Abfrage einer Person in europäischen Datenbanken nur mithilfe von Fingerabdrücken möglich sein, nicht aber mit einem Gesichtsbild. Dafür geht der mögliche Zugriff in die Breite: Laut dem ersten Entwurf sollten nur „relevante“ Datenbanken abgefragt werden dürfen, nun fehlt diese Beschränkung. Die anschließende Rückmeldung an die US-Behörden kann dann außerdem Lichtbilder der Person umfassen.

Visafreiheit an Polizeidatenzugriff geknüpft

Der Abschluss einer solchen „Partnerschaft“ ist eine neue Bedingung im Visa-Waiver-Programm (VWP) der USA. Bürger:innen der über 40 teilnehmenden Länder – darunter mit Ausnahme von Zypern, Bulgarien und Rumänien alle EU-Mitgliedstaaten – wird im VWP erlaubt, für bis zu 90 Tage visafrei in die USA einzureisen. Das Programm beruht auf Gegenseitigkeit: Auch US-Bürger:innen profitieren in den Partnerländern von der Visafreiheit.

Weigern sich Regierungen, die neue bilaterale „Grenzpartnerschaft“ einzugehen, werden sie hingegen von der Regierung in Washington aus dem VWP ausgeschlossen. Staatsbürger:innen des betreffenden Landes sind dann wieder visumspflichtig. Die Frist für eine Zustimmung läuft bis Ende 2026.

In dem EU-US-Abkommen werden nur die Rahmenbedingungen für den Zugriff auf die Polizeidatenbanken geregelt. Für die konkrete Umsetzung muss jeder Staat mit den USA dann noch ein bilaterales Abkommen schließen. Darin werden etwa die teilnehmenden Polizei- und Grenzbehörden, die abzufragenden Datenbanken und Löschfristen festgelegt.

Gegen Ausweiskontrollen im Netz.

Wir kämpfen für ein offenes Internet. Mit deiner Unterstützung.

Jetzt spenden Weit gefasste Gründe für automatisierte Abfragen

Als Auslöser für Abfragen europäischer Polizeidatenbanken gilt laut dem Rahmenabkommen, wenn zu der überprüften Person „Grund zu der Annahme besteht, dass die Einreise oder der Aufenthalt eine ernsthafte und unmittelbare Gefahr für die öffentliche Sicherheit oder die öffentliche Ordnung darstellen könnte“.

Im aktuellen Vertragstext wurde vor „Gefahr“ das Wort „ernsthafte“ eingefügt – eine Beschränkung also. Jedoch sind die möglichen „Zweifel“ weit gefasst: Der Datentausch kann etwa wegen einer schlechten „Risikobewertung“ der Person erfolgen.

Weitere Auslöser wären das Vorliegen von „kriminalpolizeilichen Erkenntnissen“ („criminal intelligence“), falsche Angaben bei der ESTA-Registrierung oder beim Grenzübertritt oder sonstige, von den US-Behörden behauptete „verdächtige Aktivitäten“ der Reisenden. Das könnte auch Postings in Sozialen Medien betreffen. Die jeweiligen Accounts sollen nach einem Vorschlag der Trump-Administration bei einem ESTA-Antrag zwingend mitgeteilt werden. Bislang ist dies noch freiwillig.

„Treffer“ öffnet Tür zu weiteren Polizeidaten

Im automatisierten Datentausch erhält die anfragende US-Behörde eine Mitteilung, ob im angefragten EU-Staat ein Eintrag seiner Bürger:innen in der nationalen Polizeidatenbank vorliegt. Im „Trefferfall“ schickt die ersuchte Behörde dann einen Datensatz aus Name und Fingerabdrücken zurück.

Diese Meldung soll Angaben über „strafrechtliche Verurteilungen, Gefahren für die nationale Sicherheit, terroristische Bedrohungen und/oder Verstöße gegen das Einwanderungsrecht“ und, falls vorhanden, Fotos enthalten.

Im nächsten Schritt können weitere Erkenntnisse aus weiteren nationalen Informationssystemen ausgetauscht werden. Wie schnell, lässt das EU-US-Rahmenabkommen offen – dies soll in den bilateralen Abkommen festgelegt werden. Die Rede ist aber von „unverzüglich“, denn die Reisenden in die USA sollen an der Grenzkontrolle möglichst schnell abgefertigt werden.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Jetzt abonnieren Auskunft zu politischen Meinungen

Sogar besonders sensible Daten zu „rassischer oder ethnischer Herkunft“, religiösen Überzeugungen, politischen Meinungen, Gewerkschaftszugehörigkeit sowie zu Gesundheit oder Sexualleben dürfen die EU-Staaten an die US-Polizei- und Grenzbehörden weitergeben – als „Ausnahmen“ und mit Beschränkung der Verarbeitungszwecke sowie auf befugtes Personal. Diese aufgezählten Schutzmaßnahmen werden allerdings mit dem Wort „may“ („dürfen“/„können“) abgeschwächt. Sie sind also nicht bindend.

Auch die Weiterverarbeitung der personenbezogenen Daten durch andere Behörden ist von dem Rahmenabkommen gedeckt, sofern der neue Zweck mit dem ursprünglichen „nicht unvereinbar“ ist. Möglich ist zudem die Weitergabe der erhaltenen Daten an Behörden in Drittstaaten oder an internationale Organisationen – sofern die ursprünglich ersuchte Behörde im EU-Staat zugestimmt hat.

EU sieht unabhängige Kontrolle vor – die USA nicht

Im Entwurf für das transatlantische Rahmenabkommen werden auch vermeintliche Schutzklauseln definiert. Auf EU-Seite gehören dazu die Einbindung der unabhängigen Datenschutzbehörden der Mitgliedstaaten. Auf US-amerikanischer Seite dagegen soll die Aufsicht „kumulativ“ durch unterschiedliche Institutionen erfolgen. Genannt werden etwa Inspekteur:innen einzelner Behörden, behördeninterne Datenschutzbeauftragte oder Rechnungsprüfungsämter.

Sämtliche dieser Stellen sind jedoch organisatorisch in der jeweiligen US-Behörde selbst angesiedelt. Damit genügen sie den Anforderungen an den transatlantischen Datenaustausch nicht: Unter anderem aus diesem Grund wurden etwa das „Safe Harbor“-Abkommen von 2015 und das „Privacy Shield“ von 2020 vom Europäischen Gerichtshof für ungültig erklärt.

Beide Fälle gingen auf Klagen des österreichischen Datenschutzaktivisten Max Schrems zurück. Er hält auch die nun diktierte transatlantische „Grenzpartnerschaft“ für rechtswidrig. Die geplante Aufsichtsstruktur stehe im Widerspruch zur EU-Grundrechtecharta, die unabhängige Behörden verlangt, sagt Schrems zu netzpolitik.org. Probleme sieht Schrems auch beim vorgesehenen Rechtsschutz für Betroffene von US-Abfragen in europäischen Polizeidatenbanken. Das Abkommen verweise zwar auf gerichtlichen Rechtsschutz nach US-Recht. In der Praxis scheitere dieser aber häufig an der fehlenden Klagebefugnis in Datenschutzfällen, etwa wenn die Betroffenen ihre Privatsphäre verletzt sehen.

Kategorien: Externe Ticker

first
previous
1
2
3
4
5
6
next
last