Die KI-Verordnung der EU            vs. das neue Sicherheitspaket

Seit dem 1. August 2024 ist die KI-Verordnung der EU in Kraft. Schrittweise beginnen nun die einzelnen Kapitel zu gelten – die ersten im Februar 2025, die letzten im August 2027 – mit dem Ziel, menschenzentrierte und vertrauenswürdige Künstliche Intelligenz zu fördern und ein hohes Schutzniveau hinsichtlich Gesundheit, Sicherheit, Demokratie, Rechtsstaatlichkeit und Umweltschutz sicherzustellen, schädliche Auswirkungen von KI-Systemen zu vermeiden und gleichzeitig technische Innovationen zu unterstützen.

Um diese vielseitigen Anforderungen unter einen Hut zu bringen, unterscheidet die Verordnung vier Risikostufen. Umso riskanter ein KI-System für die Gesundheit, Sicherheit oder die Grundrechte ist, desto strenger und umfassender sind die rechtlichen Vorgaben der KI-Verordnung: Die in die höchste Risikostufe eingeordneten KI-Praktiken, u.a. Social-Scoring-Systeme (wie in China) und biometrische Echtzeit-Identifizierung in öffentlichen Räumen, sind verboten. Das von ihnen ausgehende Risiko wird als inakzeptabel bewertet, weil sie das Verhalten von Personen gezielt beeinflussen und so manipulieren können. Zur dritthöchsten Stufe gehören KI-Systeme, die erhebliche schädliche Auswirkungen auf die Gesundheit, die Sicherheit oder die Grundrechte der Menschen haben können. Ein begrenztes Risiko (zweite Stufe) wird KI-Systemen, die direkt mit natürlichen Personen interagieren, zugewiesen und dem Rest ein geringes Risiko (erste Stufe). Es gibt außerdem eine Transparenzpflicht: Künstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) müssen eindeutig als solche gekennzeichnet werden.

Die KI-Verordnung regelt vor allem Aspekte der Marktüberwachung, der Produktsicherung, und der Haftung. Die DSGVO ist und bleibt uneingeschränkt neben ihr anwendbar. KI-Systeme müssen daher bereits jetzt unter Berücksichtigung der datenschutzrechtlichen Vorschriften entwickelt und eingesetzt werden. Bisher regelt noch kein Gesetz, welche Behörden in Deutschland die Einhaltung der KI-Verordnung überwachen sollen, jedoch werben die Datenschutzbeauftragten der Bundesländer und auch der Europäische Datenschutzausschuss schon seit Monaten für die Übertragung dieser zusätzlichen Kompetenzen an die Datenschutzbehörden.

Einen ersten Testfall für die neue Verordnung stellt das neue „Sicherheitspaket“ der Bundesregierung nach dem Messerangriff in Solingen dar: Denn damit soll die biometrische Gesichtserkennung auf Basis öffentlich zugänglicher Internetdaten, insbesondere aus Social Media, möglich gemacht werden. So soll insbesondere nach Verdächtigen gefahndet, aber auch Zeugen oder vermisste Personen ausfindig gemacht werden können. Das soll bei Straftaten von „erheblicher Bedeutung“ und Straftaten „gegen Leib, Leben oder Freiheit einer Person“ gehen – also nicht nur zur Abwehr von schweren terroristischen Straftaten, eine einfache Körperverletzung wäre schon ausreichend.

Die Maßnahmen gelten als tiefe Eingriffe in das Grundrecht, über die eigenen Daten zu bestimmen. Da sich in den Datenbanken nicht nur die Daten von mutmaßlichen oder verurteilten Straftätern, sondern auch von Zeugen, Rechtsanwälten oder Personen, die Anzeige erstattet haben, befinden, könnten auch sie bei den Analysen mit ins Netz der KI-Werkzeuge geraten. Genau deswegen hatte das Bundesverfassungsgericht 2023 Gesetze aus Hessen und Hamburg als verfassungswidrig eingestuft und gekippt.

Unklar ist auch, mit welchen technischen Mitteln die biometrische Suche erfolgen soll. Denn kommerzielle Gesichtssuchmaschinen wie Clearview oder PimEyes sind in der EU verboten, eben weil sie für die Erstellung ihrer Datenbanken wahllos und ohne Zustimmung Hunderte Millionen Gesichter aus dem Internet gesammelt und indexiert haben. Die niederländische Datenschutzbehörde hat erst vor kurzem wieder ein Bußgeld gegen Clearview verhängt und Behörden davor gewarnt, die illegale Technologie zu nutzen.

Die KI-Verordnung verbietet aus gutem Grund gerade solche KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsvideos nutzen: Das Gesicht einer Person ist einmalig, wie der Fingerabdruck. Sobald jede Kamera jede Person erkennen kann und das Ganze speichert und zu einem Profil zusammenschustert, geht jedwede Anonymität in der Öffentlichkeit verloren – ein massiver Eingriff in die Grundrechte. Das Recht, sich frei und unbeobachtet bewegen zu können, ist essenziell für eine funktionierende Demokratie. Eine Gesellschaft, in der jede Bewegung erfasst und analysiert werden kann, führt zu Selbstzensur, Misstrauen und einem Klima der Angst. Und dabei steht sogar im Koalitionsvertrag: „Den Einsatz von biometrischer Erfassung zu Überwachungszwecken lehnen wir ab. Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.“

Nordrhein-Westfalens Ministerpräsident Hendrik Wüst erklärte indes im Landtag, der Datenschutz müsse nach dem Messerangriff von Solingen im August 2024 im Sinne einer neuen Balance gegenüber der Sicherheit häufiger zurückstehen – wieder einmal ist angeblich „der Datenschutz“ schuld, dass wir uns nicht ohne Angst im öffentlichen Raum bewegen können, so die Erzählung. „Der Datenschutz“ sichere eine „vermeintliche Freiheit“ im digitalen Raum ab und verhindere dabei „zu oft, dass wir unsere Freiheit im echten Leben so wirksam schützen können, wie es eigentlich längst möglich wäre“. Dabei wurden die Befugnisse der Polizei in den letzten Jahren schon immer beständig erweitert – maximal das Bundesverfassungsgericht hat ihr ihre Grenzen aufgezeigt, der Gesetzgeber nicht.

Auch der Deutsche Anwaltverein kritisiert das neue Paket: Wenn die Polizei riesige Datenbestände, die bisher getrennt voneinander gespeichert und je nach Zweck und Rechtsgrundlage einzeln durchsucht werden, zusammenführt und automatisiert mit KI durchforstet, geht die Unschuldsvermutung verloren. Social Media stellen zudem eine bildliche Dokumentation des Alltags durch Privatmenschen dar. Die dort gepostete Menge an Fotos und Videos nimmt ständig zu, oft werden auch am Geschehen Unbeteiligte erfasst. Jedes Smartphone wird so letztendlich zu einer potenziellen Videoüberwachungsanlage; und das ohne Kontrollmöglichkeit, unter welchen Umständen die Aufnahmen zustande gekommen sind oder ob sie die Rechte der Betroffenen verletzen.

Verkauft wird die neue biometrische Rundum-Überwachung jetzt als „Maßnahme gegen gewaltbereiten Islamismus“. Doch schon in dem vor dem Solinger Anschlag geleakten Referentenentwurf des Innenministeriums für ein neues BKA-Gesetz ist die Idee weitreichender biometrischer Überwachung enthalten – und zwar mit noch mehr biometrischen Daten, die aus dem Internet gesammelt werden sollen, etwa „Bewegungs-, Handlungs- oder Sprechmuster“.

Und das Bundesamt für Migration und Flüchtlinge soll sogar ohne Anfangsverdacht einer Straftat eine automatisierte Rasterfahndung einleiten und das Internet auf Fotos von Asylbewerbern hin untersuchen können, um die Identität von eingereisten Personen feststellen zu können. Immerhin: Die Internetrecherche soll nur erlaubt sein, wenn die Identität einer Person nicht mit „milderen Mitteln“ festgestellt werden kann: Das heißt, wer bei seinem Antrag keine Papiere vorlegen kann, dessen Handy – inklusive der Cloudspeicher – darf nach Hinweisen durchsucht werden; bleibt auch das ergebnislos, folgt anschließend die biometrische Gesichtersuche in Internet.

Wie sich kürzlich herausstellte, nutzt die Polizei auch jetzt schon in mehreren Bundesländern bereits automatisierte Gesichtserkennung mit mobilen Kameras – wohl ganz ohne rechtliche Grundlage: Es geht um PerIS (das steht wenig einfallsreich für „Personen-Identifikations-System“), das ursprünglich in Sachsen erstmals zum Einsatz kam. Nun will es sich der niedersächsische Datenschutzbeauftragte genauer ansehen, weil es u.a. auch bei der Polizeidirektion Hannover zum Einsatz kommt. Es handelt sich um ein System zur verdeckten Videoüberwachung inklusive biometrischer Gesichtserkennung: Das System nimmt Nummernschilder vorbeifahrender Autos auf und fotografiert Fahrer und Beifahrer. Schon nach wenigen Sekunden – jedoch nicht in Echtzeit – kann es die Gesichtsbilder verarbeiten und alle erfassten Personen mit Bildern von Tatverdächtigen aus konkreten Ermittlungsverfahren abgleichen. In der Datenbank des BKA sind immerhin rund 5 Millionen Menschen mit polizeilich erstellten Bildern hinterlegt.

Im Jahr 2023 wurden mithilfe von PerIS etwa 3.800 Personen identifiziert – natürlich wesentlich schneller und effizienter, als wenn echte Beamte sich die Videoclips ansehen und abgleichen müssten. Logistisch handelt es sich in Niedersachsen um „Ermittlungsunterstützung von der Polizei Sachsen“, auf der Grundlage eines richterlichen Beschlusses des Amtsgerichts Hannover. Allerdings konnte die Polizei Hannover nicht sagen, ob sie selbst oder eine andere Stelle eine Datenschutz-Folgenabschätzung für PerIS durchgeführt hat; auch unter der neuen KI-Verordnung (siehe oben) muss wohl noch eine Risiko-Einstufung erfolgen. Mal sehen, was der Datenschutzbeauftragte dazu sagt.