AI Act: Bundesregierung spricht sich gegen KI-basierte Überwachung aus

Eine biometrische Gesichtserkennung im öffentlichen Leben ist in Ländern wie China bereits Gang und Gäbe. Auch die EU möchte für die entsprechende Künstliche Intelligenz Regeln festlegen. Schließlich werden auch wir in unseren Gefilden auf lange Sicht wohl nicht um entsprechende Lösungen umhin kommen. Damit diese nicht uferlos eingesetzt werden, muss man auch entsprechende Gesetze in die Wege leiten. Der Bundesregierung kommt dabei eine gewisse Bremswirkung zugunsten des Datenschutzes zu. Eine biometrische Überwachung soll es nach Meinung der Bundesminister und des Bundeskanzlers nämlich zumindest in Deutschland nicht geben.

Biometrische Fernidentifizierung nicht in Deutschland

Mit der EU-Verordnung für Künstliche Intelligenz möchten Kommission und Parlament der Europäischen Union feste Standards für die Mitgliedsstaaten festlegen. Über die bisherigen Verhandlungen wurde letzte Woche im Digitalausschuss des Bundestags debattiert. Dabei kam ans Licht, dass Deutschland insbesondere mit einer Regelung ihre Probleme hat. Eine Gesichtserkennung nebst weiteren biometrischen Erkennungsverfahren soll es nach Ansicht Deutschlands nicht geben. Eine Zulassung dieser Methoden im Rahmen der Verfolgung von Straftaten wird Deutschland laut Christian Meyer-Seitz vom Bundesjustizministerium „nicht zulassen“.

EU möchte Wahlfreiheit gewähren

Ein Blick in den ersten Entwurf der EU-Kommission fördert zutage, dass der gegenwärtige Verhandlungsstand des EU-Gremiums eine Wahlfreiheit vorsieht. Beim Thema der biometrischen Videoüberwachung in der Öffentlichkeit sollen demzufolge alle Mitgliedsstaaten selbst entscheiden dürfen, ob sie selbige zulassen wollen oder nicht. Diese mögliche Kann-Regelung sorgt folglich dafür, dass es wohl EU-Mitglieder mit und welche ohne entsprechende Überwachung im öffentlichen Raum geben wird. Feststeht allerdings, dass eine derartige Fernidentifizierung nur in Ausnahmefällen erlaubt sein darf. Insbesondere im Fall drohender  terroristischer Anschläge oder bei der Suche nach europaweit gesuchten schweren Straftätern dürfe diese zum Einsatz kommen. Welche Voraussetzungen im Besonderen vorliegen müssen, soll schlussendlich das nationale Recht des betroffenen Mitgliedsstaates klären.

Juristisch undenkbar in Deutschland

Ein Blick in den Koalitionsvertrag der gegenwärtig regierenden Ampelkoalition macht klar, dass eine derart weitreichende Überwachung in unserem Land undenkbar ist.

„Wir setzen auf einen mehrstufigen risikobasierten Ansatz, wahren digitale Bürgerrechte, insbesondere die Diskriminierungsfreiheit, definieren Haftungsregeln und vermeiden innovationshemmende ex-ante-Regulierung. Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring Systeme durch KI sind europarechtlich auszuschließen.“

Hierfür fehlt es schlichtweg an einer gesetzlichen Grundlage. Dennoch sieht sich Deutschland natürlich in der Pflicht, an dem sogenannten AI Act mitzuwirken. Schließlich kann man auf diesem Wege dafür sorgen, dass der Einsatz entsprechender Techniken nicht ins Uferlose abdriftet. Den Einfluss der Bundesregierung dürfe man aber auch nicht überbewerten. Schließlich kann diese nicht einfach dafür sorgen, dass derartige Techniken in der gesamten EU verboten werden.

China gilt als Negativbeispiel

Natürlich schwirrt in den Köpfen vieler EU-Politiker nun die Angst, dass sich innerhalb der Europäischen Union Überwachungsstaaten bilden könnten, welche den AI Act als Blaupause und Rechtfertigung heranziehen. Dementsprechend wird von Seiten der Grünen auch angemahnt, dass man dringend rote Linien aufzeigen müsse. Insbesondere die Beauftragte der Bundesregierung für digitale Wirtschaft und Start-ups, Anna Christmann (Grüne) stellte klar, dass vor allem Social Scoring ein rotes Tuch darstellen müsse. Dieses Prozedere kennt man aus China.

Hier findet mittlerweile in nahezu jeder größeren Millionenstadt eine umfassende Videoüberwachung inklusive biometrischen Scans statt. Dabei wird das Verhalten der Bevölkerung akribisch genau dokumentiert und im Rahmen des sogenannten Social Scoring festgehalten. Während zuträgliches Verhalten mit Zusatzpunkten gewürdigt wird, gibt es für ein Fehlverhalten Punktabzug. Jeder Einwohner erhält eine Punktzahl, die an seinen gesellschaftlichen Nutzen gebunden wird. Diese erleichtert dann beispielsweise das Finden einer neuen Mietwohnung.

KI-Verordnung ist wichtig

Obwohl Deutschland selbst keine biometrische KI-gestützte Videoüberwachung einführen wird, lobt die Regierung dennoch die Leistung des EU-Kommission. Dabei stützt sich insbesondere Meyer-Seitz aus dem Bundesjustizministerium auf die breitgefächerten Regelungen des AI Act. Doch es gibt auch Anregungen zu möglichen Verbesserungen. Der Rechtsexperte spricht insbesondere davon, dass innerhalb der Verordnung auch ein separates Kapitel zu den Befugnissen für Sicherheitsbehörden Platz finden müsse. Mithilfe unterschiedlicher Abstufungen könne man auch gewissermaßen verschiedenen Absichten entgegenkommen.

Sicherlich sollten Gefahren für die Sicherheit eines Landes nicht weniger wert sein als beispielsweise eine bloße Volkszählung oder gar Anwendungen von Privatpersonen oder -unternehmen. Dies leuchtet mit Blick auf die Praxis natürlich ein. Insbesondere die Polizei und die Geheimdienste sollten zum Schutz der öffentlichen Sicherheit mehr Befugnisse erhalten

„als wenn jemand sein Privatgrundstück mit KI überwacht“

sagt Meyer-Seitz.

Es gibt noch viel zu tun

Mit den Themen Überwachung und Künstliche Intelligenz handelt es sich um zwei höchst streitbare Sachgebiete. Für viele Menschen sind diese viel zu weit entfernt vom Alltag, als dass sie deren Tragweite auch nur ansatzweise nachvollziehen können. Da sich der Bereich der Technik stetig weiterentwickelt, müssen Regelungen hier mit Bedacht und vor allem auch Weitsicht getroffen werden. Insbesondere im Bereich der Künstlichen Intelligenz ist es heute fast unmöglich vorherzusagen, wo uns die Zukunft hinführen wird.  Dementsprechend müsse auch der AI Act laut Meyer-Seitz vor allem im ersten Bereich noch deutlich verbessert werden. Vor allem der Rechtsschutz spielt für die Deutschen dabei eine große Rolle. So müsse man die Auskunftsrechte Betroffener nach Meinung von Meyer-Seitz noch deutlich ausweiten.

Regulierungsbedarf ist hoch

Die Stellungnahme der Bundesregierung spielt bei der weiteren Ausgestaltung der EU-Kommission eine große Rolle. Wie groß der Regelungsbedarf aus Sicht der Regierung ist, wird bei der Einstufung deutlich. Aus den vier verschiedenen Risikogruppen, die namentlich „unannehmbar“, „hoch“, „gering“ und „minimal“ lauten, möchte die Regierung den AI Act den Wert „hoch“ zuordnen. Damit dürfte auf die EU noch einiges an Regelungstätigkeit zukommen. Da es erfahrungsgemäß lange dauert, bis entsprechende Verordnungen finalisiert werden, gehen wir von einer langen Wartezeit aus, die mit vielen weiteren Diskussionen bestückt sein wird. Da es sich hierbei allerdings um ein wichtiges datenschutzrelevantes Thema handelt, ist es von großer Bedeutung, es auch bis zum Schluss auszudiskutieren.