Mittwoch, 27.05.2020
 
Seit 08:10 Uhr Interview
StartseiteThemaRisiken der automatischen Gesichtserkennung03.02.2020

Datenschutz, Diskriminierung, FehleinschätzungRisiken der automatischen Gesichtserkennung

Gesichtserkennungssysteme werden bereits in vielen Alltagssituationen eingesetzt. Die Technologie weist allerdings technische Schwächen und Datenschutzrisiken auf. Dabei ist sie häufig auf die Daten der Bürgerinnen und Bürger angewiesen. Diese zu schützen ist auch eine juristische Debatte.

Von Pia Behme

Biometrische Gesichtserkennung (imago/Science Photo Library)
Bei den biometrischen Daten, die durch das Gesichtserkennungssystem erfasst werden, handelt es sich um personenbezogene Daten (imago/Science Photo Library)
Mehr zum Thema

Innere Sicherheit Polizeigesetz zunächst ohne Gesichtserkennung

Gesichtserkennungs-App Clearview Privatsphäre ade

Bundespolizeigesetz "Nicht pauschal moderne Technik von uns weisen"

Gesichtserkennung Wie Komfort autoritären Regimen in die Hand spielt

Fußball Gesichtserkennung überprüft Stadionbesucher


Dafür kann Gesichtserkennung genutzt werden

Das Smartphone entsperren, Fotosammlungen auf dem Handy nach Personen sortieren oder Schlangen an Passkontrollen vermeiden: Viele Menschen nutzen Gesichtserkennung im Alltag.

Die Einsatzbereiche der Künstlichen Intelligenz sind vielfältig: Für Sehbehinderte gibt es Brillen, die für sie Gesichter erkennen können. In Beirut können sich Geflüchtete per Gesichtserkennung ausweisen, um Geld vom Welternährungsprogramm zu erhalten. Artenschützer nutzen die Technologie, um Tiere zu identifizieren und so gegen illegalen Tierhandel vorzugehen. Und während ein deutscher Supermarkt sein Pilotprojekt wieder einstellen musste, haben sich in den USA, in Großbritannien und in China Gesichtsanalysen von Menschen in Supermärkten zur Auswertung des Kaufverhaltens weitgehend durchgesetzt.

Vor allem für die Fahndung nach Kriminellen und vermissten Personen ist die Technologie interessant, aber auch umstritten. In mehreren Ländern sind Gesichtserkennungssysteme beispielsweise an Flughäfen und Bahnhöfen installiert. Die Aufnahmen werden automatisch mit Fahndungsfotos abgeglichen. Das BKA nutzt seit 2008 ein Gesichtserkennungssystem, um Täter zu identifizieren.

Die Videoüberwachung im öffentlichen Raum wirft kritische Fragen auf: Was passiert mit den erfassten Daten? Greift der Datenschutz? Und was kann die Technik überhaupt?

Anfang 2020 deckte die "New York Times" auf, dass die Firma "Clearview" eine Datenbank mit Bildern aus dem Internet erstellt und den Zugang mehr als 600 Sicherheitsbehörden angeboten hatte. Dabei ging es um Fotos und Profilbilder von drei Milliarden Menschen, die das Unternehmen von Plattformen wie Facebook und YouTube heruntergeladen hatte. Die Software ist erfolgreicher als viele Systeme, die die Ermittler bisher einsetzten. Was auch an der Größe der Datenbank liegt – unwissentlich bereitgestellt von den Nutzerinnen und Nutzern sozialer Plattformen.

Das Foto zeigt einen Computer-Bildschirm, auf dem ein menschliches Gesicht biometrisch vermessen wird. (dpa / picture alliance / picturedesk.com / Hans Ringhofer) (dpa / picture alliance / picturedesk.com / Hans Ringhofer)Gesichtserkennungs-App Clearview - Privatsphäre ade
Das Start-Up Clearview hat eine Gesichtserkennungs-App entwickelt. Grundlage dafür sind angeblich über drei Milliarden Fotos, die aus dem Internet heruntergeladen wurden. Nach Ansicht von Experten könnte solch ein Programm unkalkulierbare Folgen haben.

Schwächen der Technologie

Die Erkennungsraten anderer Systeme sind bisher nicht sehr verlässlich. Vor drei Jahren war ein Pilotversuch am Berliner Südkreuz eher ernüchternd verlaufen, weil zu viele Menschen nicht oder fälschlicherweise erkannt wurden.

"Die Erkennungsraten sind immer noch schlecht und müssen weiterhin verbessert werden. Dazu müssen sie aber auch getestet werden, auch in großflächigem Einsatz", sagte Florian Kirchbuchner vom Fraunhofer-Institut im Dlf.

Die Systeme können zudem aktiv umgangen werden. Ein Hut, eine Vollgesichtsmaske oder eine Baseballkappe reichen aus, um von den Kameras nicht erkannt zu werden. Eine israelische Entwicklung kann ein biometrisches Foto so leicht verändern, dass das menschliche Auge den Unterschied kaum wahrnimmt. Die Künstliche Intelligenz erkennt das Gesicht anschließend jedoch nicht mehr.

(Imago Images/Gary Waters) (Imago Images/Gary Waters)

Ein weiteres Argument der Kritiker: Die Algorithmen erkennen am besten weiße Männer, weil sie mit diesen Daten trainiert wurden. Andere Ethnien sind gefährdeter, zu Unrecht kontrolliert und herausgegriffen zu werden.

Datenschutz: Welche Risiken birgt die Gesichtserkennung für die Nutzer?

Im Jahr 2018 soll der Popstar Taylor Swift Konzertbesucher in den USA heimlich gefilmt haben, um sie mit einer Stalker-Datenbank abzugleichen. Beim Clearview-Fall verhält es sich andersherum: Die Datenbank besteht aus Daten von Bürgerinnen und Bürgern.

Für Jürgen Kuri, den Chefredakteur von heise.de, zeigt sich hier etwas Grundsätzliches zum Thema Privatsphäre: "Wenn ich heute etwas online stelle, das ich selbst für unproblematisch halte, kann ich nicht mehr kontrollieren, was in fünf oder zehn Jahren mit diesen Daten möglich ist."

Der Bundesdatenschutzbeauftragte Ulrich Kelber ist bei dem Thema sehr skeptisch: "Wer zum Beispiel bei Demonstrationen befürchten muss, trotz gesetzestreuem Auftreten identifiziert und gespeichert zu werden, der ändert möglicherweise sein Verhalten und geht nicht mehr demonstrieren. Außerdem produziert die Technik zahlreiche Fehlerkennungen, die die Betroffenen belasten würden."

Er fordert eine klare Anwendung der Regeln der DSGVO gegenüber Privatfirmen und ein Verbot der biometrischen Gesichtserkennung im öffentlichen Raum in Europa.

(imago images / Rafael Henrique) (imago images / Rafael Henrique)

Gesetzliche Regelungen in Deutschland und der EU

Laut einer Studie der Carnegie Stiftung für Internationalen Frieden verwenden 64 Länder Videoüberwachung mit biometrischer Gesichtserkennung. Insbesondere nach China wird in diesem Zusammenhang häufig geschaut.

Schüler der Oberschule Nummer Elf im chinesischen Hangzhou während des Unterrichts  (Stringer/ Imaginechina/ dpa) (Stringer/ Imaginechina/ dpa)Chinas intelligenter Schule entgeht nichts
Kameras registrieren, ob die Schüler in der Mensa gesundes Essen ordern, welche Bücher sie ausleihen, ob sie zu spät kommen und welchen Gesichtsausdruck sie im Unterricht machen.

In Deutschland diskutierte das Innenministerium Anfang 2020 den Einsatz von Gesichtserkennungssystemen an 14 Flughäfen und 135 Bahnhöfen. Die dortigen Aufnahmen hätte die Bundespolizei dann automatisch mit Fahndungsfotos abgleichen können. Die Pläne sind nun auf Eis gelegt. Es gebe zu viele offene Fragen. Die Diskussion um die US-Firma Clearview habe bei der Entscheidung eine Rolle gespielt, so das Bundesinnenministerium.

Die Debatte über automatisierte Gesichtserkennung wird auch in Brüssel geführt: Die EU-Kommission erwägt, für den Einsatz im öffentlichen Raum ein drei- bis fünfjähriges Verbot zu verhängen. Ein Entwurf des Arbeitspapiers zum Umgang mit Künstlicher Intelligenz, das die Kommission im Februar 2020 vorstellen will, wurde bereits von der US-Zeitung Politico im Volltext veröffentlicht.

Die Fotomontage zeigt Menschen in der Öffentlichkeit. Bei einigen ist das Gesicht eingekreist, um das Thema Gesichtserkennung zu illustrieren. (imago / Jochen Tack) (imago / Jochen Tack)Wieviel Gesichtserkennung dürfen wir zulassen?
Was darf Künstliche Intelligenz? Die Recherchen der "New York Times" über die Nutzung einer Gesichtserkennungs-App namens "Clearview" durch US-Behörden werfen Fragen auf. Was ist rechtlich in Europa möglich?

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk