Donnerstag, 11. August 2022

Datenschutz, Diskriminierung, Fehleinschätzung
Risiken der automatischen Gesichtserkennung

Gesichtserkennungssysteme werden bereits in vielen Alltagssituationen eingesetzt. Die Technologie weist allerdings technische Schwächen und Datenschutzrisiken auf. Dabei ist sie häufig auf die Daten der Bürgerinnen und Bürger angewiesen. Diese zu schützen ist auch eine juristische Debatte.

Von Pia Behme | 03.02.2020

    Biometrische Gesichtserkennung
    Bei den biometrischen Daten, die durch das Gesichtserkennungssystem erfasst werden, handelt es sich um personenbezogene Daten (imago/Science Photo Library)

    Dafür kann Gesichtserkennung genutzt werden
    Das Smartphone entsperren, Fotosammlungen auf dem Handy nach Personen sortieren oder Schlangen an Passkontrollen vermeiden: Viele Menschen nutzen Gesichtserkennung im Alltag.
    Die Einsatzbereiche der Künstlichen Intelligenz sind vielfältig: Für Sehbehinderte gibt es Brillen, die für sie Gesichter erkennen können. In Beirut können sich Geflüchtete per Gesichtserkennung ausweisen, um Geld vom Welternährungsprogramm zu erhalten. Artenschützer nutzen die Technologie, um Tiere zu identifizieren und so gegen illegalen Tierhandel vorzugehen. Und während ein deutscher Supermarkt sein Pilotprojekt wieder einstellen musste, haben sich in den USA, in Großbritannien und in China Gesichtsanalysen von Menschen in Supermärkten zur Auswertung des Kaufverhaltens weitgehend durchgesetzt.
    Vor allem für die Fahndung nach Kriminellen und vermissten Personen ist die Technologie interessant, aber auch umstritten. In mehreren Ländern sind Gesichtserkennungssysteme beispielsweise an Flughäfen und Bahnhöfen installiert. Die Aufnahmen werden automatisch mit Fahndungsfotos abgeglichen. Das BKA nutzt seit 2008 ein Gesichtserkennungssystem, um Täter zu identifizieren.
    Die Videoüberwachung im öffentlichen Raum wirft kritische Fragen auf: Was passiert mit den erfassten Daten? Greift der Datenschutz? Und was kann die Technik überhaupt?
    Anfang 2020 deckte die "New York Times" auf, dass die Firma "Clearview" eine Datenbank mit Bildern aus dem Internet erstellt und den Zugang mehr als 600 Sicherheitsbehörden angeboten hatte. Dabei ging es um Fotos und Profilbilder von drei Milliarden Menschen, die das Unternehmen von Plattformen wie Facebook und YouTube heruntergeladen hatte. Die Software ist erfolgreicher als viele Systeme, die die Ermittler bisher einsetzten. Was auch an der Größe der Datenbank liegt – unwissentlich bereitgestellt von den Nutzerinnen und Nutzern sozialer Plattformen.
    Das Foto zeigt einen Computer-Bildschirm, auf dem ein menschliches Gesicht biometrisch vermessen wird.
    Gesichtserkennungs-App Clearview - Privatsphäre ade
    Das Start-Up Clearview hat eine Gesichtserkennungs-App entwickelt. Grundlage dafür sind angeblich über drei Milliarden Fotos, die aus dem Internet heruntergeladen wurden. Nach Ansicht von Experten könnte solch ein Programm unkalkulierbare Folgen haben.
    Schwächen der Technologie
    Die Erkennungsraten anderer Systeme sind bisher nicht sehr verlässlich. Vor drei Jahren war ein Pilotversuch am Berliner Südkreuz eher ernüchternd verlaufen, weil zu viele Menschen nicht oder fälschlicherweise erkannt wurden.
    "Die Erkennungsraten sind immer noch schlecht und müssen weiterhin verbessert werden. Dazu müssen sie aber auch getestet werden, auch in großflächigem Einsatz", sagte Florian Kirchbuchner vom Fraunhofer-Institut im Dlf.
    Die Systeme können zudem aktiv umgangen werden. Ein Hut, eine Vollgesichtsmaske oder eine Baseballkappe reichen aus, um von den Kameras nicht erkannt zu werden. Eine israelische Entwicklung kann ein biometrisches Foto so leicht verändern, dass das menschliche Auge den Unterschied kaum wahrnimmt. Die Künstliche Intelligenz erkennt das Gesicht anschließend jedoch nicht mehr.
    Leider liegt für dieses Bild keine Bildbeschreibung vor
    Ein weiteres Argument der Kritiker: Die Algorithmen erkennen am besten weiße Männer, weil sie mit diesen Daten trainiert wurden. Andere Ethnien sind gefährdeter, zu Unrecht kontrolliert und herausgegriffen zu werden.
    Datenschutz: Welche Risiken birgt die Gesichtserkennung für die Nutzer?
    Im Jahr 2018 soll der Popstar Taylor Swift Konzertbesucher in den USA heimlich gefilmt haben, um sie mit einer Stalker-Datenbank abzugleichen. Beim Clearview-Fall verhält es sich andersherum: Die Datenbank besteht aus Daten von Bürgerinnen und Bürgern.
    Für Jürgen Kuri, den Chefredakteur von heise.de, zeigt sich hier etwas Grundsätzliches zum Thema Privatsphäre: "Wenn ich heute etwas online stelle, das ich selbst für unproblematisch halte, kann ich nicht mehr kontrollieren, was in fünf oder zehn Jahren mit diesen Daten möglich ist."
    Der Bundesdatenschutzbeauftragte Ulrich Kelber ist bei dem Thema sehr skeptisch: "Wer zum Beispiel bei Demonstrationen befürchten muss, trotz gesetzestreuem Auftreten identifiziert und gespeichert zu werden, der ändert möglicherweise sein Verhalten und geht nicht mehr demonstrieren. Außerdem produziert die Technik zahlreiche Fehlerkennungen, die die Betroffenen belasten würden."
    Er fordert eine klare Anwendung der Regeln der DSGVO gegenüber Privatfirmen und ein Verbot der biometrischen Gesichtserkennung im öffentlichen Raum in Europa.
    Leider liegt für dieses Bild keine Bildbeschreibung vor
    Gesetzliche Regelungen in Deutschland und der EU
    Laut einer Studie der Carnegie Stiftung für Internationalen Frieden verwenden 64 Länder Videoüberwachung mit biometrischer Gesichtserkennung. Insbesondere nach China wird in diesem Zusammenhang häufig geschaut.
    Schüler der Oberschule Nummer Elf im chinesischen Hangzhou während des Unterrichts
    Chinas intelligenter Schule entgeht nichts
    Kameras registrieren, ob die Schüler in der Mensa gesundes Essen ordern, welche Bücher sie ausleihen, ob sie zu spät kommen und welchen Gesichtsausdruck sie im Unterricht machen.
    In Deutschland diskutierte das Innenministerium Anfang 2020 den Einsatz von Gesichtserkennungssystemen an 14 Flughäfen und 135 Bahnhöfen. Die dortigen Aufnahmen hätte die Bundespolizei dann automatisch mit Fahndungsfotos abgleichen können. Die Pläne sind nun auf Eis gelegt. Es gebe zu viele offene Fragen. Die Diskussion um die US-Firma Clearview habe bei der Entscheidung eine Rolle gespielt, so das Bundesinnenministerium.
    Die Debatte über automatisierte Gesichtserkennung wird auch in Brüssel geführt: Die EU-Kommission erwägt, für den Einsatz im öffentlichen Raum ein drei- bis fünfjähriges Verbot zu verhängen. Ein Entwurf des Arbeitspapiers zum Umgang mit Künstlicher Intelligenz, das die Kommission im Februar 2020 vorstellen will, wurde bereits von der US-Zeitung Politico im Volltext veröffentlicht.
    Die Fotomontage zeigt Menschen in der Öffentlichkeit. Bei einigen ist das Gesicht eingekreist, um das Thema Gesichtserkennung zu illustrieren.
    Wieviel Gesichtserkennung dürfen wir zulassen?
    Was darf Künstliche Intelligenz? Die Recherchen der "New York Times" über die Nutzung einer Gesichtserkennungs-App namens "Clearview" durch US-Behörden werfen Fragen auf. Was ist rechtlich in Europa möglich?