Mittwoch, 08. Februar 2023

Künstliche Intelligenz beim Jugendschutz
Digitale Türsteherin im Netz

Wer bestimmte Internetseiten besuchen will, muss erwachsen sein. Noch reicht meist ein einfacher Klick, um die eigene Volljährigkeit zu bestätigen. Das könnte sich bald ändern - mit KI-Technik, die das Alter schon ziemlich genau einschätzen kann.

Von Lena Fuhrmann | 15.12.2022

Eine Frau hält einer Webcam einen Ausweis entgegen
Im Zweifel entscheidet der Ausweis: Hier gibt es längst Verfahren zur Alterbestimmung, die als sicher gelten (picture alliance / dpa / Andrea Warnecke)
„Wer unter 18 ist, muss draußen bleiben“, heißt es in der analogen Welt vor der Club-Tür. Im Netz sollen solche Kontrollen in Zukunft verstärkt von Künstlicher Intelligenz (KI) übernommen werden. Sie schätzt das Alter eines Gesichts in Sekundenschnelle ein und wird damit als Türsteherin immer gefragter. Instagram etwa experimentiert schon mit dieser sogenannten „Age Estimation“; auf Ebay wird eine solche Technologie des britischen Unternehmens VerifyMy bereits eingesetzt.
Für die Nutzerinnen und Nutzer ist das im besten Falle unkompliziert und anonymer als andere Altersnachweise, erklärt Andy Lulham, der leitende Geschäftsführer von VerifyMy. „Viele Menschen wollen die Gesichtsbiometrie nutzen, weil man dafür keine Ausweisdokumente scannen oder Kreditkartendaten angeben muss. Jeder hat ein Gesicht – und solange man Zugang zu einer Kamera auf dem eigenen Telefon oder Computer hat, ist sie sehr einfach zu nutzen.“ 

Je älter, desto ungenauer

Bevor sie zum Einsatz kam, wurde die Künstliche Intelligenz hinter VerifyMy trainiert – anhand von über 300.000 Bildern von Menschen, deren Alter bereits bekannt ist. So lernte die KI, Muster auszumachen, mit denen sie auch das Alter neuer Gesichter abschätzen kann. Bei jüngeren Personen gelingt das laut Lulham deutlich zuverlässiger als bei älteren. „Denn mit zunehmendem Alter wirken mehr äußere Einflüsse auf die Biometrie des Gesichts ein: harte Arbeit, das Wetter, Stress - es gibt mehr Variationen. Daher ist die Genauigkeit in den wichtigen, jüngeren Altersgruppen am höchsten.“
Das macht die Technologie auch hierzulande für die Kommission für Jugendmedienschutz (KJM) interessant. Diese hat mittlerweile neben VerifyMy vier weitere Anbieter von „Age Estimation“-Technologien als positiv bewertet. Sie sollen dabei helfen, Kinder und Jugendliche im Netz zu schützen – etwa vor Pornographie oder Gewaltdarstellungen.

Wie umgehen mit Manipulationsversuchen?

Solche Inhalte dürfen laut Jugendmedienschutz-Staatsvertrag nur in geschlossenen Benutzergruppen veröffentlicht werden, also mit einer vorgeschalteten Alterskontrolle. Die positiv bewerteten Systeme erfüllen die dafür nötigen gesetzlichen Anforderungen, so Marc Jan Eumann, der Vorsitzende der KJM: „Wir haben mit Blick auf die Zuverlässigkeit bei der Alterseinschätzung tatsächlich in dem Range, der für uns interessant ist – also in der relevanten Altersstufengruppe von 13 bis 18 – eine Genauigkeit, die über 95 Prozent liegt.“
Das klingt vielversprechend, muss sich jedoch auf Dauer noch bewähren. Lutz Prechelt, Informatikprofessor an der Freien Universität Berlin, weist auf verschiedene Störfaktoren hin. So ist die Erfolgsquote der Altersschätzungen beispielsweise davon abhängig, an welchen Bildern die KI trainiert wurde. Stimmen dort die Altersangaben zu den Gesichtern? Und selbst wenn das eingespeiste Material korrekt ist, wollen die Nutzerinnen und Nutzer überhaupt beschützt werden?
Etwa bei Pornoportalen würden viele Jugendliche versuchen, die KI auszutricksen, indem sie ihrem Gesicht „ältere Merkmale“ wie Falten hinzufügen. Auf solche manipulierten Bilder sei die KI, die mit „normalen“ Gesichtern rechnet, nicht ausreichend vorbereitet, sagt Prechelt:
„Also diese Grundsatzfrage ist, ist das so ein einvernehmliches System, was alle schick finden, oder ist das ein Gegeneinander? Und bei Gegeneinander muss ich immer den Einfallsreichtum der anderen Seite fürchten. Der spuckt mir in die Suppe und macht das System eben sehr viel schlechter, als ich vorher behauptet habe.“

Im Zweifel entscheidet der Ausweis

Aktuell reagiert die Kommission für Jugendmedienschutz bereits mit einem Alterspuffer auf mögliche Ungenauigkeiten der KI. Schon wer auf unter 23 geschätzt wird, muss sein Alter mit anderen Verfahren verifizieren, beispielsweise über den Ausweis.

Mehr zum Einsatz von Künstlicher Intelligenz in Medien:

Auch bei Fragen des Datenschutzes zeigt man sich vorerst gelassen: Die Anbieter der „Age Estimation“ hätten jeweils versichert, keine Gesichter zu speichern und davon Identitäten abzuleiten, so Eumann. „Sollten das Anbieter entgegen ihrer Zusage bei uns anders handhaben, haben wir alle Möglichkeiten, als KJM zu sagen, wir schauen uns das gerne nochmal an und können auch selbstverständlich das, was wir einmal positiv bewertet haben, da können wir auch wieder diese Bewertung entziehen.“
Dazu gebe es aktuell keinen Anlass – also steht der „Age Estimation“ vorerst nichts im Wege. Wie gut sich die KI tatsächlich als digitale Türsteherin macht, darf sie also nun beweisen.