Unter welchen Umständen dürfen Patientendaten ausgewertet werden? Wann sollten dynamische Preise im Supermarkt reguliert werden, wann nicht? Und wer ist eigentlich der Eigentümer der Daten, die wir überall hinterlassen? Um solche Fragen als Gesetzgeber besser beantworten zu können, hatte die Bundesregierung eine 16-köpfige Datenethikkommission einberufen. Bei dem Gutachten, das das Gremium nun vorgelegt hat, handele es sich nicht nur um einen politischen Katalog, so Justizministerin Christine Lambrecht (SPD).
"Die Bundesregierung hat sich zum Ziel gesetzt, die Digitalisierung voran zu treiben. Und wenn wir das machen wollen und wir werden das machen, dann ist es wichtig, dass die Menschen in diese digitale Zukunft auch Vertrauen haben."
Nicht alle Systeme, die auf Basis von Algorithmen funktionieren, bergen ein Risiko
Ein Jahr lang berieten die 16 Mitglieder, von Datenschützern über Wissenschaftler bis zu Verbraucherschutz- und Wirtschaftsvertretern. 75 Empfehlungen sprechen sie nun aus. Ein Schwerpunkt liegt in neuen Prüfmechanismen. Einerseits durch ein beratendes Kompetenzzentrum für algorithmische Systeme, andererseits durch den Ausbau bestehender Kontrollinstanzen. Christiane Woopen, Medizinethikerin und Co-Sprecherin der Kommission
"Für Deutschland stellt sich die Datenethikkommission vor, dass Aufsichtsaufgaben und Kontrollbefugnisse bereits existierenden, sektorspezifischen Behörden zugeordnet werden wie beispielsweise der Bundesanstalt für Finanzdienstleistungen oder der Bundesnetzagentur oder dem Kraftfahrtbundesamt. Sie alle sollen dann aber in einem Kontrollverbund Algorithmische Systeme auf nationaler und europäischer Ebene zusammenarbeiten."
Systeme, die auf Basis von Algorithmen funktionieren, sollen nach einer fünfstufigen Risikoeinschätzung klassifiziert werden. Ein Getränkeautomat basiere auch auf Algorithmen, berge aber kein Risiko, jemanden zu schädigen. Ein Online-Händler, der seine Preise ständig anpasst, nur ein geringes. Wenn besagter Automat oder Online-Händler jedoch über persönliche Daten wissen, wie zahlungsbereit ein Kunde ist und anhand dessen einen höheren Preis festlegen, ist Regulierung notwendig.
Datenschutz vs. Datenökonomie
Diese Regulierung kann je nach Gebiet und Kontext von einer Herausgabe der Entscheidungskriterien über eine Dauer-Liveüberprüfung bis hin zu einem Verbot führen – zum Beispiel bei softwarebasierten Waffensystemen, die selbst über Leben und Tod entscheiden.
Diese Beispiele zeigen, wie komplex das Feld ist – und auch das Spannungsfeld. Denn einerseits will Deutschlands Wirtschaft führender Teil der weltweiten Datenökonomie werden, andererseits priorisiert Europa den Datenschutz.
Die Kommission hat sich dabei in ihren Vorschlägen auch über das reine Datenmanagement hinaus gewagt – zum Beispiel wenn es um so genannte Medienintermediäre geht. Also Google, Facebook und Co., über die Menschen auch auf Nachrichten stoßen. Christiane Woopen:
"Und dann kommt aber diese Funktion dazu, gesellschaftliche Debatten aus einer Quasi-Monopolstellung zu gestalten. Und das gehört mindestens mal auf die Stufe vier. Das heißt da muss es die Möglichkeit geben, eine gründliche Aufsicht-, vielleicht sogar Zulassungspflicht vorzusehen – denn hier wird Demokratie unmittelbar beeinflusst."
Ob solche Empfehlungen tragfähig sind, wird in den nächsten Monaten intensiv diskutiert werden. Die FDP diagnostizierte bereits einen "Geist des Dirigismus".
Das Gutachten dürfte dabei auch eine Rolle auf europäischer Ebene spielen. Die neue EU-Kommissionspräsidentin Ursula von der Leyen hat versprochen, innerhalb von 100 Tagen einen Rahmen für die Regulierung künstlicher Intelligenz vorzustellen.
Mit dem Bericht der Datenethikkommission erhält sie dafür Input aus Deutschland.
