Weltweit erstes umfassendes KI-Gesetz
Wie die EU künftig mit Künstlicher Intelligenz umgehen will

Das Europäische Parlament hat das weltweit erste umfassende Regelwerk für Künstliche Intelligenz beschlossen. Die Abgeordneten stimmten in Straßburg mit großer Mehrheit für den Entwurf. EU-Binnenmarktkommissar Breton betonte, es gehe um ein Gleichgewicht zwischen Risikomanagement und Innovationsförderung.

Künftig sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je größer die potenziellen Gefahren einer Anwendung sind, desto höher sollen die rechtlichen Anforderungen sein. Basismodelle müssen Mindeststandards erfüllen wie Transparenz über Trainingsdaten. Wenn systemische Risiken befürchtet werden, gelten schärfere Vorgaben. Spam-Filter gelten als harmlos, während KI in der Medizin und im Bewerbungsprozess stärker reglementiert werden sollen, wie die DLF-Korrespondentin in Brüssel, Carolin Born, berichtet.

Für die Nutzung von Künstlicher Intelligenz in Sicherheitsbehörden stellt das Gesetz grundsätzlich ein "hohes Risiko" für Menschenrechtsverletzungen fest. Gleiches gilt für Anwendungen bei kritischer Infrastruktur und in der Personalverwaltung. Zu den sogenannten Hochrisiko-Anwendungen gehören zudem Systeme, die Wahlen beeinflussen können.

In diesen Fällen soll deshalb in letzter Instanz ein Mensch die Kontrolle über die Entscheidungen der KI haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen bei den Behörden Beschwerde gegen die Nutzung der KI einreichen können.

Verboten sind künftig KI-Systeme, die Menschen nach Kriterien wie ihren politischen und religiösen Ansichten, ihrer sexuellen Orientierung oder der Hautfarbe in Gruppen einteilen. Außerdem werden in China bereits übliche sogenannte Sozialkredit-Systeme verboten, die auf das Verhalten oder persönliche Eigenschaften abzielen.

Unternehmen dürfen KI nicht einsetzen, um die Gefühle ihrer Beschäftigten zu erfassen. Die Technologie darf zudem nicht genutzt werden, um Menschen gegen ihren Willen zu beeinflussen. Betroffene dürfen durch die Nutzung zudem nicht etwa wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden.

Die Polizei und andere Sicherheitsbehörden dürfen die KI-gesteuerte Gesichtserkennung an öffentlichen Orten nutzen, wenn eine richterliche Anordnung vorliegt. Solche Systeme wurden in Deutschland bereits etwa am Berliner Bahnhof Südkreuz getestet.

Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden. Verfolgen die Beamten das Videomaterial in Echtzeit, sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung zur "Verhinderung einer konkreten und akuten Terrorgefahr" nutzen.

Entwicklerinnen und Entwickler müssen künftig klar kennzeichnen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Das gilt auch für Beiträge in Online-Plattformen wie Facebook, Instagram oder X. In der Praxis ist das Fachleuten zufolge jedoch schwierig zu überprüfen.

Neue Systeme sollen mit ausgewogenen Datensätzen entwickelt und trainiert werden. Die Behörden sollen KI-Startups deshalb Zugang zu realen Testbedingungen ermöglichen, bevor eine Anwendung auf den Markt kommt. Das Gesetz soll zudem dafür sorgen, dass dabei keine Urheberrechte verletzt werden.

Industrieverbände befürchten, dass die neuen Regeln für zu hohe Hürden bei der Entwicklung neuer KI-Anwendungen sorgen. Europäische Unternehmen könnten dadurch Nachteile im Wettbewerb mit der Konkurrenz aus den USA und aus China haben, warnte etwa der Bundesverband der Deutschen Industrie. Der Geschäftsführer des KI-Bundesverbands, Daniel Abbou, sprach im Deutschlandfunk vonhöheren Kosten, die jetzt auf Unternehmen zukämen. Die amerikanischen Tech-Konzerne könnten mit jeder Art von Regulierung klarkommen. Ob aber ein Start-up aus Kreuzberg, Köln-Hürth oder Heilbronn ebenso in der Lage sei, die Kosten zu stemmen, das werde sich zeigen.

Die Verhandlungen über das Gesetz dauerten fast drei Jahre. Zu Beginn der Diskussion gab es noch keinen Hype um ChatGPT und deshalb keine Vorschriften für Textgeneratoren. Dies wurde im Laufe des Prozesses auf Drängen des EU-Parlaments nachgeschärft.

Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz einer verbotenen Technologie kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatz eines Unternehmens verlangen. Wer gegen andere Bestimmungen des Gesetzes verstößt, muss mit Strafen in Höhe von bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes rechnen.

Die EU hat mit dem Gesetz das weltweit erste umfassende Regelwerk für Künstliche Intelligenz vorgelegt. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden. Die neuen Vorschriften sollen ab dem Frühjahr 2026 gelten. Bis dahin setzt die Kommission auf freiwillige Absprachen mit den Unternehmen. Kritiker befürchten allerdings, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.