Gesetz nimmt letzte Hürde

Strengere EU-Regeln für KI: Verbot von "Social Scoring" und Emotionserkennung

Aktualisiert: 23.05.2024
16:41 Uhr
Damian Rausch

Die EU verschärft die Regeln für Künstliche Intelligenz: Ein neues Gesetz soll den Einsatz von KI sicherer und transparenter machen, bestimmte risikoreiche Anwendungen wie "Social Scoring" und Emotionserkennung werden verboten.

Das Wichtigste in Kürze

Das EU-Gesetz zur Künstlichen Intelligenz hat im Ministerrat die letzte Hürde genommen.
Besonders risikoreiche Systeme, etwa in kritischen Infrastrukturen oder im Gesundheitswesen, müssen strenge Anforderungen erfüllen.
Das Gesetz betrifft alle Entwickler:innen, Anbieter:innen und Nutzer:innen von KI-Systemen in der EU.

Künstliche Intelligenz (KI) gilt als Zukunftstechnologie, doch die EU ergreift nun Maßnahmen, um die damit verbundenen Gefahren einzudämmen. Die Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten am Dienstag (21. Mai) in Brüssel Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten.

Transparent, sicher und diskriminierungsfrei

Das Gesetz werde die Nutzung von KI in der EU sicherer machen, hieß es in einem Entwurf der EU-Kommission. Es soll sicherstellen, dass KI-Systeme so transparent, nachvollziehbar, diskriminierungsfrei und umweltfreundlich wie möglich sind. Ein wichtiger Aspekt ist, dass KI-Systeme von Menschen und nicht nur von anderen Technologien überwacht werden. Die Pläne gehen auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach künftig strenge Anforderungen erfüllen.

Im Video: Weltweit erstes KI-Gesetz in der EU

Weltweit erstes KI-Gesetz in der EU

"Social Scoring" verboten

Bestimmte KI-Anwendungen, die gegen die Werte der EU verstoßen, sollen gänzlich verboten werden. Dazu gehört zum Beispiel die Bewertung des Sozialverhaltens ("Social Scoring"). Dabei werden Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. Auch die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.

Die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Allerdings soll es Ausnahmen geben: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen. Das Gesetz gilt für alle, die in der EU KI-Systeme entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure innerhalb und außerhalb der EU.

Geldstrafen bei Verstößen

Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedsstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.