Risiken von KI

Umgang mit künstlicher Intelligenz: SPD-Chefin Esken fordert Aufsichtsbehörde

Aktualisiert: 30.05.2023
07:51 Uhr
Lisa Apfel

SPD-Chefin Saskia Esken will eine Aufsichtsbehörde für künstliche Intelligenz. Während sie die Vorteile der Technik erkennt, warnt sie auch vor Negativfolgen durch KI.

Das Wichtigste in Kürze

SPD-Chefin Saskia Esken plädiert für eine Aufsichtsbehörde für künstliche Intelligenz.
Zwar sieht die Politikerin Chancen in Bildung, Medizin und Verwaltung durch KI.
Doch auch vor Tücken wie Diskriminierung durch KI-Modelle warnt Esken.

Wie umgehen mit der rasanten Entwicklung künstlicher Intelligenz (KI)? Mit dieser Frage beschäftigt sich auch die Politik.

SPD-Chefin Saskia Esken hat sich nun für die Einrichtung einer Aufsichtsbehörde für den Einsatz von KI in Deutschland ausgesprochen.

Esken: KI könnte Bildung und Medizin verbessern

"Weil der Umgang mit Daten bei der Aufsicht eine bedeutende Rolle spielt, könnte der Beauftragte für den Datenschutz und die Informationsfreiheit eine gute Wahl sein. In jedem Fall brauchen wir eine Behörde, die beurteilt, ob der Einsatz von KI Recht und Gesetz folgt.", sagte Esken der Deutschen Presse-Agentur.

Die Politikerin kann der neuen Technik einiges abgewinnen. So berge sie großes Potenzial für gerechtere Bildung, bessere medizinische Versorgung und effizientere Verwaltung.

KI könnte "im höchsten Risikofall" verboten werden

Doch auch der Gefahren von KI ist sich die 61-Jährige bewusst.

So sieht es die SPD-Chefin gern, dass Deutschland und Europa nicht nur technologisch vorn dabei seien, sondern auch bei der Überlegung, wie man den Einsatz Künstlicher Intelligenz regulieren könne.

Die Europäische Union sei demnach auf dem Weg, eine Verordnung zur Regulierung zu entwickeln. "Im höchsten Risikofall könnte der Einsatz von KI-Modellen verboten werden", so Esken und führte aus: "In weniger, aber immer noch riskanten Bereichen könnte eine menschliche Letztentscheidung vorgegeben werden - und natürlich auch die Möglichkeit, Rechtsmittel einzulegen, also dagegen zu klagen, wenn ich eine Entscheidung für ungerechtfertigt halte."

Esken warnt vor Diskriminierung durch KI

Aufpassen muss man aus Sicht Eskens, dass Künstliche Intelligenz nicht Diskriminierung aus der Datenlage lernt. "Wenn eine Künstliche Intelligenz beispielsweise Karrierewege von Journalistinnen und Journalisten in den Medienhäusern analysieren würde, käme sie womöglich auf die Idee, nur Männer einzustellen, weil die erfolgreichsten Karrieren bisher von Männern gemacht wurden", erläuterte sie.

"Wir müssen dafür sorgen, dass Trainingsdaten von solcher Diskriminierung befreit werden oder gleich dafür sorgen, dass das Geschlecht bei der Auswahl keine Rolle spielt."