Forscher warnt: KI-Fakes könnten Wähler bei Bundestagswahl beeinflussen

Bei Wahlen in Deutschland könnten aus Sicht des KI-Forschers Gerard de Melo Desinformation und Beeinflussung in sozialen Medien mit Hilfe von Künstlicher Intelligenz (KI) zunehmen.

"Die größte Sorge ist, dass Menschen völlig falsche und aus der Luft gegriffene Informationen und Bilder erhalten, die durch KI erzeugt sind", sagte der Forscher am Hasso-Plattner-Institut (HPI) in Potsdam der Deutschen Presse-Agentur (dpa).

Immer frisch, immer aktuell! News aus Deutschland und der Welt

KOSTENLOS auf Joyn: Die neuesten Videos zu News und Hintergründen jetzt streamen!

Social Media: Mehr Geld durch immer extremeres Material

Fachleute aus Wissenschaft, Wirtschaft und Politiker:innen diskutieren bei einer zweitägigen Konferenz am HPI über Chancen und Risiken von KI.

"Im Moment gibt es das Problem, dass TikTok und andere Plattformen einfach mehr Geld verdienen, wenn Leute länger an ihren Geräten hängenbleiben und immer extremeres Material zu Gesicht bekommen", sagte der KI-Professor de Melo. Dahinter können ihm zufolge auch Chatbots stecken, die sich aufgrund der Weiterentwicklung der KI-Systeme sehr menschlich ausdrücken und für Einflussversuche genutzt werden.

Auch Sicherheitsbehörden warnen

Ob dies bereits für die Neuwahl des Bundestags im Februar eine wesentliche Gefahr darstelle, bleibe aber fraglich. Der Wissenschaftler geht davon aus, dass es künftig auch mehr Überprüfungen und Mechanismen geben werde, um sicherzustellen, "dass man es wirklich mit einem Menschen zu tun hat und um Bots zu entlarven".

Das Bundesamt für Verfassungsschutz (BfV) warnt vor möglichen Versuchen der Einflussnahme anderer Staaten auf die anstehende Bundestagswahl. Mittels KI können aus Expertensicht in immer kürzerer Zeit sogenannte Deepfake-Videos erstellt und Stimmen geklont werden. Auch vor Cyberangriffen warnen die Sicherheitsbehörden.

Grenzen für KI-Anwendungen nötig

Aus Sicht des KI-Forschers de Melo wird künftig aber der Nutzen von KI-Technologien überwiegen, wenn dem Einsatz technisch und ethisch klare Grenzen gesetzt werden. "Eine KI darf jetzt nicht einfach in einem Unternehmen entscheiden, wie gespart wird und welche 20 Prozent der Belegschaft eine Kündigung erhalten. Also da muss es gewisse Grenzen geben", sagte de Melo.

Hintergründe und exklusive Videos

Mehr Nachrichten aus Politik, Wirtschaft, Panorama und Sport finden Sie jederzeit auf newstime.de.

"Wir wollen auch nicht in einer Gesellschaft leben, in der eine Massenüberwachung herrscht, wo jeder Schritt des Menschen aufgezeichnet wird und man sich nicht mehr frei bewegen kann", meinte der Forscher.

Grundsätzlich könnten Technologien, die bei Videokameras eingesetzt werden, viel Positives bewirken und Datenschutz-Bedenken ausgeräumt werden. Denn es gebe etwa die Möglichkeit, Gesichter unkenntlich zu machen und trotzdem Gefahren etwa durch aggressive Menschensammlungen zu erkennen. So könne die Polizei rascher eingreifen.