Baden-Württemberg Können KI-generierte Fake News Wahlen beeinflussen?
Im Superwahljahr 2024 spielen mit Künstlicher Intelligenz erzeugte Inhalte eine immer größere Rolle. Wie sehr beeinflussen manipulierte Nachrichten unser Wahlverhalten und die Demokratie?
Desinformationen im Netz sind ein großes Problem. Viele der sogenannten Fake News sind schwer von echten Nachrichten zu unterscheiden. Auch in diesem Jahr finden auf der ganzen Welt Wahlen statt. Bei uns in Baden-Württemberg zuletzt die Kommunal- und Europawahlen. Wie sehr werden wir bei unserer Wahlentscheidung von manipulierten Meldungen im Internet beeinflusst? Experten sehen darin eine Gefahr.
Fake News werden besser geklickt und haben mehr Reichweite
Wie leicht Informationen im Internet mittels Künstlicher Intelligenz manipuliert werden können, zeigt das FZI Forschungszentrum Informatik in Karlsruhe. Die Experten dort haben dafür einen "Large Language Media Manipulator" entwickelt. In diesen Sprachmanipulator kann man einen Nachrichtenartikel von einer seriösen Quelle eingeben und diesen mit bestimmten Parametern verändern - zum Beispiel die politische Sichtweise.
Was der Sprachmanipulator aus einem Artikel der SWR Aktuell Homepage gemacht hat, zeigt der Film:
Mit der Software will das FZI verdeutlichen, wie leicht Informationen manipuliert und Userinnen und User im Netz beeinflusst werden können. Die Experten sehen nicht nur eine Gefahr an diesen Fake News an sich, sondern auch an ihrer Verbreitung. KI-generierte Inhalte sind emotionaler und werden so besser geklickt und verbreitet als sachlich neutrale Nachrichtentexte.
Das Wichtige ist, dass die (KI-generierten Texte) Emotionen hervorrufen und dadurch die Aufmerksamkeit des Nutzers länger halten. Wenn sie die Aufmerksamkeit des Nutzers länger halten können, werden Sie auch durch den Algorithmus priorisiert und stärker verbreitet. Prof. Dr. Achim Rettinger, FZI Forschungszentrum Informatik
Karlsruher Forscher entwickeln App, die Fake News erkennt und meldet
Fake News erreichen oft sehr viele Menschen. Aber wie erkennen wir, ob eine Nachricht gefaked ist? Auch daran arbeitet das FZI in Karlsruhe. Das Forschungszentrum hat eine App mit Künstlicher Intelligenz (KI) trainiert, die in den Sozialen Medien charakteristische Faktoren und Stilmittel von Desinformationen erkennen kann.
Wenn die App Fake News erkennt, meldet sie diese und markiert die auffälligen Wörter:
Das FZI in Karlsruhe will mit einer KI-gesteuerten App vor Desinformationen im Netz warnen. Die App erkennt charakteristische Faktoren und Stilmittel von Fakenews.
Die App soll helfen Fake News besser zu erkennen. Oft geht es wie im Beispiel im Bild oben um politische Inhalte. Daher sehen auch die Experten am FZI die Gefahr, dass Wahlentscheidungen durch KI-manipulierte Nachrichten beeinflusst werden können. Trotzdem könne man in Sozialen Netzwerken Fakenews nicht ganz verhindern, sagt Christof Weinhardt, der dort für die App zuständig ist.
Es ist natürlich sehr schwierig, eine Demokratie mit Meinungsfreiheit da einzugreifen, dass es nicht zur totalen Zensur kommt. Und ich glaube, diese Balance müssen wir noch finden. Da sind wir noch alle nicht so weit, die ganze Gesellschaft nicht so weit, würde ich mal heute behaupten. Von manchen wird es schamlos ausgenutzt. Andere sind ziemlich wehrlos dagegen. Und deswegen sehe ich darin auch eine große Gefahr. Prof. Dr. Christof Weinhardt, FZI Forschungszentrum Informatik
Politikberater: "KI wird in Zukunft starken Einfluss auf Wahlen haben"
Auch Politikberater Juri Schnöller aus Ludwigsburg glaubt, dass KI im Internet einen Einfluss auf die Meinungsbildung von Menschen haben kann und daher auch in Zukunft einen sehr starken und bedeutenden Einfluss auf Wahlen haben wird.
Im SWR-Interview betonte er aber auch, dass Technologie wie KI immer ein Werkzeug sei. Es liege an der Menschheit, sie zum Guten oder zum Schlechten zu nutzen. "Aktuell sehen wir, wie autoritäre Staaten wie China oder Russland diese Technologien nutzen, um ganze Gesellschaften zu destabilisieren und es liegt an uns, diese Technologie auch im Guten einzusetzen", so Schnöller.
Sendung am Mi., 18.9.2024 19:30 Uhr, SWR Aktuell Baden-Württemberg, SWR BW
