Start-up Mit KI gegen Hass
Franziska Brandmann, die Vorsitzende der Jungen Liberalen, hat ein Start-up gegründet, um Hass im Netz einzudämmen und mehr Täter zu belangen. In der Pilotphase hat das Unternehmen schon prominente Mandanten gewonnen.
Für Roderich Kiesewetter sind Hassnachrichten wie diese Alltag: "Der Kiesewetter sollte sofort aufgehangen werden. Ungeziefer muss weg." "Wenn ich Dich Arschloch auf der Straße treffe, bist Du tot, Wichser."
Per Email und auf den sozialen Netzwerken bekommt der CDU-Bundestagsabgeordnete täglich Beleidigungen und Morddrohungen. Vor allem seit dem russischen Überfall auf die Ukraine 2022 wird der moskaukritische Außenpolitiker mit Verunglimpfungen überschüttet. Immer wieder hat er einzelne Hassbotschaften angezeigt, bislang mit wenig Erfolg.
Bösartigkeiten im Netz sind traurige Normalität. Für Opfer ist es nicht einfach sich zu wehren. Ermittlungen sind langwierig, wenn man Täter verklagen will, ist das teuer, und die schiere Menge an Hass und Hetz überfordert viele.
"Ein systematisches Problem mit Hass im Netz"
Franziska Brandmann will das ändern. Sie wurde selbst schon oft im Netz extrem beleidigt. Kurz nachdem sie 2021 zu Bundesvorsitzenden der Jungen Liberalen gewählt wurde, erlebte sie ihren ersten Shitstorm. Brandmann hatte eine Fernsehsendung wegen sexistischer Äußerungen kritisiert und wurde daraufhin auf Twitter, Instagram und per Email mit frauenfeindlichen Hasskommentaren überschüttet.
Sie war geschockt, fühlte sich ohnmächtig, war aber in der Folge auch nicht bereit, das einfach hinzunehmen. "Es gibt ein systematisches Problem mit Hass im Netz, aber keine systematischen Lösungen. Deshalb haben wir jetzt ein Unternehmen gegründet, um das systematisch anzugehen."
App für schnelle Anzeigen
Mit zwei Freunden - dem Datenwissenschaftler Marcel Schliebs und dem Anwalt Alexander Brockmeier - hat Brandmann ein KI-gestütztes Konzept entwickelt, um aus einem Wust von Hassnachrichten strafrechtlich relevante Kommentare herauszufiltern und schnell zur Anzeige zu bringen.
"So Done" haben die drei Gründer ihr Start-up genannt - ein Wortspiel, das ausdrücken soll, dass sie genug haben vom Hass und davon, dass viele Täter ungestraft davonkommen - und das Problem eben auch selbst erledigen wollen.
Ihre KI-Software haben sie Brandmann zufolge auf das deutsche Strafrecht trainiert und dazu unter anderem mehr als 250.000 Tweets händisch ausgewertet. Die Idee: Opfer müssen sich nicht mehr durch Massen an Hass wühlen, um die Kommentare zu finden, die tatsächlich justiziabel sind. Stattdessen bekommen sie eine relevante Auswahl und können dann entscheiden, was sie anzeigen wollen.
1000 Strafanträge im Monat
Schon vorher konnten Opfer bei Onlinehass Hilfe bekommen. Gemeinnützige Organisationen wie beispielsweise Hate Aid haben jährlich einige Hundert Beleidigungen angezeigt und auch erfolgreich Täter abgemahnt oder verklagt. Das Besondere ist nun die Masse, die "So Done" bearbeitet: Das Start-up stellt derzeit circa 1000 Strafanträge - im Monat. Es bündelt Strafanträge und meldet sie mit standardisierten Verfahren an die zuständige Staatsanwaltschaft oder Polizeibehörde.
In der Pilotphase seit 2023 hat das Trio 50 Mandanten gewonnen - darunter Bundesminister wie Robert Habeck von den Grünen, die FDP-Verteidigungspolitikerin Marie-Agnes Strack-Zimmermann, den SPD-Abgeordneten Ralf Stegner und Hendrik Wüst, den Ministerpräsidenten von Nordrhein-Westfalen von der CDU. Auch die Menschenrechtsaktivistin Düzen Tekkal, der Wissenschaftler Carlo Masala oder der Hoffenheimer Fußballprofi Marius Bülter lassen sich von Brandmanns Firma helfen.
Roderich Kiesewetter setzt nun ebenfalls auf diese Unterstützung. Gerade erst hat "So Done" für ihn 400 Anzeigen auf einmal an das Landeskriminalamt (LKA) in Baden-Württemberg übermittelt. Für die Behörden bedeutet das viel Ermittlungsarbeit, berichtet Andreas Taube, Leitender Kriminaldirektor im Staatsschutz des LKA. "Es geht weit über das hinaus, was wir normalerweise bearbeiten. Wir haben Personal zusammengezogen, um diese Masse abzuarbeiten."
Die Chancen, dass Täter ermittelt werden, stehen nicht schlecht - wenn Hassnachrichten schnell und mit gut aufbereiteten Beweisen - zum Beispiel rechtssicheren Screenshots - angezeigt werden. In der Vergangenheit lag die Quote laut Taube bei 70%. Brandmann bestätigt ähnliche Erfahrungswerte.
Überlastung der Behörden?
Durch Projekte wie "So Done" könnte das Meldeaufkommen allerdings weiter stark steigen - während viele Behörden mit Ressourcen- und Personalmangel kämpfen. "Im Moment schaffen wir das noch", sagt LKA-Staatschützer Taube, "aber es ist natürlich eine Herausforderung."
Die Start-up-Gründer wollen ihr Angebot nun auch für andere Betroffene öffnen. Durch Abmahnungen und zivilrechtliche Klagen finanzieren sie ihr Konzept. Von einer möglichen Geldentschädigung bekommt "So Done" fünfzig Prozent. "Das Charmante daran ist", findet Brandmann, "dass die Täter uns am Ende mit bezahlen."
Das Geld nutzen sie auch für neue Klagen, die Prozesskostenfinanzierung ist Teil des unternehmerischen Risikos. Heißt: wenn Täter nicht zahlen können, bekommt auch "So Done" nichts, obwohl die Firma in Vorleistung geht und das Ganze für die Opfer kostenlos ist. Bislang funktioniert es, sagt das Gründertrio.
Auf seiner Website veröffentlicht es erfolgreiche Fälle - für die Beleidigung "verbrauchte Lobbyhure" wurde beispielsweise ein Täter dazu verurteilt 1000 Euro an eine Mandantin zu zahlen, für ein "Arschloch" wurden 600 Euro fällig. Geld, das weh tun und auch der Prävention dienen soll: Es gehe es nicht in erster Linie darum, den Gewinn zu maximieren, betont Brandmann, sondern "die Abschreckung gegenüber den Tätern."