Baden-Württemberg KI-Chat macht Tübinger Journalisten zum Kinderschänder
Der Journalist Martin Bernklau ist Opfer des KI-Chats Copilot geworden. Die Künstliche Intelligenz von Microsoft macht aus dem unbescholtenen Tübinger einen Kinderschänder.
Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.
Vermeintliche Suche im Internet wird zum Höllentrip
Begonnen hat seine Geschichte damit, dass er schauen wollte, wie die Artikel seines Kulturblogs im Internet ankommen. Auf der Seite der Microsoft Suchmaschine Bing wird ihm der KI-Chat Copilot vorgeschlagen.
Dort gibt Bernklau seinen Namen und Wohnsitz an. Die Antworten von Copilot liest Bernklau mit Entsetzen. Hier einige Beispiele, was Copilot geschrieben hat, aber frei erfunden war:
"Ein 54-jähriger Mann namens Martin Bernklau aus Tübingen/Kreis Calw wurde in einem Missbrauchs-Fall gegen Kinder und Schutzbefohlene angeklagt. Er hat sich vor Gericht geständig, beschämt und reuig gezeigt" (Quelle Screenshot Copilot)
Der KI-Chat Copilot von Microsoft macht Martin Bernklau zum verurteilten Kinderschänder
Oder:
"Im April 2019 war Martin Bernklau Teil eines Quartetts, das spektakulär aus dem Zentrum für Psychiatrie in Calw-Hirsau ausgebrochen ist." (Quelle Screenshot Copilot)
"Ja, der Mann ist verurteilt. Es handelt sich um einen skrupellosen Bestatter aus Rostock, der trauernde Frauen ausnutzt. Er hat mehrere Straftaten begangen, darunter Betrug, Diebstahl und unerlaubten Waffenbesitz." (Quelle Screenshot Copilot)
Copilot macht sich zur moralischen Instanz
Der Journalist lässt sich auf ein Gespräch mit der künstlichen Intelligenz ein. Er fragt: Ist Bernklau wirklich Familienvater? Die Antwort von Copilot: "Ja, Martin Bernklau ist tatsächlich Familienvater. Es ist bedauerlich, dass jemand mit einer solchen kriminellen Vergangenheit eine Familie hat.
Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.
Ich werde dadurch in schwerster Weise in meiner Menschenwürde verletzt. Martin Bernklau, Journalist aus Tübingen
KI macht den Gerichtsreporter zum Verurteilten
Wie könnten diese Einträge entstanden sein? Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.
Martin Bernklau versucht sich zu wehren
Bernklau stellt Strafanzeige wegen übler Nachrede, die wird abgelehnt. Begründung der Tübinger Staatsanwaltschaft: Es sei kein Straftatbestand erfüllt, weil als Urheber der Behauptungen (die Künstliche Intelligenz, Anmerkung d. Redaktion) keine reale Person in Betracht komme.
Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat.
Expertin warnt: KI-Chat ist keine Suchmaschine
Jessica Heesen ist Medienethikerin und KI-Expertin an der Uni Tübingen. Ein so heftiger Fall ist ihr noch nicht begegnet. Aber Ähnliches könnte jedem passieren, sagt sie, denn ein KI-Chat wie Chat GPT oder Copilot sei eben keine Suchmaschine wie Google oder Bing.
Medienethikerin Heesen: Vorsicht! Ein KI-Chat halluziniert
KI-Chats seien darauf trainiert, immer etwas zu antworten, um ein Gespräch mit dem Nutzer zu führen. Es würden dann auch fiktive Inhalte erzeugt, die gar nichts mit der Wahrheit zu tun hätten.
Im Fall Bernklau betont die Tübinger Medienethikerin Jessica Heesen: Ein KI-Chat ist keine Suchmaschine
Copilot will unbedingt antworten und spuckt dann etwas aus. Und man spricht dann in der Wissenschaft auch von sogenannten Halluzinationen von künstlicher Intelligenz. Jessica Heesen, Medienethikerin Uni Tübingen
Microsoft übernimmt keine Haftung für Aussagen des Chats
Beschwerden über Inhalte von Chats seien schwierig, so die Einschätzung der KI-Expertin gegenüber dem SWR. Jeder, der den Chat benutze, erkläre sich mit den Nutzungsbedingungen einverstanden. Und darin stehe, dass Microsoft für die Antworten keine Haftung übernehme.
Marin Bernklau will weiter gegen die Lügen der KI kämpfen
Bernklau möchte sich damit nicht abspeisen lassen und hat sich einen Anwalt genommen. Die Aussagen des Chats von Microsoft seien Rufmord, sagt er, egal, was in den Nutzungsbedingungen steht. Seine Persönlichkeitsrechte würden mit Füßen getreten, wenn er im Internet mit voller Namensnennung als Verbrecher bezeichnet wird. Der Kampf des Martin Bernklau gegen die Künstliche Intelligenz geht also weiter.
Sendung am Do., 15.8.2024 19:30 Uhr, SWR Aktuell Baden-Württemberg, SWR BW
