KI in der Trauerarbeit Wenn Tote durch Avatare ersetzt werden
KI hat nicht nur Einzug in alle Lebensbereiche gehalten, sondern auch in den Tod: etwa in Form von Avataren, die es ermöglichen sollen, nach dem Tod mit "digitalen Zwillingen" der Verstorbenen zu kommunizieren.
Als Michael Bommer beschließt, nach seinem Tod als Künstliche Intelligenz weiterleben zu wollen, hat er Darmkrebs im Endstadium. Seine Hoffnung: Ein KI-Start-up im Silicon Valley, das virtuelle Unsterblichkeit verkaufen will.
Noch zu Lebzeiten beginnt Bommer, der selbst in der Tech-Industrie tätig war, eine KI anzutrainieren und den Algorithmus mit so vielen Informationen über sein Leben wie nur möglich zu füttern. ARD Wissen hat ihn bis zum Tod begleitet und erzählt seine Geschichte.
"Digitaler Zwilling"
Wie aber funktioniert diese Technologie? Und welche Gefahren gehen damit einher? Die Webseite des Start-ups Eternos, das den Service mitunter anbietet, liest sich wie der Klappentext einer Science-Fiction-Serie aus den frühen 2000ern. Ein "digitaler Zwilling" soll unsere Stimme, unser Wissen, unser Vermächtnis "mit der Welt teilen" und "jederzeit spürbar" machen - auch, wenn es uns schon längst nicht mehr gibt.
Dieser Zwilling, eine generative KI, will angelernt und mit Informationen gefüttert werden. Dafür werden allerhand Daten gesammelt, die Betroffene selbst und gezielt teilen können. Sprachmemos, Chatverläufe, Informationen zum Privatleben, zum beruflichen Werdegang, zu Vorlieben oder Abneigungen. Auch frei zugängliche Daten aus dem Netz können eingespeist werden. Das Versprechen der App: Trauernde sollen, solange sie wollen, mit einem Abbild der verstorbenen Person kommunizieren können.
Einfluss auf den Trauerprozess
Aber welchen Einfluss hat das auf Hinterbliebene, auf trauernde Angehörige und Freunde der Verstorbenen? Und macht das einen Abschied wirklich leichter?
Trauer sei immer ein individueller Prozess, sagt Katrin Döveling. Sie lehrt als Medienpsychologin an der Hochschule Darmstadt und vertritt das sogenannte Duale Prozessmodell der Trauerbewältigung. Trauer wird hier nicht als linearer Prozess gesehen, sondern als Wechselspiel von Phasen, in denen Verlustgefühle dominieren und zukunftsgewandten Phasen, in denen Trauernde lernen, ein neues Leben aufzubauen und die Beziehung zur verlorenen Person umzudeuten.
Dabei, sagt Döveling, könne KI unter Umständen vorteilhaft sein. Etwa zu Jahrestagen, Geburtstagen oder bestimmten Feiertagen: "Die Hinterbliebenen haben dann oft das starke Bedürfnis, sich an die verstorbene Person zu wenden. Ein digitaler Avatar kann die Möglichkeit bieten, diese Intimität, diese erwünschte Nähe, aufzubauen." Ein banaler Vorteil sei, dass die trauernde Person, wenn auch in einem symbolischen Akt, im Gespräch mit der KI noch loswerden könne, was sie auf dem Herzen habe.
Ungeklärte Fragen und Gefahren
Das wiederum werfe jedoch weitere Fragen auf, sagt Karsten Weber, Co-Leiter des Instituts für Sozialforschung und Technikfolgenabschätzung (IST) an der OTH Regensburg. "Wer spricht da eigentlich? Ist das womöglich nicht sehr viel mehr als eine erweiterte, mit einer etwas eleganteren Sprachführung ausgestattete Suchmaschine?" Weber bezweifelt, ob ein derartiges System im Trauerprozess wirklich Sinn ergibt. "Ich kann mir vorstellen, dass ein von Herzen geschriebener Brief hier wesentlich hilfreicher wäre", sagt er.
Auch aus psychologischer Sicht bestehen Gefahren, sagt Katrin Döveling. Etwa, dass Betroffene in der Trauerphase verharren: "Sich immer wieder an den Verstorbenen zu wenden, fördert nicht unbedingt, dass man raus in die Welt geht und sein Leben lebt." Ebenso zu hinterfragen sei der Inhalt der Antworten des Avatars. Ist das, was Trauernde von der KI hören, wirklich im Sinne der Verstorbenen und der Hinterbliebenen? "Was, wenn der Avatar etwas sagt, das nicht verständlich ist oder vielleicht alte Wunden aufwühlt?" Das könne dem Trauerprozess schaden, sagt Döveling.
Avatare als digitale Wunschbilder
Egal, wie vermeintlich authentisch eine KI daherkommen mag: Ein derartiger Avatar bleibe ein manipuliertes, fremdbestimmtes Abbild, sagt auch Jessica Heesen, Medienethikerin an der Universität Tübingen.
Bei digitalen Abbildern handle es sich um Wunschbilder, ja um Projektionen. Einerseits der verstorbenen Person, die dem Algorithmus nur gezielte Informationen geliefert hat, aber auch der Hinterbliebenen, die gezielt eine Illusion der verlorenen Person aufrechterhalten wollen. Das beeinflusse den Trauerprozess, sagt Heesen. Es sei wichtig, die Trauernden zu schützen, etwa dadurch, dass sie selbst darüber entscheiden können, wie sie ihren Trauerprozess gestalten. Auch das Thema Kinder- und Jugendschutz müsse geklärt werden.
Fragwürdig seien auch kostenfreie Angebote, die werbefinanziert sind. Avatare oder Bots können Falschaussagen machen, die Hinterbliebene sowie Verstorbene schädigen könnten, sagt Heesen. "Ich stelle mir auch die Frage: Wann wird ein Chatbot oder Avatar abgestellt? Ist das eine Art zweiter Tod? Wer entscheidet darüber?" Was zur nächsten Frage überleitet: Was passiert mit den gesammelten Daten? Werden die benutzt, um weitere KI-Modelle anzutrainieren? All das sei nicht geklärt. Der Umgang mit Daten berühre sensible Persönlichkeitsrechte, sagt auch Karsten Weber. Er sehe im Umgang mit KI derzeit noch zu viele Fragezeichen.
KI-Double im Monatsabo
Letztlich kommt auch ein ökonomischer Faktor ins Spiel. Werbefreie Angebote kosten Geld - neben einer Startgebühr wird ein monatlicher Fixpreis fällig, wie bei einem Streaming-Abonnement. Das KI-Double muss aus ökonomischer Sicht also möglichst effizient die Wünsche und Sehnsüchte der Anwenderinnen bedienen, um diese auch langfristig an sich zu binden und zu dauerhaften Geldgebern zu machen.
Ein Kritikpunkt, den auch Karsten Weber sieht. Gerade im Alter haben viele Menschen ein ausgedünntes soziales Netzwerk, sagt er. Stirbt dann der Partner oder die Partnerin, stehen Betroffene vor einer existenziell herausfordernden Situation. Unterstützung von einer KI zu erhalten, sei dann verlockend. "Wir sprechen dabei von einem 'technological fix'. Das heißt: Wir versuchen, ein soziales Problem mit Technik zu lösen, statt das soziale Problem zu lösen, indem wir verhindern, dass Menschen vereinsamen. Indem wir verhindern, dass soziale Netzwerke zusammenbrechen. Indem wir sicherstellen, dass Menschen in solchen Situationen ausreichend Unterstützung erhalten."
Zurück zu Michael Bommer, der dem Krebs mittlerweile erlegen ist. Bereits im Vorfeld gab seine Frau an, die Technologie nur zu nutzen, solange es ihr gut damit gehe. Ihren Mann ersetzen und am Leben halten, das könne die KI nicht. Dennoch, sagt sie, sei es beruhigend, auf die Technik zurückgreifen zu können - etwa, um verblassende Erinnerungen aufzufrischen, oder wenn die Sehnsucht nach ihrem Mann besonders groß wird.
Mehr zu diesem Thema sehen Sie in der Dokumentation "Mein Mann lebt als KI weiter - Lieben und Sterben mit Künstlicher Intelligenz" in der ARD-Mediathek.