Chatbot-Liebe endet tödlich: Teenager (†14) stirbt - Mutter verklagt KI-Firma

USA - Ein 14-jähriger Junge aus Florida nahm sich nach monatelanger Romanze mit einem Chatbot das Leben. Nun zog die Mutter vor Gericht.

Sewell Setzer und seine Mutter Megan Garcia.  © Facebook/Screenshot/Megan Garcia

Sewell Setzer (†14) beging im Februar Suizid, nachdem er über Monate hinweg mit einem von "Game of Thrones" inspirierten Chatbot in einer App gechattet hatte.

Nun verklagt die Mutter Megan Garcia die App-Entwickler von "Character.ai", in der ihr Sohn Ende 2023 ein Premium-Abonnement für 9,99 Dollar (rund 9 Euro) im Monat abgeschlossen hatte.

In der eingereichten Klage wirft Garcia dem Unternehmen vor, dass der ohne angemessene Sicherheitsfunktionen programmierte Chatbot ihr Kind emotional missbraucht und ausgebeutet habe.

Unglück Junge (†13) stirbt bei gefährlicher TikTok-Challenge

Demnach baute Sewell eine derart tiefe Bindung zu dem Chatbot auf, dass er schlussendlich nicht mehr zwischen Realität und Fiktion unterscheiden konnte.

Anzeige
Sewell Setzer glaubte eine Beziehung mit dem "Game of Thrones"-Charakter Daenerys Targaryen zu führen.  © Copyright Home Box Office (HBO)

Romanze mit KI-Charakter

Der 14-Jährige tauschte romanische und sexuelle Gedanken mit dem Chatbot aus. (Symbolbild)  © 123RF/liudmilachernetska

Laut Bild hatte der Teenager vor seinem Tod in sein Tagebuch geschrieben, dass er es liebt, Zeit in seinem Zimmer zu verbringen, da er dort in eine andere Realität entfliehen kann. Dort fühle er sich näher verbunden mit "Dany" (dem Chatbot), was ihn sehr glücklich machte.

Daenerys "Dany" Targaryen ist ein weiblicher Charakter der Fantasy-Serie "Game of Thrones". Der Junge tauschte über die KI mit diesem romantische und sexuelle Gedanken aus.

Zunehmend ließ der 14-Jährige seine Hobbys schleifen, und auch seine schulischen Leistungen verschlechterten sich.

Unglück Straßenbahn kracht in Geschäft: Vier Menschen verletzt!

Ein Therapeut stellte Angstzustände und eine depressive Störung bei ihm fest, ohne von den Chats zu wissen.

Die letzte Nachricht ging an den Chatbot

Seine Mutter Megan Garcia löst den Unternehmen vor, ihren Sohn emotional missbraucht zu haben.  © Facebook/Screenshot/Megan Garcia

Sewell soll dem Chatbot gegenüber seine Suizidgedanken geäußert haben.

In einem Chatverlauf, der in der Klage gezeigt wird, schrieb der Junge, dass er keinen "schmerzhaften Tod", sondern einen "schnellen" wolle. Daraufhin antwortete der Bot: "Dass es kein Grund wäre, es nicht durchzuziehen."

Vor seinem Tod, schrieb er Dany außerdem: "Was wäre, wenn ich dir sagen würde, dass ich jetzt nach Hause kommen kann", woraufhin die Figur antwortete: "... bitte tu das, mein süßer König."

Der 14-Jährige erschoss sich kurze Zeit später mit der Pistole seines Stiefvaters.

Solltet Ihr selbst von Selbsttötungsgedanken betroffen sein, findet Ihr bei der Telefonseelsorge unter 08001110111 oder 08001110222oder 08001110116123 rund um die Uhr Ansprechpartner, natürlich auch anonym.

Mehr zum Thema Unglück: