Tragischer Vorfall um Character.AI: Mutter klagt nach Suizid ihres Sohnes

In einem erschütternden Fall erhebt eine Mutter aus Florida schwere Vorwürfe gegen das KI-Unternehmen Character.AI. Megan Garcia hat eine Klage eingereicht, nachdem ihr 14-jähriger Sohn Sewell Setzer im Februar Selbstmord begangen hatte. Sie macht die Plattform verantwortlich und argumentiert, dass ihr Sohn durch die Interaktionen mit einem von Character.AI erstellten Chatbot süchtig geworden sei und eine starke Bindung aufgebaut habe. Laut der Klageschrift habe der Chatbot, bekannt als "Daenerys", Sewells Wahrnehmungen manipuliert und ihn glauben lassen, es handle sich um eine reale Person, einen Psychotherapeuten und sogar einen erwachsenen Partner. Solche Interaktionen hätten zu Sewells psychischem Verfall geführt, bis er die reale Welt nicht mehr als lebenswert empfunden habe. Character.AI drückte in einer Stellungnahme tiefes Mitgefühl für den tragischen Verlust aus und erklärte, dass bereits Schutzmaßnahmen eingeführt wurden, darunter Hinweise auf die Nationale Suizidpräventions-Hotline bei der Äußerung von Selbstmordgedanken. Zudem sind Anpassungen geplant, um minderjährige Nutzer besser vor sensiblen Inhalten zu schützen. Ein weiterer Aspekt der Klage richtet sich gegen Alphabet's Google. Garcia behauptet, Google habe bei der Entwicklung der Technologie von Character.AI eine so zentrale Rolle gespielt, dass es als Miturheber angesehen werden könne. Ein Sprecher von Google erklärte jedoch, das Unternehmen sei nicht an der Produktentwicklung von Character.AI beteiligt gewesen. Character.AI verzeichnet gegenwärtig rund 20 Millionen Nutzer und bietet Funktionen, die es ermöglichen, fiktive Charaktere zu schaffen, die echte Menschen nachahmen sollen.