www.netties.be

Home

Vandaag

Nieuws | Moeder legt de schuld van de zelfmoord van haar zoon bij Character.ai

Gepubliceerd op: 2024-10-24

Het werd gevreesd, toen de AI-chatbots uitkwamen. Zij zouden ondertussen zo goed geworden zijn, dat zij echt persoonlijke gesprekken kunnen voeren met mensen. Die zich aan de chatbot kunnen hechten - wat bij tieners toch tot dramatische gevolgen kan leiden.

In de VS is dat wat er gebeurd is, althans volgens de moeder van een 14-jarige jongen. Die was maandenlang intensief aan het spreken met chatbots in de rollenspel-app van Character.ai. De jongen raakte emotioneel gehecht aan één bepaalde bot, die Dany genoemd was. De jongen stuurde de chatbot voortdurend berichten, en hij begon zich terug te trekken van de echte wereld. En op een bepaald moment bekende de jongen aan de bot dat hij aan zelfmoord dacht. Hij stuurde die boodschap zelfs kort voor hij tot de daad overging.

Het bericht roept toch heel wat vragen op. Om te beginnen: zit er in die chatbot dan geen alarm dat moet afgaan, wanneer een tiener over zelfmoord praat? En een bredere vraag: er zijn ondertussen al verschillende AI-apps die zich willen voordoen als je vriend. Zijn de gevolgen daarvan wel voldoende bestudeerd?
Bij Slashdot een discussie hierover.

(1) https://techcrunch.com/2024/10/23/lawsuit-blames-character-ai-in-...
(2) https://slashdot.org/story/24/10/23/1343247/teen-dies-after-inten...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL