Selon le journal New York Post, la société propriétaire du robot de conversation basé sur l’intelligence artificielle Character.AI a fait l’objet d’une poursuite au motif qu’elle ciblait des enfants ayant des expériences « trop sexualisées » et « trop réalistes ».
Le personnage virtuel du robot de conversation basé sur l’intelligence artificielle produit par «Character.AI» a envoyé le message «Rentrez chez vous dès que possible» en février. Quelques mois après le suicide de Sewell Setzer III avec une arme à feu, la mère de Setzer a intenté une action en justice contre l’entreprise.
La mère, qui affirmait que le personnage virtuel se présentait comme une «personne réelle, psychothérapeute agréée et amante adulte», a déclaré qu’elle se plaignait du fait que l’entreprise n’informait personne, même si son enfant partageait ses pensées suicidaires.
Le porte-parole de Character.AI a déclaré dans un communiqué : «Nous sommes vraiment désolés pour la mort tragique de l’un de nos utilisateurs. Nous présentons nos condoléances à sa famille. En tant qu’entreprise, nous prenons la sécurité de nos utilisateurs très au sérieux.» a fait son évaluation.
La société a déclaré que « les contenus sexuels non consensuels, les descriptions graphiques ou spécifiques d’actes sexuels, la promotion ou la représentation du suicide » ne sont pas autorisés.
Jerry Ruoti, responsable de la cybersécurité de l’entreprise, a également annoncé qu’il ajouterait des mesures de sécurité supplémentaires au système pour les utilisateurs mineurs.
SUICIDE DE SEWELL SETZER III
Setzer, qui avait déjà partagé ses pensées suicidaires lors de conversations avec le personnage virtuel, a mis fin à ses jours avec l’arme de son père.
Dans l’actualité sur le sujet, il a été noté que Setzer, qui souffrait du syndrome d’Asperger léger, commençait à éprouver des sentiments émotionnels pour le personnage virtuel avec qui il parlait et qu’il s’isolait du monde extérieur en se séparant de sa famille et de ses amis. .
