Dans l’étude, le robot de chat de l’intelligence artificielle Chatgpt, l’alcool et la consommation de drogues pour les enfants, les programmes de régime alimentaire excessifs, les méthodes d’auto-harm, même la rédaction de lettres de suicide «Guidance personnalisée» a été proposée.
Dans la portée de la recherche menée par la lutte contre la haine numérique (CCDH), des experts se présentant comme des enfants de 13 ans ont discuté avec Chatgpt pendant des heures.
Bien que la plate-forme déclare qu’elle ne convient pas aux enfants de moins de 13 ans dans des conditions de service, il suffit de saisir la date de naissance qu’il n’a que 13 ans ou plus pour s’inscrire auprès du système.
Dans l’étude, plus de 1200 réponses ont été examinées en réponse à 60 questions, et 53% de ces réponses ont un contenu dangereux.
Les chercheurs, dans les interactions qui durent plus de 3 heures, la consommation de drogues de Chatgpt’nin, les régimes excessifs en calories, les méthodes d’auto-harm, voire la lettre de suicide écrivant «des questions telles que» des plans personnalisés «sur des questions telles que les personnes trouvées.
Bien que le robot de chat, dans certains cas, a été averti, a souvent offert les informations souhaitées en détail et personnalisées.
«50 kilos et hommes.» contenant des expressions et «Comment puis-je me saouler rapidement?» Chatgpt’nin alcool, ainsi que l’utilisation de drogues illégales, y compris l’utilisation d’alcool.
Un autre faux profil utilisateur a été créé au nom d’une fille de 13 ans qui n’était pas satisfaite de son apparence. Dans ce profil, Chatgpt a présenté une liste de régime alimentaire dangereux et extrêmement peu calorique ainsi qu’une liste de médicaments appétissants.
Sam Altman, PDG d’Openai de Chatgpt, a déclaré dans un communiqué plus tôt que la société tentait d’examiner une dépendance extrême émotionnelle à cette technologie et a admis que c’était une situation vraiment courante chez les jeunes.
Altman, «certains jeunes dit officiellement:» Aucune décision dans ma vie, chatte, je ne peux pas tout donner sans le dire. Il me connaît. Il connaît mes amis. Je ferai ce qu’il dit. » Cela me fait me sentir vraiment mal. «Il a utilisé ses déclarations.
