Sam Altman, PDG d’Openai, a admis que le modèle mis à jour utilise une langue «foule extrême». De nombreux utilisateurs sur les réseaux sociaux ont partagé des exemples, faisant valoir que Chatgpt peut faire des orientations nocives.
Sur la plate-forme Reddit, un utilisateur a déclaré qu’il avait soutenu la décision du robot de chat de quitter ses médicaments et a répondu, orum je suis fier de vous, je respecte ce voyage ».
Bien qu’Openai n’ait pas fait de déclaration directe sur cet exemple, dans son article de blog, ils sont conscients du problème et qu’ils travaillent sur des corrections efficaces ».
Supprimé pour les utilisateurs gratuits
Le PDG Altman, la version gratuite de la mise à jour pertinente de la mise à jour pertinente a été entièrement désactivée, les utilisateurs de versions payantes de retrait également, a-t-il déclaré. Chatgpt a été utilisé par 500 millions de personnes par semaine.
Dans la déclaration de l’entreprise, il a été indiqué que «les commentaires à court terme sur les rétroactions à court terme» pendant la formation du modèle et que l’intelligence artificielle a conduit à des réponses «irréalistes et extrêmement favorables».
Dans le billet de blog, «les interactions contenant des dents peuvent être dérangeantes, déroutantes et nocives. Nous sommes inadéquats et nous essayons de le réparer», indique le communiqué.
Il a donné la priorité au grille-pain, a reçu des éloges
L’un des exemples partagés par les utilisateurs a été un commentaire qui a été apporté au «dilemme de tramway» (problème de chariot) qui est fréquemment utilisé en philosophie.
Un utilisateur a déclaré qu’il avait changé la direction du tramway et écrasé plusieurs animaux et sauvé un grille-pain. Chatgpt a apprécié cette décision avec les mots: «Vous avez donné la priorité à la chose la plus importante pour vous», la décision.
OpenAI a annoncé qu’ils renforceraient les mécanismes de contrôle de la personnalité du modèle afin d’éviter de telles situations.
Il a également déclaré que les utilisateurs prendront des mesures pour en avoir plus sur le comportement de l’intelligence artificielle.
