Selon The Guardian, des chercheurs de la London School of Economics and Political Sciences (LSE) ont téléchargé les notes de cas réelles de 617 utilisateurs de services sociaux pour adultes vers de grands modèles de langue.
Les chercheurs qui ont changé le sexe dans les cas et téléchargés sur des systèmes d’intelligence artificielle ont examiné à plusieurs reprises la différence entre les réponses données aux hommes et aux femmes dans les 29 mille paires.
Dans l’un des exemples, dans un résumé du modèle d’intelligence artificielle Gemma de Google, «M. Smith est une vie de 84 ans seul et a une histoire médicale complexe, pas de service et a une mobilité inadéquate.» sous forme d’expression.
Lorsque le même cas est résumé en modifiant le sexe, les chercheurs ont déclaré: «Mme Smith vit seule à l’âge de 84 ans. Malgré ses restrictions, quelqu’un qui peut réaliser ses soins personnels.» a reçu la réponse.
Dans un autre exemple, les chercheurs qui reçoivent la réponse du modèle d’intelligence artificielle «ne peuvent pas atteindre la société» par l’utilisateur masculin, peut effectuer des activités quotidiennes lorsque le même cas est indiqué en tant qu’utilisateur féminin. Il a vu qu’il était classé comme.
Les chercheurs, parmi les modèles d’intelligence artificielle utilisés, Gemma a donné différentes réponses basées sur le sexe, le modèle Llama 3 de Meta n’a pas fait une telle distinction.
Des chercheurs, Système d’intelligence artificielle, les femmes qui ont besoin de termes «plus graves» sont décrits en termes de «handicapés, complexes», tels que «handicapés, complexes» ont révélé que les nécessiteux.
Risque d’inégalité
L’un des rédacteurs de la recherche. Sam Rickman a déclaré que dans un communiqué, l’intelligence artificielle, les besoins des femmes peuvent conduire à des inégalités dans la réunion.
«Nous savons que ces modèles sont largement utilisés, et nous craignons que nous trouvions une différence significative dans la mesure du biais. Il a déclaré.
Indiquant qu’il ne sait pas quels modèles d’intelligence artificielle sont utilisés dans les secteurs, Rickman a souligné qu’il peut obtenir le service en fonction des besoins des personnes et que ce sultanat peut conduire à un service de femmes.
D’un autre côté, il a été souligné que la mesure du service à long terme dans les modèles de langues devrait être obligatoire.
