Une étude publiée dans Daily Nous, l’une des publications philosophiques les plus populaires à l’échelle mondiale, a mis à l’ordre du jour le nouveau rôle de plus en plus controversé des sciences sociales à l’ère de la technologie. Des évaluations frappantes ont été incluses dans l’article d’analyse intitulé « Financement de la recherche externe, lavage de l’éthique et liberté académique positive » rédigé par Lisa Herzog, Marijn Hoijtink, Gijs van Maanen, Ann-Katrien Oimann et Linnet Taylor. Selon l’analyse, à mesure que les conséquences sociales des technologies qu’elles développent s’accroissent, les entreprises se tournent de plus en plus vers les spécialistes des sciences sociales et les universités. L’article incluait également l’affirmation selon laquelle les comités d’éthique financés par les entreprises donnaient souvent une apparence « éthique » aux décisions des entreprises. Dans le monde scientifique, les structures dotées de ce réseau de relations sont connues depuis un certain temps sous le nom de « comités d’autorisation éthique ».
LES MEMBRES DU CONSEIL D’ADMINISTRATION DANS LA VITRINE
L’un des exemples les plus frappants de l’article du Daily Nous est l’histoire d’une universitaire en droit nommée « Sarah », basée sur un cas réel. Un universitaire à qui on avait proposé des conseils en éthique sur un projet international de surveillance numérique a rejeté la tâche car il trouvait les objectifs du projet problématiques en termes de droits de l’homme et de droit. Malgré cela, il a appris plus tard que son nom avait été utilisé comme « consultant en éthique » lors du processus d’évaluation du fonds. Malgré le signalement de la situation à l’agence de financement, le projet s’est poursuivi. Dans le deuxième exemple, les recommandations éthiques d’un chercheur travaillant sur « l’intelligence artificielle responsable » étaient constamment neutralisées par les partenaires du projet. Selon les conclusions de l’article d’analyse, des experts en recherche sont inclus dans le comité d’éthique, l’entreprise peut dire «nous avons un audit éthique», Cependant, l’objection éthique ne dispose pas de véritable pouvoir de veto ni de pouvoir de réorientation. Ainsi, l’éthique devient partie intégrante de la vitrine de l’entreprise.
DES MILLIONS DE DOLLARS D’ÉTHIQUE !
Le débat en cours n’est pas nouveau. En 2019, la société Facebook a ouvert un fonds de recherche sur l’éthique de l’intelligence artificielle d’un montant de 7,5 millions de dollars, mais il s’est avéré que le comité d’éthique de l’Université technique de Munich «a publié un cadre éthique conformément à des objectifs prédéterminés». Basé aux USA en 2023 Le journal Washington Post a enquêté de manière approfondie sur l’impact financier des grandes entreprises technologiques du pays sur les comités d’éthique censés les superviser. À la fin de la recherche, il a été révélé que les mégaentreprises technologiques financent des études éthiques de manière à ne pas nuire à leurs propres activités.
LE SCANDALE DE GOOGLE EST DEVENU UN SYMBOLE
L’un des exemples les plus connus de ce qui peut arriver lorsque la recherche éthique entre en conflit avec les intérêts des entreprises est l’incident de Timnit Gebru chez Google. Gebru, l’une des responsables de l’équipe éthique d’IA de Google, a été licenciée après avoir signé une étude universitaire traitant de l’impact de l’intelligence artificielle sur les préjugés, les coûts environnementaux et les risques sociaux. Google a déclaré que l’article était intervenu suite à l’objection du comité d’éthique ; Lorsque Gebru a demandé les noms des membres du conseil d’administration, aucune réponse n’a été donnée. Peu de temps après, l’autre chef de l’équipe, Margaret Mitchell, a également été licenciée. Si ces cas ont fait appel à des experts en éthique d’entreprises technologiques, ils ont une fois de plus révélé ce qui peut arriver lorsque la recherche entre en conflit avec les orientations commerciales fondamentales d’une entreprise. Une étude du Financial Times de 2023 a également révélé que de grandes entreprises technologiques avaient réduit leurs équipes d’éthique de l’intelligence artificielle après l’incident de Gebru.
(email protégé)
