La démission du chercheur principal d’Anthropic, Jacob Coxon, qui avait lancé des avertissements à l’humanité, a également remis à l’ordre du jour les discussions sur l’aspect incontrôlable de la technologie. Dans La question de la technologie, publié en 1954, le philosophe Martin Heidegger ne considérait pas la technologie moderne comme un simple ensemble neutre d’outils utilisés par l’homme ; Il a souligné le danger de la pensée technologique qui considère le monde et les humains comme des « ressources » constamment prêtes à être utilisées. Un autre philosophe célèbre, Andrew Feenberg, a soutenu que la technologie n’est pas une force indépendante qui progresse inévitablement d’elle-même, mais que sa conception est façonnée par les intérêts sociaux et les relations de pouvoir, et a cherché la solution dans le contrôle démocratique de la technologie. Ces débats de fond sont à nouveau à l’ordre du jour avec une démission retentissante au sein de l’une des plus grandes sociétés mondiales d’intelligence artificielle.
« AUCUNE ENTREPRISE N’EST RESPONSABLE »
Jacob Coxon, 27 ans, qui a travaillé auparavant sur la formation de nouveaux modèles d’intelligence artificielle chez OpenAI et plus récemment chez Anthropic, a annoncé qu’il avait démissionné de son poste le 8 septembre. Coxon, qui a passé les trois dernières années dans deux entreprises, a déclaré que l’industrie se bat pour créer une super intelligence capable de s’améliorer et a accusé « Aucune entreprise n’agit de manière responsable ». Selon Coxon De nombreux développeurs d’intelligence artificielle pensent que ces systèmes pourraient constituer une menace existentielle pour l’humanité d’ici la fin de la décennie.
UN DÉBAT DE PHILOSOPHIE CENTENAIRE
Au centre des critiques du philosophe allemand Martin Heidegger se trouvait le fait que la technologie moderne modifiait la relation de l’homme avec le monde. Heidegger soutenait que la technologie moderne révèle la nature, et avec elle les humains, comme une « ressource prête » qui peut être organisée et utilisée. Le philosophe canadien de la technologie Andrew Feenberg a porté le débat ouvert par Heidegger dans le domaine social et politique à travers l’École de Francfort et notamment Herbert Marcuse. Selon Feenberg, les systèmes technologiques ne sont pas neutres. Les technologies peuvent véhiculer des valeurs sociales, des relations de pouvoir et les préférences des institutions qui les conçoivent. D’un autre côté, Feenberg a également soutenu qu’avec l’approche de « rationalisation démocratique », l’orientation de la technologie pourrait être modifiée par l’intervention des utilisateurs et de la société.
MÊME PRÉOCCUPATION DE BOSTROM À HINTON
Le philosophe d’Oxford Nick Bostrom a directement porté le débat sur la superintelligence. Dans son livre Superintelligence de 2014 Si les objectifs d’un système qui dépasse l’intelligence humaine ne peuvent pas rester compatibles avec les intérêts de l’humanité, un « problème de contrôle » surviendra. défendu. Geoffrey Hinton et Yoshua Bengio, éminents chercheurs en intelligence artificielle, ont également lancé des avertissements clairs sur le risque ces dernières années. Alors que Hinton a déclaré qu’il est très difficile de garder sous contrôle des systèmes plus intelligents que les humains, Bengio a déclaré qu’il craignait que la course à l’intelligence artificielle entre les entreprises et les États ne fasse passer la sécurité au second plan.
