Le PDG d’Anthropic, Dario Amodei, a déclaré que la vitesse à laquelle les capacités des modèles d’intelligence artificielle sont développées doit désormais être gérée avec plus de prudence. Selon Amodei, à mesure que la technologie progresse rapidement, les mécanismes de sécurité ne peuvent pas se développer au même rythme, ce qui crée de sérieux risques dans le contrôle de systèmes de plus en plus performants. Amodei a spécifiquement souligné dans son article qu’il ne préconisait pas l’arrêt complet de l’intelligence artificielle. Il souhaitait plutôt que les progrès se poursuivent mais soient « ajustés » pour donner aux chercheurs le temps de développer des mesures de sécurité.
AUDITEURS INDÉPENDANTS
La première étape du plan d’Amodei concerne les évaluateurs de sécurité indépendants. En conséquence, les entreprises d’IA devraient permettre à des experts externes de travailler au sein de l’entreprise et d’examiner directement les pratiques de sécurité des modèles. Ces évaluateurs n’examineront pas seulement les rapports préparés par les entreprises ; L’entreprise sera en mesure d’auditer les systèmes, de modéliser les processus de développement et les incidents de sécurité qui peuvent survenir, avec un accès proche du niveau dont disposent les employés. Anthropic s’est engagé à mettre en œuvre cette application en interne.
NORME COMMUNE
Dans un deuxième temps, les entreprises développant l’intelligence artificielle devraient se mettre d’accord sur des normes de sécurité communes. Amodei recommande aux entreprises, en particulier celles opérant dans les pays démocratiques, d’établir des règles communes concernant la rapidité avec laquelle les modèles d’intelligence artificielle peuvent être développés. L’objectif principal de cette approche est d’empêcher les concurrents de prendre l’avantage en accélérant si une seule entreprise ralentit pour des raisons de sécurité.. Selon Amodei, les entreprises doivent rivaliser entre elles tout en respectant des limites de sécurité communes.
COOPÉRATION MONDIALE
La phase la plus difficile du plan est la coopération internationale. Amodei affirme qu’il ne suffira pas que les entreprises américaines et européennes ralentissent et que d’autres pays qui influencent le développement de l’intelligence artificielle devraient également être associés au processus.. Dans ce contexte, il est recommandé d’essayer de s’entendre sur certaines règles de sécurité avec des gouvernements autoritaires comme la Chine, ainsi qu’avec des pays démocratiques. Amodei donne l’exemple des interdictions internationales, notamment dans les domaines à haut risque comme le développement d’armes biologiques.
LE BUT N’EST PAS D’ARRÊTER
Amodei maintient également son point de vue selon lequel l’intelligence artificielle peut apporter de grands avantages à l’humanité. Déclarant qu’il s’agit d’une technologie qui peut apporter des avancées significatives dans de nombreux domaines, du traitement des maladies à la croissance économique, Anthropic CEO affirme que le principal problème est de contrôler les risques sans perdre ce potentiel.
