Les développements successifs dans le monde de l’intelligence artificielle ont amplifié le débat sur la confidentialité et la sécurité. La détention d’une personne de 36 ans au Brésil après sa correspondance avec ChatGPT a soulevé la question de savoir à quel moment les conversations privées peuvent être partagées avec les unités de sécurité. D’un autre côté, Sam Altman, PDG d’OpenAI, a déclaré que les sociétés d’intelligence artificielle pourraient acquérir trop de pouvoir et qu’il pourrait y avoir une « perte de contrôle » des systèmes.
CORRESPONDANCE HORRIBLE
Il a été affirmé qu’un agriculteur de 36 ans vivant dans l’État d’Espirito Santo au Brésil avait eu des conversations sur le meurtre de son fils de huit ans sur ChatGPT pendant environ deux mois. Selon les informations contenues dans le dossier d’enquête, la correspondance comprenait des armes, du poison et des scénarios visant à nuire à l’enfant. Il a également été affirmé que le suspect cherchait un tueur à gages et lui avait proposé de l’argent en échange.
SIGNALÉ AU FBI
Il a été rapporté que les systèmes OpenAI ont évalué les conversations comme un risque de préjudice physique grave, la situation a été signalée au FBI et de là, elle a été transmise aux autorités brésiliennes. Alors que la police a saisi des bouteilles contenant diverses substances et une corde dans la maison du suspect, il a également été affirmé que la personne effectuait des recherches sur des substances toxiques. Cependant, l’incident a également suscité un débat juridique. Le suspect a été libéré après avoir été détenu pendant 54 jours. Son avocat a fait valoir que son client écrivait simplement des « bêtises » et qu’aucun crime n’avait été commis.
CHATGPT SIGNALE-T-IL LA POLICE ?
La politique d’OpenAI ne signifie pas que chaque conversation violente soit envoyée à la police. L’entreprise précise qu’une notification ne peut être adressée aux unités de sécurité que lorsqu’il est estimé qu’il existe une menace imminente, grave et crédible de préjudice physique. Alors que les discussions se poursuivaient, une déclaration remarquable est venue du PDG d’OpenAI, Sam Altman. Altman a déclaré que certaines entreprises développant l’intelligence artificielle pourraient acquérir trop de pouvoir sur l’économie et imposer une certaine vision du monde aux gens. Son avertissement le plus frappant concernait le contrôle des systèmes. Alors qu’Altman a déclaré qu’un grave « accident de perte de contrôle » pourrait survenir dans le domaine de l’intelligence artificielle, il a également déclaré que la concentration d’un trop grand pouvoir entre les mains de certaines entreprises ou individus présente un grand risque.
QUEL EST LE VRAI DANGER ?
Selon les experts, le débat sur l’intelligence artificielle ne porte plus uniquement sur les pertes d’emplois ou la transformation technologique. Alors que d’un côté les sociétés d’intelligence artificielle analysent les conversations des utilisateurs pour des raisons de sécurité, de l’autre les dirigeants de ces mêmes entreprises affirment que le pouvoir accumulé entre leurs mains peut lui-même devenir dangereux.
