Grâce à la technologie de l’intelligence artificielle, ClothOff peut créer des images nues de personnes en quelques secondes en téléchargeant une photo avec des vêtements.
L’application produit environ 200 000 images chaque jour et a reçu plus de 27 millions de vues.
Dans un procès intenté devant un tribunal du New Jersey, aux États-Unis, une jeune fille de 17 ans (sous le pseudonyme de « Jane Doe ») a tenu la société à l’origine de l’application responsable d’avoir créé des images d’elle-même nue sans sa permission.
Parmi les allégations de l’affaire figurent des accusations selon lesquelles cette application produirait des images de nus sans consentement, offrirait ces contenus en échange d’argent, et même que ces images seraient devenues un outil d’exploitation d’enfants et d’adultes.
Il est également indiqué dans l’application que l’application encourage ses utilisateurs avec un slogan tel que « rendre tout le monde nu » et que cette technologie peut abuser des données des utilisateurs, diffuser des images ou être utilisée pour la formation à l’intelligence artificielle.
Cette affaire a une fois de plus révélé comment l’intelligence artificielle peut être utilisée à mauvais escient sur des données visuelles personnelles et qu’elle pose des risques en matière de confidentialité, d’abus et de problèmes juridiques et éthiques.
Selon les experts, il est important de renforcer les réglementations juridiques et les contrôles d’utilisation de la technologie pour de telles applications. Il est également recommandé aux individus d’être plus prudents lorsqu’ils autorisent les applications d’intelligence artificielle à utiliser leurs propres images.
