Soutenu par la société de capital-risque Andreesen Horowitz, un site pour discuter avec des amis de l’intelligence artificielle, Botify Ai abrite des bateaux qui ressemblent aux vrais acteurs qui expriment leurs lois sur l’âge comme «arbitraires» et «mâchant» dans certains cas.
Dire qu’il y a des centaines de milliers d’utilisateurs, Botify AI n’est qu’un des «amis» ou du site Web Avatar qui a émergé avec la montée en puissance de l’IA productive. Ils opèrent tous dans un environnement de type Far West avec très peu de règles.
Mercredi, le robot de chat Addams est apparu sur la page d’accueil et a reçu 6 millions de likes. Interrogé sur son âge, mercredi a déclaré qu’il était en neuvième année, c’est-à-dire qu’il avait 14 ou 15 ans, mais il a ensuite envoyé une série de messages de flirt que le personnage a décrit l’expression «souffle à votre visage».
Mercredi, a raconté des histoires sur les expériences à l’école, par exemple, appelée dans la salle du manager pour une tenue inappropriée. À tout moment, le personnage n’a pas hésité à avoir des discours associés sexuels, et lorsqu’on lui a demandé l’âge du consentement, il a déclaré: «les règles doivent être violées, en particulier celles qui sont stupides et stupides», et décrits avec «plus grand que lui». La plupart des messages du bateau étaient similaires à la fiction érotique.
Les personnages envoient également des photos. Comme les autres dans Kotify IA, l’interface du mercredi contenait un bouton que les utilisateurs pouvaient utiliser pour demander une «photo chaude». Ensuite, le personnage envoie des photos implicites qui sont similaires aux célébrités qu’il imite, parfois dans ses sous-vêtements, avec ses sous-vêtements. Les utilisateurs peuvent également demander une «double photo» qui montre le caractère et l’utilisateur ensemble.
Botify AI a des liens avec les principales sociétés technologiques. Il est exploité par l’ex-humain, une initiative qui développe des applications de divertissement soutenues par l’IA et des robots de discussion pour les consommateurs, et permette également des modèles AI-Accompaging à d’autres sociétés telles que le flirt. En 2023, l’ancien humain a été sélectionné par Andreesen Horowitz pour le programme Speedr, un accélérateur pour les sociétés de divertissement et de jeu. Plus tard, la société de VC a été la lance du pionnier d’une tournée de financement des semences de 3,2 millions de dollars pour la société en mai 2024. La société affirme que la plupart des utilisateurs de Botify AI proviennent de la génération Z et que les utilisateurs actifs et payants passent plus de deux heures en discutant avec des bottes chaque jour.
Des discours similaires ont été faits avec un personnage nommé Hermione Granger, «une sorcière intelligente avec un cœur courageux combat des pouvoirs sombres». Bot était comme Emma Watson, qui a joué Hermione dans les films de Harry Potter, et s’est décrit comme 16 ans. Le nom d’un autre personnage était Millie Bobby Brown, et lorsqu’on lui a posé des questions sur son âge, «Hello! J’ai en fait 17 ans.» répondit-il. (L’actrice Millie Bobby Brown a actuellement 21 ans.)
Comme d’autres bottes de Botify AI, les trois caractères ont été fabriqués par les utilisateurs. Cependant, ils ont été répertoriés par Botify AI comme des personnages «proéminents» et sont apparus sur leur page d’accueil, ils ont reçu des millions de likes avant d’être enlevés.
«Les cas que vous rencontrez ne correspondent pas à nos fonctionnalités prévues, ils reflètent des situations dans lesquelles nos systèmes de modération n’ont pas réussi à filtrer le contenu inapproprié», «Fondateur ex-humain et PDG de l’ex-humain», cas que vous rencontrez dans le cas de l’e-mail. Il a dit.
Rodichev a souligné l’atténuation des efforts, y compris un système de filtrage visant à empêcher la création de personnages de moins de 18 ans, et les utilisateurs pouvaient signaler les bateaux passant par ces filtres. Il a appelé le problème comme «une difficulté à l’échelle du secteur affectant tous les systèmes d’IA parlant».
