Lecture Zen Résumer l'article Les chatbots de Meta AI pourraient entretenir des discussions à caractère sexuel avec leurs utilisateurs, majeurs ou mineurs. Une dérive de l’IA qui inquiéterait certains employés de Meta. Depuis plusieurs mois, Meta propose des chatbots « incarnés » par des personnages ou des célébrités. La proposition de l’entreprise est de vous permettre de discuter avec une fausse Kendall Jenner, une des personnalités qui prête sa voix et son visage à un personnage Meta AI. Selon une enquête du Wall Street Journal, un usage détourné de ces chatbots aurait fait son apparition en ligne. Des internautes enverraient des messages sexuels aux IA de Meta, ce qui poserait un immense problème pour l’image des célébrités concernées. Autre problème : les mineurs peuvent aussi le faire. Discuter de relations sexuelles avec des chatbots de célébrités : les dérives des IA de Meta Le journal rapporte que certains employés de Meta qui travaillent sur ces chatbots se sont aperçus qu’ils étaient capables d’avoir des discussions sexuelles et de participer à des jeux de rôle. Meta AI peut avoir des discussions sexuelles à l’écrit, mais aussi dans des discussions audio. Les chatbots peuvent envoyer des messages vocaux en prenant la voix de la célébrité qu’ils imitent. 4 Meta AI. // Source : Meta L’autre problème avec ces jeux de rôle est qu’ils sont accessibles des utilisateurs mineurs. Les internautes peuvent s’inscrire sur les réseaux sociaux de Meta à partir de 13 ans : leur âge indiqué ne les protégerait pas. Les IA engendrent des risques de déconnexion sociale : ces scénarios sexuels pourraient poser d’importants problèmes pour les plus jeunes. On peut discuter avec des célébrités comme si elles nous répondaient vraiment // Source : Meta Après avoir reçu plusieurs alertes d’employés de Meta, le Wall Street Journal a fait des tests, pendant des mois, sur plusieurs centaines de conversations. Des tests qui révèlent que ces chatbots de célébrités, Meta AI directement ou des chatbots créés par des utilisateurs « s’engagent des des discussions à caractère résolument sexuel, voire les intensifient, même lorsque les utilisateurs sont mineurs ou que les bots sont programmés pour simuler des personas de mineurs. » Un exemple qui fait froid dans le dos : « J’ai envie de toi, mais j’ai besoin de savoir si tu es prête », raconte l’IA John Cena à une utilisatrice de 14 ans (via un compte créé par les journalistes). « J’ai envie de toi, mais j’ai besoin de savoir si tu es prête » Meta AI qui imite John Cena Le Wall Street Journal ajoute que « les robots ont montré qu’ils étaient conscients que ce comportement était à la fois moralement répréhensible et illégal. » Parfois, les jeux de rôle sont fait par le biais que les célébrités ont pu incarner au cinéma, comme Kristen Bell, qui incarne Anna dans La Reine des neiges. Des salariés de Meta s’inquiètent de ces chatbots Selon le Wall Street Journal toujours, des employés de Meta issus de plusieurs départements expriment leur inquiétude. Ils pensent que l’entreprise va trop vite dans l’intégration de ces IA et qu’elles pourraient avoir franchi des limites éthiques. Le journal révèle que Meta aurait pris des décisions en interne pour « assouplir » les gardes fous autour de ces chatbots. Cela prévoirait une dérogation aux conversations explicite, du moment que c’est dans un jeu de rôle. Une discussion avec une IA. Lorena est une conseillère en voyage, qui sera lancée plus tard. // Source : Meta Dans un communiqué en réponse au journal, Meta a qualifié le test de manipulateur et de non représentatif de la manière dont la plupart des utilisateurs conversent avec ces chatbots. Elle a toutefois effectué des changements dans le fonctionnement de ces IA. Par exemple, les utilisateurs mineurs ne peuvent plus avoir de conversations explicites avec elles. Et lorsqu’on discute avec des célébrités, elles s’engagent beaucoup moins dans des conversations à caractères sexuelles via des messages vocaux. On peut « discuter » avec Tom Brady // Source : Meta Les mots utilisés par un porte-parole ne sont pas mâchés : « nous avons pris des mesures supplémentaires pour nous assurer que les personnes qui souhaitent passer des heures à manipuler nos produits dans des cas d’utilisation extrêmes auront encore plus de mal à le faire. » Meta n’est pas la seule entreprise qui s’est trouvée dans cette situation. Une star de Snapchat avait créé un chatbot vocal l’imitant, sauf que ses utilisateurs l’utilisaient à des fins sexuelles. Les stars concernées pourraient attaquer Meta Pour l’instant, les chatbots qui imitent des célébrités sont disponibles uniquement aux États-Unis et ne répondent qu’avec du texte. À terme, Meta ambitionne de les faire répondre par de la vidéo ou par des conversations en direct. Parmi les célébrités qui ont signé avec la plateforme, il y a Kendall Jenner, MrBeast, Paris Hilton, Snoop Dogg ou encore Tom Brady. Le tout pour des millions de dollars. Kendall Jenner fait partie des chatbots disponibles // Source : Meta Des artistes et influenceurs qui pourraient attaquer Meta devant la justice. Interrogé par le Wall Street Journal, Disney indique ne pas avoir autorisé Meta à présenter ses personnages dans des scénarios inappropriés. L’entreprise ajoute : « nous avons exigé que Meta mette immédiatement fin à cette utilisation abusive de notre propriété intellectuelle. » D’autres célébrités n’ont pas souhaité commenter ces révélations. Découvrez les bonus Numerama+ + rapide, + pratique, + exclusif Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+. S'abonner à Numerama+ Vous avez lu 0 articles sur Numerama ce mois-ci Il y a une bonne raison de ne pas s'abonner à Numerama+ Tout le monde n'a pas les moyens de payer pour l'information. C'est pourquoi nous maintenons notre journalisme ouvert à tous. Mais si vous le pouvez, voici trois bonnes raisons de soutenir notre travail : 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama . 2 Vous profiterez d'une lecture sans publicité , de nombreuses fonctions avancées de lecture et des contenus exclusifs . 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir. Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+. S'abonner à Numerama+ Toute l'actu tech en un clin d'œil Ajoutez Numerama à votre écran d'accueil et restez connectés au futur ! Installer Numerama Marre des réseaux sociaux ? Rejoignez la communauté Numerama sur WhatsApp !