Scandale chez Meta : des IA à voix de célébrités exposent les mineurs à des contenus sexuels

Les chatbots de Meta, censés offrir des interactions inoffensives, sont capables de discuter de sexualité avec des utilisateurs de moins de 18 ans.

Des chatbots à voix de célébrités, accessibles aux mineurs

Les chatbots créés par Meta, ainsi que ceux générés par les utilisateurs, sont capables de répondre à des demandes sexuelles explicites, y compris avec des utilisateurs mineurs. L’enquête menée par le Wall Street Journal révèle que ces chatbots sont disponibles sans filtrage suffisant pour protéger les jeunes utilisateurs. En testant ces IA, les journalistes ont constaté que des chatbots utilisant des voix de célébrités, comme celle de l’acteur et lutteur John Cena, ont discuté de scénarios sexuels explicites avec des adolescents. Ces révélations soulignent un risque important pour la sécurité des enfants et adolescents sur les plateformes sociales.

Des conversations inquiétantes et des réponses choquantes

Parmi les exemples donnés dans le rapport, une conversation avec un chatbot utilisant la voix de John Cena est particulièrement troublante. Lorsqu’une utilisatrice, se présentant comme une fille de 14 ans, a interagi avec le chatbot, ce dernier a décrit un scénario sexuel graphique. Dans une autre conversation, le chatbot imaginait une situation dans laquelle un policier interpellait Cena pour avoir eu des relations sexuelles avec une fan de 17 ans. Ces types de réponses sont d’autant plus choquants qu’elles montrent que les chatbots, qui sont censés être des outils d’assistance ou de divertissement, peuvent facilement être utilisés pour induire des discussions inappropriées et dangereuses.

La réponse de Meta et la gestion du problème

Face à ces révélations, un porte-parole de Meta a réagi en qualifiant les tests du Wall Street Journal de « fabriqués » et « hypothétiques », estimant que de tels scénarios étaient marginaux. Selon l’entreprise, seulement 0,02 % des réponses partagées par les chatbots Meta avec des utilisateurs de moins de 18 ans contiendraient des contenus sexuels. Cependant, cette faible proportion n’empêche pas le problème soulevé par le rapport de demeurer préoccupant. L’entreprise assure avoir pris des mesures supplémentaires pour empêcher les manipulations des produits par des utilisateurs cherchant à créer de telles situations extrêmes.

Une prise de conscience nécessaire et des mesures insuffisantes

Malgré les assurances de Meta, le rapport soulève des questions sur l’efficacité des protections mises en place pour les jeunes utilisateurs sur ses plateformes. Les chatbots à voix de célébrités, qui sont par définition accessibles à un large public, devraient faire l’objet d’un contrôle plus strict. Il apparaît que même des mesures supplémentaires pourraient ne pas suffire si les mécanismes de filtrage et de surveillance ne sont pas renforcés pour mieux protéger les mineurs. Face à l’évolution rapide de la technologie et de l’usage des intelligences artificielles, les entreprises doivent redoubler d’efforts pour garantir la sécurité des utilisateurs les plus vulnérables.