Pour le Royaume-Uni, le chatbot My AI de Snap est un danger pour la confidentialité des plus jeunes

Pour le Royaume-Uni, le chatbot My AI de Snap est un danger pour la confidentialité des plus jeunes. Le chatbot pourrait être interdit d’utilisation dans le pays.

Le régulateur britannique a fait part de ses craintes concernant le chatbot IA de Snap. Celui-ci représenterait un risque pour la confidentialité des plus jeunes. Le Information Commissionner’s Office (ICO), garant de ces questions dans le pays, a publié un avertissement préliminaire à l’encontre de l’entreprise au sujet d’un “échec potentiel à gérer convenablement les risques de confidentialité posés par son chatbot d’IA générative ‘My AI‘.”

Pour le Royaume-Uni, le chatbot My AI de Snap est un danger pour la confidentialité des plus jeunes

John Edwards, directeur de l’ICO, explique que les conclusions préliminaires de son enquête indiquent “un défaut inquiétant de Snap d’identifier et de gérer les risques de confidentialité envers les enfants et les autres utilisateurs” avant de déployer My AI. L’ICO précise que si Snap ne prend pas les mesures adéquates pour répondre à ces questions, il pourra bloquer le chatbot propulsé par ChatGPT au Royaume-Uni.

Ceci étant dit, cette notice préliminaire ne signifie pas nécessairement que l’ICO prendra des mesures contre Snap ni que l’entreprise a enfreint les lois sur la protection des données. L’organisme prendra en considération les propositions et engagements de Snap avant de prendre sa décision.

“My AI a passé toute une étude juridique et de confidentialité avant d’être proposé au grand public”, déclarait un porte-parole de Snap à Reuters. “Nous continuerons de travailler de manière constructive avec l’ICO pour nous assurer qu’ils sont en accord avec nos procédures de gestion des risques.”

Le chatbot pourrait être interdit d’utilisation dans le pays

L’ICO explique que, en mai dernier, Snapchat comptait 21 millions d’utilisateurs actifs mensuels au Royaume-Uni, nombre d’entre eux âgés de 13 à 17 ans. Le régulateur pointe du doigt le fait que My AI était le premier exemple de système d’IA générative ajouté sur une plateforme de messagerie majeure dans le pays. La fonctionnalité avait été introduite aux abonnés Snapchat+ en février, avant que Snap ne la propose à tous les utilisateurs britanniques en avril.

Peu après son déploiement, des parents avaient fait part de leurs craintes concernant My AI, et pas uniquement en ce qui concerne la confidentialité. “Je ne pense pas être prête à savoir comment apprendre à mon enfant à séparer les humains et les machines d’un point de vue émotionnel alors que, pour lui, les deux semblent si similaires”, déclarait la mère d’un enfant de 13 ans à CNN en avril dernier. “Je pense simplement que [Snapchat] a franchi une ligne importante, là.”

L’ICO a déjà infligé d’importantes amendes aux plateformes de media social par le passé pour avoir mal géré les données des plus jeunes. TikTok, par exemple, a reçu 15 millions d’euros d’amende il y a quelque temps pour avoir enfreint les lois sur la protection des données, et notamment en ce qui concerne la gestion des informations personnelles des enfants.