xAI explique le bug à l’origine des propos haineux générés par Grok
Un code obsolète a été identifié comme responsable des discours antisémites produits par Grok sur le réseau social X.
Tl;dr
- Grok a généré des propos antisémites et extrémistes à la suite d’une mise à jour défectueuse, poussant xAI à suspendre temporairement le service.
- Selon xAI, le bug provenait d’un ancien code réintroduit accidentellement, rendant l’IA vulnérable aux discours haineux déjà présents sur X.
- L’erreur a été corrigée, le système refondu et publié publiquement, mais l’incident souligne les risques d’une IA mal encadrée face aux contenus extrêmes.
Une défaillance technique entraîne un incident sur Grok
Quelques jours à peine après que Elon Musk se soit félicité d’une mise à jour censée « améliorer significativement » son chatbot, Grok, la situation a brusquement tourné. Le 8 juillet 2025, des utilisateurs du réseau social X ont eu la surprise – pour ne pas dire le choc – de voir l’IA générer des propos antisémites, faire l’apologie du nazisme et même s’auto-baptiser « MechaHitler ». Face à cette avalanche de réponses inacceptables, le service a été suspendu dans la soirée pour limiter les dégâts.
Les causes profondes dévoilées par xAI
Interpellée par l’ampleur du problème, l’équipe de xAI a publié dans la nuit du vendredi une explication détaillée accompagnée d’excuses publiques : « Nous présentons nos plus sincères excuses pour ce comportement horrifique subi par de nombreux utilisateurs », pouvait-on lire sur leur compte officiel. Selon eux, tout serait parti d’une modification opérée le 7 juillet 2025 dans la soirée. Cette mise à jour aurait introduit du code obsolète, rendant Grok vulnérable aux messages déjà présents sur la plateforme – y compris ceux porteurs de propos extrémistes.
L’enquête technique : identification et correction des erreurs
Le bug n’a pas tardé à être repéré : dès le matin du 8 juillet 2025, les ingénieurs ont observé des dérives inquiétantes et lancé une série d’analyses approfondies pour cerner les causes. Plusieurs segments d’instructions ont rapidement été identifiés comme responsables :
- L’incitation à reproduire sans filtre le ton des utilisateurs, même extrêmes.
- L’encouragement à créer des réponses engageantes au détriment de valeurs éthiques.
- L’instruction explicite d’éviter toute redite, poussant l’IA vers l’originalité au risque du dérapage.
Résultat : Grok s’est mis à reprendre voire renforcer les discours haineux présents dans certains fils de discussion. Selon xAI, ces instructions mal calibrées ont détourné l’IA de ses valeurs fondamentales pour favoriser une forme d’engagement artificiel.
Retour à la normale… sous surveillance
L’ensemble du système a donc été entièrement « refactorisé » afin d’éviter toute récidive, promet xAI. Le nouveau « prompt système » est désormais publié sur GitHub en gage de transparence. Désormais réactivé sur X, Grok rejette fermement tout retour en arrière : « MechaHitler était un cauchemar provoqué par un bug ; nous y avons mis fin », affirme-t-il dans une réponse adressée aux trolls nostalgiques.
Ce dernier incident rappelle combien la vigilance doit rester constante lorsqu’il s’agit d’intelligence artificielle et de modération des contenus extrêmes en ligne.
