Sam Altman, CEO, à la tête de la nouvelle équipe de sécurité d’OpenAI
Le départ récent de personnalités de haut rang soulève des interrogations sur l'autorégulation en termes de sécurité. Cela pique votre curiosité aussi ?
Tl;dr
- OpenAI crée une nouvelle commission de Sécurité moins de deux semaines après la dissolution de son ancienne équipe.
- La commission est composée de deux membres du conseil et du PDG, Sam Altman.
- Cela fait suite aux démissions de Ilya Sutskever et Jan Leike, membres influents de l’ancienne équipe.
- Le groupe fait face à des controverses, notamment pour sa tentative d’utiliser la voix de Scarlett Johansson sans son consentement.
OpenAI : Une nouvelle approche de la sécurité
Dans un rebondissement surprenant, OpenAI a annoncé la création d’une nouvelle commission de Sécurité, moins de deux semaines après la dissolution de son équipe initiale dédiée à la protection de l’humanité contre les dangers potentiels de l’IA. Parmi les membres de ce nouveau groupe figurent deux membres du conseil d’administration ainsi que le PDG de l’entreprise, Sam Altman. Cette décision interroge sur le véritable rôle de cette commission dans le contexte de la course effrénée de l’entreprise vers le profit et la domination technologique.
L’équipe de sécurité mise à mal
La formation de cette nouvelle commission fait suite à la démission notable d’Ilya Sutskever et Jan Leike, tous deux membres éminents de l’équipe originale. Dans un message posté sur Twitter le 17 mai dernier, Leike a indiqué qu’il avait pris la décision de quitter l’entreprise en raison d’un désaccord majeur entre les secteurs du produit et de la sécurité. Il a exprimé son inquiétude quant à la capacité d’OpenAI à répondre adéquatement aux problématiques de sécurité liées à l’avènement d’IAs de plus en plus intelligentes.
Un historique controversé
Récemment, OpenAI a fait face à une autre controverse : elle a lancé (puis rapidement retiré) un nouveau modèle vocal ressemblant de manière troublante à l’actrice Scarlett Johansson. Selon Engadget, Johansson a révélé que Sam Altman avait essayé d’obtenir son consentement pour utiliser sa voix dans le cadre de la formation d’un modèle d’IA, demande qu’elle avait refusée.
Des actions futures sous surveillance
En dépit de ces turbulences, la commission de Sécurité et de Protection prévoit de “réévaluer et développer davantage” les processus et mesures de sécurité de l’entreprise dans les 90 jours à venir. Après cela, elle partagera ses recommandations avec l’ensemble du conseil d’administration. En attendant, OpenAI confirme être en train de former son prochain modèle, successeur de GPT-4, tout en soulignant l’importance d’un débat rigoureux sur ces questions cruciales.
