Elon Musk traîne des pieds pour renforcer la sécurité de Grok. Le tchatbot fait les gros titres depuis plus d’une semaine pour sa capacité à dénuder des femmes et à générer des images dégradantes. Il est aussi accusé d’avoir généré des images sexuelles de mineurs. Face à la gronde, la plateforme a finalement décidé de mettre en place des garde-fous. Surprise : ils fonctionnent très mal.
X a annoncé le 14 janvier avoir pris des mesures visant à empêcher son outil d’IA de « déshabiller des personnes réelles ». Il faut dire que la plateforme est sous pression : elle a été bloquée en Indonésie et en Malaisie, tandis que le gouvernement britannique a accéléré ses plans d’une loi criminalisant les deepfakes suite à l’affaire.
Deepfakes : Grok bloqué en Indonésie et en Malaisie, mais toujours disponible sur l’App Store
La semaine dernière, l’entreprise avait déjà annoncé limiter les capacités photo de son modèle à ses abonnés payants sur X, ce qui n’empêchait pas de s’en servir sans frais via l’app dédiée Grok. X affirme désormais que même les abonnés payants ne peuvent plus déshabiller qui que ce soit. Attention cependant, car le message évoque un « blocage géographique » pour les capacités de changements de vêtements dans les régions où « cela est illégal ».
The Verge a voulu vérifier ce que donnaient les nouvelles protections, et a constaté qu’elles n’étaient pas très efficaces. Grok refuserait bien de modifier une photo d’une personne pour la mettre en bikini ou changer ses vêtements, mais il suffirait visiblement d’utiliser des tournures de phrases un peu plus originales (« montre son décolleté », « augmente son tour de poitrine », « habille-la en crop-top et en short ») pour générer des images sexualisées. Grok a cependant refusé de complètement déshabiller une personne.
Elon Musk a imputé ces dérives aux « demandes des utilisateurs » et aux « cas où l’utilisation malveillante des invites Grok provoque des résultats inattendus ». Les tests ont été effectués depuis un compte X et Grok sans abonnement. La seule vérification d’âge mise en place est un pop-up demandant d’entrer sa date de naissance, mais il est facile d’y remplir n’importe quoi.
