Les choses ne s’arrangent pas pour Grok, le tchatbot d’Elon Musk qui a fait les gros titres pour sa capacité à générer des images dégradantes de stars, de femmes et de mineurs. L’Indonésie et la Malaisie ont annoncé que le service était désormais bloqué sur leur territoire. Le ministère indonésien de la Communication et du Numérique a déclaré vouloir « protéger les femmes, les enfants et l'ensemble de la communauté contre le risque de contenus pornographiques falsifiés générés à l'aide de technologies d'intelligence artificielle ».
L’affaire a fait grand bruit en ce début d’année. Début janvier, X a mis à jour son IA pour lui permettre de modifier les photos partagées sur le réseau, le tout sans garde-fous convenables. Cela n’a pas traîné : Grok a été utilisé pour générer des milliers d'images de personnes dénudées par heure, avec dans le lot des images de mineurs ou des vidéos de femmes se faisant violenter.
Faute de garde-fous, Grok dérive et génère des images sexuellement explicites sans aucune limite
L’évènement aura eu le mérite de mettre la question des deepfakes sur la table. Le régulateur britannique Ofcom a ouvert une enquête sur le réseau social X tandis que le gouvernement britannique a indiqué qu’une loi criminalisant la création d’images intimes non consenties (dont les deepfakes) entrerait en vigueur cette semaine, et qu’il entendait aussi s’attaquer aux entreprises fournissant des outils dédiés.
Face à tout cela, X a rendu inaccessible une partie de ses outils aux utilisateurs gratuits, mais les laisse tout de même utilisables par n’importe qui sans compte via l’app Grok dédiée. « Ils veulent simplement réprimer la liberté d'expression », a commenté Elon Musk sur son réseau. Le CEO a notamment republié plusieurs tweets critiquant la condamnation de Grok par le gouvernement britannique, dont un montrant des images générées par IA du Premier ministre Sir Keir Starmer en bikini.
Tim Sweeney n’a pas hésité à mouiller la chemise pour défendre l’homme le plus riche du monde et son tchatbot accusé de générer des images sexualisées de mineurs. Le patron de l’Epic Games Store, qui a supprimé le mois dernier un jeu arty contenant de la nudité, s’est prononcé contre un bannissement de Grok en dénonçant quelques « dérapages » sur X :
Toutes les grandes IA ont des cas documentés de dérapage ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite. Les politiciens qui exigent que les gatekeepers écrasent sélectivement celle de l'entreprise de leur adversaire politique pratiquent du capitalisme de copinage basique.
Et Apple dans tout cela ? L’entreprise qui défendait encore hier les profits générés par son App Store n’a pas réagi à la polémique malgré les demandes de suppression de Grok venant de plusieurs sénateurs américains. L'app est actuellement en 3e place du classement des apps gratuites les plus téléchargées en France, derrière Gemini et ChatGPT. Grok est également toujours disponible sur le Play Store.
