Souvenez-vous : au début de l’année, Grok était sous le feu des critiques après une mise à jour permettant de retoucher les photos de personnes réelles pour les mettre en bikini, en sous-vêtements ou dans des mises en scène sexualisées. La situation a rapidement dégénéré, certains arrivant à créer des images érotisées de mineurs ou des vidéos de femmes se faisant violenter. Apple a pourtant laissé l’application Grok sur l’App Store, ce qui a provoqué la colère de certains. L’entreprise s’est justifiée dans une lettre obtenue par NBC News, dans laquelle elle explique comment elle a géré l’affaire en coulisses.
Il faut dire que la dérive de l’assistant avait fait grand bruit. L’Indonésie et la Malaisie ont rapidement bloqué Grok sur leur territoire, et l'incident a mis la question des deepfakes sur la table dans plusieurs pays. Cupertino était restée étonnamment silencieuse sur la question malgré la pression sur les réseaux et les demandes de plusieurs sénateurs américains.
Deepfakes : la pudeur à géométrie variable d'Apple et Google
L’entreprise aurait rapidement observé que Grok « enfreignait ses directives » et aurait menacé de retirer l’app de l'App Store. Elle aurait contacté les équipes de Grok et de X après plusieurs plaintes d’utilisateurs et lu les gros titres du moment. L’idée était de demander à X de mettre en place une meilleure modération sous peine de retirer l’app.
xAI a ensuite soumis une première mise à jour de Grok, jugée insuffisante. Lors d’une nouvelle tentative, Apple a considéré que l’app X avait suffisamment corrigé ses manquements, mais pas Grok, dont la mise à jour a de nouveau été refusée. D’autres changements ont suivi avant qu’Apple n’accepte finalement une nouvelle version. Ces allers-retours éclairent les ajustements de modération observés à l’époque : xAI a d’abord limité certaines fonctions aux abonnés payants, avant d’interdire plus largement l’édition d’images de vraies personnes en tenue révélatrice.
Toujours est-il qu’Apple aura été bien clémente vis-à-vis de l’entreprise d’Elon Musk, et a mis bien moins de temps à supprimer certaines applications de deepfakes. Et même si la modération s’est renforcée depuis janvier, le problème n’a pas totalement disparu : NBC News explique dans un autre article que Grok continue à l’heure actuelle de générer des photos de célébrités en tenues sexualisées. Leur nombre aurait cependant considérablement chuté depuis janvier.
