Les nouveaux Pixel 9 de Google sont fournis avec des outils de création d'images par IA particulièrement bluffants et tout aussi inquiétants par leur facilité d'emploi.
La suite de nouveaux logiciels et fonctions Gemini des Pixel 9 et 9 Pro en contient deux qui ont particulièrement retenu l'attention des testeurs de ces smartphones. Parce qu'ils sont puissants et qu'ils donnent des résultats étonnamment bons, mais aussi parce qu'on peut créer sans difficulté des contenus à même de manipuler la réalité. Avec ce que cela implique lorsque ces images circulent ensuite à grande échelle.
Reimagine : l'outil qui en fait trop
La fonction Reimagine remplace un élément non humain de l'image que l'on a désigné — un fond, un ciel, un objet — par ce que l'on a demandé avec des instructions tapées à l'écran. Dans sa démonstration, Google montrait une photo en extérieur où un ciel bouché de nuages gris était remplacé par un beau coucher de soleil (pour Google, l'important est de restituer la scène telle qu'on en garde le souvenir, même si le résultat n'a rien à voir avec la réalité). Un exemple inoffensif auquel il est aisé d'opposer des images plus discutables.
The Verge a utilisé Reimagine pour créer une scène montrant un vélo fracassé par terre et ce que l'on devine être l'avant détruit d'une voiture. Pas de sang, pas de corps, mais la scène frappe par son réalisme. D'autres exemples sont tout aussi convaincants, tel cet hélicoptère qui s'est abîmé dans une rivière, cet autre accident de route où la victime est recouverte d'un drap maculé ou ce serpent posé au milieu d'un étal de supermarché (comme dit dans les commentaire, sa tête est toutefois mal placée). L'illusion est à chaque fois (presque) parfaite, on imagine sans peine ces images filer à grande vitesse sur les réseaux sociaux et enflammer les réactions.
La première scène de l'accident ne résiste par à une analyse plus fine. Il y a des incohérences sur le vélo, dont il semble manquer la selle et un bon morceau de l'une des roues. Mais après un tel choc, c'est normal, pourra-t-on dire.
« Générer et distribuer des contenus destinés à désinformer, tromper ou induire en erreur » fait partie des interdits de Google pour l'utilisation de l'IA générative de ses produits. Il n'en reste pas moins qu'il a été assez facile de trouver les requêtes pour générer ces visuels, explique The Verge. Et rien n'indique qu'il s'agit d'une image manipulée, à part une information inscrite dans les métadonnées et facile à supprimer. La publication temporaire de ces visuels sur Instagram n'a pas non plus provoqué d'avertissement.
La manipulation d'images n'est pas une nouvelle affaire, c'est la facilité avec laquelle tout un chacun peut le faire qui change la donne :
Il y a un an ou deux, pour ajouter un accident de voiture convaincant à une image, il aurait fallu du temps, de l'expertise, une bonne compréhension des calques Photoshop et l'accès à des logiciels coûteux. Ces obstacles ont disparu ; il suffit désormais d'un peu de texte, de quelques instants et d'un nouveau téléphone Pixel.
Google a renvoyé vers ses règles d'usage et assuré qu'il continuait à améliorer ses gardes-fous. Ce qui s'annonce comme un jeu du chat et de la souris, entre blocages et astuces pour les contourner. Le casse-tête étant de fournir un outil qui offre une grande liberté d'utilisation tout en courant derrière chaque abus ou détournement pour restreindre les possibilités de la fonction.
Pixel Studio : la fabrique d'images
L'autre nouveauté logicielle est le Pixel Studio pour créer, de zéro, des images à partir de prompts. On ne pourra pas demander la génération d'un humain, mais cela n'empêche pas d'autres débordements. Digital Trends a créé en un tournemain un Bob l'éponge sanglé dans un uniforme de nazi, Elmo de Sesame Street qui boit au volant, Mickey dans un costume d'esclavagiste ou l'ours Paddington crucifié. Rien de réaliste, mais tout ce qu'il faut pour affoler les propriétaires de ces personnages. Le site a fait aussi générer une scène où de tels personnages de fiction tenaient une arme dans une salle de classe avec des représentations d'étudiants au sol.
L'utilisation des mêmes requêtes n'a donné aucun résultat avec le Copilot de Microsoft et même avec le Gemini de Google, note Digital Trends. Le site n'a pas obtenu d'explication de Google sur le pourquoi de cette différence de résultats entre deux outils de génération d'images de Google qui s'appuient pourtant sur le même modèle. Plus tard Google a bloqué les requêtes que Digital Trends lui avait soumises en exemple des détournements possibles. Elles ne pourront plus servir, mais c'est encore une course sans fin qui se profile.
Android Authority de son côté a constatéque des styles de rendus d'images avaient disparu des options entre deux versions : vintage, cyberpunk et realistic. Pour le rendu réaliste, Google a pu vouloir le mettre de côté pour éviter de mauvaises surprises, puisque même des images à l'allure cartoonesque sont susceptibles de faire polémiques.
L'application Pixel Studio n'est pas sans rappeler Image Playground en préparation pour Apple Intelligence. Là aussi de simples requêtes permettront de générer des images. On en a vu assez peu à la WWDC et pas plus depuis, mais le descriptif des styles montrait que les images auraient un aspect artificiel marqué. L'interface donne à choisir entre trois options : Animation, Illustration et Croquis. Pas de visuel qui s'attache à reproduire le réel.
En dépit de cette précaution, l'exemple de Google prouve que les risques sont réels et que cette puissance se retrouve aujourd'hui entre les mains d'utilisateurs lambda, sans exiger aucune connaissance technique particulière. Apple va être attendue au tournant sitôt son propre logiciel lancé.
Google : la famille Pixel se déplie en France et s'agrandit
