Zao : le carton de l'app deepfake soulève des craintes sur le respect de la vie privée
Zao, qui caracole en tête du classement de l'App Store en Chine, est devenu une véritable sensation. Cette application permet de remplacer la tête des acteurs, actrices et autres vedettes par la sienne, de la manière la plus réaliste possible grâce aux technologies de deep fake. L'app, qui n'est disponible qu'en Chine, semble particulièrement efficace : l'app n'a besoin que d'un selfie (de l'utilisateur ou de n'importe qui d'autre) pour l'intégrer au sein d'une vidéo. L'intégration est non seulement très rapide, mais elle est aussi spectaculaire comme le montre Allan Xia :
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
Zao a été mis en ligne vendredi dernier et est devenu virale en quelques heures. Elle est devenue l'app la plus téléchargée en Chine ce dimanche, selon les relevés d'App Annie, explique Reuters. L'app se veut inoffensive, il s'agit de tester le maquillage ou la coupe de cheveux d'une vedette ou de se prendre pour l'acteur de ses rêves.
Bien qu'il y aurait à redire sur le principe même du deepfake1, une technologie qui efface la frontière entre ce qui est vrai et ce qui est faux (voir la vidéo ci-dessus), Zao pose surtout la question de la confidentialité des données. Le selfie téléversé, ainsi que les extraits vidéo bidouillés sont conservés sur les serveurs de l'application, ce qui n'est pas sans relancer les craintes autour de la surveillance généralisée orchestrée par les autorités chinoises (lire aussi : À Hong Kong, le « mode SOS » de l'iPhone sert de rempart face à la police).
Le célèbre chercheur en sécurité @fs0c131y, alias Elliot Alderson, a mené sa petite enquête. Zao ne siphonne pas l'intégralité de la galerie photo de l'iPhone, ce qui est déjà un soulagement. En revanche, l'application peut transmettre les photos téléversées au gouvernement chinois si ce dernier les réclame.
Zao utilise une solution chinoise, GrowingIO, pour analyser les usages de l'utilisateur ; parmi les données fournies à ce tiers, on trouve le modèle d'iPhone, la connectivité réseau, l'OS, le numéro IMEI… Alderson relève que les requêtes réseau effectuées par Zao sur ses serveurs utilisent HTTPS et que « parfois », le contenu est chiffré.
Enfin, l'app est éditée par Momo, une entreprise présente sur le Nasdaq depuis 2014. Un éditeur qui a pignon sur rue donc, mais à l'instar de FaceApp et ces applications qui avancent plus ou moins masquées, la prudence recommande d'éviter d'uploader des photos de vos têtes.
-
Apple a récemment débauché de Google Ian Goodfellow, qui a mis au point les algorithmes indispensables pour les deepfakes. ↩︎
Bien bien flippant...
comme nombre de services qui sont exécutés sur un SERVEUR EN LIGNE QUE VOUS NE CONTROLEZ PAS, qui manipulent vos photos, dessins, etc pour les modifier/travailler, oui cela permet à l'éditeur du dit service d'avoir accès à votre activité, contenu et usage transitant par le dit service. Et donc l'autorité auquel l'entreprise répond.
n'utilisez ces services que pour de la distraction sans intérêt et surveillez bien que l'application n'accède que ce qui est pertinent, rien de plus.
Ou n'utilisez pas de service ligne opéré par une personne qui n'est pas vous.
Total poche cette app. Quelle perte de temps. Mais bon, il y a un marché pour les gros vernis à ego!
Un outil numérique au service de l’autoritarisme
Quel rêve ...
@iVador
Il y a même des entreprises occidentales au service de ces autoritarismes qui leur fournissent également des matériels de surveillance ultra sophistiqués. Combien de démocraties et d’entreprises ont rompu avec l’Arabie Saoudite suite à l’assassinat de Khashoggi ? Beaucoup de beaux discours mais le réalisme des intérêts l’emporte toujours. Ce monde est tout sauf vertueux
Tout ce que vous envoyez sur internet il faut le considérer comme publique, rien n’est privé sur internet, la nsa est sûrement d’autres organismes siphonne tout le trafic possible d’internet, même sécurisé pour pouvoir le décoder plus tard.
Je me pose la question (sérieusement) :
Comment une simple app peut-elle être autorisée à accéder à toutes ces infos, comme la connectivité réseau, l'OS, le numéro IMEI... ?
Apple parle de vie privée, mais toutes les apps peuvent avoir accès à toutes ces données (et sûrement plein d'autres) sans que l'utilisateur n'ait même a cliquer sur "autoriser" comme pour les photos, contacts, etc ? Oo
« En revanche, l'application peut transmettre les photos téléversées au gouvernement chinois si ce dernier les réclame. »
Remplacez chinois par n’importe quel gouvernement et vous aurez le même résultat, dès lors qu’un texte légal ou réglementaire le permet. Cette réclamation sera plus ou moins contraignante en fonction des pays, mais tous les gouvernements ont cette possibilité
les gouvernements ont déjà nos tronches. et même plus.
Désormais tout ce que l’on voit et tout ce que l’on nous montre est susceptible d’être faux.
La « vision » au travers d’un support vidéo quelqu’il soit est désormais non fiable.
Vraiment inquiétant.
@iftwst
"Désormais tout ce que l’on voit et tout ce que l’on nous montre est susceptible d’être faux. "
Désormais ?
En son numéro de juillet 1985, la Whole Earth Review titrait déjà, au sujet des manipulations numériques en photographie, « The End of Photography as Evidence of Anything » :
http://www.oss.net/dynamaster/file_archive/040324/f98095dd2c6a93a397662cfd97a246e5/WER-INFO-69.pdf
L’article prenait pour exemple de base les manipulations des « unes » du National Geographic via Scitex, mais avertissait que l’avènement d’ordinateurs à vocation graphique, comme le Mac, permettrait de réaliser ces manipulations pour quelques milliers de dollars seulement (une station Scitex coûtait des centaines de milliers).
The End of Photography as Evidence of Anything.
Disponible sur votre ordinateur depuis des lustres.
@occam
Merci pour la référence.
@iftwst
« Désormais tout ce que l’on voit et tout ce que l’on nous montre est susceptible d’être faux. »
Désormais ?
https://www.la-retouche-photo.com/des-retouches-photos-qui-ont-change-lhistoire/
Grillé par occam :D
La vidéo, c’est pareil.
Tous les dictateurs et tous les services de communication des armées (entre autre) ont utilisé le trucage vidéo.
Et l’utilisent.
Une image ou une vidéo sans sa source, c’est une image et rien d’autre.
Et ça dure depuis le commencement...
On dirait que personne n’a jamais cherché de logement de vacances ,beaucoup de différence entre les photos affichées et la réalité....
A cette époque la photo seulement.
Désormais la vidéo.
Et en direct.
Et ça c’est nouveau.
La vie privée sur le net est une illusion, un mensonge orchestré. Vous voulez rester anonyme ? Alors ne venez pas sur internet. Où alors, venez y mais masqué.