Zao : le carton de l'app deepfake soulève des craintes sur le respect de la vie privée

Zao, qui caracole en tête du classement de l'App Store en Chine, est devenu une véritable sensation. Cette application permet de remplacer la tête des acteurs, actrices et autres vedettes par la sienne, de la manière la plus réaliste possible grâce aux technologies de deep fake. L'app, qui n'est disponible qu'en Chine, semble particulièrement efficace : l'app n'a besoin que d'un selfie (de l'utilisateur ou de n'importe qui d'autre) pour l'intégrer au sein d'une vidéo. L'intégration est non seulement très rapide, mais elle est aussi spectaculaire comme le montre Allan Xia :

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) September 1, 2019

Zao a été mis en ligne vendredi dernier et est devenu virale en quelques heures. Elle est devenue l'app la plus téléchargée en Chine ce dimanche, selon les relevés d'App Annie, explique Reuters. L'app se veut inoffensive, il s'agit de tester le maquillage ou la coupe de cheveux d'une vedette ou de se prendre pour l'acteur de ses rêves.

Bien qu'il y aurait à redire sur le principe même du deepfake¹, une technologie qui efface la frontière entre ce qui est vrai et ce qui est faux (voir la vidéo ci-dessus), Zao pose surtout la question de la confidentialité des données. Le selfie téléversé, ainsi que les extraits vidéo bidouillés sont conservés sur les serveurs de l'application, ce qui n'est pas sans relancer les craintes autour de la surveillance généralisée orchestrée par les autorités chinoises (lire aussi : À Hong Kong, le « mode SOS » de l'iPhone sert de rempart face à la police).

Le célèbre chercheur en sécurité @fs0c131y, alias Elliot Alderson, a mené sa petite enquête. Zao ne siphonne pas l'intégralité de la galerie photo de l'iPhone, ce qui est déjà un soulagement. En revanche, l'application peut transmettre les photos téléversées au gouvernement chinois si ce dernier les réclame.

Zao utilise une solution chinoise, GrowingIO, pour analyser les usages de l'utilisateur ; parmi les données fournies à ce tiers, on trouve le modèle d'iPhone, la connectivité réseau, l'OS, le numéro IMEI… Alderson relève que les requêtes réseau effectuées par Zao sur ses serveurs utilisent HTTPS et que « parfois », le contenu est chiffré.

Enfin, l'app est éditée par Momo, une entreprise présente sur le Nasdaq depuis 2014. Un éditeur qui a pignon sur rue donc, mais à l'instar de FaceApp et ces applications qui avancent plus ou moins masquées, la prudence recommande d'éviter d'uploader des photos de vos têtes.