Apple a réussi à ajouter des fonctions d’intelligence artificielle à ses produits sans remettre en cause la vie privée de ses utilisateurs. Dans Photos par exemple, le constructeur analyse tous les clichés stockés sur tous les appareils iOS pour comprendre ce qu’ils contiennent et ensuite proposer une recherche contextuelle. Apple collecte toujours plus de données, mais l’entreprise a toujours essayé de respecter l’intimité personnelle en utilisant des mécanismes de « privacité différentielle ».
Nous avions évoqué rapidement les principes de base de ces mécanismes dans un précédent article et cela devient très vite, très complexe. Rappelons simplement qu’il s’agit de récupérer des informations envoyées par un terminal en s’assurant qu’il est impossible d’identifier ce terminal, et donc son utilisateur. Pour cela, les données personnelles ne sont pas seulement anonymisées, la privacité différentielle repose sur une part d’aléatoire, avec de temps en temps des fausses informations qui sont envoyées.
À l’échelle d’Apple, cette part d’aléatoire n’est pas un problème et il existe des formules mathématiques très complexes pour distinguer le vrai du faux. Mais tout l’intérêt, c’est qu’il est alors impossible de savoir quel terminal a envoyé quelle donnée, et donc impossible de remonter à l’utilisateur. Google a commencé à utiliser cette même technique dans l’un de ses produits, le clavier Gboard.
Les explications techniques sont disponibles dans cet article pour les amateurs. La vie privée des utilisateurs est préservée à la fois en utilisant les techniques de privacité différentielle, et en travaillant en local. Concrètement, le clavier charge le modèle actuel une fois, puis l’app est capable de l’améliorer en local avant de transmettre, de temps en temps, un modèle amélioré sur les serveurs de Google.
Côté serveur, tous ces modèles améliorés localement sont ensuite exploités pour créer une nouvelle version, meilleure pour tout le monde. Cette version est alors redistribuée à tout le monde lors d’une mise à jour du clavier, et le processus recommence ainsi.
Ce mécanisme d’amélioration de l’intelligence artificielle remplace l’ancien, où il fallait constamment permettre à Google de charger vos données. Pour le moment, seule la version Android du clavier a été mise à jour, mais on imagine que le clavier iOS le sera aussi à terme.
Source :
