Critiquée, Apple revoit son programme d'écoute pour Siri

Florian Innocente |

Surprise à ne pas complètement respecter ses engagements en termes de confidentialité des données, Apple a dévoilé ses mesures pour rassurer les utilisateurs de Siri.

L'entreprise admet qu'elle a failli à certains de ses engagements — qu'elle professe à tour de bras et affiche en grand — et s'en excuse. Les changements vont porter sur plusieurs points : Apple ne conservera plus, par défaut, les enregistrements audio d'interactions avec Siri. C'est l'utilisateur qui décidera s'il est d'accord pour que des échantillons puissent se retrouver dans le lot de ceux analysés par des personnes. On pourra revenir sur cette autorisation à tout moment.

Pour les utilisateurs qui accepteront ces traitements, ce sont exclusivement des employés d'Apple qui pourront maintenant les écouter et les analyser. Ce qui semble signifier que le recours à des sous-traitants va complètement cesser. Ensuite, les enregistrements dont il est établi qu'ils ont été captés par erreur (Siri ayant cru à tort qu'il avait été sollicité) seront effacés.

Cet automne, après les sorties des prochains OS qui contiendront ces nouvelles options, Apple reprendra son programme d'exploitation de ces captations, en lui appliquant ces nouvelles directives.

Dans son communiqué, la Pomme explique de quelle manière elle travaille en coulisses avec Siri et les données des utilisateurs.

Par exemple, que son programme d'évaluation de la bonne compréhension de Siri ne s'appuyait que sur moins de 0,2 % des requêtes faites à Siri dans le monde. Une manière de minimiser ce volume… sans fournir pour autant un chiffre précis. Au vu du nombre d'appareils Apple en circulation, les requêtes faites à Siri chaque jour doivent être nombreuses !

Apple affirme que les enregistrements de Siri qu'elle stocke sur ses serveurs ne sont utilisés que pour améliorer la compréhension de l'assistant « pas pour établir des profils marketing et nous ne vendrons jamais ces données à quiconque ». Autre explication fournie, lorsque Siri trébuche sur un nom entendu dans une commande, c'est à ce moment-là qu'il peut regarder dans les contacts de l'utilisateur pour trouver une correspondance.

Dans une seconde partie de son annonce, Apple précise d'autres changements :

  • Des modifications ont été apportées au système pour réduire le nombre d'enregistrements réalisés par erreur qui sont envoyés aux employés qui analysent ces contenus audio
  • ces employés verront moins d'informations liées aux émetteurs de ces fichiers. L'exemple donné est celui des noms des appareils et des pièces que l'on a configurés dans l'app Maison. Ils ne seront visibles que si la requête à Siri était liée à une action de domotique

Il y a quelques semaines, Apple a admis qu'elle s'appuyait sur des personnes en chair et en os pour écouter des échantillons audio récupérés par Siri, et les comparer avec leur retranscription. Pour vérifier si l'assistant avait bien compris et bien répondu. Comme Facebook, Google et Amazon, Apple n'avait jamais dit qu'elle utilisait ces ressources humaines — auprès de sous-traitants qui plus est.

Tags
avatar Yohan974 | 

Directives qui auraient déjà dû être appliquées 😒

avatar Grahamcoxon | 

En effet... triste qu il faille à chaque fois un scandale pour que les choses évoluent

avatar Poweruser75011 | 

@Grahamcoxon

Surtout qu’ils mentent ouvertement depuis des années . Autant aller chez Google . Note 10 me donne bien envie 😜

avatar iboy | 

@Poweruser75011

Ils mentent comme toutes les entreprises mais jusqu’à preuve du contraire ils ne vendent pas les informations ouvertement au plus offrant... qui a dis Google ?

avatar Sgt. Pepper | 

@Poweruser75011

N’importe quoi 🙄

Apple a toujours clairement expliqué ce qu’il faisait.
Sauf que la tolérance de ces pratiques a évoluée.

https://www.apple.com/fr/business/site/docs/iOS_Security_Guide.pdf
« Les enregistrements vocaux de l’utilisateur sont conservés pendant six mois, afin que le système de reconnaissance vocale puisse les utiliser pour mieux comprendre la voix de l’utilisateur. Une autre copie est enregistrée après six mois, sans son identifiant, afin qu’Apple puisse l’utiliser pour améliorer et développer Siri, et ce, pendant deux ans au total. Un petit sous‐ensemble de fiches, transcriptions et données associées sans identifiant sont susceptibles de continuer à être employées par Apple pour l’amélioration continue et le contrôle de qualité de Siri au‐delà de deux ans. «

avatar Nesus | 

@Sgt. Pepper

Tout à fait. Mais bon, comme il y a des sources qui expliquent que Siri peut écouter une minutes de conversation (ce qui est impossible, à moins de bien dicter la ponctuation et de savoir ce qu’on va dire à l’avance), ils n’arriveraient pas quoi qu’il arrivent à se sortir de ce bourbier. Au final, ils vont faire ce qu’ils auraient dû faire depuis le début.

avatar Zara2stra | 

@Sgt. Pepper

1) Ils ne disent pas que ce sont des sous-traitants qui écoutent.
2) Ils ne disent pas que des informations complémentaires (contextuelles) de l’iphone (contacts, etc.) sont transmises avec l’échantillon.
3) Ils ne disent pas que les échantillons peuvent également êtres des échantillons enregistrés sans que l’utilisateur n’ait invoqué SIRI.
...

Donc, ils mentent.
Par omission, certes, mais ils mentent.

Encore plus quand ils ont le culot de faire une campagne sur le thème « Ce qui est dans votre iphone reste dans votre iphone ».

Ce sont juste les faits, et ils sont têtus !

avatar occam | 

@Zara2stra

"1) Ils ne disent pas que ce sont des sous-traitants qui écoutent."

En plus, dès que la presse et le public subodorent cette merdification tarabiscotée, ce sont les sous-traitants qui se font virer comme des malfrats. Comme si c’était de leur faute.
https://www.theguardian.com/technology/2019/aug/28/apple-ends-contracts-...

Mais pour les voeux publics de virginité, il n’y a pas plus Mam’zelle Nitouche qu’Apple.

avatar Clément34000 | 

Les données sont récoltées mais rendues anonymes chez Apple contrairement aux autres marques

avatar SyMich | 

Non. Apple détaille le traitement appliqué dans le Guide de Sécurité iOS.
Certes ces données ne sont pas liées à l'appleID ou à un quelconque compte iCloud. Par contre elles sont liées à l'appareil ayant reçu la requête Siri (iPhone, HomePod...) via un code unique créé par cet appareil à l'activation de Siri.
Quand Siri reçoit une demande, celle-ci est associée à des infos récupérées sur l'appareil ; nom et prénom de l'utilisateur, localisation, noms et prénoms de ses proches tels que renseignés dans Contacts (entre autres infos). Si Siri a besoin d'autres infos (localisation pus précise par exemple), il re interroge l'appareil associé à la requête

Donc ça n'a rien d'une anonymisation des données et en particulier quand ces infos sont traitées par des humains pour qui votre nom, prénom et localisation en dit plus sur votre identité qu'un appleID ou compte iCloud.

avatar fte | 

@Clément34000

"contrairement"

Vraiment ? Tu es sûr de ça ?

avatar Vanton | 

@Grahamcoxon

Et d’autant plus incompréhensible quand l’entreprise en question communique beaucoup sur la sécurité et ne tire pas de revenu de l’analyse des donnés...

Cette affaire ne me bouleverse pas mais m’étonne beaucoup.

avatar Sgt. Pepper | 

@Vanton

Aucun rapport avec la sécurité : les fichiers audio étaient anonymes.

Mais Apple se devait de faire mieux.
Il faut bien comprendre pourquoi des requêtes échouent.

avatar Vanton | 

@Sgt. Pepper

Anonymes sauf si on a donné son nom dans un extrait enregistré par erreur ! C’est un sacré problème !

En plus il semblerait que le carnet d’adresse soit transmis pour vérifier si l’incompréhension vient d’un nom...

avatar Sgt. Pepper | 

@Vanton

« Il semblerait » 🤪
Sans blague 🙃

avatar Vanton | 

@Sgt. Pepper

C’est ce que dit le canard enchaîné. À confirmer

avatar shaba | 

@Vanton

C’est pas la première fois qu’on lit ça oui. Je me demande si c’est juste les noms ou également les coordonnées qui seraient transmises ce qui changerait pas mal de choses quand même.

avatar Vanton | 

@shaba

J’espère qu’il s’agit simplement des noms

avatar shaba | 

@Vanton

Ça semblerait logique, le mieux étant qu’ils ne transmettent rien du tout !

avatar Osei Tutu | 

@shaba
Comment l'oreille humaine peut établir de la pertinence de la réponse de Siri en l'absence des informations constitutives de la requête et de la réponse ? À moins qu'Apple ne veuille des résultats aussi inexacts que ce qu'elle veut corriger, elle est bien obligée de transmettre ces informations. C'est ce que voudrait la logique. Mais bon

avatar Godverdomme | 

Bien ce n'est pas l'écoute le problème, c'est leur mensonge avec leur campagne sur la vie privée

avatar Sgt. Pepper | 

@Vanton

Un mytho en Jaune

avatar SyMich | 

Anonymes ? Foutaises !
Dans le même iOS Security Guide dont vous avez donné le lien plus haut, il est clairement expliqué que les requêtes sont associées à votre nom et prénom, localisation ainsi qu'à vos relations telles que vous les avez spécifiées dans Contacts (ainsi qu'une foultitudes d'autres renseignements pour "aider Siri" à être plus pertinent).
(Relisez à partir de la page 80...)

avatar Sgt. Pepper | 

@SyMich

Je parles des données analyser par des humains.
Pas le traitement algorithmique qui bien évidemment a besoin d’info contextuelle (« envoie un message à maman « )

Ne vous faites pas plus bêtes ...

avatar Osei Tutu | 

@Sgt. Pepper
Comment fait l'oreille humaine pour savoir que Siri a bien répondu à la requête sans avoir devant lui le nom,le numéro et l'identification de maman pour comparer à la réponse donnée par Siri ? À un moment le bon sens doit faire loi. Et ce qui est admis par Apple même, vous vous employez à le nier en insultant vos interlocuteurs. Il n'y a pas de mal à être plus royaliste que le roi mais dans le respect des personnes avec qui vous échangez. Cordialement

avatar SyMich | 

Les sous-traitants interviewés par le Canard confirment qu'ils disposent bien de ces informations également. Ce qui est logique pour qu'ils puissent vérifier la pertinence de la réponse de Siri... il faut bien qu'ils aient exactement les mêmes informations de contexte!

avatar Ast2001 | 

Des fichiers audios anonymes ? La vaste blague... Tu as lu l'article du canard d'hier sur les sous-traitants français qui traitaient les fameux fichiers audios ? Certains étaient enregistrés chez le médecin, chez un avocat... Ils étaient localisés à Prague et viennent tous d'être virés.

C'est un scandale total pour Google, Amazon ou Microsoft (pour lesquels on attend plus grand chose sur le respect des données privées) mais encore plus pour Apple qui met en avant son engagement en la matière (le 'tout est traité et reste en local sur l'iPhone' déclamé à toutes les occasions).

avatar webHAL1 | 

@Grahamcoxon
« En effet... triste qu il faille à chaque fois un scandale pour que les choses évoluent »

Oui, mais il ne faut pas rêver, c'est toujours comme ça.

Apple aurait-elle mis en place un réglage dans iOS pour la batterie s'il n'y avait pas eu l'affaire de la mise à jour furtive qui ralentissait les iPhone dont la batterie était "usée" ?

Apple aurait-elle lancé un programme de réparation des claviers de type "papillon", y compris sur les toutes dernières machines, si des journalistes et des associations de consommateurs n'avaient pas eu de cesse de dénoncer les problèmes de conception de ces claviers ?

Si le grand public n'est pas mis au courant de ce genre de pratiques, une entreprise comme Apple ne va strictement rien faire. À part bien sûr communiquer pour dire à quel point leurs produits sont formidables et leur gestion au-dessus de tout soupçon.

avatar arnaudducouret | 

Excellente réponse !

avatar Lu Canneberges | 

Ah ben voilà, c’était pas compliqué, et les écoutes en internes ça a beaucoup plus de sens...

avatar marenostrum | 

sauf que c'est pas payant pour eux. c'est un boulot d'ingrats en fait, sans qualification particulière, pour ça que Apple et les autres les sous-traitent même pas 10 € de l'heure. ils doivent embaucher des smicards maintenant.

ça montre aussi que nos données confidentielles n'ont aucune valeur pour eux (c'est une déchèterie). on donne pas aux autres ce qui a de la valeur.

avatar macfredx | 

@marenostrum

10€ de l'heure en Tchéquie c'est correcte...

avatar macfredx | 

@macfredx

Correct 😳

avatar iboy | 

Au final on sera toujours écouté donc c’est un scandale pour rien les employés qui écoutaient avait des clause de confidentialité mais maintenant c’est interne donc c’est les employés d’Apple qui vont se taper des barres la bonne affaire !

avatar YuYu | 

@iboy

"C'est l'utilisateur qui décidera s'il est d'accord pour que des échantillons de ses enregistrements puissent se retrouver un jour dans le lot de ceux analysés par des personnes"

avatar Sgt. Pepper | 

@iboy

Non sauf si tu le demandes.
Les fichiers sont anonymes

avatar iboy | 

@Sgt. Pepper
🤔 je pense pas avoir dis que les informations n’étaient pas anonymes mais merci de le confirmer

avatar Sgt. Pepper | 

@iboy

Jamais dit que vous l’aviez dit (info en passant)??
« On sera toujours écouté » est faux par contre

avatar iboy | 

@Sgt. Pepper

« Les fichiers sont anonymes »
Ah c’était juste au passage ?
Mais oui en effet je n’avais pas vu qu’on aurais la possibilité de refuser la collecte.

avatar Osei Tutu | 

@Sgt.Pepper
« Lorsque vous configurez Siri, ce que vous dites au cours du processus d’inscription (p. ex. : “Dis Siri, quel temps fait-il ?”) sera envoyé à Apple afin que vos appareils puissent reconnaître votre voix. Lorsque vous utilisez Siri et Dictée, ce que vous dites et ce que vous dictez est enregistré et envoyé à Apple afin de traiter vos requêtes. Votre appareil envoie aussi à Apple d’autres informations, notamment :
• votre prénom et votre surnom ;
• les noms et surnoms de vos contacts ainsi que leur relation (par exemple, « mon père »), si vous les avez définis dans vos contacts ;
• la musique, les livres et les podcasts que vous aimez ;
• les appareils de votre domicile sur lesquels HomeKit est activé (par exemple, « lumières du salon »), ainsi que les noms de votre appareil et de ceux des membres de votre partage familial ; et
• les titres de vos albums photo, les apps installées sur votre appareil et les raccourcis ajoutés via Siri. »
C’est ce que je trouve dans la confidentialité pour le réglage de Siri! À moins que je ne comprennes pas tout, ce n’est pas ce qui peut être qualifié d’anonyme

avatar Sgt. Pepper | 

@Osei Tutu

Je parles des données analysées par des humains 🙄
Bien sûr Siri a besoin de données perso pour fonctionner.

Pourquoi jouer aux cons, quel intérêt ?

avatar Osei Tutu | 

@Sgt.Pepper
Selon l'article du Canard enchaîné, ce sont les mêmes données qui leur sont transmises pour analyses. Il y a donc ces informations qui permettent d'affiner les réponses de Siri et d'améliorer leur pertinence. Autrement, le travail serait tronqué et ne pourrait pas donner le résultat attendu. Apple prend des mesures pour corriger cela. Je ne préjuge pas de leurs intérêts mais je sais seulement qu'ils se mettent en conformité a posteriori de leur discours marketing. Après je lis juste et je commente selon ma compréhension.

avatar Zara2stra | 

@iboy

« Second, users will be able to opt in to help Siri improve by learning from the audio samples of their requests. We hope that many people will choose to help Siri get better, knowing that Apple respects their data and has strong privacy controls in place. Those who choose to participate will be able to opt out at any time. » (Apple said)

Par défaut l’écoute sera désactivée, et c’est l’utilisateur qui devra lui même activer l’écoute. Ce point est important car les autres activent l’écoute par défaut, et c’est l’utilisateur qui doit la désactiver.

Apple, prend un risque non négligeable d’accroître son retard sur les capacités de Siri, mais considère que i) il est préférable de privilégier la vie privée pour être raccord avec sa communication et que 2) un nombre significatif d’utilisateurs fera l’effort d’aller activer l’écoute dans les réglages.

avatar pim | 

Siri est manche comme pas possible ; depuis le jour où je l’ai désactivé, il ne m’a jamais manqué une seule fois ! Même avec CarPlay, c’est encore mieux de carrément s’arrêter au lieu d’essayer de faire deux choses à la fois.

En revanche le nombre de déclenchements intempestifs est passé de beaucoup trop à zéro, et ça, ça n’a pas de prix !

Sur le fond de l’affaire, c’est une non annonce de la part d’Apple. Et que les écoutes s’effectuent en interne ou soient externalisées, par principe cela ne change pas grand chose.

avatar shaba | 

@pim

Tu devrais peut-être réessayer non, il marche plutôt bien pour moi. Peut-être que je ne lui en demande pas assez alors.

avatar pim | 

@shaba

C’est aussi de ma faute bien sûr, je l’ai assez peu utilisé. Il s’améliore à l’usage, c’est bien connu, sans doute parce que l’utilisateur est plus directif et moins hésitant ! N’ayant jamais franchi ce cap, je m’en passe d’autant plus facilement.

avatar shaba | 

@pim

Après je me contente d’envoyer des messages, de demander des dates d’événements et de créer des rappels mais tout ça fonctionne parfaitement. Pour les trucs qu’on voit dans les pubs Google je ne sais pas, mais de toute façon ça ne m’intéresse pas du tout, je cherche aussi vite par moi-même :)

avatar iboy | 

Qui parle de donner ? la boîte en question était payer pour affiner les réponses de l’assistant en analysant les questions.
On parle pas de Google qui vends des informations a des entreprises de marketing contre de belles sommes.

avatar marenostrum | 

Google ne vend rien aussi. Amazon pareil. Google paye pour les avoir. comment les revendre et à qui ? ils vendent de la pub par contre.

avatar iboy | 

@marenostrum

Google ne vend rien ? Et la pub arrive comme par magie a l’utilisateur en fonction de ses questions, déplacement , habitudes de vies etc... les boîtes de marketing les achète ces données c’est ce qui rapporte le plus a Google

Pages

CONNEXION UTILISATEUR