Siri : des oreilles humaines écoutent des conversations parfois très privées enregistrées par accident

Mickaël Bazoge |

Pour améliorer Siri, Apple fait appel à des sous-traitants chargés d'écouter des extraits audio captés auprès d'utilisateurs. Une pratique qui est celle de toute l'industrie : Amazon et Google emploient aussi ces petites oreilles discrètes… et parfois indiscrètes. Dans le cas d'Apple, c'est bien plus embêtant en raison de la position très ferme de l'entreprise sur la confidentialité des données.

« Votre iPhone en sait beaucoup sur vous. Mais pas nous », assure Apple sur un panneau géant à New York.

Une source de ces sous-traitants a évoqué son travail et ses inquiétudes auprès du Guardian. Il n'est en effet pas rare d'entendre des conversations très privées qui, manifestement, n'étaient pas destinées à Siri. Vente de drogue, discussions autour d'un contrat commercial, et même des couples qui font l'amour, c'est arrivé plus d'une fois.

Siri n'est pas censé écouter aux portes. L'assistant ne se lance qu'après avoir entendu son déclencheur, « Dis Siri ». Or, il est assez fréquent que l'assistant s'active par accident. Sur l'Apple Watch il n'est même plus utile de le convoquer, il suffit de porter la montre à sa bouche puis de parler1. Le sous-traitant explique d'ailleurs que les extraits audio accidentels proviennent souvent de l'Apple Watch et du HomePod.

« La régularité des déclencheurs accidentels avec la montre est incroyablement élevée », détaille cette source. « [L'Apple Watch] peut enregistrer des extraits de 30 secondes. Ce n'est pas si long, mais vous pouvez avoir une bonne idée de ce qui se passe ».

Parfois, on entend un docteur parler de l'historique médical d'un patient. Ou vous pouvez entendre quelqu'un, avec un bruit de moteur au fond, en train de dealer de la drogue. Et vous pouvez aussi écouter des gens en train de faire l'amour, et qui s'enregistrent accidentellement sur le HomePod ou la montre.

S'il est possible à ces employés de signaler à leur direction ce type d'activations non désirées, c'est uniquement en tant que problème technique. Il n'existe aucune procédure pour les enregistrements « sensibles » qui pourraient faire l'objet d'une enquête policière, par exemple. Les extraits audio captés par Siri sont accompagnés d'informations qui pourraient aider à identifier l'utilisateur : localisation, détails de contacts, données d'application.

Ces informations servent à déterminer si Siri a répondu correctement à la requête de l'utilisateur. Les extraits ne comprennent pas d'identifiant ni de nom spécifique ; de plus, il est très difficile de lier un enregistrement à un autre. Malgré tout, « il ne devrait pas être trop compliqué d'identifier la personne que l'on écoute », raconte l'infiltré. « Spécialement avec des déclencheurs accidentels : [on peut entendre] des adresses, des noms, etc. ».

Vraiment ?

Cette situation pourrait être encore plus dommageable si les extraits sont écoutés par de mauvaises personnes : les vérifications lors de l'embauche des personnels chargés de l'écoute sont peu fouillées « et le volume de données auxquelles nous avons librement accès est assez vaste ». Si quelqu'un chez ces sous-traitants avait des intentions néfastes, il n'aurait pas beaucoup de mal à mettre un nom derrière une voix.

Chez Amazon, il est possible de désactiver l'envoi de messages à des fins de contrôle qualité (une option qui ne sert pas à grand chose, de l'aveu même de l'entreprise). Il n'existe rien de tel chez Apple. Le livre blanc sur la sécurité du constructeur précise :

Les enregistrements vocaux de l’utilisateur sont conservés pendant six mois, afin que le système de reconnaissance vocale puisse les utiliser pour mieux comprendre la voix de l’utilisateur. Une autre copie est enregistrée après six mois, sans son identifiant, afin qu’Apple puisse l’utiliser pour améliorer et développer Siri, et ce, pendant deux ans au total. Un petit sous‐ensemble de fiches, transcriptions et données associées sans identifiant sont susceptibles de continuer à être employées par Apple pour l’amélioration continue et le contrôle de qualité de Siri au‐delà de deux ans.

Le constructeur indique au Guardian que « moins d'1% des activations quotidiennes de Siri » sont utilisées pour le service qualité, et que les extraits ne durent généralement que quelques secondes.

Qu'Apple fasse analyser des extraits audio à des sous-traitants dans le but d'améliorer la qualité de compréhension et de réponse de Siri n'a rien de choquant. Les machines n'ont pas notre oreille, après tout, et certaines situations nécessitent la compréhension d'un contexte que seul un humain peut appréhender. C'est le cas pour tous les éditeurs d'assistants connectés.

Ce qui est ici reproché finalement, c'est les cas d'activation accidentelle de Siri qui peut lancer l'enregistrement de l'extrait d'une conversation privée. Cette histoire va peut-être pousser Apple à serrer la vis et surtout à communiquer plus clairement sur ce qui passe dans les coulisses de Siri.


  1. Ça ne fonctionne pas tout le temps. On peut désactiver cette fonction dans les réglages de la montre, Général > Siri > Levez pour parler.  ↩


avatar Krysten2001 | 

@raoolito

Ils ne savent pas que c’est toi, c’est transparent

avatar Paquito06 | 

Apple travaille deja sur ce probleme et a bien du mal a le resoudre. Beaucoup ne realisent pas a quel point les equipes Apple galerent en interne a aller de l’avant justement car la firme ne recueille pas les donnees utilisateurs. Et quand on ne recueille pas de donnee et qu’on tente de resoudre certains problemes, les utilisateurs essuient les platres.
Pour en revenir aux donnees envoyees de maniere accidentelle, c’est bien l’AW qui pose le plus souvent probleme puisqu’on a celle-ci au poignet, en permanence. Le HomePod, si on n’est pas chez soi, n’est pas un probleme. Quant a l’iPhone, il faut qu’il soit a portee de main egalement. J’active souvent Siri en cuisinant avec un peu de musique, sans prononcer “Hey Siri” clairement. Va falloir trouver une parade 🤔

avatar Paquito06 | 

@jaymcfly

En Anglais car je réside en Californie, mais ce n’est qu’un detail 📱

avatar Paquito06 | 

@jaymcfly

Je n’ai jamais pensé a le mettre en 🇫🇷 pour avoir les dernieres nouveautes en fait, qui existent parfois qu’aux US/en Anglais.
J’ignore s’il y a des differences de Siri suivant les langues 🤔

avatar colossus928 | 

@Paquito06

Siri anglais possède les résultats Wolfram Alpha si ca n'a pas changé (mais ca fait un bail) que j'avais lu ça).

Et je crois qu'il comprend mieux les phrases et celles plus complexes (mais ça j'en suis pas sûr).

avatar Paquito06 | 

@colossus928

WolframAlpha est encore d’actualité avec Siri! J’ignore pour le reste.

avatar Paquito06 | 

@jaymcfly

C’est ce que j’ose croire en tout cas.

avatar didloan92 | 

Tout comme les webcams activable à distance vous pensiez tout de même pas que toutes ces boîtes ne pouvaient pas activer à distance l’assistant sur votre enceinte 🥳 Bienvenu dans la nouvelle ère des objets connectés 😎

avatar Krysten2001 | 

@didloan92

Chez Apple non car tu as une lumière si elle est activée ;) et de toute avec Siri ils ne savent pas que c’est toi

avatar Ramlec | 

@Depret Lucas

Y a eu une info à un moment où un hacker pouvait activer la cam sans allumer la diode mais je ne me souviens plus le procédé

avatar colossus928 | 

@Ramlec

Oui je pense que la led c'est que pour les logiciels "propres".

avatar Krysten2001 | 

@colossus928

C’est pour tout ;)

avatar colossus928 | 

@Depret Lucas

"Propres" dans le sens, ceux qui le veulent bien.

Un logiciel malveillant pourrait sûrement filmer sans que la LED ne s'allume, tu ne penses pas ?

avatar Krysten2001 | 

@colossus928

Je pense que toutes les appli sont obligées. Et pour un hacker, il lui faudrait une grande connaissance pour pirater macOS

avatar Ensearque | 

@Depret Lucas

Il faut de la connaissance pour pirater n'importe quelle plateforme

avatar Krysten2001 | 

@Ensearque

Surtout macOS

avatar Ensearque | 

@Depret Lucas

Pas plus que les autres. Il fait arrêter avec ce fantasme de croire que macOS est plus sur que le reste

avatar Krysten2001 | 

@Ensearque

Ben c’est le cas va voir où tu veux ^^ déjà au niveau des virus,... ;)

avatar Ensearque | 

@Depret Lucas

Il y plus de virus en circulation concernant Windows que macOS. C'est un fait. Mais cela ne signifie en aucun cas que macOS est plus sûr que l'OS de MS. Il n'y a qu'à voir la montée des ransomware sur macOS.

avatar Krysten2001 | 

@Ensearque

macOS est plus secure car déjà il est détenu que par Apple, ce n’est pas open source, beaucoup de mise à jour,... ;)

avatar Ensearque | 

@Depret Lucas

Les distributions Linux sont open source et tout autant sûr si ce n'est plus sûr... Il faut arrêter de croire que "open source = passoire" c'est factuellement faux.

avatar webHAL1 | 

@Depret Lucas
« macOS est plus secure car déjà il est détenu que par Apple, ce n’est pas open source, beaucoup de mise à jour,... ;) »

Rassure-nous, tu trolles comme un porc là, n'est-ce pas ?!

avatar fernandn | 

Je pense qu’il ne faut pas confondre accidentelle et volontaire!

avatar tbr | 

Puisqu’on vous dit que celles et ceux qui écoutent vos conversations sont fondu(e)s dans les puces H1. Ensuite, on répand leurs résidus aux pieds des arbres devant nos baies vitrées.

avatar shaba | 

@la redac : c’est normal que cet article soit tagué « Android » ? Celui sur Apple Music et la période d’essai l’était également, il y a peut-être un bug de ce côté ?

avatar Mickaël Bazoge | 
Ah c'est un foutu bug. Désolé.
avatar shaba | 

@MickaëlBazoge

C’est pas la mort non plus t’en fais pas !

avatar Pomme2Poule | 

Espérons effectivement que ça pousse Apple à resserrer encore plus la vis. Cette news a beaucoup moins de gens indignés que celle d'Amazon et ce n'est pas une bonne chose. Apple a un coup d'avance sur la question, oui. Mais ce n'est pas pour autant qu'il faut sympathiser avec leurs erreurs. En tant que clients et pour certains (moi inclus), fans, on a la responsabilité de juger Apple avec autant de sévérité que les autres. Personnellement je vais désactiver Dis Siri jusqu'à ce qu'Apple réponde concrètement à ce problème.

avatar shaba | 

@Pomme2Poule

On savait depuis très longtemps que des enregistrements étaient écoutés il n’y a rien de nouveau dans cet article. La différence fondamentale avec Google et Amazon c’est que ces données sont anonymes et ne sont pas exploitées pour nous refiler des produits. Mais je suis d’accord, je préférerais largement ne pas être écouté. Malheureusement c’est la seule voie pour améliorer les assistants à date.

avatar bibi81 | 

La différence fondamentale avec Google et Amazon c’est que ces données sont anonymes

Tu t'avances un peu là... Tu as eu accès aux données en question pour pouvoir l'affirmer ?

avatar webHAL1 | 

@Pomme2Poule
« Cette news a beaucoup moins de gens indignés que celle d'Amazon et ce n'est pas une bonne chose. »

On est sur un site dédié à Apple. Donc forcément, la proportion de personnes qui soutiennent la Pomme et descendent ses concurrents est bien plus importante que l'inverse.

« En tant que clients et pour certains (moi inclus), fans, on a la responsabilité de juger Apple avec autant de sévérité que les autres. »

Tout à fait. Mais c'est virtuellement impossible : lorsque tu aimes quelque chose ou quelqu'un, ton avis dessus et ton attitude à son égard en seront fatalement affectés.

avatar Travis_Scott | 

Cette source est-elle fiable ? Peut-on lui faire confiance ?
Après si c’est la vérité, on peut douter de la sincérité d’Apple dans sa communication, et à baser toute sa com actuelle sur la protection des données, ça risque de mettre à mal l’image de l’entreprise, qui se dégrade déjà d’année en année.

avatar shaba | 

@Travis_Scott

Mais il n’y a absolument rien de neuf ! Et je ne sais pas d’où tu tiens que l’image se dégrade... à part pour le positionnement prix toutes les études montrent que les consommateurs louent la qualité des produits. Ce qui est parfois étonnant pour certains d’ailleurs.

avatar Krysten2001 | 

@shaba

Ils en savent pas t’identifier et ils n’oseraient pas à vendre tes données car sinon leur image s’effondrera

avatar Tchobilout23 | 

Peut être m’ont il déjà entendu avec ma femme... mais peuvent ils vraiment savoir que cela est moi et ma femme?

Les conversations sont peut être enregistrées malencontreusement mais si il n’y a aucun moyen de connaître l’emetteur de cette conversation, la vie privée est conservée

avatar Ali Ibn Bachir Le Gros | 

@Tchobilout23

Tant de certitudes...

avatar Tchobilout23 | 

@Ali Ibn Bachir Le Gros

Ce ne sont pas des certitudes!!!

Mais plutôt des interrogations!

avatar melaure | 

Pour les gens qui font l’amour devant Siri, Apple va sortir le video pod, c’est quand même mieux le son avec l’image ;) :D :D :D

avatar mouahaha | 

Elle va surtout avoir un système de réduction de bruit quand elle entend ceux d'un coït. :)

avatar iFloXs | 

Ouais enfin bon c’est pas une volonté d’Apple de nous enregistrer, c’est un problème technique .... contrairement à Google, Amazon etc ...

avatar Paquito06 | 

@iFloXs

“Ouais enfin bon c’est pas une volonté d’Apple de nous enregistrer, c’est un problème technique “

C’est deliberé. C’est la politique d’Apple. Meme en interne aucune donnee perso ne circule. Ce qui explique du retard sur certains produits face a la concurrence.

avatar cecile_aelita | 

SIRI c’est comme Apple de toute façon!!
C’est de la MEEEEERDE !!
Y’a rien qui marche de la grosse merde je vous dit !!
Un iPhone avec une qualité photo digne d’un Nokia 3310 vendu à 1800€ mais franchement on va ou la...
C’est affligent que des pige... heu... des clients continue à acheter des produits de cette marque de meeeeeerde 😡😡😡

avatar Krysten2001 | 

@romainB84

Aucun argument 🤷‍♂️

avatar cecile_aelita | 

@Depret Lucas

Aucun second degrés 😉

avatar Krysten2001 | 

@romainB84

Je n’étais pas énervé :)

avatar cecile_aelita | 

@Depret Lucas

Ça m’a fait penser à un viel épisode de palmashow !!!
😂
« Ragix 3000 la boisson des vrais rageux !!! »

https://m.youtube.com/watch?v=Grt-vlP2x5Y

avatar anton96 | 

Ce qui est intéressant, c'est de voir la réaction des gens non avertis / non fan, ceux qui ont un iPhone avec un certain intérêt pour la chose et peut être aussi la vie privée mais sans plus.

J'ai l'impression que quand on parle de vie privé et des technos, les gens on une vision parfait très différente des choses.

Pour certains ça consiste juste à ne pas étaler sa vie privée en publique, beaucoup de gens ne sont pas étonnés qu'une boîte chez qui on est inscrit sache des choses sur eux.
Je crois que d'autres par contre serons assez choqué que des employé accèdent directement à ce genre d'élément de leur vie privée mais pour d'autre qui ont connus moultes service avant l'époque numérique, c'était plus habituel de fournir ses données par l'intermédiaire d'une personne administrative.

Puis le plus déroutant et c'est que des entreprises senggagent à ne pas savoir de qui viennent les données, à les anonymiser, à créer des procéssus intermédiaire pour y arriver alors que techniquement elles pourraient tout à fait identifier les personnes concernées

Pages

CONNEXION UTILISATEUR