Une enceinte Echo accusée d'avoir enregistré et partagé une conversation privée
Un couple résidant à Portland s'est rendu compte qu'un des appareils Echo de leur maison enregistrait à leur insu des discussions privées, que l'enceinte a ensuite partagé à un contact présent dans le carnet d'adresses de la famille. La personne en question est un employé du mari, qui l'a prévenu par téléphone. Et conseillé de débrancher Alexa « tout de suite » ! Ce qui fut fait, et prompto.
Une chaîne locale d'informations a rapporté cette mésaventure qui fait mauvais genre, alors que les inquiétudes autour du respect de la vie privée n'ont jamais été aussi fortes. En particulier sur le marché naissant des enceintes connectées… Amazon a ensuite été contacté, et l'histoire prise très au sérieux.
Les ingénieurs en charge du dossier ont vérifié les logs, et ils ont pu confirmer qu'effectivement, l'enceinte avait bien enregistré une conversation puis l'avait envoyé à cette personne. Malgré les excuses d'usage, les utilisateurs malheureux de l'Echo n'ont pas obtenu d'explications techniques sur ce qui s'était passé.
Une des hypothèses est que l'enceinte a agi de son propre chef, après avoir sans doute mal interprété un ordre. L'appareil n'a toutefois pas indiqué vocalement qu'il allait envoyer l'enregistrement. Amazon a précisé à la chaîne d'infos que l'enquête était en cours, qu'il s'agissait d'une occurrence « extrêmement rare », et que l'entreprise allait mettre en place des garde-fous pour éviter que cela ne se reproduise.
Un vrai Stanley Kubrik !
Fallait bien que cela arrive un jour
Les assistants qui prennent le contrôle :) MDR
@raf30
La NSA a déjà le contrôle
Encore une fois : https://xkcd.com/1807/
@occam
???
Skynet est en marche.
«Une des hypothèses est que l'enceinte a agi de son propre chef, après avoir sans doute mal interprété un ordre.»
L’ordre (programmé sans doute) d’envoyer ça directement à la NSA, bien sûr.
Déjà que nous avons des téléviseurs Samsung qui écoutent même « éteint »
À quoi pouvait-on s’attendre avec ces gadgets?
@niclet
En plus la commande vocale pour allumer la tv ne fonctionne pas !
"Une des hypothèses est que l'enceinte a agi de son propre chef"
Ben mon 'ieux... Si tous les trucs connectés peuvent se mettre à "agir de leur propre chef"... On est vraiment mal barré... :-( Enfin, si on a une enceinte connectée, évidemment.
Ça devient complètement dingue.
"Une des hypothèses est que l'enceinte a agi de son propre chef"
Oui et c’est tout a fait normal ?♂️
C’est une blague ce truc...
sa fait froid dans le dos.
On perd totalement le contrôle, et ça pour avoir le plaisir de commander un store par la voix...
Imaginé les conséquences que cela aurait pu avoir dans un autre environnement.
C'est beau l'intelligence artificielle! ???
Amazon a précisé à la chaîne d'infos que l'enquête était en cours, qu'il s'agissait d'une occurrence « extrêmement rare », et que l'entreprise allait mettre en place des garde-fous pour éviter que cela ne se reproduise.
Et encore Amazon et Google laisse la possibilité de couper le micro pour éviter tout problème.
Du côté de Apple, pas de possibilité de couper le micro (bon en même temps le homepod ne sait pas faire grand chose).
@bibi81
C’est également possible de couper le micro de l’homepod...
https://help.apple.com/homepod/#/apd99ee29027
Apple, complètement larguée, est vraiment prêt à tout pour exister dans ce monde...
Ça pue l'mytho.. comme la voiture autonome uber.. maintenant qu'on sait que le freinage d'urgence a été désactivé..
Trop de mytho et d'espionnage industriel ☝?
À qui profite le crime ??
Je suis surpris qu’on soit surpris par cet événement :D Ça allait évidemment arriver, et ça sera pas la dernière fois
Pas mal, le titre de l’article. J’imagine la scène :
- Greffier, déballez le prévenu et apportez-le dans le box des accusés !
- Oui, Monsieur le Juge.
Et certains se plaignent que Siri ne comprenne rien?
Il va falloir suivre cette affaire de près. Si vraiment une enceinte d'Amazon peut se mettre à enregistrer ce qui se passe autour d'elle et partager cet enregistrement avec d'autres personnes sans qu'on lui en ait donné l'ordre, c'est clairement inquiétant.
Mais il arrive parfois que ce genre d'histoires se révèlent au final être totalement bidon...
Je suis curieux d'en savoir plus !
Pourtant Amazon a livré une explication :
« Echo woke up due to a word in background conversation sounding like "Alexa." Then, the subsequent conversation was heard as a "send message" request. At which point, Alexa said out loud "To whom?" At which point, the background conversation was interpreted as a name in the customers contact list. Alexa then asked out loud, "[contact name], right?" Alexa then interpreted background conversation as "right." As unlikely as this string of events is, we are evaluating options to make this case even less likely. »
@tchit
Okay, merci pour les explications. :-)
Ça revient plus ou moins au même qu'un assistant qui viendrait toquer à la porte de son chef, lui pose des questions, et interprète les réponses en fonction de ce qu'il entend, sachant que la personne de l'autre côté de la porte discute peut-être au téléphone et que ses réponses ne sont pas du tout destiné à son assistant.
Je pense qu'Amazon pourrait assez facilement faire en sorte que, pour des actions sensibles, Alexa demande une confirmation de type :
« Veuillez confirmer l'action en disant "Alexa, envoie le contenu de la discussion à Jean Dubois" pour que je l'effectue. »
Que voulez-vous?
Les gens ont peur mais continuent à aller sur fb, à acheter des enceintes google qui les écoutent h24
Amazon précise que c'est une occurrence extrêmement rare...
Ils ne disent pas que c'est la première fois qu'ils constatent ce comportement! ?
A mon avis, ce qui est rare, c'est que l'enceinte se trompe de destinataire ?
« Derrière Winston, la voix du télécran continuait à débiter des renseignements sur la fonte et sur le dépassement des prévisions pour le neuvième plan triennal. Le télécran recevait et transmettait simultanément. Il captait tous les sons émis par Winston au-dessus d’un chuchotement très bas. De plus, tant que Winston demeurait dans le champ de vision de la plaque de métal, il pouvait être vu aussi bien qu’entendu. Naturellement, il n’y avait pas moyen de savoir si, à un moment donné, on était surveillé. Combien de fois, et suivant quel plan, la Police de la Pensée se branchait-elle sur une ligne individuelle quelconque, personne ne pouvait le savoir. On pouvait même imaginer qu’elle surveillait tout le monde, constamment. Mais de toute façon, elle pouvait mettre une prise sur votre ligne chaque fois qu’elle le désirait. On devait vivre, on vivait, car l’habitude de- vient instinct, en admettant que tout son émis était entendu et que, sauf dans l’obscurité, tout mouvement était perçu. »
— 1984, George Orwell
@Navareus
Certes, l'outil est là, mais détail non négligeable, la finalité (dans Orwell le contrôle et l'extinction des émotions) n'est pas la même.
La citation d'Orwell à laquelle on échappe rarement dans de genre de news reste un contresens.
Après, ça ne rends pas Google et ses objets moins inquiétants, mais avec une finalité et des risques bien plus subtils.
@Bigdidou
Je suis d’accord, je voulais davantage troller. On peut pas dire que les contextes soient encore similaires. Pourvu que ça dure.
Et quand on pense que certains installent des produits contrôlés par Google chez eux ?...
@Yves SG
Mmhhh, des produits "contrôlés par Google" ?! Je serais curieux d'en savoir plus... ?
@webHAL1
"Mmhhh, des produits "contrôlés par Google" ?! Je serais curieux d'en savoir plus... ?"
Contrôlé dans le sens avoir accès à tout qui s'y passe, ce n'est pas faux..
https://myactivity.google.com/myactivity
@Bigdidou
Dans ce cas, autant dire "des produits surveillés par Google" ou "des produits dont le contenu est enregistré par Google".
Jusqu'à preuve du contraire, Google ne "contrôle" pas les produits qu'ils vendent. Ou alors on peut dire qu'Apple "contrôle" les iPhone et les iPad, puisque la Pomme peut supprimer des applications de manière unilatérale et sans accord de l'utilisateur.
@webHAL1
Oui, on peut toujours mieux dire les choses ou autrement.
Mais un contrôle peut être actif ou passif (dans le sens de surveiller), c'est difficile à contester, quand même. Une instance de contrôle vérifie et fait rarement les choses, ça se saurait ;)
Nous sommes en train de faire inutilement du mal aux mouches, là.
@Bigdidou
« Nous sommes en train de faire inutilement du mal aux mouches, là. »
Je ne pense pas que ce soit inutile. :-)
Dans le domaine des enceintes connectées, il y a beaucoup de fantasmes et de désinformation, d'autant plus sur ce forum lorsqu'on parle des produits d'Amazon et de Google. Donc ça me paraît intéressant de (tenter de) bien trier le vrai du faux.
@webHAL1
J’ai cru comprendre que Google pouvait activer/désactiver l’enregistrement et l’envoie de données sur ses servers à l’aide d’une mise à jour. C’est quand même pour moi une forme de contrôle (sournois) de ses produits.
@Yves SG
« J’ai cru comprendre que Google pouvait activer/désactiver l’enregistrement et l’envoie de données sur ses servers à l’aide d’une mise à jour. »
Je n'ai jamais rien lu dans de sens. Aurais-tu des sources qui expliquent plus en détails ce que cela signifie et quelles sont exactement les implications derrière ? Merci par avance.
Sinon, comme je le disais ci-dessus, je pense qu'avec iOS et Android, Apple et Google ont un certain contrôle sur nos appareils (par exemple la suppression d'une application). Personnellement ça ne me plaît pas beaucoup, mais je l'accepte.
@webHAL1
Par exemple ce cas la :
https://www.google.fr/amp/ici.radio-canada.ca/amp/1060865/google-home-mini-espionnage
« Le Google Home Mini n'est même pas encore offert qu'un scandale l'éclabousse déjà. Un journaliste du média spécialisé Android Police a découvert que le petit haut-parleur intelligent avait enregistré toutes ses conversations pendant trois jours et qu'il les avait transmises à Google, ce qui soulève de sérieuses questions concernant la vie privée. »
Plus loin :
« Google a effectué une mise à jour de tous les Google Home Mini, le 7 octobre, qui corrige le problème en désactivant le pavé tactile. Elle a également effacé les requêtes des comptes touchés par l’ennui technique. »
Et ce n’est que la partie émergée de l’iceberg.
Apple et Google ont des modèle économique, des objectifs et des vocations diamétralement opposées. Leurs pratiques en terme de traitement des données (locale pour Apple et centralisée pour Google) n’est pas non plus la même, et pour cause Google est prêt à tout pour collecter l’information qui constitue son trésor.
Le danger que représente la détention d’informations par Apple ou par Google n’est à mon avis sans commune mesure...
@Yves SG
« Par exemple ce cas la :
https://www.google.fr/amp/ici.radio-canada.ca/amp/1060865/google-home-mini-espionnage »
Merci pour le lien. :-)
J'ai entendu parler de cette histoire, mais il me semble que, comme pour la situation avec Alexa dans l'article que nous commentons, les choses ont été amplifiées pour créer une polémique.
Si je regarde les faits :
1. L'enceinte de Google possède la fonction d'enregistrer des conversations.
2. Certains modèles distribués à des journalistes connaissaient un défaut qui faisait que cette fonction s'activait sans que l'utilisateur l'ait spécifiquement demandé.
3. Google a corrigé le défaut via une mise à jour logicielle.
Selon moi ce n'est pas différent de l'ensemble desiPhone (depuis le modèle 6S) qui peuvent invoquer Siri via une commande vocale, donc qui sont en permanence attentif, donc qui pourraient comporter le même défaut.
Apple a fait les choses différemment, en dotant les iPhone d'une enclave sécurisée d'où (en théorie) les informations ne vont pas sortir. Ce qui nous amène au point suivant :
« Apple et Google ont des modèle économique, des objectifs et des vocations diamétralement opposées. Leurs pratiques en terme de traitement des données (locale pour Apple et centralisée pour Google) n’est pas non plus la même, et pour cause Google est prêt à tout pour collecter l’information qui constitue son trésor. »
Je suis d'accord avec le modèle économique différent entre Apple et Google. Quant aux "objectifs" et "vocations", je ne suis pas sûr de ce que tu veux dire... Ce sont deux entreprises qui cherchent à gagner de l'argent. Leur vocation se résume à cela.
Et je ne crois pas que Google soit "prêt à tout" pour collecter de l'information. Ils agissent dans le cadre de lois et régulations et, jusqu'à preuve du contraire, ils les respectent. De plus, ils sont particulièrement transparents sur les données qui sont collectées (la page "My Activity" qui permet de les voir et la possibilité de désactiver la collecte) et sur la manière dont fonctionnent leurs services (par exemple la publicité dans Gmail qui se basait sur le contenu des messages, ce qui n'est plus le cas depuis quelques temps). Il faut garder à l'esprit qu'ils n'ont aucun intérêt à ce que leurs utilisateurs se sentent piégés et quittent leur plate-forme.
« Le danger que représente la détention d’informations par Apple ou par Google n’est à mon avis sans commune mesure... »
Le danger ? C'est-à-dire ?
Le seul danger que je vois, c'est un piratage qui rendrait ces informations accessibles à des personnes qui n'auraient pas dû y avoir accès. Et au niveau de la sécurité informatique, Google est parmi les meilleurs élèves.
Le danger existe aussi avec Apple. On l'a vu il y a quelques années avec les fuites de photos personnelles de célébrités (https://fr.m.wikipedia.org/wiki/Fuite_des_photos_de_personnalit%C3%A9s_d%27ao%C3%BBt_2014). Pour rappel, elles avaient été rendues possibles via des courriels d'hameçonnage, mais avaient mis en lumière des failles d'iCloud.
Ce service d'Apple stocke pour des centaines de millions d'utilisateurs leurs photos privées, leurs contacts, leurs notes, leur mots de passe, leur calendrier. Le "danger"'est-il réellement moindre ?
@webHAL1
"Et je ne crois pas que Google soit "prêt à tout" pour collecter de l'information."
C'est précisément en cela que j'ai une opinion différente de la tienne.
Pour le reste, oui.
"qui permet de les voir et la possibilité de désactiver la collecte)"
Arrêt de la collecte qui bloquera tous les services associés, pour lesquels les alternatives sont devenues rares ou inexistantes maintenant que Google les a étouffées.
"Il faut garder à l'esprit qu'ils n'ont aucun intérêt à ce que leurs utilisateurs se sentent piégés et quittent leur plate-forme."
Précisément, le sentiment d'être piégé survient quand tu te sens en danger, mais que tu ne peux pas quitter la situation.
Je ne vois pas ce qui pourrait déranger Google dans le fait que je me sente piégé (ce qui est assez le cas), du moment que c'est très difficile de quitter la plateforme faute d'alternatives efficientes. C'est pas facile d'utiliser un smartphone Android en échappant à la collecte de Google, faut être honnête. Ce rgpd est pour moi un électrochoc qui va précipiter mon retour sur iOS, c'est certain.
"Ils agissent dans le cadre de lois et régulations et, jusqu'à preuve du contraire, ils les respectent.""
Lois et régulations sur lesquelles ils influent grandement.
Maintenant, je suis d'accord, le rgpd, est un bon argument "dans ton camp". Ceci étant, on commence à entendre des voix discordantes à son propos. Car au fond, il n'empêche rien.
"Ce service d'Apple stocke pour des centaines de millions d'utilisateurs leurs photos privées, leurs contacts, leurs notes, leur mots de passe, leur calendrier. Le "danger"'est-il réellement moindre ?"
Absolument, car il s'agit de faille accidentelles, réparables et réparées. Pas de failles érigées en système de fonctionnement.
D'ailleurs, je comprends mal la comparaison.
"Le danger ? C'est-à-dire ?"
Celui d'une intrusion (faute de pouvoir faire plus pour le moment) permanente dans ta vie privée.
Le danger est forcément là : cette collecte est rentable pour Google.
Et le problème, précisément, c'est que nous sommes bien incapables d'expliquer comment on rapporte autant de sous à Google.
Il est là, le danger (associé à des fantasmes, je suis d'accord, mais bien légitimes).