Amazon explique comment Alexa a enregistré et envoyé une conversation à l'insu de ses utilisateurs

Florian Innocente |

Amazon a donné des explications sur les étapes qui ont conduit l'une de ses enceintes Echo à enregistrer une conversation au sein d'une famille puis à l'expédier à l'une de leurs connaissances. Cela s'est produit aux États-Unis il y a une quinzaine de jours.

Amazon Echo et Echo Dot (les petites)

Dans une déclaration à Recode, Amazon détaille :

Echo s'est réveillée en raison d'un mot, dans une conversation de fond, qui ressemblait à "Alexa". La conversation qui a suivi a été comprise comme une demande "d'envoi de message". À ce moment-là, Alexa a dit à haute voix « À qui ? »

À partir de là, les propos en arrière-plan ont été interprétés comme un nom dans la liste de contacts des clients. Alexa a alors demandé à haute voix, "[nom du contact], n'est-ce pas ?" Alexa a ensuite interprété la conversation de fond comme "exact". Aussi improbable que soit cette série d'événements, nous évaluons des options pour rendre cette éventualité encore moins probable.

La personne dans le carnet d'adresses, un employé du mari de la famille, avait reçu un fichier audio avec la portion enregistrée de cette conversation. « Vous étiez en train de parler de plancher en bois massif » a-t-il raconté à son patron pour lui montrer qu'il ne plaisantait pas.

Les réglages d'Alexa permettent de bloquer certaines fonctions qui pourraient être utilisées de manière intempestive. On peut empêcher la commande d'articles sur Amazon qui, autrement, peuvent se faire en un clin d'œil dès lors qu'on a activé les achats 1-Click sur le site (on peut aussi définir un code oral de confirmation comme sécurité).

Les options pour encadrer ou désactiver la fonction d'achats 1-Click sur Amazon par la voix

La version américaine d'Alexa propose aussi l'envoi de messages dictés, comme ce qui s'est passé ici. C'est également une option à activer mais pour la supprimer ensuite il n'y a pas d'autre moyen à ce jour que… de téléphoner au support technique d'Amazon. Mais à tout désactiver de peur que l'enceinte ne fasse du zèle, l'intérêt de celle-ci va forcément s'éroder.

Amazon doit lancer cette année en France ses enceintes Echo avec Alexa (toutes les pages d'aide sont traduites). Des employés et clients d'Amazon testent le produit dans l'Hexagone depuis la fin de l'année dernière. Sonos fait de même depuis quelques semaines avec un bêta-test de la version française d'Alexa sur ses Sonos One.

Mi-avril Le Figaro s'avançait sur une commercialisation des Echo pour le 23 mai, événement qui ne s'est finalement pas produit.


Tags
avatar koko256 | 

Ils auraient dû choisir "À que coucou". C'est dans le domaine public maintenant...

[NB: je sais que c'est 70 ans après la mort ou 50 ans après la réalisation le droit d'auteur et les droits voisins]

avatar rikki finefleur | 

Un peu comme si il fallait arrêter la production des téléphones car on peut mal les raccrocher..
Et je pense que cela arrive souvent dans sa vie
Cela fait juste partie des bugs ou mauvaise interaction que l'on rencontre mille fois dans des softs divers.
Effectivement un article pour faire du clic.

avatar Link1993 | 

Je le remets a chaque fois que ça parle d'assistant, mais la, c'est totalement en accordance ! ?

https://xkcd.com/1807/

avatar Glop0606 | 

Un petit exemple de plus qui montre les limites évidentes de ces micros toujours ouverts aux oreilles "philanthropes" de google et amazon. Personnellement je trouve même négatif l'impact de ses nouvelles technologies sur nos comportements. Nous lâchons de plus en plus de notre contrôle et de nos libertés individuelles au profit de machines et sociétés. On pourrait en faire un débat philosophique! Dernièrement il y avait un très bon article sur le site theverge "Google’s Selfish Ledger ideas" - ça fait réfléchir...

avatar pagaupa | 

@Glop0606

+1000 ??

avatar A884126 | 

J’ai une amie qui m’a donné un Google Home car elle trouvait cela nul, et bien je partage son avis. Il ne sait rien faire. C’est vraiment d’aucune utilité.

avatar Malum | 

Au moins une : faire un commentaire.

avatar pagaupa | 

Le moins qu'on puisse dire, c'est que ces assistants à la con font couler de l'encre...

Pages

CONNEXION UTILISATEUR