Chez Google aussi de petites oreilles écoutent les enregistrements audio de l'Assistant

Florian Innocente |

Après la diffusion d'un documentaire sur le traitement des données obtenues par ses assistants, Google a voulu relativiser la place accordée à des personnes dans l'écoute et l'analyse de ces contenus. Une communication qui laisse des questions sans réponse.

Dans un billet, Google affirme que les experts qu'il fait travailler aux quatre coins du monde, pour écouter et retranscrire des extraits audio, ne travaillent que sur 0,2% environ de cette masse de données. C'est déjà une indication mais l'Assistant de Google traite probablement des millions de requêtes par jour : les petits pourcentages peuvent faire de grandes rivières.

Présentation à la presse du Google Nest Hub

Google ajoute que des précautions sont prévues pour dissocier ces enregistrements des comptes utilisateurs, de manière à les anonymiser. Ces employés ont pour instruction de ne coucher par écrit que les instructions données explicitement à l'assistant, pas les propos qu'ils pourraient entendre en arrière-plan.

Google affirme aussi avoir ouvert une enquête au vu de la rupture du contrat de confidentialité dont a été coupable cet employé, interviewé masqué pour une émission diffusée en Belgique.

Cette communication esquive toutefois des questions soulevées par ce documentaire signé VRT NWS. On y voit que Google emploie des prestataires à travers le monde pour écouter des extraits audio qui leur sont envoyés en grands volumes tous les mois. Le témoin de l'émission dit en traiter environ 1 000 par semaine.

Ces opérateurs ont pour mission de les retranscrire, afin d'améliorer les capacités d'analyse de l'assistant. Déjà, Google ne prévient nulle part dans ses conditions d'utilisation qu'elle sous-traite ces informations, ou tout simplement qu'elle les confie à des personnes pour écoute.

Autre problème, ces enregistrements ont beau être séparés de l'identité de ceux qui les ont provoqués, il arrive fréquemment que l'assistant capte par erreur des propos qui ne lui étaient pas destinés.

Tous ceux qui utilisent les assistants d'Apple, de Google ou d'Amazon ont été confrontés à ces réveils impromptus de ces logiciels, alors qu'on ne les avaient pas appelés. L'assistant comprend mal et croit avoir entendu un "Dis Siri" ou un "Alexa", alors que non. Pour ajouter à ces problèmes déjà courants, la personne interrogée explique que l'assistant de Google a des progrès à faire en flamand et que les erreurs d'interprétation pour détecter correctement un "Ok Google" peuvent aussi s'expliquer par ce biais.

L'interface utilisateur pour écouter ses propres enregistrements et les effacer

Le journaliste raconte ensuite que sur un peu plus de 1000 enregistrements passés en revue, il en a compté 153 qui avait été captés par erreur par l'assistant et livrés pour retranscription. De là découle un autre problème, ces enregistrements impromptus peuvent contenir des informations plus personnelles puisque la personne ne s'adressait pas à son enceinte.

Le journaliste est allé à la rencontre d'un couple et d'un homme dont les adresses ou noms étaient présents dans ces extraits audio. Chacun a pu confirmer qu'il s'agissait bien de sa voix ou de celle d'une personne dans la maison. D'une manière plus générale, même si l'assistant a correctement réagi à une demande, il peut fréquemment récupérer des infos telles que des demandes de rendez-vous chez un médecin, des noms ou adresses, qui tomberont peut-être dans les oreilles de ces employés.

L'opérateur raconte avoir écouté un jour un fichier audio dans lequel une femme semblait en détresse, peut-être violentée. Que faire lorsque cela se produit, comment réagir ? Les consignes de Google n'abordent pas ce genre de situation, constate-t-il désabusé. Et de réaliser à ce moment-là que ce ne sont plus seulement des voix qui sont écoutées à la chaîne, mais des personnes dans leur quotidien.

Le logiciel d'écoute et de retranscription utilisé par les prestataires de Google

La critique faite à Google porte avant tout sur l'absence de transparence sur les coulisses de l'analyse de ces données. Sur l'implication de personnes en chair et en os, pas toujours employées par Google, qui écoutent ces échanges. Alors que peut-être beaucoup de ces propriétaires d'enceintes intelligentes croient que leurs voix ne sont traitées que par des ordinateurs et logiciels.

Ce sujet fait écho à des questions similaires à propos d'Amazon qui s'appuie lui-aussi sur l'oreille d'êtres humains pour améliorer Alexa, avec des problématiques identiques.

avatar reborn | 

Lol

🍿

avatar UraniumB | 

@reborn

Tiens ma bière 🍺

avatar reborn | 

@UraniumB

🍻🥳

avatar romainB84 | 

@reborn

Je me joins à vous 😁😁
Lunettes 3D : Check
Pop corn : Check
Bière : Check !!!

avatar whocancatchme | 

A chaque fois qu’on le dit, c’est vrai par la suite ! Faut être taré pour avoir ça chez soi

avatar razerblade | 

En même temps quelle idée d’avoir ce genre d’appareil à la maison, encore plus quand on connaît Google...

avatar davidtuga | 

Exactement pour ça que j’ai jamais acheté cette connerie !!!!!

avatar fredsoo | 

@davidtuga

Les gens crieraient au scandale, descendraient dans la rue tout casser si l’état nous écoutait avec des micros, là ils paient pour qu’une société privée les écoute. Le paradoxe humain.... 😄

avatar romainB84 | 

@fredsoo

Nan nan!! Les gens crieraient au scandale si APPLE faisait ça surtout 😁 mais là c’est Google donc ça passe crème 😉

avatar Vaudan | 

J’ai participé à ce genre d’activité de retranscription.

Pour être tout à fait honnête, c’était toujours des phrases assez courtes de quelques mots.

Typique du : quel temps fait-il à... ?

Alors oui parfois il y avait du bruit en arrière plan, mais rien de très perturbant.

Le problème n’est pas tant que des gens retranscrivent mais plutôt que l’utilisateur n’est pas assez informé.

avatar pim | 

Tant que ce n’est pas quelqu’un en train de crier « Omar m’a tuer » (orthographe d’origine Svp !), tout va bien !

avatar House M.D. | 

@pim

Y’a une nouvelle version, vous n’êtes plus à jour... maintenant c’est « Homard m’a tuer »

😉

avatar fredsoo | 

@House M.D.

Pour le moment, pas vraiment, il est tenasse, si on parle de la même chose 😄

avatar pim | 

@House M.D.

Effectivement !!! Bien vu ! Homard m’a tuer, et j’aime pas le caviar !

avatar sensass | 

Google fait sûrement bien pire mais on ne le sait pas encore. Quoi qu’il arrive les données sont stockées et c’est bien la clé pour faire plus d’argent à présent.

Dans tous les cas beaucoup s’offusquent mais j’ai envie de dire tu as été con aussi de laisser entrer une telle enceinte chez toi. Pour quoi au final ? Être encore plus un assisté.

Les GAFA mangent littéralement le monde et ces scandales à répétitions n’ont l’air d’avoir eu aucun effet chez les gens. Bon bah voila encore dans votre face.

avatar House M.D. | 

@sensass

On en revient encore et toujours à la même problématique... combien de liberté ou de confidentialité est-on à même de perdre pour gagner en confort?

Tout l’équilibre est là, et il est relativement fragile : tant que la majorité estime recevoir un service plus grand que la perte subie, alors ça continue.

Le même principe est là pour d’autres fonctions, beaucoup plus anciennes, effectuées par des humains : avoir une secrétaire, par exemple, c’est le risque qu’elle connaisse une grande partie de votre vie. Mais c’est aussi un énorme poids enlevé dans votre quotidien au travail pour certains emplois.

avatar sensass | 

@House M.D.

Oui mais quand l’humain et l’interaction social s’effacent d’un lien homme/machine il faut vraiment se poser des questions sur l’utilité des « services ».

avatar House M.D. | 

@sensass

Ah mais je ne dis pas le contraire... je ne fais qu’énoncer un fait...

Je ne souhaite en aucun cas utiliser un appareil « ok Google » ou « Alexa » à titre personnel, et je me limite à mes appareils iOS/watchOS/macOS pour Siri, m’inquiétant de la réalité parfaite du discours concernant ce dernier, avant de penser à prendre un HomePod (pour lequel je n’ai de toute façon pas les moyens actuellement)...

avatar charlie105 | 

@House M.D.

Jean de la Fontaine, le chien et le loup 😉 ça date pas d’hier!

avatar House M.D. | 

@charlie105

😉

avatar appleadict | 

@charlie105

merci pour la référence, je ne connaissais pas

avatar lulubotine | 

Le home pod c’est la même bouse

Comment on fait pour être convaincu d’acheter ce truc.
Payer pour être en plus écouté et analysé.

Alors que même gratuit les 3/4 des gens normaux ne voudraient même pas de ça chez eux.

Parler à un bordel qui comprend tout de travers !!

avatar UraniumB | 

@lulubotine

Non le HomePod c’est différent. Dans ce cas là c’est Apple, comme tu le sais, qui a la main dessus. Mais Apple n’a pas du tout la même façon d’analyser nos données (très peu, anonymes) ni les mêmes buts que Google (uniquement pour améliorer le produit lui-même et non se faire de l’argent).

avatar rikki finefleur | 

@uranium
Je pense que tu n'es pas dans les bureaux d'apple et personne ne le sait..
D’autre part c'est une spécialité d'enjoliver par des mots marketing l'espionnite.

avatar UraniumB | 

@rikki finefleur

D’enjoliver ? Apple insiste tellement sur la confidentialité qu’elle sait que si elle est prise en flagrant délit ça fera un énorme scandale et que la boîte pourra s’écrouler. Au contraire de Google justement qui avoue elle-même qu’elle utilise nos données. Alors j’ai curieusement plus confiance en l’un qu’en l’autre... comme par hasard...

avatar bibi81 | 

Apple insiste tellement sur la confidentialité qu’elle sait que si elle est prise en flagrant délit ça fera un énorme scandale et que la boîte pourra s’écrouler.

Bof, manifestement cela ne choque pas grand monde qu'Apple touche des milliards de Google...

avatar UraniumB | 

@bibi81

Apple touche effectivement plusieurs millards de dollars chaque année de la part de Google mais seulement pour que Google reste le moteur de recherche par défaut des produits Apple. Désolé, mais il y a des situations plus graves et plus choquantes quand même...

avatar romainB84 | 

@UraniumB

C’est exactement ça ! (Encore une fois heureusement qu’il y a des gens comme toi ici qui ont un peu de jugeote et pas uniquement des trolls à la d....s ou a...x (tiens c’est marrant on les voit pas sur cet article...))

Évidement que si tu bases toute y’a com et ton business model sur la confidentialité et protection des donnees quand tu es une boîte de la taille d’Apple (ça serait vrai aussi à moindre échelle mais ça l’est encore plus pour une boîte de cette envergure), si il y a la moindre preuve qu’il y a tromperie la dessus, toute la confiance avec le client est détruite et l’image de marque aussi -> boite morte !! (Suffit de voir ce qui s’est passé avec myspace il y a quelques années quand les données se sont fait volé par millions ... : pertes de confiance, donc fuite des clients!! : certes c’était pas tout à fait la même chose car c’était pas forcément intentionnel à l époque mais bon... ça a suffit quand même ... alors si en plus il s’avère que c’est intentionnel alors là pour le coup...)

Donc évidement que Apple ne fera pas la connerie de faire ça !!
Surtout que si ils avaient autant de data que ça, ça ferait bel lurettes que leur applis type SIRI ou la reconnaissance des photos et autres seraient d’une bien meilleure qualité !! 🙂

avatar UraniumB | 

@romainB84

Merci romain, ça me fais plaisir de savoir que des gens partagent mon avis ! 😁😉. Pour en revenir au sujet, j’ajouterais également qu’il faut savoir qu’Apple protège ou du moins VEUT protéger nos données; ce qui fait que quand des failles de sécurité sont découvertes; ce n’est pas par manque d’attention de la part d’Apple, mais plutôt que ça leur a échappé (c’est mon point de vu); mais les trolls ne l’entendent pas de cette oreille...😌

avatar romainB84 | 

@UraniumB

Exactement!!
Après qu’on soit bien d’accord, je ne jette aucune pierre au utilisateurs de ce genre de produit ou services (contrairement au trolls qui traitent les utilisateurs d’iPhone de pigeons... ou pire pour les moins civils d’entre eux^^)
Du moment qu’ils ne s’en plaignent pas !
Comme je le dis à chaque fois (et que je le dirait encore et encore et encore et encore )
Il n’y a que une seule règle universelle dans le monde « la causalité » « cause / conséquence »
Renier cette règle est impossible !!.
Pour qu’une boîte soit l’une des plus puissante aux monde ils faut qu’elle aient de l’argent (cause / conséquence)
Apple vend des produit cher / elle a de l’argent
Si Google fait tout gratuit et qu’elle est quand même l’une des boite les plus riches et plus puissantes du monde ... c’est que l’argent rentre ailleurs 😉 (cause / conséquence)
Du moment que les gens accepte de donner leur données confidentielle en échange de bons produits: AUCUN PROBLÈMES
Du moment que les gens accepte de payer pour ne pas donner leur données confidentielles: AUCUN PROBLÈMES
Par contre vouloir ne pas payer et garder ses données personnelles en échange d’un bon produit: GRRRRRR /ERROR/ 😉
Après là où c’est devenu assez inquiétant c’est que la vie privée des gens (leur photos, etc...) semble être devenu beaucoup moins important pour les gens que leur argent.
Chacun ses choix après tout du moment qu’on les assumes 🙂

avatar UraniumB | 

@romainB84

Exactement, je te suis complètement 😊. Google et Apple sont vraiment des opposés... Le truc c’est que les gens voient davantage le prix du produit que le produit lui-même, et sont contents si ça fait de bonnes photos par exemple ou encore a une bonne autonomie (ce sont en gros les choses qui attirent le plus le client lambda qui n’y connaît pas grand grand chose...). Du reste, le client se fiche si ses données notamment sont utilisées, ou alors on va le lui dire une fois, il va peut être être choqué, mais tout cela pour tout oublier le lendemain. Et pourtant C’EST important aujourd’hui de faire attention à sa vie numérique donc on ne peut pas nier cela. Après comme tu l’as dis, libre à soit de choisir et d’assumer mais faut pas aller pleurer après quoi. D’une manière générale, les gens voient beaucoup TROP l’apparence des choses (pas seulement dans le domaine de la tech bien sûr) et ne voient pas l’envers du décor. On pourrait même aller plus loin en parlant notamment de la possibilité de pouvoir choisir ses appareils tech car tout le monde ne peut pas financièrement s’acheter des produits Apple... mais voilà; la qualité cela a un coût.

avatar romainB84 | 

@UraniumB

Comme je le dis à chaque fois (et je n’ai toujours pas changer de fusil d’épaule 😉)
Android n’est ni moins bon ni meilleur qu’ios (et inversement!)
La seule chose qui compte c’est « qu’est ce qui compte pour moi »
Si la priorité numéro 1 c’est d’avoir le produit le moins cher alors il n’y a pas a hésiter !
Si la priorité c’est la confidentialité des données bah il n’y a pas a hésiter non plus 😉
Mais ça ne veut pas dire que la concurrence est moins bonne ou meilleure (au général) tout dépend de ses priorités 🙂
Et c’est là le problème des trolls (et uniquement la ^^) : ils refusent de comprendre (ou alors ça les amusent c’est possible aussi mais je pars toujours du principe que les gens sont intelligents) qu’on peut avoir un besoin différents du leur 🙂

avatar UraniumB | 

@romainB84

Oui ouais. Mais faut bien réfléchir à l’avance quand même 😏

avatar rikki finefleur | 

Uranium
Si ils étaient opposés , Apple n'accepterait pas la grosse manne financière de Google et ce chaque année..
Apple est spécialiste du double langage des qu'il s'agit d'argent.. Il est temps de s'en rendre compte ! De se reveiller !
Ils font de la pub pour l’éducation dans leur spot , mais des qu'il faut payer sa quote part au niveau des impots , ils disparaissent dans les iles !
Bref entre le marketing publicitaire, et la réalité il y a 3 milles lieux.

Et encore une fois , Apple si ils étaient si précautionneux qu'ils le disent, ils n'accepteraient pas l'argent de Goog, et ce chaque année.

avatar UraniumB | 

@rikki finefleur

On verra a long terme 😏

avatar romainB84 | 

@rikki finefleur

Ouais nan la... c’est surtout la faute des consommateurs!!
Qui achèterait un iPhone sur lequel tu ne pourrais pas mettre ni Google ni Facebook ni rien!
Apple fait en sorte que son système, son OS et son envoûtement soit safe en matière de vie privé. Apres si l’utilisateur fait volontairement des choix en opposition avec cela, c’est compliqué d’un point de vue business d y faire grand chose !!
Mais je suis d’accord avec toi que si Apple voulait aller aux fond du concept ils faudrait qu’ils interdisent toute les applis qui vont à l’encontre de cette philosophie (ce qui énerverait tout les trolls à coup de « Apple service fermé de merde... etc... » bref la conclusion c’est que « les gens gueuleront 😉 »

avatar bibi81 | 

Apres si l’utilisateur fait volontairement des choix en opposition avec cela,

Oui enfin là c'est Apple qui choisit Google à la place du client. Apple aurait très bien pu faire apparaître une boîte de dialogue pour choisir son moteur de recherche, mais non, Apple a préféré les $ et faire le choix pour ses clients.

avatar romainB84 | 

@bibi81

Des lors qu’ils laisse la possibilité de le changer c’est un faux problème!
Même avec une boîte de dialogue les gens auraient choisit Google parce que c’est ce qu’ils connaissant... et ceux qui n’aurait pas utilisé Google par choix (donc un public un peu plus sensibilisé à la tech on va dire) savent comment le changer 😉
Donc pour moi c’est vraiment un faux problème
Mais je sais que les gens préfère dire que c’est de la faute d’Apple 😉
La vraie solution pour moi ... ça aurait été qu’Apple ne propose même pas Google dans la liste ... là ça aurait été au fond de leur conviction... mais tout le monde aurait gueuler que iOS est fermé qu’on peut même pas avoir Google dessus Etc 🙂

avatar aleskandre | 

@lulubotine

Encore un qui parle sans savoir, j’adore 😁.

avatar appleadict | 

@lulubotine

ca fait sensation au début, mais combien s'en servent réellement après quelques semaines ?

la pub récurrente pour arriver à vendre ces enceintes est quand même révélatrice ...

avatar Moebius13 | 

J'ai Alexa à la maison, je sais qu'elle m'écoute très certainement et je m'en fous royalement.

Déjà parce que je n'ai pas grand chose de bien intéressant à raconter et ensuite parce que ce que les services d'Amazon connaissent de ma vie m'apportent un certain confort.

Il ne s'agit pas d'avoir ou non des choses à cacher mais de savoir si on est prêt à céder un peu de sa vie privée pour un peu de confort technologique.

Personnellement qu'alexa sache à quelle heure je fais crack crack avec ma femme ne me gêne pas, qu'amazon s'en serve commercialement non plus.

C'est hélas le prix à payer pour avoir à l'avenir un véritable assistant personnel pro actif et la méthode Apple si elle est louable en termes de vie privée, donne de piètre résultat avec Siri qui est à la ramasse.

Chacun peut voir midi à sa porte mais si vous avez un smartphone ne vous voilez pas la face, les gafa en savent déjà long sur vous, rien que vos déplacements.

Il y a 15 ans, on aurait vu l'iPhone comme la matérialisation de 1984 et un outil de flicage, aujourd'hui peu de gens peuvent se passer d'un smartphone.

avatar DareMac | 

@Moebius13

Comme disait Edward Snowden, ne pas vouloir protéger la vie privée en disant qu’on a rien à cacher, c’est comme ne pas vouloir défendre la liberté d’expression en prétendant qu’on a rien à dire...

avatar Saussau083 | 

@DareMac

J’ai rien a cacher mais j’ai rien a montrer non plus

avatar Malvik2 | 

@Saussau083

Simple mais fort. J'adore 😃

avatar Seize | 

@Moebius13

Tant qu’ils n’auront accès qu’aux gens assez cons pour mettre ça chez eux, ça ira. Limite, je plains Google et Amazon de se farcir ça...

avatar bbibas | 

@Moebius13

Tu t’en fout même si une assurance récupère tes données et augmente ta police d’assurance car tu n’es fait pas assez de sport et que tu achètes trop de Nutella ou d’alcool avec ton cholestorol élevé. Du coup ta banque ne te prêteras pas d’argent pour acheter un appartement ou avec un taux hyper élevé

avatar Jonathan16 | 

@bbibas

C’est déjà le cas des polices d’assurance... ma mère veut acquérir un appartement mais avec sa maladie et son poids... soit tu as une surprime soit des exclusions de garantie... donc ça ce n’est pas nouveau !

avatar bbibas | 

@Jonathan16

Oui et alors tu trouves ça normal qu’une banque ne prennent pas de risque ?

avatar Chris K | 

@Moebius13 : Ton argumentaire est intéressant (notamment les concessions à faire pour améliorer la technologie). Mais une question se pose : le reste de ta famille (enfants compris si tu en as) s’en fout royalement également ou tu décides pour eux ?

avatar webHAL1 | 

@Moebius13
« Il y a 15 ans, on aurait vu l'iPhone comme la matérialisation de 1984 et un outil de flicage, aujourd'hui peu de gens peuvent se passer d'un smartphone. »

Merci pour l'intégralité de ton commentaire, qui rassure sur le fait que certains ici sont encore capable de faire preuve d'intelligence, parmi les nombreuses personnes qui ne comprennent rien et se content de beugler "Google vend vos données privées" (un classique celui-ci, que les fan-boys Apple adorent répéter à l'envi alors que c'est totalement faux) ou "Google c'est le mal" (plus simple et plus percutant ; ça évite de devoir réfléchir).
Et surtout pour le passage ci-dessus. À en écouter certains, on aurait ni électronique, ni ordinateur, ni Internet, ni téléphone portable. Comment peut-on être à ce point fermé aux nouvelles technologies ?

Pour améliorer un service comme la reconnaissance vocale il est nécessaire de collecter des échantillons, beaucoup, et de les analyser. C'est un travail qui doit être fait par des humains. Sinon, on en restera à des services qui sont incapables de comprendre quoi que ce soit du moment qu'on a un léger accent ou qu'on utilise des expressions régionales.

Le point critique n'est pas que ces échantillons soient collectés, mais que les humains qui y ont accès n'aient aucun moyen d'identifier le possesseur de l'appareil qui est derrière. Et que celui-ci soit au courant que des échantillons sont collectés.

Pages

CONNEXION UTILISATEUR