Dans un article consacré aux écoutes, par des personnes, des séquences audio enregistrées par les assistants intelligents, le Canard Enchaîné a discuté avec des employés d'un sous-traitant d'Apple.
L'entreprise, présentée comme « l'un des leaders mondiaux de la traduction automatique », faisait travailler une trentaine de français à Prague. Des personnes embauchées pour 6 mois et payées 10 $ de l'heure (environ 9 €).
Ce programme baptisé « Cosmos » consistait, comme chez Google, Facebook ou Amazon, à écouter des séquences audio captées par Siri depuis les différents appareils d'Apple, et de les comparer avec une traduction textuelle dont il fallait vérifier qu'elle correspondait. Le tout pour affiner à la main l'intelligence de Siri.
Ce témoin dit avoir été « surpris par le nombre de déclenchements accidentels de Siri, beaucoup plus élevé que ne l'avait annoncé Apple ». Plus que l'iPhone c'est le HomePod qui était prompt à reconnaître à tort et à travers des "Dis Siri" qui n'en étaient pas.
Avec comme corollaire, des bribes de conversations sans lien aucun avec un ordre donné à l'assistant, qui étaient interceptées dans l'intimité des foyers. « Le pire, c'était les montres connectées : on tombait parfois sur les dialogues chez le médecin ou dans les cabinets d'avocats », ajoute-t-il.
Soumis à des règles de confidentialité strictes, ces employés ne se privaient pas de tuer le temps en essayant de retrouver l'identité des personnes entendues. Ces informations sont masquées, comme le martèlent sans cesse les concepteurs de ces assistants, en oubliant opportunément que les infos privées peuvent être dans l'enregistrement audio écouté…
Ils se débrouillaient donc avec ce qui était entendu dans l'enregistrement « qui pouvait durer jusqu'à une minute, [avec] la géolocalisation de l'appareil ou encore les noms contenus dans le répertoire téléphonique qui s'affichait sur notre écran ». Un dernier point qui, à lui seul, mériterait des explications d'Apple s'il est avéré.
En plus des captations légitimes ou accidentelles de Siri, plusieurs employés ont dit au Canard avoir travaillé sur des enregistrements provenant de la fonction dictée vocale dans Messages, celle avec laquelle on dicte ses SMS. En somme, Apple n'aurait pas fait différemment de Facebook qui a admis, il y a peu, avoir fait écouter des échantillons audio captés dans Messenger. Sollicitée, la Pomme n'a pas donné suite aux questions de l'hebdomadaire.
Début août, Apple a annoncé qu'elle suspendait provisoirement ces programmes en cours à travers le monde. Elle promettait une future option pour refuser plus facilement tout partage de ces données. Est-ce qu'elle profitera de ce que lui permettent ses considérables ressources, pour aller jusqu'à internaliser ces opérations, de manière à mieux les contrôler ? C'est une autre question.
[MàJ à 17h30] : Apple a annoncé une refonte de son programme et notamment le recours à des employés en interne.
