Les nouveaux systèmes d'Apple pour lutter contre la pédopornographie inquiètent

Félix Cattafesta |

Les nouveaux mécanismes d'Apple pour lutter contre la pédopornographie ne plaisent pas du tout aux défenseurs et avocats de la vie privée, notamment à certaines ONG ou à Edward Snowden. Dans une série de tweets, le lanceur d'alertes a vivement critiqué ces mécanismes, qu'il compare à un moyen de surveillance global. « S'ils peuvent scanner des images pédopornographiques aujourd'hui, ils pourront scanner ce qu'ils veulent demain ». Il ajoute ensuite qu'Apple a « transformé mille milliards de dollars d'appareils en iNarcs [iMouchards]... sans demander ».

Les retours négatifs ne se sont pas fait attendre non plus du côté de l'EFF (Electronic Frontier Foundation), qui estime que l'examen des photos revient à mettre en place une porte dérobée. L'ONG explique qu'il est impossible de construire un mécanisme côté usager qui sera seulement utilisé pour lutter contre la pédopornographie. Pour eux, un tel système (même bien intentionné) brise la promesse du chiffrement bout-en-bout et ouvre la porte à différents abus.

À l'avenir, il sera facile de modifier le mécanisme déjà existant pour le pousser à chercher d'autres types de contenus et pour signaler d'autres types de comptes. L'EFF imagine le cas d'un gouvernement autoritaire utilisant le système pour détecter les images révolutionnaires, satiriques ou liés aux causes LGBTQ+.

Image retweetée par Edward Snowden. Source : Twitter.

Le scan des photos iCloud est pointé comme une perte de confidentialité plutôt que comme une amélioration. L'ONG explique également que les notifications aux parents pourraient être envoyées de manière disproportionnée si l'algorithme n'est pas au point, par exemple en signalant des tableaux d'art ou des memes comme éléments anormaux. La critique est fondée : le système de Facebook fonctionne sur le même principe et se trompe régulièrement.

Enfin, l'organisation CDT (Center for Democracy and Technology) a exprimé ses craintes quant à l'utilisation des fonctions de notification aux parents par des adultes malveillants :

Les jeunes et les enfants LGBTQ vivant dans des foyers violents sont particulièrement vulnérables aux représailles, y compris de la part de leurs parents ou tuteurs. [Le système d'Apple] pourrait exposer par inadvertance des informations sensibles sur eux-mêmes ou leurs amis à des adultes, avec des conséquences désastreuses.

Avec cette technologie, Apple fait le pari risqué de remettre en jeu son image d'« entreprise de la confidentialité ». On le sait, Cupertino s'arrange parfois avec certains pays et les craintes évoquées par les militants sont loin d'être infondées. Les employés d'Apple s'interrogent aussi, au point que Sebastien Marineau-Mes, le vice-président en charge des logiciels, a diffusé un mémo annonçant des explications plus précises à venir afin d'éviter les quiproquos.

Lutte contre la pédopornographie : Apple veut répondre aux craintes et aux incompréhensions

Lutte contre la pédopornographie : Apple veut répondre aux craintes et aux incompréhensions


avatar David Finder | 

@dexter

"Autre exemple : qu’en penserait-on si Apple prenait, de sa propre initiative, la décision de calculer les vitesses de déplacement de ses utilisateurs d’iPhone via le mouvement de leur trace GPS et prenne l’initiative de signaler les conducteurs en excès de vitesse à une association de sécurité routière et pourquoi pas les ponctionner directement de 1000 euros d’amende sur la carte bancaire renseignée sur leur compte Apple ID ?"

Excellent exemple de possible dérive d’un tel système.
Apple est une entreprise, pas le gendarme du monde.

avatar kemar4 | 

@dexter

Tes exemples « extrêmes », comme tu dis, sont en fait caricaturaux, et donc peu constructifs… tu peux toujours vouloir faire peur avec des « et si… » et autres elements de fictions… je préfère les arguments basés sur des faits et pas sur des tricotages à la limite du complotisme.
Les faits ici, pour l’instant, ne me montrent aucune menace sur mes libertés et ma vie privée, 2 éléments auxquels je tiens certainement tout autant que toi.

avatar dexter | 

@kemar4

Pour l’heure, nous n’avons pas suffisamment de détails sur ce nouveau dispositif pour conclure définitivement. Donc en attendant, on débat, on essaye d’imaginer les dérives possibles et on échange nos points de vue. L’espace de commentaires sert aussi à ça.

À aucun moment je n’ai dit que c’est ce qui allait se produire car comme toi je n’en sais rien à ce stade (d’où les « et si »). Donc rien à voir avec des théories du complot. Ou alors tout débat sur ce qui pourrait arriver est complotiste.

avatar frankm | 

@kemar4

Parce que c’est lié à un signalement. Et il y aura bien des faux positifs et tout ce qui s’en suit.
L’essentiel est de rester vierge du trou du seigneur aux 🇺🇸

avatar tempest | 

A lire la majorité des réactions personne n’a lu hier ou avant hier ici même le papier de MacG expliquant le fonctionnement du système. Décidément Macron a bien raison les Gaulois sont butés. Gueuler avant même d’avoir testé voire compris c’est la spécialité nationale. (Re)lisez l’excellent article dans ces colonnes comment l’algorithme décide ou non de qualifier une photo en se basant sur une sélection faite par des organismes luttant contre la pedophilie et ensuite vous reverrez vos remarques majoritairement infondées.
One love…

avatar pocketjpaul | 

@tempest

La technique n'a rien de problématique.
Le premier problème est moral : quel droit a Apple de chercher des choses sur un appareil qui ne lui appartient pas ? Apple a t'elle le droit de venir fouiller régulièrement mon logement à la recherche de choses illicites ? Aux dernières nouvelles c'était l'apanage de la police.

Le deuxième problème, ce sont les faux positifs. Il y en aura, c'est statistique. Peut être très peu. Peut être un ou deux. Mais un jour, quelqu'un va se retrouver avec la police chez lui à 6h du matin, mis en garde à vue, accusé de pédophilie, mis en examen le temps de l'enquête. Le journal local fera un gros titre "Machin Chose arrêté et mis en examen pour pédophilie". Peu importe la suite de l'histoire : ce type rentrera (peut être) chez lui avec ses voisins et sa famille qui le regarderont d'un air gêné, toute sa vie.

Le troisième, c'est ça, et après ? Quand des gouvernements demanderont à Apple de chercher des hommes qui s'embrassent, Apple fera quoi ? Quand ils lui demanderons de chercher des photos de marijuana, Apple fera quoi ? Quand ils demanderons de chercher des photos d'opposants politiques, Apple fera quoi ? On peut présumer qu'Apple résistera ... mais alors ça veut dire quoi ? Qu'Apple devient la juge mondiale de ce qui est moral et ce qui ne l'est pas ?

avatar Paquito06 | 

@pocketjpaul

"Le premier problème est moral : quel droit a Apple de chercher des choses sur un appareil qui ne lui appartient pas ? Apple a t'elle le droit de venir fouiller régulièrement mon logement à la recherche de choses illicites ? Aux dernières nouvelles c'était l'apanage de la police."

Mais ce n’est pas ce que fait Apple. Il y a incomprehension du sujet 😌

avatar sachouba | 

@Paquito06

Tout à fait. Ce que fait Apple est bien différent, et s'il y avait une comparaison à faire, ce serait la suivante : Apple regarde les ombres derrière les rideaux de votre fenêtre, et si elle voit une ombre qui ressemble à quelque chose d'illégal, alors elle alerte la police.
Il s'agit tout simplement du devoir citoyen d'Apple ! 🙃

avatar Paquito06 | 

@sachouba

"Tout à fait. Ce que fait Apple est bien différent, et s'il y avait une comparaison à faire, ce serait la suivante : Apple regarde les ombres derrière les rideaux de votre fenêtre, et si elle voit une ombre qui ressemble à quelque chose d'illégal, alors elle alerte la police.
Il s'agit tout simplement du devoir citoyen d'Apple ! 🙃"

Pour reprendre ton analogie, Apple ne regarde meme pas derriere les rideaux. Apple compare la couleur des rideaux avec les couleurs de rideaux qui sont illegaux.

avatar Paquito06 | 

@pocketjpaul

"Le troisième, c'est ça, et après ? Quand des gouvernements demanderont à Apple de chercher des hommes qui s'embrassent, Apple fera quoi ? Quand ils lui demanderons de chercher des photos de marijuana, Apple fera quoi ? Quand ils demanderons de chercher des photos d'opposants politiques, Apple fera quoi ? On peut présumer qu'Apple résistera ... mais alors ça veut dire quoi ? Qu'Apple devient la juge mondiale de ce qui est moral et ce qui ne l'est pas ?"

Tu decris ici de droles de regimes, qu’on appelle tres souvent dictature. Le probleme, Apple ou pas, ne vient pas d’Apple, mais de la dictature dans laquelle tu resides. Car a ce jour, les hommes qui s’embrassent aux US, c’est legal, la marijuana aussi, les opposants politiques ne posent pas de probleme egalement, et ces 3 arguments posent uniquement problemes dans certains pays. C’est transposer le probleme (ou manipuler son audience, au choix).

avatar Calorifix | 

@Paquito06

"Tu decris ici de droles de regimes, qu’on appelle tres souvent dictature. Le probleme, Apple ou pas, ne vient pas d’Apple, mais de la dictature dans laquelle tu resides. Car a ce jour, les hommes qui s’embrassent aux US, c’est legal, la marijuana aussi, les opposants politiques ne posent pas de probleme egalement, et ces 3 arguments posent uniquement problemes dans certains pays. C’est transposer le probleme (ou manipuler son audience, au choix)."

C'est beau la naïveté. Exemple : le droit à l'avortement est attaqué de toutes parts aux US, donc quand un gouvernement US donnera à Apple une liste de photos pro-IVG à bloquer, vous ne verrez aucun problème ? Sinon, il suffit de regarder un peu le monde pour voir que de très nombreux pays basculent dans les régimes autoritaires. Pensez à la Hongrie, en quelques années. L'Italie il y a peu. En France la droite dure / extreme droite aux portes du pouvoir, on parle partout de reconnaissances faciales, de loi "anti-haine" avec censure automatique par les plateformes, etc. Mais vous avez raison, continuons à poser les briques de notre future prison, c'est pour notre bien.

avatar Bigdidou | 

@Calorifix

« donc quand un gouvernement US donnera à Apple une liste de photos pro-IVG à bloquer, vous ne verrez aucun problème ? »

Je fais le faire l’avocat du diable, mais je crois que c’est plus le problème.
La technologie existe, donc, c’est trop tard.
Si on veut la déployer pour tel ou tel usage, on le fera.

De mon point de vue, le sujet c’est plus s’il faut laisser Apple décider seule de déployer cette technologie pour cet usage de chasse aux images (passe encore) et aux possesseurs présumés (c’est déjà plus compliqué, puisque c’est un vrai pouvoir de police, avec des risques d’erreurs catastrophiques pour un sujet aussi sensible) de sa propre initiative et hors de tout contrôle externe.
Mon avis est que non.
Mais, bon, si j’avais la vérité absolue, je serais pas là à écrire dans un forum.

avatar Paquito06 | 

@Calorifix

"C'est beau la naïveté. Exemple : le droit à l'avortement est attaqué de toutes parts aux US, “

😅 Dans les etats du Sud, republicains, retardés, ouais. Quelques Etats qui tentent de retourner roe vs wade. “De toutes parts” 🤣🤣🤣
Apple => Cupertino => California != Abortion

avatar Paquito06 | 

@pocketjpaul

"Le deuxième problème, ce sont les faux positifs. Il y en aura, c'est statistique. Peut être très peu. Peut être un ou deux. Mais un jour, quelqu'un va se retrouver avec la police chez lui à 6h du matin, mis en garde à vue, accusé de pédophilie, mis en examen le temps de l'enquête. Le journal local fera un gros titre "Machin Chose arrêté et mis en examen pour pédophilie". Peu importe la suite de l'histoire : ce type rentrera (peut être) chez lui avec ses voisins et sa famille qui le regarderont d'un air gêné, toute sa vie."

Y a moyen que des equipes d’Apple valident manuellement du contenu quand il pose souci au niveau de l’indice de confiance (99%, statistiquement parlant, ici), avant d’envoyer les flics chez toi… Comme des equipent valident manuellement les commentaires, des photos/videos postees sur les reseaux sociaix, etc. Tu vois vraiment Apple sortir une fonctionnalite et envoyer les flics automatiquement chez les gens? 🤣

avatar David Finder | 

@Paquito06

Et tu crois sincèrement qu’il n’y a aucun amateur d’enfants chez Apple ???

avatar Paquito06 | 

@David Finder

"Et tu crois sincèrement qu’il n’y a aucun amateur d’enfants chez Apple ???"

Euh, j’en sais strictement rien mais j’espere pas, du moins.

avatar powergeek | 

Les sauvegardes sur iCloud ne sont pas chiffrées. Tout est en clair. Apple n'a jamais dit le contraire.

avatar r e m y | 

Ah bon? Je lis pourtant le contraire ici: https://support.apple.com/fr-fr/HT202303
"iCloud protège vos informations en les chiffrant lorsqu’elles sont transmises, en les stockant dans iCloud dans un format chiffré et en utilisant des filtres sécurisés pour l’authentification. Pour certaines informations sensibles, Apple utilise un système de chiffrement de bout en bout. Cela signifie que vous êtes la seule personne à avoir accès à vos informations, et ce uniquement sur les appareils connectés à votre compte iCloud. Personne d’autre, pas même Apple, ne peut accéder aux informations chiffrées de bout en bout."

Et dans le détail donné, les photos stockées sur iCloud sont bien indiquée comme chiffrées durant leur envoi et au niveau du stockage.

avatar AlexG | 

@powergeek

Mais qu'est-ce que tu racontes 🤦🏼‍♂️

avatar powergeek | 

@AlexG

Lire plus haut au lieu d'avoir l'air effaré ! Elle où ta contribution pour éclaircir le débat ?

avatar AlexG | 

@powergeek

Je suis remonté dans le fil et je n'ai strictement rien vu en rapport.
Mon commentaire n'a pas pour but de contribuer au débat : vu ta phrase sans aucune explication ni source, et comme te l'a répondu @r e m y, ce que tu dis n'a aucun sens : d'où les sauvegardes sont en clair ? Tu sais ce que ça veut dire en clair ?

Édit : je suis allé voir sur site d'Apple, les sauvegardes sont bien cryptées (donc pas stockées en clair) : https://support.apple.com/fr-fr/HT202303

avatar Paquito06 | 

Si Apple n’etait pas transparente, elle n’aurait pas communiqué la dessus. Forcement, y a aucun cerveau chez Apple qui a du y songer, tant sur le point technique que sur le point legal, avec les retours qui s’imposent. Sauf que demain, tout le monde va faire pareil. Et puis au passage, Apple livre toutes vos donnees aux gouvernements et entreprises, mais elle ne communique pas a ce sujet bien entendu 🤯😅

avatar jo2s | 

Les technologies dont il est question ici sont du même genre que celles utilisées par les antivirus. Et même si dans le monde Apple les antivirus ne sont pas légion, ils n’ont jamais fait scandale que je sache. L’idée est simplement de rechercher la présence d’images qui ont été au préalablement étiquetées comme étant illégales pour freiner leur diffusion. En plus ces mesures ne vont pour l’instant s’appliquer qu’aux US et passeront sans doute difficilement la conformité au RGPD en Europe.

avatar Paquito06 | 

@jo2s

“En plus ces mesures ne vont pour l’instant s’appliquer qu’aux US et passeront sans doute difficilement la conformité au RGPD en Europe.”

Cupertino etant en Californie, j’ose penser que le departement legal a deja traité le sujet avec le CCPA. Et si ca passe le CCPA, alors ca sera la meme pour le GDPR.

avatar jo2s | 

@Paquito06

Peut-être mais l’activation de cette fonction n’a pas encore été activée en Europe. On a donc le temps de voir venir. Si vous doutez de la bonne fois d’Apple et de l’Europe/GPDR, n’utilisez plus de technologie, car en matière de protection de la vie privée, ils me semblent que ces deux acteurs sont quand même à la pointe.

avatar Paquito06 | 

@jo2s

"Peut-être mais l’activation de cette fonction n’a pas encore été activée en Europe. On a donc le temps de voir venir. Si vous doutez de la bonne fois d’Apple et de l’Europe/GPDR, n’utilisez plus de technologie, car en matière de protection de la vie privée, ils me semblent que ces deux acteurs sont quand même à la pointe."

Le CCPA est l’equivalent le plus proche du GDPR.
Le GDPR est un peu plus strict mais couvre seulement les individus, quand le CCPA couvre les individus et les pro, mais est un peu moins restrictif (ici, la difference n’est pas notable).
Encore une fois, Apple recoupe une photo uploadee dans le cloud par un utilisateur (elle doit mettre ca dans les termes d’utilisation du cloud, elle ne prend personne par surprise) grace a une clef. Apple ne vient pas priocher dans le telephone d’un utilisateur a son insu (quand bien meme elle en serait capable).

avatar jo2s | 

@Paquito06

On vous dit que ce n’est pas actif en Europe…

avatar jo2s | 

@Paquito06

On vous dit que ce n’est pas actif en Europe…

avatar Paquito06 | 

@jo2s

"On vous dit que ce n’est pas actif en Europe…"

Parce qu’Apple ne l’activera jamais peut etre 😅

avatar jo2s | 

@Paquito06

Pour l’instant ce n’est pas activé, donc nous verrons le moment venu.

avatar MarcMame | 

@jo2s

"Pour l’instant ce n’est pas activé, donc nous verrons le moment venu."
———
En 1933, rien n’était encore activé et tout le monde rigolait de la montée au pouvoir d’Hitler et de la création du 3eme Reich, malgré les signaux d’alertes permanents envoyés par les gens les mieux informés du moment à travers l’Europe.
Et ce n’est pas un point Godwin.

Vous êtes juste fous et n’avez pas conscience de la société qui est est en train de se batir sous vos yeux émerveillés d’un nouveau processeur Mx, d’un quadruple capteur de selfie 8K et des quelques microns d’épaisseur gagnés sur votre précieux...

avatar Rogntudju | 

@MarcMame

"Vous êtes juste fous et n’avez pas conscience de la société qui est est en train de se batir sous vos yeux émerveillés"

Exactement, c’est consternant.

avatar Paquito06 | 

@jo2s

"Pour l’instant ce n’est pas activé, donc nous verrons le moment venu."

Exact.

avatar en chanson | 

jo2S

alors tu crois juste les déclarations de la Pomme??

avatar macosZ | 

@jo2s

Lol parce que tu crois ça toi ?

avatar jo2s | 

@Paquito06

Et justement votre argumentation montre bien que ça ne passerait pas la GPDR

avatar jo2s | 

@Paquito06

Et justement votre argumentation montre bien que ça ne passerait pas la GPDR

avatar Paquito06 | 

@jo2s

"Et justement votre argumentation montre bien que ça ne passerait pas la GPDR"

Bah nan justement. Si ca passe haut la main le CCPA, y a quand meme beaucoup de chance que ca passe le GDPR. Si forcement ca passe pas le CCPA, y a zero chance que ca passe le GDPR.
Sauf si Apple n’a pour but de ne pas l’exporter, dans ce cas c’est different.
Essayonds autrement: quels sont les services qui existent aux US mais pas en Europe a cause du GDPR?

avatar jo2s | 

@Paquito06

Le CCPA ne concerne que la Californie, le RGPD l’Europe. Nous verrons bien le moment venu.

avatar Paquito06 | 

@jo2s

"Le CCPA ne concerne que la Californie, le RGPD l’Europe. Nous verrons bien le moment venu."

Certes, mais ca ne repond pas a ma question: quels sont les services qui existent aux US (ont passé le CCPA) mais pas en Europe a cause du GDPR?

avatar jo2s | 

@Paquito06

Ne retournez pas les choses en me posant une question dont vous avez déjà la réponse pour essayer de clore nos échanges. Cette attitude est pleine de condescendance et relève plus du troll que un vrai argument.

Comme je l’ai déjà dis cette fonctionnalité n’est pas encore activée en Europe, alors pour l’instant, il n’y a pas raison de s’inquiéter et vous ne pouvez pas me contredire sur ce point.

Après si ça vous inquiète tant que ça, libre à vous d’aller voir le concurrence…

avatar lord danone | 

@jo2s

Les antivirus sont désactivables et travaillent en local pour protéger un ordinateur. Accepterais tu un antivirus obligatoire avec une feature qui alerte apple si tel ou tel fichier est présent sur ton ordinateur?

avatar powergeek | 

@r e m y

Merci pour ce lien mais j'en étais resté à cet article de MacG de 2020: https://www.macg.co/ios/2020/01/le-chiffrement-des-sauvegardes-icloud-un-casse-tete-de-bout-en-bout-111473
Il semblerait qu'il y ait une confusion entre chiffrement et chiffrement de bout en bout...

avatar fred5150 | 

faut arreter les pediphiles c clair !! mais ns perdons de jour en jour des libertés au détriment de contrôles les plus discrets… donc si cela arrive, je change pour veille iPhone ou sinon rien !

avatar David Finder | 

Je crois que je vais attendre d’avoir de sérieuses précisions sur le sujet de la part d’Apple.
La cause est plus que louable, sans aucun doute. Les moyens mis en œuvre, on ne sait pas encore.

Wait and see, comme on dit

avatar kemar4 | 

@David Finder

👍

avatar melaure | 

Encore une fois ne rien mettre dans le cloud, c’est le meilleur moyen d’avoir sa vie privée respectée !

avatar MarcMame | 

@melaure

"Encore une fois ne rien mettre dans le cloud, c’est le meilleur moyen d’avoir sa vie privée respectée !"

Évidemment mais même ça, c’est insuffisant.

avatar CorbeilleNews | 

@melaure

Rien que de mettre ses identifiants Apple pour se connecter à son compte lance automatiquement la sauvegarde iCloud, même en étant rapide, il y a quand même des choses qui se synchronisent…

Heureusement qu’Apple choisi tout pour nous, idiots que nous sommes

Bizarre de nous faire croire l’inverse pour acheter leur produit…

avatar vince29 | 

Ben non vu qu'Apple va rechercher les fichiers en local

Pages

CONNEXION UTILISATEUR