Le patron de WhatsApp farouchement opposé au système de lutte contre la pédopornographie d'Apple

Mickaël Bazoge |

Apple va avoir beaucoup de travail pour expliquer et tenter de rassurer autour de sa solution de détection de photos pédopornographiques. Plusieurs organisations et personnalités sont vent debout contre ce qui est présenté comme un système de surveillance global (lire : Les nouveaux systèmes d'Apple pour lutter contre la pédopornographie inquiètent).

Will Cathcart, le patron de WhatsApp, met les deux pieds dans le plat dans un fil Twitter : il n'est pas question d'implanter un système similaire dans l'application de messagerie instantanée appartenant à Facebook. Il compare la technologie du constructeur à un « système de surveillance construit et opéré par Apple qui pourrait facilement être utilisé pour examiner du contenu privé en fonction des exigences d'un gouvernement ».

Le dirigeant s'interroge sur la gestion par Apple des requêtes des gouvernements qui voudront ajouter d'autres types de contenus que la pédopornographie. Et que se passera-t-il si une société spécialisée dans les spywares dégottait une faille dans l'armure ? Cathcart se demande également pourquoi le constructeur n'a pas travaillé avec des experts dans ce domaine (sur le site web de présentation de ces mesures, Apple partage quatre analyses techniques provenant de trois chercheurs).

L'approche d'Apple dans ce dossier pose de sérieux problèmes, selon lui, « plutôt que de se concentrer sur une manière facile pour les utilisateurs de signaler du contenu partagé avec eux, Apple a construit un logiciel qui scanne toutes les photos privées que vous ne partagez avec personne. Ce n'est pas de la confidentialité », reproche-t-il.

Le mécanisme de détection des images CSAM (Child Sexual Abuse Material) repose sur un mécanisme de correspondance entre une base de données d'images pédopornographiques et les photos de l'utilisateur. Plus précisément, il s'agit de comparer des suites de chiffres : les images sont converties par l'iPhone en des numéros hachées par un processus cryptographique (baptisé NeuralHash).

Ce processus de comparaison est réalisé sur l'appareil en local, avant que les images soient téléversées dans la bibliothèque iCloud Photos de l'utilisateur. En cas de correspondance avec la base de données, la photo uploadée s'accompagne d'un « bon de sécurité » qui encode le résultat de la correspondance. À partir d'un certain nombre de correspondances, Apple peut déchiffrer le contenu du bon de sécurité, une opération qui est ensuite visée par un opérateur humain.

WhatsApp a mis en place un système de signalement qui a permis de rapporter plus de 400 000 cas l'an dernier au NCMEC (National Center for Missing and Exploited Children) , « sans casser le chiffrement », s'enorgueillit Will Cathcart.

Photos, Messages : Apple dévoile de nouveaux mécanismes pour lutter contre la pédopornographie

Photos, Messages : Apple dévoile de nouveaux mécanismes pour lutter contre la pédopornographie


avatar raoolito | 

donc whatsapp scanne toutes les photos echangées, là c’est bien
apple scanne toutes les photos stockés, avant d’etre echangées, ca c’est mal

conclusion, amis pedophiles, vous pourrez continuer à discuter sur whatsapp, mais pas echanger les photos. Par contre si vous voulez passer vos vacances avec vos petites douceurs sur votre smartphone, on vous conseille Huawei, aucun risque que google ou apple regardent le contenu.

avatar romainB84 | 

@raoolito

« Amis pedophiles »

T’es sûr de ta formule là? 😅😅
Honnêtement je la sens pas trop pour le coup 🤣.

avatar raoolito | 

@romainB84

nan mais c'est du cynisme, j'ose espérer que tout le monde a compris :(

avatar Malouin | 

@raoolito

Complètement d’accord avec toi…

avatar anton96 | 

@romainB84

Techniquement phile ça veut déjà dire amis en grecque :p.

avatar romainB84 | 

@anton96

Je la tenterais pas devant un juge celle là 😅

avatar toto_tutute | 

@ raoolito

Ah parce que vous ne faites pas la différence entre des documents vérifiés sur des serveurs et des documents vérifiés sur l'appareil directement avec remontées d'informations ? 🤔

Vous me faites peur. Très peur. Vous êtes probablement de ceux qui applaudissent le « passe sanitaire » des deux mains j'imagine...

avatar Shaskan | 

@toto_tutute

Oui oui le vilain pass sanitaire à comparer avec des images pedo-pornographique. La comparaison avec l’étoile Juive est pas suffisante ?

avatar fabricepsb71 | 

@Shaskan

Ces anti tout, plus il l’ouvrent, plus il montrent leur culture niveau mouche à viande et plus ils se ridiculisent.

avatar Teeto | 

@Shaskan

🤣🤣

avatar macfredx | 

@Teeto

Pareil 😂😂😂

avatar Abd Salam | 

@Shaskan

le pass sanitaire est en effet très vilain… c’est pas jolie-jolie comme réglementation !

Et c’est totalement contre-productif même si c’était «bien fait».

avatar Godverdomme | 

Je crois que le jour où votre fils aura subit des attouchements et été pris en photo sans que l'on ne puisse rien faire vos fera changer d'avis.

Je vous félicite d'avoir échappé au viol ou un attouchement, vraiment bravo, ne pensez surtout pas aux autres, et pensez a vos petites photos de vacances qui selon votre ego intéressent Apple et le gouvernent...

avatar MarcMame | 

@Godverdomme

"vraiment bravo, ne pensez surtout pas aux autres, et pensez a vos petites photos de vacances qui selon votre ego intéressent Apple et le gouvernent..."

En fait, là c’est toi qui ne pense pas aux autres mon lapin.

avatar Godverdomme | 

C'est marrant, la police peut entrer chez toi, inspecter les culottes de Madame dans le tiroir, inspecter ta poubelle, ouvrir les titoirs de chacun des meubles, inspecter chaque transaction que tu as faite avec ta carte, et ça c'est normal.

Mais le gadget chinois de ta poche, avec une pomme dessus, ça c'est une vie privée, et c'est plus important que ton domicile, c'est intriguant comment l'être humain pose ses priorités.

Je peux t assurer que cela se sent que tu n'as jamais été confronté comme victime à de la pedo pornographie.

avatar MarcMame | 

@Godverdomme

"Maurras le gadget chinois de ta poche, avec une pomme dessus, ça c'est une vie privée, et c'est plus important que ton domicile, c'est intriguant comment l'être humain pose ses priorités.
Je peux t assurer que celles se sent que tu n'as jamais être confronté comme victime à de la pedo pornographie. "

—————
Tu as peut-être des difficultés à écrire mais vraiment ton Français est totalement incompréhensible.
Ca n’a aucun sens.

avatar Godverdomme | 

J'ai corrigé trois mots et c'est lisible. Merci pour ta remarque.

avatar MarcMame | 

@Godverdomme

"C'est marrant, la police peut entrer chez toi, inspecter les culottes de Madame dans le tiroir, inspecter ta poubelle, ouvrir les titoirs de chacun des meubles, inspecter chaque transaction que tu as faite avec ta carte, et ça c'est normal."

———-
Avec un mandat de perquisition dûment établi par le procureur de la république sur des bases de présomptions solides avec enquête de police préalable : Oui tout à fait, c’est normal.
Dans tous les autres cas : NON.

avatar Godverdomme | 

Nous sommes d'accord

avatar bibi81 | 

C'est marrant, la police peut entrer chez toi, inspecter les culottes de Madame dans le tiroir, inspecter ta poubelle, ouvrir les titoirs de chacun des meubles, inspecter chaque transaction que tu as faite avec ta carte, et ça c'est normal.

Non la police ne peut pas faire ça. Il faut l'accord d'un juge...

Maurras le gadget chinois de ta poche, avec une pomme dessus, ça c'est une vie privée, et c'est plus important que ton domicile, c'est intriguant comment l'être humain pose ses priorités.

Pour reprendre ton mauvais exemple du dessus, la police rentre et fouille chez toi tous les jours ?

Puisque tu sembles en accord avec Apple, pourquoi ne pas imposer une webcam dans chaque (oui chaque sans exception) pièce du domicile directement connectée au commissariat de police pour prévenir les violences conjugales ?

avatar Godverdomme | 

Non pas tous les jours, mais je suis content qu'ils puissent le faire quand le besoin se fait sentir.

avatar bibi81 | 

Non pas tous les jours, mais je suis content qu'ils puissent le faire quand le besoin se fait sentir.

Et bien il se trouve que là la solution d'Apple c'est une mesure permanente et tous les jours...

avatar Godverdomme | 

C'est un procès d'intention.
Un scan automatique sans action humaine me semble très correct comme mesure, comme a plein de gens en fait...
Tous comme les caméras qui filment en permanence ce que tu fais quand tu es dans le magasin, et la c'est encore pire car c'est un humain qui vérifie.
Il est normal que quand tu utilises quelque-chose on vérifie que tu ne voles pas ou ne regarde pas une photo d'enfant qu'un adulte viole

avatar MarcMame | 

@Godverdomme

"Tous comme les caméras qui filment en permanence ce que tu fais quand tu es dans le magasin"

Un magasin. Un lieu public et ouvert à tous. Pas un lieu privatif.

avatar Godverdomme | 

Icloud n'est pas ton téléphone.

avatar v1nce29 | 

> Icloud n'est pas ton téléphone.

Il scanne tes photos en local

avatar jcp25 | 

@Godverdomme

on vérifie que tu ne voles pas ou ne regarde pas une photo d'enfant qu'un adulte viole
--
Oui, et en democratie, cela fait partie des fonctions régaliennes de l'état. Pas d'une entreprise multinationale dont le but premier est de gagner de l'argent (chose tout à fait normale, mais incompatible avec les valeurs républicaines de l'état ou tu vis -- France, par exemple).
🐾🐾🐾🐈🐈🐈

avatar bibi81 | 

Un scan automatique sans action humaine me semble très correct comme mesure, comme a plein de gens en fait...

D'accord, donc tu es OK pour qu'on installe des caméras qui filment 24h/24 dans toutes les pièces de ton domicile ?

avatar Godverdomme | 

Si c'est une caméra qui se déclenche seulement si je mets un enfant nu dans mon salon et que je le touche, et que l'on met la même caméra chez des criminels, c'est avec plaisir que j'accepte

avatar bibi81 | 

Si c'est une caméra qui se déclenche seulement si je mets un enfant nu dans mon salon et que je le touche, et que l'on met la même caméra chez des criminels, c'est avec plaisir que j'accepte

Donc la réponse à ma question et non. D'ailleurs je note au passage qu'une femme peut se faire violer ou battre, cela ne te pose pas de problème, il ne faut pas que la caméra se déclenche dans ce cas là...

avatar Godverdomme | 

C'est fou comme tu es fourbe et menteur.
Le fait que je parle quelle fasse A ne donne aucune information sur B.

C'est navrant ton discours.

avatar MarcMame | 

@Godverdomme

"Je peux t assurer que cela se sent que tu n'as jamais été confronté comme victime à de la pedo pornographie. "

Le problème n’est PAS la cause. Personne n’est POUR la pédophilie.
Le problème c’est les moyens.
C’est si difficile à comprendre ?

avatar Godverdomme | 

Les moyens semblent tout a fait corrects, c'est pourtant facile a comprendre.

avatar MarcMame | 

@Godverdomme

"Les moyens semblent tout a fait corrects, c'est pourtant facile a comprendre."

Ils totalement disproportionnés et sujet à dérives, c’est pourtant facile à percevoir.

avatar Godverdomme | 

Scanner automatiquement ta photo de toi et madame a la plage dans un processus qui pourrait arrêter le voisin d'en dessous qui fait la sortie des écoles avec sa camionnette blanche est disproportionné? Peux tu être plus clair?

avatar MarcMame | 

@Godverdomme

"Scanner automatiquement ta photo de toi et madame a la plage dans un processus qui pourrait arrêter le voisin d'en dessous qui fait la sortie des écoles avec sa camionnette blanche est disproportionné? Peux tu être plus clair?"

————-
Ca ne peut pas être plus clair.
C’est totalement, absolument, définitivement DISPROPORTIONNÉ.
Tu es visiblement directement affecté par cette problématique et ça t’empêche clairement de réfléchir.

avatar Godverdomme | 

Je te laisse pourtant l'occasion de m'expliquer en quoi c'est disproportionné, et me raisonner, pourquoi n émets meme pas une ébauche d'explication, ta seule argumentation est basée sur ton avis personnel.

De mon côté, je peux expliquer facilement que Apple scanne les emails que tu envoies et reçois pour la présence d'un lien d'un site frauduleux, il paraît totalement proportionné de faire la même chose avec une photo uploadee sur icloud pour vérifier qu'il n'y a pas d adulte la main sur le sexe d'un enfant nu

C'est très difficile de voir une action disproportionnée, je t'invite vraiment a m'expliquer.

avatar bibi81 | 

De mon côté, je peux expliquer facilement que Apple scanne les emails que tu envoies et reçois pour la présence d'un lien d'un site frauduleux,

Oui mais il ne te balance pas à la police s'il y a un lien frauduleux (ni l'émetteur de l'émail d'ailleurs)...

il paraît totalement proportionné de faire la même chose avec une photo uploadee sur icloud pour vérifier qu'il n'y a pas d adulte la main sur le sexe d'un enfant nu

Et si ce n'est pas toi qui le fait mais quelqu'un d'autre parce qu'il a hacké ton smartphone par exemple...

avatar Godverdomme | 

Et bien si c'est quelqu'un d'autre, tant mieux, cela fera avancer l'enquête pour essayer de retrouver qui c'est vu que la photo aura enclenché une alerte

avatar Bigdidou | 

@Godverdomme

« Et bien si c'est quelqu'un d'autre, tant mieux, cela fera avancer l'enquête pour essayer de retrouver qui c'est vu que la photo aura enclenché une alerte »

Là, je crains que des images isolées sur un compte iCloud, ce soit un peu décevant en terme d’enquête.
Mais au moins détruire l’image et couper ce canal de diffusion, c’est toujours ça, c’est vrai.
Mais pas au prix de victimes collatérales qui n’ont rien demandé.

avatar Godverdomme | 

Les mêmes victimes que celles du vaccin? J'ai l'impression que l'on voit dans un monde où on ne voit plus le positif mais que des victimes.

avatar Bigdidou | 

@Godverdomme

« Les mêmes victimes que celles du vaccin? J'ai l'impression que l'on voit dans un monde où on ne voit plus le positif mais que des victimes. »

Je n’ai pas compris, mais je crains que ta remarque soit un peu hasardeuse ;)

avatar Godverdomme | 

J'attends de voir ton explication sur ce qu'est est victime collatérale.... Et dans quel contexte...

Ça a l'air clair dans ta tête mais pas dans les messages

avatar Bigdidou | 

@Godverdomme

« Ça a l'air clair dans ta tête mais pas dans les messages »

Si, si.
C’est énoncé clairement dans des contribs et encore plus clairement par d’autres (comme fte, bib81, et d’autres).

Ce sont les bénéfices de ce que propose Apple qui ne me paraissent pas clairs.
Tu devrais lire les messages de Vincentn, ils sont passionnants et très bien étayés.

Franchement, je te comprends, j’ai aussi une histoire, disons, complexe, mais j’ai beaucoup bossé dessus, ça me permet de prendre du recul et d’être (une peu) apaisé.
Et surtout de ne pas vouloir rajouter du malheur au malheur.
Essaie de prendre un peu de distance, je sais, c’est pas facile, et de lire ce que peuvent écrire vincentn, fte, bibi81, ou d’autres ailleurs, qui paraissent émotionnellement moins impliqués et amènent des objections factuelles et étayées.

Déjà, une chose est certaine la la solution d’Apple sans mandat et contrôle de l’état, c’est non.
Sous mandat de l’état et contrôle judiciaire, pourquoi pas au départ.
Mais plus je remplis les deux plateaux de la balance en lisant ici et là, plus cette histoire me paraît de toute façon peu raisonnable.

Et inutile de devenir agressif : ca ne changera rien au final.

avatar Godverdomme | 

Si quelqu'un, inconnu de la police, te volle ton smartphone qu'il se connecte au réseau et collecte des photos c'est quand même une belle avancée pour l'enquête et le mettre a jour...

avatar MarcMame | 

@Godverdomme

"il paraît totalement proportionné de faire la même chose avec une photo uploadee sur icloud pour vérifier qu'il n'y a pas d adulte la main sur le sexe d'un enfant nu"

Ça l’est et c’est bien ce que tu n’arrives pas à intégrer. Du tout.

avatar Bigdidou | 

@MarcMame

« Ça l’est et c’est bien ce que tu n’arrives pas à intégrer. Du tout. »

Non, c’est ton point de vue, mais il n’existe pas de vérité à ce sujet.
Du tout.

« Il y a des limites à ne pas dépasser. Et s’en est une. Et pas des moindres. »

Oui, il y a des limites à ne pas dépasser, mais elles ne constituent pas une vérité.
Elles dépendent de notre tolérance, de notre histoire.
Ce qu’on peut exiger comme vérité, ce sont des garanties techniques, de transparence, de contrôle externe et d’évaluation.
Ça, c’est objectivable et quantifiable.

avatar MarcMame | 

@Bigdidou

"Non, c’est ton point de vue, mais il n’existe pas de vérité à ce sujet.
Du tout."

Si tu veux

avatar Bigdidou | 

@MarcMame

“Tu es visiblement directement affecté par cette problématique et ça t’empêche clairement de réfléchir.”

On peut être directement concerné, je le suis à plusieurs titres, et ça n’empêche pas de réfléchir.
Si c’est bien fait, transparent avec des garanties techniques (et il y en a, ces histoires de hash, tout ça), ça n’est pas nécessairement disproportionné.
Même si ça m’inquiète : par exemple le jour où on recherchera mes logs de connexion sur cannazone, je serai dans la merde :D

Pour moi, le fond du problème n’est pas là.
Je peux accepter bien des choses, mais uniquement avec les garanties de l’état de droit.
Et je ne peux pas tolérer l’idée que des entreprises privées prétendent s’y substituer sans mandat de cet état, sans son contrôle, et sans les contrôles de ce même état par ses contre pouvoirs et ses instances régulatrices et de surveillance.

Après, ça ne sont que ma vérité et mes représentations, mais me semble qu’il existe une grande confusion à sujet dans certains esprits.
Par exemple, ces anti vax, et surtout ces anti-pass se trompent à mon avis complètement de combat en hurlant à la dictature.
La façon dont le pass est déployé par l’état garantit au contraire nos libertés et notre égalité face à lui.
L’état est contrôlé par des instances régulatrices (et on a vu que les juges administratif et le conseil d’Etat n’hésitent pas à censurer), mais aussi parle vote et notre constitution est un sacré garde fou avec un gardien, le conseil constitutionnel qui n’a rien du cirque Pinder (ni d’une EPAHD, quoi qu’on en dise).

Si ce pass n’était pas mis en place par l’Etat, on voit ici le risque d’initiatives privées qui s’en chargeraient de façon non coordonnées, anarchique, et surtout non égalitaire et non contrôlée ni régulée.
Je n’ai aucune envie de devoir me soumettre à un pass Apple, un pass Facebook, un pass Gaumont, un pass MacDo au grée des lubies, des intérêts commerciaux et de communication ou dès action de lobbying de ces sociétés.

Je ne sais pas ce qu’il faut pour que les gens comprennent et intègrent qu’un état de droit, c’est tout de même la meilleures garantie qui existe pour nos libertés.

avatar Godverdomme | 

Merci pour ce post complet et intéressant sur ta vision des choses! Cela fait du bien un peu de débat poli et correct.

Pages

CONNEXION UTILISATEUR