Lutte contre la pédopornographie : Apple louée d'un côté, critiquée de l'autre

Félix Cattafesta |

Bien que repoussées, les mesures de lutte contre la pédopornographie d'Apple continuent de faire parler d'elles. Récemment, la Secrétaire d'État à l'Intérieur britannique a publié un article dans le Telegraph appelant les géants du net à « faire passer la sécurité du public avant le profit ».

Portrait officiel de Priti Patel. Image : Parlement britannique.

Priti Patel critique le chiffrement de bout en bout, qui ne devrait pas « ouvrir la porte à de plus grands abus » et salue les efforts d'Apple : pour elle, les mesures présentées par la Pomme vont dans le bon sens.

Récemment, Apple a fait le premier pas en annonçant qu'elle cherchait de nouveaux moyens de prévenir les horribles abus sur son service. Apple affirme que sa technologie de filtrage des abus pédopornographiques a un taux de faux positifs de 1 sur 1 milliard, ce qui signifie que la vie privée des utilisateurs normaux est protégée tandis que ceux qui amassent d'énormes collections de contenus pédopornographiques sont repérés.

Elle qualifie « d'hyperboliques » et de « fausses » les déclarations estimant que des gouvernements pourraient fouiller ou espionner la vie de citoyens innocents. Enfin, elle appelle les grandes entreprises du web à prendre leurs responsabilités et à s'investir davantage dans le domaine.

Image : Fight for the future.

Autre son de cloche aux États-Unis, où plusieurs personnes se sont réunies devant différents Apple Store afin de critiquer ces mesures. Ces manifestations ont été organisées par le collectif Fight for the Future dans différentes grandes villes américaines (New York, Washington, San Francisco…).

Image : Fight for the future.

Sur les photos partagées, ont peut lire divers slogans : « Pas de logiciel espion sur mon téléphone » ou encore « Hey Tim, #pasdetéléphoneespion ». Les activistes craignent une surveillance généralisée et réclament l'annulation totale de ces mesures. La date n'a pas été choisie au hasard, la directrice de campagne dénonçant « l'hypocrisie d'Apple », qui aurait enterré son système en vue du keynote de ce soir.


avatar Levrai | 

un taux de faux positifs de 1 sur 1 milliard...😭😭😭

avatar MGA | 

@Levrai

Et alors ? Sur le milliard d’utilisateurs iOS ça ne vous dérange pas d’être celui qui sera faussement accusé… surtout pour ce genre d’accusation… où donc arrêter la surveillance préventive ? Pour toute surveillance vous trouverez une justification émotionnellement difficile à refuser ou à combattre mais l’enfer est pavé de bonnes intentions, les effets indésirables détruisent aussi des vies.

avatar Lu Canneberges | 

@MGA

Non mais si c’est un faux positif il n’y aura aucun problème après vérification, d’abord par un employé d’Apple qui fermera le dossier si c’est le cas…

avatar Sindanárië | 

@Lu Canneberges

"Non mais si c’est un faux positif il n’y aura aucun problème après vérification, d’abord par un employé d’Apple qui fermera le dossier si c’est le cas…"

Arrête la colle, ou change de marque

avatar Insomnia | 

@MGA

Sans oublier que même si il est prouvé que c’est une erreur la personne restera suspect aux yeux de tous.

avatar J'en_crois Pas_mes yeux | 

@Insomnia
Sans prendre partie sur le fond du problème, ce que tu écris est un non sens.
Les "yeux de tous", ceux des organes de sécurité, etc. ne seront pas mis au courant du faux positif.
Des vrais arguments rationnels : @Insomnia & @MGA
?

avatar Insomnia | 

@J'en_crois Pas_mes yeux

Prouve le que Apple fera de réelle vérification et n’enverra pas directement l’info à la police ? Parle pas de chose donc on ne connaît pas le fonctionnement.

avatar J'en_crois Pas_mes yeux | 

@ Insomnia "Prouve le que Apple fera de réelle vérification"
Ok : à ce niveau de réflexion, il n'y a aucun dialogue intelligent à espérer.
tu as encore quelques neurones en état de marche ?

avatar Insomnia | 

@J'en_crois Pas_mes yeux

Attaquer sur ce genre de chose, c’est plutôt ton intelligence qu’il faudra rechercher….solution de facilité

avatar Sindanárië | 

@J'en_crois Pas_mes yeux

"Ok : à ce niveau de réflexion, il n'y a aucun dialogue intelligent à espérer."

C’est bien de faire son autocritique 👏🏼

avatar Paquito06 | 

@Insomnia

"Sans oublier que même si il est prouvé que c’est une erreur la personne restera suspect aux yeux de tous."

Tous = l’employé Apple (voire sous traitant, aller), qui va repasser derriere le filtre auto afin de confirmer ou non. Wow. Ca vaut la une d’un JT 😜

avatar Paquito06 | 

@MGA

“Et alors ? Sur le milliard d’utilisateurs iOS ça ne vous dérange pas d’être celui qui sera faussement accusé…”

Magnifique celle-ci. On la met de coté pour rigoler un peu plus tard. 😅

avatar J'en_crois Pas_mes yeux | 

@ Paquito06
Tu rigoles, mais sa réponse...

avatar Paquito06 | 

@J'en_crois Pas_mes yeux

"Tu rigoles, mais sa réponse..."

Oui c’est dur 😂

avatar oboulot | 

@Paquito06

Parfait on le mettra avec ton commentaire aussi !

avatar Paquito06 | 

@oboulot

"Parfait on le mettra avec ton commentaire aussi !"

Certainement. J’attends donc de voir combien d’utilisateurs vont ainsi recevoir la visite des amis du petit dejeuner suite a des faux positifs.
Et c’est autorisé a commenter en plus… 😂

avatar Lu Canneberges | 

En tout cas je ne pense pas que ce soit facile d’être à la place de Tim Cook en ce moment, c’est le genre de décision extrêmement difficile à prendre et qui fera toujours des mécontents quel qu’en soit le résultat…!

avatar YetOneOtherGit | 

@Lu Canneberges

"c’est le genre de décision extrêmement difficile à prendre"

Arbitrage entre les pouvoir de nuisance et celui des lobby de défense de l’enfance est incomparablement supérieur.

La population US a accepté sans vraiment broncher le Patriot Act et le Cloud Act … par contre l’inaction face aux pedophiles ça c’est largement inacceptable 😎

avatar oboulot | 

@Lu Canneberges

Bah en fait personne leur a demandé de prendre ces initiatives.

Les mecs font tout le marketing depuis des années sur la vie privée et il te sorte un système que même Google jalouserai.

Pour ceux qui sont pas technique la plupart des chercheurs on mis en garde que par ce système une simple modification du code et ça serait une catastrophe quand à la vie privée

avatar YetOneOtherGit | 

les lobby de defense de l’enfance seront toujours plus puissants dans leur large impact médiatique que ceux défendant la vie privé.

Je ne serai pas étonné qu’ils finissent par obtenir des lois obligeant des approches telles que celles envisagées par Apple des législateur à moyen terme.

Et je reste sur la position arguant que les dégâts d’image de marque qu’aurait subis Apple d’une campagne des lobby de défense de l’enfance, les accusant d’inaction devant le faible taux de signalement qui est le leur , aurait été incomparablement supérieur à ceux issus de l’agitation médiatique dans le microcosme récente. 😎

avatar SyMich | 

On a eu il y a 15 jours une présentation par Apple de ce dossier et j'ai compris pourquoi Apple soutient qu'il n'y a pas de risque que leur algorithme puisse être détourné pour détecter d'autres types de photos. (Alors que si on se contente de comparer des hash de photos, il suffit de prendre une autre base de photos pour identifier d'autres types de contenus)

Si vous vous rappelez bien, dans leurs premières présentations, Apple parlait d'intelligence artificielle et d'algorithme qui avait été "entraîné" sur la base de données de la NCMEC, mais ensuite ils n'ont plus parlé que de comparaison de signatures de photos.
En fait, Ils ont bien développé un algorithme capable d'identifier des photos "SIMILAIRES" aux photos de la base NCMEC (et pas forcément strictement identiques) et c'est d'ailleurs la raison pour laquelle ils ont prévu un contrôle physique des photos ainsi identifiées (alors que sur un comparatif de hash, ça paraît peu utile).

Du coup, pour faire identifier d'autres types de contenus, il faudrait redevelopper (et re-entraîner) un nouvel algorithme. Celui-ci ne sait rien identifier d'autre que des photos pedophiles.

avatar Levrai | 

Rien à battre de savoir si leur techno est au point ou pas, j'ai pas envie qu'une IA viennne fouiner dans mon smartphone sans mon consentement. Qu'ils scannent leurs serveurs...

avatar SyMich | 

Ah mais moi non plus je n'en veux pas! Et je ne sais pas non plus si c'est au point ou pas...

Je vous donne juste l'explication de pourquoi Apple soutient que son algorithme ne peut pas être dévoyé pour identifier d'autres types de contenus.

avatar Levrai | 

La base de données de référence peut contenir n'importe quelle image, et Apple n'a pas la main sur elle. S'i elle est détourné, le système permettra donc au gouvernement de rechercher n'importe quel document sans qu'Apple ne soit même au courant.

avatar nnay07 | 

@Levrai

Tu devrais relire les explications fournies plus haut, tu comprendrais ton erreur.

avatar r e m y | 

Je crois que tu n'as pas compris les explications de Symich.
La base d'images de référence n'a servi qu'à entraîner leur algorithme à identifier ce type de photos. L'algorithme embarqué dans iOS15 ne sait identifier QUE ce type de photos.

avatar nnay07 | 

@SyMich

Merci pour ces explications. Bien plus claires que celles qui avaient été partagées jusqu’à aujourd’hui.

avatar headoverheel | 

Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher, elle était pro peine de mort (merci Wiki, je ne connaissais pas cette personne). C’est un joli soutien pour l’image progressiste d’Apple.

avatar YetOneOtherGit | 

@headoverheel

"Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher, elle était pro peine de mort (merci Wiki, je ne connaissais pas cette personne). C’est un joli soutien pour l’image progressiste d’Apple."

Cela ne change strictement rien au pouvoir de nuisance du lobby qu’elle représente.

Je ne suis pas fan des membres de la NRA mais ils ont un pouvoir de nuisance qui peut faire et défaire bien des choses aux USA.

Là c’est pareil.

Des lobby ayant un grand pouvoir de nuisance passe devant les autres 😎

Rien de nouveau

avatar Sindanárië | 

@headoverheel

"Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher"

C’est elle Kylo Ren en fait 😱🥶

avatar oboulot | 

Question : ce système de merde sera implémenté dans IOS 15 uniquement ou IOS 14 en bénéficiera aussi ?

avatar YetOneOtherGit | 

@oboulot

"Question : ce système de merde sera implémenté dans IOS 15 uniquement ou IOS 14 en bénéficiera aussi ?"

C’est remis aux calendes grecques ou à d’éventuelles évolutions des obligations légales qui sont loin à exclure.

avatar oboulot | 

@YetOneOtherGit

Merci pour ta réponse Yet ! :)

avatar SyMich | 

C'est intégré à iOS15, mais activé nulle part pour l'instant (alors que ça devait l'être aux USA avant le fin de cette année)

avatar oboulot | 

@SyMich

Un rétro pédalage vu la shitstorm ?

CONNEXION UTILISATEUR