Lutte contre la pédopornographie : Apple louée d'un côté, critiquée de l'autre
Bien que repoussées, les mesures de lutte contre la pédopornographie d'Apple continuent de faire parler d'elles. Récemment, la Secrétaire d'État à l'Intérieur britannique a publié un article dans le Telegraph appelant les géants du net à « faire passer la sécurité du public avant le profit ».
Priti Patel critique le chiffrement de bout en bout, qui ne devrait pas « ouvrir la porte à de plus grands abus » et salue les efforts d'Apple : pour elle, les mesures présentées par la Pomme vont dans le bon sens.
Récemment, Apple a fait le premier pas en annonçant qu'elle cherchait de nouveaux moyens de prévenir les horribles abus sur son service. Apple affirme que sa technologie de filtrage des abus pédopornographiques a un taux de faux positifs de 1 sur 1 milliard, ce qui signifie que la vie privée des utilisateurs normaux est protégée tandis que ceux qui amassent d'énormes collections de contenus pédopornographiques sont repérés.
Elle qualifie « d'hyperboliques » et de « fausses » les déclarations estimant que des gouvernements pourraient fouiller ou espionner la vie de citoyens innocents. Enfin, elle appelle les grandes entreprises du web à prendre leurs responsabilités et à s'investir davantage dans le domaine.
Autre son de cloche aux États-Unis, où plusieurs personnes se sont réunies devant différents Apple Store afin de critiquer ces mesures. Ces manifestations ont été organisées par le collectif Fight for the Future dans différentes grandes villes américaines (New York, Washington, San Francisco…).
Sur les photos partagées, ont peut lire divers slogans : « Pas de logiciel espion sur mon téléphone » ou encore « Hey Tim, #pasdetéléphoneespion ». Les activistes craignent une surveillance généralisée et réclament l'annulation totale de ces mesures. La date n'a pas été choisie au hasard, la directrice de campagne dénonçant « l'hypocrisie d'Apple », qui aurait enterré son système en vue du keynote de ce soir.
un taux de faux positifs de 1 sur 1 milliard...😭😭😭
@Levrai
Et alors ? Sur le milliard d’utilisateurs iOS ça ne vous dérange pas d’être celui qui sera faussement accusé… surtout pour ce genre d’accusation… où donc arrêter la surveillance préventive ? Pour toute surveillance vous trouverez une justification émotionnellement difficile à refuser ou à combattre mais l’enfer est pavé de bonnes intentions, les effets indésirables détruisent aussi des vies.
@MGA
Non mais si c’est un faux positif il n’y aura aucun problème après vérification, d’abord par un employé d’Apple qui fermera le dossier si c’est le cas…
@Lu Canneberges
"Non mais si c’est un faux positif il n’y aura aucun problème après vérification, d’abord par un employé d’Apple qui fermera le dossier si c’est le cas…"
Arrête la colle, ou change de marque
@MGA
Sans oublier que même si il est prouvé que c’est une erreur la personne restera suspect aux yeux de tous.
@Insomnia
Sans prendre partie sur le fond du problème, ce que tu écris est un non sens.
Les "yeux de tous", ceux des organes de sécurité, etc. ne seront pas mis au courant du faux positif.
Des vrais arguments rationnels : @Insomnia & @MGA
?
@J'en_crois Pas_mes yeux
Prouve le que Apple fera de réelle vérification et n’enverra pas directement l’info à la police ? Parle pas de chose donc on ne connaît pas le fonctionnement.
@ Insomnia "Prouve le que Apple fera de réelle vérification"
Ok : à ce niveau de réflexion, il n'y a aucun dialogue intelligent à espérer.
tu as encore quelques neurones en état de marche ?
@J'en_crois Pas_mes yeux
Attaquer sur ce genre de chose, c’est plutôt ton intelligence qu’il faudra rechercher….solution de facilité
@J'en_crois Pas_mes yeux
"Ok : à ce niveau de réflexion, il n'y a aucun dialogue intelligent à espérer."
C’est bien de faire son autocritique 👏🏼
@Insomnia
"Sans oublier que même si il est prouvé que c’est une erreur la personne restera suspect aux yeux de tous."
Tous = l’employé Apple (voire sous traitant, aller), qui va repasser derriere le filtre auto afin de confirmer ou non. Wow. Ca vaut la une d’un JT 😜
@MGA
“Et alors ? Sur le milliard d’utilisateurs iOS ça ne vous dérange pas d’être celui qui sera faussement accusé…”
Magnifique celle-ci. On la met de coté pour rigoler un peu plus tard. 😅
@ Paquito06
Tu rigoles, mais sa réponse...
@J'en_crois Pas_mes yeux
"Tu rigoles, mais sa réponse..."
Oui c’est dur 😂
@Paquito06
Parfait on le mettra avec ton commentaire aussi !
@oboulot
"Parfait on le mettra avec ton commentaire aussi !"
Certainement. J’attends donc de voir combien d’utilisateurs vont ainsi recevoir la visite des amis du petit dejeuner suite a des faux positifs.
Et c’est autorisé a commenter en plus… 😂
@MGA
Ecoute, le mieux c’est que tu nous montres de suite ton album photo, on vérifie cela vite fait, on te donne un bon point et tu retournes faire la 😴
En tout cas je ne pense pas que ce soit facile d’être à la place de Tim Cook en ce moment, c’est le genre de décision extrêmement difficile à prendre et qui fera toujours des mécontents quel qu’en soit le résultat…!
@Lu Canneberges
"c’est le genre de décision extrêmement difficile à prendre"
Arbitrage entre les pouvoir de nuisance et celui des lobby de défense de l’enfance est incomparablement supérieur.
La population US a accepté sans vraiment broncher le Patriot Act et le Cloud Act … par contre l’inaction face aux pedophiles ça c’est largement inacceptable 😎
@Lu Canneberges
Bah en fait personne leur a demandé de prendre ces initiatives.
Les mecs font tout le marketing depuis des années sur la vie privée et il te sorte un système que même Google jalouserai.
Pour ceux qui sont pas technique la plupart des chercheurs on mis en garde que par ce système une simple modification du code et ça serait une catastrophe quand à la vie privée
les lobby de defense de l’enfance seront toujours plus puissants dans leur large impact médiatique que ceux défendant la vie privé.
Je ne serai pas étonné qu’ils finissent par obtenir des lois obligeant des approches telles que celles envisagées par Apple des législateur à moyen terme.
Et je reste sur la position arguant que les dégâts d’image de marque qu’aurait subis Apple d’une campagne des lobby de défense de l’enfance, les accusant d’inaction devant le faible taux de signalement qui est le leur , aurait été incomparablement supérieur à ceux issus de l’agitation médiatique dans le microcosme récente. 😎
On a eu il y a 15 jours une présentation par Apple de ce dossier et j'ai compris pourquoi Apple soutient qu'il n'y a pas de risque que leur algorithme puisse être détourné pour détecter d'autres types de photos. (Alors que si on se contente de comparer des hash de photos, il suffit de prendre une autre base de photos pour identifier d'autres types de contenus)
Si vous vous rappelez bien, dans leurs premières présentations, Apple parlait d'intelligence artificielle et d'algorithme qui avait été "entraîné" sur la base de données de la NCMEC, mais ensuite ils n'ont plus parlé que de comparaison de signatures de photos.
En fait, Ils ont bien développé un algorithme capable d'identifier des photos "SIMILAIRES" aux photos de la base NCMEC (et pas forcément strictement identiques) et c'est d'ailleurs la raison pour laquelle ils ont prévu un contrôle physique des photos ainsi identifiées (alors que sur un comparatif de hash, ça paraît peu utile).
Du coup, pour faire identifier d'autres types de contenus, il faudrait redevelopper (et re-entraîner) un nouvel algorithme. Celui-ci ne sait rien identifier d'autre que des photos pedophiles.
Rien à battre de savoir si leur techno est au point ou pas, j'ai pas envie qu'une IA viennne fouiner dans mon smartphone sans mon consentement. Qu'ils scannent leurs serveurs...
Ah mais moi non plus je n'en veux pas! Et je ne sais pas non plus si c'est au point ou pas...
Je vous donne juste l'explication de pourquoi Apple soutient que son algorithme ne peut pas être dévoyé pour identifier d'autres types de contenus.
La base de données de référence peut contenir n'importe quelle image, et Apple n'a pas la main sur elle. S'i elle est détourné, le système permettra donc au gouvernement de rechercher n'importe quel document sans qu'Apple ne soit même au courant.
@Levrai
Tu devrais relire les explications fournies plus haut, tu comprendrais ton erreur.
Je crois que tu n'as pas compris les explications de Symich.
La base d'images de référence n'a servi qu'à entraîner leur algorithme à identifier ce type de photos. L'algorithme embarqué dans iOS15 ne sait identifier QUE ce type de photos.
@SyMich
Merci pour ces explications. Bien plus claires que celles qui avaient été partagées jusqu’à aujourd’hui.
Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher, elle était pro peine de mort (merci Wiki, je ne connaissais pas cette personne). C’est un joli soutien pour l’image progressiste d’Apple.
@headoverheel
"Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher, elle était pro peine de mort (merci Wiki, je ne connaissais pas cette personne). C’est un joli soutien pour l’image progressiste d’Apple."
Cela ne change strictement rien au pouvoir de nuisance du lobby qu’elle représente.
Je ne suis pas fan des membres de la NRA mais ils ont un pouvoir de nuisance qui peut faire et défaire bien des choses aux USA.
Là c’est pareil.
Des lobby ayant un grand pouvoir de nuisance passe devant les autres 😎
Rien de nouveau
@headoverheel
"Elle se situe à la droite du Parti conservateur, adoratrice de Margaret Thatcher"
C’est elle Kylo Ren en fait 😱🥶
Question : ce système de merde sera implémenté dans IOS 15 uniquement ou IOS 14 en bénéficiera aussi ?
@oboulot
"Question : ce système de merde sera implémenté dans IOS 15 uniquement ou IOS 14 en bénéficiera aussi ?"
C’est remis aux calendes grecques ou à d’éventuelles évolutions des obligations légales qui sont loin à exclure.
@YetOneOtherGit
Merci pour ta réponse Yet ! :)
C'est intégré à iOS15, mais activé nulle part pour l'instant (alors que ça devait l'être aux USA avant le fin de cette année)
@SyMich
Un rétro pédalage vu la shitstorm ?