Apple jusque-là en retard dans la lutte contre la pédopornographie

Félix Cattafesta |

Les mesures de lutte contre la pédopornographie annoncées par Apple entreront en vigueur cet automne aux États-Unis. Un système plus ou moins bien accueilli (plutôt moins) par les activistes du numérique, qui voient derrière cette annonce l'ouverture d'une porte dérobée pouvant mener à des dérives.

Image : Apple.

Mais il faut savoir que sur le sujet de la protection des mineurs, Apple était à la traine par rapport aux autres géants de la tech. Il y a bien longtemps que des systèmes de surveillance sont employés par la Silicon Valley et au-delà.

Microsoft, l'initiateur

En 2009, Microsoft a créé PhotoDNA, un système permettant d'analyser une photo et de lui attribuer une signature sous forme de chiffres (un « hash »). Pour cela, PhotoDNA convertit le cliché en noir et blanc et le divise en de multiples carrés auxquels il attribue un numéro. Le système peut alors comparer les signatures numériques obtenues avec celles des bases de données de photos pédopornographiques détenues par les associations de protection de l'enfance.


avatar R-APPLE-R | 

Hors sujet : tousAntiCovid a jour avec application pour Apple Watch ⌚️ enfin !

avatar Sindanárië | 

@R-APPLE-R

Ta gueule ! C’est déjà tout noir !

avatar R-APPLE-R | 

@Sindanárië

Reste polis petit et calme toi tu va nous faire une crise cardiaque…. Ha bein je m’en fous en faite vas y fais toi plaisir 😏

avatar raoolito | 

Vague de depression sans précédente chez les commentateurs de MacG les plus pointilleux en prévision !

bon, perso, la je sors carrement les croquemonsieurs, ca va pas etre triste…
🥪

avatar kemar4 | 

@raoolito

😀

avatar Bigdidou | 

@raoolito

« Vague de depression sans précédente chez les commentateurs de MacG les plus pointilleux en prévision ! »

Pourquoi ?
C’est pas la technologie, le problème, c’est la façon dont Apple la met en œuvre.

avatar Lu Canneberges | 

Bon, ben voilà, au final tout le monde fait ça depuis 10 ans et ça semblait normal jusque là… Il me semble que la solution d’Apple est au moins aussi respectueuse de la vie privée que les autres, donc pas de raison de crier au scandale.

Oui il y a un risque de pente glissante, mais Microsoft pendant 12 a tenu bon et n’est resté que sur la pédocriminalité, donc on peut accorder le bénéfice du doute à Apple qui est aussi capable de s’opposer au FBI pour ne pas créer de vraie backdoor…

Comme quoi, la contextualisation et la relativisation sont importantes pour réagir rationnellement !

avatar Bruno de Malaisie | 

@Lu Canneberges

Quand c’est Microsoft ou n’importe qui d’autre, personne n’en parle.
Par contre, quand c’est , cela devient une autre histoire le tout accompagné de levées de boucliers etc.
Bref, rien de neuf sous le soleil…

avatar dodomu | 

@Bruno de Malaisie

Le fait que tout le monde en parle parce que c’est Apple n’enlève rien au bien fondé des critiques faites à ce système. 🙂
Peut-être que personne n’a réagi avant pas parce que ce n’était pas Apple, mais parce que personne n’en a parlé avant…
De plus, Apple se positionne en champion de la protection de la vie privé, et doit être le seul géant du numérique dont la réputation permet d’y croire. Donc dans ce cas précis, le fait qu’on s’y oppose parce que c’est Apple fait complètement sens, parce que cela rentre en conflit avec la politique publique de cette entreprise précisément.

avatar Bruno de Malaisie | 

@dodomu

Je ne parle pas du bien-fondé de ces mesures, je parle du buzz qui est fait sitôt que  se lance sur un sujet donné.
Sur les mesures, j’ai déjà précisé ce que j’en pense précédemment.
“L’enfer est pavé de bonnes intentions”. Donc attention.  n’a pas un blanc-seing sur ces questions là.
Et par conséquent,  doit faire très attention quant à la communication sur ces questions.

avatar dodomu | 

@Bruno de Malaisie

Mea culpa 🙂

avatar Bruno de Malaisie | 

@dodomu

Pas de souci:)

avatar YetOneOtherGit | 

@Bruno de Malaisie

"Et par conséquent,  doit faire très attention quant à la communication sur ces questions."

Apple avait certainement bien plus à perdre en terme d’image de marque d’une campagne dénonçant leur non-implication sur ces enjeux qu’elle ne perd avec le bruit de fond dans le microcosme.

Les atteinte potentielles aux libertés individuelles sont largement acceptées par la population quant elles servent à lutter contre les peurs de la population.

Le très faible niveau de lutte contre le patriot act en est la parfaite illustration.

De même pour le large déploiement des systèmes de vidéosurveillance.

A tort ou à raison, les mesures de lutte contre ce qui fait peur aux citoyens sont acceptés par une écrasante majorité de ceci même quand elle remettent en question quelques principes fondamentaux de liberté individuelle.

Et je ne parle même pas des violations de la vie privée qui sont au cœur des modèles économiques de bien des acteurs de la nouvelle économie et qui ne choquent qu’une infime partie de la population.

Bref je ne crois nullement que ce pas fait par Apple soit un faux pas 😎

Wait & See 😉

avatar headoverheel | 

@YetOneOtherGit

Le problème c’est qu’il existe des sujets trop sensibles pour les laisser entre les mains des entreprises. Le citoyen (ou le client) peut avoir de mal à passer au dessus de ses émotions. Si tu veux rétablir la peine de mort, un référendum devrait suffire sans avoir à déployer beaucoup d’arguments.

avatar YetOneOtherGit | 

@headoverheel

"Le problème c’est qu’il existe des sujets trop sensibles pour les laisser entre les mains des entreprises."

Je ne fais strictement aucun jugement de valeur ici.

Je met juste en avant le fait que ces questions ont au final extrêmement peu d’impact sur les citoyens.

avatar headoverheel | 

@YetOneOtherGit

Je comprends ce que vous voulez dire. A titre personnel, je préfère que ce soit le législateur qui impose des mécanismes.

avatar YetOneOtherGit | 

@headoverheel

"je préfère que ce soit le législateur"

A ce niveau, je ne serais pas surpris qu’à moyen terme bien des législateurs imposent justement aux acteurs du numérique des systèmes de détection et de signalement de contenus contrevenant à la loi.

Dans l’absolu rien de particulièrement nouveau dans le fait que les état s’appuie sur des ressources tierce pour exercer ses missions régaliennes, c’est déjà le cas sur bien des choses 😎

avatar DahuLArthropode | 

@YetOneOtherGit

""je préfère que ce soit le législateur"
A ce niveau, je ne serais pas surpris qu’à moyen terme bien des législateurs imposent justement aux acteurs du numérique des systèmes de détection et de signalement de contenus contrevenant à la loi."

Je partage, mais précisément, à ma connaissance, le législateur n’a encore rien demandé et, surtout, les chambres compétentes n’ont pas débattu des risques ou des limites, etc. , ni des institutions qui seraient en charge de surveiller la surveillance (comme la CNIL chez nous).

Sans me prononcer sur l’issue que de tels débats auraient ou devraient avoir, il serait bon qu’ils aient lieu et qu’ils soient un préalable à la mise en place d’une surveillance (chez Apple ou ailleurs).

avatar YetOneOtherGit | 

@DahuLArthropode

Beaucoup de mouvements politiques veulent lutter contre les moyens qu’ont donné le digital aux criminels d’optimiser impunément leur activité.

La transformation numérique concerne aussi le banditisme, les trafiquants, les terroristes…

Wait&see

avatar YetOneOtherGit | 

@headoverheel

"Si tu veux rétablir la peine de mort, un référendum devrait suffire sans avoir à déployer beaucoup d’arguments."

La question de la peine de mort a mobilisé bien plus l’opinion et continue à la mobiliser bien plus.

Là nous sommes sur des enjeux pris en considération que par un microcosme qui ne se développe pas particulièrement alors même que l’activisme a commencé il y a bien longtemps.

avatar andr3 | 

@headoverheel

Je préfère que ces "sujets sensibles" restent dans les mains des entreprises comme Apple, Google (pour ne citer qu'eux) plutôt que de voir les gouvernements faire tout et surtout n'importe quoi pour peu que cela

[ ] rapporte des voix
[ ] opprime l'opinion publique
[ ] permette de surveiller ses con·citoyens
[ ] autre

Même si parfois le comportement d'un Apple (p.ex.) peut être sujet à caution comme vis-à-vis de la Chine. Apple est une entreprise et comme toute entreprise doit se soumettre aux lois locales. Ce qui n'est pas (forcément) le cas des gouvernements.

A vous de choisir ...

avatar headoverheel | 

@andr3

C’est là que l’on voit que nos démocraties sont en crise et que l’opinion publique est versatile.
Sondage de 2019 : pensez vous que la gestion des données personnelles des consommateurs par les GAFA est assez encadrée ? Non à 79%

avatar Nesus | 

@dodomu

C’est faux. Apple sort un système qui respect la vie privée. D’ailleurs tous les commentateurs sérieux et qui se sont penchés dessus sont d’accord sur ce fait.
Ce qui est critiqué, c’est la possible dérive. Donc on entre dans le procès d’intention. Qu’on puisse être inquiet parce que le système pourrait devenir potentiellement dangereux, j’arrive à le comprendre, même si je n’y adhère pas. Une pelle n’est une arme que si on l’utilise comme telle, pour autant c’est un outil pratique.
Qu’on dise qu’Apple a renié son principe de protection de la vie privé est faux et diffamatoire en plus d’être bête.
Dans ce cas, pourquoi ne pas avoir levé les boucliers au moment de la création de l’iPhone ? Parce que tout indiquait qu’il allait possiblement devenir un faille de sécurité et un outil de contrôle.

avatar Danny Wilde | 

@Lu Canneberges

👏
Exactement
Pas mieux ( en 8 lettres) !

avatar LambdaBoss | 

Etrange, hier encore Apple était à mettre au pilori ... aujourd'hui ils ont un métro de retard ... !?!?

Est-ce à dire qu’ils ne sont pas les seuls à mettre un soit disant coup de canif dans la vie privée … étrange, d’autant qu’on nous faisait croire qu’ils étaient au top dans ce domaine ... !?!?

avatar BLM | 

«Une colère légitime quand on s'intéresse de plus près aux chiffres : sur les 16 millions de signalements effectués par les entreprises de la tech en 2019, seuls 8 provenaient d'Amazon. »
Colère légitime?
Sur 16 millions de signalement… Combien étaient réellement justifiés ? C'est cela, ce nombre, la donnée pertinente. Parce que 16 millions de signalement… N'importe qui peut balancer n'importe quoi sur son voisin…
Si 16 millions de signalement au petit bonheur la chance ont servi à coincer une dizaine de salopards, je ne suis pas d'accord avec "colère légitime" parce que cela signifie que 16 millions de personnes se sont vus coller une marque infamante dont ils ne pourront jamais se débarrasser. Un jour ou l'autre un flic US quelconque viendra leur interdire de faire telle ou telle chose parce qu'il y a eu un vague soupçon, démenti ou pas peu importe (n'est-ce pas : « il n'y a pas de fumée sans feu » ?).
Ce n'est pas à Apple, Amazon, Google, Microsoft ou autre de chercher à caractériser la nature d'une conversation, d'une photo, d'une vidéo, de n'importe quel échange privé pour voir si par hasard cet échange ne serait pas la signature d'un comportement déviant.
Accepter que toutes les conversations privées soit d'une façon ou d'une autre écoutées, c'est accepter le raisonnement sous-jacent selon lequel toute personne est réputé soupçonnable, ce qui est un renversement complet du paradigme de base dans une société démocratique selon lequel toute personne est innocente jusqu'à ce que quelqu'un apporte la preuve du contraire.

avatar BananaYatta | 

Cet article devrait être disponible plus largement et pas uniquement aux abonnés de MacG…

CONNEXION UTILISATEUR