Lutte contre la pédophilie : l'analyse des photos pourrait être réalisée directement sur l'iPhone 🆕

Mickaël Bazoge |

Mise à jour 22h — Apple a officialisé les nouveaux mécanismes de sécurité pour lutter contre la pédopornographie en ligne. C'est à lire ici.


Apple n'a encore rien confirmé, mais selon le chercheur en sécurité Matthew Green et le Financial Times qui a fait parler plusieurs sources, le constructeur s'apprête à mettre en place un système de détection d'images pédopornographiques à même les iPhone vendus aux États-Unis. Le système, baptisé neuralMatch, aurait été présenté cette semaine par Apple à plusieurs universitaires, mais une communication publique serait prévue rapidement.

Le principe est le suivant : lorsque l'algorithme détecte une image litigieuse, il prévient une équipe d'examinateurs chez Apple chargés de vérifier la nature de la photo, et de contacter les autorités le cas échéant. Seuls les États-Unis seraient concernés, au moins dans un premier temps. Apple utilise déjà une technologie de correspondance d'images pour dépister des cas d'abus sexuels sur les enfants, mais celle-ci analyse les photos stockées sur iCloud. neuralMatch examinera les images directement sur l'iPhone.

Selon Matthew Green, l'iPhone va télécharger une base de données contenant les signatures électroniques de contenus pédopornographiques. Ces signatures sont ensuite mises en correspondance avec les photos du smartphone converties en une suite de chiffres via du hashing. Une approche décentralisée qui s'appuie sur algorithme entraîné depuis la base de données du National Center for Missing and Exploited Children (NCMEC). Celle-ci sert aussi à l'analyse iCloud. À terme, l'examen des photos stockées dans le nuage se basera aussi sur neuralMatch.

Pour l'analyse sur iCloud, Apple utilise actuellement PhotoDNA, mis au point par Microsoft et mis à disposition du NCMEC.

Le FT explique qu'Apple a voulu trouver un équilibre entre la protection de la vie privée de ses utilisateurs et les demandes répétées des autorités et des organisations de défense de la jeunesse qui veulent que le constructeur en fasse davantage dans la lutte contre la pédophilie et le terrorisme. Bien que dans le cas qui nous occupe aujourd'hui, le terrorisme ne soit pas dans la boucle.

Si la technologie neuralMatch ne servira qu'à la détection d'images pédopornographiques, qui dit qu'elle ne pourra pas un jour partir à la recherche d'autres types de contenus ? Les opposants à un régime pourraient ainsi être visés par un système recherchant des documents anti-gouvernementaux… La crainte est que les États les moins sourcilleux sur la confidentialité mettent la pression sur Apple pour détourner neuralMatch de son objectif premier.


avatar bazino | 

@pilipe

Perso je n’ai rien à me reprocher mais tu as raison, laissons les voyous tranquilles !

avatar pilipe | 

@bazino

Quel rapport ? Pour la sécurité on doit abandonné la vie privée ? N’importe quoi.

avatar bazino | 

@pilipe

Jusqu’au jour où quelqu’un s’en prendra à toi ou au tiens.

avatar pilipe | 

@bazino

Quel rapport ? C’est la méthode de facilité. Au lieu d’attaquer les réseaux et d’enquêter, pourquoi ne pas enlève la vie privée des gens. Comme les racailles qui attaquent les vieilles car plus faible. Pas besoin de voir mon téléphone pour enquêter, et surtout pas apple qui n’est pas policier.

avatar pagaupa | 

@pilipe

« Quel rapport ? Pour la sécurité on doit abandonné la vie privée ? »
C’est malheureusement ce qui est entrain de se mettre en place dans tous les domaines...

avatar pilipe | 

@pagaupa

Ben si ils font ça apple, je n’aurai aucune hésitation à quitter tout l’écosystème. Ou sinon il y aura bien un jailbreak pour bloquer tout ça. On verra. Mais il y aura une réaction ça c’est sur.

avatar byte_order | 

@pilipe

Les flics !?
Même pas. Ici, c'est carrément une entreprise privée qui entre chez vous vérifier qu'il n'y a rien d'illégal.

Les flics, eux, au moins, même sans mandat, ils sont assermentés. Apple, je crois pas.
P'tet en Appleistan, par contre.

avatar John McClane | 

@byte_order

"P'tet en Appleistan, par contre."

Bien trouvé 👍

avatar pagaupa | 

@Bounty23

« ça parle de choses illégales ».
Ce qui est illégal en premier lieu c’est de fouiller dans les affaires des autres... à moins d’avoir l’autorisation d’un magistrat.

avatar Hugualliaz | 

Ça permet de prendre conscience de quelque chose d’important : la vie privée sur internet et nos appareils est un mirage.

Alors évidemment si vous êtes M. Tout le monde : pas de soucis mais si vous êtes en contact avec des personnes qui détiennent des informations convoitées ou encore avec un individu qui est seulement ami avec ces personnes : si un pirate souhaite obtenir vos données pour vous faire chanter : il les obtiendra !

Cela nous invite à remettre en question l’usage des technologies comme l’usage de nos réseaux sociaux et ce n’est peut-être pas plus mal.

avatar byte_order | 

@Hugualliaz
> la vie privée sur internet et nos appareils est un mirage.

Cela permet surtout de prendre conscience que *nos* appareils ne sont les notres que quand c'est nous qui avons le véritable contrôle dessus, et donc qu'on refuse de lacher ce contrôle final. Mais bon, parce que "c'est plus simple" beaucoup l'accepte, aux grands profits des entreprises... et des états qui, au final, restent au dessus d'elles. Apple va analiser les photos des opposants honkongais pour le compte de la Chine demain ? Des LGBT pour le gouvernement hongrois, turque, russe, d'avortements pour... etc ?

avatar Hugualliaz | 

@byte_order

Il n’y a pas de bons ou de mauvais contrôles : sinon on pourrait admettre que le «hong-kongais» qui planifie un attentat doit être épargné selon vous.

Soit on contrôle rien soit on contrôle tout.

avatar byte_order | 

@Hugualliaz
> Il n’y a pas de bons ou de mauvais contrôles :

En effet. Du coup, pourquoi affirmer que celui ci est forcément bon ou mauvais !?

Ce qu'il y a c'est un état de droit ou pas, point.

Comme même les états les plus respectueux du droit peuvent abuser du controle, y'a pas de bons ou mauvais contrôle, y'a surtout un contrôle indépendant de ceux qui contrôlent ou y'a pas de contrôle indépendant de ceux qui contrôlent.

Hors, ici, on parle d'une entreprise privée qui va se permettre de contrôler vos contenus.
Mais qui contrôle Apple ? Les citoyens !?

> sinon on pourrait admettre que le «hong-kongais» qui planifie un attentat doit être
> épargné selon vous.
> Soit on contrôle rien soit on contrôle tout.

Vision typiquement manichéenne.

Un pays, une Société ne se construit pas sur l'unique pillier des devoirs. Il se construit aussi sur un second pillier, indispensable, des droits. Et comme toute construction humaine, cela ne peut pas être parfait, jamais, c'est toujours un compromis entre les devoirs et les droits, une recherche continue d'équilibre.

Et certaines Sociétes sont plus déséquilibrées que d'autres.

A la révolution française, les devoirs des français pesaient assurement plus que leurs droits.
Selon vous, aurait-il été bon qu'à l'époque le pouvoir dispose d'un relais d'un acteur commercial permettant de contrôler automatiquement toute début de préparation de révolte ?

Ne jamais oublier que selon le côté qu'on se situe sur un sujet de discorde, on peut facilement se retrouver qualifier de soumis ou opposant, de collabo ou terroriste, de naif ou complotiste, bref le naicheisme a très vite fait de plaquer un filtre bien binaire à une situation qui ne l'est que très rarement dans l'humanité.

avatar Bigdidou | 

@byte_order

« Ce qu'il y a c'est un état de droit ou pas, point. »

C’est le problème central, à mon avis.
Des GAFA qui prétendent se substituer voire être au dessus des états de droit.
Franchement inquiétant.

avatar Krysten2001 | 

@Hugualliaz

Vous n’avez pas bien lu l’article alors 😉

avatar Hugualliaz | 

@Krysten2001

J’ai lu (et même relu suite à votre commentaire) mais ce type de contrôles ouvre nécessairement des brèches (qui existent déjà anyway)

avatar LeDan | 

Le ver est dans la Pomme…

avatar lmouillart | 

A vu de nez mettre en place des outils d'analyse comportementale sur les terminaux mobiles ainsi que des remontés d'information au mothership avec synchronisation avec les autorités ce n'est pas la meilleure chose à mettre en place.
Les pays anti-LGBTQ+ vont demander la même choses pour leur population, etc. sur tout un ensemble de choses qui semblent normales/légales pour les uns, anormales/illégales pour les autres.

avatar armandgz123 | 

@lmouillart

C’est exactement ce que je me dis. Ça m’inquiète vraiment même…

avatar raoolito | 

@lmouillart

ok, on va laisser les pedophile dissimuler leurs horreurs dans leurs telephone bien verouillés et cryptés.
puisque cette situation semble vous convenir...

avatar raoolito | 

@lmouillart

il n'y a rien d'intrusif a laisser son smartphone verifier en interne si les photos qu'il contient sont celles de jeunes enfants.
ca reste en local, sauf si on trouve quelque chose

avatar lmouillart | 

Le contrôle effectué par un terminal sur la légalité des données est par définition intrusif, d'autant plus si la fonctionnalité n'est pas désactivable et si elle est en opt-out.
Les questions sont plutôt de savoir :
- Quel type d’intrusion est souhaitable/non souhaitable.
- Quid de l'extraterritorialité du droit US vs le reste du monde.
- Pourquoi Apple pourrait aider à repérer des comportements illégaux aux USA et pas dans d'autres pays.
- Pourquoi se focaliser juste sur les photos et sur la pédophilie. Apple possède des micros dans ses terminaux et de nombreuses personnes se font battre (parfois à mort) au sein du foyer, Apple pourrait le détecter (en local) et émettre des alertes.
- La fraude fiscale et le blanchiment d'argent sont un fléau. Pourquoi Apple ne vérifiait pas les informations financières (n° de comptes, banques, mouvements, ...) et si elles correspondent à des alertes des autorités ?
- ...

avatar Nesus | 

Donc en fait, il n’y a que deux personnes qui ont lu l’article avant de commenter…

C’est un bon système. Respect de la vie privée et lutte contre utile. Bon limité à ce qui à déjà été découvert, mais ça fera quand même un sacré ménage.

avatar armandgz123 | 

@Nesus

J’ai hâte qu’ils appliquent ce système aux LGBTQ+ et aux musulmans dans certains pays…

avatar raoolito | 

@armandgz123

j'ai hate qu'on demasque une bonne nouvelle fournée de pedophiles un peu partout dans le monde, meme dans le spays qui traquent les musulmans ou le sLGBT ou les syndicalistes ou les commentateurs pas malins des forums...

avatar IceWizard | 

@raoolito

« j'ai hate qu'on demasque une bonne nouvelle fournée de pedophiles un peu partout dans le monde, « 

Ils sont réellement partout, tu sais. Comme je le disais dans un autre post, c’est une maladie mentale sexuellement transmissible. Une personne sur 8 abusée dans sa prime jeunesse le devient à son tour. Terrifiant ..

Mais effectivement la récupération politique est odieuse. Trump et son acolyte (Q)anon ont fait fort en diffusant des listes présumées de pedophiles, composées uniquement d’opposants politiques aux Républicains !

avatar raoolito | 

@IceWizard

la fange n'a jamais de fond dans la nature humaine malheureusement
quand je vois qu'il y a peut-être que nous deux dans les commentaires qui ont une pensée pour ces enfants martyrisés

avatar macam | 

C'est quoi ces conneries ? Je croyais que le respect de la vie privée était le cheval de bataille d'Apple !
Je ne vois pas de quel droit Apple peut scanner mes albums photo.
Apple n'a pas non plus pour rôle d'être un mouchard pour la police.
(Et ce qui m'intrigue, c'est que le combat contre la pédophilie, aussi louable soit-il, est monté crescendo ces deux dernières décennies, alors que parallèlement la mode a été d'avoir de moins en moins de poils pubiens chez les adultes - bref de ressembler de plus en plus à des enfants).

avatar raoolito | 

@macam

" c'est que le combat contre la pédophilie, aussi louable soit-il, est monté crescendo ces deux dernières décennies"
et pour une raison tres simple, c'est qu'on decouvre avec horreur que c'est loin d'etre des cas rares,
https://www.20minutes.fr/societe/2622379-20191007-pedophilie-france-victimes-10-ans-moyenne-83-entre-elles-filles

cela s'appelle une prise de conscience

avatar macam | 

@raoolito :
Oui, je sais bien. J'en profitais juste pour souligner ce paradoxe avec la mode chez les adultes à avoir des trucs glabres comme chez les mômes.

avatar raoolito | 

@macam

la représentation pilaire varie au cours des siècles et suivant les cultures en soi cela n'a rien d'extraordinaire
c'est une période...

avatar John McClane | 

@macam

"la mode a été d'avoir de moins en moins de poils pubiens chez les adultes"

Ah pas chez moi, ni aucune de mes rencontres !

avatar toto_tutute | 

Franchement, ça fait flipper. J'imagine que le régime chinois procède déjà ainsi pour la Chine continentale et maintenant Hong Kong.

Et comme dit plus haut, demain, ça sera Orban en Hongrie contre les homosexuels, Poutine contre ses opposants, etc.

avatar Lightman | 

Au risque d'en choquer certains, la pédophilie n'est pas interdite en France. C'est toujours bon de le rappeler. Les actes pédophiles, eux, oui. C'est une femme qui l'a rappelé sur France télévision qui m'a permis de le réaliser. Ça m'a marqué. Mais c'est vrai : il n'est pas possible en France d'interdire les pensées et les attirances. Et heureusement !

"qui dit qu'elle ne pourra pas un jour partir à la recherche d'autres types de contenus ?"

C'est bien cela qui fait peur. Utiliser des sujets qui mettent (presque) tout le monde d'accord pour mettre en place des systèmes, qui lorsque c'est opportun, sera utilisé dans d'autres buts.
Bien se rappeler que ces sociétés high tech sont soumises aux lois, et peuvent à n'importe quel moment être utilisé par les gouvernements comme outil pour leurs bons désirs.

avatar toto_tutute | 

Tout a fait, une œuvre littéraire, artistique peut représenter la pédophilie.

avatar Chrislam | 

Il faut savoir que la Commission Européenne, dans la cadre de la lutte contre la pédopornographie, voudrait que les messageries telles que Whatsapp, iMessage, Telegram, Signal, Messenger, etc… soient dotées d’une « faille » que les autorités des Etats membres pourraient utiliser pour détecter les messages de cet ordre… Qui dit que cette « faille » ne sera pas utilisée aussi à d’autres fins (politiques p.ex.) ? Tout cela à notre insu évidemment.
Aucune personne sensée et honnête, ne songerait à empêcher de lutter contre la pédopornographie, et par conséquent, n’oserait s’opposer à cette forme d’intrusion incontrôlable ? Un prétexte consensuel pour ouvrir la porte à une surveillance de masse…

avatar Sindanárië | 

@Chrislam

Oncle Joseph Staline regrette d’être né trop tôt

avatar Malvik2 | 

La pédophilie c’est l’une des pires choses qui existe au monde.
Mais laisser porte ouverte comme ça toutes nos données confidentielles c’est juste pas possible, la démocratie est fragile, qui sait ou nous en serons dans 20 ans ? Et stop au «  tu défends la pédophilie du coup », faut juste voir plus loin que le bout de son nez.

avatar TiTwo102 | 

Ces dérives de contrôles vont très loin selon moi. Beaucoup trop loin même !

Imaginez un parallèle avec la vie non informatique : quelqu’un qui vérifie toutes vos lettres, regarde chaque jour le tiroir de votre table de nuit pour savoir si les photos que vous avez dedans sont légales, etc, etc…
Personne n’accepterait ça. PERSONNE !

Sous prétexte que l’intrusion est moins perceptible que dans la « vrai vie » (mais pourtant tout aussi réelle et même beaucoup plus invasive), et profitant du fait que les gens ne sont pas du tout sensibilisés à ce sujet, nos appareils informatiques sont en train de devenir de véritable outils de contrôle, et aussi louable que soit la cause, c’est un scandale.

avatar AlexG | 

Beaucoup ici n'ont pas compris le principe, donc c'est bon de le rappeler : il n'y a pas d'analyse d'image, mais une comparaison entre la signature / hash de vos photos avec celles déjà connues et identifiées comme pédophiles. Vos photos ne sont donc pas analysées ni reconnues. Vous serez en faute seulement si vous avez téléchargé du contenu pédophile provenant de l'extérieur sur votre iPhone.

Ça ne remet pas en cause le débat sur le fait qu'Apple parcourt indirectement nos contenus, et que cela peut poser question. Mais il ne s'agit en tout cas pas d'analyser et mémoriser vos photos au cas où (en tout cas à ce jour).

avatar raoolito | 

@AlexG

moi j'ai plus de mal avec tout ceux qui hurle à la protection de la vie privée sans se rendre compte que finalement leur vie privée personne n'en a rien à faire rien du tout finalement
d'abord parce que si on voulait vraiment il suffirait de chercher sur les réseaux sociaux (on a tous été tagué par un ami qui nous voulait du bien), ensuite que si ces gens avaient une activité politique ou syndicale ça se saurait vu la désaffection manifeste dans tous les pays occidentaux vis-à-vis de la politique.

bref c'est se prendre pour plus qu'on est et mettre de la paranoïa là où il n'y a que du vide.
je ne dis pas que je n'ai rien à cacher je sors l'argument qui dit personne n'en a rien à foutre de ma vie. À la limite si des gens voulait se renseigner qu'il vienne me voir! je n'ai que cette envie de raconter mon existence à quelqu'un que ça intéresserait !!!!

avatar AlexG | 

@raoolito

Je disais ça moi aussi, avant que je me rende compte que j'ai toujours mis des rideaux aux fenêtres pour avoir une intimité. Parce que je n'apprécie pas que les gens sachent ce que je suis en train de faire à tel ou tel moment. C'est ce que je considère être la vie privée. Et je la transpose également sur mes données personnelles, que je ne laisse pas n'importe où (je ne publie rien sur Facebook, et j'ai coupé tous les services Google). N'avoir rien à cacher n'est pas la question selon moi : est-ce que j'ai envie que mes données soient accessibles sans vergogne ? Personnellement non, tout comme je n'ai pas envie que mes voisins sachent des infos sur moi que je ne leur ai pas données.

Ça ne m'apporte aucune réponse au sujet de l'article : je suis tiraillé entre les 2 pôles des commentaires (qui aiment toujours autant se montrer binaires, donc sans nuances, c'est plus simple et une caractéristique humaine j'imagine). Ce que propose Apple ici peut s'avérer être un précédent qui me dérange, sachant qu'il suffira aux pédophiles de passer à la concurrence pour ne plus être inquiété, alors que les utilisateurs d'iPhone garderont cette porte dérobée pour une potentielle utilisation plus dérangeante. Bref, je reste assez prudent sur cette histoire.

avatar Paquito06 | 

Je place cela ici car bcp ne sont pas familier avec l’analyse de contenu, mais c’est pas recent les enfants (sans jeu de mot):

https://www.beauxarts.com/grand-format/pourquoi-facebook-censure-t-il-les-oeuvres-dart/

C’est comme le mec qui essaye d’imprimer un billet de banque a la maison… LOL 😅

avatar en chanson | 

Apple ferait mieux d'arrêter sa campagne publicitaire sur la préservation de la vie privée, après Pegasus cette société n'est plus crédible

avatar IRONMAN65 | 

Bon ben effacez les photos de nuds de vos enfants

avatar pagaupa | 

Apple se prend pour Zorro!

avatar Angusalex | 

Si ça permet de protéger des enfants et de mettre en prison des malades mentaux je signe direct!
Si tu n’as rien à cacher pourquoi tu pleure

avatar r e m y | 

Bien sûr... mais au départ Pegasus était aussi destiné à une noble cause, vu qu'il était destiné à la lutte anti-terrorisme.
Le problème c'est que ces outils vertueux finissent toujours par être détournés de leur raison première dans des buts beaucoup moins acceptables.

avatar Apero | 

Sujet sensible… La protection de l’enfant est évidement une priorité mais la vie privée en est aussi une et savoir que (même dans des conditions extrêmes) des employés d’Apple puissent avoir accès à mes photos ne me réjouis pas trop. L’article dit que les photos iCloud sont déjà analysé, je ne savais pas, c’est que les États Unis ou le monde entier ? Je suis curieux si quelqu’un a la réponse !

Pages

CONNEXION UTILISATEUR