Allemagne : des journalistes et des politiques inquiets du système d'analyse de photos d'Apple 🆕

Florian Innocente |

Mise à jour 17/08 — Le parlement allemand s'est saisi de l'affaire. Le président du comité à l'agenda numérique, Manuel Hoferlin, a envoyé un courrier à Tim Cook pour lui demander de reconsidérer le système de détection des photos pédopornographiques. Apple est sur une « pente dangereuse », tout en compromettant la confidentialité des communications, selon lui. Hoferlin estime que la technologie d'Apple sera « le plus grand instrument de surveillance de l'histoire ». Elle sera lancée d'abord aux États-Unis cet automne.


Article original, 16/08 — La décision d'Apple de mettre en place un mécanisme de détection et de signalement d'images pédophiles commence à provoquer des réactions en Europe. Initialement ce système sera lancé aux États-Unis, Apple ayant indiqué qu'elle ne s'interdirait pas de le lancer dans d'autres pays en fonction des législations locales.

Des associations de journalistes germanophones en Allemagne, en Suisse et en Autriche, s'alarment à l'idée que ce système d'analyse de la base de photos en local sur l'iPhone, avant sa synchronisation en ligne via la fonction Photos iCloud, puisse à terme déborder vers d'autres contenus.

Le système d'Apple schématisé (détails)

C'est un leitmotiv dans les critiques émises à l'encontre de ce système. On commence avec les photos de pédopornographie et demain, peut-être, Apple se verra sommée par un gouvernement d'étendre ses filets vers les photos de dissidents, de minorités persécutées, etc.

Ces associations s'inquiètent que des informations confidentielles et leur sources, stockées sur les appareils des journalistes, puissent faire un jour l'objet de telles recherches automatisées. Et ce alors que ces médias ont des correspondants basés aux États-Unis. Dans les risques possibles il est aussi évoqué le cas de la Hongrie et du gouvernement Orban dont la politique va ouvertement à l'encontre de la communauté LGBT.

Là encore il y a cette crainte de voir ces gouvernements exiger d'Apple qu'elle ouvre son système plus largement. La Pomme a expliqué que son mécanisme est précisément conçu pour n'être exploitable que dans ce contexte de la lutte contre la pornographie infantile, en liaison exclusive avec une base de donnée spécialisée dans ce domaine.

Craig Federighi reconnait qu

Craig Federighi reconnait qu'Apple a très mal communiqué sur les mesures de lutte contre la pédopornographie

Apple l

Apple l'assure, les gouvernements ne pourront pas abuser du nouveau mécanisme de lutte contre la pédopornographie

De même, Apple a assuré qu'elle s'opposerait à toute demande allant dans un sens contraire. Mais elle n'a pas évoqué le cas où un gouvernement irait au-delà d'une requête insistante — comme ce fut le cas avec le FBI pour l'affaire de San Bernardino — et qu'il inscrirait sa demande dans une nouvelle loi.

Ces associations de journalistes demandent à la Commission européenne, aux ministères de l'Intérieur de leurs pays respectifs ainsi qu'aux bureaux en charge du respect du RGPD de s'emparer de ce dossier.


avatar Big Apple | 

Ça fait du bien de savoir que tout le monde n'est pas pour ce système, qui est une boîte de pandore !! Ça aurait bénéficié à la Chine surtout

avatar andr3 | 

@Big Apple

Alors il faut aussi arrêter les différentes "intelligences" dans Photos qui placent les photos à une localisation, nomme les photos en fonction des visages analysés, regroupe les photos par thèmes ... parce que dans ces cas-là, ce n'est pas qu'en local, mais aussi dans le Cloud et sur les autres équipements.

avatar Link1993 | 

Pas vraiment, tout est fais individuellement sur chaque appareil.
Y'a bien une synchronisation de quelques données, mais j'ai pas l'impression que ça passe par le cloud et c'est seulement pour les changements, parce que je retrouve par moment des trucs complètement différent même après quelques jours de changements. Et ça n'apparaît pas sur iCloud.com.
Bon, Apple a les lieux des photos en revanche.

avatar nespresso92 | 

@Link1993

Les metadata sont en effets en locale. Il suffit de se déconnecter de internet et de modifier les données pour voir que tout se fait sur le Mac ou l'iPhone.

avatar andr3 | 

Je ne comprends pas ce que certains ne comprennent pas, comme les journalistes germanophones.

Il existe plusieurs bases officielles de signatures pédopornographiques (CSAM, Children Sexually Abused) et le process neuronal de l'iPhone compare en local ces signatures avec les hashes réalisés en local.

Sauf si l'un de vos mouflets se trouve et dans son bain avec son canard et dans l'une des bases CSAM, vous ne risquez strictement rien.

Pour avoir des ennuis potentiels, il faut que les enfants sur les photos stockées sur votre iPhone "soient" connus des bases CSAM.

Maintenant, Apple aurait dû scinder sa communication en plusieurs modules et non pas tous les mélanger.

avatar fousfous | 

@andr3

Tu n'as pas l'air de comprendre qu'un pays pourrait exiger qu'Apple utilise une autre base de données que celle des associations pedophiles.

avatar Insomnia | 

@fousfous

Merci c’est ça que certains n’arrivent pas à comprendre, c’est tellement facile d’obliger Apple à changer, une loi changera rapidement la donne.

avatar Minileul | 

@andr3

Il suffit juste au gouvernement de modifier cette base de données légalement ou pas d’ailleurs et du inclure d’autre photos

avatar Boboss29 | 

une grosse base de duckface bien dégueus ou d'assiettes de spaguettis bolognaises trop caloriques ! Pire une énorme base de chatons mignons ! 😱

avatar Patrick_C | 

@andr3

Il y a des choses que vous ne comprenez pas non plus. Il existe une base officielle et internationale des criminels recherchés. Elle est tenue par la non moins officiel Interpol. Il n’y a donc aucun risque?

Pourtant, des états ont pris l’habitude de polluer les notices rouges d’Interpol avec non plus des criminels indiscutables mais des opposants politiques : faites une recherche avec notices rouges et Chine, Iran, Russie…

Si vous reprenez la même logique sur votre base d’image pedopornographique et que vous polluez cette base de sujets politiques, soit en douce comme les notices rouges, soit officiellement par une loi, que se passe-t-il ? Et qu’est-ce qui garantit que seules les photos devant être synchronisées via iCloud sont scannées, si la loi oblige à scanner tout?

avatar occam | 

@Patrick_C

"Elle est tenue par la non moins officiel Interpol. Il n’y a donc aucun risque?
Pourtant, des états ont pris l’habitude de polluer les notices rouges d’Interpol avec non plus des criminels indiscutables mais des opposants politiques"

Interpol, dont il faut apparemment rappeler le destin de son président chinois de 2016 à 2018, Meng Hongwei.
https://www.hrw.org/news/2018/10/09/china-disappeared-interpols-chief-world-cant-pretend-its-business-usual

Meng avait fait toute sa carrière dans les services de sécurité chinois. Représentant chinois auprès d’Interpol, élu son président en 2016, il disparaît le 25 septembre 2018 à son atterrissage en Chine. Il refait surface six mois plus tard, accusé de « corruption ». Il est condamné à 13 ans et ¹/₂ d’incarcération le 21 janvier 2020. Entretemps, quoique tenu incommunicado, il démissionne par lettre de la direction d’Interpol.

Si quelqu’un ici croit encore que les représentants de régimes tels que celui de Beijing auprès d’organisations telles qu’Interpol ont encore la moindre marge pour veiller à un fonctionnement correct et conforme des procédures et des échanges d’information judiciaires, qu’il lève le doigt.
Et qu’il se le mette dans l’oeil.

avatar Krysten2001 | 

@occam

Aucun état est bon dans ce monde 😉 Les États-Unis font pas mieux 😉🙃

avatar sangoku | 

@Krysten2001

Non t’as raison les états sont tous pareil, Chine Russie Iran USA France … tous pareil. Sans dec on en arrive à des niveaux de conneries stratosphériques là. Je te conseille d’aller t’installer dans un autre pays tout pareil tu nous en diras des nouvelles.

avatar Krysten2001 | 

@sangoku

Ah bon il existe donc des états tout blancs ? Même actuellement ?

avatar sangoku | 

@Krysten2001

Tu as écrit une grosse connerie assume là et épargne nous tes commentaires.

avatar en chanson | 

@andr3

Le fait même que tes photos soient croisées avec une bdd ne te dérange pas ? Ça s'appelle être présumé coupable et heureusement c'est pour l'instant proscrit en Europe.

avatar Bobu77 | 

Bah c'est simple, ils arrêtent et voilà. Apple est en train de perdre du temps et de l'argent à essayer de convaincre les utilisateurs que ce qu'ils font est pour le bien des enfants. Si les gens préfèrent croire le contraire, tant pis.

avatar andr3 | 

@Bobu77

:-)

Je suis curieux de savoir si ces journalistes confient leurs sentiments, photos, commentaires ... à Facebook et "ses amis" ...

avatar Tomtomrider | 

@andr3

Vous essayez sous chaque commentaire de repondre en faveur d’Apple mais vous êtes toujours à côté. Vos comparaisons ne sont pas bonnes, ça n’a rien à voir.

avatar stefhan | 

@Tomtomrider

Pourtant je trouve que si…

avatar debione | 

@ stefhan:

Il y a une grosse différence entre faire une action sciemment (genre mettre des commentaires sur Fb, des photos etc) et se faire espionner et scanner toutes ces photos ...

C'est tellement différent qu'il n'y a juste pas de comparaison possible.

avatar IRONMAN65 | 

Sans compter les risques d’erreurs et les conséquences surtout au pays des débiles comme la France…

avatar Lemon19 | 

@IRONMAN65

😂😂😂

avatar _Lion04_ | 

Je suis complètement d’accord avec ces journalistes !

avatar Gagolak | 

Apple n’a rien inventé et rien n’empêcherait un état de créer et de forcer l’utilisation d’un système du même acabit. Les gens découvrent le fait que le tout connecté peut être un moyen en or de surveiller les citoyens. 😅

Pendant ce temps-là, la loi antiterroriste et renseignement a été votée en France…

avatar bibi81 | 

Apple n’a rien inventé et rien n’empêcherait un état de créer et de forcer l’utilisation d’un système du même acabit.

En effet, mais l’État n'a rien à faire puisque c'est déjà tout fait... Et c'est justement ça le problème.

avatar pacou | 

@Gagolak

Je n’osais pas en parler

La loi antiterroriste permet à l’état de tout mettre en œuvre pour des écoutes informatiques et téléphoniques généralisées sur des sujets comme le terrorismes mais aussi 5 ou 6 autres cas de criminalité.

Sans intervention de juges, puisque c’est du domaine de l’enquête policière.

Je me souviens que tout le monde disait « rien à cacher ».

On peut dire que cet instrument, dont au moins Apple a créé une mise en lumière des pratiques déjà existantes, va dans le même sens.

ON EST TOUS PRÉSUMÉS COUPABLES.

Je n’arrive pas à en vouloir à Apple qui ne fait que suivre une mode de la surveillance généralisée des humains. Cette surveillance, je la trouve abjecte.

Heureusement qu’Apple n’est pas leader du marché et que les autres constructeurs se garde(ro)nt bien de communiquer sur le sujet, vu le tollé que cela fait.

Pourtant, je ne donne pas chère de notre « liberté » chérie. Mais bon, tant qu’on croit à la démocratie, c’est tout ce qui compte.

avatar YetOneOtherGit | 

@pacou

"ON EST TOUS PRÉSUMÉS COUPABLES. "

Il est d’ailleurs amusant de constater à quel point beaucoup ici ne comprennent rien au concept de présomption d’innocence qui n’a strictement rien à voir avec la vision qu’il en ont.

C’est un principe juridique qui existe une fois que l’infraction est reprochée et jusqu’à la condamnation juridique.

Strictement rien à voir avec les approches pour détecter un comportement délictueux basé sur la surveillance qui sont à la fois banale et ancienne : du contrôle routier au contrôle de fraudes fiscales, des contrôles d’identité au contrôles d’alcoolémie, par exemple, tout citoyen est présumé pouvoir avoir un comportement délictueux qu’il faut pouvoir détecter.

Et c’est plutôt rassurant d’avoir cette égalité de traitement théorique devant le contrôle plutôt que des biais basés sur la classe sociale, l’appartenance à une religion, l’origine géographique, les préférences sexuelles … même si dans les fait pour des raisons d’efficacité les contrôles sont dans bien des cas biaisés.

avatar Levrai | 

Apple a déjà sacrifié la confidentialité des chinois vivant aux États-Unis en délocalisant leurs données sur des serveurs Chinois afin que l'état puisse en avoir le contrôle. Apple a déjà baissé sa culotte et elle le refera encore si nécessaire.

avatar Sgt. Pepper | 

@Levrai

N’importe quoi 😤

l’Europe serait également légitime d’exiger que les données des Européens en Europe,
(Hors patriot Act)

Mais, d’après toi, Apple devrait refuser également de se soumettre aux lois européennes … 🙄

avatar cecemf | 

@Levrai

C’est marrant que tu crois qu’Apple as le choix LOL chaque pays à c’est lois que tu les aime ou pas te obliger de les suivre. Rien à boire avec Apple.

avatar Derw | 

@cecemf

« C’est marrant que tu crois qu’Apple as le choix LOL chaque pays à c’est lois que tu les aime ou pas te obliger de les suivre. »

Du coup, il suffit à un pays de faire une loi qui dit : tout appareil iOS équipé du système de flicage des pédopornographes doit aussi fliquer ceux qui ont des photos qui matchent avec notre base XYZ, pour qu’Apple n’ai pas le choix…

« Rien à boire avec Apple. »

Ça c’est sûr ! 😂🍹

avatar Bigdidou | 

C’est devenu un peu au delà d’un simple mouvement d’humeur geek, cette histoire.

avatar Sgt. Pepper | 

Au fou 🤪

Etre activiste ou journaliste et croire qu’Apple te protège contre les États 😱

Non, les gars , les états ont le droit d’accès aux Data iCloud sur mandat légal
Et l’affaire NSO /Pegasus rappele que iOS est un système trop complexe pour être à l’avis du hacking …

Il faut utiliser un niveau supérieures sécurité 👊

avatar Levrai | 

Apple et Huawei c'est du pareil au même, l'un travaille pour la Chine et l'autre pour les États Unis...
Icloud est devenu la peirre angulaire de l'ecosystème d'Apple, ça devient une évidence que ce sera le parfait espion pour les US.

avatar sangoku | 

@Levrai

Assaut de connerie ce soir. D’un côté les USA démocratie grâce à laquelle tu ne vis pas dans un paradis nazi ou communiste et de l’autre une dictature sanguinaire et qui veut dominer le monde.

Ça se vaut selon toi. Tu es un champion.

avatar Krysten2001 | 

@sangoku

Mais ils mettent toute le monde à genoux sinon boum boum et impose leur idée,…

avatar Boboss29 | 

Dans les faits, Apple analyse déjà ma base Icloud... Car quand je tape plage ou chat, j'ai instantanément des photos persos qui s'affichent dans ma recherche sur Photos... Il n'y a rien de nouveau, juste une couche de recherche supplémentaire pour analyser des photos criminelles d'une base à priori connue internationalement par les autorités... Bref, si demain un gouvernement décide que posséder un chat est illégal ou que jouer de la guitare, mes photos sont déjà scannées et taggées dans icloud sans mon consentement... et je dois dire que c'est bien pratique (car j'ai grave la flemme de tagguer mes 20 ans de photos numériques qui font environs 25000 fichiers...). C'est un faux débat, et une fausse crainte. La technologie est déjà présente depuis des années, et personne ne dit rien, voire même tout le monde trouve ça pratique. Par contre quand ça sert à potentiellement dénoncer un crime, hop une levée de bouclier pour protéger sa vie privé numérique...

Même si je pense que les pédophiles, et autre criminels ne sont pas assez naïfs pour stocker leurs fichiers dans icloud, ou dropbox, ou google image.... mais au cas ou c'est déjà ça.

avatar Levrai | 

C'est pas les scans sur iCloud qui sont remis en cause mais
 le système d'analyse de la base de photos en local sur l'iPhone, avant sa synchronisation en ligne via la fonction Photos iCloud, ce qui est bien plus inquiétant.

avatar Krysten2001 | 

@Boboss29

Ce que vous décrivez pour vos photos est fait en local comme le nouveau système d’Apple.

avatar fred5150 | 

mais c’est tellement évident….

avatar Bounty23 | 

Vous êtes affligeant à ne pas comprendre ce système qui pourtant est clair, simple et transparent.

Le bon sens ne se telecharge pas sur le cloud vous pourriez faire des efforts pour en trouver quelque part…

avatar vince29 | 

pas sûr que ce soit aussi simple que tu sembles le croire.

avatar Derw | 

@Bounty23

Ce discours était crédible quand il n’y avait que de pauvre geeks à pester dans les forums. Maintenant que des journalistes, ou mieux, des enseignants de Berkeley, Cambridge ou Harvard s’inquiètent, il faudrait peut-être commencer à se poser des questions…

avatar occam | 

@Derw

"Ce discours était crédible quand il n’y avait que de pauvre geeks à pester dans les forums."

Hélas, non, ce discours n’a jamais tenu la route. Pas une seconde.
Il suffit d’un minimum d’analyse du flux opératoire annoncé pour voir que, même si tout fonctionnait à merveille, exactement comme promis par Apple (or, est-ce jamais le cas ?), les problèmes rédhibitoires se situeraient en amont, et qu’Apple ne serait pas en position d’y faire face, même en le voulant sincèrement (ce dont on peut douter, mais c’est un autre procès).

Et ce ne furent nullement quelques geeks libertaires esseulés à sonner l’alarme, mais, d’emblée, des gens dont l’expertise était justement de prévenir et déceler des failles systémiques.
Mais ce n’est guère ce que des fans aiment lire.
Comme le note Jean-François Kahn au sujet d’organes de presse forcés d’entretenir les préjugés de leurs abonnés,
« le faux plébiscité par les lecteurs prendra toujours l’avantage sur le vrai qui le défrise. »

avatar Derw | 

@occam

Mon intervention se voulait euphémique…

Dans les 1er échanges sur ces forums (sortis un peu précocement il est vrai), les soutiens de la solution d’Apple avaient, entre-autre cet argument : ce ne sont que des inquiétudes de geeks éloignés de la sainte vérité, ils ont tord et de toute façon, Apple s’en fout. A ce moment-là, il était difficile de contre-argumenter sur ce point précis de la légitimité des plaignants, vu que les « sachants » ne s’étaient pas encore exprimés ou que leurs propos n’avaient pas encore remonté jusqu’à nous…

Mais les choses ont changé depuis.

Même s’il faut se méfier du biais d’autorité, on commence à avoir des réactions diverses qui permettent de se forger une opinion autrement qu’en acceptant sans réfléchir le discours d’Apple ou en s’appuyant sur l’émotionnel lié à ce sujet de la pédopornographie…

avatar webHAL1 | 

@Derw :
« Même s’il faut se méfier du biais d’autorité, on commence à avoir des réactions diverses qui permettent de se forger une opinion autrement qu’en acceptant sans réfléchir le discours d’Apple ou en s’appuyant sur l’émotionnel lié à ce sujet de la pédopornographie… ​»

Fort heureusement, ces réactions diverses ont commencé dès l'annonce par Apple de ce mécanisme de surveillance en local, ce n'est pas uniquement maintenant qu'elles apparaissent.
Cette lettre ouverte par exemple a été publiée très rapidement :
https://appleprivacyletter.com/

C'est une excellente chose que des journalistes s'emparent désormais du sujet et alertent l'opinion sur les dangers de l'approche choisie par Apple.

avatar webHAL1 | 

@occam :
« Mais ce n’est guère ce que des fans aiment lire. »

En effet. Il suffit de voir les commentaires des articles traitant de ce sujet pour voir les inconditionnels de la marque tenter bien maladroitement de défendre ce mécanisme de surveillance prévu par Apple en diminuant son importance, en le justifiant à l'aide d'arguments profondément nauséabonds et en sous-entendant que ses détracteurs pourraient avoir bien des choses à se reprocher, en cherchant à le mettre en parallèle à ce que font d'autres sociétés et en ignorant sciemment les différences, en dédouanant la Pomme et en rejetant la faute sur ceux qui l'exploiteront, etc.

Jean-François Kahn ne se trompe clairement pas.

avatar cecemf | 

Tout est dans le titres “des journalistes…”! Ce système existe depuis de années chez Microsoft, google, Facebook…. Est Apple sort une version plus privée de confidentialité que les autres. Est ils s’inquiète d’Apple mes pas de Facebook et Google LOL

avatar marenostrum | 

sauf que les autres n'ont pas accès dans ton appareil. tu dois les mettre chez eux tes photos tout seul. là les gens ont peur de ne plus avoir des photos privées dans leur appareil par peur d'être espionnés. les journalistes encore plus. eux peuvent avoir les même photos que la base, pour faire leur boulot tout simplement.

Pages

CONNEXION UTILISATEUR