90 associations internationales demandent l'abandon du système d'analyse de photos d'Apple
Un nouveau front hostile à la méthode choisie par Apple dans la lutte contre la pédopornographie s'est ouvert. 91 associations civiles de plusieurs continents demandent à Tim Cook d'abandonner ce projet dans sa forme actuelle.
Les signataires, réunis sous la bannière du Center for Democracy & Technology, réclament urgemment à Apple de remiser ce système de détection de photographies pédophiles. Il sera intégré à iOS cet automne, d'abord aux États-Unis, et il fonctionnera automatiquement dès lors qu'on a activé iCloud Photos.
Si l'intention est louable reconnaissent ces associations qui œuvrent pour la défense de différents droits, la méthode choisie risque d'ouvrir la porte à une surveillance beaucoup plus large et néfaste :
Nous sommes inquiets d'une utilisation qui censurerait la liberté d'expression, menacerait la vie privée et la sécurité de personnes à travers le monde et qui aurait des conséquences désastreuses pour de nombreux enfants.
Apple s'est défendue de proposer un système qui puisse être appliqué à la recherche d'autres types d'images que celles pour lesquelles il a été conçu. Des garde-fous techniques ont été prévus. Elle a également assuré qu'elle s'opposerait à toute demande de subversion de son mécanisme qui ne fonctionne qu'avec une base de référence d'images bien particulières.
Allemagne : des journalistes et des politiques inquiets du système d'analyse de photos d'Apple 🆕
Mais qu'en sera-t-il si la requête des autorités ou d'un gouvernement s'inscrit dans la loi, demandent ces associations. Apple ayant pour habitude de répondre qu'elle se conforme strictement aux lois des pays où elle est implantée, quelle sera alors sa ligne rouge ? C'est une éventualité sur laquelle la Pomme est restée muette :
Une fois que cette capacité est intégrée dans les produits Apple, l'entreprise et ses concurrents devront affronter une énorme pression — et potentiellement des exigences légales — des gouvernements du monde entier pour numériser des photos non seulement pour le CSAM [la base de référence des images de pédophiles, ndr], mais aussi pour d'autres images qu'un gouvernement juge inacceptables.
Apple l'assure, les gouvernements ne pourront pas abuser du nouveau mécanisme de lutte contre la pédopornographie
Ces exigences pourraient aller jusqu'au scan permanent des photos stockées sur l'iPhone et pas uniquement si la fonction de synchronisation iCloud Photos a été activée (le système est inopérant si cette fonction n'est pas utilisée ou lorsqu'on se contente d'une sauvegarde iCloud simple de ses photos).
En intégrant cette faculté d'analyse dans son système mobile, Apple ouvre potentiellement une boite de Pandore redoutent les signataires.
Le floutage dans Messages inquiète aussi
L'autre pan du projet d'Apple, relatif à la détection de photographies sexuellement explicites reçues dans Messages, n'échappe pas à la critique de ces associations qui en réclament pareillement le retrait.
Dans Messages, après activation de la future fonction depuis les réglages du partage familial, les photos reçues ou envoyées sur l'appareil iOS d'un enfant enregistré au sein d'un partage familial sont analysées en local et floutées en cas de présence d'éléments considérés comme explicites par l'algorithme.
Les parents seront prévenus par une notification de la présence de cette photo dans une conversation sur l'appareil de leur enfant. Cette alerte vaut uniquement pour les enfants de moins de 12 ans (c'est une option à activer) ; il n'y aura pas de notification pour les enfants de 13 à 17 ans.
Lutte contre la pédopornographie : Apple tente d'éteindre l'incendie avec une FAQ 🆕
Là aussi les conséquences pourraient être négatives, expliquent les associations. Il y a d'abord chez elles une méfiance vis-à-vis de la fiabilité de ce type d'algorithmes qui pourrait mélanger des images répréhensibles avec des visuels éducatifs, des œuvres d'art, des informations de santé ou d'autres contenus parfaitement innocents.
Au-delà de ça, elles considèrent que le fait pour les parents d'être automatiquement prévenus pourrait faire plus de mal que de bien dans certains cas de figure. Apple part du principe que le(s) parent(s) et l'enfant ont une relation saine et basée sur la tolérance, ce qui est évidemment loin d'être systématique :
Un adulte violent peut être l'administrateur du compte, et les conséquences de la notification parentale pourraient menacer la sécurité et le bien-être de l'enfant. Les jeunes LGBTQ+ enregistrés sur des comptes familiaux avec des parents abusifs se retrouvent particulièrement à risque.
Non seulement la garantie de confidentialité des échanges n'existe plus mais là-encore des gouvernements pourraient vouloir qu'Apple aménage son système pour leurs besoins de surveillance.
Les signataires de cette lettre réclament le retrait de ces deux fonctions des projets d'Apple et l'invitent à consulter davantage les organisations et communautés en première ligne sur ces sujets.
Ces 91 associations viennent d'horizons géographiques aussi variés que le Brésil et l'Inde (deux pays où WhatsApp par exemple, très populaire, ferraille régulièrement face aux autorités pour préserver son droit au chiffrage de bout en bout). Certaines sont du Royaume-Uni, d'Allemagne, du Canada, des États-Unis, du Népal, d'Afrique, d'Australie, du Pakistan, du Pérou, de Belgique, du Japon, du Mexique, etc. Un très large arc international qui ajoute sa voix aux inquiétudes à l'égard de cette initiative d'Apple.
Allemagne : des journalistes et des politiques inquiets du système d'analyse de photos d'Apple 🆕
@pilipe
la realité c'est que google, microsoft and co pratiquent des trucs comparables, à distance et dans l'indifférence generale.
mais comme c'est apple, là c'est la bronca mondiale… alors qu'en prime le boulot sera fait en local sans envoyer de donneés pour chercher au loin.
@raoolito :
« la realité c'est que google, microsoft and co pratiquent des trucs comparables, à distance et dans l'indifférence generale. »
À distance ? Donc ce n'est justement absolument pas comparable, et ça fait toute la différence avec l'approche choisie par Apple, qui représente un risque majeure pour la vie privée.
@Krysten2001 :
« Vous aimez plus la solution de Microsoft qui est plus intrusive ? »
En quoi la solution de Microsoft est-elle plus intrusive ?
Ah, deux neurones, qui dit mieux ?
“ 91 associations”
C’est toujours facile d’accumuler ce type d’association, connaître le poids réel qu’elles représentent c’est une autre histoire. 😄
C’est un inventaire de Prévert avec tout et n’importe quoi.
Et au passage on trouve aussi des soutiens du côté des associations de lutte contre la pedo-criminalité.
Bref nous sommes dans de l’agit-prop banal ne voulant pas dire grand chose où chacun joue son rôle.
Curieux de voir ce qu’il sortira de ce jeu de rôle 😎
Le petit Craig est demandé à l'accueil avec son extincteur.
Il n’y a que les coupables pour se plaindre, merci Apple, je suis pas pédophile donc j’approuve
@ClownWorld 🤡
Donnez moi les clés de chez vous, car vous n’avez rien à cacher. Comme ça on viendra chaque jour fouiller votre appart voir s’il n’y a rien d’illégal.
@pilipe
"Donnez moi les clés de chez vous, car vous n’avez rien à cacher. Comme ça on viendra chaque jour fouiller votre appart voir s’il n’y a rien d’illégal."
Tu donnes les clefs de chez toi a Apple? T’es plutot open dis donc 🤣 On laisse juste Apple comparer le hash de nos photos. Nan, y a aucune difference 🤡
#Arretons les comparaisons foireuses dans les commentaires 🙄
@Paquito06
"#Arretons les comparaisons foireuses dans les commentaires 🙄"
« Comparaison n’est pas raison »
Voltaire
Ce n’est pas jeune mais ce principe de base ne semble pas avoir touché beaucoup de commentateurs.
Ils se vautrent avec délectation dans les comparaison oiseuse 🤢
@kaiman
Économie de ressources serveur. L’analyse utilise les ressources des téléphones. Ça c’est plutôt pas con.
Le problème c’est vraiment que les lois des pays prévalent sur l’éthique de l’entreprise Apple dont il n’est pas lieu de douter jusqu’ici.
Ex: si Viktor Orban parvient à criminaliser et pénaliser l’homosexualité en Hongrie comme il le souhaite, il pourra exiger d’Apple de plein droit d’utiliser l’algorithme afin d’identifier et d’arrêter tous les coupables aux yeux de sa loi.
CQFD
ils peuvent rien exiger parce que Apple n'est pas une société hongroise. c'est un ex nul.
@bigVince
L’économie, merci je n’y avais pas pensé. Et personne ne l’avais évoqué.
Mais c’est une bien mauvaise solution surtout de Apple et bien maladroit au regard de la réputation sur la privacy dont ils veulent ce prévaloir.
Mais je vois bien un ingénieur qui pond cette idée pour régler le problème de la surcharge des serveurs dû au scan des photothèques…
Tout en étant bien conscient que Apple ou Microsoft peuvent faire ce qu’ils veulent sur leur OS. Cela brise la confiance des utilisateurs qui avaient choisi Apple pour ce sentir un peut moins espionnés. Ceux pour qui Facebook et compagnie on toujours été rigoureusement évités.
Mais c’est claire que cela ne changera pas grand choses aux résultats trimestriels..
Donc à la place on propose quoi ?
Une backdoor pour les services de police comme sur Windows ?
J’imagine qu’Apple a mis cette solution en place sous pression des autorités.
Si ce n’est pas cette méthode, qui est à mon humble avis la moins pire des solutions, ça sera forcément quelque chose de plus invasif à la place.
On aime bien taper sur Apple parce que ça fait vendre mais je préfère de loin ce système à celui de Google, Facebook, Microsoft et autres
« Apple s'est défendue de proposer un système qui puisse être appliqué à la recherche d'autres types d'images que celles pour lesquelles il a été conçu »
————
Le problème étant que, dans le même temps, cette même société affirme (et applique sur le champ) qu’elle se conforme aux lois de chaque pays où elle opère en tordant ses propres soient-disantes convictions.
Apple n’est donc pas crédible dans ses agissements.
@MarcMame
"Le problème étant que, dans le même temps, cette même société affirme (et applique sur le champ) qu’elle se conforme aux lois de chaque pays où elle opère en tordant ses propres soient-disantes convictions. "
Le bénéfice pour des régimes d’un accès à ces technologies par rapport à l’arsenal dont ils disposent déjà est absolument ridicule.
On fait mousser un faux pb symbolique sans grand intérêt qui ne change pratiquement strictement rien à la donne sur ces enjeux.
91 associations sur plusieurs centaines de millions 😂😂😂
Quelle camouflet !
En terme de défense de la condition humaine, il y aurait bien plus à faire sur l’atroce publicité des condamnations pour délit sexuel (plus où moins grave) qui font de la vie de personne ayant purgée leur peine un véritable enfer les conduisant parfois aux dernières extrémités.
Mais ça c’est moins vendeur que la défense chimérique d’une vie privée à laquelle l’approche d’Apple ne change strictement rien.
@YetOneOtherGit
« .. qui font de la vie de personne ayant purgée leur peine un véritable enfer »
Ces personnes au terme de leur peine se sont acquittées d’une dette juridique.
La dette morale et sociale est beaucoup beaucoup plus longue à payer.
@jazz678
"La dette morale et sociale est beaucoup beaucoup plus longue à payer."
Nous sommes aux USA en présence de sites exposants publiquement les peine de son voisinage, tu imagines les conséquences.
@YetOneOtherGit
""La dette morale et sociale est beaucoup beaucoup plus longue à payer."
Nous sommes aux USA en présence de sites exposants publiquement les peine de son voisinage, tu imagines les conséquences."
Je dirais meme plus,
https://www.nsopw.gov/
😝
@Paquito06
"Je dirais meme plus,"
Nous disons la même chose 🥺
@YetOneOtherGit
« Nous sommes aux USA en présence de sites exposants publiquement les peine de son voisinage, tu imagines les conséquences. »
Conséquences de la dette sociale et morale. La vindicte publique est encore plus impitoyable. L’impact peut se ressentir de génération en génération et c’est plus là qu’est le drame.
Si cette technologie passe et est effectivement intégrée à iOS cet automne, il est clair qu'une ligne sera franchie après laquelle toute initiative similaire sera acceptée dans le silence ou, tout au plus, quelques protestations se feront entendre ; sans réussir néanmoins à faire changer d'avis les corporations ou les gouvernements ...
@xfce
Si elle passe beaucoup cesseront d’acheter du apple. En tout cas c’est mon cas.
Oui mais quelle alternative ? Microsoft ? Pas sûr que leur "politique" de respect de la vie privée soit meilleure.
Distribution Linux ? Oui, mais on perds énormément en ergonomie.
Encore une fois c'est un bon exemple que les discours marketing pompeux soutenus à coups de réclames tombent comme un château de cartes.
@pilipe
"Si elle passe beaucoup cesseront d’acheter du apple"
Pure fantasme 😃
y a que le manque du pain qui fera beaucoup de monde à réagir, rien d'autre. et Apple le sait, sinon elle n'aurait jamais pris cette initiative.
le seul vecteur d'expansion inépuisable sont les jeunes. je pense que Apple veut assurer les parents d'équiper leurs enfants avec des appareils Apple dès leur plus jeune âge, et ne pas acheter des smartphones pas chers de marques concurrentes (ce qui se passe en ce moment). cette mesure sera vue (par Apple. ils vont je pense faire la pub la dessus) comme un pas de plus vers la sécurité absolue de leur écosystème qui désormais protège non seulement les documents ou les données privées contre le ciblage publicitaire mais aussi la vie des gens les plus fragiles.
@marenostrum
“y a que le manque du pain qui fera beaucoup de monde à réagir”
Tout de même..
Tu es francophone, enfin, censé l’être ?
@Bigdidou
« Tu es francophone, enfin, censé l’être ? »
Je penche plus pour quelqu’un qui s’est créé ce personnage et qui s’en amuse.
C’est pas possible autrement tellement c’est caricatural et surjoué sur la forme et sur le fond
@jazz678
“Je penche plus pour quelqu’un qui s’est créé ce personnage et qui s’en amuse. “
Oui, je suis d’accord avec cette hypothèse. Je le pense depuis un moment : c’est trop discordant.
Je me suis même sérieusement posé la question d’une sorte d’expérience sociologique…
@Bigdidou
Ou alors « il est juste c…. » comme dirait Léodagan 😄
@jazz678
“Ou alors « il est juste c…. » comme dirait Léodagan 😄”
Oui, mais il est en train de changer radicalement de façon très suspecte.
Il est beaucoup plus pertinent sur le fond (sans qu’on y adhère forcément), la forme change, il devient beaucoup plus agressif et cette agressivité est teintée d’une ironie très sophistiquée.
Je pense vraiment que c’est un troll de compétition, mais c’est peut-être à côté de la plaque…
il faut se métier de la clarté d'esprit parce que souvent la mort est proche.
Ça pue de plus en plus à Cupertino...
@pagaupa
"Ça pue de plus en plus à Cupertino..."
Moins que dans le nuage de tes flatulences et de tes éructations rances 🤢🤮
Est-ce que cette base de données peut être hackée pour ajouter des photos qui n'ont rien à voir.
J'attend de voir les détournements futus si c'est étendu à d'autres pays comme la Russie ou la Chine.
Très bien dit.
Apple s'arroge des droits de police et de justice et n'a aucune légitimité pour cela de même qu'elle impose des critères totalement arbitraires et opaques qui ne correspondent qu'aux obsessions de ses dirigeants.
Il y a en a qui n'arrivent pas à voir plus loin que le doigt qui montre la lune... Quand on ne veut pas comprendre, il n'y a rien à faire. Le problème n'est pas de lutter contre les images pédophiles qui sont bien entendu une abomination, le problème est que pour ce faire Apple va scanner nos photos, sur NOS devices. Cette technologie peut être comparé à une backdoor, et le but peut en être modifié par certains pays pour rechercher d'autres types de photos... C'est incomparable avec les services comme Facebook, Insta, Flickr et compagnie, qui scannent ce que vous CHOISISSEZ de leur envoyer... Ne pas comprendre le problème est de la malhonnêteté intellectuelle.?? Ce faisant, venant d'Apple qui s'est auto proclamée, à renfort de campagne de communication massive, champion de la vie privée, c'est le comble ! « Il faut 20 ans pour construire une réputation, quelques minutes pour la détruire..." Si certains ici défendent mordicus Apple, personnellement, cette histoire a anéanti ma confiance en eux sur le sujet de la vie privée : futurs achats envisagés annulés, grosse réflexion, recherche de téléphones sans Google et Apple (et c’est la qu’on voit qu’on est soit mangé par l’un ou par l’autre ), Linux envisagé ou c'est possible. Je savais au fond de moi que faire confiance à Apple comme je le faisais était un doux confort quelque peu paresseux... Hélas, la réalité vient nous tirer de ce rêve californien. Non seulement Apple sape ma confiance vis-à-vis de la vie privée, mais si ce système voit effectivement le jour, je serai moralement et éthiquement obligé de me passer d’iphone… Apple me prive donc de ses téléphones que j’adore… je suis bien en colère…
@starsk :
Par rapport à votre "quand on ne veut pas comprendre, il n'y a rien à faire", il faut garder à l'esprit que beaucoup de commentateurs ici sont des inconditionnels d'Apple, et qu'ils ne sont absolument pas objectif par rapport à cette marque. Ce ne sont pas de simples usagers des produits qu'elle vend, mais des personnes pour qui Apple représente le "bien", là où Google, Microsoft, Facebook ou Samsung symbolisent le "mal".
D'ailleurs, si ce mécanisme de surveillance avait été annoncé par une de ces sociétés, les réactions de ces personnes seraient totalement différentes. Je suis même prêt à parier que si cela était venu d'une proposition d'un gouvernement, les réactions auraient été beaucoup plus négatives.
Donc on ne peut pas forcément parler de malhonnêteté intellectuelle. Pour beaucoup ici la "foi" prend de loin le pas sur l'esprit critique.
@webHAL1
"Donc on ne peut pas forcément parler de malhonnêteté intellectuelle. Pour beaucoup ici la "foi" prend de loin le pas sur l'esprit critique."
Code de lecture si pratique et facile.
Quand je met en perspective les réalités du business d’Intel, de MS, d’IBM, d’EPIc devant des caricatures imbéciles du business de certains, c’est par adhésion à Apple ?
Ta propension à juger au regard de tes goûts et dégoûts n’est heureusement pas universelle.
Et pour finir : le business d’Apple ne risque rien sur cette tempête dans un verre d’eau, là n’est pas l’enjeu.
@webHAL1
« il faut garder à l'esprit que beaucoup de commentateurs ici sont des inconditionnels d'Apple, et qu'ils ne sont absolument pas objectif par rapport à cette marque »
Par opposition ne pas être un inconditionnel (étonné que tu n’utilises pas le terme « fanboy » pour plus de facilité) n’est pas plus un gage d’objectivité
"Quand on ne veut pas comprendre, il n'y a rien à faire."
toi non plus t'as rien compris, tu répètes ce que ici a été dit par beaucoup d'autres et sans comprendre où consiste le cœur du problème.
si Apple voulait faire une backdoor pourquoi l'annoncer ? le code de son système est fermé, ils peuvent faire ce qui veulent. (l'appareil est déjà relié avec eux, ils peuvent installer et désinstaller dedans ce qui veulent, depuis le premier iPhone. n'importe quel appareil de nos jours, même une ampoule connectée, est relié avec le serveur de son fabricant, bref la porte est déjà en place)
la seule chose qu'on peut discuter ici, et où se cache la vraie raison de cette opération, est pourquoi Apple prend toute seule l'initiative, qu'est ce qu'elle gagne ?
@starsk
Moi, ce qui m’amuse, c’est les pédants qui croient que dans dix ans la parole de Tim Cook pèsera plus que deux cacahuètes face à une exigence légale d’accroître le périmètre de surveillance.
Pire : les techno-pontifiants qui regarde cet algorithme précis et ne comprenne pas qu’Apple peut en un clic basculer sur l’analyse IA de toute leur bibliothèque, ce qu’ils font d’ailleurs déjà sur iCloud.
C’est pour ça qu’il faut jamais laisser les ingénieurs faire de la politique :-D
(Parole d’ingénieur :-)))
@hugome :
« Moi, ce qui m’amuse, c’est les pédants qui croient que dans dix ans la parole de Tim Cook pèsera plus que deux cacahuètes face à une exigence légale d’accroître le périmètre de surveillance. »
Entièrement d'accord. Mais bon, pour les inconditionnels de la Pomme, impossible d'imaginer que l'objet de leur adulation puisse faire la moindre erreur, ou croire qu'Apple ne pense qu'à ses propres intérêts et pas aux leurs.
Beaucoup ici ne veulent pas se rendre compte qu'Apple a ouvert la boîte de Pandore en choisissant un mécanisme fonctionnant en local, et présent sur l'intégralité des iPhone tournant avec iOS 15 (version qui sera rapidement incontournable). Ils n'auraient aucun mal à l'accepter si ça avait été un autre fabricant. Mais non, pas Apple. Impossible dans leur conception du monde.
@webHAL1
"Entièrement d'accord. Mais bon, pour les inconditionnels de la Pomme, impossible d'imaginer que l'objet de leur adulation puisse faire la moindre erreur, ou croire qu'Apple ne pense qu'à ses propres intérêts et pas aux leurs."
Ton tropisme idiot te permettant de croire comprendre les point de vue au regard d’une fantasmatique allégeance à Apple 🙄🙄🙄🙄🙄
@hugome
"Moi, ce qui m’amuse, c’est les pédants qui croient que dans dix ans la parole de Tim Cook pèsera plus que deux cacahuètes face à une exigence légale d’accroître le périmètre de surveillance. "
Ce n’est pas un enjeux de confiance en Apple mais de bénéfice pour la surveillance de la population d’un système extrêmement limité de détection de fichiers parmi un corpus de cibles.
Rien à voir avec de la confiance, juste du pragmatisme 😎
@hugome
"Pire : les techno-pontifiants qui regarde cet algorithme précis et ne comprenne pas qu’Apple peut en un clic basculer sur l’analyse IA de toute leur bibliothèque, ce qu’ils font d’ailleurs déjà sur iCloud. "
Ça c’est absolument idiot ce n’est pas l’annonce publique d’Apple qui change quoi que ce soit au fait qu’un fournisseur d’OS ou de service puisse décider de faire procéder ainsi et de le mettre au service des états.
Pages