Apple repousse ses mesures controversées de lutte contre la pédopornographie
Les mesures d'Apple de lutte contre la pédopornographie qui devaient être intégrées à iOS d'ici la fin de l'année aux États-Unis sont repoussées à plus tard. Présentées au cœur de l'été, ces mesures ont immédiatement suscité de nombreuses critiques en matière de confidentialité et de sécurité.
Dans un bref communiqué envoyé à la presse et sur son site web, Apple annonce que « compte tenu des retours des clients, des groupes de défense des droits, des chercheurs et d'autres personnes, nous avons décidé de prendre du temps supplémentaire dans les mois à venir pour recueillir des commentaires et apporter des améliorations avant de lancer ces fonctionnalités de protection des enfants d'une importance cruciale. »
Les trois fonctionnalités sont donc reportées à une date indéterminée. L'une consiste à prévenir un enfant utilisateur de Messages qu'un contenu partagé est potentiellement sensible, une autre à enrichir Siri de liens pour rapporter des cas d'exploitation sexuelle de mineurs, et la dernière, la plus polémique, à repérer dans la bibliothèque iCloud des utilisateurs des images pédopornographiques. Les experts en sécurité et défenseurs des libertés s'inquiètent notamment que ce système puisse être utilisé pour surveiller d'autres contenus, par exemple à la demande d'États autoritaires.
Craig Federighi avait reconnu mi-août qu'Apple avait mal communiqué sur le sujet : « Au niveau de la compréhension des choses, c'est clair que beaucoup de messages se sont assez mal mélangés. […] Avec le recul, l'annonce de ces deux fonctions en même temps [la protection dans Messages et la reconnaissance de photos] allait effectivement créer de la confusion. » Pour autant, le responsable de l'ingénierie logicielle ne comptait pas revenir sur ces mesures. « Nous, qui nous considérons comme des leaders de la confidentialité, nous pensons que ce que nous faisons ici est à la pointe du progrès », déclarait-il alors.
Finalement, la pression de la communauté et des médias aura eu raison d'un lancement réalisé sans concertation. Une décision logique pour que l'image de « leader de la confidentialité » ne soit pas plus écornée. Cette décision fait néanmoins des mécontents. Un cadre de la NSPCC, une association britannique de protection de l'enfance, estime que l'ajournement est « incroyablement décevant ». Selon lui, Apple avait adopté « une approche proportionnée ». Reste à voir si l'entreprise va glisser discrètement ce projet sous le tapis ou si elle va retenter sa chance avec plus de tact, mais parvenir à un consensus sur la reconnaissance des photos s'annonce très compliqué.
@YetOneOtherGit
Vous avez oubliez :
- Une part conséquente des populations qui accepte pleinement le contrôle exercé par des intérêts privés pour des enjeux de sécurité et de contrôle
@byte_order
"- Une part conséquente des populations qui accepte pleinement le contrôle exercé par des intérêts privés pour des enjeux de sécurité et de contrôle"
La délégation de contrôle à des acteurs privés voir l’obligation de contrôle est un fait courant et banal depuis très longtemps.
Le semblant d’argument est absolument spécieux: ce n’est nullement Apple ici qui choisis quels sont les imagines répréhensibles par la loi.
Ton banquier a l’obligation de remonter aux autorités les mouvements suspects sur ton compte, c’est exactement du même acabit.
Apple ne se substitute nullement aux autorités pour définir ce qui est délictueux mais aurait été comme bien des entreprises le relais de l’exercice du monopole de la violence légitime des états.
Et je ne serais pas surpris que des dispositifs du type de celui proposé par Apple soit bientôt des obligations légales qui ne connaîtront qu’une opposition marginales et seront adoptées.
Wait & See 😋
Ça fait depuis plus d'un an que l'on sait que Apple scan les photos envoyées sur icloud, comme tous les autres services de cloud, c'est une obligation aux usa... Donc c'est quoi le problème ?
@Adodane
local vs distant.
@oomu
Oui maintenant ils veulent le faire directement en local.
Mais l'article n'est pas clair et parle de stockage icloud (à moins qu'il est été écrit par le stagiaire)
@Adodane
> Donc c'est quoi le problème ?
Ils le font chez *toi* vs chez *eux*.
Il est intéressant de remarquer que ce recul est le signe évident de la vacuité des enjeux.
Sur quoi d’importants les activistes de la vie privée ont-ils eu gain de cause ces dernières années ?
- Le patriot act ? non
- le cloud act ? non
- la valorisation de la vie privée par les entreprise ? non
- la démultiplication des systèmes de vidéosurveillance et leur automatisation par le ML ? non
- la mise en œuvre des approches big-data et du profiling par les états et les entreprises ? non
…
Il n’y a que des victoires symboliques sans réel conséquences sur l’évolution d’enjeux pourtant réels.
Et nous étions ici typiquement sur un point de fixation ridicule tenant de la surcompensation, une victoire sans intérêt réel qui ne change strictement rien à la donne face à une technologie aux bénéfices extrêmement limités quand bien même il eu été détourné de son objectif premier.
@YetOneOtherGit
"Il est intéressant de remarquer que ce recul est le signe évident de la vacuité des enjeux"
Sur quoi d’importants les activistes de la vie privée ont-ils eu gain de cause ces dernières années ?"
excellente remarque. très pertinent. A méditer.
-
" une victoire sans intérêt réel qui ne change strictement rien à la donne face à une technologie aux bénéfices extrêmement limités quand bien même il eu été détourné de son objectif premier."
moins convaincu ici.
Je ne comprends pas pourquoi vous considérez cela comme "extrêmement limités".
Votre premier paragraphe a un argument solide :
"vacuité" parce que: liste de trucs qui ont pas été bloqué malgré de GROS hurlements . effectivement, on l'a vu, on peut le vérifier.
On peut effectivement juger cet argument, se poser la question de la différence.
-
mais le second paragraphe, et son "extrèment limité", non là je vois pas. Vous affirmez.
ben j'affirme que c'est:
1: l'intérêt n'est pas "limité" , certainement pas "extrêmement"
2: détourner de son objectif premier est facile
3: aucune raison que cela ne devienne pas un outil de contrôle politique à priori.
-
(instant provoc . L'argumentation par la provoc c'est le MAL, mais cela va être explicite sur comment je vois les choses: )
D'ailleurs, je pense qu'il est grands temps que les routeurs et "box" internet commencent à comparer des "empreintes de paquets réseaux" avec le trafic local et internet des consomma..utilisa..heu citoyen pour détecter des usages litigieux.
Les techniques de "hash", c'est pas que des "documents". Le traitement local, par des IA ou autre, n'a aucune raison de s'arrêter.
Si on peut, on fera.
Si c'est disponible, ça sera utilisé
etc.
Vous ne pouvez pas soigner l'Angoisse.
@oomu
"mais le second paragraphe, et son "extrèment limité", non là je vois pas. Vous affirmez."
Tu as raison c’est une facilité biaisé avec cette outrance reposant sur une vision personnelle discutable des conséquences éventuelles d’un détournement de l’approche d’Apple 😉
@YetOneOtherGit
ben vi, outrance que perso je comprends.
@oomu
"ben vi, outrance que perso je comprends."
Là je parlais de mon outrance 🤣
Avec le « extrêmement limité » 🖖🥲
@oomu
"2: détourner de son objectif premier est facile
3: aucune raison que cela ne devienne pas un outil de contrôle politique à priori."
C’est là où nous divergeons : le bénéfice d’un système de détection de fichiers en local à partir d’un corpus de documents cibles me semble assez ridicule au regard de tous ce que peut aujourd’hui connaître un état à partir de l’activité en ligne d’une personne.
Si la fonction première d’un smartphone était de servir de coffre fort numérique, je partagerai tes inquiétudes.
Mais la fonction première d’un smartphone étant d’échanger des données sur un réseau…
Cette fonction ouvre bien plus de potentiel de contrôle que la détection de fichiers ciblés en local.
@YetOneOtherGit
"Si la fonction première d’un smartphone était de servir de coffre fort numérique, je partagerai tes inquiétudes."
c'est pourtant typiquement des solutions vendus en entreprise.
Samsung elle même a une telle offre.
@oomu
"c'est pourtant typiquement des solutions vendus en entreprise."
L’articulation de mon propos manquerait de clarté 🤨
A quoi bon s’emmerder à savoir si une copie d’un document déterminé figure dans un coffre fort quand l’activité en ligne permet dans connaître bien plus sur l’individu ?
@YetOneOtherGit
> Mais la fonction première d’un smartphone étant d’échanger des données sur un réseau…
Non, la fonction première d'un smartphone est d'être un ordinateur ultra mobile.
La mobilité n'implique nullement d'échanger forcément toutes vos données sur un réseau.
La fonction "appareil photo", par exemple, au coeur du sujet, n'implique nullement qu'on va forcément vouloir les partager sur un réseau. On peut parfaitement s'en servir juste comme un appareil photo numérique : garder les fichiers photos (ou vidéos désormais) juste pour soit ou pour sa famille, personne d'autres.
Tout le monde ne partage pas sa vie sur Internet, hein.
Si un contrôle doit avoir lieu, c'est au coeur des réseaux, justement, car là on est sûr qu'il s'agit de partage et donc qu'il y a l'intention. Le contrôle au coeur du terminal se fait chez autrui.
Dans un pays de droit, cela se fait avec un mandat ou dans les conditions encadrées par la loi, surement pas juste parce que le constructeur privé de votre maison / voiture / smartphone se permet d'accéder chez vous comme si il était encore chez lui.
@byte_order
"Non, la fonction première d'un smartphone est d'être un ordinateur ultra mobile."
C’est ça la connectivité est accessoire 🤣🤣🤣🤣🤣
@byte_order
"Dans un pays de droit, cela se fait avec un mandat ou dans les conditions encadrées par la loi, surement pas juste parce que le constructeur privé de votre maison / voiture / smartphone se permet d'accéder chez vous comme si il était encore chez lui."
On en reparlera, je crois bien 😀
@byte_order :
C'est l'évidence même. Très bien formulé, je suis 100% d'accord.
@YetOneOtherGit
"Mais la fonction première d’un smartphone étant d’échanger des données sur un réseau…"
Qui es-tu pour décider de la fonction première de mon téléphone ?
La fonction première de mon téléphone est d’être une extension infaillible de ma mémoire. J’y range toutes les informations essentielles que je ne dois pas oublier et dont, conséquemment, je n’ai pas à me rappeler au risque, donc, d’oublier.
Mon téléphone est une extension de ma tête. La loi protège le contenu de ma tête. J’entends bien qu’un jour aussi proche que possible la loi protège aussi absolument le contenu de mon extension de mémoire comme s’il s’agissait de ma tête. Car il s’agit bel et bien, dans ma vie active, d’un morceau essentiel de ma tête.
Oui, sa fonction première est un coffre-fort d’infos personnelles.
@fte
"Qui es-tu pour décider de la fonction première de mon téléphone ?"
Les statistiques des usages, l’individu seul ça n’existe pas 😉
Avec tout le respect que j’ai pour toi, tes usages, tes pratiques, tes désirs… n’ont aucune importance sur des enjeux de ce type.
C’est des enjeux de société et le risque évoqué du détournement de l’approche d’Apple et pour moi spécieux pour peu qu’on l’observe pragmatiquement et non sous l’angle du dogme 😉
@YetOneOtherGit
"Les statistiques des usages"
Je serais intéressé à tes sources, parce que je ne suis absolument pas convaincu que l’échange de données soit majoritaire. En fait, je sais de source sûre que la consommation de données est considérablement plus importante que le partage, pas du tout dans le même ordre de magnitude, et que la quantité de données créée dépasse également largement la quantité partagée, également pas dans le même ordre de magnitude, en tout cas en Suisse, mais c’est peut-être qu’on est un peu lent dans ce pays (stats de trafic national de Switch).
@fte
"Je serais intéressé à tes sources, parce que je ne suis absolument pas convaincu que l’échange de données soit majoritaire"
Tu entends quoi par échange de données ? 🤔
Pour douter comme tu le fais nous ne devons pas parler de la même chose 😉
Quand je parle d’échange de données je parle de tous les trafics d’informations nécessitant une connexion.
@YetOneOtherGit
"Quand je parle d’échange de données je parle de tous les trafics d’informations nécessitant une connexion."
Ah ouai. Bon en fait tu parles de toute l’informatique sans distinction aucune. L’usage principal de l’informatique est en effet l’informatique. Et un smartphone, bah c’est de l’informatique aussi. Yup. Le scoop. 😂
Plus sérieusement, du coup, j’ai rien compris à ce que tu disais, et je ne vois une fois n’est pas coutume aucune connection avec le message auquel tu répondais.
@fte
"Bon en fait tu parles de toute l’informatique sans distinction aucune"
A bon l’interconection est consubstantielle à l’informatique 😳😳🤯🤯
@fte
"Plus sérieusement, du coup, j’ai rien compris à ce que tu disais, et je ne vois une fois n’est pas coutume aucune connection avec le message auquel tu répondais."
On est dans une impasse et c’est frustrant pour une fois de ne pas être d’accord sur nos désaccords 😂😉🖖
@fte
"En fait, je sais de source sûre que la consommation de données est considérablement plus importante que le partage, pas du tout dans le même ordre de magnitude, et que la quantité de données créée dépasse également largement la quantité partagée, également pas dans le même ordre de magnitude, en tout cas en Suisse, mais c’est peut-être qu’on est un peu lent dans ce pays (stats de trafic national de Switch)."
C’est bien ça on ne parle pas du tout de la même chose, ce qui me rassure sur ta réaction 🖖
@fte
Pour essayer de reformuler mon propos les trafic entrants et sortants passant par des réseaux et des serveurs sont une source d’analyse et de contrôle infiniment plus riche et efficace qu’une éventuelle détection en local de la présence de fichiers appartenant à un corpus prédéfini de cibles.
Ça te semble plus clair ?
Nos désaccords me dérange pas, mais j’aime que nous soyons d’accord sur nos sources de désaccord 😁
@YetOneOtherGit
"Ça te semble plus clair ?"
Non.
Je ne vois pas de connection entre une supposée fonction première (ou secondaire), avancer qu’un smartphone est au fond un ordinateur comme les autres - c’est comme ça que je le comprends en tout cas - et l’efficacité du capitalisme de la surveillance.
@fte
"en tout cas en Suisse"
Qui a pour moi une belle carte à jouer sur le Cloud au passage et les enjeux de confidentialité malgré ça : La Confédération a choisi cinq géants d'internet pour se fournir en services cloud: quatre américains (Amazon, IBM, Microsoft et Oracle) et le chinois Alibaba. Montant total du contrat: 110 millions de francs. 😉
Juste un clin d’œil sur une décision qui m’a surprise 😎
@YetOneOtherGit
"La Confédération a choisi cinq géants"
M’en parle pas, mes dieux que c’est imbécile. D’ordinaire, je suis mezzo positif par rapport aux actions du CF, là je suis en dessous de mezzo négatif.
@YetOneOtherGit
"en tout cas en Suisse"
Qui a pour moi une belle carte à jouer sur le Cloud au passage et les enjeux de confidentialité malgré ça : La Confédération a choisi cinq géants d'internet pour se fournir en services cloud: quatre américains (Amazon, IBM, Microsoft et Oracle) et le chinois Alibaba. Montant total du contrat: 110 millions de francs. 😉
C’est affligeant en effets. Nous avons de sacrés hurluberlu ici qui prennent des décisions complètement imbécile sur des sujet sensibles. De plus investir ces 110 Mio dans nos entreprises cloud les aurait développées, un beau gâchis j’ose espérer qu’ils changent d’avis…
@YetOneOtherGit |
"C’est là où nous divergeons : le bénéfice d’un système de détection de fichiers en local à partir d’un corpus de documents cibles me semble assez ridicule au regard de tous ce que peut aujourd’hui connaître un état à partir de l’activité en ligne d’une personne."
Oui et non.
Une loi est une chose proposée, débattue, votée, et souvent mise en place après différentes modif du texte d'origine.
Elle est encadrée et offre certaines protections pour les personnes accusés de l'enfreindre.
Il est bon de rappeler qu'un accusé n’est pas un coupable.
Apple n’est pas un représentant de la loi ou un législateur juridique.
Pourtant, elle essaye de faire passer quelque chose influant fortement sur le juridique et le judiciaire tout en annihilant la protection des utilisateurs devant le juridique et le judiciaire puisque ce n'en est pas.
L’émergence des réseaux sociaux a été le rêve éveillé de tous les services de renseignement/espionnages de la planète !
Jamais, même dans leurs fantasmes les plus fous, ils n’auraient pu envisager qu'autant de gens diffuseraient autant d'infos sur eux ...
Ces infos "offertes" gracieusement sont même surement aujourd’hui plus nombreuse que ce que bien des mandats/autorisations judiciaire auraient permis d'obtenir il y a encore 10 ans ...
Mais ça, ça relève de la responsabilité de chacun de se protéger un minimum.
Il ne faut pas non plus oublier la portée symbolique d'une violation de la vie privée tel que celle dont serait responsable la méthode d'Apple.
Ce dont il est question ici, c'est de symboliquement rentrer dans votre monde numérique, chez vous.
Et vu toutes les infos que l'on peut stocker/utiliser sur un tél, la portée de cette intrusion peut être perçu comme étant gigantesque.
@oomu
"D'ailleurs, je pense qu'il est grands temps que les routeurs et "box" internet commencent à comparer des "empreintes de paquets réseaux" avec le trafic local et internet des consomma..utilisa..heu citoyen pour détecter des usages litigieux."
Pourquoi le faire sur la boxe ?
Au niveau du FAI y a des choses sympa à faire.
Et certains payent même un man in the middle qu’ils appellent VPN 🤣🤣😉
@YetOneOtherGit
"Il n’y a que des victoires symboliques sans réel conséquences sur l’évolution d’enjeux pourtant réels."
Toujours cette même erreur : « le Vatican, combien de divisions ? »
Toujours cette méprise sur l’importance des victoires symboliques : verba docent, exempla trahunt, savaient les Romains déjà à l’époque de Caius Titus. Les mots enseignent ; les exemples emportent dans leur sillage.
Francesco Guicciardini, homme d’état florentin, ami, interprète, commentateur et souvent contradicteur du Machiavel, notait dans ses Considérations sur les Discours du Machiavel au sujet de la surestimation, par ce dernier, de la seule importance du rapport de forces tangible sur le champ de bataille, au détriment du poids de la motivation et de la force de conviction idéologique des parties en présence :
« Vous devrez donc être le plus prudent possible en vous engageant dans une nouvelle entreprise, car une fois qu’on s’y engage, on est forcé de poursuivre. Ainsi se fait-il que les hommes s’y embourbent, alors que s’ils avaient supputé les difficultés du terrain sur lequel ils s’entraînaient, ils s’en seraient éloignés à mille lieues en courant. Mais une fois enlisés, il n’est plus dans leur pouvoir de se replier : avançant, ils exposent leurs failles ; rebroussant chemin, ils révèlent leur indécision. »
Et Guicciardini de reprendre ce thème dans un autre chapitre :
rien n’est plus désavantageux que de combattre ceux qui n’ont rien à perdre, car ils n’ont pas à tenir compte de leurs revers, et tout succès est tenu pour le présage d’une prochaine victoire, tout aussi improbable que ne le fut la précédente.
@occam
"Toujours cette même erreur : « le Vatican, combien de divisions ? »"
C’est la base non ? 😉
@occam
"Toujours cette méprise sur l’importance des victoires symboliques"
Non, de certaines victoires symboliques.
Il est évidemment des victoires symboliques essentielles, mais toutes les victoires symboliques ne sont pas essentielles.
@occam
"Francesco Guicciardini, homme d’état florentin, ami, interprète, commentateur et souvent contradicteur du Machiavel"
Il faudrait vraiment que je finisse par le lire 🙏
https://media3.giphy.com/media/ckYUJXVl7YWftj4gZR/giphy.gif?cid=5e214886...
wow.
-
ce qui serait "proportionné", c'est de rendre _tout_ cet aspect de iOs/icloud/client icloud en code ouvert (pas nécessairement libre hein, ni même pas du tout) avec engagement au près des Etats que c'est bien ce code là, et pas une modif par derrière.
d'ailleurs, un pan du code source des infrastructures publiques ET d'outils commerciaux massivement utilisés, devraient être en code ouvert, audité par les Etats et mis à disposition du public.
On parle de confiance, de société de la transparence ?
Là vous en aurez.
Là vous anéantirez la peur et il ne restera que les irrationnels qui refusent de lire les études académiques, les publications scientifiques et brevets pharm..oups je m'égare ;)
Chacun son métier, point barre, Apple n’a rien à foutre dans la lutte contre les pedophiles (même si l’intention est louable), c’est aux états de faire leurs taffs, CQFD.
@nhtud948
l'industrie informatique (et paiement) est sommé, exigé, ordonné, sous pression, hurlé dessus, de répondre à cette sommation non débattable.
c'est la réalité et c'est ce qui va se faire.
@oomu
"l'industrie informatique (et paiement) est sommé, exigé, ordonné, sous pression, hurlé dessus, de répondre à cette sommation non débattable.
c'est la réalité et c'est ce qui va se faire."
C’est un aspect que beaucoup ne veulent pas voir tout comme le fait que les lobby défendant la condition de l’enfance ont un pouvoir de dénonciation médiatique incroyablement plus conséquents que les lobby défendant les libertés individuelles 😎
🚫 Ce commentaire a été automatiquement supprimé de votre téléphone par Apple car il contenait des photos jugées inappropriées. La nouvelle intelligence artificielle intégrée à iGeneration a déterminé que vous ne devriez pas être exposé(e) à ce genre de contenu.
Ils ont ouvert une boîte de Pandore qu'ils auront bien du mal à refermer...
Là ils renoncent (temporairement)... mais si demain un gouvernement leur imposent de mettre en place cette surveillance de tous les utilisateurs du Pays (selon les mêmes principes que ce que prévoyait Apple), ils ne pourront avancer aucun argument, pas plus technique qu'éthique, pour s'y opposer.
Hors Sujet
Je viens de commander un mac et je viens de m'apercevoir que la période de retour est de 15 jours maintenant au lieu de 10. Vous étiez au courant ?
Faire peur aux pedophiles, c'est bien, mais faire peur aux actionnaires, ca non!
Ce qui est incroyable c’est de voir a quel point la technologie permet de tenter de repousser des limites que personne ne penserait à franchir en réel.
On en est quand même à l’idée de contrôler en permanence ce qui se trouve sur un téléphone personnel, sans le moindre soupçon préalable.
Remplacez « sur votre téléphone personnel » par « dans votre maison » : ce serait juste inconcevable, inimaginable.
Comme si le technologie ne répondait pas à la même éthique et à la même morale que le reste.
La question n’est elle pas jusqu’où les gafa iront en terme d empiètement sur le territoire de l’état ? La cause est noble mais est ce bien aux entreprises quel que soit leur taille ou réputation de developer des moyens d’espionnage de ses clients? Quelle limite quelle garantie quel contrôle. Aujourd’hui cette cause (évidemment essentielle) mais demain quelle autre. Et c’est ainsi qu’on aboutira à terme une belle société de surveillance totale. Nice
ça s'impose tout seul le pouvoir, par les moyens et l'argent. les rois avaient ces moyens, la république plus tard et maintenant seules les grandes entreprises ont ces moyens. l'état (qui ne fait que s'endetter) ne sert plus à rien, sauf corrompre les fonctionnaires. les grandes entreprises n'en ont plus besoin des états. c'est logique.
la classe derrière l'argent qu'on appelle Elite, veut prendre le pouvoir sans intermédiaire.
@marenostrum
"ça s'impose tout seul le pouvoir, par les moyens et l'argent. les rois avaient ces moyens, la république plus tard et maintenant seules les grandes entreprises ont ces moyens. l'état (qui ne fait que s'endetter)"
Les billevesées néo-conspirationiste de ton cancer de l’esprit.
Dans le flot de bêtises relevant on juste une qui pourrait être intéressante pour les lecteur.
L’endettement des états est une constante de l’histoire, les périodes de non endettement étant l’exception et non la règle.
Plus encore sous l’ancien régime où les niveau d’endettement des rois étaient stratosphériques
Pages