Protection de l'enfance : Bruxelles prévoit d'imposer la détection de photos pédopornographiques dans les messageries
La Commission européenne est sur le point de présenter un projet de lutte contre les abus sexuels d'enfants en ligne. Parmi les mesures de la proposition de règlement figure l'obligation de détection de photos pédopornographiques dans les messageries.
Les technologies employées pour cette détection devront être « efficaces », « suffisamment fiables » et « les moins intrusives possibles » afin qu'elles ne « puissent extraire aucune autre information », est-il écrit dans l'ébauche du règlement déjà consulté par Euractiv. Une nouvelle agence européenne dédiée à la protection de l'enfance en ligne serait établie à cette occasion. Elle servirait d'intermédiaire entre les autorités nationales et les éditeurs de messageries.
Today I will present @EU_Commission proposals on preventing and combatting the sexual abuse + sexual exploitation of children.
— Ylva Johansson (@YlvaJohansson) May 11, 2022
This is one of the highest priorities of my mandate.
Watch press conf today
🔴 LIVE +/- 12h00 CET 👇 https://t.co/z5DDBmVdg8…#EUvsChildSexualAbuse pic.twitter.com/iVyu9OdmaN
Cette nouvelle obligation ne remettrait pas en cause le chiffrement de bout en bout, considéré comme « un outil important pour garantir la sécurité et la confidentialité des utilisateurs, y compris celles des enfants. » Néanmoins, ce projet de détection de photos pédopornographiques inquiète les défenseurs des libertés individuelles, comme l'association Bits of Freedom, qui estime qu'il « n'aidera pas les enfants et nuira aux innocents citoyens. »
Le texte est porté par la commissaire européenne Ylva Johansson. Dans un billet de blog publié en début d'année, elle se félicitait d'avoir rencontré les « gros acteurs » du numérique, dont Apple, Google, Meta et Microsoft, pour échanger autour des moyens de protéger les enfants sur internet. « Après ces discussions, je suis plus convaincue que jamais qu'une législation européenne est nécessaire de toute urgence pour détecter, signaler et supprimer les photos d'abus sexuels d'enfants en ligne », déclarait-elle.
Dans plusieurs pays anglophones, Apple a déjà intégré dans son application Messages une fonction de protection de l'enfance. Optionnelle, cette fonction qui doit être activée par les parents analyse en local les photos envoyées et reçues par l'enfant afin de déterminer si des photos sexuellement explicites sont échangées. Si c'est le cas, les photos sont automatiquement floutées et l'enfant est encouragé à contacter un adulte de confiance. Cette analyse ne concerne pas uniquement les photos pédopornographiques, elle englobe toutes les photos à caractère sexuel.
Apple avait envisagé un second système de détection d'images pédopornographiques portant sur la photothèque iCloud des utilisateurs. Devant la levée de boucliers des experts en sécurité et des défenseurs des libertés individuelles, Apple a reporté sine die ce système.
Le projet de règlement européen sera présenté aujourd'hui à 12 h par Ylva Johansson. Il devra suivre le parcours législatif habituel avant d'entrer en vigueur.
Protection de l'enfance : aperçu de la fonction de floutage des photos sexuellement explicites dans Messages
Et un jour vous verrez, sous couvert du « bien » les messages anti UE ou anti gouvernements seront eux aussi classés suspects.
@clem1074
Est ce à dire que tu es contre cette mesure ?
@Kounkountchek
À 100%, je suis contre toute mesure qui porte atteinte au respect de la vie privée 👍🏻
C’est une belle façade avec un beau prétexte pour de l’espionnage de masse. Les vrais dégénérés qui sont soit disant ciblés trouveront, eux toujours des solutions pour continuer ce qu’ils font.
@clem1074
toute photo à caractere sexuel qui arrive sur la messagerie d'un de mes gamins empiete mon respect pour leur protection.
elle est au-dessus de votre propre vie privée.
que cela soit clair
@raoolito
J’ai eu mon premier iPhone à 14 ans, et mes parents m’ont toujours appris à ne pas discuter avec n’importe qui, ni n’importe où. Bizarrement je n’ai jamais eu de soucis.
@clem1074
j'ai suivi l'actualité du cinema pendant 40ans, et etonnament ce n'est que recemment que #metoo a montré combien les c'etait rempli de queutards sans vergogne.
Et pas que des petites mains derriere les machines, naan, des grands realisateurs, producteurs, acteurs..
Je ne parlerais pas aussi ici de poivre d'Arvor mais bon...
ne jamais appliquer les situations 10ans plus tot à la periode actuelle. Et ce ne sont pas les 3 dernieres années qui peuvent dementir cela n'est-ce pas?
Mettons nous d'accord que le monde a changé et qu'à de nouveaux defis nous devons appliquer de nouvelles regles. Parmi lesquelles revoir notre balance entre liberté à la vie privée (snowden est arrivé ya une dizaine d'année aussi) et liberté de chacun tout court.
non ?
@raoolito
Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond.
Pour autant il est hors de question pour moi que quiconque puisse voir ce que j’écris ou les photos que j’envoie à ma femme à mon insu par exemple.
Espérant que Signal ne soit pas banni👍🏻
@clem1074
"Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond. "
+100
"il est hors de question pour moi que quiconque puisse voir ce que j’écris ou les photos que j’envoie à ma femme à mon insu par exemple."
on parle ici d'un processus automatique et en local, pas d'intrusion exterieure, sauf si certaines photos matchent avec des clichés connus echangés par des pedophiles.
Je pense sérieusement que la vie privée n'est pas en danger si on s'en tient à ce cadre là (evidement les petits smartphones à 10 balles ce serait une autre histoire)
@raoolito
C’est la première pierre à l’édifice. Qui vous dis qu’inaptes ils n’ajouteront pas des filtres en plus. Une fois lancé, on ne les arrêtera plus. Donc autant dire non maintenant. Rien n’excuse d’exploiter sur la liberté. Rien du tout.
@pilipe
nous ne seront pas d'accord j'en ai peur. de mon point de vue, toutes ces "libertés" que certains prétendent avoir perdu ( du non port de la ceinture au pass sanitaire...) ne l'ont ete que pour nous permettre de vivre mieux tous avec nos vraies libertés fondamentales ( ne pas mourir pour les exemples cités, ne pas risquer de grave traumatisme psycho pour le sujet)
il est probable sue l'on vivait trop dans un monde bisounours ou on croyait tout acquis, désormais nous sommes plus sophistiqués partout.
@raoolito
Évidemment si c’est apple c’est différent c’est ça ?
@JOHN³
« Évidemment si c’est apple c’est différent c’est ça ? »
Il faut te mettre dans le crâne qu’Apple détient et dicte le Bien et finit par l’imposer.
D’ailleurs, elle l’a breveté.
Bon courage pour faire le Bien sans avoir d’emmerdes.
@clem1074
Heuuu personne ne regardera tes photos en fait. Il n’est pas du tout question de ça.
@clem1074
"Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond."
Pas probablement ;)
Et c'est bien moins banal qu'au XIXe, par exemple...
@clem1074
"c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond"
Tout à fait. Mais la technologie leur donne de nouveaux moyens de nuire et l’évolution des pratiques fait que les enfants y ont facilement accès. Aurélies, les gosses ne pouvaient pas acheter Hustler chez le marchand de journaux, ni entrer dans un Sex Shop, et ne se baladaient pas la nuit dans les allées du Bois de Boulogne.
Les vieux prédateurs ont de nouveaux outils et de nouvelles opportunités, cela exige de nouvelles mesures pour faire appliquer les mêmes lois et les mêmes principes.
@raoolito
Non.
@clem1074
Tu n’es pas tout le monde non plus 😒 chaque enfant est différent, j’ai pas l’impression que tu es d’enfant 🤔
@raoolito
+1000
D’autant que l’intelligence artificielle aujourd’hui permet largement de faire ça sans passer par des serveurs, tout en préservant la confidentialité.
@raoolito
Elle n’est aucunement au dessus de notre vie privé. Ne prenait pas vos rêves pour des réalités. Si vous donnez un téléphone a votre enfant, à vous de l’éduquer afin qu’il ne fasse pas de conneries. On ne va pas payer pour vos pots cassé dans l’éducation de vos enfants.
@pilipe
vous ne payez pas les peaux cassées, vous participez à la sécurité globale des enfants contre les predateurs sexuels
a vous de brandir sans honte votre droit a la vie privée sous pretexte que c'est facilement a cause des parents et pas a cause d'un montre qui abuse de votre crédulité
@raoolito
"vous ne payez pas les peaux cassées, "
Mais quelle misère ! 🤣🙄
@Sindanárië
Moi, à mon âge, je commence à avoir la peau cassée…
@raoolito
Je confirme, certes c’est intrusif mais au vu de ce que je vois régulièrement c’est pas plus mal.
@Insomnia
"Je confirme, certes c’est intrusif mais au vu de ce que je vois régulièrement"
Tu vois régulièrement des images pedopornographiques ?
Faut un peu chercher, quand même....
@Bigdidou
Suffit d’ouvrir Twitter… on tombe sur des choses à partir du moment où on désactive le « Safe Search »
Vous seriez surpris du nombre d’ados qui se mettent en scène sans imaginer une seconde la gravité de leur acte. Et comment leur reprocher, les adultes le font sur Twitter en permanence. Et je parle même pas de Snap ou d’autres.
@ruru75020
"Suffit d’ouvrir Twitter… on tombe sur des choses à partir du moment où on désactive le « Safe Search » "
J'ai vu des trucs degueux sur Twitter, mais de la pedopornographie, non..
Par ailleurs,, de ce que j’ai lu et compris de ce projet (que j’étais certain de voir ici avec des focus tres personnel’s…) tel qu’il est repris dans les publications du chamois médico-social, c’est qu’il vise évidemment la pédocriminalité , pas les échanges entre pairs qui relèvent du champ éducatif et de la réduction des risques et qu’il me paraît difficile de qualifier de pedopornographie.
Parfois de la justice, mais dans un autre contexte (harcèlement, diffusion non consenties d’images, etc..).
Peut être d’ailleurs que ce sera l’occasion de mieux qualifier les choses, je trouve que ça reste compliqué, dans la mesure où la pornographie n’est a ce jour toujours pas définie de façon univoque, un comble !
@Bigdidou
Pas ce genre de chose non, je me suis mal exprimé, mais mon fils a été harcelé et une surveillance n’est pas un mauvais choix et ça devrait pas rester sur ce genre de chose mais évoluer sur d’autres surveillance plus poussé. mon fils a été harcelé plus jeune et je suis pour la surveillance.
@Insomnia
« mais mon fils a été harcelé «
Ah oui, ça n’est pas du tout le sujet ici, mais c’est un problème énorme.
Désolé pour ton fils, sincèrement.
Ma fille a vécu ça aussi, entre autre (et ça n’est hélas pas le plus grave de ce qui lui est arrivé), avec une diffusion de photos…
De mon point de vue, c’est un problème probablement plus prioritaire que celui de la News, car il fait des dégâts aussi terrifiants et qu’il est devenu beaucoup plus fréquent, presque banal, hélas.
@Bigdidou
Pour la part aussi ça devrait être paquet complet au lieu d’une seule chose quitte à développer une IA qui surveillera les photos autant qu’elle fasse un peu plus et pour nos enfants malheureusement même en leur apprenant les règles cela peut arriver le mien n’a pas eu besoin de réseau sociaux ou smartphone pour l’être malheureusement, il faut aussi travailler ça de manière général.
@Insomnia
Oui, après, tu sais, au fond il n’y a pas tant de nouvelles pratiques que ça.
Les choses sont surtout amplifiées par la puissance de diffusion des réseaux sociaux.
Le harcèlement scolaire a toujours existé, le touche pipi aussi etc…
@Bigdidou
Quand tu vois la télé-réalité ça fait peur pour la suite 🥲🥲🥲
@Insomnia
« mon fils a été harcelé plus jeune et je suis pour la surveillance. »
Le terme harcèlement est très flou, et recouvre des choses bien différentes : harcèlement scolaire par des petites brutes, harcèlement sexuel, harcèlement sous forme d’insultes ou d’insinuations sur les réseaux sociaux et les forums, etc ..
@IceWizard
« harcèlement scolaire par des petites brutes, harcèlement sexuel, harcèlement sous forme d’insultes ou d’insinuations sur les réseaux sociaux et les forums, etc .. »
Ces choses se recouvrent et ne s’excluent pas.
Il est à l’évidence question ici de harcèlement sur les réseaux d’un ado, probablement dans un contexte scolaire, en tout cas par des pairs.
Et c’est effectivement un énorme problème.
@IceWizard
Justement utilise se terme permettrait peut être de mieux cadrer ce genre de dérive et permettra de limiter la casse tout en le faisant en classe car il reste aussi le harcèlement direct.
@raoolito
👍
@raoolito
En quoi ton inquiétude pour tes gamins devrait avoir un impact sur nos vies privées au juste ?
@clem1074
C’est ce que j’ai écris concernant l’efficacité d’une telle mesure. Ceci dit en y réfléchissant un peu, le maillon le plus faible de la chaîne peut permettre de remonter toute la file. Un peu comme pour les traffic de drogues : on attrape un petit pour choper les gros poissons.
@clem1074
Exactement. Pour pouvoir détecter de tel contenu il faut de 1 pouvoir regarder ce que contient la messagerie et y faire une comparaison.
C’est déjà donner trop pouvoir au big tech et a des politiques corrompus. La tentation sera trop grande pour ne pas utiliser ce principe étendu à des mesures toujours liberticides pour le contrôle de la population sous couvert de combat incontestables comme la pedocriminalite ou le terrorisme.
Hors ce n’est pas comme ça qu’on y lutte.
Si la photo a déjà été prise alors le crime a déjà été commise.
Les photos peuvent s’échanger aussi entre personnes qui enquête et combattent le crime à titre privé.
Et de toute façon les criminels trouve toujours un moyen de contourner et seul les peuples reculent sur les principes de libertés pour lesquels leur grand-parents ou arrière grand-parents ou au delà de sont battus et donner leur vie pour que nous puissions en bénéficier.
Les reseaux criminels sont connu. Pas besoin de regarder dans la messagerie de monsieur et madame tout le monde. (((Ils))) veulent abolir la vie privée. « Vous ne possèderez rien et vous serez heureux » Forum Économique Mondial
Voilà qui va bien arranger Apple
Elles sont où ces photos de pédopornographie dont on nous parle tant ?? J’en ai jamais croisé c’est si répandu que ça ? 🤔
@reborn
helas, il faut etre sur les messagerie ou ya des jeunes, souvent par chat privés etc..
il y a en a oui, beaucoup. Certains s'en amusent, d'autres en souffre.
@reborn
Je pense pas que Google référence des sites avec de telles photos donc évidement qu’on en voit pas. Ça ne veut pas dire que ça n’existe pas (des gens ont bien été condamnés pour possession de telles photos, elles viennent bien de quelque part).
Au delà de ça, c’est l’exposition même dans enfants sur les réseaux sociaux qui est un problème à mon avis. Très malsain. La chaîne YouTube « le roi des rats » en parle, c’est flippant. Et visiblement personne ne bouge (Tik Tok, Instagram…)
@reborn
Heureusement que tu n’en a jamais croisé non?!
@Lestat1886
je dis pas le contraire
Je suis plutôt pour mais je m’interroge sur l’efficacité d’une telle mesure. Je soupçonne les criminels d’utiliser des messageries ou autre moyens de communications numériques qui passeront au travers des filets.
Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél.
@adrien1987
La castration empêchera de prendre des photos ou vidéos ? Non.
Un moyen plus radical sera la meilleure solution
@adrien1987
"Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél."
Et voilà, ça commence...
Pedocriminels, pas pédophiles.
Imposer une obligation de soin, leur nature ne relève pas de la justice.
Et enfin, castration chimique.
@adrien1987
"Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél."
Si on pouvait rajouter dans le package tous les excités guerriers comme toi pour être sûr qu’ils ne se reproduisent pas 👍🏼
Merci Apple d'avoir ouvert la boîte de Pandore...
Surtout qu'on imagine que le système ne va pas détecter que les images pedophiles.
Pages