Protection de l'enfance : Bruxelles prévoit d'imposer la détection de photos pédopornographiques dans les messageries

Stéphane Moussie |

La Commission européenne est sur le point de présenter un projet de lutte contre les abus sexuels d'enfants en ligne. Parmi les mesures de la proposition de règlement figure l'obligation de détection de photos pédopornographiques dans les messageries.

Les technologies employées pour cette détection devront être « efficaces », « suffisamment fiables » et « les moins intrusives possibles » afin qu'elles ne « puissent extraire aucune autre information », est-il écrit dans l'ébauche du règlement déjà consulté par Euractiv. Une nouvelle agence européenne dédiée à la protection de l'enfance en ligne serait établie à cette occasion. Elle servirait d'intermédiaire entre les autorités nationales et les éditeurs de messageries.

Cette nouvelle obligation ne remettrait pas en cause le chiffrement de bout en bout, considéré comme « un outil important pour garantir la sécurité et la confidentialité des utilisateurs, y compris celles des enfants. » Néanmoins, ce projet de détection de photos pédopornographiques inquiète les défenseurs des libertés individuelles, comme l'association Bits of Freedom, qui estime qu'il « n'aidera pas les enfants et nuira aux innocents citoyens. »

Le texte est porté par la commissaire européenne Ylva Johansson. Dans un billet de blog publié en début d'année, elle se félicitait d'avoir rencontré les « gros acteurs » du numérique, dont Apple, Google, Meta et Microsoft, pour échanger autour des moyens de protéger les enfants sur internet. « Après ces discussions, je suis plus convaincue que jamais qu'une législation européenne est nécessaire de toute urgence pour détecter, signaler et supprimer les photos d'abus sexuels d'enfants en ligne », déclarait-elle.

Dans plusieurs pays anglophones, Apple a déjà intégré dans son application Messages une fonction de protection de l'enfance. Optionnelle, cette fonction qui doit être activée par les parents analyse en local les photos envoyées et reçues par l'enfant afin de déterminer si des photos sexuellement explicites sont échangées. Si c'est le cas, les photos sont automatiquement floutées et l'enfant est encouragé à contacter un adulte de confiance. Cette analyse ne concerne pas uniquement les photos pédopornographiques, elle englobe toutes les photos à caractère sexuel.

Apple avait envisagé un second système de détection d'images pédopornographiques portant sur la photothèque iCloud des utilisateurs. Devant la levée de boucliers des experts en sécurité et des défenseurs des libertés individuelles, Apple a reporté sine die ce système.

Le projet de règlement européen sera présenté aujourd'hui à 12 h par Ylva Johansson. Il devra suivre le parcours législatif habituel avant d'entrer en vigueur.

Protection de l

Protection de l'enfance : aperçu de la fonction de floutage des photos sexuellement explicites dans Messages


avatar clem1074 | 

Et un jour vous verrez, sous couvert du « bien » les messages anti UE ou anti gouvernements seront eux aussi classés suspects.

avatar Kounkountchek | 

@clem1074

Est ce à dire que tu es contre cette mesure ?

avatar clem1074 | 

@Kounkountchek

À 100%, je suis contre toute mesure qui porte atteinte au respect de la vie privée 👍🏻
C’est une belle façade avec un beau prétexte pour de l’espionnage de masse. Les vrais dégénérés qui sont soit disant ciblés trouveront, eux toujours des solutions pour continuer ce qu’ils font.

avatar raoolito | 

@clem1074

toute photo à caractere sexuel qui arrive sur la messagerie d'un de mes gamins empiete mon respect pour leur protection.
elle est au-dessus de votre propre vie privée.
que cela soit clair

avatar clem1074 | 

@raoolito

J’ai eu mon premier iPhone à 14 ans, et mes parents m’ont toujours appris à ne pas discuter avec n’importe qui, ni n’importe où. Bizarrement je n’ai jamais eu de soucis.

avatar raoolito | 

@clem1074

j'ai suivi l'actualité du cinema pendant 40ans, et etonnament ce n'est que recemment que #metoo a montré combien les c'etait rempli de queutards sans vergogne.
Et pas que des petites mains derriere les machines, naan, des grands realisateurs, producteurs, acteurs..
Je ne parlerais pas aussi ici de poivre d'Arvor mais bon...

ne jamais appliquer les situations 10ans plus tot à la periode actuelle. Et ce ne sont pas les 3 dernieres années qui peuvent dementir cela n'est-ce pas?
Mettons nous d'accord que le monde a changé et qu'à de nouveaux defis nous devons appliquer de nouvelles regles. Parmi lesquelles revoir notre balance entre liberté à la vie privée (snowden est arrivé ya une dizaine d'année aussi) et liberté de chacun tout court.
non ?

avatar clem1074 | 

@raoolito

Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond.

Pour autant il est hors de question pour moi que quiconque puisse voir ce que j’écris ou les photos que j’envoie à ma femme à mon insu par exemple.
Espérant que Signal ne soit pas banni👍🏻

avatar raoolito | 

@clem1074

"Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond. "
+100

"il est hors de question pour moi que quiconque puisse voir ce que j’écris ou les photos que j’envoie à ma femme à mon insu par exemple."
on parle ici d'un processus automatique et en local, pas d'intrusion exterieure, sauf si certaines photos matchent avec des clichés connus echangés par des pedophiles.
Je pense sérieusement que la vie privée n'est pas en danger si on s'en tient à ce cadre là (evidement les petits smartphones à 10 balles ce serait une autre histoire)

avatar pilipe | 

@raoolito

C’est la première pierre à l’édifice. Qui vous dis qu’inaptes ils n’ajouteront pas des filtres en plus. Une fois lancé, on ne les arrêtera plus. Donc autant dire non maintenant. Rien n’excuse d’exploiter sur la liberté. Rien du tout.

avatar raoolito | 

@pilipe

nous ne seront pas d'accord j'en ai peur. de mon point de vue, toutes ces "libertés" que certains prétendent avoir perdu ( du non port de la ceinture au pass sanitaire...) ne l'ont ete que pour nous permettre de vivre mieux tous avec nos vraies libertés fondamentales ( ne pas mourir pour les exemples cités, ne pas risquer de grave traumatisme psycho pour le sujet)
il est probable sue l'on vivait trop dans un monde bisounours ou on croyait tout acquis, désormais nous sommes plus sophistiqués partout.

avatar JOHN³ | 

@raoolito

Évidemment si c’est apple c’est différent c’est ça ?

avatar Bigdidou | 

@JOHN³

« Évidemment si c’est apple c’est différent c’est ça ? »

Il faut te mettre dans le crâne qu’Apple détient et dicte le Bien et finit par l’imposer.
D’ailleurs, elle l’a breveté.
Bon courage pour faire le Bien sans avoir d’emmerdes.

avatar Chris K | 

@clem1074

Heuuu personne ne regardera tes photos en fait. Il n’est pas du tout question de ça.

avatar Bigdidou | 

@clem1074

"Pourtant c’est simplement que la parole s’est libérée, c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond."

Pas probablement ;)
Et c'est bien moins banal qu'au XIXe, par exemple...

avatar DahuLArthropode | 

@clem1074

"c’est probablement depuis toujours qu’il existe ce genre de personnage nauséabond"

Tout à fait. Mais la technologie leur donne de nouveaux moyens de nuire et l’évolution des pratiques fait que les enfants y ont facilement accès. Aurélies, les gosses ne pouvaient pas acheter Hustler chez le marchand de journaux, ni entrer dans un Sex Shop, et ne se baladaient pas la nuit dans les allées du Bois de Boulogne.
Les vieux prédateurs ont de nouveaux outils et de nouvelles opportunités, cela exige de nouvelles mesures pour faire appliquer les mêmes lois et les mêmes principes.

avatar JOHN³ | 

@raoolito

Non.

avatar Insomnia | 

@clem1074

Tu n’es pas tout le monde non plus 😒 chaque enfant est différent, j’ai pas l’impression que tu es d’enfant 🤔

avatar Yoshi_1 | 

@raoolito

+1000

D’autant que l’intelligence artificielle aujourd’hui permet largement de faire ça sans passer par des serveurs, tout en préservant la confidentialité.

avatar pilipe | 

@raoolito

Elle n’est aucunement au dessus de notre vie privé. Ne prenait pas vos rêves pour des réalités. Si vous donnez un téléphone a votre enfant, à vous de l’éduquer afin qu’il ne fasse pas de conneries. On ne va pas payer pour vos pots cassé dans l’éducation de vos enfants.

avatar raoolito | 

@pilipe

vous ne payez pas les peaux cassées, vous participez à la sécurité globale des enfants contre les predateurs sexuels
a vous de brandir sans honte votre droit a la vie privée sous pretexte que c'est facilement a cause des parents et pas a cause d'un montre qui abuse de votre crédulité

avatar Sindanárië | 

@raoolito

"vous ne payez pas les peaux cassées, "

Mais quelle misère ! 🤣🙄

avatar Derw | 

@Sindanárië

Moi, à mon âge, je commence à avoir la peau cassée…

avatar Insomnia | 

@raoolito

Je confirme, certes c’est intrusif mais au vu de ce que je vois régulièrement c’est pas plus mal.

avatar Bigdidou | 

@Insomnia

"Je confirme, certes c’est intrusif mais au vu de ce que je vois régulièrement"

Tu vois régulièrement des images pedopornographiques ?

Faut un peu chercher, quand même....

avatar ruru75020 | 

@Bigdidou

Suffit d’ouvrir Twitter… on tombe sur des choses à partir du moment où on désactive le « Safe Search »
Vous seriez surpris du nombre d’ados qui se mettent en scène sans imaginer une seconde la gravité de leur acte. Et comment leur reprocher, les adultes le font sur Twitter en permanence. Et je parle même pas de Snap ou d’autres.

avatar Bigdidou | 

@ruru75020

"Suffit d’ouvrir Twitter… on tombe sur des choses à partir du moment où on désactive le « Safe Search » "

J'ai vu des trucs degueux sur Twitter, mais de la pedopornographie, non..

Par ailleurs,, de ce que j’ai lu et compris de ce projet (que j’étais certain de voir ici avec des focus tres personnel’s…) tel qu’il est repris dans les publications du chamois médico-social, c’est qu’il vise évidemment la pédocriminalité , pas les échanges entre pairs qui relèvent du champ éducatif et de la réduction des risques et qu’il me paraît difficile de qualifier de pedopornographie.
Parfois de la justice, mais dans un autre contexte (harcèlement, diffusion non consenties d’images, etc..).

Peut être d’ailleurs que ce sera l’occasion de mieux qualifier les choses, je trouve que ça reste compliqué, dans la mesure où la pornographie n’est a ce jour toujours pas définie de façon univoque, un comble !

avatar Insomnia | 

@Bigdidou

Pas ce genre de chose non, je me suis mal exprimé, mais mon fils a été harcelé et une surveillance n’est pas un mauvais choix et ça devrait pas rester sur ce genre de chose mais évoluer sur d’autres surveillance plus poussé. mon fils a été harcelé plus jeune et je suis pour la surveillance.

avatar Bigdidou | 

@Insomnia

« mais mon fils a été harcelé « 

Ah oui, ça n’est pas du tout le sujet ici, mais c’est un problème énorme.
Désolé pour ton fils, sincèrement.
Ma fille a vécu ça aussi, entre autre (et ça n’est hélas pas le plus grave de ce qui lui est arrivé), avec une diffusion de photos…

De mon point de vue, c’est un problème probablement plus prioritaire que celui de la News, car il fait des dégâts aussi terrifiants et qu’il est devenu beaucoup plus fréquent, presque banal, hélas.

avatar Insomnia | 

@Bigdidou

Pour la part aussi ça devrait être paquet complet au lieu d’une seule chose quitte à développer une IA qui surveillera les photos autant qu’elle fasse un peu plus et pour nos enfants malheureusement même en leur apprenant les règles cela peut arriver le mien n’a pas eu besoin de réseau sociaux ou smartphone pour l’être malheureusement, il faut aussi travailler ça de manière général.

avatar Bigdidou | 

@Insomnia

Oui, après, tu sais, au fond il n’y a pas tant de nouvelles pratiques que ça.
Les choses sont surtout amplifiées par la puissance de diffusion des réseaux sociaux.
Le harcèlement scolaire a toujours existé, le touche pipi aussi etc…

avatar Insomnia | 

@Bigdidou

Quand tu vois la télé-réalité ça fait peur pour la suite 🥲🥲🥲

avatar IceWizard | 

@Insomnia

« mon fils a été harcelé plus jeune et je suis pour la surveillance. »

Le terme harcèlement est très flou, et recouvre des choses bien différentes : harcèlement scolaire par des petites brutes, harcèlement sexuel, harcèlement sous forme d’insultes ou d’insinuations sur les réseaux sociaux et les forums, etc ..

avatar Bigdidou | 

@IceWizard

« harcèlement scolaire par des petites brutes, harcèlement sexuel, harcèlement sous forme d’insultes ou d’insinuations sur les réseaux sociaux et les forums, etc .. »

Ces choses se recouvrent et ne s’excluent pas.
Il est à l’évidence question ici de harcèlement sur les réseaux d’un ado, probablement dans un contexte scolaire, en tout cas par des pairs.

Et c’est effectivement un énorme problème.

avatar Insomnia | 

@IceWizard

Justement utilise se terme permettrait peut être de mieux cadrer ce genre de dérive et permettra de limiter la casse tout en le faisant en classe car il reste aussi le harcèlement direct.

avatar ya2nick | 

@raoolito

👍

avatar JOHN³ | 

@raoolito

En quoi ton inquiétude pour tes gamins devrait avoir un impact sur nos vies privées au juste ?

avatar Chris K | 

@clem1074

C’est ce que j’ai écris concernant l’efficacité d’une telle mesure. Ceci dit en y réfléchissant un peu, le maillon le plus faible de la chaîne peut permettre de remonter toute la file. Un peu comme pour les traffic de drogues : on attrape un petit pour choper les gros poissons.

avatar JePiCol | 

@clem1074

Exactement. Pour pouvoir détecter de tel contenu il faut de 1 pouvoir regarder ce que contient la messagerie et y faire une comparaison.
C’est déjà donner trop pouvoir au big tech et a des politiques corrompus. La tentation sera trop grande pour ne pas utiliser ce principe étendu à des mesures toujours liberticides pour le contrôle de la population sous couvert de combat incontestables comme la pedocriminalite ou le terrorisme.
Hors ce n’est pas comme ça qu’on y lutte.
Si la photo a déjà été prise alors le crime a déjà été commise.
Les photos peuvent s’échanger aussi entre personnes qui enquête et combattent le crime à titre privé.
Et de toute façon les criminels trouve toujours un moyen de contourner et seul les peuples reculent sur les principes de libertés pour lesquels leur grand-parents ou arrière grand-parents ou au delà de sont battus et donner leur vie pour que nous puissions en bénéficier.
Les reseaux criminels sont connu. Pas besoin de regarder dans la messagerie de monsieur et madame tout le monde. (((Ils))) veulent abolir la vie privée. « Vous ne possèderez rien et vous serez heureux » Forum Économique Mondial

avatar R-APPLE-R | 

Voilà qui va bien arranger Apple

avatar reborn | 

Elles sont où ces photos de pédopornographie dont on nous parle tant ?? J’en ai jamais croisé c’est si répandu que ça ? 🤔

avatar raoolito | 

@reborn

helas, il faut etre sur les messagerie ou ya des jeunes, souvent par chat privés etc..
il y a en a oui, beaucoup. Certains s'en amusent, d'autres en souffre.

avatar Chris K | 

@reborn

Je pense pas que Google référence des sites avec de telles photos donc évidement qu’on en voit pas. Ça ne veut pas dire que ça n’existe pas (des gens ont bien été condamnés pour possession de telles photos, elles viennent bien de quelque part).

Au delà de ça, c’est l’exposition même dans enfants sur les réseaux sociaux qui est un problème à mon avis. Très malsain. La chaîne YouTube « le roi des rats » en parle, c’est flippant. Et visiblement personne ne bouge (Tik Tok, Instagram…)

avatar Lestat1886 | 

@reborn

Heureusement que tu n’en a jamais croisé non?!

avatar reborn | 

@Lestat1886

je dis pas le contraire

avatar Chris K | 

Je suis plutôt pour mais je m’interroge sur l’efficacité d’une telle mesure. Je soupçonne les criminels d’utiliser des messageries ou autre moyens de communications numériques qui passeront au travers des filets.

avatar adrien1987 | 

Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél.

avatar marthy | 

@adrien1987

La castration empêchera de prendre des photos ou vidéos ? Non.

Un moyen plus radical sera la meilleure solution

avatar Bigdidou | 

@adrien1987

"Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél."

Et voilà, ça commence...
Pedocriminels, pas pédophiles.
Imposer une obligation de soin, leur nature ne relève pas de la justice.
Et enfin, castration chimique.

avatar Sindanárië | 

@adrien1987

"Si l'Europe veut lutter efficacement contre les pédophiles elle ferait mieux d'imposer la castration aux gens reconnus comme tél."

Si on pouvait rajouter dans le package tous les excités guerriers comme toi pour être sûr qu’ils ne se reproduisent pas 👍🏼

avatar fousfous | 

Merci Apple d'avoir ouvert la boîte de Pandore...
Surtout qu'on imagine que le système ne va pas détecter que les images pedophiles.

Pages

CONNEXION UTILISATEUR