Protection de l'enfance : Bruxelles prévoit d'imposer la détection de photos pédopornographiques dans les messageries
La Commission européenne est sur le point de présenter un projet de lutte contre les abus sexuels d'enfants en ligne. Parmi les mesures de la proposition de règlement figure l'obligation de détection de photos pédopornographiques dans les messageries.
Les technologies employées pour cette détection devront être « efficaces », « suffisamment fiables » et « les moins intrusives possibles » afin qu'elles ne « puissent extraire aucune autre information », est-il écrit dans l'ébauche du règlement déjà consulté par Euractiv. Une nouvelle agence européenne dédiée à la protection de l'enfance en ligne serait établie à cette occasion. Elle servirait d'intermédiaire entre les autorités nationales et les éditeurs de messageries.
Today I will present @EU_Commission proposals on preventing and combatting the sexual abuse + sexual exploitation of children.
— Ylva Johansson (@YlvaJohansson) May 11, 2022
This is one of the highest priorities of my mandate.
Watch press conf today
🔴 LIVE +/- 12h00 CET 👇 https://t.co/z5DDBmVdg8…#EUvsChildSexualAbuse pic.twitter.com/iVyu9OdmaN
Cette nouvelle obligation ne remettrait pas en cause le chiffrement de bout en bout, considéré comme « un outil important pour garantir la sécurité et la confidentialité des utilisateurs, y compris celles des enfants. » Néanmoins, ce projet de détection de photos pédopornographiques inquiète les défenseurs des libertés individuelles, comme l'association Bits of Freedom, qui estime qu'il « n'aidera pas les enfants et nuira aux innocents citoyens. »
Le texte est porté par la commissaire européenne Ylva Johansson. Dans un billet de blog publié en début d'année, elle se félicitait d'avoir rencontré les « gros acteurs » du numérique, dont Apple, Google, Meta et Microsoft, pour échanger autour des moyens de protéger les enfants sur internet. « Après ces discussions, je suis plus convaincue que jamais qu'une législation européenne est nécessaire de toute urgence pour détecter, signaler et supprimer les photos d'abus sexuels d'enfants en ligne », déclarait-elle.
Dans plusieurs pays anglophones, Apple a déjà intégré dans son application Messages une fonction de protection de l'enfance. Optionnelle, cette fonction qui doit être activée par les parents analyse en local les photos envoyées et reçues par l'enfant afin de déterminer si des photos sexuellement explicites sont échangées. Si c'est le cas, les photos sont automatiquement floutées et l'enfant est encouragé à contacter un adulte de confiance. Cette analyse ne concerne pas uniquement les photos pédopornographiques, elle englobe toutes les photos à caractère sexuel.
Apple avait envisagé un second système de détection d'images pédopornographiques portant sur la photothèque iCloud des utilisateurs. Devant la levée de boucliers des experts en sécurité et des défenseurs des libertés individuelles, Apple a reporté sine die ce système.
Le projet de règlement européen sera présenté aujourd'hui à 12 h par Ylva Johansson. Il devra suivre le parcours législatif habituel avant d'entrer en vigueur.
Protection de l'enfance : aperçu de la fonction de floutage des photos sexuellement explicites dans Messages
@fousfous
VOUS imaginez cela Fousfous, pas moi du tout.
@raoolito
Un peu de patience et le système sera forcément utilisé à d’autres fins. C’est une très mauvaise mesure ! Et forcément, la commission y plonge directement.
@Eyquem
pour l'utiliser à d'autres fins il faut que Apple s'y mette aussi
ca fait un peu paranoïaque non?
@raoolito
Sur demande de la commission, ils seraient forcés. J’espère être parano, mais on voit bien toutes les nouvelles mesures « pour notre bien » qui sortent de plus en plus… Pourquoi pas signaler les photos contenant des armes aussi ? Il y a peut-être des terroristes derrière, qui sait !
@Eyquem
la commission européenne est bien un des rares organismes qui ne fera pas cela en douce.
apres au niveau national il y aura aussi des gardes fou européens mais il est vrai que suivant les pays, on peut avoir des différences.
et si on sort de l'union alors là évidemment...
C’est un texte qui ne vise que les téléphones des mineurs? Cela concerne des photos de nus d’adultes ou d’enfants?
Parce que quand ma femme m’envoie des photos de mes enfants dans leur bain, je ne tiens pas à ce que mon tel décide les flouter…
Par contre je pense que toute mesure qui protège efficacement les enfants est justifiable.
Non c'est un texte qui vise à détecter ces photos dans toutes les messageries, pas uniquement lorsqu'elles sont adressées à des enfants (pour lesquels ce sont toutes les photos à caractères sexuels ou violentes qui seraient concernées, pas seulement celles à caractère pedophile).
Le lien avec la Protection de l'enfance, c'est que ceux à l'initiative du texte, espèrent ainsi identifier des pedocriminels en puissance.
@amonbophis
Dans le cas du système d’Apple ça se base sur une base de données tenu par une association dédiée (j’ai plus le nom), l’iPhone effectué une comparaison (les détails de la comparaison est décrite dans d’autres articles) et si ça match elle est flouté sur un iPhone dont le compte est enregistré comme mineur.
Si le système venait à être similaire, votre compte n’est pas mineur et la photo ne risque pas d’être enregistrée dans une base de donnée.
Vous pourrez continuer à recevoir les photos de votre femme.
Pas tout à fait... là vous mélangez 2 initiatives différentes d'Apple
Il y a eu l'idée de détecter toute photo pedocriminelle dans la photothèque de tous les iPhones en comparant chaque photo avec une base de données de photos pedopornographiques connues pour ensuite communiquer aux autorités l'identité du possesseur de ces photos dès lors qu'un nombre suffisant de ces photos a été identifié (plus de 30 photos je crois). Cette initiative a été abandonnée (pour l'instant... car ce projet de l'UE s'en rapproche beaucoup)
Et ensuite, il y a le floutage de toute photo à caractère sexuel (pas seulement les photos pedopornographiques) reçue via iMessage sur les iPhones des enfants (floutage à activer par l'un des parents de l'enfant), et là c'est juste le moteur d'analyse de photo en local qui fait son boulot (tout comme il sait reconnaître des photos de chiens, de chats, des monuments célèbres...)
@r e m y
Ah je vois, merci de la précision
On va appeler ça le projet Polanski
@406
Lol 😂
On commence à être loin de la neutralité du net tant défendue voilà quelques lustres ! Bien sûr la lutte contre la pedopornobraphie est défendable mais mettre en place des outils de reconnaissance photographique est une vraie porte ouverte vers la surveillance généralisée :)
Le neutralité du Net ce n'est pas vraiment ce dont on parle là....
La neutralité du net c'est interdire aux opérateurs d'infrastructures (ceux qui gèrent les ftuyaux") de privilégier certains types de flux (les flux commerciaux notamment) au détriment d'autres (non lucratifs) et faire en sorte que tout le monde ait accès dans les mêmes conditions au débit disponible.
@Berechit
ne pas en mettre serait criminel. Google a bien des algos pour les trouver ces images sur le net...
"mais mettre en place des outils de reconnaissance photographique"
le genre qui reconnait les visages, les races d'animaux, les lieux etc..?
comme on a depuis des lustres sur nos iphones ?
Ah ben tiens les idées développées en interne chez Apple, notamment font leur chemin jusqu’au législateur. Et c’est BIEN 👍 protégeons les personnes sensibles de la perversité de certains.
L'idée n'est pas d'éviter que les personnes sensibles reçoivent ce type d'images (sinon pourquoi se limiter aux images pedopornographiques?), mais d'identifier ceux qui les font circuler.
Un débat qui va susciter beaucoup d'émotions et de réactions épidérmiques comme on en voit déjà ici. Ça va être difficile d'en discuter sans se faire traiter de (protecteur de) pédophile.
Pourtant il y a des questions à se poser légitiment:
- s'agit-il de détection d'images connues (comme la base de données américaine)? Dans ce cas, comment s'assurer que cette base de données ne sera jamais étendue à d'autres contenus ? Sans penser que nos gouvernements deviendront totalitaires du jour au lendemain, on peut imaginer que si ça marche, certains estimeront que les contenus prônant le terrorisme doivent être filtrés, puis autre chose, puis autre chose... Et il sera difficile de vérifier cette base de données à laquelle le citoyen n'aura logiquement pas accès (puisqu'on on ne va pas lui permettre de consulter ce genre de contenu !). De plus, la protection de l'enfance me semble assez peu renforcée car on attrapera juste les quelques pervers qui sont assez bêtes pour s'échanger ces contenus sur des messageries non sécurisées. Probablement peu d'abuseur ni même de trafiquant "bien organisé" de ces images.
- s'agit-il d'intelligence artificielle pour déterminer tout contenu pédopornographique? Dans ce cas on voit mal comment éviter les faux positifs sur des photos d'ados / jeunes adultes qui s'échangent des sextos en toute liberté. Et pourraient à travers ce système être exposés inutilement (au moins vis-à-vis des forces de l'ordre), parfois dans des contextes difficiles (relation cachée, homosexualité non acceptée,...). Il faudra voir aussi comment les fabricants peuvent entraîner leurs modèles 🤔.
Ce n'est pas défendre la pédophilie que de réfléchir, pour toute mesure limitant la vie privée et la liberté, aux gains réels, et aux dangers, apportés par celle-ci.
@albandf
Ah enfin un peu d’intelligence au milieu de ce foutoir. Merci 🫡
Pour ma part j’ajouterai mon petit grain perso à votre réflexion et de manière tout à fait arbitraire :
• Surveillez un peu vos gamins plutôt que d’attendre que des autorités suprêmes dont vous ne connaissez rien le fasse à votre place.
• Intéressez-vous a ce que font vos enfants sur les réseaux et ailleurs c’est toujours plus sain que de leur donner un iPhone entre les mains sans savoir ce qu’ils consultent sur snap ou discord.
• Sachez enfin que les premiers producteurs de contenu pedo-pornographique ce sont … les enfants ! Plus particulièrement les ados qui s’envoient des photos ou les publient sur les réseaux comme tant d’autres adultes aiment à le faire. Avec la jeunesse en plus et donc de la bêtise. Et sachez que dans certains états Américains par exemple, si un ado envoie une photo de son bazar a une autre ado dans le cadre d’une conversation de drague consentie par exemple, c’est considéré comme de la diffusion d’image pedo. Donc passible de prison pour l’ado en question. Même si mademoiselle était d’accord voire demandeuse.
La meilleure protection, c’est de bien les élever et de faire de la prévention. Pas d’attendre que nos vies soient épiées AU PRÉTEXTE de nous protéger.
Les américains avaient initiés ça avec le terrorisme. Ne pas vouloir de telles mesures c’est défendre le terrorisme.
Aujourd’hui c’est la pedophilie. Ne pas vouloir de telles mesure c’est défendre voir être un pedophile.
@albandf
C'est vrai ce que tu dis, mais je suis parti beaucoup plus loin que toi. Mon commentaire plus bas.
Le choix entre la sécurité et la liberté .. terrible
Bruxelles remet en PLS les defenseurs de la vie privee qui criaient sur apple il y a 6 mois 😅 Ce n’etait qu’une question de temps.
On l'avait dit à l'époque qu'Apple ouvrait la boîte de Pandore en montrant que la technologie de surveillance était disponible et pouvait être déployée au sein même des OS de smartphones.
Mais je ne serais pas surpris que maintenant que ça risque d'être imposé par la loi, Apple s'érige en défenseur des libertés individuelles et s'oppose à ces démarches.
@r e m y
“Mais je ne serais pas surpris que maintenant que ça risque d'être imposé par la loi, Apple s'érige en défenseur des libertés individuelles et s'oppose à ces démarches. “
Apple n’a pas trop attendu la loi pour ca 😇… 😅
@Paquito06
"Bruxelles remet en PLS les defenseurs de la vie privee qui criaient sur apple il y a 6 mois 😅 Ce n’etait qu’une question de temps."
Ça n'est pas la même proposition.
Sinon, je ne savais pas que les instances européennes avaient été privatisées et étaient devenues une multinationale.
@Bigdidou
“"Bruxelles remet en PLS les defenseurs de la vie privee qui criaient sur apple il y a 6 mois 😅 Ce n’etait qu’une question de temps."
Ça n'est pas la même proposition.
Sinon, je ne savais pas que les instances européennes avaient été privatisées et étaient devenues une multinationale.”
C’est bien d’apple dont on parle 😇
@Paquito06
« C’est bien d’apple dont on parle 😇 »
Qu’est ce que tu n’as pas compris dans ma réaction ?
D’un côté, une multinationale veut déployer des bots propriétaires qui veulent scanner sur les appareils de la marque (dont elle a décidément du mal à considérer qu’ils nous appartiennent une fois vendus), et uniquement d’elle, en local nos photos, d’un autre côté, la puissance publique veut mettre en place des outils afin de contrôler ce qui circule dans cet espace publique qu’est devenu Internet.
Tu ne vois vraiment aucune différence ?
Moi, je la vois, et je ne suis absolument pas en PLS, pour reprendre cette locution ridicule, alors que je suis évidemment vent debout contre la proposition d’Apple.
@Bigdidou
“« C’est bien d’apple dont on parle 😇 »
Qu’est ce que tu n’as pas compris dans ma réaction ?
D’un côté, une multinationale veut déployer des bots propriétaires qui veulent scanner sur les appareils de la marque (dont elle a décidément du mal à considérer qu’ils nous appartiennent une fois vendus), et uniquement d’elle, en local nos photos, d’un autre côté, la puissance publique veut mettre en place des outils afin de contrôler ce qui circule dans cet espace publique qu’est devenu Internet.
Tu ne vois vraiment aucune différence ?
Moi, je la vois, et je ne suis absolument pas en PLS, pour reprendre cette locution ridicule, alors que je suis évidemment vent debout contre la proposition d’Apple.”
Non pas que je n’ai pas compris, meme si, peut etre, mais ce qu’Apple a envisagé depuis des annees et propose dans certains pays (qui a fait grand bruit sur macge il y a qq mois), est aujourd’hui embrassé legalement par l’Europe. C’est beau. Apres la forme, osef, qu’Apple le fasse ou qq’un d’autre designé par Bruxelles, le resultat sera le meme.
@Paquito06
« Apres la forme, osef »
Je suis très étonné de lire ça.
La forme est absolument essentielle.
C’est la garantie du respect de principes absolument fondamentaux.
La fin justifierait tous les moyens ???
@Bigdidou
“« Apres la forme, osef »
Je suis très étonné de lire ça.
La forme est absolument essentielle.
C’est la garantie du respect de principes absolument fondamentaux.
La fin justifierait tous les moyens ???”
La fin justifie les moyens, ou plutot la raison du plus fort est tjrs la meilleure. La forme prendra ce que le plus fort decidera. Bruxelles ou Apple?
@Paquito06
« La fin justifie les moyens, ou plutot la raison du plus fort est tjrs la meilleure. »
Y a un truc qui s’appelle l’état de droit, mais bon, ça me fatigue au bout d’un moment ce genre de discussion qui vole quand même pas très haut.
Condescendant, je sais.
@Bigdidou
“« La fin justifie les moyens, ou plutot la raison du plus fort est tjrs la meilleure. »
Y a un truc qui s’appelle l’état de droit, mais bon, ça me fatigue au bout d’un moment ce genre de discussion qui vole quand même pas très haut.
Condescendant, je sais.”
Mais bien sur qu’il y a un Etat de droit des deux cotés de l’Atlantique, mais reconnais quand meme que ca prete a sourire de voire une boite, privee, americaine, se faire taper dessus pour ce qu’elle developpe, propose et met en place, et de voir ensuite le copain d’en face, europeen, public, sortir une loi pour appliquer la meme chose. At a high level, on y est, parce dans les details, oui on peut pinailler sur la mise en place, la forme, ok.
Je suis contre cette mesure.
Les chiffons rouges habituels que sont
1. la pédopornographie
2. le terrorisme
permettent la mise en place de tout un tas de briques élémentaires qui ne seraient pas possible de faire passer autrement.
Est-ce que le terrorisme et la pédopornographie seront éradiqués ? non ! Par contre ces mesures font des dégâts par ailleurs.
Le but final : guerres de croyances et religions. Avec des crises d'autorité des puissants qui se croient au dessus de Dieu (pour le Pape c'est déjà fait).
Une fois les contrôles généralisés en place et acceptés, nous seront traqués jusque dans nos opinions, croyances et pratiques.
Il faut que ces choses arrivent et ces choses arriveront malheureusement.
Matthieu 24:6-9 : "Vous entendrez parler de guerres et de bruits de guerres: gardez-vous d'être troublés, car il faut que ces choses arrivent. Mais ce ne sera pas encore la fin. Une nation s'élèvera contre une nation, et un royaume contre un royaume, et il y aura, en divers lieux, des famines et des tremblements de terre. Tout cela ne sera que le commencement des douleurs. Alors on vous livrera aux tourments, et l'on vous fera mourir; et vous serez haïs de toutes les nations, à cause de mon nom."
@Lightman
"Le but final : guerres de croyances et religions. Avec des crises d'autorité des puissants qui se croient au dessus de Dieu (pour le Pape c'est déjà fait).
Une fois les contrôles généralisés en place et acceptés, nous seront traqués jusque dans nos opinions, croyances et pratiques."
On parle de détecter les images pedopornographiques qui circulent via le net...
Ça va ?
Le sucre, c'est cool pour les champis qui se passent mal...
@Lightman
vous avez des enfants ? (des vrais hein?)
@raoolito
Pourquoi faire ?
Ça sert à rien les mouflets, avoir de l’électroménager est bien plus utile !
@Sindanárië
« Ça sert à rien les mouflets, avoir de l’électroménager est bien plus utile ! »
Gris malin : et sans mouflets, qui le fait fonctionner, ton électroménager ? ;)
@Bigdidou
😆
@Lightman
« Il faut que ces choses arrivent et ces choses arriveront malheureusement.
Matthieu 24:6-9 : "Vous entendrez parler de guerres et de bruits de guerres: gardez-vous d'être troublés, car il faut que ces choses arrivent. Mais ce ne sera pas encore la fin. Une nation s'élèvera contre une nation, et un royaume contre un royaume, et il y aura, en divers lieux, des famines et des tremblements de terre. Tout cela ne sera que le commencement des douleurs. Alors on vous livrera aux tourments, et l'on vous fera mourir; et vous serez haïs de toutes les nations, à cause de mon nom." »
C’est pas bien de faire peur aux gens comme ça, en oubliant de parler de la fin heureuse de la prophétie !
Car cela annonce surtout l’Apocalypse, la grande guerre de la fin du monde, la victoire contre les forces de Satan avec le retour du Christ, la résurrection de tous les chrétiens méritants dans des corps jeunes et immortels, la déportation en Enfer des âmes des juifs, des païens, des banquiers, des percepteurs des impôts et des démarcheurs à domicile, et la transformation des lions en herbivores OGM se nourrissant uniquement de plantes !
Le Paradis sur Terre ! Des millions de Chrétiens immortels vivant dans une éternelle félicité, sans rien à faire que louer la gloire éternelle du Seigneur Jésus-Christ, tout en évitant de marcher dans les traces de coliques laissées partout par les lions, chiens, chats et autres carnivores forcés de manger de l’herbe..
Pages