Messageries : l'équivalent européen de la CNIL critique à son tour le plan de l’UE contre la pédopornographie

Félix Cattafesta |

L'équivalent européen de la CNIL n'est pas vraiment partant quant au projet d'instaurer une obligation de détection de photos pédopornographiques dans les messageries. Cette idée mise sur la table par la Commission européenne au mois de mai inquiète les défenseurs des libertés individuelles, craignant que le projet nuise aux citoyens innocents.

Image : Apple.

Le Comité Européen de la Protection des Données (EDPB) a publié un communiqué dans lequel elle explicite sa position, qui est partagée par le Contrôleur Européen de la Protection des Données (EDPS). Si les deux organismes s'accordent sur le fait que le combat contre la diffusion de contenus pédopornographiques soit des plus important, ils estiment que « les limitations aux droits à la vie privée et à la protection des données doivent toutefois respecter l'essence de ces droits fondamentaux ». Elles doivent donc rester limitées à ce qui est strictement nécessaire et proportionné.

Or, le projet de la Commission européenne brasse large. S'il venait à passer, les gestionnaires de messageries seraient obligés d'instaurer un moyen d'analyser les conversations afin de détecter des contenus pédopornographiques. Une nouvelle agence européenne dédiée à la protection de l'enfance en ligne serait établie pour l'occasion, servant d'intermédiaire entre les autorités nationales et les éditeurs de messageries. Les scans ne seraient ni constants, ni pour tout le monde et auraient lieu uniquement quand une autorité judiciaire en donne l'ordre.

Protection de l

Protection de l'enfance : Bruxelles prévoit d'imposer la détection de photos pédopornographiques dans les messageries

En l'état, l'EDPB et l'EDPS considèrent que le projet apporte plus de risques pour les individus que pour les criminels, et déplorent le manque de clarté du texte. Les organismes demandent donc à ce que les conditions d'émission d'une ordonnance de scan soient davantage définies.

Ils s'inquiètent du fait que le projet ne garantit pas dans sa forme actuelle « que seule une approche ciblée de la détection de contenus pédopornographiques aura effectivement lieu ». Plus globalement, ils craignent que la proposition ne devienne la base d'un « scan généralisé et sans discernement » du contenu de pratiquement tous les types de messageries.

L'EDPB et l'EDPS rappellent l'importance du chiffrement de bout en bout, qui risque d'être mis à mal par ce projet. Ils reviennent également sur le fait que les IA ne sont pas infaillibles, argumentant que l'utilisation de ces technologies est susceptible « de générer des erreurs et représente un niveau élevé d'intrusion dans la vie privée des individus ».

Les deux organismes ne sont pas les seuls à s'inquiéter de telles dérives. L'Electronic Frontier Foundation y voit un « système de surveillance massive » en puissance, tandis que le professeur en cryptographie Matthew Green qualifie le projet « de document le plus terrifiant [qu'il ait] jamais vu ». De son côté, Apple a commencé à activer sa fonction de floutage des photos sexuellement explicites dans Messages sur la 4e bêta d'iOS 16. En revanche, l'entreprise a mis au placard son idée de scan des bibliothèques Photos d'iOS et iPadOS.


avatar Dead head | 

Ouh la la ! Et la relecture ?
Si les deux organismes s'accordent sur le fait que LE combat contre la diffusion de contenus PÉDOPORNOGRAPHIQUES EST des plus IMPORTANTS…
l'entreprise A mis au placard

avatar Phiphi | 

@Dead head

Merci de simplement leur « signaler un faute » avec la fonction ad hoc, tout simplement, et plus aimablement qui plus est. Merci.

avatar iPop | 

« t d'intermédiaire entre les autorités nationales et les éditeurs de messageries »

Et dire qu’on se moquait de l’Unon Soviétique dans les années 80.
Prochaine étape : supprimer la démocratie (pas difficile) et le service public (on a l’Europe maintenant) et baisser le prix de l’essence. 😁

avatar vladimir | 

Heureusement que de tels organismes existent encore 👏🏼
Qu'ils fassent entendre leurs voix, et surtout qu'ils soient entendus !

avatar DahuLArthropode | 

Je comprends bien les réserves face à de telles mesures. Toutefois, « Les scans (…) auraient lieu uniquement quand une autorité judiciaire en donne l'ordre. ».
D’une certaine façon, c’est une transposition avec des moyens modernes de choses qui existent déjà: les écoutes téléphoniques sur décision du juge.

avatar Abd Salam | 

@DahuLArthropode

Si ça existe déjà… y’a rien à ajouter !

le problème est que c’est systématiquement la même manière d’attaquer les libertés de tout le monde : mettre en avant une cause juste… ne pas définir clairement ce qui va être surveillé et comment OU créer une «porte dérobée» dans les messageries en prétextant que les écoutes n’auront lieu que si un juge l’autorise…

Mais la porte dérobée pourra être ouverte ! sans demander aux juges !

C’est comme la loi qui oblige à déverrouiller son téléphone dans le cadre d’une garde-à-vue, initialement c’était soit-disant uniquement contre les terroristes… dans la pratique cette loi peut être opposée à tout justiciable !

avatar DahuLArthropode | 

@Abd Salam

Je suis également préoccupé par l’évolution sécuritaire de notre société. Ça ne dispense pas de réfléchir sous divers angles et comme le débat s’oriente avec un seul point de vue, il me paraît utile de rappeler que l’intrusion dans la vie privée avec décision de justice est compatible avec nos principes.
Pour la rigueur de la discussion: si, on doit modifier le droit si la nouvelle forme « d’écoute » implique une détection automatique.
Je me demande aussi pourquoi la loi se focalise sur la pédopornographie et ne s’étend pas à toutes les enquêtes criminelles dans lesquelles un juge est saisi. Je suppose qu’on pourrait détecter autre chose que des photos en question, à moins que la loi n’ait été inspirée par l’intention d’Apple de mettre en place un tel système l’année dernière.

avatar Abd Salam | 

@DahuLArthropode

Faire semblant que ce sera avec l’autorisation du juge n’est pas compatible avec l’état de droit.

Je t’invite à avoir une vision claire de ce qui se passe ! plutôt que de supposer que tout va bien se passer.

Première indice : pourquoi mettre en avant un motif juste (la pédo criminalité) et non toutes les formes de crimes ?

Pourquoi mettre en avant l’autorisation d’un juge pour ce qui sera un système de «porte dérobée» ?

avatar DahuLArthropode | 

@Abd Salam

Faire semblant que ce sera avec l’autorisation du juge n’est pas compatible avec l’état de droit
Ah! Pourquoi affirmer qu’ils vont « faire semblant »? Pourquoi même faire confiance à la justice ou à quoi que ce soit? Tu commences à pencher vers le tous-pourrisme.
Pour les abus, pas besoin de lois. Giscard pouvait espionner le Canard et Mitterrand écouter Carole Bouquet sans avoir besoin de faire passer une loi pour ça. Ce que tu appelles « faire semblant », c’est précisément se doter d’outils qui encadrent des pratiques et permettent de condamner des abus. Attention: je ne défends pas ce projet de loi, c’est très bien qu’il soit débattu au préalable. Mais je regarde la qualité des arguments.

Je t’invite à avoir une vision claire de ce qui se passe ! plutôt que de supposer que tout va bien se passer.
La conviction qu’on a la vision claire sur laquelle les autres devraient s’aligner, voilà qui invite à prendre du recul.

Première indice : pourquoi mettre en avant un motif juste (la pédo criminalité) et non toutes les formes de crimes ?
Je me suis posé la même question (peut-être dans un autre fil). C’est une bonne question. Mais un indice irréfutable de « ce qui se passe »… bof.

Pourquoi mettre en avant l’autorisation d’un juge…
C’est justement à ça qu’on reconnaît le droit: ce n’est pas la police qui décide!

pour ce qui sera un système de «porte dérobée» ?"
Mauvais procès. Pour espionner les concitoyens, les états n’ont manifestement pas eu besoin de ces lois.

avatar Abd Salam | 

@DahuLArthropode

Tu fais exprès de lire que le tiers de mes propos ?

Ce serait sympa de prendre en compte la totalité du message. Sérieusement.

Je sais pas si ça vaut la peine d’expliquer… si tu fais pas gaffe.

Et peut-être même que tu fais pire… que juste pas faire attention !

J’aimerais une conversation honnête… si c’est possible.

Mention spéciale quand tu coupes UN argument en deux… pour répondre bêtement à chaque moitié !

«mettre en avant l’autorisation d’un juge pour un système de porte dérobée».

Si on crée un système où le policier a les clés, c’est pas pour demander la permission du juge !
la ligne : autorisation du juge est un maquillage.

Et je répète : la loi vise à obliger la création de porte dérobée ! pas à inventer des «abus» qui existent déjà (légalement et illégalement).

Tu veux bien ce coup-ci répondre à ce que j’exprime réellement ?

avatar DahuLArthropode | 

@Abd Salam

Je te relis… Tu as raison: laissons tomber.

avatar Numa | 

Apple censure et bloque la pornographie sur Apple TV. L’appli Canal ne peut diffuser le porno du mois, même si aucun contrôle parental n’a été mis en place sur l’Apple TV. Cette pudibonderie toute américaine est parfaitement hypocrite et ridicule. Et si je comprends bien, ils vont aussi censurer les photos qui seraient un peu trop osées dans Messages. Je me demande si cette mesure est bien légale, elle met en question le secret des communications et le respect de la vie privée.

avatar DahuLArthropode | 

@Numa

C’est complètement différent.
Là, il s’agit de criminalité, pas de pornographie (qui n’est pas criminalisée chez nous, et qui est même techniquement encore accessible aux mineurs).
Quand à l’histoire des messages, rien à voir non plus: il s’agit de protéger les mineurs eux-mêmes. Nous pourrons donc continuer à échanger des contenus cochons en toute liberté. Mais pas avec des gosses.

avatar Numa | 

@DahuLArthropode

Non, il s’agit bien de scanner toutes les photos transmises dans les messageries et de bloquer toutes les photos jugées trop osées. Au-delà du puritanisme habituel d’Apple, cela pose le souci de la vie privée et du respect des communications privées. Je n’ai pas envie qu’Apple analyse mes photos du tout. Ce que je fais avec mon appareil et échange avec Messages ne les regarde pas. A quoi bon vanter la sécurité d’iOS sur ce point si Apple finalement scanne tout comme un vulgaire Google mais en version puritaine. Encore une fois, au-delà de la soit disant lutte contre la pédocriminalité, c’est la vie privée de tout le monde qui est menacée. Il va bien falloir un jour que les citoyens et leurs représentants élus se réveillent. Amazon avait censuré un livre et retiré sur sa propre initiative ce bouquin de la bibliothèque de ses utilisateurs, sur leur machine personnelle. Apple va t elle décider aussi de ce que je peux lire dans Livres.

Au fait, je n’ai pas vu la fin de mon film sur ocs via MyCANAL car Apple a coupé la diffusion. Visiblement, OCS était en retard ou Apple en avance sur la diffusion du porno qui suivait. C’est vraiment stupide et gonflant.

avatar DahuLArthropode | 

@Numa

Euh... je veux bien que tu partages ta source d’information.

avatar Numa | 

@DahuLArthropode

Bah déjà, l’article que nous commentons, c’est bien suffisant. Pour pouvoir flouter une photo de pedophile ou porno, Facebook le fait déjà, il faut bloquer tout ce qui est nudité. Sauf que Facebook est un média, c’est souvent stupide ( l’origine du monde est bloqué !!!) mais cela peut encore se comprendre. Là, il s’agit de communications privées entre deux individus. On comprend mieux la volonté d’Apple et Google de fusionner les applis de SMS-MMS avec leur messagerie. Certes, la police pouvait les récupérer en cas de besoin mais au moins c’était cadré par un juge. Là, c’est une société étrangère qui va examiner nos messages et flouter ce qu’elle juge indécent. Si c’est jugé pedophile par l’algorithme, un enfant dénudé au bord de la piscine, la photo sera t elle transmise aux flics aussi? Et si je fais une Griveaux, on prévient qui ? Dardmalin? L’article nous précise qu’Apple a renoncé au scan de nos bibliothèques personnelles de photos, comme si de rien n’était, mais qu’Apple l’ait même envisagé une seconde, est déjà incroyable. Cela remet en question l’image de cette entreprise, qui ne vaut guère mieux que Google finalement.

avatar DahuLArthropode | 

@Numa

"Bah déjà, l’article que nous commentons, c’est bien suffisant."

Ben non: cette fonction n’est activé que sur les téléphones des enfants et activées par les parents. Source iGen.

https://www.igen.fr/ios/2022/07/avec-ios-16-apple-activera-la-fonction-de-floutage-des-photos-sexuellement-explicites-dans-messages-en-france-131459?amp

avatar DahuLArthropode | 

@Numa

"Certes, la police pouvait les récupérer en cas de besoin mais au moins c’était cadré par un juge."

Je cite l’article: « Les scans ne seraient ni constants, ni pour tout le monde et auraient lieu uniquement quand une autorité judiciaire en donne l'ordre. »

avatar Numa | 

@DahuLArthropode

Oui, tant mieux, j’ai lu ce nouvel article.

avatar TiTwo102 | 

Plus globalement, ils craignent que la proposition ne devienne la base d'un « scan généralisé et sans discernement » du contenu de pratiquement tous les types de messageries.

Mais non voyons… On peut totalement faire confiance à nos dirigeants. Les dernières années le prouvent. Y’a même un mec qui s’appelle Edouard et qui vie en Russie qui peut témoigner.

avatar DahuLArthropode | 

@TiTwo102

Je suis également scandalisé par le traitement réservé à E. Snowden, et par ce qu’il avait révélé.
Toutefois, il me semble qu’on confond tout ici: justement, les écoutes de la NSA ne se font pas sur décision d’un juge ni dans le cadre d’une enquête judiciaire.
La loi proposée veut encadrer des écoutes qu’on ne fait pas, et tu parles de celles qui se font déjà et sans aucun cadre, si ce n’est celui de l’espionnage.
Je ne veux pas dire qu’il n’y a rien à craindre. Mais ce qu’il y a à craindre ne passera sans doute pas par une loi.

avatar Abd Salam | 

@DahuLArthropode

le but de ce projet de loi est de créer des «points d’accès» dans les messageries… qui posent dans leur mode de fonctionnement actuel des soucis à des agences comme la NSA ! et autres Renseignements Généraux (sans oublier les cas d’enquête de Police Judiciaire).

En clair, il s’agit de faciliter les écoutes inavouables (et pourquoi pas accessoirement, les écoutes justifiables, tant qu’à faire) !

avatar DahuLArthropode | 

@Abd Salam

Suppositions. La NSA a pu écouter Macron et Merkel.

avatar IceWizard | 

@Abd Salam

« En clair, il s’agit de faciliter les écoutes inavouables (et pourquoi pas accessoirement, les écoutes justifiables, tant qu’à faire) ! »

C’est marrant comment les extrémistes pensent systématiquement que les « autres » préparent systématiquement ce que eux rêvent de faire, une fois parvenu au pouvoir !

Personne n’a jamais atteint le niveau d’espionnage et de surveillance téléphonique de la République Démocratique Allemande (RDA), dont les vieux révolutionnaires rêvent d’imposer le même système de gouvernance à la France et même à toute l’Europe .. Pourtant ils n’avaient pas d’ordinateurs, juste de la technologie low-tech et des légions d’Abd Salam motivés à traquer les «  traîtres », avec des écouteurs et des petits carnets gris !

avatar Abd Salam | 

@IceWizard

bois une tisane,…

avatar IceWizard | 

@Abd Salam

« bois une tisane,… »

C’est un conseil de ta figurine de Spock, celle qui te murmure à l’oreille les sombres projets des méchants ennemis de l’humanité ?

avatar Abd Salam | 

@IceWizard

bois une tisane froide,…

avatar IceWizard | 

@Abd Salam

« bois une tisane froide,… »

Les témoins de Jéhovah, tous les mêmes !

avatar Abd Salam | 

@IceWizard

une limonade ?

avatar IceWizard | 

@Abd Salam

« une limonade ? »

Un Perrier pour moi ! Et un crachoir pour toi ..

avatar cherbourg | 

Vu les To de fichiers que possèdent les pédocriminels quand ils sont arrêtés, je ne crois pas qu’ils les reçoivent en pj de leurs courriels…

CONNEXION UTILISATEUR