Si Apple a souvent tendance à présenter son App Store comme un endroit sûr pour les consommateurs, la réalité est parfois loin des discours marketing. Les chercheurs et journalistes signalent régulièrement la présence d’apps permettant de déshabiller des personnes par IA. Selon un rapport du Tech Transparency Project (TTP), de telles apps sont toujours présentes sur l’App Store et le Google Play. Pire, elles sont même parfois mises en avant.
Le TTP a testé 46 apps sur l’App Store et 49 sur Google Play. Parmi elles, 18 côté Apple et 20 côté Google permettaient effectivement de déshabiller des femmes ou de les afficher légèrement vêtues. Elles auraient rapporté plus de 122 millions de dollars et été téléchargées 483 millions de fois.
Le groupe a constaté qu’environ 40 % des apps remontées dans les résultats de recherches telles que « nudify », « undress » et « deepnude » pouvaient « afficher des femmes nues ou légèrement vêtues ». TTP a contacté les développeurs de ces apps, et l’un d’entre eux a confié se baser sur… Grok, qui avait justement fait les gros titres pour ses dérives en début d’année. Le rapport précise toutefois que Grok n’a pas été comptabilisé dans le total des apps de déshabillage, car les tests de TTP ont montré qu’il bloquait les tentatives de retrait de vêtements sur des images importées.
La directrice du TTP a déclaré auprès de Bloomberg estimer que les plateformes « dirigeaient les utilisateurs » vers ce type d’apps. En effet, les boutiques ont parfois tendance à compléter les recherches avec certains termes douteux. Plusieurs apps de deepfakes se sont retrouvées dans les résultats de recherche sponsorisés des échoppes. Beaucoup d’entre elles étaient classées comme adaptées aux mineurs, ce qui signifie qu’elles pouvaient être téléchargées par des enfants. Le rapport en a relevé pas moins de 31.
Deepfakes : la pudeur à géométrie variable d'Apple et Google
Apple n’a pas répondu aux questions du TTP, mais a supprimé 15 des applications mentionnées après le signalement du groupe et de Bloomberg. De son côté, Google a expliqué que beaucoup des apps citées avaient été suspendues et que son enquête était toujours en cours.
