Apple supprime plusieurs apps qui permettaient de générer des photos de nu grâce à l’IA
Apple a supprimé trois applications permettant de générer des photos de personnes nues sans leur consentement. Ces applications se présentaient comme des apps créatives sur l’App Store, sans mettre en avant la possibilité de créer du contenu pour adulte. Comme l’a révélé 404 Media, elles permettaient également de « déshabiller » les personnes d’une photo en se basant sur les IA génératives.
Ces applications se présentaient simplement comme des « générateurs artistiques » sur la boutique d’Apple ou sur leur site, dans la même veine qu’un DALL-E ou Midjourney. Cependant, les programmes mettaient clairement en avant la possibilité de « déshabiller n’importe qui » dans leurs réclames sur les sites pornographiques… ou dans des publications sponsorisées sur Instagram. Il n’était pas difficile de les identifier : certaines vantaient leurs fonctionnalités 18+ dès le lancement, tandis que des commentaires y faisaient directement référence sur la fiche App Store.
404 Media a sonné l’alarme en début de semaine et note qu’Apple a supprimé 3 applications quelques jours plus tard. Il aura fallu attendre que quelqu’un les signale, montrant bien que les équipes de vérification n’ont pas réussi à les détecter toutes seules. Un joli trou dans la raquette de Cupertino, qui ne cesse de répéter que son App Store est un endroit sûr à l’heure où l’UE la force à ouvrir iOS aux boutiques alternatives.
Si cela n’est pas précisé, on peut imaginer que la génération d’image se passait sur des serveurs externes. Les malandrins ont peut-être réussi à feinter la vérification initiale de la Pomme en désactivant certaines fonctions pour adulte avant de les activer après un certain temps. Au vu du flot d’applications par IA qui vont arriver dans les prochains mois, on peut espérer qu’Apple va redoubler d’attention sur les futures apps d’IA.
Et après Apple prône son store pour le bien de ses utilisateurs aucune vérification
@Insomnia
Les applications ont été supprimées non ?
Ouais mais elles ont été validé, preuve que la validation c'est du flan.
@Solunne
« La critique est facile mais l’Art est difficile… »
Ce n’est pas une citation de Tim ni de moi mais de Philippe Néricault
@Malouin
Plus précisément « la critique est aisée mais l’art est difficile ».
Mais selon Beaumarchais « sans liberté de blâmer, il n’est pas d’éloges flatteurs ».
@DG33
C’est vrai ! + 1
@Malouin
C’est pas Apple qui disait être extrêmement vigilant à valider ses apps 🫠 quand on prêtant certaines choses on évite ce genre de déconvenue
@Insomnia
« La critique est facile mais l’Art est difficile… »
Ce n’est pas une citation de Tim ni de moi mais de Philippe Néricault
@Malouin
"Les applications ont été supprimées non ?"
———
Les applications ont été validées non ?"
@MarcMame
« La critique est facile mais l’Art est difficile… »
Ce n’est pas une citation de Tim ni de moi mais de Philippe Néricault.
« La critique est facile mais l’Art est difficile… »
Ce n’est pas une citation de Tim ni de moi mais de Philippe Néricault.
C'est tout ce que tu as à dire pour défendre le business model d'Apple ?
c'est le GRAND Art seulement qui est difficile dit à Philippe. comme la grande critique, la grande philosophie ou la grande littérature, etc.
que quand on veut faire un Gros truc, ça devient difficile.
@Malouin
Assez facile quand Apple ne cesse de prôner son store sécurisé alors que c’est totalement faux… Apple ne cesse de prôner la sécurité de ses clients et à mainte reprise on a vu le contraire
@Insomnia
En tout cas on sait qu’on trouvera ces horreurs sans souci sur les stores alternatifs. La modération d’Apple n’est pas parfaite mais elle a le mérite d’exister.
En tout cas on sait qu’on trouvera ces horreurs sans souci sur les stores alternatifs. La modération d’Apple n’est pas parfaite mais elle a le mérite d’exister.
Mais elle n'existe pas en réalité. La modération est juste là pour s'assurer qu'Apple touche bien sa commission, le reste c'est de la poudre au yeux. Le temps moyen passé pour valider c'est 10 minutes. Qu'est-ce que tu veux vérifier en 10 minutes ?
@bibi81
Ces apps ont disparu ou pas ?
@Furious Angel
Elles ont disparu parce qu’elles ont été signalées.
Faut-il supprimer les équipes de validation et les remplacer par des équipes de modération ?
@DG33
Arrête d’être dans la provocation, on sait très bien qu’aucun système n’est parfait. Tu es dans le biais de la solution parfaite, et d’une façon trop caricaturale pour être honnête.
En attendant les stores Alternatifs (enfin disponibles comme dirait MacGe…).
@Malouin
Ah ben voilà ! On a enfin trouvé un « avantage » pour les stores alternatifs.
@lepoulpebaleine
« La critique est facile mais l’Art est difficile… »
Ce n’est pas une citation de Tim ni de moi mais de Philippe Néricault…
@Malouin
Vous devriez peut-être le répéter encore une dizaine de fois pour être sûr
@Baptiste_nv18
C’est juste des fois que t’aurais pas compris !
Les commentaires (critiques pour le coup) se répètent tous.
Pourquoi pas leur réponse ?
après tout, nous sommes tous nus sous nos vêtements … Mais bien que l’imagination soit sans limites, la plupart du temps, on préfèrera se passer de cette faculté d’abstraction, tant est si bien qu’on ai cette capacité … de mettre à nu : rien ne nous assure de ce qu’on va y trouver …
Ça va relancer les ventes de téléphones Android 🫢
@Phiphi
C’est aussi interdit sur le Play Store 🤷♂️ Par contre sur les stores alternatif que ce soit Apple ou Android … 🤷♂️
@DrStax
Ah bon !
Mais ça reste sans doute plus facile à installer sur Android … pour le moment.
Et puisque tu parles des boutiques alternatives, j’ai cru comprendre qu’ils en avaient déjà plusieurs.
Ceci dit, si on pouvait bloquer totalement ce genre d’outil, ce serait plutôt une bonne chose, parce que j’imagine bien ce que des personnes mal intentionnées peuvent en faire, hélas.
Ceci dit, si on pouvait bloquer totalement ce genre d’outil, ce serait plutôt une bonne chose, parce que j’imagine bien ce que des personnes mal intentionnées peuvent en faire, hélas.
Pas besoin d'IA pour faire des photos montages. C'est juste plus facile mais ce n'est pas nouveau.
@bibi81
Je n’ai jamais dit le contraire, mais on passe quand même de pas simple sans compétences à accessible sans effort. Donc je maintiens ce que je dis, j’aimerai autant qu’on puisse bloquer ce genre de truc.
D’où vient cette possibilité de générer des images pornograhique via l’IA si tous les modèles de langages disponible aujourd’hui sont “politiquement correct”
@remsdevoiron
Ben c’est justement pas un modèle de langage
@remsdevoiron
Politiquement correct ne veut pas dire pudique…
Ce ne sont pas des images pornographiques, juste des personnes déshabillées artificiellement. Si c'était des images porno, je pense que l'IA n'aurait pas grand chose à enlever. :D
@remsdevoiron
La génération d’image ne passe pas par des LLM, modèle de langage
Elle sont sans doute passé sous le radar en se présentant comme des IA générative d’IA. Et avec un fonctionnement coté et sans doute un flag, activait un autre fonctionnement après la validation.
Ce n’est pas facile du tout à détecter lors de la validation.
Je me demande si des applications comme celle-ci pourraient apparaître sur d’autres stores iOS via le DMA? Car même si Apple notarise, ce n’est pas autant qu’il puisse empêcher ce genre d’applications.
J’aurais bien essayé sur moi pour voir ce que ça donne 😅
@bbtom007
Ça s’appelle un miroir. 😅
@lepoulpebaleine
Mais peut etre que l’ia serait plus sympa que le miroir 😅😂
@bbtom007
Ça s’appelle l’estime de soi, l’amour propre, l’onirisme 😄
Je vais choquer plein de monde, mais je ne trouve pas cela correct.
Non, que je sois pour ce type d’utilisation de l’IA, mais je pense que soit la loi l’interdit, soit la loi l’autorise, mais que ce n’est pas à une entreprise privée de juger ce qui est moral ou pas.
D’autant que ça n’empêchera pas la diffusion de ce type de bêtise, si seule Apple l’empêche sur son store.
Le contrôle de l’Appstore devrait se limiter au respect de la loi, cette dernière interdisant, par exemple, le vol de données, la diffusion de virus ou les ransomwares.
@Mac1978
"Je vais choquer plein de monde, mais je ne trouve pas cela correct."
Je comprends ton point de vue mais, une entreprise est encore libre de choisir ce qu’elle propose dans ses boutiques. Tu ne trouveras pas de livres porno à Carrefour ni de livre de cuisines dans les boutiques Marc Dorcel.
Quand tu achètes un iPhone tu es souvent au courant de ce genre de choses, cette « pudibonderie » étant clairement annoncé par Apple depuis des années.
Il existe de nombreuses alternatives, comme des sites web totalement accessibles ou même ce genre de programmes disponibles via d’autres marques de téléphone.
C’est un peu comme se dire qu’il n’y a pas de films X accessible sur les télés des hôtels de Disneyland. Ton point de vu est compréhensible mais une entreprise n’est pas le service public. Et cette absence ne se trouve qu’au niveau des application distribuée par Apple. Aucun contrôle n’est fait dans les consultations web, donc les applications accessibles en ligne. Et il n’y a même pas d’interdiction dans la boutique de livre, de films ou de musique. Ce sont plutôt les distributeurs qui ne se pressent pas pour diffuser leurs contenus salaces avec ces vanneaux.
Moi, ça ne me choque pas qu’Apple fasse le ménage dans ce genre d’application outrancières, même si personnellement j’aurais bien essayé, cela peut donner des résultats amusants.
@gwen
Pourquoi est-ce acceptable sur Mac mais pas sur iPhone ?
@Gotmilker
Il ne me semble pas que ce genre d’application soit disponible sur le MacAppStore.
Apple est cohérente dans sa démarche quand même.
Ensuite, sur Mac, il est en effet possible d’installer des logiciels sans passer par Apple si c’est ça que tu veux dire.
Néanmoins cela reste que Apple refuse de vendre ce type de logiciel et s’y tient. C’est son droit.
@gwen
"Néanmoins cela reste que Apple refuse de vendre ce type de logiciel et s’y tient. C’est son droit."
Et pourtant il y a certainement un pactole à la clé 💵
@gwen
"Je comprends ton point de vue mais, une entreprise est encore libre de choisir ce qu’elle propose dans ses boutiques."
Sauf quand l’entreprise se pose en contrôleur d’accès d’appareils vendus.
La loi est en train d’être adaptée en conséquence un peu partout.
@Mac1978
Ça n’aurait absolument aucun sens …
@Baptiste_nv18
Sauf quand il s’agit d’un monopole, puisque dans ce cas, le monopoleur fait la loi en décidant ce qui est accessible ou pas…
@Mac1978
"Sauf quand il s’agit d’un monopole, puisque dans ce cas, le monopoleur fait la loi en décidant ce qui est accessible ou pas…"
Apple n’as pas le monopole des téléphones portable. L’entreprise a juste le monopole sur l’iPhone puisque c’est elle qui l’as crée. Tout comme Scotch à le monopole sur le scotch et non le ruban adhésif ou sopalin à le monopole sur le Sopalin et non les papier essuies tout.
Celui qui s’est trompé en achetant un iPhone ne pouvant déshabiller les filles aurait dû acheter un autre téléphone Kikoo-Lool. Ce n’est pas la faute d’Apple si certaines personnes achète sa marque sans savoir ce qu’ils achètent.
@gwen
En dehors du « kiko lol » qui fait un peu tache dans le commentaire, je vous rejoins sur l’ensemble de vos points. J’ai aussi du mal avec les gens qui veulent faire changer les autres pour soi…
Si je veux absolument manger une pizza … et que je vais chez Burger King … c’est que je le suis trompé … mais ce n’est pas de la faute de Burger King 🫤
@cecile_aelita
En tant qu’enseignante, je vous aurais crue un peu plus pertinente que la remarque que vous faites.
Comparaison n’est pas raison, surtout quand on essaie de comparer des offres absolument pas comparables.
Pages