App Store : Apple veut relever l'âge minimum pour des apps utilisant ChatGPT

Florian Innocente |

L'éditeur de BlueMail accuse Apple de bloquer indûment la validation de son app de courrier électronique. La nouvelle version inclut des fonctions basées sur ChatGPT et Apple souhaite une requalification de l'âge minimum pour ses utilisateurs.

Le débat sur ChatGPT et les questions de l'utilisation de ce type d'intelligence artificielle s'invitent dans la modération des apps de l'App Store. Blix, éditeur du client de courrier électronique BlueMail pour iPhone/iPad et macOS, est vent debout contre Apple. Celle-ci a refusé de valider une mise à jour du logiciel qui apporte des fonctions de "mail génératif".

Avec BlueMail "GEM AI", un utilisateur peut demander au logiciel de lui rédiger un courrier répondant à quelques critères qu'il aura saisis au préalable. Une façon de gagner du temps pour certains courriers qui n'ont pas besoin d'une trop grande personnalisation de leur contenu.

L'autre fonction nouvelle consiste à obtenir un résumé d'un courrier particulièrement long ou du contenu d'une lettre de diffusion par exemple. Afin là aussi de gagner du temps.

Fonction de résumé d'un mail

Blix explique sur son site qu'il s'est appuyé sur la dernière version GPT-3 du modèle d'OpenAI pour développer ces deux services. Un modèle qu'il a adapté à ses besoins (dans une précédente version de cette page d'explication, la référence à ChatGPT était absente). Il est précisé aussi que le contenu produit est modéré.

C'est pourtant le cœur du problème avec l'équipe de l'Apple Store. Celle-ci a bloqué la validation de cette mise à jour, arguant que l'éditeur devait relever l'âge minimum des personnes auxquelles cette app est destinée. Il est actuellement de 4 ans et plus et Apple souhaite la voir passer à 17 ans minimum. Au motif que le moteur risque de retourner des contenus sensibles du fait qu'aucun filtre de modération n'est intégré.

Blix rejette cette demande, craignant qu'elle ne restreigne le public de son logiciel. Apple, dans sa réponse, lui a fait valoir que la version mobile de Bing, dotée d'une technologie similaire d'OpenAI, était réservée aux 17 ans et plus. Microsoft a confirmé au Wall Street Journal, qui a pu voir la correspondance entre Blix et Apple, que cette restriction était liée aux contenus potentiellement sensibles que le moteur conversationnel de Bing et les requêtes de recherches pourraient retourner aux plus jeunes.

D'autres applications qui utilisent ce système de réponses ont été validées sans cette restriction d'âge, affirme Blix, sans donner d'exemples. On pourrait citer le cas de Shortwave qui propose lui aussi une fonction de résumé à partir d'un mail existant. L'app est aussi disponibles aux 4+, cependant la fonction est en bêta test, elle n'a pas été soumise à l'App Store. En outre, elle ne sait pas rédiger un texte à partir d'une requête de l'utilisateur. Le sort que lui réservera Apple reste donc inconnu.

Un résumé de mail dans Shortwave

L'application de Blix et sa plainte sont actuellement étudiées, assure Apple. Les deux sociétés se connaissent bien et pour d'autres faits de mésentente. Blix avait été déjà contrarié par des délais de validation de plusieurs jours à quelques semaines qu'il jugeait excessifs. Il y a un peu plus de trois ans il avait porté plainte contre Apple, en affirmant que sa nouvelle fonction d'identification "Sign in with Apple," avec ses adresses jetables, enfreignait sa propriété intellectuelle. Blix avait été débouté de sa plainte.

avatar r e m y | 

Et concrètement, comment Apple verifie l'âge des utilisateurs lorsqu'ils téléchargent une app sur son store?
Parce que mettre des limites d'âge c'est bien, mais encore faut-il pouvoir contrôler qu'elles s'appliquent bien! A titre d'exemple, même si Blix indique 17ans et + pour son app afin d'obtenir sa validation, qu'est-ce qui empêchera un utilisateur de moins de 17 ans de la télécharger et l'utiliser?

avatar joneskind | 

@r e m y

Alors complètement au hasard comme ça tout de go je dirais… Le contrôle parental ?

avatar r e m y | 

Oui effectivement.. car en allant regarder de plus près ces indications d'âge dans l'AppStore, il s'agit effectivement plus d'indications du public auquel l'app s'adresse que de véritables limites en-dessous desquelles la vente serait interdite.

Au passage, je note que Safari est indiqué 17 ans et +... il faudrait donc que tous les parents consciencieux retirent cette app des iPhones de leurs rejetons! 😌

avatar Jonathan16 | 

@r e m y

Alors c’est dans le partage familial… lorsque nous avons créé le compte de notre fille, il nous a fallu donner son âge mais nous sommes libres d’augmenter le palier des âges pour l’achat des apps… aujourd’hui par exemple elle ne peut demander notre autorisation de télécharger une app (gratuite ou payante) que si elle porte au maximum la mention + 12.

Pour ce qui est de Safari, et comme toutes les apps Apple, il suffit de le cocher ou le décocher pour qu’il apparaisse sur l’iPhone de notre fille MAIS même si elle l’a, nous jouons avec la restriction de contenu web spécifique à Safari (comme par exemple « limiter les sites pour adultes », de mémoire elle ne peut pas accéder à Google avec cette fonction).

avatar r e m y | 

Ok merci de ces précisions. 👍

avatar Mrleblanc101 | 

@r e m y

Il faut indiquer son âge lors de la création de l'Apple ID, sinon il y a les contrôle parentaux

avatar r e m y | 

Non. Je viens d'essayer en créant un nouvel AppleID, à aucun moment je n'ai dû préciser mon âge.
Par contre, oui pour les contrôles parentaux comme expliqué en détail par Jonathan.

avatar Mrleblanc101 | 

@r e m y

Oui il faut préciser sa date de naissance quand on crée un Apple ID 😂 Il faut avoir plus de 13 ans d'ailleurs

avatar Mrleblanc101 | 

@r e m y

C'est littéralement la 4e question. Nom, prénom, pays, date de naissance..., courriel, mot de passe, confirmation de mot de passe, numéro de téléphone, code de vérification (SMS ou Apple), Annonces , "App, Musique, TV et plus"

avatar r e m y | 

J'ai compris pourquoi vous tombez sur cette demande de date de naissance et pas moi...
Effectivement si on passe par la page appleID et qu'on choisit de créer un nouvel appleID, la date de naissance est demandée.

Mais je fais différemment... je crée une adresse iCloud (là pas de date de naissance demandée) et ensuite je choisi d'utiliser cette nouvelle adresse iCloud comme appleID (et on ne me demande rien concernant mon âge ou quoi que ce soit d autre)

avatar Mrleblanc101 | 

@r e m y

J'ai le même formulaire en passant par iCloud

avatar Glop0606 | 

En tout cas on pourra pas dire que MS n'a pas réussi à faire son petit effet. C'est fou le nombre d'App qui sortent avec cette techno embarquée, et surtout on dirait qu'il n'y a que Chat GPT. Google semble avoir calé sur le bord de la route...

avatar r e m y | 

OpenAI plutôt que MS... (même si MS a, récemment, fortement investi dans openAI)

avatar Glop0606 | 

Vous avez complétement raison et c'est bien de le préciser, histoire de rendre à César ce qui est à César. Je teste en ce moment même Chat GPT au travers de Bing, et j'ai fait ce raccourci "malheureux". Ce qui est cependant vrai, MS utilise à fond cette invention en investissant plus de 10 Milliards dedans...

avatar monsieurg33K | 

En suivant la logique d’Apple, les app mails devraient toutes être 17+ car elles peuvent contenir du contenu choquant. Comme un navigateur internet. Comme une messagerie.

avatar Dsmrcx | 

💡💡💡 J’aimerais bien que l’on puisse rester maître de nos choix en ce qui concerne l’IA…
Parce que maintenant il va y en avoir partout et y’a gros à jouer côté marketing 😳
Seulement, c’est pas du goût de tout le monde !

avatar vicento | 

J’ai beaucoup de mal à comprendre l’utilité de ce genre de prise de position / interdiction

avatar Theduck | 

Mettre des Apps 17+….
Le gars ou la fille a 16ans, ils s’en fou du contrôle parental, il peut passer outre si il veut
Et si on se basait un peu sur l’éducation et la communication avec les gamins au lieu d’essayer de leurs interdire, ça marche mieux qu’un contrôle parental pour des ados qui auront vite fait de cracker vos limitations,
Mais ce n’est que mon avis

avatar hptroll | 

@Theduck

Je serais curieux de savoir comment un iPhone sous contrôle parental peut être craqué pour y installer Safari si les parents s’y opposent (indépendamment de la pertinence de s’y opposer).

avatar Theduck | 

@hptroll

Ne jamais sous estimer l’inventivité de nos tête blonde 😁

avatar hptroll | 

@Theduck

Je suis assez sceptique. De mon expérience, le contrôle parental est assez verrouillé. Au point d’avoir régulièrement des fonctionnalités qui ne fonctionnent pas et qui sont indirectement liées au contrôle parental.
À moins d’ingénierie sociale ou d’un manque d’attention de la part des parents (par exemple saisie du code de contrôle parental observée subrepticement par un tiers de mèche avec les chères têtes blondes), je doute que ce soit davantage faisable que n’importe quel autre hack de l’OS.

avatar occam | 

@Theduck

🤓 « …des ados qui auront vite fait de cracker vos limitations »

On pourrait y voir une manière, détournée et subtilement ironique, de déceler de jeunes talents prometteurs : après tout, Woz et Jobs ont eux aussi débuté par la subversion, avec leurs blue boxes. De l’aveu de Jobs face à son biographe Walter Isaacson, « sans les blue boxes, il n’aurait pas eu d’Apple ».
Mais c’est sans doute créditer la direction actuelle de Cupertino de trop d’inventivité, et surtout de trop d’humour.

avatar Mac13 | 

Personnellement je me méfie de cette fonctionnalité qui survient dans le monde numérique. N'oubliez pas 1984 !

avatar occam | 

@Mac13

🔨 « N'oubliez pas 1984 ! »

Si c’est la dystopie orwellienne qui vous préoccupe : ce n’est pas au niveau de quelques entraves puériles ficelées par Apple qu’il faut la chercher. Elle est déjà bien installée au cœur des algorithmes de 🐈💨. Le physicien Larry Krauss en a fait l’expérience ; il la rapporte dans un récit sur Quillette. Comme l’article vient de passer derrière paywall, je vous propose le lien sur MSN, qui est encore libre d’accès à l’heure où j’écris.
https://www.msn.com/en-ca/news/other/lawrence-krauss-chatgpt-riddled-with-wokism-as-it-is-programmed-to-avoid-giving-offence/ar-AA17WP3X
Alerté par Krauss, le biologiste Jerry Coyne vient de répéter l’expérience et la raconte sur son blog. Une partie de ses lecteurs a également expérimenté ChatGPT ; leurs commentaires méritent lecture.
https://whyevolutionistrue.com/2023/02/26/the-censoriousness-of-chatgpt/
 

CONNEXION UTILISATEUR