Avec iOS 18.4, les fiches de l’App Store ont « gagné » un résumé des commentaires, qui donne une idée de la teneur globale des avis sur telle ou telle application. Le rodage de cette nouveauté, elle est en bêta, a démarré au États-Unis. Comme vous pouvez vous en douter, cette fonctionnalité tire parti d’« un nouveau processus utilisant un grand modèle de langue (LLM) à plusieurs étapes », comme l’explique Apple sur son blog dédié au machine learning.
« Actualité », « diversité » et « fiabilité », tels sont les trois piliers du modèle entrainé par Apple. Les commentaires passent par une séquence de modules, qui dégagent les principaux thèmes, évaluent le sentiment général et composent un résumé de 100 à 300 signes. La firme de Cupertino utilise ainsi trois LLM spécialisés pour atteindre ses objectifs de « sécurité, équité, justesse et utilité ».
C’est toute l’astuce de son système… et tout le problème. Passe encore qu’elle écarte les tentatives d’arnaque et les commentaires franchement hors sujet, mais en rejetant les appréciations les plus vives, elle déforme sciemment le sentiment général. Les résumés sont d’une tiédeur affligeante, au point que l’on doive se demander s’ils n’ont pas été créés pour marginaliser les véritables commentaires, qui gênent Apple aux entournures.
« Les utilisateurs disent que l’application est divertissante », dit le résumé de l’application TikTok, sans mentionner la litanie de remarques désobligeantes à l’encontre de cette arme de distraction massive. X serait « une excellente plateforme pour exprimer ses opinions », un parangon de « transparence et d’information sans biais », et tant pis si des milliers de commentaires (et les faits) prouvent le contraire. Le problème des LLM, c’est qu’on peut leur faire dire tout et surtout n’importe quoi.
