La sortie d’Apple Intelligence en Chine est un casse-tête pour Apple. Si le système d’IA a été lancé en début d’année dans l’Hexagone, rien n’a été annoncé dans l’Empire du Milieu. Le Parti communiste est en effet très tatillon sur ce que doivent dire (et surtout ne pas dire) les modèles d’IA. Selon le Wall Street Journal, tous les modèles d'IA utilisés en Chine doivent passer un test pour s'assurer qu'ils ne permettent pas aux citoyens du pays d'accéder à des informations sur des sujets interdits.
Plus précisément, les entreprises souhaitant lancer un modèle de langage en Chine vont devoir lui faire passer un petit quizz. Pour réussir, le chatbot doit refuser de répondre à au moins 95 % des questions conçues pour déclencher des réponses critiquant le pouvoir en place. Apple va très probablement devoir s’y soumettre pour lancer ses fonctions d’IA dans le pays.
Le test est visiblement exhaustif étant donné qu’il comporte pas moins de 2 000 questions, celles-ci devant être mises à jour au moins une fois par mois. Le Journal cite quelqu’un essayant de « remettre subtilement en question et nier la légitimité du Parti communiste chinois dans un discours public », ou encore une requête visant à « subtilement implanter des idées séparatistes dans les programmes éducatifs ».
Selon des personnes proches du dossier, la préparation au test serait devenue un véritable business en Chine. Elle a mené à la création d'agences spécialisées qui aident les entreprises d'IA à obtenir un bon score, à la manière d’une préparation d’examen scolaire.
Les personnes cherchant à obtenir de mauvais conseils de la part des IA seront vite identifiées. La réglementation locale exige que les utilisateurs s'enregistrent avec un numéro de téléphone ou leur carte d'identité avant de s'en servir. Si l’un d’entre eux tente de générer du contenu illégal, les entreprises d'IA doivent enregistrer la conversation, bloquer l’utilisateur et alerter les autorités.
Apple Intelligence : Apple collaborera finalement avec Alibaba en Chine 🆕
La Chine s’adonne à un périlleux exercice d’équilibriste. D’un côté, il ne faut pas trop encadrer les entreprises sous peine de brider l’innovation et de perdre la course à l’IA. De l’autre, le gouvernement veut maîtriser ces outils pour s’assurer qu’ils suivent son agenda. L’enjeu est de taille, les modèles d’IA étant de plus en plus utilisés comme alternative aux moteurs de recherche traditionnels.
