Ouvrir le menu principal

iGeneration

Recherche

Microsoft présente Phi-3, un petit modèle d’IA prometteur pouvant tourner en local sur un iPhone 14

Félix Cattafesta

mercredi 24 avril 2024 à 14:47 • 14

Ailleurs

La sortie de ChatGPT vous a peut-être rendu familier avec le concept de LLM, ces Large Language Model capables de générer du texte et de donner la réponse la plus probable à une requête. Mais il existe également des déclinaisons plus petites baptisées SLM (Small Language Model), que l’on connaît bien dans l’écosystème Apple étant donné que l’un d’entre eux carbure sous le clavier de Sonoma et d’iOS 17. Microsoft n’est pas en reste et a récemment levé le voile sur Phi-3-mini, un modèle similaire présenté comme « les plus performants et le plus rentable du marché ». Sa petite taille lui permet de tourner facilement en local sur un ordinateur, et même correctement sur un smartphone.

Le modèle tournant sur un iPhone 14. Image : Microsoft.

Phi-3-mini est un petit modèle à 3,8 milliards de paramètres, prochainement décliné en plusieurs variantes plus grosses. Malgré sa petite taille quand on le compare aux mastodontes du domaine, Microsoft assure que son produit propose des performances pouvant rivaliser avec la concurrence, citant entre autres GPT-3.5. Le chercheur spécialisé Simon Willison a pu jouer avec avant de partager son expérience à ArsTechnica. Il explique que le modèle peut tourner à une vitesse convenable sur un appareil avec 8 Go de RAM et un CPU standard. « Il devrait fonctionner correctement sur un Raspberry Pi à 55 $ et la qualité des résultats que j'ai pu observer jusqu'à présent est comparable à des modèles quatre fois plus grands », ajoute-t-il.

Dans leur papier de recherche, ses créateurs expliquent l’avoir fait tourner sur un iPhone 14 embarquant la puce A16 Bionic. Le modèle a réussi à générer 12 tokens par seconde, ce qui est plus qu’honorable.

Pour obtenir de telles performances, Microsoft a entrainé son IA sur des données de très haute qualité reprise de manuels scolaires et de contenus soigneusement sélectionnés. L’idée serait de pouvoir proposer une alternative aux grosses machines comme GPT-4, pouvant tourner localement et sans connexion dans le nuage. Une limitation du modèle vient de ses connaissances restreintes par rapport aux concurrents plus imposants, mais ce point n’est pas forcément primordial pour toutes les tâches confiées à un LLM. Phi-3 peut être téléchargé via le service de Cloud Azure, mais aussi depuis la plateforme HuggingFace et Ollama.

Exécuter un grand modèle de langage sur son iPhone, c’est déjà possible

Exécuter un grand modèle de langage sur son iPhone, c’est déjà possible

Ce n’est pas la seule sortie de Microsoft côté IA cette semaine. L’entreprise a également publié WizardLM2, un modèle open source présenté comme très puissant. Seul problème : il a été supprimé quelques heures après sa mise en ligne, Microsoft ayant visiblement oublié l’étape du « test de toxicité ». Difficile de savoir si celui-ci est complètement non censuré et potentiellement dangereux, mais on devrait le savoir assez vite étant donné que de multiples copies sont désormais dans la nature.

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Google lance aux USA un chatbot appelant les professionnels pour vous, aidant ainsi les phobiques du téléphone

21:15

• 12


Test du PlugBug 120 W : un chargeur de voyage qu’on n’oublie pas grâce à Localiser

20:30

• 10


Promo : l'iPhone 16e entre 520 et 639 € au lieu de 719 €

17:40

• 3


Une app de conseil de drague par IA fait fuiter plus de 160 000 conversations privées

17:20

• 4


Le Flipper Zero peut pirater les réseaux Thread

16:48

• 3


iPhone 17 : la future palette de couleurs déjà dans la nature ?

16:19

• 21


À moins de 600 € l'iPhone 16e a peut-être trouvé son public

15:00

• 25


Certains iPhone pourraient être interdits de vente aux États-Unis à la suite d'un litige entre fabricants d’écrans [🆕 : Apple dément tout risque pour ses ventes]

14:51

• 13


L'iPad mini A17 Pro à 550 € en promotion, et une belle réduction aussi sur le modèle 512 Go

14:42

• 12


Quel petit forfait à 2 € choisir chez les grands opérateurs

11:06

• 20


Les premières batteries Qi2.2 arrivent et chargent plus rapidement (25 W) 🆕

09:37

• 16


Promo : un chargeur allume cigare de 60 W pour trois appareils à 17 € au lieu de 28

08:12

• 3


Pornhub, Redtube et YouPorn abandonnent une seconde fois la France

07:42

• 60


On a testé Comet, le navigateur de Perplexity qui explore le web comme nul autre

07:42

• 26


Les bêtas publiques d'iOS 26, iPadOS 26 ou macOS Tahoe prennent du retard

15/07/2025 à 22:24

• 59


Les développeurs de Wheels of Aurelia reprochent à Apple de supprimer leur jeu de l'App Store sans raison

15/07/2025 à 21:58

• 33