Avec ses 27 milliards de paramètres compressés à environ 4 Go, jusqu’à 163 tok/s sur RTX 5090 et 87 tok/s sur Apple M5 Max, PrismML relance le débat sur l’IA locale avec Bonsai 27B, un modèle présenté comme capable de tourner nativement sur iPhone, iPad et Mac.
PrismML lance Bonsai 27B et vise clairement l’iPhone
PrismML a officialisé le 14 juillet 2026 son modèle Bonsai 27B, présenté comme le premier modèle majeur de cette taille capable de tourner sur un smartphone, dont l’iPhone. Selon le communiqué de l’entreprise, cette version existe en binaire 1 bit et en variante ternaire 1,58 bit, avec une exécution locale sur Mac, iPhone et iPad via MLX, ainsi que sur GPU NVIDIA via CUDA. Selon PrismML, les poids sont publiés sous licence Apache 2.0 et une API de préversion gratuite est aussi ouverte aux développeurs. ([prismml.com](https://prismml.com/news/bonsai-27b))
Le point clé n’est pas seulement la taille nominale du modèle, 27 milliards de paramètres. Le vrai sujet, c’est la compression. Selon PrismML, une construction classique d’un modèle 27B ne peut pas tenir dans le budget mémoire réellement accessible à une app sur iPhone. La société affirme qu’un iPhone équipé de 12 Go de mémoire n’expose qu’environ 6 Go au modèle pour l’inférence locale, budget qui doit encore être partagé avec le cache KV et les activations. Dans ce cadre, Bonsai 27B en 1 bit tomberait à environ 4 Go, ce qui lui laisserait une marge d’exploitation. ([prismml.com](https://prismml.com/news/bonsai-27b))
Mon avis est simple : l’annonce est crédible sur le plan technique tant qu’on parle de “ça démarre et ça répond localement”, pas forcément de “ça remplace sans compromis un gros modèle cloud”. La nuance change tout.
Ce que la source d’origine ne détaillait pas assez
L’article initial relayait surtout deux idées : la sortie de Bonsai 27B et l’intérêt supposé d’Apple pour la technologie de PrismML. Il restait vague sur plusieurs points utiles : la nature exacte de la base modèle, les formats distribués, le cadre logiciel côté Apple, les comparaisons chiffrées avec d’autres variantes, et les implications concrètes pour un développeur mobile.
Les recherches ajoutent au moins cinq éléments nouveaux et utiles :
- Selon PrismML, Bonsai 27B repose sur une architecture à attention hybride et s’exécute via des kernels bas niveau conçus pour les formats à très faible précision. ([prismml.com](https://prismml.com/news/bonsai-27b))
- Selon la page modèles de Hugging Face, PrismML distribue plusieurs déclinaisons : MLX 1 bit, MLX 2 bit ternaire, GGUF et AWQ 4 bits. ([huggingface.co](https://huggingface.co/prism-ml/models))
- Selon Qwen et Alibaba Cloud, le modèle source compressé est bien Qwen3.6-27B, un modèle dense 27B diffusé au printemps 2026. ([github.com](https://github.com/QwenLM/Qwen3.6/blob/main/README.md?utm_source=openai))
- Selon Apple, MLX est un framework de machine learning pour Apple silicon, ce qui donne un socle natif cohérent à la promesse “tourne sur Mac, iPhone et iPad”. ([github.com](https://github.com/ml-explore/mlx))
- Selon NVIDIA, la carte de référence citée dans les benchmarks, la GeForce RTX 5090, embarque 32 Go de mémoire GDDR7. Ce contexte compte, car il rappelle que les chiffres PC et mobile ne racontent pas la même histoire. ([nvidia.com](https://www.nvidia.com/en-us/geforce/graphics-cards/50-series/rtx-5090/))
Des performances élevées, mais à lire avec méthode
Selon PrismML, Bonsai 27B atteint jusqu’à 163 tokens par seconde en 1 bit et 134 tokens par seconde en ternaire sur une GeForce RTX 5090. Sur une machine équipée d’une puce Apple M5 Max, le modèle monterait à 87 tokens par seconde en 1 bit et 58 tokens par seconde en ternaire. ([prismml.com](https://prismml.com/news/bonsai-27b))
Deux métriques dérivées permettent de mieux lire ces chiffres :
- Le mode 1 bit est environ 87 % plus rapide que le mode 1 bit sur M5 Max lorsqu’on compare la RTX 5090 au Mac d’Apple : 163 tok/s contre 87 tok/s. Calcul : +87,4 %. ([prismml.com](https://prismml.com/news/bonsai-27b))
- En ternaire, l’écart grimpe à environ 131 % entre la RTX 5090 et la M5 Max : 134 tok/s contre 58 tok/s. Calcul : +131,0 %. ([prismml.com](https://prismml.com/news/bonsai-27b))
Autrement dit, le discours “ça tourne sur iPhone” ne veut pas dire “ça tourne au niveau d’un GPU desktop haut de gamme”. C’est une évidence, mais elle mérite d’être dite clairement. La vraie avancée est ailleurs : faire tenir un 27B localement dans une enveloppe mémoire mobile sans passer par le cloud.
Le verrou principal, c’est la mémoire, pas le stockage
Selon PrismML, un iPhone doté de 12 Go de mémoire ne laisserait qu’environ 6 Go à une application pour exploiter un modèle local. Avec un poids annoncé autour de 4 Go en 1 bit, Bonsai 27B consommerait donc à lui seul environ 67 % de ce budget mémoire exploitable. Calcul : 4 Go sur 6 Go. ([prismml.com](https://prismml.com/news/bonsai-27b))
Cette métrique change la lecture du produit. Le modèle “tient” sur téléphone, oui, mais il ne flotte pas dans un espace vide. Il prend déjà l’essentiel de la marge disponible. Et cette marge doit encore absorber le cache de contexte, les activations et l’environnement de l’application. Mon avis est net : l’intérêt de Bonsai 27B sera maximal pour des tâches courtes, ciblées et bien encadrées, pas pour des sessions interminables avec un contexte gigantesque.
Apple, MLX et le signal envoyé aux développeurs
Selon le dépôt officiel MLX, ce framework est développé par la recherche machine learning d’Apple pour les machines Apple silicon. La documentation et le dépôt montrent aussi un écosystème déjà orienté vers l’inférence locale, l’entraînement et le prototypage sur matériel Apple. ([github.com](https://github.com/ml-explore/mlx))
De son côté, PrismML affirme que Bonsai 27B tourne nativement sur les appareils Apple via MLX. Ce point compte plus que l’effet d’annonce autour d’Apple. Pour un développeur, une intégration propre dans la pile Apple vaut davantage qu’une simple démo marketing. ([prismml.com](https://prismml.com/news/bonsai-27b))
Le contexte matériel renforce encore ce signal. Selon Apple, la puce M5 Max peut embarquer un CPU 18 cœurs, jusqu’à 40 cœurs GPU, un Neural Engine 16 cœurs et jusqu’à 128 Go de mémoire unifiée sur le MacBook Pro. Apple met aussi en avant une hausse de bande passante mémoire et une progression de la puissance IA GPU de plus de quatre fois par rapport à la génération précédente sur certains indicateurs internes. ([apple.com](https://www.apple.com/fr/newsroom/2026/03/apple-debuts-m5-pro-and-m5-max-to-supercharge-the-most-demanding-pro-workflows/))
Mon avis est tranché : si Apple regarde réellement PrismML, ce n’est pas pour une anecdote de laboratoire. C’est parce que l’entreprise a besoin de pousser plus loin l’IA locale sans casser son discours sur la confidentialité, la latence et l’efficacité énergétique.
Ce que l’on sait vraiment des discussions avec Apple
Sur ce point, il faut rester froid. Selon la reprise de la déclaration de Babak Hassibi par la presse économique le 14 juillet 2026, Apple et d’autres entreprises évaluent les modèles de la startup, notamment sur la vitesse, l’efficacité énergétique et les performances sur appareil. Le dirigeant a aussi décrit les échanges comme très précoces. En parallèle, une reprise du dossier publié le 9 juillet 2026 indiquait déjà qu’Apple avait tenu des réunions avec PrismML autour d’usages possibles de sa technologie. ([timesbrasil.com.br](https://timesbrasil.com.br/empresas-e-negocios/tecnologia-e-inovacao/apple-negocia-tecnologia-para-rodar-ia-avancada-no-iphone/?utm_source=openai))
Il faut donc séparer deux faits. Premier fait : PrismML a bien lancé un nouveau modèle. Second fait : l’intérêt d’Apple n’a rien d’un partenariat confirmé. À ce stade, on parle d’évaluation. Rien de plus. Toute lecture plus ambitieuse serait un raccourci.
La base technologique : un Qwen3.6-27B compressé, pas un modèle conçu de zéro
Un autre angle absent du texte d’origine mérite d’être posé clairement. Selon Qwen et Alibaba Cloud, Qwen3.6-27B est un modèle dense open source mis à disposition en avril 2026. Selon des reprises cohérentes du dossier PrismML, c’est cette base que la startup a compressée pour la faire rentrer dans des formats 1 bit et ternaires orientés exécution locale. ([github.com](https://github.com/QwenLM/Qwen3.6/blob/main/README.md?utm_source=openai))
Ce point est central, car il change l’angle éditorial. PrismML ne vend pas ici la création d’un grand modèle original de 27B. L’entreprise vend une expertise d’optimisation extrême : réduire la taille mémoire, préserver un niveau de capacité acceptable et maintenir des débits d’inférence compatibles avec du matériel grand public. C’est moins glamour qu’un nouveau foundation model, mais potentiellement plus utile à court terme.
Comparaison concrète avec les autres variantes déjà publiées par PrismML
Selon la page modèles de PrismML sur Hugging Face, la société ne part pas de zéro. Elle avait déjà publié des variantes Bonsai en 1,7B, 4B et 8B, ainsi que des versions image locales. Le saut vers 27B est donc un changement d’échelle, pas une bifurcation. ([huggingface.co](https://huggingface.co/prism-ml/models))
Le différentiel le plus parlant n’est pas seulement le nombre de paramètres. C’est la promesse d’usage. Les modèles 1,7B à 8B pouvaient déjà servir à des assistants locaux, des résumés, de l’automatisation légère ou des tâches hors ligne. Avec 27B, PrismML vise un cran supérieur : raisonnement plus robuste, génération de code plus sérieuse, meilleure compréhension multimodale selon la base Qwen, et un champ d’usage plus crédible pour des apps professionnelles. ([huggingface.co](https://huggingface.co/prism-ml/models))
Cas d’usage concrets : là où un 27B local peut compter
Le meilleur angle pour juger Bonsai 27B, ce n’est pas la fiche marketing. C’est l’usage réel sur appareil.
Assistant code local
Selon Qwen, Qwen3.6-27B est positionné comme un modèle dense performant pour le code. Compressé en local, il peut servir à de l’autocomplétion, de la refactorisation ou de la génération d’exemples sans envoyer du code sensible dans le cloud. ([qwen.ai](https://qwen.ai/blog?id=qwen3.6-27b&lang=zh-CN&utm_source=openai))
Traitement de documents privés
Sur iPad ou Mac, un modèle local de cette classe peut résumer des notes, reformuler des passages, extraire des éléments-clés d’un PDF ou préparer une réponse client hors connexion. Ici, la valeur vient de la confidentialité et de la latence locale plus que du score brut sur benchmark. Cette utilité est cohérente avec le positionnement de MLX et de l’IA sur appareil chez Apple. ([github.com](https://github.com/ml-explore/mlx))
Fonctions embarquées dans une app métier
Le fait que PrismML fournisse les poids sous licence Apache 2.0 et une API de preview simplifie les tests pour les éditeurs d’applications. Une app de santé, de juridique ou de terrain peut, en théorie, embarquer une partie de l’intelligence locale pour travailler même sans réseau. Selon PrismML, c’est précisément la promesse de cette release. ([prismml.com](https://prismml.com/news/bonsai-27b))
Le sujet concurrentiel : pourquoi cette annonce tombe au bon moment
Le marché pousse très vite vers deux extrêmes : d’un côté, des modèles géants dans le cloud ; de l’autre, des modèles plus petits sur appareil. PrismML cherche une troisième voie : faire descendre des modèles de classe supérieure dans des terminaux grand public grâce à la compression. C’est malin, car le besoin existe déjà chez Apple, dont la stratégie IA s’appuie largement sur l’exécution locale.
Les données glanées autour de l’écosystème Apple vont dans ce sens. Selon des reprises de la couverture de juillet 2026, les fonctions IA les plus lourdes côté iPhone demandent désormais 12 Go de mémoire sur certains modèles récents. Cela ne prouve pas un lien direct avec PrismML, mais cela confirme une tension très simple : plus l’IA locale monte en gamme, plus la mémoire devient le nerf de la guerre. ([macrumors.com](https://www.macrumors.com/2026/06/08/most-powerful-on-device-ai-now-requires-iphone-17-pro-or-air/?utm_source=openai))
Mon avis est clair : la fenêtre de tir de PrismML est réelle. Si la société tient ses promesses sur la qualité de sortie et la stabilité, elle peut intéresser autant les éditeurs d’apps que les constructeurs. Si la qualité s’effondre face au modèle d’origine, l’histoire retombera aussi vite qu’elle est montée.
Formats, licences et conversion économique : ce qu’un développeur doit retenir
Selon PrismML et la page Hugging Face de l’éditeur, Bonsai 27B est disponible sous plusieurs formats, dont MLX, GGUF et AWQ 4 bits. C’est un détail crucial : il ouvre des tests sur plusieurs environnements, du Mac local aux configurations GPU classiques. ([prismml.com](https://prismml.com/news/bonsai-27b))
Le taux de change du jour apporte aussi un repère utile pour tout coût facturé en dollars. Selon la Banque de France au 14 juillet 2026, 1 euro vaut 1,1405 dollar, soit 1 dollar = environ 0,8768 euro. Toute conversion future peut donc s’appuyer sur ce ratio, arrondi à l’euro si un tarif développeur ou matériel est communiqué plus tard. ([banque-france.fr](https://www.banque-france.fr/en/statistics/rates-and-prices/exchange-rates-daily-parities-2026-07-14))
À ce stade, aucun prix n’est communiqué pour les poids eux-mêmes puisque PrismML parle d’une disponibilité sous licence Apache 2.0 et d’une API de preview gratuite à durée limitée. Pour la tarification au-delà de cette phase, la seule mention honnête est donc : non communiqué. ([prismml.com](https://prismml.com/news/bonsai-27b))
Ce qu’il faut surveiller maintenant
Trois questions vont décider de la suite.
D’abord, la fidélité du modèle compressé face au Qwen3.6-27B d’origine. PrismML renvoie vers un white paper technique, mais l’article source ne donnait pas de chiffres détaillés de qualité comparative. Sur un sujet comme celui-ci, le débit seul ne suffit pas. ([prismml.com](https://prismml.com/news/bonsai-27b))
Ensuite, la réalité du fonctionnement sur iPhone hors démonstration contrôlée. Dire qu’un modèle tient en mémoire est une chose. Le faire tourner dans une application mobile, avec interface, contexte, gestion thermique et autonomie, en est une autre. Là aussi, des tests tiers seront décisifs.
Enfin, le degré d’implication d’Apple. Aujourd’hui, la seule formulation sérieuse reste celle d’une évaluation précoce. Si Apple va plus loin, l’intérêt sera moins médiatique que stratégique : pousser une IA plus capable sur appareil, sans dépendre systématiquement du cloud. C’est la vraie promesse derrière l’agitation du jour.
Source d’autorité : annonce officielle de PrismML sur Bonsai 27B
Mon avis :
PrismML impressionne par un fait concret : faire tenir un modèle 27B en 3,9 Go et l’exécuter nativement sur iPhone, iPad et Mac via MLX ouvre de vrais usages locaux, plus rapides et plus privés. Mais le lien avec Apple reste fragile : discussions très préliminaires, aucun engagement public confirmé.
