4 articles · “inference”.
Meta déploiera sa puce d'inférence MTIA 450, conçue avec Broadcom et fabriquée par TSMC, dans ses centres de données au premier semestre 2027, en développant son silicium sur mesure.
Z.ai affirme qu'un agent IA a bâti la pile d'inférence de GLM-5.3-Flash sur plus de 100 000 accélérateurs chinois, triplant le débit en moins de deux semaines.
TypeSafe AI sort de la clandestinité avec 40 millions de dollars et un modèle nommé Jev, qui renvoie des probabilités typées plutôt que de la prose. Il est plus rapide et moins cher qu'un LLM, mais il ne cherche pas à en être un.
Les modèles à mélange d'experts clairsemés n'activent qu'une petite fraction de leurs paramètres par jeton. Routage, capacité et service façonnent les plus grands modèles d'IA.
