4 Artikel · “inference”.
Meta wird seinen Inferenz-Chip MTIA 450, mit Broadcom entworfen und von TSMC gefertigt, in der ersten Hälfte des Jahres 2027 in Rechenzentren einsetzen, während es eigenes Silicon ausweitet.
Z.ai zufolge baute ein KI-Agent den Inferenz-Stack für GLM-5.3-Flash auf über 100.000 chinesischen Chips und verdreifachte den Durchsatz in unter zwei Wochen.
TypeSafe AI kommt mit 40 Millionen Dollar aus dem Stealth und dem Modell Jev: typisierte statt sprachlicher Ausgabe, schneller und billiger, aber kein LLM.
Sparse-Mixture-of-Experts-Modelle aktivieren pro Token nur einen Bruchteil ihrer Parameter. Wie Routing, Kapazität und Serving die größten KI-Modelle prägen.
