MLX sous macOS 26.2 va accélérer les IA de type LLM génératif sur M5 ?
Je l'ai vu passer partout, voilà les explications techniques (en anglais).
En bref, non, pas pour un usage en chatbot, car si le M5 va 25% plus vite que le M4, l'accélération énorme (jusqu'à 4 fois plus rapide) promise n'est que pour l'ingestion des Tokens du Prompt (l'entrée donc), pas pour le traitement subséquent.
Avec mon prompt maintenant célèbre "Que faire un week-end de vacances à Limoges?" il n'y aura aucune accélération visible, hors les meilleures perfs du M5 face au M4, grâce à sa meilleure bande-passante mémoire. Mais pas nécessairement un meilleur week-end !
Donc en général, non, MLX sous macOS 26.2 n'accélèrera pas grand chose...
En ce moment, profitez du Black Friday et soutenez MacBidouille