Un document très révélateur sur Apple Intelligence
Apple a récemment publié un document détaillant les technologies, algorithmes et méthodologies utilisés pour créer leurs modèles de langage de base, AFM-Server et AFM-on-device, destinés aux serveurs et aux iPhone, iPad et Mac. Voir le PDF en Anglais.
Contrairement à ce que l'on pourrait penser, la version locale des modèles (AFM-on-device) n'est pas une version allégée de celle des serveurs. Les deux versions sont développées en parallèle, avec des optimisations spécifiques à leur environnement d'exécution respectif.
Bien que la création initiale de ces IA ait été effectuée sur des TPU de Google, Apple précise que la version cloud de ces modèles fonctionnera sur des serveurs équipés de processeurs Apple Silicon. Cette information corrobore en partie les rumeurs selon lesquelles des puces M2 Ultra seraient installées dans les centres de données d'Apple.
Les benchmarks de performance des modèles d'Apple ne sont pas particulièrement exceptionnels par rapport à ceux des concurrents déjà présents sur le marché. Cependant, Apple se distingue par la sécurité et la robustesse de ses modèles face à diverses attaques.
Apple accorde une grande importance à l'évaluation humaine de ses modèles. Les résultats obtenus sont jugés de manière subjective par des humains et semblent surpasser ceux des concurrents. Cette approche d'évaluation humaine est cruciale pour améliorer la qualité et la pertinence des modèles d'Apple.