Quoi de mieux que de profiter d’encore meilleures performances pour son ordinateur ? Un utilisateur a réussi à booster la vitesse de traitement d’un modèle d’intelligence artificielle avec son iPhone 17 Pro Max connecté à son ordinateur.
Votre Mac n’est pas assez puissant ? Pas de problème, vous pouvez lui ajouter un processeur additionnel. Enfin, presque. Un utilisateur a connecté son iPhone 17 Pro Max à son MacBook Pro M4 Pro en USB-C, mais pas pour transférer des photos. Avec un logiciel personnalisé, il a gagné jusqu’à 44 % de performances sur l’exécution de Qwen 3.6 27B, un modèle d’IA chinois.
Seulement 24 Go de RAM, l’iPhone arrive au secours du Mac
Le MacBook Pro M4 Pro en question dispose de 24 Go de mémoire unifiée. Cette capacité peut s’avérer limitante pour faire tourner ce modèle d’IA en local sur son ordinateur. Mais, en fusionnant les ressources de l’iPhone et du MacBook Pro, l’utilisateur a réussi à contourner la quantité de RAM limitée de son ordinateur. Les tâches étaient alors réparties sur les deux appareils.
Le système fonctionne selon un principe de partage du travail. Le MacBook Pro exécute les couches 1 à 40 de chaque lot de 256 tokens, puis envoie les données à l’iPhone. Ce dernier traite ensuite les couches 41 à 64 à l’aide du GPU de sa puce A19 Pro. Dans le même temps, le MacBook Pro qui a terminé son travail entame le lot suivant. Cette répartition rend le téléphone environ 2,4 fois plus performant qu’en utilisation isolée.
Le Neural Engine de l’iPhone joue également un rôle important en compilant les anciennes données contextuelles en modèle optimisé. Cette opération permet de réduire le temps de traitement lors des sessions prolongées. Pour le prétraitement d’un fichier de 2 000 tokens, les gains varient selon la taille du contexte : 35% à 8 000 tokens, 44% à 16 000 tokens et 29% à 32 000 tokens.
Une solution évidemment imparfaite
Si cette solution est amusante sur le papier et efficace sur le coup, elle n’est toutefois pas parfaite. En effet, l’iPhone n’accélère le prétraitement que jusqu’à 64 000 tokens de contexte, au-delà, la génération reste entièrement gérée par le MacBook Pro, doté d’une puce bien plus performante. Le logiciel utilisé pour cette expérience, nommé “backburner”, est disponible en open-source sur GitHub.
Le chercheur souligne que les puces A20 Pro des iPhone 18 Pro pourraient offrir davantage de possibilités, notamment grâce à leur Neural Engine dual-16-core, potentiellement plus efficace que le GPU pour certaines tâches spécialisées.
