Réinventer La Roue À Partir De Zéro Ou Réinventer La Roue ? Apple Ouvre Le Code Source De MLX, Un Framework D'apprentissage Automatique Personnalisé Pour Ses Propres Puces

6 décembre, heure de Pékin,Centre de recherche sur l'apprentissage automatique d'Apple (Apple Machine Learning Research) open source MLX sur GitHub.

Un framework d'apprentissage automatique spécialement conçu pour les puces Apple

MLX est un framework d'apprentissage automatique conçu spécifiquement pour les puces Apple.Il vise à soutenir une formation et un déploiement efficaces des modèles sur les puces Apple tout en garantissant la convivialité.

MLX est conçu avec un concept simple, basé sur des frameworks tels que NumPy, PyTorch, Jax et ArrayFire. Ses principales caractéristiques comprennent :

* API familière :API Python MLX NumPy  Très similaire, et MLX dispose également d'une API C++ complète. De plus, MLX a également des `mlx.nn`  et `mlx.optimizer`  Ces packages de niveau supérieur, tout comme l'API PyTorch, simplifient la création de modèles complexes.

* Conversion de fonction composable :MLX propose des transformations de fonctions composables pour la différenciation automatique, la vectorisation automatique et l'optimisation des graphes informatiques.

* Calcul paresseux :Les calculs dans MLX sont effectués paresseusement et les tableaux ne sont créés que lorsqu'ils sont nécessaires.

* Construction de graphes dynamiques :Le graphique de calcul dans MLX est construit de manière dynamique, la modification des formes des paramètres de fonction ne ralentit pas la compilation et le débogage est plus simple et plus intuitif.

* Prise en charge multi-appareils :Les opérations peuvent être exécutées sur n’importe quel appareil pris en charge (actuellement, le processeur et le GPU sont pris en charge).

* Mémoire unifiée :Le modèle de mémoire unifié constitue une différence significative entre MLX et les autres frameworks. Les tableaux dans MLX sont stockés dansMémoire partagéeVous pouvez effectuer des opérations sur n’importe quel appareil pris en charge sans déplacer de données.

Selon les autorités Dépôt GitHub  Introduction, MLX a mis à jour plusieurs tutoriels populaires, notamment :

* Formation au modèle de langage Transformer

* Générer du texte à grande échelle à l'aide de LLaMA et LoRA  Effectuer un réglage fin

* Générer des images à l'aide de la diffusion stable

* Reconnaissance vocale avec OpenAI Whisper

Pour plus d'informations, veuillez visiter :

https://github.com/ml-explore/mlx/tree/main/examples

Réinventer la roue à partir de zéro ou réinventer la roue ?

Il existe deux opinions complètement différentes sur le MLX publié par Apple.

✅ Représentants du camp affirmatif :

MLX, une architecture de réseau neuronal de type PyTorch optimisée pour les puces Apple, pourrait être la décision la plus importante d'Apple à ce jour dans le domaine de l'IA open source.

Yann LeCun, lauréat du prix Turing 2018 et scientifique en chef de l'IA chez Meta, a également salué le travail.

J'espère mettre la pression sur Nvidia pour réduire les prix, améliorer l'efficacité et lancer de meilleurs GPU grand public.

L’engagement d’Apple en faveur de l’IA open source est louable, et MLX est une révolution dans l’apprentissage profond sur les puces Apple.

Cool! Quand aurons-nous un modèle de haute qualité comme GPT-4 qui peut fonctionner localement ? Le MLX apporte beaucoup d'imagination.

❌  Représentants de la partie adverse :

Ils auraient pu travailler avec @PyTorchTeam pour publier un backend PyTorch optimisé pour le silicium Apple ! !
Les développeurs doivent désormais effectuer deux tâches : prendre en charge cela et créer un wrapper pour prendre en charge à la fois PyTorch et MLX !

Comment déployer cette chose ? À moins qu'il ne soit compatible avec les frameworks pris en charge par NVIDIA, AMD, etc., MLX portera préjudice à l'écosystème de l'apprentissage automatique (pas de MacBook, pas d'apprentissage automatique)

Apple réinvente à nouveau la roue

Une image vaut mille mots 

Problème GitHub : j'en discuterai plus tard, mais je corrigerai d'abord le bug.

Parler ne coûte rien. Montre-moi le code.

En essayant d'installer et d'exécuter MLX à partir d'un terminal MacBook,Nous avons constaté que le code d’installation officiel signalait une erreur.Plusieurs ingénieurs du référentiel MLX GitHub ont également rencontré des problèmes similaires.

Si MLX peut devenir un cadre pratique pour les développeurs pour former et déployer des modèles sur les appareils Apple,Nous voulons juste demander, pouvons-nous d’abord corriger le bug ? !

En attente en ligne, assez urgent.