車輪を一から再発明するのか、それとも車輪を再発明するのか? Apple、MLXを公開して自社チップ向けに機械学習フレームワークをカスタマイズ

北京時間12月6日、Apple の機械学習研究は、GitHub で MLX をオープンソース化しました。

Appleチップ「専用カスタマイズ版」機械学習フレームワーク

MLX は、Apple チップ専用に設計された機械学習フレームワークです。ユーザーの使いやすさを確保しながら、Apple チップ上でのモデルの効率的なトレーニングとデプロイをサポートすることを目的としています。

MLX はシンプルな設計コンセプトを持ち、NumPy、PyTorch、Jax、ArrayFire などのフレームワークを参照します。その主な機能は次のとおりです。

* おなじみの API:MLX の Python API と ナムピー  非常に似ており、MLX にも完全に機能する C++ API があります。さらに、MLX にも同様の機能があります。 `mlx.nn`  そして `mlx.optimizer`  これらの高レベルのパッケージは、PyTorch API と同様に、複雑なモデルの構築を簡素化できます。

* コンポーザブル関数の変換:MLX は、自動微分、自動ベクトル化、および計算グラフの最適化のための構成可能な関数変換を備えています。

* 遅延計算:MLX での計算は遅延して実行され、配列は必要な場合にのみ作成されます。

* 動的なグラフ構築:MLX の計算グラフは動的に構築され、関数パラメーターの形状を変更してもコンパイル速度が低下することはなく、デバッグはよりシンプルかつ直感的です。

*複数のデバイスのサポート:操作はサポートされている任意のデバイスで実行できます (現在、CPU と GPU がサポートされています)。

* 統合メモリ:統合メモリ モデルは、MLX と他のフレームワークの大きな違いです。 MLX の配列は次の場所に保存されます共有メモリを使用すると、データを移動せずに、サポートされているデバイス上で操作を実行できます。

公式によると GitHub リポジトリ  はじめに、MLX は次のようないくつかの人気のあるチュートリアルを更新しました。

* Transformer 言語モデルのトレーニング

* LLaMA を使用して大規模なテキストを生成し、 LoRA  微調整を実行する

* 安定拡散を使用して画像を生成します

* 音声認識には OpenAI Whisper を使用します

詳細は次の場所で確認できます。

https://github.com/ml-explore/mlx/tree/main/examples

車輪を一から再発明するのか、それとも車輪を再発明するのか?

今回Appleが発売したMLXに関しては、全く異なる2つの声がある。

✅ 正方市の代表者:

MLX は、Apple チップ用に最適化された PyTorch スタイルのニューラル ネットワーク アーキテクチャであり、これまでのところ AI オープンソースの分野における Apple の最も重要な取り組みである可能性があります。

2018年のチューリング賞受賞者でMeta社のチーフAIサイエンティストであるヤン・ルカン氏も、これはよくできていると述べた。

価格を引き下げ、効率を改善し、より優れた消費者向けGPUを発売するよう、Nvidiaに圧力をかけることができることを願っています。

Apple の AI オープンソースへの取り組みは称賛に値し、MLX は Apple チップ上のディープラーニングの革命とみなすことができます。

いいね！ローカルで実行できる GPT-4 のような高品質モデルはいつ登場しますか? MLX は膨大な想像力をもたらします。

❌  野党代表:

@PyTorchTeam と提携して、Apple チップに最適化された PyTorch バックエンドをリリースすることもできたでしょう。 ！
開発者は、これをサポートすることと、PyTorch と MLX の両方をサポートするラッパーを構築することの 2 つの作業を行う必要があります。

これは展開にどのように使用されますか? Nvidia、AMD などがサポートするフレームワークと互換性がない限り、MLX は機械学習エコシステムに悪影響を及ぼします (機械学習は MacBook なしでは実行できません)

Apple が再び車輪を再発明

百聞は一見に如かず 

GitHub の問題: 後でノイズが発生するため、最初にバグを修正してください

コードを見せてください。

MacBook ターミナルから MLX をインストールして実行しようとすると、公式のインストール コードがエラーを報告していることがわかりました。MLX GitHub リポジトリの数人のエンジニアが同様の問題に遭遇しました。

MLX が開発者にとって Apple デバイス上でモデルをトレーニングおよびデプロイするための実用的なフレームワークになるかどうかに関係なく、私たちが尋ねているのは、まずバグを修正できないかということです。 ！

オンラインで待機中です。非常に緊急です。