PyTorchやTensorFlow互換のAI処理高速化プラットフォーム「MAX」プレビュー公開、Pythonを高速化した「Mojo」搭載

今回は「PyTorchやTensorFlow互換のAI処理高速化プラットフォーム「MAX」プレビュー公開、Pythonを高速化した「Mojo」搭載」についてご紹介します。

関連ワード (今後、公開、実行等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Pythonの高速なスーパーセット「Mojo」言語を発表したことで話題となったModular社が、AI処理を高速化するプラットフォーム「MAX」(Modular Accelerated Xecution)のデベロッパーエディションをブレビュー公開しました。

MAX Developer Edition Preview has officially launched! It's a drop-in replacement for running and serving @PyTorch, @tensorflow and @onnxai models much faster and leverages the power Mojo for extensibility. Check out the blog posthttps://t.co/z6Nul9DADk

— Modular (@Modular) February 29, 2024

MAXは、AIの推論処理を高速に実行する「MAX Engine」、推論処理にアクセスするためのAPIなどのサービングシステムを提供する「MAX Serving」、そして高速な処理を実現するPython互換のプログラミング言語「Mojo」から構成されています。

MAXのアーキテクチャ

MAXは2023年12月のイベント「ModCon ’23」で発表され、今回デベロッパーエディションが公開されました。

ModCon '23で発表されたMAXModCon ’23で発表されたMAX

今回の注目点はMAX Engineが公開されたことでしょう。

MAX Engineは、推論処理を高速化するコンパイラおよびランタイムです。PyTorch、TensorFlow、ONNX形式のAIモデルであるMistral、Stable Diffusion、Llama2、WevLM、MLMR、ClipVitなどをサポートしており、これらの推論処理をMAX Engineに置き換えることで最大5倍高速なAI処理を実現します。

Modular社はベンチマーク結果も公開しており、Mistral-7Bは3.3倍、Stable Diffusionは1.7倍、Llamaでは2.3倍、MAX Engineの方が高速だとしています。

MAXのためのMAX SDK Developer Editionは現時点でUbuntu Linux版のみで、今後macOS版、Windows版のリリースも予定されています。

ただしMojo言語はすでにLinux版、macOS版が公開されています。

  • Pythonの高速なスーパーセットをうたう新言語「Mojo」、コンパイラなど公開、ローカル環境で利用可能に
  • 高速なPython互換言語「Mojo」のMac版登場、Appleシリコンにネイティブ対応。Pythonの9万倍、C言語に比肩する高速性

また今後は本番環境で利用可能なEnterprise Editionの提供、GPUへの対応なども進めていくとしています。

関連記事

  • 高速なPython互換言語「Mojo」を用いたAIプラットフォーム「MAX」発表。ModCon ’23

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Google検索のAR機能に有名キャラ登場 エヴァやガンダムなど全14種
ネットトピック
2021-04-21 18:28
コロナ後のオフィスに戻った従業員をハッカーが「おかえりなさい」フィッシングの標的に
セキュリティ
2021-06-03 03:06
「請求QUICK」、請求書受取機能に仕訳機能を搭載へ
IT関連
2024-01-14 14:45
NECとNLJ、ロジスティクス分野の戦略的提携を検討–両社サービスを連携
IT関連
2024-06-15 23:22
マイクロソフト、CRMやERPと統合したAIサービス「Dynamics 365 Copilot」発表。会議のサマリ作成、社内ナレッジベースを基に顧客への回答作成など
CRM
2023-03-08 23:53
東京エレクトロン デバイス、生成AIで製造業の保守サポート業務を支援するサービス発売
IT関連
2024-10-24 23:31
漫画の海賊版が再び拡大 サイト相次ぎ被害急増、「漫画村」超す
IT関連
2021-03-30 08:45
SAPジャパン、中堅中小企業向けのERP導入サービス「GROW with SAP」を国内展開
IT関連
2023-07-14 06:12
次期iPad Pro 12.9-inch (5th generation) はミニLEDバックライト付きの可能性
IT関連
2021-03-19 14:10
日本マイクロソフトが生成AIサービスの利用社数を公開し続ける理由
IT関連
2023-12-23 14:18
お部屋探しプラットフォーム「カナリー」が不動産業者間流通サイト「リアプロ」と連携、タイムリーな空室情報提供を実現
IT関連
2022-01-25 04:28
日本IBMとレッドハット、安田倉庫の「総合物流情報システム」刷新を支援
IT関連
2023-04-15 21:42
米バイデン政権、約220兆円のインフラ計画を発表–ブロードバンド拡充に約11兆円
IT関連
2021-04-02 21:18
「Microsoft Teams」、個人用と仕事用のアプリを1つに統合
IT関連
2024-08-22 06:18