PyTorchやTensorFlow互換のAI処理高速化プラットフォーム「MAX」プレビュー公開、Pythonを高速化した「Mojo」搭載

今回は「PyTorchやTensorFlow互換のAI処理高速化プラットフォーム「MAX」プレビュー公開、Pythonを高速化した「Mojo」搭載」についてご紹介します。

関連ワード (今後、公開、実行等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Pythonの高速なスーパーセット「Mojo」言語を発表したことで話題となったModular社が、AI処理を高速化するプラットフォーム「MAX」(Modular Accelerated Xecution)のデベロッパーエディションをブレビュー公開しました。

MAX Developer Edition Preview has officially launched! It's a drop-in replacement for running and serving @PyTorch, @tensorflow and @onnxai models much faster and leverages the power Mojo for extensibility. Check out the blog posthttps://t.co/z6Nul9DADk

— Modular (@Modular) February 29, 2024

MAXは、AIの推論処理を高速に実行する「MAX Engine」、推論処理にアクセスするためのAPIなどのサービングシステムを提供する「MAX Serving」、そして高速な処理を実現するPython互換のプログラミング言語「Mojo」から構成されています。

MAXのアーキテクチャ

MAXは2023年12月のイベント「ModCon ’23」で発表され、今回デベロッパーエディションが公開されました。

ModCon '23で発表されたMAXModCon ’23で発表されたMAX

今回の注目点はMAX Engineが公開されたことでしょう。

MAX Engineは、推論処理を高速化するコンパイラおよびランタイムです。PyTorch、TensorFlow、ONNX形式のAIモデルであるMistral、Stable Diffusion、Llama2、WevLM、MLMR、ClipVitなどをサポートしており、これらの推論処理をMAX Engineに置き換えることで最大5倍高速なAI処理を実現します。

Modular社はベンチマーク結果も公開しており、Mistral-7Bは3.3倍、Stable Diffusionは1.7倍、Llamaでは2.3倍、MAX Engineの方が高速だとしています。

MAXのためのMAX SDK Developer Editionは現時点でUbuntu Linux版のみで、今後macOS版、Windows版のリリースも予定されています。

ただしMojo言語はすでにLinux版、macOS版が公開されています。

  • Pythonの高速なスーパーセットをうたう新言語「Mojo」、コンパイラなど公開、ローカル環境で利用可能に
  • 高速なPython互換言語「Mojo」のMac版登場、Appleシリコンにネイティブ対応。Pythonの9万倍、C言語に比肩する高速性

また今後は本番環境で利用可能なEnterprise Editionの提供、GPUへの対応なども進めていくとしています。

関連記事

  • 高速なPython互換言語「Mojo」を用いたAIプラットフォーム「MAX」発表。ModCon ’23

COMMENTS


Recommended

TITLE
CATEGORY
DATE
LINE社員の“サクラ”投稿は「事実」 オープンチャットの一部を会社主導で運営 方針見直しへ
くわしく
2021-04-24 06:08
データ、アナリティクス、AIの2021年を占う(1)–DWHとデータレイク、民主化、倫理
IT関連
2021-02-12 12:00
米国証券取引委員会が調査中のEVスタートアップLordstown Motorsを米司法省も調査開始
モビリティ
2021-07-06 11:14
総合物流の山九、「BlackLine」で経理業務の生産性と正確性を向上へ
IT関連
2024-04-11 19:04
「シン・エヴァ」公開日は3月8日に IMAX、MX4D・4DXも同時公開
くらテク
2021-02-27 23:26
Snowflakeの新CEOが語った「アイコニックカンパニー」への思いとは
IT関連
2024-09-21 15:14
日ハム新球場、総合演出システムにパナソニックの映像製品を採用
IT関連
2022-10-09 08:33
ウィズセキュア、Salesforce環境のセキュリティ状態を簡易診断する無料ツール
IT関連
2023-11-28 00:09
Classiとトモノカイ、高校で必修化「探究」の指導と評価をオンラインツールで支援
IT関連
2022-09-01 20:01
SAP、2022年の事業戦略を発表–クラウド、サステナビリティーで選ばれる会社に
IT関連
2022-02-18 02:24
政府が進める「能動的サイバー防御」で「攻撃元の特定」は本当にできるのか
IT関連
2024-06-07 23:41
Raspberry Pi財団がPicoに搭載したRaspberryシリコン「RP2040」を一般向けに発売開始
ハードウェア
2021-06-03 07:41
人気漫画「呪術廻戦」、作者体調不良で1カ月休載へ 編集部からの提案に「時代は変わった」の声
くらテク
2021-06-11 09:15
“耳で遊ぶゲーム”電通が制作 イヤフォンのセンサーで動作や姿勢測定
企業・業界動向
2021-06-20 18:56