高速なPython互換言語「Mojo」を用いたAIプラットフォーム「MAX」発表。ModCon '23

今回は「高速なPython互換言語「Mojo」を用いたAIプラットフォーム「MAX」発表。ModCon '23」についてご紹介します。

関連ワード (推論処理、提携、来年等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


高速なPython互換言語「Mojo」の開発元であるModular社は、同社として初のイベント「ModCon ’23」を12月4日にサンフランシスコで開催しました。

基調講演では、AI処理を高速に実行するプラットフォーム「MAX」(Modular Accelerated Xecution (MAX) Platform)が発表されました。

fig

MAXはオンプレミスやクラウドにインストール可能なソフトウェアであり、AIの推論処理を高速に実行する「MAX Engine」、推論処理にアクセスするためのAPIなどのサービングシステムを提供する「MAX Serving」、そして高速な処理を実現するプログラミング言語である「Mojo」から構成されています。

MAX Engine
PyTorchやTensorFlowなど既存のAIフレームワークすべてに対応し、書き換えや変換をすることなくあらゆるハードウェア環境やクラウド環境で高速な推論処理を実行します。同社は従来の実行環境より5倍高速だとしています。

fig
fig

MAX Serving
MAX ServingはMAX Engineのためのサービングライブラリとして、TritonやTorchServeなど既存のサービングシステムとの完全な相互運用性を提供し、PythonやC++、Mojoによるアプリケーション開発のためのAPIを提供。Kubernetesなどコンテナ環境に簡単にデプロイ可能。

fig

Mojo
高速なPython互換言語のMojoでMAX全体が実現されています。

fig

MAXはAI処理をスケールさせる

現在、たとえ世界最大の企業の優秀な技術者集団であっても、生成AIの処理をスケールさせることが非常に困難になってきているという課題に直面していると。

fig

MAXはその課題を解決するソリューションを提供すると説明されました。

fig

MAXは非商用目的であれば無料で利用可能な「Developer Edition」と、商用目的で利用可能な有償の「Commercial Edition」が提供されます。

またModular社はAWSと提携し、来年(2024年)第1四半期にはMAXをAWS Marketplaceで提供することも合わせて発表しました。

fig

さらに、MAXをGPU対応にすることで、さらに高速な処理を実現させる「MAX GPUs」も発表されました。

参考:高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon ’23

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「サイバーハイジーン」で健全なセキュリティ状態を確保可能–タニウム調査
IT関連
2024-09-12 21:43
DNP、工場の製造DXを支援する新ソリューション–飲料メーカー2社の工場に提供
IT関連
2023-06-07 12:07
Instagramがハラスメントに対処する新しいツール「Limits」のテストをしていることを認める
ネットサービス
2021-07-26 19:41
テクノロジーで防災と減災を推進する「CORE」始動–NTTグループなど参加
IT関連
2022-04-22 02:57
FlutterのためのDart製サーバフレームワーク「Serverpod 1.0」正式リリース。Dartでサーバからクライアントまで開発可能に
Dart
2023-02-01 22:10
「macOS」でアプリランチャーを「Dock」に追加するには
IT関連
2023-01-11 21:59
アカマイ、多要素認証機能のクラウドサービスを開始
IT関連
2021-05-20 20:23
「AIOps」とは? IT運用における人工知能の重要性–前編
IT関連
2023-01-18 06:56
アマゾン、「AWS for Games」を立ち上げ–ゲーム業界向けサービス
IT関連
2022-03-26 05:56
AI時代に求められる2つの対照的スキル–数学とビジネス開発
IT関連
2023-10-04 18:16
ウェブプラットフォームのドキュメンテーションを支援する「Open Web Docs」立ち上げ–MSやグーグルら
IT関連
2021-01-26 12:17
マネーフォワードケッサイ、事業者向け請求書カード払いサービスを個人事業主でも利用可能に
IT関連
2023-05-20 23:57
Meta(旧Facebook)が、Rustを社内の正式サポート言語に採用。サーバサイド向けとしてPython、C++、Hackに追加
Facebook
2022-08-01 06:57
アバターフィギュアなどのマーケットプレイスが付随するNFTゲームエンジンをMythical Gamesが開発中
ゲーム / eSports
2021-06-11 17:01