富士通、AI向けGPU最適化技術を発表–処理性能を最大2.25倍に向上

今回は「富士通、AI向けGPU最適化技術を発表–処理性能を最大2.25倍に向上」についてご紹介します。

関連ワード (ITインフラ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 富士通は10月22日、AIを処理するGPUの演算効率を最適化するミドルウェア「AI computing broker」を発表した。世界的なGPUの枯渇問題解決の一助としても期待され、AIサービス事業者やクラウドサービス事業者向けに提供を開始する。

 同社は、2023年11月に、高い実行効率が見込める処理に対してリアルタイムかつ優先的にGPUを割り振ることで、CPUとGPUの計算リソースを最適化する「アダプティブGPUアロケーター技術」を独自に開発している。

 今回のAI computing brokerは、アダプティブGPUアロケーター技術と各種のAI処理最適化技術を統合したものとのこと。同社によれば、複数プログラム中のGPUを必要とするAI処理部を見極め、計算リソースの割り当てや最適化を自動的に行う。従来のジョブ単位で割り当てる方法とは異なり、動的にGPUのリソースをGPUの計算単位で割り当てて稼働率を向上させるほか、GPUメモリーの管理機能もあり、ユーザーがプログラムで使用するGPUのメモリー量や、GPUの物理的なメモリー容量を気にすることなく、多数のAI処理を割り付けることが可能になるという。

 同社によれば、今回の技術はオンプレミスからクラウドまで、また、単一GPUで使用するAIアプリケーションから複数のGPUを用いる大規模言語モデル(LLM)開発まで幅広く適用できるとする。

 富士通は、2024年5月にトレーダム、さくらインターネット、AWL、エクストリーム-D、モルゲンロットと共同で、単一のGPUを用いた同技術を試行。同技術の非適用時に比べて、GPUの単位時間当たりの処理性能が最大2.25倍に向上する効果を確認したという。また、上述のメモリー管理機能に関しては、最大でGPUの物理メモリー容量の約5倍に相当する150GBメモリーを必要とするAI処理でも同時に取り扱えることを確認したとしている。

 この試行の結果を踏まえて、トレーダムが10月から同技術を採用し、さくらインターネットが富士通と共同で複数のGPUに同技術を適用する実証実験を開始する。富士通は今後、さらに大規模な環境での利用を想定した同技術の適用など、適用範囲を拡張させていくという。

 GPUは、世界的なAI/生成AIの処理需要の高まりを受けて世界的に枯渇しており、今後も供給のひっ迫が見込まれる。富士通は、今回の技術の活用で、AI処理における既存GPUの演算効率の向上とGPUコストの削減、あるいは1つのGPUにできるだけ多くのAI処理を割り当てることが可能になり、AIサービス事業者やクラウドサービス事業者のGPUの運用、世界的なGPUの不足や増大する電力消費などの問題の改善に一助になるとしている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
オープンソースライセンスの真の理解に向け活動を強化するOpen Source Initiative
IT関連
2022-10-08 22:40
NATOのセキュリティ機関、ポスト量子ソリューションで通信をセキュアに–試験実施
IT関連
2022-03-04 16:56
量子コンピューターに年間IT予算の17%以上を投入する企業は今後2年で2倍以上に
IT関連
2021-08-04 09:48
フェイスブックが動画を使った恋人探しアプリ「Sparked」をテスト中
ネットサービス
2021-04-15 15:22
生成型AIは業務の生産性向上に貢献する–全米経済研究所の調査
IT関連
2023-04-26 02:08
東芝デジタルソリューションズ、ビッグデータ・IoT向けデータベースを提供
IT関連
2022-04-27 05:28
KPMGコンサルティングとコンカーが協業–経理関連業務のDXを一気通貫で支援
IT関連
2024-05-18 20:08
成長の加速に向けて「日立創業の精神」に立ち返り–日立製作所・小島社長
IT関連
2024-01-06 08:45
今こそ考えるべき開発者体験–DevOpsとAIによる効率化の関係性
IT関連
2024-08-28 21:07
TwitterのドーシーCEOの初ツイートNFT、2億円超で落札 全額寄付
アプリ・Web
2021-03-24 08:03
サムライインキュベートが短期集中型の事業創出・資金調達プログラムへの参加スタートアップ募集
VC / エンジェル
2021-01-13 04:03
ジェフ・ベゾス氏の初宇宙飛行、7月20日にライブ配信
企業・業界動向
2021-07-15 22:56
マイアミのAsteyaが小企業オーナーやギグワーカー向け「収入保険」商品を発売、保険に人間らしさをもたらす
ネットサービス
2021-03-20 08:42
企業はIT人材不足にあらゆる手で対応、約4割が週休3日制導入の可能性–ガートナー調査
IT関連
2024-08-02 06:11