エヌビディア、生成AIの繁栄支えるコンピューティング基盤を解説

今回は「エヌビディア、生成AIの繁栄支えるコンピューティング基盤を解説」についてご紹介します。

関連ワード (ビッグデータ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 米NVIDIAの日本法人エヌビディアは説明会を開催し、自社の生成AI向けコンピューティングプラットフォームをハードウェア、ソフトウェア、クラウドサービスに分類して解説した。

 説明会に登壇したテクニカル マーケティング マネージャーの澤井理紀氏は、生成AIの開発では基盤モデルの構築とカスタマイズにおいて複数の課題があると指摘。基盤モデルの構築段階では、膨大なトレーニングデータ、トレーニング/推論用の大規模計算資源、深い専門知識、大規模インフラ上に構築される複雑なアルゴリズムが必要となる。

 カスタマイズの段階では、ハルシネーション(偽情報)や偏見・有害性が含まれた情報の生成のほか、「一般的なデータセットでトレーニングされたモデルには、企業独自の知識が含まれていない」「トレーニング完了時点で知識が固定されてしまう」といった課題が存在する。

 澤井氏は「これらの課題に対応して独自の生成AIを構築・使用するには、NVIDIAのコンピューティングプラットフォームを活用してもらうのが一番簡単である」とアピールした。現在、1600以上の事業者が同社のコンピューティングプラットフォームを利用して生成AIを開発・運用している。

 NVIDIAのGPUはAIの処理に最適化されており、大規模言語モデル(LLM)のトレーニングや実行において高い演算能力を発揮するとともに、高い性能と電力効率を実現するという。拡張性にも優れており、「ChatGPT」の開発では米OpenAIが約1万基に上るNVIDIAのGPUを活用し、数週間にわたってトレーニングを行った。

 生成AIをトレーニングする最新GPUとして「NVIDIA H100 Tensor コア GPU」がある(図1)。同GPUは、深層学習モデル「Transformer」のアーキテクチャーを高速に処理するエンジンを搭載。オンプレミス/クラウドの両方で利用でき、筑波大学やサイバーエージェント、三井物産など幅広い事業者が導入している。

 H100 Tensor コア GPUは、前世代のGPU「A100」の320基と同等の性能を64基で実現する。これにより、総所有コストが3分の1に減少、サーバーノード数が5分の1に減少、エネルギー効率が3.5倍に向上する。

 しかし、基盤モデルのサイズやトレーニングデータの量は指数関数的に増加する。NVIDIAはより大規模な基盤モデルを素早く処理するシステムの開発にも取り組んでおり、その中核としてAIスーパーコンピューター「NVIDIA DGX GH200」の提供を2023年中に予定している(図2)。

 DGX GH200は、256基のアクセラレーテッドCPU「Grace Hopper Superchip」で144テラバイト(TB)の共有メモリー空間を提供する。またGrace Hopper Superchipsは、同じ回路基板上で 「NVIDIA Grace CPU」と「NVIDIA Hopper GPU」を組み合わせることで、従来のPCIeによるCPU・GPU間の接続を不要とし、帯域幅を7倍に増加させるとともに、インターコネクトの消費電力を5倍以上削減する。

 NVIDIAは推論に特化したAIプラットフォームを複数展開しており、画像生成向けの「NVIDIA L40」とLLM向けの「NVIDIA H100 NVL」などがある。L40は、前世代の「A40」と比べて画像生成を7倍の速さで処理する。H100 NVLは、94ギガバイト(GB)のメモリーを搭載したGPUを2つ接続することで、合計188GBのメモリーを備える。また、「GPT-3」の推論を前世代の「A100」と比べて12倍の速さで処理する。

 「生成AIの推論は1回の処理で完了するが、ユーザーからの膨大なリクエストを低遅延で処理する必要がある。推論には、トレーニングとは異なるコンピューティングの難しさがある」と澤井氏は説明した。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ソフトバンクが「ショートタイムワーク」を展開–障がい者らの就労を後押し
IT関連
2022-08-26 04:59
年収800万円以上のエンジニアは「Rust」と「Go」に注目 転職サービスが1000人調査
キャリア・しごと
2021-08-03 21:13
企業の物流における意思決定を最適化しテストするnextmvが8.4億円調達
ソフトウェア
2021-02-12 03:14
スマートカレンダーツールのClockwiseはAIを活用してリモートワークでの「燃え尽き」をなくす
IT関連
2022-01-20 07:21
猿田彦珈琲、予実管理クラウドを導入–データドリブンな経営判断と現場の意識改革図る
IT関連
2024-05-23 10:38
primeNumber、「海外展開」「無料プラン」で攻勢–データ活用のすそ野を拡大へ
IT関連
2023-03-03 01:41
Javaプログラミングに最適化したコーディング支援AI「Oracle Code Assist」、オラクルがベータ版として公開。Oracle CloudWorld 2024
Java
2024-09-12 09:28
レノボ日本法人が新パートナー制度発足、「ポケットからクラウドまで」を展開
IT関連
2022-04-21 16:09
奨学金を横断検索 NEC、あしなが育英会と開発 1万件以上のデータ集約
社会とIT
2021-06-12 20:50
受発注から決済まで企業間取引をデジタル完結–流通サプライチェーンのデジタル通貨活用で実証
IT関連
2022-06-04 02:11
高まるサプライチェーンリスク、重要性の割に企業対応が弱い現状
IT関連
2024-10-09 15:24
Google検索、いわれなき中傷の被害者を守るアルゴリズム変更
アプリ・Web
2021-06-12 11:13
ILI総研、ExcelでDB入出力機能を作成可能なツール発売
IT関連
2022-05-20 15:09
マイクロソフト、GPT-4に任意のドキュメントなどを読み込ませて回答してもらえる「Azure OpenAI Service On Your Data」が正式サービスに
Microsoft
2024-02-29 20:39