エヌビディア、生成AIの繁栄支えるコンピューティング基盤を解説

今回は「エヌビディア、生成AIの繁栄支えるコンピューティング基盤を解説」についてご紹介します。

関連ワード (ビッグデータ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 米NVIDIAの日本法人エヌビディアは説明会を開催し、自社の生成AI向けコンピューティングプラットフォームをハードウェア、ソフトウェア、クラウドサービスに分類して解説した。

 説明会に登壇したテクニカル マーケティング マネージャーの澤井理紀氏は、生成AIの開発では基盤モデルの構築とカスタマイズにおいて複数の課題があると指摘。基盤モデルの構築段階では、膨大なトレーニングデータ、トレーニング/推論用の大規模計算資源、深い専門知識、大規模インフラ上に構築される複雑なアルゴリズムが必要となる。

 カスタマイズの段階では、ハルシネーション(偽情報)や偏見・有害性が含まれた情報の生成のほか、「一般的なデータセットでトレーニングされたモデルには、企業独自の知識が含まれていない」「トレーニング完了時点で知識が固定されてしまう」といった課題が存在する。

 澤井氏は「これらの課題に対応して独自の生成AIを構築・使用するには、NVIDIAのコンピューティングプラットフォームを活用してもらうのが一番簡単である」とアピールした。現在、1600以上の事業者が同社のコンピューティングプラットフォームを利用して生成AIを開発・運用している。

 NVIDIAのGPUはAIの処理に最適化されており、大規模言語モデル(LLM)のトレーニングや実行において高い演算能力を発揮するとともに、高い性能と電力効率を実現するという。拡張性にも優れており、「ChatGPT」の開発では米OpenAIが約1万基に上るNVIDIAのGPUを活用し、数週間にわたってトレーニングを行った。

 生成AIをトレーニングする最新GPUとして「NVIDIA H100 Tensor コア GPU」がある(図1)。同GPUは、深層学習モデル「Transformer」のアーキテクチャーを高速に処理するエンジンを搭載。オンプレミス/クラウドの両方で利用でき、筑波大学やサイバーエージェント、三井物産など幅広い事業者が導入している。

 H100 Tensor コア GPUは、前世代のGPU「A100」の320基と同等の性能を64基で実現する。これにより、総所有コストが3分の1に減少、サーバーノード数が5分の1に減少、エネルギー効率が3.5倍に向上する。

 しかし、基盤モデルのサイズやトレーニングデータの量は指数関数的に増加する。NVIDIAはより大規模な基盤モデルを素早く処理するシステムの開発にも取り組んでおり、その中核としてAIスーパーコンピューター「NVIDIA DGX GH200」の提供を2023年中に予定している(図2)。

 DGX GH200は、256基のアクセラレーテッドCPU「Grace Hopper Superchip」で144テラバイト(TB)の共有メモリー空間を提供する。またGrace Hopper Superchipsは、同じ回路基板上で 「NVIDIA Grace CPU」と「NVIDIA Hopper GPU」を組み合わせることで、従来のPCIeによるCPU・GPU間の接続を不要とし、帯域幅を7倍に増加させるとともに、インターコネクトの消費電力を5倍以上削減する。

 NVIDIAは推論に特化したAIプラットフォームを複数展開しており、画像生成向けの「NVIDIA L40」とLLM向けの「NVIDIA H100 NVL」などがある。L40は、前世代の「A40」と比べて画像生成を7倍の速さで処理する。H100 NVLは、94ギガバイト(GB)のメモリーを搭載したGPUを2つ接続することで、合計188GBのメモリーを備える。また、「GPT-3」の推論を前世代の「A100」と比べて12倍の速さで処理する。

 「生成AIの推論は1回の処理で完了するが、ユーザーからの膨大なリクエストを低遅延で処理する必要がある。推論には、トレーニングとは異なるコンピューティングの難しさがある」と澤井氏は説明した。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
オンキヨー、AV事業売却 音楽デジタル化に対応できず 
IT関連
2021-05-29 00:06
Box、売却検討との報道受け株価が上昇
IT関連
2021-03-23 02:00
メタバースとNFT、Web3は日本で「過度な期待」–ガートナーが見解
IT関連
2022-09-02 16:48
「Google Meet」、ピクチャーインピクチャーから挙手やチャットなどが可能に
IT関連
2023-06-10 15:26
東京五輪の公式Twitterアカウントが一時凍結、組織委が謝罪 原因は“誕生日”
ネットトピック
2021-01-26 01:11
オフィス回帰を望むZ世代、リアルな職場での経験求める
IT関連
2022-07-16 16:38
LayerX、「バクラク請求書発行」に見積書、納品書、領収書を簡単に作成できる機能を追加
IT関連
2023-09-26 00:53
東京メトロ、号車ごとの混雑状況をリアルタイム配信 ホームで撮影した画像をAI解析
アプリ・Web
2021-07-16 05:25
コロナ禍で存在感が増す中古カメラ機器マーケットプレイス構築を目指す英MPBが76億円調達
ネットサービス
2021-05-18 20:45
新潟県の粟島浦村、電子契約「クラウドサイン」導入–村・離島における日本初の事例
IT関連
2022-05-24 09:44
「OpenSSH 9.0」、量子コンピューターを使った攻撃からの保護をデフォルトに
IT関連
2022-04-13 01:24
クラウドネイティブアプリ構築を支援するマイクロソフトのオープンソースプロジェクト「Dapr」が1.0に
ソフトウェア
2021-02-21 17:54
AIが自動ドアの開閉スピードを自動調節、車いす利用者の通行を容易に
ロボット・AI
2021-04-13 19:41
Apple決算、iPhone売上高が前年同期比50%増 2021年度第3四半期
IT関連
2021-07-29 16:18