NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表

今回は「NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表」についてご紹介します。

関連ワード (ITインフラ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NVIDIAは、同社が命名した「スーパーチップ」の強化版として、HBM3eメモリーを搭載する次世代「NVIDIA GH200 Grace Hopper Superchip」を発表した。

 これを搭載するシステムは2024年第2四半期に提供が始まる見込みだ。最高経営責任者(CEO)Jensen Huang氏が米国時間8月8日、ロサンゼルスで開催されているコンピューターグラフィックスの年次カンファレンス「SIGGRAPH」の基調講演で語った。次世代GH200 Grace Hopperは、CPUとGPUを組み込み、より高速なメモリーを搭載することで、回路を行き来するデータの大容量化を実現している。

 これは、2023年に入って発表されたGrace Hopperの次期バージョンだ。初期バージョンは、すでにDellなどのコンピューターに搭載されて出荷されている。

 初代のGrace Hopperでは、「Hopper」GPUにデータを転送する広帯域幅メモリー(HBM)の容量は96GBだが、新GH200では、HBM規格の次期バージョンであるHBM3eの容量が141GBになる。HBM3eにより、GPUに転送されるデータレートは初代Grace Hopperの毎秒4TBから5TBに高速化する。

 次世代GH200は初代と同様、ArmベースのGrace CPUと、Hopper GPUを搭載している。これらは回路基板上で、高速かつキャッシュコヒーレントなメモリーインターフェース「NVLink」によって接続されている。このNVLinkを通じて、Hopper GPUはCPUのDRAMメモリーにアクセスする。

 Huang氏の説明によると、GH200をデュアル構成のサーバー内で第2のGH200に接続することで、HBM3eメモリーの帯域幅は合計10TBになるという。

 NVIDIAは過去にも、GPUパーツのメモリー速度をアップグレードしてきた。例えば、「Ampere」アーキテクチャをベースにした前世代のGPU「A100」は、HBM2からHBM2eに移行した。

 以前のGPUメモリー標準だったGDDRからHBMへの移行は2015年に始まったが、それをけん引したのは、ビデオゲームグラフィックス用の4Kディスプレイのメモリー需要増だった。HBMは積層型のメモリー構成で、個々のメモリーダイが互いに垂直に積み重ねられ、各チップを貫通する「シリコン貫通ビア」を介して、各チップ間の表面にはんだ付けされた「マイクロバンプ」に接続される。

 AIプログラム、特に「ChatGPT」のような生成系AIは、メモリーを大量に消費する。というのも、膨大な数のニューラルの「重み」、すなわちパラメーターを保存する必要があるからだ。ニューラルネットワークにおいては、主要な機能単位である行列がパラメーターになる。これらの重みは、大規模言語モデルのような生成系AIプログラムの新しいバージョンが出るたびに増加し、1兆個のパラメーターに向かう傾向にある。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
チューリング賞、スパコン高速化に貢献したジャック・ドンガラ氏に
IT関連
2022-04-01 10:43
iPhoneのWi-Fi機能にバグ、特定の名前を持つWi-Fiスポットに繋ぐとすべてのWi-Fi機能が無効化(回避策あり)
セキュリティ
2021-06-22 22:05
マルチクラウドに生成AIを加えるヴイエムウェアの新展開
IT関連
2023-08-25 17:27
ADKグループ、全社員に「Azure OpenAI Service」活用のボット公開–プランニングへの活用など図る
IT関連
2023-06-14 01:55
GitHub、膨大なコードに対応する検索エンジン「Blackbird」を解説
IT関連
2023-02-11 00:55
グーグル、「Chrome」の脆弱性を悪用した北朝鮮の攻撃グループの活動明らかに
IT関連
2022-03-30 22:58
第30回:デジタル変革にはほど遠いひとり情シスの中堅企業
IT関連
2021-04-27 04:03
学習院大学が全学共通科目「宇宙利用論」を2023年度から開講、宇宙商社Space BDとの産学連携カリキュラム
IT関連
2022-03-11 15:21
【コラム】Web3の成功はセキュリティ対策の修正にかかっている
IT関連
2022-02-02 09:06
インド最大の教育オムニチャネル構築を目指しEdTech大手Byju’sが個別指導塾Aakashを約1102億円で買収
EdTech
2021-04-07 06:47
マイクロソフト、「M1」「M2」搭載Macでの「Windows 11」をサポート
IT関連
2023-02-21 10:12
Next.jsのVercelがフロントエンドのクラウド化とサーバーレス化に向けて約113億円調達
ネットサービス
2021-06-28 15:03
「Slackコネクト」使い倒すGMOインターネットとクラウドネイティブの実際
IT関連
2022-07-29 09:26
シード、国産クラウドストレージ「Fileforce」導入–容量不足解消へ
IT関連
2024-12-01 21:20