NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表

今回は「NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表」についてご紹介します。

関連ワード (ITインフラ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NVIDIAは、同社が命名した「スーパーチップ」の強化版として、HBM3eメモリーを搭載する次世代「NVIDIA GH200 Grace Hopper Superchip」を発表した。

 これを搭載するシステムは2024年第2四半期に提供が始まる見込みだ。最高経営責任者(CEO)Jensen Huang氏が米国時間8月8日、ロサンゼルスで開催されているコンピューターグラフィックスの年次カンファレンス「SIGGRAPH」の基調講演で語った。次世代GH200 Grace Hopperは、CPUとGPUを組み込み、より高速なメモリーを搭載することで、回路を行き来するデータの大容量化を実現している。

 これは、2023年に入って発表されたGrace Hopperの次期バージョンだ。初期バージョンは、すでにDellなどのコンピューターに搭載されて出荷されている。

 初代のGrace Hopperでは、「Hopper」GPUにデータを転送する広帯域幅メモリー(HBM)の容量は96GBだが、新GH200では、HBM規格の次期バージョンであるHBM3eの容量が141GBになる。HBM3eにより、GPUに転送されるデータレートは初代Grace Hopperの毎秒4TBから5TBに高速化する。

 次世代GH200は初代と同様、ArmベースのGrace CPUと、Hopper GPUを搭載している。これらは回路基板上で、高速かつキャッシュコヒーレントなメモリーインターフェース「NVLink」によって接続されている。このNVLinkを通じて、Hopper GPUはCPUのDRAMメモリーにアクセスする。

 Huang氏の説明によると、GH200をデュアル構成のサーバー内で第2のGH200に接続することで、HBM3eメモリーの帯域幅は合計10TBになるという。

 NVIDIAは過去にも、GPUパーツのメモリー速度をアップグレードしてきた。例えば、「Ampere」アーキテクチャをベースにした前世代のGPU「A100」は、HBM2からHBM2eに移行した。

 以前のGPUメモリー標準だったGDDRからHBMへの移行は2015年に始まったが、それをけん引したのは、ビデオゲームグラフィックス用の4Kディスプレイのメモリー需要増だった。HBMは積層型のメモリー構成で、個々のメモリーダイが互いに垂直に積み重ねられ、各チップを貫通する「シリコン貫通ビア」を介して、各チップ間の表面にはんだ付けされた「マイクロバンプ」に接続される。

 AIプログラム、特に「ChatGPT」のような生成系AIは、メモリーを大量に消費する。というのも、膨大な数のニューラルの「重み」、すなわちパラメーターを保存する必要があるからだ。ニューラルネットワークにおいては、主要な機能単位である行列がパラメーターになる。これらの重みは、大規模言語モデルのような生成系AIプログラムの新しいバージョンが出るたびに増加し、1兆個のパラメーターに向かう傾向にある。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
GitHub、パスキーを一般提供–GitHub.comの全ユーザーで利用可能に
IT関連
2023-09-24 19:03
Apple、M1 Mac miniに10GbEオプションを追加 1万1000円追加で
IT関連
2021-04-22 03:23
New Relic、脆弱性管理機能を一般提供–セキュリティを可観測性に統合
IT関連
2023-02-11 17:37
人物と服の質感を忠実に3D化 Facebookなど「TexMesh」開発 :Innovative Tech
トップニュース
2021-01-28 10:18
Firefox、サイドバーに統合する生成AIを選択可能に。まずはChatGPTやGoogle Gemini、HuggingChatなど、今後も選択肢を追加
Firefox
2024-06-26 18:39
現場経験と機械学習を組み合わせた航空機の「予知整備」に挑むANA
IT関連
2023-07-07 03:10
NTT Com、「Smart Data Platform」のメニュー体系を刷新
IT関連
2021-02-27 15:02
ZyngaがRPGゲーム分野に拡大を目指し「Torchlight III」のEchtra Gamesを買収
ゲーム / eSports
2021-03-05 20:02
富士通製ツール「ProjectWEB」への不正アクセス調査、129組織での情報流出が判明 「正規のIDとパスワードでログインされた」
IT関連
2021-08-13 04:55
VMwareとNVIDIAが提携、vSphereがNVIDA GPUのハードウェア分割機能に対応、GPUの共有やvMotionが可能に
Docker / コンテナ / 仮想化
2021-03-10 13:37
Uberが中南米の食料品配達スタートアップCornershopを完全子会社化
シェアリングエコノミー
2021-06-23 10:04
「ChatGPT」がサイバーセキュリティの未来にもたらす光と影
IT関連
2023-02-23 02:23
理研と富士通、量子コンピュータの研究拠点を埼玉に開設 実用化に向け試作機など開発
企業・業界動向
2021-04-03 05:05
TechCrunch Japanのスタートアップコミュニティ「TC HUB」がJETROと連携開始
IT関連
2021-07-31 05:05