NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表

今回は「NVIDIA、HBM3eメモリー搭載の次世代「GH200 Grace Hopper」を発表」についてご紹介します。

関連ワード (ITインフラ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NVIDIAは、同社が命名した「スーパーチップ」の強化版として、HBM3eメモリーを搭載する次世代「NVIDIA GH200 Grace Hopper Superchip」を発表した。

 これを搭載するシステムは2024年第2四半期に提供が始まる見込みだ。最高経営責任者(CEO)Jensen Huang氏が米国時間8月8日、ロサンゼルスで開催されているコンピューターグラフィックスの年次カンファレンス「SIGGRAPH」の基調講演で語った。次世代GH200 Grace Hopperは、CPUとGPUを組み込み、より高速なメモリーを搭載することで、回路を行き来するデータの大容量化を実現している。

 これは、2023年に入って発表されたGrace Hopperの次期バージョンだ。初期バージョンは、すでにDellなどのコンピューターに搭載されて出荷されている。

 初代のGrace Hopperでは、「Hopper」GPUにデータを転送する広帯域幅メモリー(HBM)の容量は96GBだが、新GH200では、HBM規格の次期バージョンであるHBM3eの容量が141GBになる。HBM3eにより、GPUに転送されるデータレートは初代Grace Hopperの毎秒4TBから5TBに高速化する。

 次世代GH200は初代と同様、ArmベースのGrace CPUと、Hopper GPUを搭載している。これらは回路基板上で、高速かつキャッシュコヒーレントなメモリーインターフェース「NVLink」によって接続されている。このNVLinkを通じて、Hopper GPUはCPUのDRAMメモリーにアクセスする。

 Huang氏の説明によると、GH200をデュアル構成のサーバー内で第2のGH200に接続することで、HBM3eメモリーの帯域幅は合計10TBになるという。

 NVIDIAは過去にも、GPUパーツのメモリー速度をアップグレードしてきた。例えば、「Ampere」アーキテクチャをベースにした前世代のGPU「A100」は、HBM2からHBM2eに移行した。

 以前のGPUメモリー標準だったGDDRからHBMへの移行は2015年に始まったが、それをけん引したのは、ビデオゲームグラフィックス用の4Kディスプレイのメモリー需要増だった。HBMは積層型のメモリー構成で、個々のメモリーダイが互いに垂直に積み重ねられ、各チップを貫通する「シリコン貫通ビア」を介して、各チップ間の表面にはんだ付けされた「マイクロバンプ」に接続される。

 AIプログラム、特に「ChatGPT」のような生成系AIは、メモリーを大量に消費する。というのも、膨大な数のニューラルの「重み」、すなわちパラメーターを保存する必要があるからだ。ニューラルネットワークにおいては、主要な機能単位である行列がパラメーターになる。これらの重みは、大規模言語モデルのような生成系AIプログラムの新しいバージョンが出るたびに増加し、1兆個のパラメーターに向かう傾向にある。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
劇場版「クラッシャージョウ」、YouTubeで無料配信 38年前の劇場公開日に
くらテク
2021-03-13 23:57
請求書発行「請求QUICK」、JIIMA「電子取引ソフト法的要件認証」取得
IT関連
2023-01-18 16:52
EdTechが勢いを拡大したY Combinatorの最新バッチ
EdTech
2021-04-06 11:43
マイクロソフト、「Exchange Server」への攻撃とコード流出の関連を調査
IT関連
2021-03-16 06:53
森永製菓、経理財務DXを推進–海外事業拡大やサステナブル経営に向けて
IT関連
2022-11-24 19:11
少額で日本株投資:利回り3.4~4.7%–「10万円以下」で買える高配当株5選
IT関連
2021-06-03 00:53
ピュア・ストレージ、フラッシュベースのネイティブな統合型ブロック/ファイルストレージを提供
IT関連
2023-04-29 23:31
東急百貨店と日立製作所、小型無人店舗サービスを活用した、新たな購買体験を実証実験
IT関連
2022-09-09 12:59
SAP、テクノロジーによる人材活用策を紹介–KDDIのジョブ型人事構築の事例も
IT関連
2021-06-30 07:55
サイバー攻撃によるサプライチェーンリスクを経済安全保障問題として捉えよ
IT関連
2022-01-21 04:48
七十七銀行、富士通と顧客接点の高度化で記入レス・印鑑レスを実現
IT関連
2023-10-19 12:26
豊通リサイクル、「ヒヤリハット報告アプリ」をノーコード開発–プログラミング未経験の工場長が3時間で作成
IT関連
2022-10-27 13:38
“アバター化”したコンシェルジュがリモートで観光案内 9月まで都庁内などで実証実験
DX
2021-06-15 01:08
バーナーズ・リー氏のソースコード、NFTとして競売に
IT関連
2021-06-16 07:40