NVIDIA、データセンター向けの新GPU「H200」を発表–生成AIやHPCで大幅な性能向上

今回は「NVIDIA、データセンター向けの新GPU「H200」を発表–生成AIやHPCで大幅な性能向上」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NVIDIAは米国時間11月13日、同社の最新のサーバー向けGPUである「NVIDIA HGX H200」を発表した。「NVIDIA Hopper」アーキテクチャーを使用したこのGPUには、生成人工知能(AI)やハイパフォーマンスコンピューティングの大容量データを扱うために、最新のメモリー技術を採用している。

 H200は、世界で初めて「HBM3e」のメモリーを搭載したGPUだ。メモリーの容量は141GB、帯域幅は4.8TB/sで、前世代の「NVIDIA A100」と比べ、容量は約2倍、帯域幅は約2.4倍のスペックになっている。大規模なデータを高速に処理できるため、大規模言語モデルを使用した生成AIや、ハイパフォーマンスコンピューティングの処理を大幅に高速化できるという。

 フォームファクターには、4ウェイ構成もしくは8ウェイ構成のNVIDIA HGX H200サーバーボードの2種類が用意される。これらは、前世代のH100とハードウェアとソフトウェアの両面で互換性がある。サーバーメーカーやクラウド事業者からH200を使用した製品やサービスが提供され始めるのは2024年第2四半期になる見込みで、2024年からH200を使用したインスタンスの提供を開始するクラウドプロバイダーのリストには、Amazon Web Services、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureの名前が挙がっている。

 H200ではパフォーマンスが劇的に向上しており、NVIDIAは、700億パラメーターの大規模言語モデルである「Llama 2」の場合、前世代のH100を使用した場合と比較して、推論速度が2倍近くに跳ね上がると述べている。また、今後のソフトウェアのアップデートでさらなる速度向上が見込まれるという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「Zoff」運営会社に不正アクセス 顧客情報約9万7000件が流出、従業員や取引先企業の情報も
セキュリティ
2021-05-18 21:37
暗号資産、一時660億円流出も4割返還 攻撃者は送金権限を改ざんか
セキュリティ
2021-08-13 17:23
Arm版「Windows」再び–マイクロソフトはサプライズを起こせるか
IT関連
2023-08-04 16:25
Fleksyの共同創設者がApp Store詐欺による売上減でAppleを提訴
ネットサービス
2021-03-31 04:47
シャープ、mini LEDの次世代テレビを試作 コントラスト比は100万:1以上
くらテク
2021-06-30 09:12
インテル、データセンター向けAIプロセッサー「Habana Gaudi2」発表–「IPU」ロードマップも
IT関連
2022-05-14 13:35
次期iPad Pro用ミニLEDバックライトの歩留まり、大幅に改善か
IT関連
2021-04-16 03:28
コンビニ進化、デジタル化で生活インフラとして磨き
IT関連
2021-03-13 00:57
【コラム】フツーのクルマを作ってください
IT関連
2022-02-01 00:19
出前館、クラウド型のID認識プロキシーソリューションを採用
IT関連
2022-02-10 04:09
テスラが超高速モデル「Model S Plaid」の発売イベントを開催
モビリティ
2021-06-13 09:41
電子帳簿保存法への対応は6割以下–宥恕(ゆうじょ)期間終了まで2カ月
IT関連
2023-10-21 06:43
デートアプリTinderが任意の本人確認機能を全世界で近々利用可能に
ネットサービス
2021-08-18 01:19
YouTubeが新しい収益化機能「Super Thanks」発表、個別の動画に対してクリエイターに投げ銭可能に
ネットサービス
2021-07-22 06:07