AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表

今回は「AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Advanced Micro Devices(AMD)の最高経営責任者(CEO)Lisa Su氏は米国時間6月13日、同社が開催したイベント「Data Center and AI Technology Premiere」で、人工知能(AI)コンピューティング分野における自社戦略の鍵となるチップを発表した。このチップは、大規模言語モデル(LLM)のような生成型AIのタスクが要求する、膨大なメモリー容量とデータスループットに応えるものだとされている。

 今回発表された「AMD Instinct MI300X」というチップは、以前に発表されていた「AMD Instinct MI300A」に続く製品だ。このチップは実際のところ、複数の「チップレット」が組み合わされたものであり、単一のパッケージ内でそれぞれがメモリーとネットワークリンクを共有するようになっている。

 Su氏は、サンフランシスコのダウンタウンにあるフェアモントホテルで開催した招待客限定の同イベントで、この製品を「生成型AIアクセラレーター」と位置付け、搭載されている「AMD Compute DNA(CDNA)3」アーキテクチャーに基づくGPUチップレットは、「AIとHPC(高性能コンピューティング)のワークロードに特化して設計されたものだ」と述べた。

 MI300Xは「GPUのみ」を搭載した製品だ。MI300Aには3基の「AMD Zen4」CPUチップレットと複数のGPUチップレットが搭載されている。しかしMI300XではCPUの代わりに2基のCDNA 3チップレットが追加搭載されている。

 またMI300Xでは、トランジスター数が1460億個から1530億個に増加しており、共有DRAMの容量はMI300Aの128GBから192GBに増強されている。

 さらに、メモリー帯域幅も5.2TB/秒へと引き上げられている。

 Su氏は、さまざまな種類のコンピュート部品を適切なかたちで組み合わせたり、CPUやGPUを交換できる能力を有しているという点で、「この製品におけるチップレットの使用は極めて戦略的なものだ」と述べた。

 また同氏は、MI300XがNVIDIAの「Hopper」アーキテクチャーを採用した「NVIDIA H100 Tensor Core GPU」に比べ、メモリー密度が2.4倍となっており、メモリー帯域幅も1.6倍になっているとも述べた。

 同氏は「生成型AI、すなわちLLMによって状況は一変した」と述べ、「その用途が訓練であるか、推論であるかに関係なく、より強力なコンピュート性能を求める声が急激に増加している」と続けた。

 Su氏はより強力なコンピュート性能の必要性を示すために、現時点で最も人気のあるLLMと同氏が称するオープンソースの「Falcon 40B」を用い、同チップのデモを実施した。LLMは、ニューラルネットワークの「パラメーター」と呼ばれるものの数が増加の一途をたどる中、より強力なコンピュート性能を必要とするようになる。なお、Falcon-40Bのパラメーター数は400億個だ。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NEC、玉川事業場にイノベーション創造拠点を建設へ–従業員約4700人が利用
IT関連
2022-11-30 17:00
Pythonで環境に依存しないポータブルなCI/CDを記述可能に。「Dagger Python SDK」リリース
CI/CD
2022-11-15 11:00
大分三愛メディカルセンター、医療情報インフラを最適化–設置スペースは4分の1に
IT関連
2023-02-15 04:58
英EU離脱でEUからのデータ移動はどうなる?
IT関連
2021-01-15 19:47
ウイングアーク、「invoiceAgent」と「SPA」をブランド統合
IT関連
2022-06-03 18:15
CentOSの代替目指す「Rocky Linux」、「Google Cloud」でサポート強化
IT関連
2022-04-09 00:55
CrossBorder、インテントマーケティングを実現する「Sales Marker Lead」を提供
IT関連
2023-09-21 07:41
英政府、NVIDIAのArm買収に介入–安全保障上の影響を調査へ
IT関連
2021-04-20 14:29
ドコモの法人会員向けに「NewsPicks+d」スタート DX事例集などの限定コンテンツを追加配信
DX
2021-07-20 03:09
トランスコスモス、SAPのクラウドオファリング「RISE with SAP」を採用
IT関連
2022-12-13 18:44
マイクロソフトの第2四半期は47%増益、クラウド事業が過去最高の業績
ネットサービス
2021-07-29 22:40
OSSのセキュリティ強化へ–グーグルが提案する"重要"プロジェクト向けルール
IT関連
2021-02-10 03:24
KDDIや日立ら、量子関連技術で勤務シフト作成時間を半分以下に短縮
IT関連
2022-09-02 07:42
「VTuberカウンセラー」が婚活支援 ドワンゴがオタク向け新サービス
企業・業界動向
2021-07-03 15:02