AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表

今回は「AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Advanced Micro Devices(AMD)の最高経営責任者(CEO)Lisa Su氏は米国時間6月13日、同社が開催したイベント「Data Center and AI Technology Premiere」で、人工知能(AI)コンピューティング分野における自社戦略の鍵となるチップを発表した。このチップは、大規模言語モデル(LLM)のような生成型AIのタスクが要求する、膨大なメモリー容量とデータスループットに応えるものだとされている。

 今回発表された「AMD Instinct MI300X」というチップは、以前に発表されていた「AMD Instinct MI300A」に続く製品だ。このチップは実際のところ、複数の「チップレット」が組み合わされたものであり、単一のパッケージ内でそれぞれがメモリーとネットワークリンクを共有するようになっている。

 Su氏は、サンフランシスコのダウンタウンにあるフェアモントホテルで開催した招待客限定の同イベントで、この製品を「生成型AIアクセラレーター」と位置付け、搭載されている「AMD Compute DNA(CDNA)3」アーキテクチャーに基づくGPUチップレットは、「AIとHPC(高性能コンピューティング)のワークロードに特化して設計されたものだ」と述べた。

 MI300Xは「GPUのみ」を搭載した製品だ。MI300Aには3基の「AMD Zen4」CPUチップレットと複数のGPUチップレットが搭載されている。しかしMI300XではCPUの代わりに2基のCDNA 3チップレットが追加搭載されている。

 またMI300Xでは、トランジスター数が1460億個から1530億個に増加しており、共有DRAMの容量はMI300Aの128GBから192GBに増強されている。

 さらに、メモリー帯域幅も5.2TB/秒へと引き上げられている。

 Su氏は、さまざまな種類のコンピュート部品を適切なかたちで組み合わせたり、CPUやGPUを交換できる能力を有しているという点で、「この製品におけるチップレットの使用は極めて戦略的なものだ」と述べた。

 また同氏は、MI300XがNVIDIAの「Hopper」アーキテクチャーを採用した「NVIDIA H100 Tensor Core GPU」に比べ、メモリー密度が2.4倍となっており、メモリー帯域幅も1.6倍になっているとも述べた。

 同氏は「生成型AI、すなわちLLMによって状況は一変した」と述べ、「その用途が訓練であるか、推論であるかに関係なく、より強力なコンピュート性能を求める声が急激に増加している」と続けた。

 Su氏はより強力なコンピュート性能の必要性を示すために、現時点で最も人気のあるLLMと同氏が称するオープンソースの「Falcon 40B」を用い、同チップのデモを実施した。LLMは、ニューラルネットワークの「パラメーター」と呼ばれるものの数が増加の一途をたどる中、より強力なコンピュート性能を必要とするようになる。なお、Falcon-40Bのパラメーター数は400億個だ。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「建設界のShopify」を目指すBrokreteは業界のDXを推進させる
ネットサービス
2021-07-23 03:57
富士通製ツールへの不正アクセス問題 加藤長官「関係業務への支障ない」
企業・業界動向
2021-05-28 01:23
Snyk、AI型アプリケーションセキュリティ管理の「AppRisk Pro」を発表
IT関連
2024-05-03 01:49
ECチェックアウト時にCO2排出量を計算するAPIで環境配慮アピールを支援するLune
IT関連
2022-03-23 16:57
AIガバナンス協会、4つのWGでAIガバナンスの社会実装を加速
IT関連
2024-02-21 02:41
ElasticsearchとKibanaがオープンソースライセンスに復帰、Elasticが発表。AWSがフォークに投資し、市場の混乱は解決されたと
AWS
2024-08-31 02:48
「Windows 11」、AIで刷新か–「フォト」「ペイント」アプリなど
IT関連
2023-08-25 07:17
原子間力顕微鏡を用いて世界で初めて個別のDNA損傷を直接観察することに成功、がんや老化のメカニズム解明に期待
IT関連
2022-03-23 02:57
「AIをポケットからクラウド、エッジまで」–レノボ、ハイブリッドAIビジョンを発表
IT関連
2023-10-27 00:15
CDNレイヤでDBのコネクションプーリングとクエリキャッシュを提供。世界中どこからのDBアクセスでも高速化する「Hyperdrive」、Cloudflareが提供
Cloudera
2023-10-11 11:00
シトリックス、共同作業管理ソフトのWrikeを買収へ–デジタルワークスペース強化
IT関連
2021-01-20 21:24
アップルが顧客満足度のPC部門で首位を維持、サムスンが肉薄–米調査
IT関連
2022-09-22 09:47
鹿島建設、クラウドERPを部門導入–案件別に工数の予実管理が可能に
IT関連
2023-04-07 08:52
情報漏えい対策のいま–国内外の個人情報やプライバシーを守る動き
IT関連
2024-03-08 21:31