AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表

今回は「AMD、生成AI向けアクセラレーターチップ「Instinct MI300X」を発表」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Advanced Micro Devices(AMD)の最高経営責任者(CEO)Lisa Su氏は米国時間6月13日、同社が開催したイベント「Data Center and AI Technology Premiere」で、人工知能(AI)コンピューティング分野における自社戦略の鍵となるチップを発表した。このチップは、大規模言語モデル(LLM)のような生成型AIのタスクが要求する、膨大なメモリー容量とデータスループットに応えるものだとされている。

 今回発表された「AMD Instinct MI300X」というチップは、以前に発表されていた「AMD Instinct MI300A」に続く製品だ。このチップは実際のところ、複数の「チップレット」が組み合わされたものであり、単一のパッケージ内でそれぞれがメモリーとネットワークリンクを共有するようになっている。

 Su氏は、サンフランシスコのダウンタウンにあるフェアモントホテルで開催した招待客限定の同イベントで、この製品を「生成型AIアクセラレーター」と位置付け、搭載されている「AMD Compute DNA(CDNA)3」アーキテクチャーに基づくGPUチップレットは、「AIとHPC(高性能コンピューティング)のワークロードに特化して設計されたものだ」と述べた。

 MI300Xは「GPUのみ」を搭載した製品だ。MI300Aには3基の「AMD Zen4」CPUチップレットと複数のGPUチップレットが搭載されている。しかしMI300XではCPUの代わりに2基のCDNA 3チップレットが追加搭載されている。

 またMI300Xでは、トランジスター数が1460億個から1530億個に増加しており、共有DRAMの容量はMI300Aの128GBから192GBに増強されている。

 さらに、メモリー帯域幅も5.2TB/秒へと引き上げられている。

 Su氏は、さまざまな種類のコンピュート部品を適切なかたちで組み合わせたり、CPUやGPUを交換できる能力を有しているという点で、「この製品におけるチップレットの使用は極めて戦略的なものだ」と述べた。

 また同氏は、MI300XがNVIDIAの「Hopper」アーキテクチャーを採用した「NVIDIA H100 Tensor Core GPU」に比べ、メモリー密度が2.4倍となっており、メモリー帯域幅も1.6倍になっているとも述べた。

 同氏は「生成型AI、すなわちLLMによって状況は一変した」と述べ、「その用途が訓練であるか、推論であるかに関係なく、より強力なコンピュート性能を求める声が急激に増加している」と続けた。

 Su氏はより強力なコンピュート性能の必要性を示すために、現時点で最も人気のあるLLMと同氏が称するオープンソースの「Falcon 40B」を用い、同チップのデモを実施した。LLMは、ニューラルネットワークの「パラメーター」と呼ばれるものの数が増加の一途をたどる中、より強力なコンピュート性能を必要とするようになる。なお、Falcon-40Bのパラメーター数は400億個だ。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
DenoがSlackの新しいプラットフォーム基盤に採用されたことを発表。SlackのBotなどはDenoベースでの開発に
Deno
2022-09-28 17:11
CentOS 8を最長2029年まで使えるようにアップデートパッチを提供し続ける「CentOS 8救済サービス」、RHELクローンOSベンダが提供を発表[PR]
Linux
2021-03-16 23:00
​​​​アダルト系SNSのOnlyFansが「職場安全」なアプリを宣伝、約1098億円超の評価額で資金調達目指す中
ネットサービス
2021-08-20 03:17
チューリング賞、スパコン高速化に貢献したジャック・ドンガラ氏に
IT関連
2022-04-01 10:43
金融会計業界の「標準API」Moneytree LINKのマネーツリーが26億円のシリーズC2調達
フィンテック
2021-05-13 13:34
ビジネスメール詐欺の脅威–高度なスキル不要で「心理」につけ込む
IT関連
2022-07-26 22:40
鉄建建設、3Dセンサーで鉄道工事の線路内侵入を自動検知
IT関連
2022-12-02 01:38
グーグル、バグ報奨金プログラムを新設–オープンソースソフトウェアを対象
IT関連
2022-09-02 10:48
Web会議ツール「Teams」で障害 米Microsoftは「調査中」とコメント【復旧済み】
クラウドユーザー
2021-02-15 04:02
メルカリで障害 アプリやWebサイトが一時つながりにくく 決済サービスにも影響
企業・業界動向
2021-05-11 18:32
Excel世界大会も登場、今改めて考える「eスポーツとは何か」 (1/3 ページ)
くわしく
2021-06-29 06:30
NTTデータ関西、情報プラットフォームを導入–営業・マーケティングの提案力向上
IT関連
2022-09-02 21:52
NRI、リテール証券会社向けバックオフィスシステムを「OCI Dedicated Region」で稼働
IT関連
2023-04-21 21:30
コニカミノルタ、自治体業務をデジタル化する「Govchois」開発–ものづくりの知見を活用
IT関連
2021-05-20 00:24