Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など

今回は「Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など」についてご紹介します。

関連ワード (大規模、速報、間相互接続等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Googleは、日本時間5月15日から開催中のイベント「Google I/O 2024」で、TPU v5eに続く第6世代のAI専用TPU(Tensor Processing Unit)である「Trillium」を発表しました。

第6世代のAI専用TPU「Trillium」発表

Trilliumは前世代のTPUとなるTPU v5eと比較して、チップあたりのピーク演算性能が4.7倍。高帯域幅メモリー(HBM:High Bandwidth Memory)の容量と帯域幅が2倍になり、チップ間相互接続(ICI: Interchip Interconnect)の帯域幅もTPU v5eに比べて2倍になりました。

Trilliumは前世代のTPUとなるTPU v5eと比較して、チップあたりのピーク演算性能が4.7倍

さらに、Trillium TPUは、TPU v5eよりも67%以上エネルギー効率が向上しているとのこと。

Trilliumは、単一の高帯域幅、低レイテンシを備えたポッドで最大256 TPUまで拡張でき、さらに並列処理などを実現するマルチスライステクノロジーとTitanium Intelligence Processing Units (IPU)により数百のポッドに拡張することで、数万チップの接続が可能なビルディングスケールのスーパーコンピュータとなります。

これにより、大規模な基盤モデルをより速くトレーニングし、レイテンシーを削減し、低コストでこれらのモデルを提供することを可能にすると説明されています。

Trilliumは2024年後半にクラウドユーザーに提供予定です。

fig

Google I/O 2024バックナンバー

  • [速報]Google、Geminiベースの新WebIDE「Project IDX」をオープンベータで公開
  • Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など
  • Flutter/DartのWebAssemblyコンパイル機能が安定版に。より高速でスムーズなユーザー体験などを実現
  • Chrome DevToolsにもGeminiを搭載へ。エラーの解決策などAIが支援

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ミズノ、データ活用基盤を「Microsoft Azure」で構築へ–データドリブン経営などの推進
IT関連
2023-09-30 09:55
クラウドで“お堅い会社”が変わり始めた–関西電力送配電の体験記
IT関連
2022-10-08 17:09
第1回:エンタープライズ適用が進むブロックチェーン
IT関連
2022-08-05 02:08
保有物件の収支管理をクラウドで一元管理、不動産による資産形成を支援するヤモリが5000万円調達
ネットサービス
2021-06-10 01:24
マイクロソフト、エッジデバイスへのAI導入を支援する「Azure Percept」発表
IT関連
2021-03-03 12:38
「Amazonでさえサーバレスやマイクロサービスを理解できない」とDHH氏が主張する一方で、「進化可能なアーキテクチャこそ重要」とAmazonのVogels博士
AWS
2023-05-15 00:55
NewSQLのTiDBはBigQueryに比肩するOLAP性能を叩き出せるか? データ分析基盤を運用するプレイド社が検証結果を明らかに[PR]
Google Cloud
2023-11-27 08:02
パスワードマネージャのLastPassと1Passwordが相次いでFIDO/WebAuthnへの対応を発表。パスワードレスの時代にパスワードマネージャの存在意義はどうなるのか?
FIDO/WebAuthn
2022-06-13 21:48
ランサムウェア攻撃から2週間 富士フイルム、顧客向け通常業務が復旧
セキュリティ
2021-06-16 23:10
NFCタグで高級トマトジュースの不正流通対策–サトーとサジェスコム
IT関連
2023-10-26 21:13
電通が炎上覚悟で「アマビエ」を商標出願した理由 弁理士が分析
くわしく
2021-07-15 04:54
サイバーセキュリティの最も重要な原因となっているヒューマンエラーに対処する独SoSafe
IT関連
2022-01-18 13:55
困難なグリーンテック推進、成功の鍵は–ITリーダーに聞く
IT関連
2023-03-11 03:22
モリサワ、オンライン決済基盤の活用でサブスクサービスの開発リードタイムを短縮
IT関連
2023-05-19 05:50