Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など

今回は「Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など」についてご紹介します。

関連ワード (大規模、速報、間相互接続等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Googleは、日本時間5月15日から開催中のイベント「Google I/O 2024」で、TPU v5eに続く第6世代のAI専用TPU(Tensor Processing Unit)である「Trillium」を発表しました。

第6世代のAI専用TPU「Trillium」発表

Trilliumは前世代のTPUとなるTPU v5eと比較して、チップあたりのピーク演算性能が4.7倍。高帯域幅メモリー(HBM:High Bandwidth Memory)の容量と帯域幅が2倍になり、チップ間相互接続(ICI: Interchip Interconnect)の帯域幅もTPU v5eに比べて2倍になりました。

Trilliumは前世代のTPUとなるTPU v5eと比較して、チップあたりのピーク演算性能が4.7倍

さらに、Trillium TPUは、TPU v5eよりも67%以上エネルギー効率が向上しているとのこと。

Trilliumは、単一の高帯域幅、低レイテンシを備えたポッドで最大256 TPUまで拡張でき、さらに並列処理などを実現するマルチスライステクノロジーとTitanium Intelligence Processing Units (IPU)により数百のポッドに拡張することで、数万チップの接続が可能なビルディングスケールのスーパーコンピュータとなります。

これにより、大規模な基盤モデルをより速くトレーニングし、レイテンシーを削減し、低コストでこれらのモデルを提供することを可能にすると説明されています。

Trilliumは2024年後半にクラウドユーザーに提供予定です。

fig

Google I/O 2024バックナンバー

  • [速報]Google、Geminiベースの新WebIDE「Project IDX」をオープンベータで公開
  • Google、第6世代のAI専用TPU「Trillium」発表。前世代より約5倍の性能向上、2倍のメモリ容量と帯域など
  • Flutter/DartのWebAssemblyコンパイル機能が安定版に。より高速でスムーズなユーザー体験などを実現
  • Chrome DevToolsにもGeminiを搭載へ。エラーの解決策などAIが支援

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NTT東ら、中学生を対象にスポーツの遠隔指導を実証–GIGAスクール端末活用
IT関連
2022-11-26 05:05
ソフトバンクG、一旦は破産申請した英OneWebに再投資 来年末までに648基の衛星群
企業・業界動向
2021-01-19 03:16
ServiceNow Japan、「Now Platform Utah」をリリース–従業員の安全を支援する新機能も
IT関連
2023-04-13 16:52
Webpackの後継となる新バンドルツール「Turbopack」が登場。Rust製のネイティブアプリケーションでWebpackの700倍高速に。Next.js Conf 2022
JavaScript
2022-10-27 15:41
「ドコモ口座」と銀行口座の連携、2月に再開へ 本人確認を強化
セキュリティ
2021-01-30 12:20
「iPad mini(A17 Pro)」レビュー–電話機能がないことを除けばほぼ完璧
IT関連
2024-10-27 23:14
WebAssemblyランタイム「Wasmtime」がバージョン1.0に到達、本番利用に対応。Bytecode Allianceによる事実上の参照実装
WebAssembly
2022-09-21 23:06
ブルーオリジンが4月14日の打ち上げで「宇宙飛行士リハーサル」を実施、有人宇宙飛行にまた一歩前進
宇宙
2021-04-14 21:29
月定額のカーリースサービス「カルモ」を展開するナイルが50億円超の資金調達
シェアリングエコノミー
2021-01-19 16:31
「人となりが分かる」「機材配置の参考になる」──Cygames社員の“デスク周り”を公開した求人ページが話題に
企業・業界動向
2021-05-19 17:41
写研、公式Webサイトを初公開 ナール、ゴナ、淡古印などの書体プレビューも
イラスト・デザイン
2021-03-11 02:28
マイクロソフトのナデラCEOがアップルに「Windows版iMessageを歓迎する」と呼びかけ
ソフトウェア
2021-06-26 09:19
原点に立ち返った“オリンパスPEN” 誰もが軽快に写真を楽しめる「E-P7」 :荻窪圭のデジカメレビュープラス(1/4 ページ)
くらテク
2021-07-30 02:09
請求書発行「請求QUICK」、JIIMA「電子取引ソフト法的要件認証」取得
IT関連
2023-01-18 16:52