Google Cloudが「Cloud TPU v5p」発表、AI処理に特化したプロセッサ。前世代より2.8 倍高速に大規模言語モデルをトレーニング。Google Cloud Next '24

今回は「Google Cloudが「Cloud TPU v5p」発表、AI処理に特化したプロセッサ。前世代より2.8 倍高速に大規模言語モデルをトレーニング。Google Cloud Next '24」についてご紹介します。

関連ワード (最大、特化、能力等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Google Cloudは、日本時間4月10日未明から開催中のイベント「Google Cloud Next ’24」で、同社が独自に開発しているAI処理に特化したプロセッサ「Cloud TPU」の最新版となる「Cloud TPU v5p」を発表しました。

Cloud TPU v5p

TPU v5pは前世代のTPU 4と比較して最大4倍の能力を持つとのこと。

fig

さらに2倍以上の浮動小数点演算性能(FLOPS)と3倍以上の高帯域幅メモリ(HBM)を備え、コストパフォーマンスは2.3倍向上し、2.8倍高速に大規模言語モデル(LLM)をトレーニングできるとしています。

fig

TPUは基本的に多数のチップを集積したポッドとして構成されます。TPU v5pの各ポッドは8960個のチップで構成されており、3Dトーラスのトポロジーで4800Gbps/チップという最高帯域幅のチップ間相互接続(ICI)を実現しているとのことです。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
企業のAI導入は3年以内が6割超、4割超が作業時間の削減実感–ソニービズネットワークス調査
IT関連
2022-06-01 05:37
2024年のソフトウェアエンジニアリングに関する戦略的テクノロジは「プラットフォームエンジニアリング」「クラウド開発環境」、AIを活用した「AI拡張型開発」など。ガートナー
クラウド
2024-06-18 11:08
コメ兵、勤務シフト自動作成サービスを導入–責任者の負担軽減とミス削減
IT関連
2024-06-19 04:12
ソフトバンク傘下のArm、1000人近くの人員削減か–NVIDIAへの売却頓挫で
IT関連
2022-03-17 23:59
“耳で遊ぶゲーム”電通が制作 イヤフォンのセンサーで動作や姿勢測定
企業・業界動向
2021-06-20 18:56
「ファミコン」の操作ボタンがカプセルトイに シークレットあり 
くらテク
2021-06-25 13:54
CTC、AI活用のためのデータ準備サービスを開始–IT分野での障がい者の職域拡大も目指す
IT関連
2021-08-23 22:24
信頼できるデータパイプラインの構築を支援するIterativelyが5.7億円を調達
ソフトウェア
2021-02-07 18:54
パーソル、他社へ派遣したスタッフの在宅勤務用PCを無償貸し出し 緊急事態宣言解除まで
最近の注目ニュース
2021-01-21 01:54
フォーティネット、クラウドコンサルやマネージドサービスを国内提供
IT関連
2023-05-24 13:01
顧客体験を改善するには技術者が人と話すべき
IT関連
2023-05-25 19:46
「Snowflake Data Superheroes」選出の3人がデータ活用事例を披露
IT関連
2023-03-29 14:01
リモートワークか、オフィス回帰か–経営者のこれまでの常識は通じなくなる
IT関連
2022-05-25 06:42
SambaNova Systems、言語モデルに最適化された半導体「SN40L」を発表
IT関連
2023-09-22 09:18