「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行

今回は「「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行」についてご紹介します。

関連ワード (クライアント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 「CES 2025」で注目の話題は、AIを搭載したテレビや新しいスマートホームガジェット、そして最新ノートPCの発表だ。しかし、筆者にとって最大のニュースは「NVIDIA Project DIGITS」だった。この革新的なデスクトップ型のAIスーパーコンピューターは、AI開発者、研究者、学生に前例のない計算能力を提供するように設計されている。さらに、「Ubuntu Linux 22.04」をベースとした「NVIDIA DGX OS」が動作している。

 DGX OSは、「Nvidia DGX」プラットフォーム上で人工知能や機械学習、分析アプリケーションを実行するために、システム固有の最適化と構成、追加のドライバー、診断および監視ツールを備えたLinuxディストリビューションである。

 加えて、NVIDIAは、AIソフトウェア開発キット、オーケストレーションツール、「NVIDIA NGC」カタログフレームワークとモデル、モデルを微調整するための「NVIDIA NeMo」フレームワーク、データサイエンスアクセラレーション用の「NVIDIA RAPIDS」ライブラリーも提供する。もちろん、本質的にはUbuntu Linuxシステムなので、UbuntuとLinuxのソフトウェアを実行することができる。

 「Mac mini」ほどの大きさの筐体に入ったProject DIGITSは、ペタプロップス(PFLOPS)級のAI性能をデスクトップにもたらすことを約束している。1PFLOPSは、1秒間に1000兆回の浮動小数点演算を行えるだけの処理性能を持つことを意味している。

 IBMが2008年にスーパーコンピューター「Roadrunner」を発表するまで、1PFLOPSの性能を超えたコンピューターは存在しなかった。それと同等のコンピューティング性能が、まもなくホームオフィスでも実現するだろう。最新のスーパーコンピューターTOP500リストでも、2PFLOPSをわずかに上回るコンピューターがランクインしている。そうしたコンピューターは、性能実現のために1000個以上のプロセッサーコアを必要としている。ちなみに、それらのコンピューターは全てLinuxで稼働している。

 Project DIGITSは、新しい「NVIDIA GB10 Grace Blackwell Superchip」を搭載し、128GBのメモリーと最大4TBのNVMeストレージを備えている。「NVIDIA AI」ソフトウェアスタックがプリインストールされ、開発者は最大2000億パラメーターの大規模言語モデル(LLM)をローカルで実行し、データセンターやクラウドにシームレスに展開できる。

 NVIDIA GB10 Grace Blackwell Superchipには、ARMベースの「NVIDIA Grace CPU」が搭載され、「Cortex-X925」(10コア)と「Cortex-A725」(10コア)で合計20コアとなっている。加えて、最新世代の「CUDA」コアと「RT」コアを備えた「NVIDIA Blackwell GPU」も備える。Project DIGITSを2台接続すれば、最大4050億パラメーターのAIモデルを実行できるとしている。

 NVIDIA 最高経営責任者(CEO)のJensen Huang氏は、Project DIGITSについて「AIスーパーコンピューターを全てのデータサイエンティスト、AI研究者、学生の机の上に置くことで、彼らがAIの時代に関わり、その発展に寄与できるようになる」と述べた。

 3000ドルという低価格を実現したProject DIGITSは、小規模企業から教育機関まで、幅広いユーザー層に高性能なAI開発をより身近なものにすることを目指している。この価格であれば、Project DIGITSのデスクトップが家庭にも普及するだろう。

 2025年5月に発売予定のこのLinux搭載システムは、コンパクトでデスクに置けるサイズでありながらデータセンターレベルのパフォーマンスを実現することで、AI開発の状況を一変させるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
生成AI、世界経済に年間620兆円の価値をもたらす可能性–マッキンゼー最新報告
IT関連
2023-07-12 14:44
Cloudera、データ分析を加速する3つのAIアシスタント機能を発表
IT関連
2024-06-29 19:25
ウィズセキュア、セキュリティリサーチ部門「WithIntel」新設
IT関連
2022-07-20 03:21
Anthropic、AIモデル「Claude」最新版にコンピューター操作の新機能を追加
IT関連
2024-10-24 18:01
内田洋行、北海道新聞社の本社オフィス構築を支援–ハイブリッドワークを促進
IT関連
2024-11-08 13:37
サステナビリティー経営のITソリューションはERPベンダーに有利か
IT関連
2022-04-28 22:28
サイバー犯罪を減らすマイクロソフトの取り組み–責任者に聞く現状と今後
IT関連
2024-03-23 15:54
賃貸不動産の原状回復工事がネットで完結、内装工事クラウド「リモデラ」が6月1日より関東でサービス開始
ネットサービス
2021-06-01 06:16
8割以上がパスワードを使いまわし、約2割が不正アクセスや情報流出の被害に–トレンドマイクロ調査
IT関連
2023-09-05 19:14
我孫子市役所、ウェブ分離で職員のインターネット閲覧の安全性を向上
IT関連
2023-06-07 23:14
神戸市と渋谷区がNOROSI Startup Hubを連携して始動、ライトな起業文化を育てる官民連携プロジェクト
その他
2021-07-07 05:12
Facebookの開発者会議、「F8 Refresh」として6月2日にオンライン開催へ
IT関連
2021-03-24 07:56
デル・テクノロジーズ、ハイエンドスケールアウトNASの「PowerScale F900」を発表
IT関連
2021-05-25 10:39
「パワー半導体」高性能化・小型化の技術 電動車の航続距離アップに期待
IT関連
2021-03-13 01:12