「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行
今回は「「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行」についてご紹介します。
関連ワード (クライアント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。
本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。
「CES 2025」で注目の話題は、AIを搭載したテレビや新しいスマートホームガジェット、そして最新ノートPCの発表だ。しかし、筆者にとって最大のニュースは「NVIDIA Project DIGITS」だった。この革新的なデスクトップ型のAIスーパーコンピューターは、AI開発者、研究者、学生に前例のない計算能力を提供するように設計されている。さらに、「Ubuntu Linux 22.04」をベースとした「NVIDIA DGX OS」が動作している。
DGX OSは、「Nvidia DGX」プラットフォーム上で人工知能や機械学習、分析アプリケーションを実行するために、システム固有の最適化と構成、追加のドライバー、診断および監視ツールを備えたLinuxディストリビューションである。
加えて、NVIDIAは、AIソフトウェア開発キット、オーケストレーションツール、「NVIDIA NGC」カタログフレームワークとモデル、モデルを微調整するための「NVIDIA NeMo」フレームワーク、データサイエンスアクセラレーション用の「NVIDIA RAPIDS」ライブラリーも提供する。もちろん、本質的にはUbuntu Linuxシステムなので、UbuntuとLinuxのソフトウェアを実行することができる。
「Mac mini」ほどの大きさの筐体に入ったProject DIGITSは、ペタプロップス(PFLOPS)級のAI性能をデスクトップにもたらすことを約束している。1PFLOPSは、1秒間に1000兆回の浮動小数点演算を行えるだけの処理性能を持つことを意味している。
IBMが2008年にスーパーコンピューター「Roadrunner」を発表するまで、1PFLOPSの性能を超えたコンピューターは存在しなかった。それと同等のコンピューティング性能が、まもなくホームオフィスでも実現するだろう。最新のスーパーコンピューターTOP500リストでも、2PFLOPSをわずかに上回るコンピューターがランクインしている。そうしたコンピューターは、性能実現のために1000個以上のプロセッサーコアを必要としている。ちなみに、それらのコンピューターは全てLinuxで稼働している。
Project DIGITSは、新しい「NVIDIA GB10 Grace Blackwell Superchip」を搭載し、128GBのメモリーと最大4TBのNVMeストレージを備えている。「NVIDIA AI」ソフトウェアスタックがプリインストールされ、開発者は最大2000億パラメーターの大規模言語モデル(LLM)をローカルで実行し、データセンターやクラウドにシームレスに展開できる。
NVIDIA GB10 Grace Blackwell Superchipには、ARMベースの「NVIDIA Grace CPU」が搭載され、「Cortex-X925」(10コア)と「Cortex-A725」(10コア)で合計20コアとなっている。加えて、最新世代の「CUDA」コアと「RT」コアを備えた「NVIDIA Blackwell GPU」も備える。Project DIGITSを2台接続すれば、最大4050億パラメーターのAIモデルを実行できるとしている。
NVIDIA 最高経営責任者(CEO)のJensen Huang氏は、Project DIGITSについて「AIスーパーコンピューターを全てのデータサイエンティスト、AI研究者、学生の机の上に置くことで、彼らがAIの時代に関わり、その発展に寄与できるようになる」と述べた。
3000ドルという低価格を実現したProject DIGITSは、小規模企業から教育機関まで、幅広いユーザー層に高性能なAI開発をより身近なものにすることを目指している。この価格であれば、Project DIGITSのデスクトップが家庭にも普及するだろう。
2025年5月に発売予定のこのLinux搭載システムは、コンパクトでデスクに置けるサイズでありながらデータセンターレベルのパフォーマンスを実現することで、AI開発の状況を一変させるだろう。