「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行

今回は「「NVIDIA Project DIGITS」は机上に置ける小型AIスパコン–最大2000億パラメーターのLLM実行」についてご紹介します。

関連ワード (クライアント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 「CES 2025」で注目の話題は、AIを搭載したテレビや新しいスマートホームガジェット、そして最新ノートPCの発表だ。しかし、筆者にとって最大のニュースは「NVIDIA Project DIGITS」だった。この革新的なデスクトップ型のAIスーパーコンピューターは、AI開発者、研究者、学生に前例のない計算能力を提供するように設計されている。さらに、「Ubuntu Linux 22.04」をベースとした「NVIDIA DGX OS」が動作している。

 DGX OSは、「Nvidia DGX」プラットフォーム上で人工知能や機械学習、分析アプリケーションを実行するために、システム固有の最適化と構成、追加のドライバー、診断および監視ツールを備えたLinuxディストリビューションである。

 加えて、NVIDIAは、AIソフトウェア開発キット、オーケストレーションツール、「NVIDIA NGC」カタログフレームワークとモデル、モデルを微調整するための「NVIDIA NeMo」フレームワーク、データサイエンスアクセラレーション用の「NVIDIA RAPIDS」ライブラリーも提供する。もちろん、本質的にはUbuntu Linuxシステムなので、UbuntuとLinuxのソフトウェアを実行することができる。

 「Mac mini」ほどの大きさの筐体に入ったProject DIGITSは、ペタプロップス(PFLOPS)級のAI性能をデスクトップにもたらすことを約束している。1PFLOPSは、1秒間に1000兆回の浮動小数点演算を行えるだけの処理性能を持つことを意味している。

 IBMが2008年にスーパーコンピューター「Roadrunner」を発表するまで、1PFLOPSの性能を超えたコンピューターは存在しなかった。それと同等のコンピューティング性能が、まもなくホームオフィスでも実現するだろう。最新のスーパーコンピューターTOP500リストでも、2PFLOPSをわずかに上回るコンピューターがランクインしている。そうしたコンピューターは、性能実現のために1000個以上のプロセッサーコアを必要としている。ちなみに、それらのコンピューターは全てLinuxで稼働している。

 Project DIGITSは、新しい「NVIDIA GB10 Grace Blackwell Superchip」を搭載し、128GBのメモリーと最大4TBのNVMeストレージを備えている。「NVIDIA AI」ソフトウェアスタックがプリインストールされ、開発者は最大2000億パラメーターの大規模言語モデル(LLM)をローカルで実行し、データセンターやクラウドにシームレスに展開できる。

 NVIDIA GB10 Grace Blackwell Superchipには、ARMベースの「NVIDIA Grace CPU」が搭載され、「Cortex-X925」(10コア)と「Cortex-A725」(10コア)で合計20コアとなっている。加えて、最新世代の「CUDA」コアと「RT」コアを備えた「NVIDIA Blackwell GPU」も備える。Project DIGITSを2台接続すれば、最大4050億パラメーターのAIモデルを実行できるとしている。

 NVIDIA 最高経営責任者(CEO)のJensen Huang氏は、Project DIGITSについて「AIスーパーコンピューターを全てのデータサイエンティスト、AI研究者、学生の机の上に置くことで、彼らがAIの時代に関わり、その発展に寄与できるようになる」と述べた。

 3000ドルという低価格を実現したProject DIGITSは、小規模企業から教育機関まで、幅広いユーザー層に高性能なAI開発をより身近なものにすることを目指している。この価格であれば、Project DIGITSのデスクトップが家庭にも普及するだろう。

 2025年5月に発売予定のこのLinux搭載システムは、コンパクトでデスクに置けるサイズでありながらデータセンターレベルのパフォーマンスを実現することで、AI開発の状況を一変させるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
オラクル、ローコード開発環境「Oracle APEX」に生成AI機能を追加
IT関連
2024-06-19 00:36
キヤノンS&S、中小企業にカスタマイズ型のIT運用アウトソーシングを提供
IT関連
2024-08-08 12:38
インテル、新技術のロードマップを発表–2025年にも半導体製造の首位奪還へ
IT関連
2021-07-27 13:56
レストランをクラウドキッチンに変えるAcelerate、成功の鍵は地元重視
フードテック
2021-07-17 16:40
「Linux」初心者にもパワーユーザーにも最適–使いやすさと美しさを兼ね備えた「BigLinux」
IT関連
2024-04-04 12:26
ヘルスケア業界のデジタル変革、コロナ禍で加速も他業界より遅れ–グーグル調査
IT関連
2021-08-13 02:54
使用済み電子製品を簡単に現金化できるBackflip
ハードウェア
2021-04-04 04:23
AI生成コンテンツの安全性向上へ–マイクロソフトが複数のツールを発表
IT関連
2023-05-25 23:40
経営陣に技術について知ってもらうための6つのヒント
IT関連
2023-10-26 01:30
グーグルが広告の重要性を強調し、AndroidにPrivacy Sandboxを導入する計画を発表
IT関連
2022-02-18 11:29
IBMプレジデントのホワイトハースト氏(元Red HatのCEO)が辞任
企業・業界動向
2021-07-06 13:52
「ヤフトピ」見出し、最大13.5→14.5文字に 20年ぶりに変更
企業・業界動向
2021-04-15 18:42
Facebookが大統領就任式時のワシントンD.C.と州議会議事堂周辺での新イベントを禁止
ネットサービス
2021-01-18 23:46
大企業の生成AI活用、浸透は限定的–テックタッチ調査
IT関連
2024-07-13 09:32