さくらインターネット、「高火力 DOK」で「NVIDIA H100プラン(β版)」提供
今回は「さくらインターネット、「高火力 DOK」で「NVIDIA H100プラン(β版)」提供」についてご紹介します。
関連ワード (クラウド等) についても参考にしながら、ぜひ本記事について議論していってくださいね。
本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。
さくらインターネットは8月27日、生成AI向けクラウドサービス「高火力」のコンテナーシリーズ「高火力 DOK」で「NVIDIA H100プラン(β版)」を提供した。
同プランでは、「NVIDIA H100 TensorコアGPU」を採用。既存の「NVIDIA V100プラン」に比べて計算速度とGPUメモリーの容量が大幅に向上したため、高精細画像の多数生成、大規模言語モデル(LLM)におけるファインチューイング、AIモデルを活用した推論などをより高速に実施できるプランだと同社は説明する。
プラットフォームはLinux/AMD64。GPUメモリーは80GB。1時間当たり1008円(0.28円/秒)で利用可能。コンテナー実行開始から終了までの実行時間が課金対象となる。タスクの実行、タスクモニタリング、ログ管理が利用可能な機能として用意されている。
β版提供とのことで、障害発生時には、復旧に時間を要する場合があるという。β版終了時期について、「H100が供給できる数にまだ限りがあることから、幅広く計算資源を用意できたタイミング」とさくらインターネットで副社長 執行役員を務める舘野正明氏は語る。「当社もGPUを分割して環境を提供するというところの事業経験が深まっていないことから、サービス品質保証(SLA)なども含めて、プロダクション環境として完全に提供できるという確認が取れ次第」と続ける。
さくらインターネットは1月に高火力シリーズ第1弾となる「高火力 PHY」を提供している。H100を8基搭載したベアメタルサーバーで、同社の石狩データセンターに設置されており、申し込みから最短10分で利用が可能。複雑なデータセットの解析やLLMのトレーニングに向いているという。
シリーズ第2弾として6月27日に提供された高火力 DOKは、「Docker」イメージの実行ができるコンテナーシリーズ。毎回同じ環境でGPUを使ったタスクが実行できるため、スポットでの利用に向いている。月額制の高火力 PHYとは異なり時間課金制のため1秒単位で利用できる。
今後の展開としては、2024年内には「高火力 VM版」(仮称)が予定されている。NVIDIAのGPUを搭載した物理サーバー上で複数の仮想サーバーを構築し、その一つ一つを顧客に提供する。利用時間に応じた従量課金制を予定しており、機械学習のスポット利用やAIアプリケーションの開発が用途として考えられている。
また、同社は、コンテナー型データセンターの整備も予定している。6月に約170億円のデータセンターへの投資を決定しており、これにより既に発注している214億円分のGPUサーバーを今期中に設置して、収益化する予定。コンテナー型データセンターには水冷式サーバーを設定するという。
さらに、サービスの更なる増強に向け、最新のGPUやデータセンター拡張へ1000億円の投資も計画されている。生成AI向けGPUクラウドサービスの第2次投資計画について、2024年4月に経済産業省による「クラウドプログラム」供給確保計画の認定を受け、実際の投資額に対して2分の1(最大約500億円)の助成を受ける予定。現時点で最新となるNVIDIAの「HGXB200」システムを皮切りに、次世代GPUを継続的に整備していく。