NEC、「cotomi Light」を搭載した専用アプライアンスサーバーを提供

今回は「NEC、「cotomi Light」を搭載した専用アプライアンスサーバーを提供」についてご紹介します。

関連ワード （サーバー等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　NECは、自社開発の生成AI「cotomi」のサービスラインナップを拡充したと発表した。専用アプライアンスサーバー「cotomi Appliance Server」を、ソフトウェアやサービスと組み合わせたソリューションとして6月から販売する。2025年度末までに約500億円の売り上げを目指すという。この専用アプライアンスサーバーには、軽量で高性能な「cotomi Light」を搭載する。

　cotomi Lightは、世界トップクラスの日本語能力を持つ生成AI。パラメーター数をコンパクトに抑えることで、モデルの省電力化・軽量化・高速化を実現し、運用コストを抑制できる。

　今回開発した専用アプライアンスサーバーは、NVIDIA GPUを搭載しており、「推論モデル」と「推論+ファインチューニングモデル」の2モデルを展開する。ユーザーの拠点へ設置することで、レスポンス時間が短く、セキュアな生成AI利用環境が可能になる。

　オンプレミス環境での利用は秘匿性の高い業務に適しており、金融業とコンタクトセンターでの活用が期待できるという。また推論+ファインチューニングモデルを活用することで、ユーザーの業務に特化させた生成AIモデルを短期間で構築できるとしている。

　さらに同サーバーを利用するユーザーには、用途に合わせたプロンプトテンプレートの設定など、cotomiの利用に必要な機能をソフトウェアにした「NEC Generative AI Framework」を合わせて提供する。これによりプロンプトエンジニアリングなどの専門知識が不要で、ウェブ画面での簡単な操作により「cotomi」を活用できる。