推論のコストを10分の1に–SambaNova リアンCEOが示す「企業グレードのAI」

今回は「推論のコストを10分の1に–SambaNova リアンCEOが示す「企業グレードのAI」」についてご紹介します。

関連ワード (ITインフラ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 フルスタックAIプラットフォームベンダーSambaNova Systemsは12月22日、共同創業者で最高経営責任者(CEO)を務めるRodrigo Liang氏の来日に伴い、グローバル事業概況と導入事例について説明する記者説明会を開催した。

 冒頭、アジア太平洋地域ゼネラルマネージャーを務める鯨岡俊則氏は、東京オフィスを11月1日に開設したことを明らかにした。日本・アジア太平洋地域における旺盛な需要に迅速に対応するとともに、同地域における人員の増加と高度AI人材の育成を目的にしているという。今後注力したい業界・分野として、政府、インフラ、金融を同氏は挙げる。

 SambaNova Systemsは、フルスタックのAIソリューションを提供するベンダーとして、スタンフォード大学の専門家らが2017年に設立。フルスタックは、半導体から基盤モデルまで全てを自分たちのモデルでカバーしていることを意味し、それによりエンタープライズ顧客の全ニーズに応えることができるとLiang氏。Google、Intel、ソフトバンク、BlackRock、シンガポール政府系ファンドGICなどから10億ドル以上の資金を調達している。

 企業にとってAIの活用は、今後数十年先の戦略を決める戦略的決断であり、最も重要なのはAIをツールと見なすか、資産と見なすかだと同氏。「Excel」「Salesforce」「ChatGPT」といったツールは、料金を支払うことで利用でき、人的資源の有効活用や時間の節約といった価値を利用料の分だけ得ることを可能にする。一方、資産は、企業が所有し、その価値は毎年上昇する。

 AIを資産と見なす場合、そこへの投資に使われるお金の役割を果たすのがデータだ。データをAIという資産に投じることで、他では入手できない製品ができ、市場での競争力を高められるとLiang氏。

 企業にとって最も価値のあるモデルを構築する場合、最も有用なのは秘匿性の高いデータだという。企業は、このようなデータを使ってモデルを訓練したい一方で、非公開の社内データがクラウドや他社に漏れるのは避けたいと考える。SambaNova Systemsは、そのようなデータを使った安全かつプライベートな環境での訓練を支援するとLiang氏はアピールする。

 同社では「AIは長い旅路」と考えており、機械学習から生成AIへと進化しているが、企業グレードのAIを考えた場合、必要となるのは先述の「秘匿性の高いデータでの学習」に加え、「複数の細粒度エキスパートから成るモデル」「オープンソースを利用したモデル」だという。

 消費者グレードのAIがNVIDIAなどのコンピューターハードウェア、Googleなどのクラウドプラットフォーム、OpenAIなどのクローズドソース基盤モデルを組み合わせて使用する。これに対し、SambaNova Systemsは、自社製チップを使用した独自プラットフォームを持っており、オンプレミスに設置でき、エンタープライズ向けにプライベートの基盤モデルを提供する。

 企業にAIを導入する場合、部門ごとに異なるAI機能が必要になるが、1つの大規模モデルを訓練すると時間も展開コストも必要になる。これに対し、SambaNova Systemsの「Composition of Experts(CoE)」設計では、Metaがオープンソースで提供する「Llama 2」を部門ごとに使用するところから始める。これにより、1つの部門に関した専門知識を持つエキスパートを育成できるとLiang氏はいう。

 コストで見た場合、訓練が占めるのは20%に過ぎず、80%は推論だという。「CoEでは、その80%を8%に減らすことができる」(同氏)

 企業がSambaNova Systems製品を導入する際、(1)最高のオープンソースモデルから始める、(2)企業向けのファインチューニング、(3)最高性能のハードウェアに最適化する、(4)プライベートかつセキュアな環境での展開、(5)顧客の機密性の高い情報で学習ーーという段階を経るとLiang氏。(2)と(3)については、SambaNova Systemsで対応可能なので、ユーザーでの作業は不要だという。また、ハードウェアの効率性により、オンプレミスなど企業が必要とする場所で展開できるため、(5)が可能になるという。

 日本での導入事例としては、ソフトバンクが生成AI開発向け計算基盤の一部に「SambaNova DataScale」採用している。SambaNova Systems製品は、GPUソリューションが現在苦手としている部分を補完できるため、ソフトバンクでは両方を使い分けていくと鯨岡氏は説明する。

 導入を支援するCotofureは、リセラーとして日本における生成AI向けにSambaNova Systemsのソリューションを各方面に展開していくという。Cotofureは、医療系に強いことから、医療関係でSambaNova Systems製品が使われることを鯨岡氏は期待する。

 最後に、Liang氏は、企業が生成AIを本番稼働するために現在抱える問題として「正確性」「モデルの所有権」「プライバシーとセキュリティ」「コンプライアンス」を挙げ、同社ソリューションはこれらの課題を解決するのに最適だとした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ヌーラボ、見込み客の商談化を支援する「immedio」を導入
IT関連
2024-01-17 22:49
Microsoft Azureの管理者は多要素認証によるサインオンが必須に。今年(2024年)7月から段階的に開始
Microsoft Azure
2024-05-29 02:15
ポケモンGOの“レジトリオ”復刻、水曜のレイドアワーが狙い目か 8日には「メガヤドラン」も
くらテク
2021-06-03 09:57
神奈川県予防医学協会、RPAなどの活用で生産性を12%向上
IT関連
2021-03-31 06:16
即時処理と可用性に自信–エッジコンピューティングのPratexoが日本で新規事業
IT関連
2022-11-29 08:24
2022年のランサムウェア動向と脅威アクター
IT関連
2022-12-14 07:08
インテルとロッキード・マーティン、米国防総省の5G対応ソリューションで連携強化
IT関連
2022-04-07 19:38
ユーザーの声でAIがリアルに歌う–中国で進化するカラオケアプリ
IT関連
2023-12-29 01:26
日本オラクル社長が語った「企業ITのクラウド移行に向けた“顧客視点”」
IT関連
2021-07-16 23:04
TikTok、全ユーザーの年齢確認へ 生年月日の入力求める
ネットトピック
2021-02-02 04:41
患者の負担を軽減する液体生検を用いた白血病遺伝子検査提供のLiquid Mineが資金調達
VC / エンジェル
2021-02-04 14:40
ソフトバンク、生成AI開発向け計算基盤に「SambaNova DataScale」採用
IT関連
2023-12-23 20:36
CSIRTの歴史的変遷で探るインシデント対応の課題と解決の道のり
IT関連
2021-07-05 21:40
飲食料品ECのAoyamaLabが法人専用のデジタルギフトサービス「リモート手土産」を開始
ネットサービス
2021-03-18 02:07