SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供

今回は「SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供」についてご紹介します。

関連ワード (クラウド等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 SambaNova Systemsは「Sambaverse」の提供を開始した。開発者が何百ものオープンソースの大規模言語モデル(LLM)を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較することを可能にする。

  Sambaverseを使うと、開発者は1つのプロンプトにより「Hugging Face」で公開されている最も人気のある複数の大規模言語モデルを比較できる。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示する。

 同サービスにより、開発者は自分が取り組むプロジェクトに適したオープンソースモデルを見つけることができるという。また単一のAPIを介して即座にモデルの入れ替えを可能にし、単一インスタンス上で複数のモデルを切り替え、ほんの数ミリ秒で特定のニーズに適応させることができる。

 Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は、独自の「Composition of Experts(COE)」モデルアーキテクチャーによって実現されて、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作する。「Samba-1」で利用可能なこのアプローチは、企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供する。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
freee、クラウド型販売管理ソフトに「Pendo」を導入
IT関連
2023-04-13 07:05
Facebook決算、“巣ごもり需要”で過去最高 Appleの規制による“逆風”を予測
企業・業界動向
2021-01-29 17:02
Ziddyちゃんの「私を社食に連れてって」:CARTA HOLDINGSの進化したオフィスとAJITOを堪能編
IT関連
2024-03-16 17:52
「鬼滅の刃トミカ」発売 善逸は電気自動車、伊之助はSUV、カナヲは花の移動販売車
くらテク
2021-02-11 20:05
「Cloudflare Pages」が正式版に。JAMスタックによる高速なWebサイトを構築、CDNに展開へ
API
2021-04-14 10:57
NURO光で通信障害も約9時間半後に復旧 原因はSo-net網内の機器故障
セキュリティ
2021-05-18 19:33
Kubernetes上でVMのライブマイグレーション、バックアップ、PXEブートなど可能に。ハイパーコンバージドインフラを実現する「Harvester」、Rancher Labsがベータ公開
Docker / コンテナ / 仮想化
2021-06-08 12:29
タワレコが「PUI PUI MUSIC」に 試聴機からモルカーの鳴き声
くらテク
2021-07-09 19:53
Dropbox、AI搭載の検索ツールをベータ提供–開発背景やAI利用の方向性なども明らかに
IT関連
2023-07-13 22:44
第3回:経済安保推進法が与える企業への影響と求められる対応
IT関連
2022-09-14 23:53
カプコンのゲームIP戦略に変化 「バイオハザード」に“身長280cm美女”が出る背景
くわしく
2021-06-08 19:47
Ziddyちゃんの「私を社食に連れてって」:ワークデイの眺めのいいオフィスランチで企業文化の発信に貢献編
IT関連
2022-12-31 09:18
グーグルの「Bard」を試す–今のところ「ChatGPT」の方が優秀か
IT関連
2023-03-30 12:38
肉眼・内視鏡検査では見つけにくい「陥凹型がん」 AI活用で検出しやすく
IT関連
2021-06-04 07:26