SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供

今回は「SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供」についてご紹介します。

関連ワード （クラウド等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　SambaNova Systemsは「Sambaverse」の提供を開始した。開発者が何百ものオープンソースの大規模言語モデル（LLM）を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較することを可能にする。

　 Sambaverseを使うと、開発者は1つのプロンプトにより「Hugging Face」で公開されている最も人気のある複数の大規模言語モデルを比較できる。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示する。

　同サービスにより、開発者は自分が取り組むプロジェクトに適したオープンソースモデルを見つけることができるという。また単一のAPIを介して即座にモデルの入れ替えを可能にし、単一インスタンス上で複数のモデルを切り替え、ほんの数ミリ秒で特定のニーズに適応させることができる。

　Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は、独自の「Composition of Experts（COE）」モデルアーキテクチャーによって実現されて、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作する。「Samba-1」で利用可能なこのアプローチは、企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供する。