SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに

今回は「SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 SambaNova Systemsは5月13日、「Fugaku-LLM」を「Samba-1 Composition of Experts(CoE)」のエキスパートとして導入したと発表した。エキスパートとは特定の分野に特化したモデルのこと。

 Fugaku-LLMは、スーパーコンピューター「富岳」で学習され、日本語能力を強みとする大規模言語モデル(LLM)。5月10日に「Hugging Face」や「GitHub」にて公開されている。

 SambaNova独自のCoEアーキテクチャーは、複数の専門家モデルを集約し、用途に応じて最適なエキスパートを選択することでパフォーマンスと精度を向上させる。Fugaku-LLMはCoEアーキテクチャー上に実装され、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作するという。

 「富岳によってゼロからから大規模に学習された日本語のLLMであるFugaku-LLMが、SambaNovaのCoEにいち早く導入され、多くの人が富岳の成果を利用できるようになることは大変喜ばしい」と理化学研究所計算科学研究センターでセンター長を務める松岡聡氏はいい、「SambaNovaのCoEの柔軟性と拡張性の高さは、世界のスーパーコンピューターによるLLM学習の成果をホストする基盤として大いに期待できる」とした。

 SambaNova Systemsの共同創業者で最高経営責任者(CEO)のRodrigo Liang氏は、「SambaNovaのSamba-1 CoEは、オープンソースによるベストオブブリード戦略を採用しており、常に世界最高水準で最速のAIモデルにアクセスできるようにしている」とし、「今回、日本が誇る富岳でスクラッチから学習されたFugaku-LLMをCoEのエキスパートの一つとして加えたことは、この戦略に合致している。富岳の成果をいち早く取り入れられたことを大変うれしく思う」と述べた。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
サイバー攻撃の標的は、パスワードよりも「認証後の証明」へ移ろうとしている。アイデンティティ管理のOktaはなぜ狙われ、どう対策していくのかを聞いた[PR]
PR
2024-03-26 21:51
NECとNTTドコモ、AWSで5G基幹ネットワークの運用を検証
IT関連
2022-03-03 13:37
JALカード、基幹システムのIT基盤を「IBM Cloud」で刷新
IT関連
2022-12-28 12:05
Tencentのクラウドがデータセンター増強 東京、香港、バンコク、フランクフルトの4都市にアベイラビリティーゾーン追加
クラウドユーザー
2021-06-04 05:37
映画「シン・エヴァ」興行収入100億円突破 公開から127日で
くらテク
2021-07-14 05:29
MUFG、アカマイとのブロックチェーン合弁会社を清算–コロナ禍で需要見込めず
IT関連
2022-02-24 21:55
HashiCorpのミッチェル・ハシモト氏がCTOを退任、今後はフルタイムの開発者として貢献していくと発表
HashiCorp
2021-08-02 18:57
ソフトウェア開発者、生成AIに警戒感も
IT関連
2023-07-25 14:20
Instagram写真で使われたフィルターを推定、別の画像に適用する技術 Samsungが開発 :Innovative Tech
イラスト・デザイン
2021-03-20 02:20
情報電子化の次のステップ、「企業情報DX」を推進–オープンテキスト・反町社長
IT関連
2023-01-13 06:22
自動車用シミュレーションプラットフォームのMoraiがグローバル展開のために24億円のシリーズBをクローズ
IT関連
2022-02-09 09:42
UXの今、「ユーザー」も「体験」も十分に反映されず?
IT関連
2022-05-14 00:48
ポケモンGO、購入アイテムの反映が遅れる不具合発生で「GOフェス」への影響は?
くらテク
2021-07-15 08:56
Facebook、ウイグル族を狙う中国のハッカー集団を阻止
IT関連
2021-03-25 05:50