SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに

今回は「SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 SambaNova Systemsは5月13日、「Fugaku-LLM」を「Samba-1 Composition of Experts(CoE)」のエキスパートとして導入したと発表した。エキスパートとは特定の分野に特化したモデルのこと。

 Fugaku-LLMは、スーパーコンピューター「富岳」で学習され、日本語能力を強みとする大規模言語モデル(LLM)。5月10日に「Hugging Face」や「GitHub」にて公開されている。

 SambaNova独自のCoEアーキテクチャーは、複数の専門家モデルを集約し、用途に応じて最適なエキスパートを選択することでパフォーマンスと精度を向上させる。Fugaku-LLMはCoEアーキテクチャー上に実装され、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作するという。

 「富岳によってゼロからから大規模に学習された日本語のLLMであるFugaku-LLMが、SambaNovaのCoEにいち早く導入され、多くの人が富岳の成果を利用できるようになることは大変喜ばしい」と理化学研究所計算科学研究センターでセンター長を務める松岡聡氏はいい、「SambaNovaのCoEの柔軟性と拡張性の高さは、世界のスーパーコンピューターによるLLM学習の成果をホストする基盤として大いに期待できる」とした。

 SambaNova Systemsの共同創業者で最高経営責任者(CEO)のRodrigo Liang氏は、「SambaNovaのSamba-1 CoEは、オープンソースによるベストオブブリード戦略を採用しており、常に世界最高水準で最速のAIモデルにアクセスできるようにしている」とし、「今回、日本が誇る富岳でスクラッチから学習されたFugaku-LLMをCoEのエキスパートの一つとして加えたことは、この戦略に合致している。富岳の成果をいち早く取り入れられたことを大変うれしく思う」と述べた。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Googleの親会社Alphabet決算、過去最高を更新 YouTube広告が好調
企業・業界動向
2021-04-29 14:58
d払い、ポイント還元時期を即時通知へ 利便性改善でPayPayに追随
IT関連
2021-07-31 01:55
伊藤忠商事、食品卸大手にAI型需要予測・発注最適化ソリューションを導入
IT関連
2021-02-03 23:50
ウエルシアとツルハ、青森県下北地域で共同配送–日立の情報基盤を活用
IT関連
2022-11-03 17:35
センサーシールを皮膚に貼って「アルコール、カフェイン、ブドウ糖、乳酸、血圧、心拍数」を同時計測 :Innovative Tech
トップニュース
2021-03-21 22:07
スマホアプリの“目立たぬ弱点” 分かっていても対策が難しいワケ :「見えないWeb攻撃」──情報漏えい対策の盲点(1/2 ページ)
くわしく
2021-05-22 02:02
IT専門家の51%が「ChatGPT」を使うサイバー攻撃に警戒–BlackBerry調査
IT関連
2023-02-09 13:39
アップルのAirTagをお札入れ用に薄いカード状にする方法
ハードウェア
2021-05-08 18:34
コクヨの紙とペン「PERPANEP」で改めて考えた、「書き心地が良い」とはどういうことだろう :新連載「分かりにくいけれど面白いモノたち」(1/5 ページ)
くらテク
2021-04-14 23:17
機械学習モデルをデバイスごとに最適化してスピードを上げるOctoMLがシリーズBで30.5億円調達
人工知能・AI
2021-03-19 17:45
Deno、SQLiteベースのキーバリューストア「Deno KV」のスタンドアロン版を公開。ソースコードもオープンに
Deno
2023-11-13 10:47
ランサムウェア犯罪者の戦術が変化–身代金の高額化につながる可能性
IT関連
2022-02-17 21:59
基幹システムのクラウド移行に向けた「内製化」という表現は適切か
IT関連
2022-06-24 22:49
日立製作所、電力事業者向けにソリューション–設備の点検・監視・最適化を支援
IT関連
2022-05-27 10:00