SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに

今回は「SambaNova、富岳で学習した「Fugaku-LLM」を「Samba-1 CoE」のエキスパートに」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 SambaNova Systemsは5月13日、「Fugaku-LLM」を「Samba-1 Composition of Experts(CoE)」のエキスパートとして導入したと発表した。エキスパートとは特定の分野に特化したモデルのこと。

 Fugaku-LLMは、スーパーコンピューター「富岳」で学習され、日本語能力を強みとする大規模言語モデル(LLM)。5月10日に「Hugging Face」や「GitHub」にて公開されている。

 SambaNova独自のCoEアーキテクチャーは、複数の専門家モデルを集約し、用途に応じて最適なエキスパートを選択することでパフォーマンスと精度を向上させる。Fugaku-LLMはCoEアーキテクチャー上に実装され、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作するという。

 「富岳によってゼロからから大規模に学習された日本語のLLMであるFugaku-LLMが、SambaNovaのCoEにいち早く導入され、多くの人が富岳の成果を利用できるようになることは大変喜ばしい」と理化学研究所計算科学研究センターでセンター長を務める松岡聡氏はいい、「SambaNovaのCoEの柔軟性と拡張性の高さは、世界のスーパーコンピューターによるLLM学習の成果をホストする基盤として大いに期待できる」とした。

 SambaNova Systemsの共同創業者で最高経営責任者(CEO)のRodrigo Liang氏は、「SambaNovaのSamba-1 CoEは、オープンソースによるベストオブブリード戦略を採用しており、常に世界最高水準で最速のAIモデルにアクセスできるようにしている」とし、「今回、日本が誇る富岳でスクラッチから学習されたFugaku-LLMをCoEのエキスパートの一つとして加えたことは、この戦略に合致している。富岳の成果をいち早く取り入れられたことを大変うれしく思う」と述べた。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Apple、4月最終週の「iOS 14.5」リリースでATTのトラッキング申請機能スタート
アプリ・Web
2021-04-22 04:32
「Android版Googleアプリが落ちる問題」の比較的まともな対処法【公式案内の追記あり】
くわしく
2021-06-23 12:38
日経平均上昇–米中景気好調と1ドル110円台の円安も追い風
IT関連
2021-04-05 09:06
原点は「Facebook」–Metaの最高ダイバーシティー責任者が語る、“包括的なメタバース”
IT関連
2023-04-19 14:34
DockerがMutagenの買収を発表、ローカルとリモートのコンテナ環境をリアルタイムにファイル同期
Docker
2023-06-29 13:49
DRONE FUNDが3号ファンドの追加調達を実施し清水建設やキャナルベンチャーズらが参画、総額約50億円に
VC / エンジェル
2021-03-10 14:27
Kubernetes上でイベントドリブンなオートスケーリングを提供する「KEDA」、本番環境で使えるレベルに到達したとしてCNCFの卒業プロジェクトに
Kubernetes
2023-08-28 19:27
SCSK、AWSと戦略的協業–3つの重点施策で提供体制を強化
IT関連
2023-10-26 04:28
空飛ぶクルマ・eVTOLのテトラが新機種Mk-5の7月末予約販売開始を発表、開発と人材育成で福島県南相馬市と連携協定
モビリティ
2021-07-09 02:41
ゲッティイメージズ、画像生成AIサービス「iStockの生成AI」発表–著作権侵害の心配なし
IT関連
2024-01-11 21:35
AWS、アレクサと同様の会話理解力を持つ「Amazon Lex」日本語対応を発表。日本語で会話する音声ボットやチャットボットが開発可能に
AI
2021-04-07 12:44
アリババクラウド、企業向けのAI言語モデル「通義千問」を発表
IT関連
2023-04-13 00:43
プライバシー重視を追い風に快進撃中の検索エンジン「DuckDuckGo」がブラウザとしても使えるデスクトップアプリ開発
ソフトウェア
2021-06-20 00:52
LINEのデータ保管、なぜ海外に? LINE幹部が会見で説明
くわしく
2021-03-25 02:40