ELYZA、2つの新たな日本語特化の国産LLMを発表–短期で大幅な性能進化

今回は「ELYZA、2つの新たな日本語特化の国産LLMを発表–短期で大幅な性能進化」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ELYZA(イライザ)は6月26日、日本語に特化した国産の大規模言語モデル(LLM)「ELYZA LLM for JP」の最新モデルとなる700億パラメーターの「Llama-3-ELYZA-JP-70B」と80億パラメーターの「Llama-3-ELYZA-JP-8B」を発表した。

 いずれのモデルもMetaの「Llama3」をベースに開発しており、日本語による追加事前学習および指示学習を行っている。70Bモデルは、「GPT-4」や「Claude 3 Sonnet」などの商用グローバルモデルを上回る性能を実現したという。同社は今後、チャット形式でのデモを提供する。高性能な国内製モデルと位置付け企業向けの提供を予定している。

 また8Bモデルは、「GPT-3.5 Turbo」を上回る性能を実現し、オープンモデルの中では最高水準の性能を達成しているという。同モデルは一般に公開する。「LLAMA 3 COMMUNITY LICENCE」に準拠しており、「Acceptable Use Policy」に従えば、研究利用のほかに商業目的でも利用できる。

 同日の発表会で代表取締役の曽根岡侑也氏は、「これまで国内企業ではできないと思っていたGPT-4を超える性能を実現した。公開されているグローバルモデルと比較しても十分に活用できるという水準に到達している。また、オープンモデルとして商用利用できる形で公開する。最新で実用レベルのLLMをPCやエッジデバイスでも利用してもらい、国産モデルがどこまで進化していのかを体験してもらえる。自分たちにフィット感がある形で利用してもらいたい」と述べた。

 ELYZAは、2018年9月に東京大学の松尾豊教授による松尾研究室のメンバーが設立したAIスタートアップ企業。2019年夏からLLMの研究開発と社会実装に特化した事業を進めている。2024年4月には、KDDIが43.4%、KDDI Digital Divergenceが10.0%の株式を取得して、KDDIの連結子会社となり、KDDIグループが持つ計算基盤やネットワーク資源などのアセットを活用した研究開発を進めている。オープンモデル活用型の日本語汎用LLMの開発や、コンタクトセンター特化型LLMなどの領域特化型LLMの開発、生成AIを活用したDX支援やAI SaaSの提供などに取り組んでいる。2024年3月12日には「Llama 2」ベースの700億パラメーターの「ELYZA-japanese-Llama-2-70b」を発表していた。

 発表会で曽根岡氏は、「ELYZAはグローバルなオープンモデルをベースに独自のデータセットを活用し、日本語を追加で事前学習させて、日本語に特化したポストトレーニングを実施することにより、日本語に強いモデルを開発する。NECやNTTがフルスクラッチでLLMを開発しているのとは異なる」とした。今回の開発への投資規模は数千万円としている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「コンピューティングパワーは不足しつつある」–IBMの答えはAI向け新チップ「AIU」
IT関連
2022-11-09 13:52
IBM、AIの基礎を学べる無料コースを提供
IT関連
2023-12-19 08:35
Hyzon Motorsは水素燃料電池車への意欲に米国の2つの工場を追加
モビリティ
2021-03-03 07:36
【コラム】イーロン・マスクとテスラには「ティム・クック」が必要、今こそ「大人」が跡を継ぐときだ
IT関連
2022-03-03 12:55
2023年最初の「Windows 11」プレビュービルドがリリース
IT関連
2023-01-11 19:47
「倒産して夜逃げ」「連絡が取れない」非中核業務に圧迫される営業・販売の実態
IT関連
2023-02-23 07:39
Oracle Exadataをクラウド上のスケーラブルなソフトウェアとした「Exadata Database Service on Exascale Infrastructure」提供開始
Oracle
2024-07-16 16:07
セールスフォース、リモートワークを恒久化する計画を発表
IT関連
2021-02-10 17:57
「2025年の崖」実態調査–約8割がレガシーシステムを刷新予定
IT関連
2024-11-15 21:43
新幹線車内のビジネス用ブースをスマホで予約–東海道・山陽新幹線で本格稼働
IT関連
2023-10-08 13:21
珍しい名字の検索ランキングにも「鬼滅の刃」影響 1位「竈門」、3位「不死川」は実在のレア名字
くらテク
2021-02-15 15:27
Sentropyがソーシャルメディア上の攻撃から人々を守るツールをローンチ、Twitterを皮切りに展開
パブリック / ダイバーシティ
2021-03-01 10:00
GitHubで暴動の際「ナチス」について警告し解雇されたユダヤ系社員が弁護士を募集(更新:GitHubが解雇を撤回)
パブリック / ダイバーシティ
2021-01-19 03:22
「Linux」で充実したゲーム体験を–対応プラットフォームが豊富な「Regata OS 24」
IT関連
2024-04-18 13:08