Meta、オープンソースAIモデル「Llama 3.1 405B」発表

今回は「Meta、オープンソースAIモデル「Llama 3.1 405B」発表」についてご紹介します。

関連ワード （ソフトウェア等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　Facebookの親会社であるMetaは、新しいオープンソースAIプログラム「Llama 3.1 405B」を発表した。プログラマーなら誰もが気に入るだろうその名称の裏では、新しくより強力な大規模言語モデル（LLM）が使われ、同社エンドユーザープログラムの多くに搭載されている「Meta AI」アシスタントを駆動する。

　Metaで最高経営責任者（CEO）を務めるMark Zuckerbergは米国時間7月23日、Llama 3.1を「Threads」の投稿で発表し、「オープンソースAIこそ前進すべき道」と宣言した。同氏は、Rundown.aiのインタービューで次のように付け加えている。「オープンソースモデルは今後、標準となり、それは世界にとってよいことだと思う。あなたがコミュニティーにとってよいと思える機能を構築したものの、競争を優位に進めようとしている一部の企業によって囲い込まれ、出荷できないというのは、心が少し痛む」

　これは、Llama 3.1が本当にオープンソースであることを意味するのか。その答えは重要だ。「Linux」開発者のNeal Gompa氏は、「Mastodon」で次の質問をしている。「Llama 3は、従来版と異なり、OSI（Open Source Initiative）が承認しているオープンソースライセンス下にあるのか。『Llama 2』は、OSIが承認するオープンソースライセンスが使用されていなかったので『Fedora』に搭載できなかった」

　答えは「ノー」だ。OSIのエグゼクティブディレクターであるStefano Maffulli氏に取材したところ、「理論的には、Zuck（Zuckerberg氏）が書いたり、述べたりしていることに同意する。もし、Metaのライセンスが制限を取り除き、学習データセットと学習インストラクションについて同社が詳細を明らかにすれば、100%同意する」とコメントした。

　「現状では」とMaffulli氏は述べ、「Llamaは、開発者にとって大きな負担となる。不透明すぎて安全に使用できない」と続ける。

　RedMonkの業界アナリストのStephen O’Grady氏も同意する。「MetaがLlamaの使用に関する一部制限をなくしたのは、歓迎すべきニュースだ。しかし、新しいライセンスがそうであるように、どの企業がソフトウェアを利用できるかを制限する限り、オープンソースでないのは明らかで、議論の余地はない。例えば、Linuxがこのライセンス下でリリースされた場合、Metaは利用を許可されるが、AmazonやGoogle、Microsoftといった企業は許可されないだろう。これはオープンソースではなく、われわれが受け入れられるものでもない」（同氏）

　オープンソース問題から技術的側面に目を向けると、新しいモデルは、従来版よりも効率的かつ強力に設計されているとZuckerberg氏は述べる。自然言語処理から複雑なデータ分析までのさまざまなアプリケーションに向けて機能強化を提供する。特に、Metaのやり方は、AppleのAIアプローチよりも優れていると同氏は考える。

　新しいLlamaは、4050億パラメーターモデルを誇り、利用可能なAIモデルのうち、最も洗練されたものの一つとなる。1.8兆パラメーターを持つ「ChatGPT 4.0」と比べると依然としてはるかに小さいが、それでも大きなアップデートではある。言語翻訳、コンテンツ生成、科学研究でのパフォーマンス向上が期待されている。

　Zuckerberg氏は、Llama 3.1について、「一部の主要クローズドモデルと競合するが、一部領域では優っている」とアピールする。Metaのベンチマークによると、Llamaは、「GPT-4」「GPT-4o」「Claude 3.5 Sonnet」といった主要なファウンデーションモデルとさまざまなタスクにおいて競争力を持つ。また、「当社の見積もりでは、405Bモデル上で推論を直接実行する場合、GPT-4と比べて50%安価になるだろう」（同氏）

　新しいモデルは本日より、Amazon Web Services（AWS）、NVIDIA、Databricks、Groq、Dell、Microsoft Azure、Google Cloudといった25を超えるパートナーで利用できる。「vLLM」「TensorRT」「PyTorch」といった人気のAIツールでもサポートされるので、開発者はLlama 3.1を使った作業をすぐに開始できるとMetaは語る。