Meta、コード生成や解釈に特化した大規模言語モデル「Code Llama」公開

今回は「Meta、コード生成や解釈に特化した大規模言語モデル「Code Llama」公開」についてご紹介します。

関連ワード (サイズ、結果、高速等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llma」を公開しました。

fig

Code Llmaは、先月(2023年7月)にMetaが発表した大規模言語モデル「Llma 2」をベースに、コードに特化したデータセットでさらに訓練したバージョンだと説明されています。

対応するプログラミング言語はPython、C++、Java、PHP、JavaScript、Typescript、C#、Bashなどを始めとする主要な言語。

GPUで処理できるサイズやPython特化のモデルも

Code Llmaは3つのサイズ、7B、13B、34Bが提供されています。

7Bモデルは1つのGPUで処理できる一方で、34Bモデルは最善の結果を返し、より良いコーディング支援を可能にする能力があります。

一方、7Bおよび13Bモデルは高速に動作するため、リアルタイムコード補完のような低レイテンシを必要とするタスクに適しているなど、それぞれに適した用途が存在します。

さらに、Pythonの能力に特化してファインチューニングした「Code Llama – Python」および人間が自然言語で入力したプロンプトから何を期待しているのかをよりよく理解できるようにファインチューニングした「Code Llama – Instruct」も提供されます。

特有のライセンス条件に注意

Code LlmaはLlma本体と同じく研究目的や商業用途で利用可能なLlma 2 Community Licenseで提供されます。

ただし月間アクティブユーザーが7億人以上のサービスで利用する場合にはMetaから別途ライセンスを取得する必要があるなど、このライセンス特有の制限項目などがあるため、念のためライセンスを確認した上で利用されることをおすすめします。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Apple vs Epic Games裁判の証人候補はいずれも役員リストのよう
ゲーム / eSports
2021-03-22 06:48
ロボットが人の手を借りずに豚の腹腔鏡手術に成功
IT関連
2022-01-29 11:33
パスワードマネージャのLastPassと1Passwordが相次いでFIDO/WebAuthnへの対応を発表。パスワードレスの時代にパスワードマネージャの存在意義はどうなるのか?
FIDO/WebAuthn
2022-06-13 21:48
自動運転システムに対する初のリコール、Pony.aiが同社ソフトのリコール発表へ
IT関連
2022-03-10 01:27
生成AIの利用拡大で、今後6年間でハイパースケールデータセンター全体の能力が現在の約3倍に達する。Synergey Research Groupの予測
クラウド
2023-10-24 02:45
細菌を生きたまま不純物から分離し濃縮させる技術を確立したAFIテクノロジーが資金調達
ハードウェア
2021-01-30 15:25
あの恐竜骨格を360度見回せる 科博のティラノサウルスなど9体のVRモデル公開
IT関連
2021-01-20 09:14
設置工事不要なAIカメラ「ManaCam」14台を利用した福岡・スタートアップ施設の利用状況の可視化実証実験
IoT
2021-08-20 10:32
Apple、ポッドキャストクリエイターを紹介する「Apple Podcasts Spotlight」を公開
イラスト・デザイン
2021-01-21 02:21
“光イジング計算機”で人工の神経ネットワークを作成、神経の性質を再現 NTTと東大
科学・テクノロジー
2021-04-24 01:17
ニューヨーク市で生体情報プライバシー法が発効、データの販売・共有を禁止
パブリック / ダイバーシティ
2021-07-11 22:25
日立とサイファーマ、SUBARUのセキュリティ対策強化を支援
IT関連
2022-03-20 08:57
HP、ゲーム周辺機器ブランドHyperXを4億ドル超で買収 OMENとは統合せず
企業・業界動向
2021-02-26 19:45
SES営業の価値とは–システムエンジニアリングサービス分科会
IT関連
2023-08-09 12:46