Meta、コード生成や解釈に特化した大規模言語モデル「Code Llama」公開

今回は「Meta、コード生成や解釈に特化した大規模言語モデル「Code Llama」公開」についてご紹介します。

関連ワード (サイズ、結果、高速等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llma」を公開しました。

fig

Code Llmaは、先月(2023年7月)にMetaが発表した大規模言語モデル「Llma 2」をベースに、コードに特化したデータセットでさらに訓練したバージョンだと説明されています。

対応するプログラミング言語はPython、C++、Java、PHP、JavaScript、Typescript、C#、Bashなどを始めとする主要な言語。

GPUで処理できるサイズやPython特化のモデルも

Code Llmaは3つのサイズ、7B、13B、34Bが提供されています。

7Bモデルは1つのGPUで処理できる一方で、34Bモデルは最善の結果を返し、より良いコーディング支援を可能にする能力があります。

一方、7Bおよび13Bモデルは高速に動作するため、リアルタイムコード補完のような低レイテンシを必要とするタスクに適しているなど、それぞれに適した用途が存在します。

さらに、Pythonの能力に特化してファインチューニングした「Code Llama – Python」および人間が自然言語で入力したプロンプトから何を期待しているのかをよりよく理解できるようにファインチューニングした「Code Llama – Instruct」も提供されます。

特有のライセンス条件に注意

Code LlmaはLlma本体と同じく研究目的や商業用途で利用可能なLlma 2 Community Licenseで提供されます。

ただし月間アクティブユーザーが7億人以上のサービスで利用する場合にはMetaから別途ライセンスを取得する必要があるなど、このライセンス特有の制限項目などがあるため、念のためライセンスを確認した上で利用されることをおすすめします。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
生徒会選挙でネット投票 公職選挙も 茨城県の県立中高一貫校
IT関連
2021-07-14 13:06
NRIセキュア、情報システムの運用監視–クラウド配信型セキュリティ基盤を活用
IT関連
2021-07-27 22:29
グーグル親会社Alphabetの第1四半期決算、売上高が予想下回る–クラウド好調
IT関連
2022-04-28 18:19
ハイブリッドワークは働く人のウェルビーイングにどのような影響を及ぼすのか
IT関連
2024-05-24 08:10
マクロ経済が急激に変動–これからのサプライチェーンには何が必要か
IT関連
2023-01-26 16:11
PwCコンサルティング、JTの生成AI実証を支援–独自の検証基盤活用
IT関連
2023-10-20 07:00
Zoom、約1300人の人員削減へ–従業員の15%
IT関連
2023-02-09 12:12
ZホールディングスとLINEが戦略方針説明会、AIに5年間で5000億円投資し4つの集中領域に取り組む
ネットサービス
2021-03-03 03:41
放射線防護用メガネ由来のサングラスがテレワークに向いている理由 「5G EGIS」はずり落ちない :分かりにくいけれど面白いモノたち(1/3 ページ)
くらテク
2021-07-31 03:20
JPX総研、日立と共同で「カーボン・クレジット市場システム」を開発
IT関連
2022-10-06 23:45
バグバウンティ大手HackerOneが約56.6億円調達、在宅勤務によるクラウド利用増加が後押しに
IT関連
2022-01-29 06:50
日本企業のデジタル化は世界より約2年の後れ–ガートナー調査
IT関連
2021-02-03 05:40
話者映像とPC画面を組み合わせ「非同期コミュニケーション」を支援するQudenのzipunkが5000万円調達、正式版も公開
IT関連
2022-02-09 20:34
Kyndryl、日本社長にIBM 執行役員の上坂氏任命–GTSの移管準備進む
IT関連
2021-07-02 01:32