Opera、LLMをダウンロードしてローカルで利用する機能を開発者版で提供

今回は「Opera、LLMをダウンロードしてローカルで利用する機能を開発者版で提供」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ブラウザー「Opera」のユーザーにうれしい新機能が発表された。デバイス上で完全にローカルな形でOperaから利用できる大規模言語モデル(LLM)だ。

 Opera Softwareの発表によると、ユーザーがLLMをダウンロードし、内蔵機能を通じてローカルで使えるのは、主要ブラウザーでは初めてだという。これにより、サーバーにデータを送信することなくOperaでLLMを利用できる。この機能は、「AI Feature Drops Program」の一環として、「Opera One」の開発者向けストリームで提供される。AI Feature Drops Programとは、実験的な人工知能(AI)機能をアーリーアダプターがテストできるプログラムだ。

 利用できるLLMは、Googleの「Gemma」、Mistral AIの「Mixtral」、Meta Platformsの「Llama」、オープンソースの「Vicuna」などで、合計すると約50系統150種類のLLMが利用できる。

 Operaによると、各LLMの容量は2GBから10GBで、専門化されたLLMほど必要な容量が少ないという。また、ハードウェアの演算能力にもよるが、ローカルのLLMはサーバーベースのものよりも処理速度かなり遅くなる可能性があるため注意が必要だという。

 Operaはおすすめのモデルをいくつか挙げている。「Code Llama」はコードの生成と検討を目的にLlamaを拡張したものだ。Mixtralはテキスト生成や質問への回答などの自然言語処理タスクに幅広く対応している。Microsoft Researchの「Phi-2」は、「推論と言語理解で抜きんでた能力を示している」言語モデルだという。

 今回の機能を試すには、開発者向け「Opera One developer」の最新版にアップグレードする必要がある。アップグレードしたら、サイドパネルのAIチャット「Aria」を開き上部のドロップダウンボックスで「ローカルAIモデルを選択」(choose local mode)を選ぶ。次に「設定に移動」(Go to settings)をクリックしてから、ダウンロードしたいモデルを探す。選んだLLMがダウンロードされたら、左上にあるメニューボタンをクリックして、新しいチャットの開始を選ぶ。すると、ダウンロードしたモデルを選択してチャットを始められる。

 OperaのネイティブなAIであるAriaに戻すまで、選んだLLMがAriaの代わりを務める。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
GitHub、「secret scanning」のプッシュ保護機能をGHASライセンスで一般提供
IT関連
2023-05-12 22:58
ヤフー、「PayPayボーナスライト」の配布を終了 有効期限付き残高を撤廃へ
企業・業界動向
2021-01-17 02:22
五輪会場のガンダムを「トランスフォーマー」と紹介した英BBCにツッコミ殺到 :東京五輪とネット
ネットトピック
2021-08-08 16:14
NTTデータ関西、コロナワクチン接種の予約支援システムを無償提供 人口5万人以下の100自治体に
クラウドユーザー
2021-02-17 16:33
技術職の求人、依然として男性有利–米調査
IT関連
2022-06-23 05:39
東芝、少量データのオフライン強化学習で複雑なロボット制御を行えるAI技術を開発
IT関連
2024-05-11 21:06
まったく新しい特徴を備えたLinuxデスクトップ「Universal Blue」
IT関連
2023-04-25 06:43
必要な場所にデータを移動させるオープンソースのデータコネクタープラットフォームAirbyteが28.3億円調達
ソフトウェア
2021-05-27 04:20
静岡銀行、Snowflakeやブレインパッドと生成AIチャットボットを開発
IT関連
2024-10-31 21:15
タブレット出荷台数、第2四半期は微増–「Chromebook」は51%減
IT関連
2022-08-03 23:57
1000ノード超のデータ分析基盤はクラウドでも安定稼働–テラデータがAWSで実証
IT関連
2022-03-12 00:46
避難所の“密”を防ぐ「ダンボール・スリープカプセル」、年内登場
くらテク
2021-06-30 22:55
Twitterがより目立つ「誤報警告ラベル」をテスト中
ネットサービス
2021-07-03 17:31
イノベーション大国のスイスに学ぶ、AI・量子技術へのアプローチ
IT関連
2023-12-19 18:20