「Amazon Bedrock」の顧客事例に見る、生成AIとデータの関係性

今回は「「Amazon Bedrock」の顧客事例に見る、生成AIとデータの関係性」についてご紹介します。

関連ワード (クラウド等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Amazon Web Services(AWS)は、米国時間11月27日から12月1日まで年次イベント「re:Invent2023」を開催した。会期3日目は、同社でデータおよび機械学習(ML)を担当するバイスプレジデントのSwami Sivasubramanian氏が「Amazon Bedrock」の新機能や生成AIを活用した顧客事例を紹介した。

 最高経営責任者(CEO)のAdam Selipsky氏が登壇した2日目の基調講演でもAmazon Bedrockについて解説されたが、Sivasubramanian氏の発表はより生成AIアプリケ―ションを作る上で重要な機能になるという。

 Sivasubramanian氏は講演の中で、今後のビジネスの差別化には企業のデータが重要だと言及。「生成AIのアプリケーションであなたのビジネスに特化したものを作りたい場合は、あなたのデータが差別化の要因になる。汎用(はんよう)的な生成AIアプリケーションから、あなたのビジネスの顧客を理解する生成AIアプリケーションへと変えるカギはあなたのデータだ」と話す。ここでは、Amazon Bedrockと、MLのフルマネージド型サービス「Amazon SageMaker」の新発表とともに顧客事例を見ていく。

 まずは、Amazon BedrockとAmazon SageMakerに関連した新機能を紹介する。Amazon Bedrockは、画像生成や検索など、それぞれに適した幅広い基盤モデルを展開している。今回アップデートされた基盤モデルは、Anthropicが提供する「Claude 2.1」とMetaが提供する「Llama 2 70B」。いずれもバージニア北部およびオレゴンでのリージョンで一般提供を開始している。

 Amazonが提供する基盤モデル「Amazon Titan」シリーズにおいても、「Amazon Titan Image Generator」というモデルをプレビューとして発表した。これは、有害なコンテンツや誤情報を回避しつつ、正確な構図と破綻が少ない画像を生成する。このモデルはTitanが重視する「責任のあるAI」を支えになるとしている。

 加えて、TitanでAIが生成した画像にデフォルトでウオーターマーク(透かし)を挿入する。これにより、AIが生成した画像であることを検証可能にし、安全で透明性のあるAIテクノロジーの開発を推進するという。

 Titanではほかにも、より正確で関連性のあるマルチモーダルな検索とレコメンデーションを提供する「Amazon Titan Multimodal Embeddings」の一般提供を開始した。これは、画像とテキストの組み合わせを入力し、類似性の高いコンテンツを返す処理がベクトルデータベースを併用することで可能になる。Titanシリーズについても、現時点ではバージニア北部とオレゴンで利用できる。

 これまでプレビューとして公開していたモデルの一般提供を開始した。Stability AIの「Stable Diffusion XL 1.0」がバージニア北部とオレゴンで利用できる。

 加えて「Amazon Titan Text Express」と「Amazon Titan Text Lite」の一般提供をアジアパシフィック(東京)でも開始した。Amazon Titan Text Expressは、8000トークンのコンテキストウインドーをサポートしており、英語に最適化しているが、100以上の多言語対応もプレビューとして利用できる。Amazon Titan Text Liteは、4000トークンに対応しており、高速に応答を返せるというのが特徴になる。

 同氏は、生成AIアプリケーションを展開する際に、適切なアルゴリズムや測定基準などを人が評価するワークフローを設定する必要があるという。この構築や運用が困難だったわけだが、今回、顧客のニーズに応える形で「Model Evaluation on Amazon Bedrock」のプレビューを発表した。同サービスは、選択肢として用意されたモデルを比較し、ユースケースに最適かどうかを評価する。

 「質問への回答」「要約」などのタスクを指定し、比較するモデルを指定。厳選された組み込みデータセットでテストが行われるが、カスタムのテスト用データセットも持ち込める。親しみやすさ、スタイル、ブランディングなど、人間による判断が必要なケースはワークフローに組み込むことができるという。評価プロセスがセットアップされると、Amazon Bedrockが評価しレポートを作成。最適なモデル選択が実現できるという。

 Amazon SageMakerの新機能では、「Amazon SageMaker HyperPod」の一般提供をアジアパシフィック(東京)で開始した。

 SageMaker HyperPodは、大規模な分散トレーニング用の専用インフラストラクチャーを提供する。ワークロードを自動分割して分散させるとともに、チェックポイントを定期的に保存することで処理の継続性を高める。また、ハードウェア障害を自動で検知して解決。最後のチェックポイントから自動で再開する。これにより、基盤モデルのトレーニング時間を最大で40%短縮できるという。

 Perplexityが提供する対話型AI検索エンジン「Perplexity AI」は、SageMakerを活用して独自のモデルを開発・学習している。当初はAmazon BedrockとClaude2を使うことで、一般的な質問に対して自然言語で返せるようになった。その後、Llama2や「Mistral 7B」、同社がトレーニングしたモデルを追加した。

 Perplexity 共同創設者 兼 最高経営責任者のAravind Srinivas氏は「SageMaker HyperPodを利用することで、学習時のデバッグを効率化することができ、学習のスループット(処理能力)を2倍に向上できた」と話す。

 Amazon SageMakerは機能の強化も行っている。まず、「Amazon SageMaker Serverless Inference」のコスト効率向上とレイテンシー(遅延時間)の改善を行った。インスタンスに複数のモデルを収容して稼働率を向上することで、平均50%のコストを削減する。また、負荷に応じたリクエストルーティングにより平均20%のレイテンシーを削減するという。

 MLモデルのバイアスを検出する「Amazon SageMaker Clarify」が基盤モデルの比較機能に対応する。基盤モデルには幅広い選択肢があり、迅速な比較をサポートする。事前に用意されているプロンプトまたはカスタムプロンプトで試験を実施する。結果はレポート形式で提供されるという。

 ノーコードでMLモデルを構築できる「Amazon SageMaker Canvas」のノーコード機能を強化した。自然言語の指示によるノーコードのデータ準備に対応する。また、SageMaker Canvasで利用する基盤モデルのカスタマイズにも対応するという。いずれの機能もアジアパシフィック(東京)で一般提供を開始している。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
コロナ禍でクラウド支出増加、「Microsoft Azure」「AWS」が依然主力に–Flexera
IT関連
2021-01-19 02:23
東北電力、新経理システムにSAP S/4HANAを採用
IT関連
2023-11-22 19:08
「Chrome」で固定タブが消えてしまう–ブックマークフォルダーを使った対処法
IT関連
2022-04-22 11:12
Teslaが電気自動車の全ラインナップを値上げ
IT関連
2022-03-17 00:07
TwitterでツイートをInstagramストーリーに直接シェア可能に
ネットサービス
2021-06-25 02:20
SAS日本法人社長が説く「AI時代の人の意志決定力の磨き方」
IT関連
2024-07-27 18:44
無料「コーヒー診断」で好みのコーヒー豆を届けるサブスク「PostCoffee」運営元が1.5億円を調達
フードテック
2021-07-14 18:23
SpaceXが記録的な数の衛星を搭載した初の専用ライドシェアミッションをライブで公開、予定変更で日本時間1月25時0時から
宇宙
2021-01-25 00:52
NTTテクノクロス、コールセンターAIの音声認識精度を向上–次世代メディア処理AIと連携
IT関連
2024-09-04 20:31
Webマーケのトレンダーズが異例の「ラノベ共創サービス」 「新入社員の熱烈アピール」で新規事業化
企業・業界動向
2021-08-14 14:36
SpaceXの衛星インターネットサービス「Starlink」、ユーザー数が1万人を突破
IT関連
2021-02-06 18:50
CES 2022のリアル会場、ワクチンパスポート必携に
企業・業界動向
2021-08-19 15:11
広島銀行、インボイス管理サービス「Bill One」導入–年間約3万件の紙の請求書をデジタル化
IT関連
2024-05-21 04:31
三井化学と日本IBM、ブロックチェーン活用した「資源循環プラットフォーム」で協業
IT関連
2021-04-28 15:13