New Relic、自社プラットフォームを「NVIDIA NIM」推論マイクロサービスと統合

今回は「New Relic、自社プラットフォームを「NVIDIA NIM」推論マイクロサービスと統合」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 New Relicは米国時間6月24日、生成AIを開発、展開、監視する複雑さとコストを削減することを目的に、同社プラットフォームと「NVIDIA NIM」推論マイクロサービスとの統合を発表した。現在、「New Relic AI Monitoring」を使うことで、NVIDIA NIMで構築したアプリケーション用AIスタック全体に対する幅広い可視性を簡略化された設定と強化されたデータセキュリティで得ることができる。

 New Relic AI Monitoringは、データプライバシーを担保しながらスループット、レイテンシー、コストに関する主要なメトリクスとともにAIスタックの幅広いビューを提供する。また、AIアプリケーションの内部構造を理解できるよう、サービスやモデルのリクエストフローも追跡する。

 New Relicは、自社の監視機能をNVIDIA NIMに拡張することで、Databricksの「DBRX」、 Googleの「Gemma」、Metaの「Llama 3」、Microsoftの「Phi-3」、Mistral AIの「Mistral Larg」「Mixtral 8x22B」、Snowflakeの「Arctic」を含む幅広いAIモデルをサポートする。これにより、組織は、NVIDIA NIMを使って構築したAIアプリケーションを不安なく展開でき、市場投入までの時間を短縮し、投資収益率(ROI)を向上させることができるとNew Relicは語る。

 AI監視のための主要機能とユースケースとして、同社は以下を挙げる。

 今回の統合は、NVIDIAのAIOpsパートナーエコシステムにNew Relicが加わったことに続くもの。New Relicによると、NVIDIA製GPUや「NVIDIA Triton Inference Server」を含む60以上のAI統合とともに、最も拡張可能なオブザーバビリティソリューションを提供するという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
IBM CEOが今、「共創」の重要性を強調する思惑とは
IT関連
2022-05-20 02:45
新サービスの発表会見で見えたセールスフォースとタブローのユニークな関係
IT関連
2022-06-25 14:47
ウィズセキュア、富士通Japanを通じて医療機関向けにセキュリティソリューション提供
IT関連
2023-05-17 14:54
WasmバイナリをWin/Mac/Linuxで実行可能なバイナリファイルへ変換可能に「Wasmer 3.0」正式リリース
WebAssembly
2022-12-06 14:03
NTT東、業務フロー全体の自動化で「Pega Platform」を採用–既存RPAとの連携が可能に
IT関連
2022-06-07 13:35
Pixel独占だったGoogleフォト高機能が他のAndroidにも ただし要有料「Google One」
アプリ・Web
2021-02-15 15:11
ファンケル、RPA導入で年間6700時間の余力創出–現場主体のロボット内製化を実現
IT関連
2023-07-19 05:34
NEC、顔認証を強化–のぞき見時に高速画面ロックなど新機能
IT関連
2022-03-30 00:03
Twilio、固定電話番号で利用できる音声通話サービス提供–ソフトバンクと提携
IT関連
2022-05-20 20:26
オーストラリア、GoogleとFacebookの抗議を受け修正した記事使用料支払い法案可決
企業・業界動向
2021-02-26 00:56
本人確認のデジタル化–後編:法令と確認方法別の利点や弱点とは
IT関連
2021-03-29 21:43
Cohesity Japan、バックアップとデータ隔離/復旧をSaaSで提供
IT関連
2023-01-28 22:40
データ活用で全社的に十分な成果を得ている日本企業は2.2%–ガートナー調査
IT関連
2022-10-09 08:17
商業地、軒並み下落 ネット通販好調で工業地上昇
IT関連
2021-03-25 18:34