New Relic、自社プラットフォームを「NVIDIA NIM」推論マイクロサービスと統合

今回は「New Relic、自社プラットフォームを「NVIDIA NIM」推論マイクロサービスと統合」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 New Relicは米国時間6月24日、生成AIを開発、展開、監視する複雑さとコストを削減することを目的に、同社プラットフォームと「NVIDIA NIM」推論マイクロサービスとの統合を発表した。現在、「New Relic AI Monitoring」を使うことで、NVIDIA NIMで構築したアプリケーション用AIスタック全体に対する幅広い可視性を簡略化された設定と強化されたデータセキュリティで得ることができる。

 New Relic AI Monitoringは、データプライバシーを担保しながらスループット、レイテンシー、コストに関する主要なメトリクスとともにAIスタックの幅広いビューを提供する。また、AIアプリケーションの内部構造を理解できるよう、サービスやモデルのリクエストフローも追跡する。

 New Relicは、自社の監視機能をNVIDIA NIMに拡張することで、Databricksの「DBRX」、 Googleの「Gemma」、Metaの「Llama 3」、Microsoftの「Phi-3」、Mistral AIの「Mistral Larg」「Mixtral 8x22B」、Snowflakeの「Arctic」を含む幅広いAIモデルをサポートする。これにより、組織は、NVIDIA NIMを使って構築したAIアプリケーションを不安なく展開でき、市場投入までの時間を短縮し、投資収益率(ROI)を向上させることができるとNew Relicは語る。

 AI監視のための主要機能とユースケースとして、同社は以下を挙げる。

 今回の統合は、NVIDIAのAIOpsパートナーエコシステムにNew Relicが加わったことに続くもの。New Relicによると、NVIDIA製GPUや「NVIDIA Triton Inference Server」を含む60以上のAI統合とともに、最も拡張可能なオブザーバビリティソリューションを提供するという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Facebook、カメラと心拍モニター搭載スマートウォッチを来年夏に発売か
企業・業界動向
2021-06-11 15:12
シスコの元CEOチェンバース氏、ネットワーキングの新興企業で再び表舞台に
IT関連
2022-09-17 02:01
小泉今日子が音声配信サービスに挑戦 「心の扉をノックしたい」 
IT関連
2021-04-20 20:05
セキュリティで生成AIを活用するには環境整備から–ラックが検証
IT関連
2024-03-13 01:04
イーロン・マスク氏のインサイダー取引の可能性について米SECが調査開始
IT関連
2022-02-26 13:57
ウィズセキュア、2024年のサイバーセキュリティ動向予測を発表
IT関連
2023-12-23 09:11
「ERNIE 4.0」は「GPT-4」に引けを取らない–バイドゥCEO
IT関連
2023-10-19 03:18
熟成期間が長いハードチーズを動物性原料を使わずに作るBetter Dairyが約25.3億円を調達
IT関連
2022-03-02 05:57
マイクロソフトとオラクル、「Oracle Database Service for Microsoft Azure」発表。AzureからOracle Cloudのデータベースをプロビジョニング可能に
DBaaS
2022-07-21 13:29
1日1回、数百カ所のアナログ計器点検を効率化する「LiLz Gauge」運営が約2.5億円を調達
ネットサービス
2021-02-10 02:35
MySQLの商用テクニカルサポートはどんな風に役立つのか?「バージョンアップに失敗、助けてください」「パフォーマンスが遅いです」など[PR]
MySQL
2022-10-25 09:37
マイクロソフト、「Copilot」無料版にも「GPT-4 Turbo」を搭載
IT関連
2024-03-15 08:27
学習済みAI、演算量小さい機器に応用 高精度な「スケーラブルAI」技術 東芝と理研が開発
ロボット・AI
2021-08-21 03:39
データセキュリティの世界動向と対策を知るオンラインセミナーを開催
IT関連
2024-03-07 14:18