音声生成AIの新興企業ElevenLabs、合成音声の判定ツールを一般公開

今回は「音声生成AIの新興企業ElevenLabs、合成音声の判定ツールを一般公開」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成型の人工知能(AI)は、テキストやアート、画像、そして音声までをも含むさまざまなタイプのコンテンツを生成できる。

 AI分野の新興企業であるElevenLabsは、テキストから音声への変換と、音声クローニングを実現する機能のベータ版を1月から提供しており、その登録ユーザー数は100万人を超えるまでになっている。

 同社は米国時間6月20日、シリーズAラウンドで1900万ドル(約27億円)の資金を調達したことと、同社のプラットフォームをアップデートしたことを発表した。このアップデートには、音声クローニングで大きな物議を醸している問題への対策も含まれている。

 同社の音声生成技術が公開されて以来、同技術の肯定的な面と否定的な面の双方に対して注目が高まっている。

 肯定的な面として同社が挙げている例には、「独立系の著作家によるオーディオブックの制作や、ビデオゲームの開発者によるキャラクターボイス(CV)の作成、視覚障害者によるオンライン上のテキストコンテンツへのアクセス、世界初となるAIラジオ局の実現」が含まれている。

 こうした例は、さまざまな業界における業務プロセスの向上を可能にするものの、その一方で有害な利用例も見受けられる。

 ある人物の音声の断片を入力するだけで、その人がしゃべってもいない内容の音声を作り出せるという音声クローニング技術は、有名人が恐ろしく差別的な発言をしているように思わせるといった、悪意ある目的で用いられている。

 ベータ版のリリースから数週間後、ElevenLabsは「音声クローニングの悪用」に対処していくとTwitter上で発表した。同社はこの問題と戦っていくための手段として、アカウント認証の追加や、音声の著作権の検証、さらには各リクエストに対する手作業での検証などを示唆した。

 ElevenLabsは同日、この問題に対する同社の対応策とみられる「AI Speech Classifier」を一般公開した。このツールに音声データをアップロードすると、それにElevenLabsのAIによって生成されたものが含まれているかどうかを判定できる。

 ElevenLabsは今回の発表に「AI Speech Classifierのリリースは、透明性に向けた最新の対策であり、生成型メディアの安全な世界を作り出すというコミットメントの土台となるものだ」と記している。

 このツールに関する15日の発表によると、同ツールは99%を超える精度で音声の真正性を判定できるという。

 ただし、生成された音声のコーデックが変換されたり、リバーブ(残響)効果が施されている場合、精度は90%を超える程度となるなど、音声コンテンツへの加工が増えるほど、その精度は低下していくという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
AI・データ時代を支えるストレージやデータ保護ベンダーの展望
IT関連
2024-01-13 00:13
一人一人が誇りを持ち活躍し続けられる、魅力ある企業を目指す–NECソリューションイノベータ・石井社長
IT関連
2023-01-08 06:21
伊藤園、コミュニティーメディア「CHAGOCORO」に海外販売支援サービス導入
IT関連
2022-11-09 08:26
英国気象庁とマイクロソフト、スーパーコンピューター構築で連携–高度な気象予測を実現へ
IT関連
2021-04-24 14:53
イオンリテール、約350店舗に「AIワーク」と「MaIボード」を展開–より働きがいのある職場を実現へ
IT関連
2022-07-27 15:37
Linux Foundationと大手IT企業、企業向け生成AIツール開発で提携
IT関連
2024-04-19 23:48
マイクロソフト、AIと音声認識のニュアンスを2兆円超で買収へ
IT関連
2021-04-13 13:02
東映アニメ、不正アクセスの調査結果を公表–業務ソフト配布元が改ざん
IT関連
2022-05-03 06:25
ITとOTが融合したセキュリティの将来
IT関連
2023-04-11 12:46
AWS、日本独自でクラウド移行の計画立案段階を支援する新サービス
IT関連
2021-04-21 06:54
NFTを利用してクリエイターが自分の知的財産を守るブロックチェーンのプラットフォーム「S!NG」
ブロックチェーン
2021-04-28 20:59
第20回:2030年以降も生き残るIT部門・リーダーの姿とは? 先進テクノロジーとの正しい付き合い方–その1
IT関連
2022-10-15 01:06
「IIJセキュリティ教習所」に新任セキュリティ担当者向けの基礎コース新設
IT関連
2023-04-21 11:10
アバナードら、小売現場のスマート化に着手–エッジデバイス活用でデータ量削減
IT関連
2022-04-26 23:47