グーグル、奇妙なAI検索結果の真相を説明

今回は「グーグル、奇妙なAI検索結果の真相を説明」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 この1週間、ソーシャルメディアにアクセスした人はおそらく目にしたことだろう。Googleの人工知能(AI)による検索要約機能のスクリーンショットがソーシャルメディアに広がった。ピザに接着剤を入れる、パスタをガソリンで調理する、健康を極めるには岩を食べるべきだといった、めちゃくちゃなお薦めをGoogleがしたというのだ。

 これは始まりにすぎなかった。

 ほかにもとんでもないスクリーンショットが拡散された。ふらちなAI機能が、洗濯機を掃除するのに漂白剤と酢を混ぜるように勧めたり(そんなことをすると、命にかかわるおそれのある塩素ガスが発生する)、「気持ちが沈んでいる」というクエリに対してゴールデンゲートブリッジから飛び降りるように回答したりしたという。

 何があったのだろうか。Googleの「AI Overviews」がなぜそんなことを勧めたのだろうか。

 Googleによると、まず、拡散したものの過半数は、本物ではなかったという。

 多くのスクリーンショットは単なるフェイクだった。Googleは、「偽造されている結果には、明らかにそれと分かるたわいないものがある。一方で、犬の車内放置、妊娠中の喫煙、うつなどの話題について、Googleが危険な結果を返したと示唆しているものもある」と説明したうえで、AI Overviewsでこうした回答が表示されたことはないとしている。

 そのほかに、岩を食べろという回答のような、おかしな検索結果を意図的に得ようとした人によるスクリーンショットが多数あった。「スクリーンショットが拡散する以前、そんなことをGoogleに尋ねた人はほとんどゼロだった」とGoogleは述べている。Googleで検索している人がいない話題だと、おそらく、利用できる情報は多くなく、データが存在しないこともあるだろう。そのようなケースでは、風刺的なコンテンツしかなく、その内容をAIが正確なものだと判断してしまった。

 奇妙な回答や不正確な回答の中に実際に表示されたものがいくつかあったことをGoogleは認めている。普通はありえないクエリに対する回答ではあったが、改善が必要な分野が明らかになった。Googleは、うまくいかなかったもののパターンを特定し、以下に挙げるような十数件を超える技術面の改善を実施した。

 Googleによると、毎日膨大な数のクエリが集まっており、おかしなことが起こることはこれからもあるだろうという。同社は、間違いから学んでいるとしたうえで、AI Overviewsの強化にこれからも取り組んでいくと約束している。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
早稲田大学、研究支援・財務システムを「Microsoft Azure」へ移行
IT関連
2022-06-19 04:05
米ガートナー、「スターウォーズの帝国におけるセキュリティは考えうる限り最低スコア」、SF作品に登場する先進文明群をマジッククアドラントで評価。エイプリルフール企画で
おもしろ
2021-04-09 22:53
日本企業のCXへの関心高まるも取り組みに遅れ–ガートナー調査
IT関連
2021-06-08 20:34
Zホールディングス、LINEのデータアクセス問題で特別委員会を立ち上げ
IT関連
2021-03-20 21:33
ゼレンHD・和田社長に聞く事業構想と設立理由–戦略コンサルやシステム開発など傘下
IT関連
2023-10-31 20:56
欧米、国際決済ネットワーク「SWIFT」からロシア排除へ–日本も対応表明
IT関連
2022-03-01 05:59
単一のクラウドプロバイダーに依存するリスクとは–ガートナー調査
IT関連
2023-11-04 15:20
ルイ・ヴィトン、ゲームアプリを公開へ ブロックチェーン採用、著名作家のNFTアートも
くらテク
2021-08-04 09:49
トライアルとNTT、SCM最適化で連携協定–デジタルツイン活用で流通業界の無駄削減
IT関連
2024-01-24 00:12
日立ソリューションズ、SBOM管理をクラウドサービスで提供–必須化の動き受け
IT関連
2023-12-14 06:26
macOSで「Bartender 5」のトリガー機能を使う–特定条件でメニューバーアイコンを表示
IT関連
2023-11-15 18:16
MozillaがAIでWebサイトを自動制作してくれる「Solo」を公開。基本的な情報を基に、説明文からレイアウト、適切なフリー画像の選択までおまかせ
HTML/CSS
2023-12-20 06:15
コンカー、「デジタルインボイス構想」を発表–インフォマート・LINEと連携
IT関連
2021-02-12 12:47
サプライチェーンのデジタル化を促進するSAP–ビジネスやAIの展開
IT関連
2023-09-09 14:36