グーグル、奇妙なAI検索結果の真相を説明

今回は「グーグル、奇妙なAI検索結果の真相を説明」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 この1週間、ソーシャルメディアにアクセスした人はおそらく目にしたことだろう。Googleの人工知能(AI)による検索要約機能のスクリーンショットがソーシャルメディアに広がった。ピザに接着剤を入れる、パスタをガソリンで調理する、健康を極めるには岩を食べるべきだといった、めちゃくちゃなお薦めをGoogleがしたというのだ。

 これは始まりにすぎなかった。

 ほかにもとんでもないスクリーンショットが拡散された。ふらちなAI機能が、洗濯機を掃除するのに漂白剤と酢を混ぜるように勧めたり(そんなことをすると、命にかかわるおそれのある塩素ガスが発生する)、「気持ちが沈んでいる」というクエリに対してゴールデンゲートブリッジから飛び降りるように回答したりしたという。

 何があったのだろうか。Googleの「AI Overviews」がなぜそんなことを勧めたのだろうか。

 Googleによると、まず、拡散したものの過半数は、本物ではなかったという。

 多くのスクリーンショットは単なるフェイクだった。Googleは、「偽造されている結果には、明らかにそれと分かるたわいないものがある。一方で、犬の車内放置、妊娠中の喫煙、うつなどの話題について、Googleが危険な結果を返したと示唆しているものもある」と説明したうえで、AI Overviewsでこうした回答が表示されたことはないとしている。

 そのほかに、岩を食べろという回答のような、おかしな検索結果を意図的に得ようとした人によるスクリーンショットが多数あった。「スクリーンショットが拡散する以前、そんなことをGoogleに尋ねた人はほとんどゼロだった」とGoogleは述べている。Googleで検索している人がいない話題だと、おそらく、利用できる情報は多くなく、データが存在しないこともあるだろう。そのようなケースでは、風刺的なコンテンツしかなく、その内容をAIが正確なものだと判断してしまった。

 奇妙な回答や不正確な回答の中に実際に表示されたものがいくつかあったことをGoogleは認めている。普通はありえないクエリに対する回答ではあったが、改善が必要な分野が明らかになった。Googleは、うまくいかなかったもののパターンを特定し、以下に挙げるような十数件を超える技術面の改善を実施した。

 Googleによると、毎日膨大な数のクエリが集まっており、おかしなことが起こることはこれからもあるだろうという。同社は、間違いから学んでいるとしたうえで、AI Overviewsの強化にこれからも取り組んでいくと約束している。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ペンライトを振るとアイドルの衣装が光り、動きが持つ手に伝わる ライブでアイドルと身体的に同期する手法、埼玉大が開発 :Innovative Tech(1/3 ページ)
イラスト・デザイン
2021-08-08 12:55
“可変式望遠レンズ”搭載「Xperia 1 III」登場
製品動向
2021-04-15 17:42
TuSimpleのIPO申請で明らかになった中国と関係がある自動運転スタートアップのハードル
モビリティ
2021-03-27 08:17
フォードが世界的なチップ不足を理由に特定の部品を使わずにF-150トラックを生産
モビリティ
2021-03-21 08:50
ラック、パロアルト「Cortex Xpanse」提供–アタックサーフェス管理サービスを開始
IT関連
2022-02-06 18:38
「Edge」ブラウザー、毎月1GBまで無料のVPN機能を搭載へ
IT関連
2022-05-03 16:59
オンラインチケット販売TIGET運営のgrabssが2.3億円調達、音声通話サービスTHISIS新開発
ネットサービス
2021-02-17 15:15
EC商品のリモート写真・動画撮影を容易にするSoonaがシリーズAで約11.1億円を調達
ネットサービス
2021-04-20 19:19
VTuberも熱視線 等身大アバターの興奮度
IT関連
2021-07-28 22:37
マイクロソフトが離れていてもイベントを共有できる複合現実プラットフォーム「Microsoft Mesh」を発表
VR / AR / MR
2021-03-04 12:09
ベルク、従業員同士の称賛文化醸成や企業理念の浸透を支援するアプリ導入
IT関連
2024-06-21 22:03
SUBARU、HPCワークロードの実行環境に「Oracle Cloud Infrastructure」導入
IT関連
2022-05-25 09:38
インド物流市場システムのデジタル化を進める最大手DelhiveryがIPOに向け約304億円調達
ネットサービス
2021-06-01 18:51
Ubisoft、ゲームキャラを自然に動かせる低コストな深層学習モデルを開発 :Innovative Tech
イラスト・デザイン
2021-03-24 08:17