グーグル、奇妙なAI検索結果の真相を説明

今回は「グーグル、奇妙なAI検索結果の真相を説明」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 この1週間、ソーシャルメディアにアクセスした人はおそらく目にしたことだろう。Googleの人工知能(AI)による検索要約機能のスクリーンショットがソーシャルメディアに広がった。ピザに接着剤を入れる、パスタをガソリンで調理する、健康を極めるには岩を食べるべきだといった、めちゃくちゃなお薦めをGoogleがしたというのだ。

 これは始まりにすぎなかった。

 ほかにもとんでもないスクリーンショットが拡散された。ふらちなAI機能が、洗濯機を掃除するのに漂白剤と酢を混ぜるように勧めたり(そんなことをすると、命にかかわるおそれのある塩素ガスが発生する)、「気持ちが沈んでいる」というクエリに対してゴールデンゲートブリッジから飛び降りるように回答したりしたという。

 何があったのだろうか。Googleの「AI Overviews」がなぜそんなことを勧めたのだろうか。

 Googleによると、まず、拡散したものの過半数は、本物ではなかったという。

 多くのスクリーンショットは単なるフェイクだった。Googleは、「偽造されている結果には、明らかにそれと分かるたわいないものがある。一方で、犬の車内放置、妊娠中の喫煙、うつなどの話題について、Googleが危険な結果を返したと示唆しているものもある」と説明したうえで、AI Overviewsでこうした回答が表示されたことはないとしている。

 そのほかに、岩を食べろという回答のような、おかしな検索結果を意図的に得ようとした人によるスクリーンショットが多数あった。「スクリーンショットが拡散する以前、そんなことをGoogleに尋ねた人はほとんどゼロだった」とGoogleは述べている。Googleで検索している人がいない話題だと、おそらく、利用できる情報は多くなく、データが存在しないこともあるだろう。そのようなケースでは、風刺的なコンテンツしかなく、その内容をAIが正確なものだと判断してしまった。

 奇妙な回答や不正確な回答の中に実際に表示されたものがいくつかあったことをGoogleは認めている。普通はありえないクエリに対する回答ではあったが、改善が必要な分野が明らかになった。Googleは、うまくいかなかったもののパターンを特定し、以下に挙げるような十数件を超える技術面の改善を実施した。

 Googleによると、毎日膨大な数のクエリが集まっており、おかしなことが起こることはこれからもあるだろうという。同社は、間違いから学んでいるとしたうえで、AI Overviewsの強化にこれからも取り組んでいくと約束している。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
シスコがSplunkに買収提案との報道。2兆3000億円を提示か
Cisco
2022-02-14 23:38
日本経済新聞社、経理・財務業務の効率化に向け「Oracle Cloud ERP」導入–日本IBMが支援
IT関連
2023-12-24 04:52
NTTドコモで職場接種、ショップ店員ら優先
IT関連
2021-06-23 12:49
F1日本グランプリ、今年も中止 海外関係者の入国が確実にならなかった
くらテク
2021-08-19 19:42
Macラインアップ刷新、次期MacBook Airの薄型化とマグネット充電を計画中?
IT関連
2021-01-26 20:45
AWS Backupの新機能、Amazon RDSのデータベースを任意の時点に戻せる「継続的バックアップ」と「Point-in-timeリカバリ」が登場
AWS
2021-03-12 07:15
オリエ、次期情報系基盤に「Exadata Cloud@Customer」を採用
IT関連
2023-03-30 06:29
独自チップ搭載のマイコンボード「Raspberry Pi Pico」を見る
IT関連
2021-03-28 23:49
セレブが教えるオンライン講座MasterClass効果がEdTechに与える意味とは
その他
2021-04-27 09:59
「盲目でも一人で真っすぐ走れる」 スマホカメラ+AIでランニング支援、Googleが日本で研究スタート
アプリ・Web
2021-08-18 01:38
オープンソースcURLの作者、某大企業から「24時間以内にこの質問に答えるように」との無礼なメールを受け取る
オープンソース
2022-01-26 00:05
シスコ、「Cisco Green Pay」プログラムを国内で適用開始–自社製品の循環利用を促進
IT関連
2023-03-25 12:47
NEC、AI活用した業務改善の支援サービス–現場作業の可視化データから業務課題を分析
IT関連
2024-06-06 11:28
スタートアップが表計算ソフトを使わない財務モデルの構築を支援するFinmark
IT関連
2022-02-01 17:42