グーグル、奇妙なAI検索結果の真相を説明

今回は「グーグル、奇妙なAI検索結果の真相を説明」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 この1週間、ソーシャルメディアにアクセスした人はおそらく目にしたことだろう。Googleの人工知能(AI)による検索要約機能のスクリーンショットがソーシャルメディアに広がった。ピザに接着剤を入れる、パスタをガソリンで調理する、健康を極めるには岩を食べるべきだといった、めちゃくちゃなお薦めをGoogleがしたというのだ。

 これは始まりにすぎなかった。

 ほかにもとんでもないスクリーンショットが拡散された。ふらちなAI機能が、洗濯機を掃除するのに漂白剤と酢を混ぜるように勧めたり(そんなことをすると、命にかかわるおそれのある塩素ガスが発生する)、「気持ちが沈んでいる」というクエリに対してゴールデンゲートブリッジから飛び降りるように回答したりしたという。

 何があったのだろうか。Googleの「AI Overviews」がなぜそんなことを勧めたのだろうか。

 Googleによると、まず、拡散したものの過半数は、本物ではなかったという。

 多くのスクリーンショットは単なるフェイクだった。Googleは、「偽造されている結果には、明らかにそれと分かるたわいないものがある。一方で、犬の車内放置、妊娠中の喫煙、うつなどの話題について、Googleが危険な結果を返したと示唆しているものもある」と説明したうえで、AI Overviewsでこうした回答が表示されたことはないとしている。

 そのほかに、岩を食べろという回答のような、おかしな検索結果を意図的に得ようとした人によるスクリーンショットが多数あった。「スクリーンショットが拡散する以前、そんなことをGoogleに尋ねた人はほとんどゼロだった」とGoogleは述べている。Googleで検索している人がいない話題だと、おそらく、利用できる情報は多くなく、データが存在しないこともあるだろう。そのようなケースでは、風刺的なコンテンツしかなく、その内容をAIが正確なものだと判断してしまった。

 奇妙な回答や不正確な回答の中に実際に表示されたものがいくつかあったことをGoogleは認めている。普通はありえないクエリに対する回答ではあったが、改善が必要な分野が明らかになった。Googleは、うまくいかなかったもののパターンを特定し、以下に挙げるような十数件を超える技術面の改善を実施した。

 Googleによると、毎日膨大な数のクエリが集まっており、おかしなことが起こることはこれからもあるだろうという。同社は、間違いから学んでいるとしたうえで、AI Overviewsの強化にこれからも取り組んでいくと約束している。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
凸版ら、ロボット管理クラウドとエレベーター制御システム間でセキュリティ通信実証
IT関連
2022-03-24 15:29
教育現場ならではのニーズに応えたLinuxディストロ「Escuelas Linux」
IT関連
2024-02-06 03:34
サイバーセキュリティクラウド、ウェブAPIの保護をOSSで公開
IT関連
2024-01-18 10:30
ランサムウェアの身代金支払いが減少–しかし楽観は禁物
IT関連
2023-01-28 07:37
立命館大、テレプレゼンスシステム「窓」で多様な地域との高大連携を加速
IT関連
2024-03-27 16:22
Google、初オリジナルモバイルSoC「Google Tensor」発表 「Pixel 6」に搭載
製品動向
2021-08-04 13:50
イマクリエイトと東京大学が医学生用VRシステム共同開発、実際に体を動かしながらの実習をバーチャルトレーニングで支援
IT関連
2022-02-04 14:40
Google翻訳のAPIに新機能 PDFやWord、Excelファイルのレイアウトを維持したまま中身を翻訳
クラウドユーザー
2021-05-14 09:10
グローブなしで触覚を再現する「Touch&Fold」、非使用時は爪側にくるりと収納 シカゴ大学が開発 :Innovative Tech(1/3 ページ)
トップニュース
2021-08-13 14:01
Apple Watchで心臓病予防 脳梗塞前の心房細動を見つけるきっかけに
IT関連
2021-06-15 02:55
CryptoPunksのNFTセットがクリスティーズで約18.5億円で落札
ブロックチェーン
2021-05-13 13:39
「ではビートルズ、イン・マイ・ライフをどうぞ」 ポッドキャストなのに商用音楽を使った音楽番組ができるSpotify「Music + Talk」が楽しすぎる :CloseBox(1/2 ページ)
くらテク
2021-08-20 20:33
「呪術廻戦」連載再開 8月2日発売の35号で
くらテク
2021-07-17 08:33
「GHOST IN THE SHELL 攻殻機動隊」再び映画館に 4KリマスターのIMAX版、9月公開
くらテク
2021-08-21 15:25