「AIウォッシング」への懸念–生成AI人気に便乗した誇大広告や詐欺の手口

今回は「「AIウォッシング」への懸念–生成AI人気に便乗した誇大広告や詐欺の手口」についてご紹介します。

関連ワード （AIが企業にもたらす変化、CIO／経営等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　生成AIは定着するのだろうか。多くの兆候が、そうなることを示している。だが、どれほどの能力を持つのか。それはテクノロジー開発者と業界全体が決めることだ。それでも、シリコンバレーがこの波に乗る中で、大小の企業がサーフボードを手に取り、さざ波に乗ろうとしている。

　独自の大規模言語モデルを開発して広範囲での利用を目指す企業もあれば、生成AIを自社製品の理念に組み込む企業もある。他の企業はといえば、口だけは達者で、本当に何でも言って、最新のバズワードをお金儲けに利用しようとしている。

　しかし、新技術が登場すると必ず、投資を始めたばかりで世間の事情にうとい人の無知に目をつけて、手軽に利益を得る可能性を探る悪人が現れる。そのときに用いられるのが、AIウォッシングだ。これは、実際にはAIが使われていない製品やビジネスを、AI搭載と偽って消費者に宣伝する行為を意味する。AIウォッシングが主流になると、控えめな消費者が代償を支払うことになるだろう。

　AI詐欺に先手を打つため、当局者やテクノロジー専門家らが、注意すべき警告や危険信号について意見を述べている。ここでは、消費者が自分の身を守る方法や、企業がAIに関する大げさな主張を避けるための方法を詳しく解説する。

　米連邦取引委員会（FTC）の先頃の訴訟を例に説明しよう。米連邦裁判所は8月、Automators AI（旧Empire Ecommerce LLC）がAIの使用をうたうビジネス機会の販売によって消費者を欺いたとして、同社のビジネススキームを一時的に停止させた。

　被告のRoman Cresto氏、John Cresto氏、Andrew Chapman氏は、ビジネス機会規則とFTC法に違反し、消費者から2200万ドルをだまし取ったとされている。

　FTCの訴状によると、3人はサードパーティーのEコマースストアを顧客の投資で拡大する専門知識によって、自力で億万長者に上り詰めたと宣伝していたという。Empireのウェブサイトには、AI機械学習を自動化プロセスに統合して、売り上げを増やし、ビジネスの成功を促すと書かれているが、それはすべてまやかしだった。

　まずはEmpireのマーケティング資料を見てみよう。この訴訟では、Empireの広告に顧客が得る利益についての「過分な」主張が含まれていると指摘されており、「自動化された」Eコマースパッケージに投資する顧客は、初期投資の額が1万～12万5000ドルで、さらに1万5000～8万ドルの追加費用が必要だったという。

　同社はFTCのビジネス機会規則で義務づけられた開示書類を見込み顧客に提供していなかった、と訴状に記されている。ほとんどの顧客は、同社が広告で約束した収入を受け取れずに、投資額を失い、Empireが開設して管理していたEコマースストアは、ポリシー違反で運営停止になった後、最終的に閉鎖されたという。その後の2022年11月、Empireが第三者の買い手に売却される直前に、従業員がビジネスソフトウェアシステムにアクセスできなくなり、John Cresto氏とRoman Cresto氏はEmpireのレコードからすべてのデータとメール履歴を消去した。

　だが、悪ふざけと詐欺はEmpireの売却後も終わらなかった。3人は2023年1月、同じマーケティング戦術を再び用いて、Automators AIという新しいベンチャーを宣伝した。この企業は消費者に、AIを使用してEコマースサイトで人気の商品を発見し、毎月1万ドル以上を売り上げる方法や、「ChatGPT」を使用して顧客サービススクリプトを作成する方法を教えると主張していた。Roman Cresto氏が創作してAutomatorsのソーシャルメディア広告に掲載した物語は、無一文から金持ちに成り上がって、「数千万ドルを稼ぐ一流のAmazon起業家」となり、富を生み出すシステムを開発したほか、20歳で大学を中退したが、今では母親にTesla車を買ってやり、McLarenのスポーツカー「Spider」で世界中を旅しているというものだ。

　「（こうした詐欺は）新しいものではない。今回の異なる点は、AIによって生成されたコンテンツが非常にリアルになり得るということだ」。Constellation Researchのバイスプレジデント兼プリンシパルアナリストのAndy Thurai氏は米ZDNETにこう語った。「ディープフェイクなどの合成コンテンツは、ほぼ本物といえるほどであり、専門家でさえ本物と偽物を見分けるのは難しいだろう。疑いを持たず、専門的な教育や訓練を受けていない一般人にとっては、困難なはずだ」

　新技術が登場したときに企業が何より嫌がるのは、取り残されることだ。しかし、企業や個人がこの技術を先どりするために行うことは、良くてもビジョンやテーマの統一を欠いているか、最悪の場合は誤解を招く不正なものになることがある。

　2017年、シリコンバレーが「Bitcoin」に沸いていたとき、Long Island Iced Tea Corp.（社名から推測できるように、ソフトドリンクのメーカー）が社名をLong Blockchain Corp.に変更したところ、株価が380％急上昇した（その原因はインサイダー取引だったことが米証券取引委員会の調査で後に判明している）。Bitcoinをめぐる熱狂に便乗したLong Island Iced Tea Corp.は、この技術を自社の事業に組み込むと利害関係者に伝えたが、実際には仮想通貨（暗号資産）とのつながりも、アイスティー以外の専門知識も持っていなかった。

　別の例を紹介しよう。2015年、マサチューセッツ工科大学（MIT）スローン・スクール・オブ・ビジネスの元副学部長兼教授と、その息子であるハーバード・ビジネス・スクールの卒業生が、自分たちのヘッジファンドでは、元教授によって開発された「複雑な数学的トレーディングモデル」（実質的にはAI）によって顧客の資金を投資しているとの虚偽の主張により、投資家から5億ドルをだまし取った、と米司法省が報告している。彼らのヘッジファンドはそのような投資をしていなかった。

　仮想通貨とブロックチェーンの技術は、つかの間の流行のようなものであり、ユースケースが一時的であることが判明したが、専門家たちは、今を象徴する生成AIが根強く続いていくことに賭けている。