中国でAI作成コンテンツへのラベル付けが必須に–シャオミの雷軍氏もAI詐欺に苦慮

今回は「中国でAI作成コンテンツへのラベル付けが必須に–シャオミの雷軍氏もAI詐欺に苦慮」についてご紹介します。

関連ワード （中国ビジネス四方山話、開発等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　今、中国で最も人気のあるIT系企業の経営者といえば、最近再び脚光を浴びている阿里巴巴（アリババ）の馬雲（ジャック・マー）氏でも、同社との二強時代から一強になりトップに躍り出た騰訊（テンセント）の馬化騰（ポニー・マー）氏でもなく、小米科技（シャオミ）の雷軍（レイ・ジュン）氏だ。

　シャオミは日本で直営店のオープンや新しいスマートフォンの発売で話題になっている。一方、中国では電気自動車（EV）の魅力的な製品とサービスで注目を集めている。シャオミの創業者であるレイ氏は、モーターショーでインフルエンサーとしてブースに登場し、SNSで動画を配信した。その結果、同氏を見ようと多くの人がシャオミのブースに集まった。

　そんなレイ氏は企業の広告塔として、「微信」（WeChat）向けの動くスタンプをリリースし、多くのネットユーザーから人気を集めている。一方で、レイ氏の許可なく、ネットユーザーが多数の音声ソースを使って同氏が口汚く罵る音声をAIツールで作り出し、それをまとめたボイスパックが拡散した。知名度が高いため、あっという間に多くの人がその音声を耳にするようになり、レイ氏は「そういうことはやめてほしい」と動画で訴えかけた。

　3月5日に「全国人民代表大会」（全人代）が開幕した。レイ氏も代表の1人として参加し、そこでAIによる個人の顔や声の改ざん対策について3つの提案をした。同氏は特に目立った被害者だが、各種AIツールの登場により、有名人かどうかに関わらず、ニュースで報道されるケースが増えているため、対策を提案したのだろう。

　1つ目は、AIに関する独立した法律の導入を検討することだ。適用の境界線を明確にし、権利侵害の証拠に関する規則を変更し、刑事罰を強化する。2つ目は、プラットフォームなどの責任を強化することだ。プラットフォーム企業がAIによって生成、合成されたコンテンツを正確に識別し、検査や審査、苦情や報告、緊急対応のメカニズムを構築し、問題のあるコンテンツの拡散を適時に阻止する技術能力の開発を支援する。3つ目は、ネットユーザーへの啓発を強化することだ。小学校から高校までの教科書にAIに関する倫理的な内容を追加し、家庭でも啓発活動を行う。法整備、プラットフォームの協力、市民への啓発活動の3つの方法は、中国でよく見られるやり方だ。

　その後、14日に「人工智能生成合成内容標識方法」が発表され、AIで生成されたファイルにラベルを付けることが義務付けられた。この規則は、情報産業省に当たる工業和信息化部、公安部、国家ラジオテレビ総局などが共同で発表し、9月1日から施行される。この規則では、AIで作られたコンテンツには、誰でも見えるラベルと、見えないラベルを付ける必要がある。プラットフォームは、これらのラベルが付いたコンテンツを適切に扱わなければならない。

　サービス提供者は、AIが作ったテキスト、音声、画像、動画、仮想空間などのコンテンツに、AIで生成されたことを示すラベルを付ける必要がある。具体的には、次のようになる。

　さらに、ダウンロードやコピーを提供する際にも、これらのラベルがファイルに適切に埋め込まれていることを確認する必要がある。

　見えるラベルに加えて、メタデータやデジタル透かしといった見えないラベルも必要だ。AIサービス提供者は、生成されたコンテンツのメタデータにコンテンツの属性や提供者名などの識別情報を埋め込むことが義務付けられる。配信プラットフォームは、メタデータにラベルがあればそれを確認して明示し、ラベルがないものの投稿者が生成コンテンツであると自己申告した場合には、その情報に基づいてラベルを付与する。また、ラベルがないにもかかわらずAI生成の痕跡が認められる場合も、目立つ形で明示的なラベルを追加しなければならない。さらに、ラベルの改ざんや不正操作を目的としたツールやサービスの提供、および他社の権利を侵害する不適切なラベルの使用も禁じられている。

　これにより、AIによるコンテンツ生成が引き起こす犯罪が完全になくなるわけではない。例えば、生成AIを使って歴史上の人物を架空の状況で戦わせるなど、歴史を改ざん、悪用する動画を作ることを禁止する「生成式人工智能服務管理暫行方法」によって、中国のネット空間ではそうした動画をほとんど見かけなくなった。ラベル付けが義務化されれば、AIによるコラージュコンテンツはかなり減るだろう。一方で、海外でAIによって作られたコンテンツにはラベルがないため、今後の動向を注視する必要がある。