画像生成AI「DreamUp」めぐる議論をきっかけに今後の流れを考える

今回は「画像生成AI「DreamUp」めぐる議論をきっかけに今後の流れを考える」についてご紹介します。

関連ワード （ソフトウェア等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　人工知能（AI）による画像生成機能は、AIのトレーニングに使用される無数の画像データによって支えられている。画像生成AIは、ユーザー入力したキーワードに従って既存の画像を分解して色や形を組み合わせ、新たな作品を生み出す（この作品が本当に新しいものと言えるかどうかは議論の対象になっている）。

　画像生成AIは、取り込んだ絵から情報を引き出しているわけだが、その行為自体は人間のアーティストもやっていることだ。ただし、人間が入力された情報を見て、それを処理し、何か新しいものを生み出そうとする行為と、AIの画像生成の間には、規模に大きな違いがある。

　アーティストコミュニティーサイトのDeviantArtがAIによる画像生成機能である「DreamUp」をリリースした際、同社のコミュニティーは、コミュニティーの作品が自動的にAIデータセットに使用される設定になっていることに対して、直ちに強く反発した。

　同社のコミュニティーのクリエイターが、自分の作品が以後のAIのトレーニングに使用されるのを防ぐには、手動でオプトアウトする必要があった。ところが、このオプトアウトのリクエストが有効になったのは、コミュニティーの作品がDreamUpのトレーニングにある程度使用されてしまった後だった。

　DreamUpは、ユーザーが指定したキーワードに基づいて画像を生成する画像生成AIで、そのルーツは「Stable Diffusion」にある。DreamUpはウェブから取り込んだコンテンツをベースに構築されたが、トレーニングに使用された作品の作者には利用を通知しておらず、作者の許諾も得ていない。あるアーティストは、このプロセスについて次のようにまとめている。

　DevianArtやその他の情報源からスクレイピングされたコンテンツは、LAIONデータセットに入れられ、機械学習によって処理され、3Dモデルが生成される。オプトアウトのリクエストは、今後の追加的な機械学習に対しては有効だが、初期段階のトレーニングには適用されない。

　DevianArtは、新たにメッセージを発表してユーザーの懸念に回答した。